Люди, по мнению разработчиков современных глубоко автоматизированных систем, не выдерживают никакой критики по сравнению с этими самыми системами. Они начинают внедряться буквально везде, в том числе и в военной технике. Развитые страны уже имеют действующие наработки, в которых вооружения управляются искусственным разумом практически без участия человека.
Все это, по признанию самих военных, может сыграть с человечеством злую шутку. Люди, начинают слишком сильно доверять ИИ, делая его максимально независимым в принятии важных решений. Когда-нибудь такой подход может стать причиной военного конфликта, где будут гибнуть не только машины, развязавшие его, но и люди, которые фактически не принимали непосредственного участия в его развитии.
Одним из очевидных сегодня вызовов является использование автономных дронов. На вооружении некоторых стран имеются модели, способные выполнять пока достаточно простые действия самостоятельно. С течением времени степень их автономности увеличивается. Это увеличивает риски. Например, дрон запрограммирован на уничтожение цели по определенному признаку и поражает ее. Это может быть расценено, как приказ человека, управляющего его работой дистанционно, что в свою очередь может стать причиной международного конфликта.
Единственным возможным вариантом исключения недопонимания на этой почве и ухода от возможных войн, является выработка определенных норм использования автоматизированных военных систем. Так же должны быть выработаны меры адекватного реагирования на то, или иное событие. Чем скорее состоится это, тем больше у человечества шансов избежать глупых и бессмысленных войн, развязанных машинами.
