Машина Судного дня: может ли искусственный интеллект начать ядерную войну
Симуляции Стэнфордского университета показали, что современные модели искусственного интеллекта подвержены эскалации конфликтов вплоть до применения ядерного оружия. Исследование подняло серьезные вопросы о рисках автоматизации военных решений и роли ИИ в будущих войнах.
Об этом сообщает Politico .
Результаты военных игр, проведенных исследовательницей Жаклин Шнайдер из Стэнфорда, свидетельствуют, что искусственный интеллект может стать опасным фактором в современных войнах, если получит влияние на принятие военных решений.
По словам ученой, во время симуляций новейшие модели ИИ последовательно выбирали сценарии агрессивной эскалации, включая применение ядерного оружия. Шнайдер сравнила поведение алгоритмов с подходом генерала времен холодной войны Кертиса Лемея, который известен своей готовностью применять ядерную силу по минимальным поводам.
«Модели искусственного интеллекта прекрасно понимают, как раскручивать конфликт, но фактически не способны предложить варианты его деэскалации», – объяснила исследовательница.
По ее мнению, это связано с тем, что большинство военной литературы, используемой для обучения ИИ, описывает именно эскалационные сценарии, а не позволившие избежать войны.
В Пентагоне уверяют, что ИИ не будет иметь права принимать решение о запуске ядерных ракет, и подчеркивают сохранение «человеческого контроля». В то же время, современная война все больше зависит от автоматизированных систем. Уже сегодня проекты типа Project Maven полностью полагаются на машинно-генерируемые данные разведки, а в будущем алгоритмы смогут даже советовать контрмеры.
Вдобавок, в мире уже существуют примеры автоматизации в сфере ядерного оружия. В России действует система «Периметр», способная нанести удар без роли человека, а Китай инвестирует огромные ресурсы в развитие военного искусственного интеллекта.
Журналисты напоминают и о случае 1979 года, когда советник президента США Джимми Картера Збигнев Бжезинский получил сообщение о якобы запуске 200 советских ракет. Только за мгновение до принятия решения о возмездии выяснилось, что это была ошибка системы. Вопрос в том, смог ли искусственный интеллект, работающий «рефлекторно», дождаться уточненной информации или нажал бы «красную кнопку» автоматически.
Таким образом, дискуссия о роли ИИ в военной сфере становится все более актуальной, ведь на кону может стоять не только исход битвы, но и судьба всего человечества.
Ранее сообщалось, что ледник Туэйтс в Антарктиде, получивший прозвище «ледник Судного дня», теряет стабильность и может спровоцировать стремительное повышение уровня мирового океана на несколько метров.
Напомним, что голливудский актер и музыкант Уилл Смит попал в скандал. В частности, звезду «Людей в черном» заподозрили в использовании искусственного интеллекта.
Также следите за «Прямым» в Facebook , Twitter , Telegram и Instagram.