Как избежать ядерной войны в эпоху искусственного интеллекта и дезинформации

Как избежать ядерной войны в эпоху искусственного интеллекта и дезинформации

Ядерное сдержание больше не является игрой для двух игроков, и новые технологии еще больше угрожают статус-кво. Результатом является новая рискованная ядерная эпоха.

Часы Судного дня - символический арбитр о том, насколько человечество к самоуничтожению - теперь сидит на 89 секундах до полуночи, ближе, чем когда-либо, к тому, чтобы сигнализировать о точке невозврата нашего вида.

Многие угрозы, включая изменение климата и биологическое оружие, побудили специалистов по глобальной безопасности в Бюллетене ученых-атомщиков в Чикаго, штат Иллинойс, сдвинуть стрелки часов в январе. Но главной среди этих опасностей является растущий — и часто упускаемый из виду — риск ядерной войны.

"Послание, которое мы продолжаем слышать, заключается в том, что ядерный риск закончился, что это старый риск холодной войны", - говорит Дэниел Хольц, физик из Чикагского университета, который консультировал решение Doomsday Clock. «Но когда вы разговариваете с экспертами, вы получаете противоположное послание — что на самом деле ядерный риск очень высок, и он растет».

От раздирающейся войны России в Украине и кипящей напряженности между Индией и Пакистаном, которая вспыхнула в мае, до нападений США и Израиля на иранские ядерные объекты в июне, в мире нет недостатка в конфликтах с участием одной или нескольких ядерно вооруженных государств.

Но не только количество столкновений, которые могут эскалировать, вызывает возмущение. Предыдущее большое наращивание ядерного оружия, холодная война между Соединенными Штатами и Советским Союзом, По сути, включали в себя две, разумно подоставленные сверхспособности. Сейчас Китай становится третьей сверхдержавой с ядерным оружием, Северная Корея наращивает свой ядерный арсенал, а Иран обогатил уран сверх того, что необходимо для гражданского использования. Считается, что Индия и Пакистан также расширяют свои ядерные арсеналы. Добавьте к этому потенциал для дезинформации и дезинформации в Интернете, чтобы повлиять на лидеров или избирателей в ядерных странах, а также для искусственного интеллекта (ИИ), чтобы привнести неопределенность в принятие военных решений, и ясно, что свод правил был разорван.

"Восемь лет спустя ядерную эпоху мы находимся в точке расплаты", - говорит Александра Белл, президент и главный исполнительный директор Бюллетеня ученых-атомщиков.

Среди этого пугающего ландшафта ученые работают над тем, чтобы предотвратить уничтожение мира. На трехдневной конференции в Чикаго, которая началась 14 июля - почти ровно через 80 лет после того, как исследователи и американские военные испытали первое атомное оружие - десятки ученых, включая лауреатов Нобелевской премии из широкого спектра дисциплин, встретились, чтобы обсудить действия по предотвращению ядерной войны. Они выпустили новое предупреждение о его рисках, а также рекомендации о том, что общество может сделать для их снижения, включая призыв ко всем странам прозрачно говорить друг с другом о научных и военных последствиях ИИ.

Рассвет ядерной эпохи

Формирующийся многополярный мир нарушает принципи ядерной безопасности, который помогал избежать ядерной войны в прошлом. Принципы ядерного сдержения основаны на предположении, что ни нация не хочет начинать войну, которая обязательно будет иметь разрушительные последствия для всех. Это означало распределение ядерных арсеналов, которые не могли быть выведены одним ударом, уменьшая любой стимул для первого удара, зная, что враг нанесет ответный удар, и следствием будет «взаимно гарантированное уничтожение». Это также означало ясность среди ядерных стран в отношении того, кто обладает какой способностью нанести удар, и, следовательно, каковы возможные последствия любого нападения. Хрупкая стабильность преобладала благодаря обратной связи между враждебными странами и дипломатическим сигналам, призванным избежать недоразумений, которые могли бы привести к случайному нажатию ядерной кнопки.

Многополярная модель более сложна, что затрудняет управление коммуникациями. Существование большего количества ядерных держав также повышает возможность небольших ядерных войн, которые все еще были бы совершенно разрушительными, но Не обязательно приведет к взаимно гарантированному разрушению, ослабив сдерживающий фактор для первого удара.

Более того, многие связи по бэкканалу, которые существовали, чтобы помочь разрядить ядерную напряженность, такие как неофициальные дискуссии между США и советскими учеными во время холодной войны, больше не происходят в той же степени. Официальные дипломатические каналы также изношены, останавливаются или прерываются современными конфликтами, такими как израильско-иранская война, говорит Карен Халлберг, физик Института Бальсейро в Сан-Карлос-де-Барилоче, Аргентина, который является генеральным секретарем Pugwash, группы, основанной учеными, которая работает над ликвидацией ядерного оружия и другого оружия массового уничтожения. "Самым тревожным фактом является нынешняя тенденция конкуренции вместо сотрудничества в науке и международных отношениях", - говорит она.

Некоторые называют многополярный мир третьей ядерной эпохой. Первой была холодная война, от последствий Второй мировой войны до распада Советского Союза в 1991 году; а вторая была в 1990-х и 2000-х годах, когда Соединенные Штаты и Россия сократили свои ядерные арсеналы (см. «Меняющийся ландшафт ядерного оружия»).

Облако дезинформации

Сила Интернета и социальных сетей по усиливанию дезинформации - и ее близкий родственник, дезинформация, преднамеренное распространение ложных фактов - только усиливают хрупкость новой ситуации. Оба могут затуманить деликатные дискуссии вокруг ядерного сдержания и повысить риски военной эскалации.

Возьмем индийско-пакистанский конфликт в мае, который начался, когда Индия нанесла удары по Пакистану после террористической атаки. Пакистан отомстил, и обе страны бросили ракеты и другое оружие друг в друга, с жертвами с обеих сторон. Новостные каналы и каналы социальных сетей были наводнены ложными заявлениями о военном триумфе, включая изображения, созданные с помощью искусственного интеллекта, якобы показывающие вражеские цели, которые были уничтожены. Специалисты по глобальной безопасности обеспокоены тем, что дезинформация о масштабах разрушений может спровоцировать эскалацию в ядерную войну.

Этого не произошло: после четырех дней конфликта Индия и Пакистан согласились на прекращение огня после давления со стороны Соединенных Штатов. Но нетрудно представить, как дезинформация может подтолкнуть лидера ядерной нации принять решение об использовании ядерного оружия, говорит Мэтт Корда, ядерный аналитик Федерации американских ученых в Вашингтоне, округ Колумбия, которая работает над минимизацией рисков глобальных угроз. Например, актер-изгой, желающий вызвать проблемы, может начать ложный слух в социальных сетях, направленный на то, чтобы убедить американских потребителей новостей в том, что Иран создал ядерное оружие. Такие опасения могут затем попасть в СМИ, за которыми внимательно следит президент США, и в конечном итоге повлиять на его действия. "Чтобы повлиять на этого лидера, вы должны повлиять на внутреннюю базу Соединенных Штатов, что, я думаю, мы узнали, невероятно легко сделать", - говорит Корда.

Туман войны с искусственным интеллектом

Еще одна возникающая проблема - это роль, которую ИИ может играть в принятии решений о том, следует ли и как выпустить ядерное оружие. Министерство обороны США использует инструменты искусственного интеллекта для планирования и действий на поле боя в условиях обычной войны. Его главный чиновник, отвечающий за ядерные силы, генерал ВВС Энтони Коттон, заявил в прошлом году, что ИИ может помочь ускорить принятие решений по ядерному командованию и управлению.

Компании по искусственному интеллекту начали партнерские отношения с американскими военными. В июне компания Anthropic в Сан-Франциско, штат Калифорния, объявила о создании набора секретных моделей Claude Gov, основанных на его общедоступном помощнике Claude AI, которые будут использоваться для нужд национальной безопасности США. В январе OpenAI, также в Сан-Франциско, объявила о партнерстве с национальными лабораториями США, которое включает в себя усвоение моделей фирмы в области ядерного оружия. Китай и Россия также, как сообщается, интегрируют инструменты искусственного интеллекта как в обычную, так и в ядерную войну.

Различные страны уже давно используют алгоритмы на основе искусственного интеллекта для оптимизации и ускорения конкретных задач, таких как выявление и отслеживание возможных входящих ядерных ракет. Что нового, так это использование моделей рассуждений ИИ, говорит Элис Салтини, исследователь в области искусственного интеллекта и ядерной безопасности в Центре исследований нераспространения Джеймса Мартина в Монтерее, Калифорния. По ее словам, эти модели, похожие на o3 OpenAI или те, которые лежат в основе Клода, могут обобщать задачи и ускорить обработку огромных объемов данных, и, по ее словам, вероятно, в системах раннего предупреждения и сбора разведданных во многих странах.

Рассуждения с искусственным интеллектом могут открыть новые способы мышления о войне и военных вариантах. "Вы можете себе представить, что ИИ используется в качестве помощи при принятии решений, не для принятия решений, а для предложения различных направлений действий", - говорит Герберт Лин, научный сотрудник по киберполитике и безопасности в Стэнфордском университете в Калифорнии. Такие модели могут оценивать входные данные и предлагать результаты для принятия решений, например, сколько жертв может нанести конкретная атака или какие подходы нарушают международные нормы войны.

Кажется маловероятным, говорит Лин, что страна полностью передает процесс принятия решений инструменту искусственного интеллекта. "Это очень плохая идея давать коды запуска ChatGPT", - говорит он. Салтини отмечает, что многие модели искусственного интеллекта склонны к галлюцинациям (придумывание вещей) и предвзяты к немедленным действиям - факторам, которые не помогают при принятии военного решения о жизни и смерти.

Некоторые страны, обладающие ядерным оружием, указали, что они будут держать людей в курсе любого решения о том, следует ли развертывать ядерное оружие. Другие не сделали публичных заявлений об использовании ИИ в принятии ядерных решений.

Но технологии искусственного интеллекта могли бы способствовать «туману войны», вводя путаницу в отношении мотивов или возможностей противника, подрывая хорошо понятые принципы ядерного сдержания. Они также могут повысить риск ядерной эскалации другими тонкими способами. Модели искусственного интеллекта, которые улучшают способность страны обнаруживать вражеские ракеты или подводные лодки, могут повысить риск того, что эта страна нанесет первый удар, чтобы устранить очевидную угрозу. Скорость обработки ИИ может заманить лидеров в ложное чувство уверенности в том, что они получают точную информацию, когда на самом деле ошибки могут ускользнуть, говорит Лин. Это может включать в себя чрезмерную уверенность в интерпретации радиолокационных данных как реальной вступающей атаки, а не как ложной тревоги, например.

Остановка ядерной войны

Итак, что можно сделать, чтобы снизить риски, связанные с тем, что ИИ непреднамеренно помогает спровоцировать ядерную войну? Белл и Салтини говорят, что политикам нужно больше информации о возможностях и ограничениях технологий ИИ. Основным глобальным местом для обсуждения искусственного интеллекта и военной безопасности являются ежегодные саммиты по ответственному искусственному интеллекту в военной сфере, которые стартовали в 2023 году; следующий запланирован на сентябрь. На прошлогоднем саммите было выпущено необязательное заявление о том, что люди должны контролировать все аспекты развертывания ядерного оружия. Но быстрые темпы развития ИИ «оперевают нашу способность понимать, не говоря уже о контроле, последствия технологии», — говорит Белл.

Риски ядерной войны - как новые, так и старые - должны быть решены, говорит Хольц. Он надеется, что правительства теперь примут к сведению рекомендации делегатов на Чикагской конференции, которые включают призыв к странам подтвердить свои обязательства по мораторию на испытания ядерных взрывных веществ и поддержать разработку договора о сокращении вооружений, чтобы стать преемником Нового договора СНВ между Соединенными Штатами и Россией, срок действия которого истекает в следующем году.

Дэвид Гросс, физик из Калифорнийского университета в Санта-Барбаре, был вдохновлен помочь организовать чикагскую конференцию после того, как ядерное оружие почти не обсуждалось на многих последующих выборах в 2024 году. «Люди на самом деле не осознают опасности» ядерной войны, говорит Гросс. «Это очень неуязойная ситуация».