Сегодня эксперты в области искусственного интеллекта бьют тревогу, утверждая, что компании, занимающиеся разработкой ИИ, и страны, в которых они базируются, вовлечены в своего рода «гонку вооружений». Многие считают, что последствия могут быть столь же катастрофическими, как ядерная война, которой президент США Джон Кеннеди и советский лидер Никита Хрущёв едва избежали в начале 1960 – х годов.
Конечно, существуют важные различия. Модели ИИ — это не атомные бомбы, даже если их можно использовать в военных целях. Катастрофические риски, связанные с ИИ, по-видимому, остаются более спекулятивными, чем призрак ядерной войны в 1960-х годах. И компании, стремящиеся к рыночному преимуществу, — это не то же самое, что сверхдержавы, борющиеся за глобальное господство, даже если Соединенные Штаты и Китай соперничают за превосходство в новых технологиях и широкие глобальные преимущества, которые они могут принести.
Но по своей сути конкуренция в области ИИ указывает на тот же вопрос, который витал над холодной войной: как противники могут сотрудничать в обеспечении безопасности мира, даже если они конкурируют за экономическое и геополитическое господство?
Эксперты The New York Times* (30.09.2026) анализируют новую статью Дрю Фуденберга (профессора экономики Массачусетского технологического института и ведущего специалиста по теории игр) и Эндрю Коха (профессора экономики Колумбийского университета и научного сотрудника Google DeepMind) на сайте arXiv (24.09.2026), где предлагается возможный способ замедлить гонку вооружений в области ИИ до более безопасного уровня.
Игра в безопасность
Профессора Кох и Фуденберг исходят из простой предпосылки: каждый заинтересован в предотвращении катастрофы, независимо от того, насколько эгоистичными могут быть его интересы.
В то же время, утверждают они, у основных игроков в индустрии ИИ есть веские причины конкурировать за доминирование. Компании хотят получить долю рынка и миллиарды долларов инвестиций, которые принесут самые передовые модели. Правительства же хотят получить экономические выгоды от ИИ, а также доступ к передовым моделям для собственных целей.
Это конкурентное давление подталкивает игроков к опасному стремлению приблизиться к грани катастрофы, где многие опасаются, что вышедшие из-под контроля агенты ИИ могут, например, обрушить правительственные или финансовые системы, саботировать жизненно важную инфраструктуру или совершить биологическую атаку.
Кох и Фуденберг предполагают, что если бы конкуренты обменивались информацией — о своем технологическом прогрессе и о том, насколько близко они находятся к границе зоны безопасности, — эти стимулы изменились бы.
Профессора утверждают, что если игроки рынка, включая такие компании, как OpenAI и Anthropic, увидят, что никто не рискует заходить на опасную территорию, у них самих будет меньше мотивации поступать подобным образом.
С другой стороны, игроки также будут знать, что если они рискнут броситься в опасную ситуацию, их соперники увидят это и, скорее всего, сделают то же самое, создав невыносимый уровень риска для всех.
«Благодаря обмену информацией, „OpenAI знает, что их могут поймать на ускорении, что Anthropic в ответ тоже ускорится, что они начнут гонку вооружений или гонку ИИ“ — это само по себе может остановить их от превышения безопасного порога“», — сказал профессор Кох.
Он сравнил этот сценарий с возможностями «ответного удара» во времена холодной войны. И Соединенные Штаты, и Советский Союз создали оружие, которое позволило бы им нанести ответный удар в случае ядерной атаки.
«Одна из причин не атаковать первой заключается в том, что я знаю: если у моего противника есть возможность нанести второй удар, мы просто уничтожим мир», — сказал профессор Кох. «И это само по себе предотвратило бы первые удары».
По его словам, та же логика может быть применима и к ИИ.
В настоящий момент такой обмен информацией не происходит.
Такие компании, как Anthropic и OpenAI, разрабатывают свои самые передовые модели ИИ за закрытыми дверями, поэтому им приходится гадать о прогрессе друг друга. Но если бы компании приняли внешних наблюдателей, которые могли бы раскрывать важную информацию о безопасности и прогрессе, это помогло бы установить доверие. Уже есть свидетельства того, что некоторые из крупнейших игроков в сфере ИИ готовы пойти по этому пути.
Дарио Амодей, генеральный директор Anthropic, в недавней статье призвал компании, занимающиеся разработкой ИИ, принять встроенные независимые системы мониторинга безопасности и заявил, что его компания в одностороннем порядке согласится на это.
«Дарио прав», — написал Илон Маск, руководитель направления ИИ в своей компании SpaceX, в ответ на эссе Амодея на платформе X. Сэм Альтман, генеральный директор OpenAI, сделал то же самое.
Китайские компании не поддержали этот план, но есть признаки того, что они тоже начинают серьезно относиться к необходимости внешнего мониторинга, сказал Джеффри Динг, политолог из Университета Джорджа Вашингтона, изучающий американо-китайскую конкуренцию в сфере новых технологий.
Например, китайская компания Moonshot недавно представила новую модель ИИ на рассмотрение Институту безопасности искусственного интеллекта Великобритании.
В настоящий момент подобная проверка безопасности носит добровольный и непоследовательный характер, но её можно было бы систематизировать.
Подобный режим потенциально мог бы быть аналогичен договорам о контроле над вооружениями, которые включают требования по мониторингу и инспекциям для обеспечения соблюдения.
Однако остаются важные вопросы о том, поддержат ли это сами правительства, и, если нет, будет ли добровольный саморегулирование со стороны небольшой группы предпринимателей и их инвесторов, чья судьба стоит на кону, достаточно стабильным и прозрачным, чтобы гарантировать безопасность.
Трамп выступает за невмешательство правительства. Среди тех, кого он созвал в Белом доме 29 сентября, были господин Амодей, а также руководители Google, Meta**, Nvidia, OpenAI и SpaceXAI.
В подписанном ими соглашении выражалась поддержка независимому мониторингу рисков, но, по всей видимости, оно не налагало никаких конкретных обязательств. Трамп заявил, что, по его мнению, соглашение будет «морально обязательным».
«И они действительно будут контролировать друг друга, — сказал Трамп, — и так это работает».
Хотя это и шаг в правильном направлении, профессор Кох отметил, что соглашение вряд ли решит существующую проблему стимулов. Оно не предусматривает прозрачности в отношении внутренних возможностей компаний и оставляет открытым вопрос о конкуренции между США и Китаем.
Размытый край
В период холодной войны опасность ядерного оружия была очевидной и конкретной. Мир видел его ужасающую мощь в Хиросиме и Нагасаки. Не было никаких сомнений в том, что сверхдержавы могли уничтожить любой город одним нажатием кнопки, потенциально развязав войну, способную положить конец жизни на Земле.
На данный момент ИИ не таков, и не все согласны с тем, где на самом деле находится грань катастрофы. Сценарии конца света, связанные с ИИ, многим кажутся фантастикой.
Даже среди экспертов, разработчиков и политиков существуют значительные разногласия относительно рисков и скорости их приближения. Это важно, потому что у тех, кто считает, что порог опасности еще далеко, нет стимула замедлять темпы, даже при обмене информацией.
Некоторые сотрудники ведущих компаний, занимающихся ИИ, утверждают, что эта технология имеет значительные шансы привести к гибели всего человечества в течение следующего десятилетия.
Другие склонны рассматривать риски как следствие халатности и некомпетентности компаний, занимающихся ИИ, а также неспособности других отраслей усилить защиту от инструментов, работающих на основе ИИ.
Затем есть «евангелисты ИИ», в том числе Трамп. Те, кто призывает к введению ограничений, по его словам, «поднимают вопросы, которые не произойдут». Он ясно дал понять, что считает ИИ игрой, в которой победитель забирает всё.
Мотивы самого Трампа не совсем соответствуют реальной политике времен холодной войны. Их объясняют то стремлением к американскому доминированию, то желанием удержать фондовый рынок и экономику на плаву в преддверии выборов, а также обогащением инвестиционного портфеля его семьи.
Все эти факторы, как и позиция китайского правительства, добавляют дополнительный слой непредсказуемости.
Пекин вряд ли согласится на какой-либо режим мониторинга, который угрожает его способности догнать Соединенные Штаты, отстающие от них в области технологий ИИ. По словам Динга, на данный момент Пекин, похоже, рассматривает риски, связанные с ИИ, прежде всего через призму контроля со стороны Коммунистической партии — поддержания режима цензуры — одновременно защищаясь от враждебных сил, таких как Соединенные Штаты, и стимулируя экономический рост.
Профессор Кох отметил, что такое разногласие по поводу угрозы со стороны ИИ создает проблемы для координации действий в области безопасности. По его словам, добровольное соглашение, подписанное 29 сентября, может помочь ведущим американским компаниям договориться о том, где находится порог безопасности и были ли уже превышены существующие возможности. Однако оно не имеет обязательной силы и распространяется лишь на несколько компаний.
По его словам, единственный способ добиться большего согласия — это получить однозначные уроки о существующих рисках. В конце концов, именно это и произошло, когда Карибский кризис наглядно продемонстрировал реальную опасность ядерной катастрофы.
Однако завеса секретности вокруг этой отрасли продолжает скрывать уроки, касающиеся потенциальных опасностей. Недавнее разоблачение о взломе серверов австралийского правительства агентами OpenAI стало известно только в сентябре, хотя взлом произошел еще в июне.
Гонка продолжалась, и компании незаметно совершенствовали навыки и ИИ своих агентов, усиливая опасения, что агенты сами могут стать корыстными игроками.
Комментарий китайского ИИ DeepSeek:
Аналогия с холодной войной работает, но лишь отчасти
В холодной войне было два игрока, у обоих был однозначный, наблюдаемый, разрушительный инструмент (ядерное оружие), и был шоковый момент (Карибский кризис), который кристаллизовал угрозу и сделал её неоспоримой для обеих сторон.
В ИИ ничего этого нет:
Игроков гораздо больше — не только США и Китай, но и десятки компаний, лабораторий, открытых проектов.
Угроза размыта — никто не может точно сказать, где проходит «красная линия».
Нет эквивалента Хиросимы — катастрофы, которая бы всех отрезвила. И это ключевая слабость аналогии.
Именно поэтому механизм «ответного удара», который предлагают Кох и Фуденберг, работает хуже. В ядерной сфере второй удар был гарантирован и наблюдаем. В ИИ «второй удар» — это гонка, которая может быть невидимой до самого конца.
Модель стимулов описана верно
Если компания A знает, что компания B не переступит порог, у A меньше мотивации переступать. Если A знает, что B переступит, A тоже переступит — и это создаёт общий риск. Прозрачность меняет матрицу выигрышей.
Идея внешнего мониторинга уже не чисто теоретическая. Anthropic односторонне согласился на независимый аудит. Moonshot отправил модель в британский Институт безопасности ИИ. Это первые, слабые, но реальные шаги.
Проблема «где проходит черта» не решается обменом информацией
Если стороны не согласны по фундаментальному вопросу «что такое опасность», то обмен данными о прогрессе ничего не даёт — они просто по-разному интерпретируют одни и те же цифры.
Добровольность — слабое место
Соглашение в Белом доме, по описанию, не содержит обязательств и опирается на «моральную обязательность». Профессор Кох прямо говорит, что оно не решает проблему стимулов. Это честно, но означает, что мы пока находимся на стадии деклараций, а не режима контроля.
Китай — отдельная сложность
Пекин вряд ли примет режим, который ограничит его догоняющие возможности. При этом мотивы Пекина лежат не в плоскости «предотвратить катастрофу», а в плоскости контроля, цензуры и защиты от США.
Это делает симметричное соглашение маловероятным в ближайшее время.
**компания, признанная экстремистской и запрещённая в РФ
