ВВЕДЕНИЕ
Несмотря на более чем четыре десятилетия масштабных санкций со стороны стран Запада, Иран занимает 13-е место в рейтинге Nature Index по уровню развития технологий искусственного интеллекта (ИИ). Рейтинговая база Scimago Университета Гранады, Испания, ранжирует страны и университеты на основе количества научных статей, опубликованных в базе данных Scopus. По рейтингу Scimago в области ИИ Иран занимал на 2024 г. 15-е место в мире и первое в Западной Азии. Однако быстрое развитие и внедрение технологий ИИ сопровождается растущим злонамеренным использованием ИИ (ЗИИИ). Под ЗИИИ авторами понимается намеренно антисоциальное применение ИИ государственными и негосударственными акторами. На фоне социального и имущественного расслоения угрозы ЗИИИ в Иране возрастают, усугубляясь этническими и политическими разногласиями и конфликтами, проявлениями коррупции. Страна при этом находится под внешним давлением со стороны, прежде всего, Соединённых Штатов Америки и Израиля. В отчёте разведывательного сообщества США от 5 февраля 2024 г., Иран вошёл в число стран, представляющих наибольшую угрозу национальной безопасности США и международной стабильности. Израиль в отчёте также упоминается, очевидно, как партнёр США на Ближнем Востоке. Непосредственно Израиль видит в Иране наиболее значимую угрозу себе и своему положению на Ближнем Востоке, практически находясь с ним в состоянии необъявленной войны. При этом и США и Израиль обладают собственными претензиями на эксклюзивное лидерство в сфере ИИ, а значит, заинтересованностью как в подрыве развития ИИ в Иране, так и в применении соответствующих технологий против этой страны.
В своей работе авторы опирались на официальные заявления представителей государственной власти Ирана, а также на экспертные доклады, посвящённые кибербезопасности, рискам ИИ и ЗИИИ. Исследование основано на широком круге академических трудов, затрагивающих социально-политическое развитие Ирана [Bolgov, 2023; Hajialiasgari, Khanahmadi, Atashi, 2023], роль иранских СМИ и интернет-политики [May, 2023; Conduit, 2022], роль ИИ в информационном противоборстве в современном мире [Карасев и др., 2021; Hunter et al., 2024; Reinhold, Reuter, 2024; Pauwels, Deton, 2020], а также ряд работ по проблемам ЗИИИ и информационно-психологической безопасности (ИПБ) [Howard, 2020; Pashentsev, 2023; Mantello et al., 2023; Vacarelu, 2023].
Существенную помощь при раскрытии темы имела информационно-аналитическая разработка авторов настоящей публикации [Пашенцев, Кузнецов, 2024]. Однако ни по своему характеру (оперативное выявление актуальной проблемы и ее текущее освещение на основе довольно узкого круга первичных источников), ни по основному содержанию, ни по объему она не являлась системным научным исследованием избранной для анализа темы настоящей статьи. Между тем, за прошедший год произошло дальнейшее заметное развитие технологий ИИ, быстрый рост ЗИИИ и соответствующих угроз ИПБ Ирана, что определяет возросшую актуальность рассмотрения темы.
Для анализа угроз ИПБ, порождаемых ЗИИИ, авторами применялась трёхступенчатая модель, предложенная Е.Н. Пашенцевым. Первый уровень угроз характеризуется распространением заведомо искажённой, ложной информации о сути и возможностях ИИ, последствий его развития и применения. Второй уровень связан с практикой ЗИИИ, когда атака на общественное сознание не является основной целью, но имеет негативные для него последствия, в результате ущерба наносимого критической инфраструктуре, жизни и здоровью людей и их имуществу. Третий и самый высокий уровень угроз ИПБ заключается в целенаправленной дезориентации общественного мнения и ухудшения психологического состояния населения посредством ЗИИИ. Данная классификация позволяет чётко структурировать угрозы и оценить их влияние на общество и государственные институты.
ПЕРВЫЙ УРОВЕНЬ УГРОЗ
Иранское общество встревожено деструктивным влиянием, которое ИИ может оказать на рынок труда – в частности, растёт обеспокоенность возможными массовыми увольнениями с заменой людей на роботов, управляемых технологиями ИИ. Представители научных кругов и профессий, связанных с грубым физическим трудом, могут чувствовать себя в безопасности. В группе риска, в первую очередь – специалисты среднего уровня квалификации. Данные опасения также могут целенаправленно усиливаться внешними акторами в целях подрыва развития технологий в стране. На сегодняшний день общая ситуация с занятостью в Иране является не простой, но контролируемой правительством, более того, наблюдаются успехи в преодолении безработицы. Статистический центр Ирана в июне 2024 г. опубликовал отчёт, согласно которому по состоянию на 2024 г. уровень безработицы в стране является самым низким за последние 26 лет – 8,1%, однако среди молодёжи он остаётся высоким (19,4%); молодёжь, не получившая надлежащего образования или доступа к технологиям ИИ, рискует остаться за пределами трудового рынка, что может усилить социальное неравенство и также стимулировать попытки вовлечь молодёжь в акции протеста против автоматизации и технологий ИИ. Использование Ираном ИИ для обеспечения общественного порядка вызывает дискуссии в странах Запада. Одним из наиболее спорных моментов стала информация о внедрении ИИ в городские системы видеонаблюдения Ирана, направленном на автоматическое выявление женщин, нарушающих правила ношения хиджаба. Это приводило к массовым протестам и беспорядкам, в том числе с жертвами.
Иранские власти, в свою очередь, рассматривают ИИ как инструмент, который может обеспечить соблюдение общественного порядка в больших масштабах и с минимальными ресурсами. Западные СМИ и эксперты, акцентируя внимание на протестах и жертвах в связи с использованием технологий ИИ силами правопорядка, не рассматривают другие важные аспекты, влияющие на внутреннюю ситуацию в Иране. Например, активная деятельность террористических группировок, включая «Аль-Каиду»*, часто поддерживаемых внешними силами, остаётся в тени обсуждений, хотя именно задачами противодействия терроризма прежде всего может объясняться внедрение ИИ в городские системы видеонаблюдения. Наблюдаются попытки создать искажённое представление об использовании ИИ Ираном за пределами его национальной территории. Так, в октябре 2024 г. Министерство внутренней безопасности США в своей ежегодной оценке рисков для страны заявило, что Россия, Китай и Иран используют ИИ в открытых и скрытых информационных операциях с целью воздействовать на результаты выборов и подорвать стабильность США, что получило официальное опровержение со стороны МИД Ирана. Сразу после выборов, как следовало из заголовка материала, опубликованного The Associated Press 9 ноября 2024 г., Министерство юстиции США выдвинуло уголовные обвинения в связи с планом иранских наёмных убийц, нацеленных на Дональда Трампа. Таким образом, происходит связывание в едином информационном потоке многочисленных необоснованных заявлений о высокотехнологичном вмешательстве Ирана в выборы с не более обоснованными обвинениями о причастности Ирана к подготовке убийства только что победившего на президентских выборах, но ещё не вступившего в должность Д. Трампа.
Поддерживают данный нарратив и частные западные компании. Так, 30 января 2025 года подразделение анализа угроз Google опубликовало отчёт о злонамеренном использовании различными акторами большой языковой модели Google Gemini. Набор «обвиняемых» обычен – упоминаются Иран, Россия, Китай и КНДР. При этом Иран занимает первое место, и о нём сообщается, что иранские проправительственные атакующие группы явились самыми активными пользователями Gemini, применяя модель для самых разных целей, включая сбор разведданных в отношении оборонных предприятий, исследование уязвимостей и создание контента для информационных операций.
Умышленно односторонний, упрощённый, искажённый дискурс использования технологий ИИ в Иране, многократно повторяемый и широко распространяемый западными СМИ, является конкретным примером информационно-психологической операции на первом уровне угроз ИПБ посредством ЗИИИ. Промедление с использованием внедрения технологий ИИ может ослабить силы правопорядка в противодействии враждебным государственным акторам, террористам, другим преступным организациям (которые эти технологии в разных странах небезуспешно осваивают); а в более широком плане – позволить им сформировать менее благоприятное восприятие ИИ в иранском обществе, вызвать недоверие к использованию этих технологий властями Ирана, что может замедлить развитие страны.
ВТОРОЙ УРОВЕНЬ УГРОЗ
Серьёзные угрозы кибербезопасности Ирану стали очевидны ещё в 2010 г., когда был обнаружен Stuxnet – компьютерный червь, использованный в качестве средства несанкционированного сбора данных и диверсий и разработанный разведками США и Израиля для выведения из строя ключевой части иранской ядерной программы. В 2011 г. была создана киберполиция Ирана для борьбы с фишингом, подделкой документов, хакерством, организованной интернет-преступностью, порнографией. Киберполиция также была призвана защищать критическую инфраструктуру от электронных атак, поддерживая общественный порядок. Угрозы второго уровня для Ирана постоянно подтверждают свою реальную опасность. В декабре 2023 г. начальник управления гражданской обороны генерал Г. Джалали заявил, что произошедший массовый сбой на заправочных станциях в стране был кибератакой с применением вредоносного программного обеспечения, и более 30% подобных кибератак на Иран осуществляются с использованием ИИ. Также уместно вспомнить, что 3 января 2020 г. в результате удара американского беспилотника, управляемого ИИ, возле международного аэропорта Багдада был убит генерал К. Сулеймани. Информация о нападении транслировалась в режиме прямого времени в Белый дом и ЦРУ. Такая зрелищность, публичность «наказания» противника США и Израиля с помощью передовых технологий могла иметь как кратковременные, так и долговременные эффекты воздействия. Если в США и Израиле специальная операция среди большей части общественности скорее имела поддержку, то в Иране была воспринята как неприкрытое публичное унижение страны и вызвала у многих гнев и решимость противостоять США.
По сообщению иранских властей, ИИ, как предполагается, используется и в террористических нападениях, причём выдвигаются версии, что заинтересованной стороной может выступать Израиль. По сообщению информационного агентства Tasnim, в ходе израильской операции в Секторе Газа происходит активное применение технологий ИИ. Разведывательное подразделение армии Израиля применяло и применяет в Газе технологии ИИ в целях боевого планирования, расчёта «допустимого» количества жертв среди гражданского населения при бомбовых ударах и в иных целях обработки больших массивов информации и управления ударами. Израильские официальные лица также делали заявления, свидетельствующие о намерении страны развивать военное применение ИИ в том числе в целях разведки против Ирана. Эффекты использования ИИ на втором уровне угроз ИПБ могут иметь характер опережающего воздействия (опасения, тревога, страх перед атакой и её последствиями, например, в результате опасного воздействия на ядерные объекты страны), воздействия одновременного с атакой (страх, паника, неверный алгоритм ответных действий из-за неожиданности и/или силы воздействия) и разнообразные кратковременные и долговременные последствия ЗИИИ для ИПБ, вплоть до необратимых последствий для психики и здоровья людей.
ТРЕТИЙ УРОВЕНЬ УГРОЗ
Иранские СМИ сегодня претерпевают значительные изменения, вызванные быстрой цифровизацией, что открывает новые возможности для более мощных и разрушительных информационных атак, в том числе с использованием генеративных ИИ-моделей. Одним из примеров быстро развивающихся областей разработки ИИ являются веб-роботы, чат-боты и социальные боты. Такие технологии несут не только пользу. Злонамеренные акторы используют их для распространения дезинформации, создания фейковых аккаунтов в социальных сетях, сбора личных данных пользователей, а также подрыва ИПБ. Учитывая, что новые технологии формируют цифровые социальные отношения, которые воспринимаются людьми как не менее полноценные, чем традиционные, некоторые авторы предполагают, что боты будут играть всё более важную роль в радикализации экстремистских движений. В руках экстремистских группировок боты будут заменять живых пропагандистов, вербовщиков и армии троллей, что является одной из возможных угроз ИПБ Ирана. Одним из веских доказательств злонамеренного использования ИИ стали «Файлы Twitter» – серия публикаций отдельных внутренних документов Twitter, Inc., опубликованных в Twitter с декабря 2022 г. по март 2023 г. И. Маск передал документы журналистам вскоре после того как он приобрел Twitter 27 октября 2022 г. Журналисты координировали публикацию документов с И. Маском, опубликовав подробную информацию о файлах в серии сообщений в Twitter. В частности, согласно этим документам, правительство США создало множество поддельных аккаунтов в Twitter, предназначенных для распространения проамериканских настроений на Ближнем Востоке, в России и Китае. Притом, хотя в Twitter действует чёткая политика, запрещающая правительствам делать подобное, официальные лица компании, похоже, знали, что это был план Пентагона.
В 2017 г. представитель Центрального командования ВС США (CENTCOM) отправил в Twitter список из 52 аккаунтов на арабском языке, которые использовались «…для усиления определённых сообщений». Чиновник запросил приоритетное обслуживание для шести учётных записей и возможность внесения в «белый список», что вело к большей популярности этих аккаунтов. Они часто публиковали в Twitter информацию о военных приоритетах США на Ближнем Востоке, включая пропаганду антииранских идей и войны в Йемене, поддерживаемой Саудовской Аравией и США, и «точные» удары американских беспилотников, которые, как утверждалось, наносились только по террористам. Они обвиняли Иран в «угрозе водной безопасности Ирака и наводнении страны метамфетамином», а также в извлечении органов у афганских беженцев. Согласно сообщениям в СМИ, CENTCOM активно проводил информационно-психологические операции на платформах социальных сетей. Направленные на подрыв позиций Ирана, они включали систематическое распространение пропагандистских материалов. ИИ использовался для создания текстового контента и фотореалистичных дипфейков – изображений вымышленных пользователей, от имени которых публиковались твиты. Подобная тактика позволяла придать материалам видимость достоверности и усилить их влияние на аудиторию.
20 апреля 2024 г. доктор А. Маранди, глава Академии медицинских наук и врач аятоллы Хаменеи, появился в программе известного иранского журналиста К. Наджафзадеи и рассказал о состоянии здоровья Верховного Лидера иранской революции. В июне на одном из каналов Telegram была опубликована аудиозапись, которая распространялась также в социальных медиа Tik Tok, YouTube и X. На данной аудиозаписи в качестве фона использовалось изображение со страницы К. Наджафзаде в Instagram** из вышеупомянутой программы, а голоса Маранди и Наджафзаде были воссозданы с помощью технологии дипфейк. В аудиофайле голос якобы доктора Маранди заявляет, что «медицинские усилия будут гарантировать здоровье руководства страны до этой зимы, а после этого, даст Бог, молитвы людей будут целительными». Такая формулировка намекает слушателям, что аятолла Хаменеи страдает серьёзным заболеванием. Впоследствии данная информационная акция получила определённое развитие. В различных источниках появлялись утверждения о том, что ведущий программы через несколько часов удалил этот пост по приказу властей, а Наджафзаде обязали опровергнуть опубликованный им аудиофайл и назвать слухами озвученную информацию. Позже был обнародован якобы «подтверждённый» слух об аресте Наджафзаде, направленный на подкрепление «правдивости» как первоначального поста, так и последовавших за ним сообщений. С опровержением впоследствии выступила Академия медицинских наук Ирана, объявившая вышеприведенные «новости» фейковыми. Можно предположить, что распространялись они с целью дестабилизации обстановки в Иране.
Другим примером ЗИИИ служит чат-бот Grok, созданный на базе ИИ, который стал причиной распространения фейковых новостей на платформе «X». Так, в 2024 г. пользователи данной социальной сети увидели заголовок, в котором утверждалось, что Иран нанёс ракетный удар по Тель-Авиву. Такие эмоционально заряженные новости распространяются быстро, вопрос в том, кто несёт за это ответственность. Развитие технологий, зачастую, движется быстрее анализа возможных рисков – и в Иране это видно на примере исследования, проведённого в Тегеранском университете медицинских наук. Авторы приходят к скорее положительному выводу о необходимости внедрения ИИ в здравоохранении для обработки больших данных и в виде чат-ботов. При этом из рисков рассматриваются лишь очевидные, многократно упоминающиеся в дискуссиях – такие, как возможное разглашение врачебной тайны или психологический дискомфорт от общения с роботами.
Другой чувствительной сферой является внедрение ИИ в религиозную практику, особенно в Иране, где религия тесно переплетается с политикой. Религиозные чат-боты, запрограммированные для предоставления ответов на вопросы о религии, используются в образовательных целях, в миссионерской работе, а также для повседневных консультаций по религиозным вопросам. В 2023 г. Мохаммад Готби, глава Дома творчества и инноваций «Эшраг», отметил, что, хотя ИИ не способен заменить духовных лидеров, он может значительно ускорить процесс принятия религиозных решений, например, сокращая время подготовки фетвы с 50 дней до 5 часов. Тем не менее внедрение подобных технологий в религиозные процессы несёт в себе риски. Так, чат-боты, разработанные за пределами Ирана, часто отражают западоцентричные политические взгляды, что может привести к конфликту с официальными нарративами страны. Зачастую такие чат-боты демонстрируют ограниченное понимание шиитских традиций и теологии. Если чат-боты обучены на данных, содержащих экстремистские взгляды, они могут стать инструментами радикальной пропаганды. Показательным является случай с GPT-3, который был обвинён в исламофобии в 2021 г. Нарушение работы таких систем или их использование враждебными субъектами может вызвать негативные последствия, особенно в случае дальнейшего развития эмоционального ИИ.
ЗАКЛЮЧЕНИЕ
Человеческий разум ежедневно потребляет больше информации, чем когда-либо в истории человечества, что влияет на информационно-психологическую безопасность людей. В условиях быстрого технологического перехода Ирану крайне важно заблаговременно прорабатывать механизмы контроля, чтобы минимизировать негативные последствия. В данном контексте центральное место занимает анализ рисков, связанных с информационно-психологической безопасностью, которые могут оказывать значительное влияние на стабильность как отдельных государств, так и международного сообщества. Особое внимание следует уделить разработке «доверенных» систем, которые должны быть прозрачными, устойчивыми и соответствовать нормам права. В противном случае существует риск подрыва общественного доверия и расширения возможностей для злоупотреблений. Так как Иран сталкивается с существенно более серьёзным внешним давлением по сравнению с внутренними вызовами, это делает угрозы со стороны ЗИИИ на втором и третьем уровнях информационно-психологической безопасности особенно опасными для страны. Технологическая оснащённость внешних акторов позволяет им эффективно манипулировать информационным пространством, усиливая дестабилизирующее влияние.
Следует отметить, что иранские власти демонстрируют системный и стратегически обоснованный подход к развитию технологий ИИ, что свидетельствует о продуманной и дальновидной политике в области научно-технического прогресса. К примеру, Иран занял в текущем году лидирующую позицию среди исламских стран по числу опубликованных научных статей по тематике ИИ. Это свидетельствует о том, что правительство осознаёт значимость ИИ для будущего социально-экономического развития и активно стремится использовать его возможности. Можно предположить, что, если иранское правительство уделит должное внимание угрозам, связанным с ЗИИИ, в частности в контексте информационно-психологической безопасности, можно ожидать, что стратегия противодействия этим рискам будет столь же структурной и системной, как и поступательное развитие инвестиций в технологический прогресс. Такой структурированный подход позволит Ирану эффективно защищать свои национальные интересы в условиях растущих технологических и информационных вызовов, обеспечивая долгосрочную устойчивость и безопасность.
Пашенцев Евгений Николаевич - доктор исторических наук, профессор факультета международных отношений Санкт-Петербургского государственного университета; главный научный сотрудник Института актуальных международных проблем Дипломатической академии МИД России
Чебукина Владилена Александровна, Санкт-Петербургский государственный университет; Международный центр социально-политических исследований и консалтинга
Кузнецов Павел, Дипломатическая академия МИД России
*террористическая организация, деятельность которой запрещена на территории России
**организация Meta Platforms Inc. (соцсети Facebook, Instagram) признана экстремистской, ее деятельность запрещена на территории России
Источник: журнал «Восток. Афро-азиатские общества: история и современность» № 3 2025
