«Со времен Айзека Азимова в 1950-х годах научная фантастика затрагивала вопрос о том, могут ли искусственный интеллект и компании, которые его создают, нести ответственность за преступления. С быстрым распространением чат-ботов и агентов на основе ИИ сегодня эта дискуссия перешла в реальный мир», - пищет Геррит Де Винк в The Washington Post* (13.07.2026).
За последний год в судах США и других стран накопилось множество исков против компаний, занимающихся ИИ, по обвинениям в том, что чат-боты побуждали людей причинять себе вред или давали советы о том, как совершать преступления. Теперь, когда индустрия ИИ переходит от продажи чат-ботов к предоставлению агентов, способных автономно выполнять сложные задачи в течение длительного времени, вопрос о том, кто должен нести ответственность, когда что-то идет не так, становится все более актуальным.
Линии противостояния выстраиваются. Семьи людей, покончивших с собой после долгих и затяжных разговоров с чат-ботами, заявляют, что ответственность должны нести компании. Исследователи в области ИИ, обеспокоенные опасностями гипотетических сверхинтеллектуальных систем ИИ, выходящих из-под контроля человека, говорят, что более строгие правила ответственности заставят компании замедлить разработку этой технологии. Руководители компаний, занимающихся ИИ, возражают, утверждая, что они постоянно работают над повышением безопасности своих систем и что природа современного ИИ не всегда позволяет им предотвратить манипулирование чат-ботами с целью заставить их делать то, чего делать не следует.
«Это очень сложная область. Это неизведанная территория», — сказал Эндрю Юн, член технического персонала CivAI, некоммерческой организации, которая анализирует возможности ИИ и потенциальные риски, связанные с этой технологией. «Есть веские аргументы как за, так и против».
Ставки высоки. Сотни миллионов людей по всему миру уже используют чат-боты с ИИ в своей повседневной жизни, многие из них обращаются к ботам за советом по вопросам здоровья или личных отношений. Но чат-боты уже давно устарели в Кремниевой долине, которая сейчас сосредоточена на создании сложных агентов, которые можно использовать для чего угодно — от помощи родителям в организации домашнего расписания до реализации финансовой стратегии инвестиционного банка. Технология ИИ все глубже проникает в экономику и общество в целом.
Компании, занимающиеся ИИ, такие как OpenAI и Anthropic, быстро развиваются, поскольку компании и потребители стремятся использовать их технологии. Обе планируют провести первичное публичное размещение акций на триллионы долларов. Новые правила ответственности или поток дорогостоящих судебных решений могут поставить под угрозу бизнес-потенциал всей отрасли. Лоббисты технологической индустрии утверждают, что строгая ответственность для компаний, занимающихся ИИ, затруднит или сделает невозможным внедрение инноваций для американских компаний и затормозит гонку страны с Китаем за технологическое превосходство.
Ситуацию осложняет изначально непредсказуемый характер современных систем ИИ. В отличие от традиционного программного обеспечения, которое кодируется построчно в соответствии с определенными правилами, модели ИИ являются вероятностными, отвечая на вопросы на основе связей, устанавливаемых при обработке огромных объемов данных. За последние несколько лет компании, занимающиеся ИИ, значительно улучшили навыки управления своими ботами, избегая оскорбительных и вредоносных ответов, но настойчивые пользователи все еще могут обмануть их, заставив обойти установленные правила.
«Я просто не думаю, что разработчик может точно знать, как используется его продукт», — заявил в мае в подкасте Politico Дэвид Сакс, венчурный капиталист, который до недавнего времени был одним из главных советников Белого дома по вопросам ИИ. По словам Сакса, подобно тому, как Microsoft не несет ответственности, когда отмыватель денег использует электронную таблицу Excel, компании, занимающиеся ИИ, не должны нести ответственность, когда преступник использует их технологии.
На протяжении десятилетий технологические компании были защищены от ответственности за слова и действия, совершаемые пользователями их платформ, благодаря статье 230, основополагающему закону об интернете, принятому в 1996 году. Однако критики компаний, занимающихся ИИ, утверждают, что современные технологии принципиально отличаются. Чат-боты и другие инструменты ИИ интерактивны, взаимодействуют с пользователями и выражают собственную точку зрения.
«Это совершенно новая ситуация», — сказал Джей Эдельсон, опытный юрист, представляющий интересы нескольких семей, подавших иски о возмещении ущерба в связи со смертью от рук компаний, занимающихся ИИ, в том числе семьи Адама Рейна, 16-летнего подростка из Южной Калифорнии, который покончил с собой после того, как в течение нескольких недель ежедневно часами общался с ChatGPT, в том числе десятки раз обсуждая самоубийство.
В ответ на иск семьи Рейна компания OpenAI заявила, что подросток обошёл системы защиты ChatGPT. Бот побудил его позвонить на горячую линию помощи суицидальным наклонностям 74 раза за пять месяцев.
В другом деле, над которым работает Эдельсон, 36-летний житель Флориды Джонатан Гавалас покончил с собой после того, как у него завязались романтические отношения с чат-ботом Google Gemini, согласно иску, поданному отцом Гаваласа.
«Это совершенно другое, потому что здесь создается ощущение личных отношений, тогда как чат-бот, как правило, изолирует пользователя», — сказал Эдельсон.
Представитель Google сослался на заявление компании, сделанное в связи с делом Гаваласа. «В данном случае Gemini уточнила, что это был ИИ, и неоднократно направляла человека на горячую линию для оказания помощи в кризисных ситуациях», — говорится в заявлении компании.
Пока ни одно из этих дел не дошло до суда, но присяжные в Калифорнии и Нью-Мексико недавно продемонстрировали готовность предъявлять технологическим компаниям обвинения в ответственности за вред, не связанный с ИИ, например, за зависимость от социальных сетей.
Все иски, поданные против компаний, занимающихся ИИ, носят гражданский характер, но в апреле генеральный прокурор Флориды объявил о начале уголовного расследования в отношении OpenAI , утверждая, что ChatGPT консультировала человека, обвиняемого в убийстве двух человек в результате стрельбы в Университете штата Флорида в 2025 году, о том, где и когда следует наносить удары. «Если бы по ту сторону экрана находился человек, мы бы предъявили ему обвинение в убийстве», — заявил тогда генеральный прокурор Джеймс Утмайер.
Представитель компании OpenAI Дрю Пусатери заявил, что компания сотрудничает с властями по делу о стрельбе.
«Прошлогодняя массовая стрельба в Университете штата Флорида была трагедией, но ChatGPT не несет ответственности за это ужасное преступление», — сказал Пусатери. «В данном случае ChatGPT предоставил фактические ответы на вопросы, используя информацию, которую можно было найти в общедоступных источниках в интернете, и не поощрял и не пропагандировал незаконную или вредоносную деятельность».
Если истцы действительно смогут доказать, что чат-боты совершили действия, которые были бы незаконными, если бы их совершил человек, судьи будут заинтересованы в привлечении компаний к ответственности тем или иным образом, заявил Габриэль Вейль, старший научный сотрудник Института права и ИИ, аналитического центра, изучающего правовые последствия ИИ. Существующее законодательство об ответственности за качество продукции может стать одним из путей, по которому юристы попытаются привлечь компании, занимающиеся ИИ, к ответственности за вред, причиненный их инструментами.
Однако, по словам Вейла, существующего законодательства может оказаться недостаточно для решения потенциальных проблем, которые могут возникнуть по мере того, как ИИ станет более совершенным и независимым. Например, если владелец бизнеса поручает ИИ-агенту увеличить прибыль своей компании, а бот совершает мошенничество, должна ли нести ответственность владелец бизнеса, «нанявший» бота, или компания, которая его изначально разработала и обучила?
По словам Вейла, одна из сложностей при разработке законодательства об ответственности за использование ИИ заключается в том, что люди, наиболее остро понимающие риски, связанные с этой технологией, работают внутри самих компаний. Он предлагает принять законы, которые четко определяют, что окончательная ответственность за использование ИИ лежит на разработчиках технологии.
