Мозговые имплантаты, дипфейки и нанороботы могут стать первыми шагами на пути к появлению сингулярности, считает футуролог Рэй Курцвейл.
Об этом пишет Шон Горман в Popular Mechanics (12. 10. 2026).
Термин «сингулярность» часто используется для описания гипотетического момента, когда ИИ превосходит человеческий интеллект, а затем начинает совершенствоваться с неконтролируемой скоростью. Проще говоря, термин «сингулярность» часто используется для обозначения момента, когда ИИ обретает сознание, подобно тому, как Скайнет становится самосознающим в фильме «Терминатор». Но понятие «технологической сингулярности» изначально возникло как более широкая метафора для точки, за пределами которой технологические изменения становятся настолько быстрыми, что будущее трудно предсказать для людей.
В 1958 году математик Станислав Улам вспоминал разговор с физиком Джоном фон Нейманом об ускорении технологического прогресса, который должен был достичь «некой существенной сингулярности» в человеческой деятельности. В тот момент этот термин не относился к теории машинного сознания. Но в 1993 году математик и писатель-фантаст Вернор Винге сделал эту концепцию влиятельной в кругах, занимающихся искусственным интеллектом. В своей книге «Грядущая технологическая сингулярность» Винге утверждал, что создание интеллекта, превосходящего человеческий, может вызвать неконтролируемые изменения в цивилизации, после которых наша способность предсказывать события утрачит свою актуальность.
Футуролог Рэй Курцвейл позже популяризировал этот термин, особенно благодаря своей книге 2005 года «Сингулярность близка». В этой работе он придал «сингулярности» более конкретное значение, утверждая, что к 2045 году люди сольются с всё более мощным небиологическим интеллектом. Поэтому, хотя многие из нас сегодня обеспокоены опасностями ИИ, а некоторые эксперты даже считают, что «сингулярность ИИ» уже наступила, идея Курцвейла гораздо радикальнее. Он не просто постулирует, что машины разовьют те же способности, что и человеческий мозг. Вместо этого он говорит, что машины, управляемые ИИ, сольются с нашим мозгом и станут единым целым с ним. И с технооптимистической точки зрения Курцвейла - это хорошо.
В 2005 году это могло показаться несколько надуманным. Но, учитывая недавние достижения в области нейронных протезов и интерфейсов «мозг-компьютер» — и, конечно же, в области ИИ — предсказание Курцвейла о сингулярности сейчас кажется гораздо более правдоподобным. Тем не менее, некоторые аспекты его кибернетической сингулярности остаются противоречивыми, если не сказать совершенно невероятными. Как именно машина сливается с человеком? Как человеческое сознание загружается в облако? Кем бы был «я», если бы я был бессмертной цифровой копией самого себя, живущей в небиологическом теле?
В переиздании своей книги 2024 года, получившем название «Сингулярность ближе», Курцвейл рассматривает эти и многие другие подобные вопросы. Он подчеркивает, что перенос человеческого сознания из наших тел в небиологические системы не произойдет мгновенно или только одним способом. На самом деле, этот перенос уже начался в виде цифровых симуляций нашей внешности, способов мышления и речи. Всегда оставаясь оптимистом, Курцвейл видит и положительные стороны в современной проблеме дипфейков.
Как он выразился: «Благодаря нашей цифровой деятельности мы уже создаём невероятно богатые записи о том, как мы думаем и что чувствуем, и в течение этого десятилетия наши технологии для записи, хранения и организации этой информации будут быстро развиваться. К концу 2020-х годов мы будем оживлять эти данные в виде небиологических симуляций, представляющих собой высокореалистичные воссоздания людей с определёнными личностными чертами».
Процесс переноса человеческих образов в цифровые копии уже происходит в виде таких устройств, как кохлеарные импланты, позволяющие глухим людям слышать, системы, дающие людям с параличом возможность управлять компьютерами, и более новые импланты, такие как Neuralink. Курцвейл предполагает появление все более совершенных форм этих и других искусственных органов, которые вскоре значительно улучшат наши естественные показатели силы и долголетия. На определенном этапе эти различные протезы и симуляции станут более сложными и будут объединены в роботизированные версии нас самих, которые будут настолько убедительными, что их невозможно будет отличить от нашего настоящего «я».
Курцвейл заимствует название для этого этапа нашей эволюции к кибернетической сингулярности из научно-фантастического классического произведения Филипа К. Дика 1968 года «Мечтают ли андроиды об электрических овцах?», позже экранизированного в фильме «Бегущий по лезвию». «В конечном итоге репликанты могут даже быть помещены в кибернетически модифицированные биологические тела, выращенные из ДНК исходного человека», — пишет он.
И вот здесь вопрос о том, кто есть кто и что есть что, становится немного сложнее. Потому что, если симуляция вас на самом деле создана из вашей ДНК и содержит все ваши воспоминания и черты характера, кто может сказать, что это не вы на самом деле? Курцвейл называет такой целостный репликант «Вы 2». «Насколько важно, был ли репликант создан с помощью ИИ и анализа данных, в отличие от полностью загруженного разума «Вы 2» из чьего-то живого мозга?» — спрашивает он, хотя подразумеваемое значение очевидно. Убедительная дипфейк — это одно, а живая копия, наделенная всеми чертами оригинала, — совсем другое.
Курцвейл отмечает, что это поднимает ряд головокружительных вопросов о репликантах Вы 2.
«Следует ли считать их людьми, обладающими всеми правами человека и гражданскими правами (такими как право голоса и право заключать договоры)? Несут ли они ответственность за контракты, подписанные или преступления, ранее совершенные человеком, которого они заменяют? Могут ли они приписывать себе заслуги за работу или социальный вклад человека, которого они заменяют? Нужно ли повторно вступать в брак с покойным мужем или женой, вернувшимся в виде репликанта? Будут ли репликанты подвергаться остракизму или дискриминации? При каких условиях следует ограничивать или запрещать создание репликантов?»
Ответы на эти и подобные вопросы десятилетиями служили источником вдохновения для популярной научной фантастики — поэтому они отнюдь не чужды, несмотря на то, что остаются слишком странными, чтобы чувствовать себя комфортно.
Но самое главное, все эти достижения приведут к революции, возглавляемой нанороботами. В настоящее время нанороботы используются в основном для доставки лекарств, но для Курцвейла они являются ключом к нашей окончательной кибернетической эволюции в небиологических людей. Самое важное, они сделают наш мозг в миллионы раз мощнее, чем сейчас. Как он пишет: «В 2040-х и 2050-х годах мы перестроим наши тела и мозги, чтобы они значительно превзошли возможности нашей биологии, включая их резервное копирование и выживание. По мере развития нанотехнологий мы сможем создавать оптимизированные тела по своему желанию: мы сможем бегать намного быстрее и дольше, плавать и дышать под водой, как рыбы, и даже иметь работающие крылья, если захотим. Мы будем думать в миллионы раз быстрее, но самое главное, мы не будем зависеть от выживания какого-либо из наших тел для нашего собственного выживания».
Естественно, у всего этого есть и потенциальные недостатки, и, по мнению Курцвейла, самая существенная опасность заключается в том, что нанороботы могут выйти из-под контроля и начать бесконтрольно размножаться. Они могут размножаться настолько быстро, что поглотят буквально весь органический материал на поверхности Земли, превратив всё в кучи бесформенной массы.
Он пишет: «Наиболее часто обсуждаемый наихудший сценарий — это потенциальное создание «серой слизи» — самовоспроизводящихся машин, которые потребляют углеродсодержащее вещество и превращают его в другие самовоспроизводящиеся машины. Этот процесс может привести к неуправляемой цепной реакции, потенциально превратив всю биомассу Земли в такие машины».
Но давайте дадим Курцвейлу шанс и предположим, что этого не произойдет — и что его кибернетическая сингулярность действительно произойдет. Тогда что? Возможно, самая насущная проблема заключается в том, что станет невозможно отличить, кто мы есть на самом деле, от наших копий или небиологических дополнений. Другими словами, что в конечном итоге будет означать «человек» в контексте человеческого контроля, когда мы начнем вводить небиологический компонент в процесс принятия решений, начиная с 2030-х годов, используя интерфейсы «мозг-компьютер»? Этот небиологический компонент будет расти только экспоненциально, в то время как наш биологический интеллект останется неизменным.
Таким образом, к концу 2030-х годов наше мышление в значительной степени будет небиологическим. Где же тогда будет процесс принятия решений человеком, когда наше собственное мышление будет в основном опираться на небиологические системы?
Будет ли какой-нибудь способ отличить одно от другого?
