Игорь Шнуренко. Демон внутри. Анатомия искусственного интеллекта. — М.: Наше Завтра, 2021. — 512 с.
«В 1770 году австрийский изобретатель Вольфганг фон Кемпелен сконструировал "шахматный компьютер", прозванный "Механическим турком". Он хотел произвести впечатление на императрицу Марию-Терезию, и это ему удалось. Он возил машину, которая выигрывала почти все матчи, по всей Европе и даже по американскому континенту.
Секрет устройства был прост: внутри машины скрывался талантливый игрок в шахматы, который через оптическую систему мог видеть, что происходит на доске. Зрителей, убеждённых, что с ними играет машина, попросту обманули. Через 160 лет Amazon.com не без юмора назвала "Механическим турком" свою краудсорсинговую платформу. Ее целью было восполнить недостатки искусственного интеллекта, который не смог справиться с задачей распознавания дублей пользовательских страниц на своей торговой онлайн-площадке.
После долгих и бесполезных попыток как-то наладить работу системы инженеры обратились к людям, поручив им работать в параллель с компьютерами. Джефф Безос, которому и принадлежала идея "Механического турка", назвал платформу "искусственным искусственным интеллектом". Безос объяснил принцип её работы так: "Обычно человек обращается с запросом к компьютеру, и тот выполняет запрос. Но "Механический турок" делает всё наоборот. Перед компьютером стоит задача, сложная для него, но очень простая для человека. Поэтому вместо того, чтобы обратиться с запросом к компьютерному сервису, чтобы выполнить функцию, она обращается к человеку".
Людям платят по несколько центов, если они обнаружат страницу-дубликат существующего сайта — с этой простой задачей искусственный интеллект справиться не может. И в случае "Механического турка" для Марии-Терезии, и в случае его современного аналога человек работает за машину, а перед зрителями (и инвесторами) разворачивается спектакль "искусственного интеллекта", который якобы в одиночку решает задачи.
Платформа была запущена в 2005 году, и уже через пару лет после этого на нее работало 100 тысяч "турок", которые получали микровознаграждения за выполнение простых задач, требующих обычно одного или нескольких кликов мышкой. Безос сумел продать услугу другим компаниям, развивающим искусственный интеллект: они должны платить "Амазону" 10 процентов стоимости каждой операции или полцента за все операции, стоимость которых меньше цента.
Невидимый, скрытый, малооплачиваемый труд отдаётся на аутсорсинг или краудсорсинг многочисленным "кликерам" из стран Третьего мира, которые сегодня присваивают данным ярлыки, классифицируют цифровые архивы для того, чтобы "кормить" этими данными прожорливые нейросети. Часто, впрочем, этот труд не оплачивается, например, в случае программы reCAPTCHA, когда вы выполняете работу по распознаванию образов для нейросетей "Гугла" просто за то, чтобы продолжить пребывание на его сайте. Это делается под тем предлогом, что вы должны доказать, что сами не являетесь искусственным интеллектом.
Как выясняется, современный "искусственный разум" не так уж и разумен. В работу систем, которые продаются как "разумные" и "принимающие решения", вложено много физического труда шахтёров и взрывотехников, моряков, грузчиков, складских работников, монотонного труда сборщиков на конвейере, сотен тысяч "когнитивных кликеров" и "механических турок", а также неоплачиваемого труда миллионов простых пользователей».
В книге рассказывается об искусственном интеллекте как о величайшем творении человека, которое было создано для того, чтобы привести людей к полной и безграничной свободе. Однако, не оказалось ли человечество в итоге в новом рабстве?
Автор приглашает читателя в анатомический театр, в котором вскрывает организм самой мощной и таинственной индустрии мира, где куются технологии, которые вышли прямо из сериала "Чёрное зеркало". Это целая пирамида из материальных ресурсов, знаний и подневольного человеческого труда.
Как нам выжить в борьбе с демоном, которого мы сами и породили? Автор ставит, например, вопрос, может ли ИИ создавать литературные произведения, в том числе — фантастические? Конкуренция на рынке внимания обостряется, и издатели готовы попробовать эти технологии, чтобы сэкономить на авторах и оперативно выдать на-гора нужное количество актуального книжного продукта. Справится ли ИИ с задачей? И заметят ли люди, что тексты книг созданы машиной? Произведения будут фабриковать, узнав людские предпочтения, и начав использовать подобное, уже не смогут остановиться. Возможно, возникнет гибридная литература, писательские фабрики и читательские фермы, где будут созданы комфортные условия для тех и для других, а смыслами будет наслаждаться сам искусственный интеллект.
В книге масса сведений и об истории зарождения киберидеологии. Среди тех, кого можно назвать отечественными предтечами — Александр Святогор (Александр Фёдорович Агиенко, 1889―1937), анархист, литератор, поэт, философ, воинствующий безбожник, один из основателей биокосмизма, считавший, что в новой (революционной) реальности человек станет бессмертным.
Отдельный небольшой раздел книги посвящён современному состоянию кибермифологии, новым надеждам, в том числе — на постчеловеческую вечность.
Например, рассказывается о "Церкви Тьюринга", ещё одной "мета-религии", работающей на пересечении религиозной практики, науки и технологий. Итальянский адвокат, физик, специалист по искусственному интеллекту и криптовалютам, бывший ведущий сотрудник Европейского космического агентства, Приско называет себя "христианским трансгуманистом".
По мнению Приско, трансгуманизм вдохновлён идеями космизма, которые находятся на грани между секуляризмом и трансцендентностью, то заходя на территорию религии, то её покидая…
Просвещение, которое базируется на научном мировоззрении, лишило многих людей чувства цели, считает Приско, а трансгуманизм призван вернуть его им.
