Сообщество «Дивный новый мир» 10:49 25 июня 2021

Демоны прогресса

о книге Игоря Шнуренко
10

Игорь Шнуренко. Демон внутри. Анатомия искусственного интеллекта. — М.: Наше Завтра, 2021. — 512 с.

«В 1770 году австрийский изобретатель Вольфганг фон Кемпелен сконструировал "шахматный компьютер", прозванный "Механическим турком". Он хотел произвести впечатление на императрицу Марию-Терезию, и это ему удалось. Он возил машину, которая выигрывала почти все матчи, по всей Европе и даже по американскому континенту.

Секрет устройства был прост: внутри машины скрывался талантливый игрок в шахматы, который через оптическую систему мог видеть, что происходит на доске. Зрителей, убеждённых, что с ними играет машина, попросту обманули. Через 160 лет Amazon.com не без юмора назвала "Механическим турком" свою краудсорсинговую платформу. Ее целью было восполнить недостатки искусственного интеллекта, который не смог справиться с задачей распознавания дублей пользовательских страниц на своей торговой онлайн-площадке.

После долгих и бесполезных попыток как-то наладить работу системы инженеры обратились к людям, поручив им работать в параллель с компьютерами. Джефф Безос, которому и принадлежала идея "Механического турка", назвал платформу "искусственным искусственным интеллектом". Безос объяснил принцип её работы так: "Обычно человек обращается с запросом к компьютеру, и тот выполняет запрос. Но "Механический турок" делает всё наоборот. Перед компьютером стоит задача, сложная для него, но очень простая для человека. Поэтому вместо того, чтобы обратиться с запросом к компьютерному сервису, чтобы выполнить функцию, она обращается к человеку".

Людям платят по несколько центов, если они обнаружат страницу-дубликат существующего сайта — с этой простой задачей искусственный интеллект справиться не может. И в случае "Механического турка" для Марии-Терезии, и в случае его современного аналога человек работает за машину, а перед зрителями (и инвесторами) разворачивается спектакль "искусственного интеллекта", который якобы в одиночку решает задачи.

Платформа была запущена в 2005 году, и уже через пару лет после этого на нее работало 100 тысяч "турок", которые получали микровознаграждения за выполнение простых задач, требующих обычно одного или нескольких кликов мышкой. Безос сумел продать услугу другим компаниям, развивающим искусственный интеллект: они должны платить "Амазону" 10 процентов стоимости каждой операции или полцента за все операции, стоимость которых меньше цента.

Невидимый, скрытый, малооплачиваемый труд отдаётся на аутсорсинг или краудсорсинг многочисленным "кликерам" из стран Третьего мира, которые сегодня присваивают данным ярлыки, классифицируют цифровые архивы для того, чтобы "кормить" этими данными прожорливые нейросети. Часто, впрочем, этот труд не оплачивается, например, в случае программы reCAPTCHA, когда вы выполняете работу по распознаванию образов для нейросетей "Гугла" просто за то, чтобы продолжить пребывание на его сайте. Это делается под тем предлогом, что вы должны доказать, что сами не являетесь искусственным интеллектом.

Как выясняется, современный "искусственный разум" не так уж и разумен. В работу систем, которые продаются как "разумные" и "принимающие решения", вложено много физического труда шахтёров и взрывотехников, моряков, грузчиков, складских работников, монотонного труда сборщиков на конвейере, сотен тысяч "когнитивных кликеров" и "механических турок", а также неоплачиваемого труда миллионов простых пользователей».

В книге рассказывается об искусственном интеллекте как о величайшем творении человека, которое было создано для того, чтобы привести людей к полной и безграничной свободе. Однако, не оказалось ли человечество в итоге в новом рабстве?

Автор приглашает читателя в анатомический театр, в котором вскрывает организм самой мощной и таинственной индустрии мира, где куются технологии, которые вышли прямо из сериала "Чёрное зеркало". Это целая пирамида из материальных ресурсов, знаний и подневольного человеческого труда.

Как нам выжить в борьбе с демоном, которого мы сами и породили? Автор ставит, например, вопрос, может ли ИИ создавать литературные произведения, в том числе — фантастические? Конкуренция на рынке внимания обостряется, и издатели готовы попробовать эти технологии, чтобы сэкономить на авторах и оперативно выдать на-гора нужное количество актуального книжного продукта. Справится ли ИИ с задачей? И заметят ли люди, что тексты книг созданы машиной? Произведения будут фабриковать, узнав людские предпочтения, и начав использовать подобное, уже не смогут остановиться. Возможно, возникнет гибридная литература, писательские фабрики и читательские фермы, где будут созданы комфортные условия для тех и для других, а смыслами будет наслаждаться сам искусственный интеллект.

В книге масса сведений и об истории зарождения киберидеологии. Среди тех, кого можно назвать отечественными предтечами — Александр Святогор (Александр Фёдорович Агиенко, 1889―1937), анархист, литератор, поэт, философ, воинствующий безбожник, один из основателей биокосмизма, считавший, что в новой (революционной) реальности человек станет бессмертным.

Отдельный небольшой раздел книги посвящён современному состоянию кибермифологии, новым надеждам, в том числе — на постчеловеческую вечность.

Например, рассказывается о "Церкви Тьюринга", ещё одной "мета-религии", работающей на пересечении религиозной практики, науки и технологий. Итальянский адвокат, физик, специалист по искусственному интеллекту и криптовалютам, бывший ведущий сотрудник Европейского космического агентства, Приско называет себя "христианским трансгуманистом".

По мнению Приско, трансгуманизм вдохновлён идеями космизма, которые находятся на грани между секуляризмом и трансцендентностью, то заходя на территорию религии, то её покидая…

Просвещение, которое базируется на научном мировоззрении, лишило многих людей чувства цели, считает Приско, а трансгуманизм призван вернуть его им.

Подписывайтесь на наш канал в Яндекс.Дзен!

Нажмите «Подписаться на канал», чтобы читать «Завтра» в ленте «Яндекса»

Cообщество
«Дивный новый мир»
15
Cообщество
«Дивный новый мир»
31
Cообщество
«Дивный новый мир»
3
Комментарии Написать свой комментарий
25 июня 2021 в 11:47

“Часто, впрочем, этот труд не оплачивается, например, в случае программы reCAPTCHA, когда вы выполняете работу по распознаванию образов для нейросетей "Гугла" просто за то, чтобы продолжить пребывание на его сайте. Это делается под тем предлогом, что вы должны доказать, что сами не являетесь искусственным интеллектом”.

Разве кто-нибудь заставляет владельцев сайтов использовать CAPTCHA (Тест Тьюринга) для защиты от программ ботов?
Мутная статья.

25 июня 2021 в 12:03

« ... смыслами будет наслаждаться сам искусственный интеллект»
ИИ - это просто компьютер, машина. А машины В ПРИНЦИПЕ наслаждаться не могут - они просто работают, и все.

25 июня 2021 в 12:07

В данном единичном случае я с Вами согласен.

26 июня 2021 в 00:33

Наслаждение, Нечипурович, это та же программа, что и все наши рефлексы. Машину можно научить наслаждению. То есть обусловить всё восприятие ей поступающей информации определённому условию. И когда в результате анализа и прочих вычислений поступающих данных происходит как бы резонанс с установками, то придумать какое-то поощрение, какой-то императивный для всей программы как бы отклик, который и должен определять основную ценность= нравственную, верховную управляющую всей программой установку. Так разве не так оно и происходит с аксиологической схемой либерального как бы когнитивного процесса? Машина, или либер в таком случае будут совершенно счастливы, они будут мнить, что Я-есть, ну или эго сум. То есть Аз есмь. А что ещё требуется для обоснования бытия и оправдание его, кроме как признание того, что Я как субъект - не менее крут как это всё объективное бытие? )

26 июня 2021 в 04:08

С большим мальчиком приключилась трансформация, он перестал чувствовать. О чём это толкует народ? Какое-растакое наслаждение? Это когда по ТВ показывают поедание пищи? Рот до ушей – вот вам и все наслаждение. Вечный вопрос: “А был ли мальчик”?

26 июня 2021 в 09:59

«Машину можно научить наслаждению»
Думаю, что машину можно «научить» (запрограммировав) лишь внешней имитации наслаждения, но не самому наслаждению. Это же относится и ко всем другим чувствам и ощущениям. Машина не может чувствовать, так как в ней не циркулирует психическая энергия, и у нее нет органов (чакр), посредством которых эта энергия могла бы порождать ощущения, тем более - самосознание «я есмь».

25 июня 2021 в 13:00

«Александр Святогор ..... философ, воинствующий безбожник»
Безбожники - это кто? Кто не разделяют «христианские» средневековые суеверия насчет Бога?
В космизме Александра Святогора очень многое угадано верно - жаль лишь, что он принимал за человека лишь одно его физическое тело (что является самой распространенной научной ошибкой и сегодня) и потому бессмертие искал там, где его нет - искал его в теле, а оно в духе.

25 июня 2021 в 13:04

Есть и другие представления о Боге
«- Верите ли вы в Бога? Я имею в виду Бога христиан, Отца Иисуса и Создателя, короче говоря, Моисеева Библейского Бога?
- В такого Бога мы не верим. Мы отвергаем идею личного или сверхкосмического и антропоморфного Бога, являющегося ничем иным, как гигантской тенью человека, к тому же - человека не в лучших своих проявлениях. Бог теологии, говорим мы (и доказываем это), это сгусток противоречий и логический абсурд. Поэтому мы не хотим иметь с ним ничего общего.
- Значит, вы - атеисты?
В общепринятом смысле - нет (если только эпитет «атеист» не использовать по отношению к тем, кто не верит в антропоморфного Бога). Мы верим в Универсальный Божественный Принцип, корень ВСЕГО, из которого происходит все и которым все будет поглощено в конце великого цикла Бытия. Мы называем нашим «Отцом Небесным» ту божественную Сущность, которую мы осознаем внутри себя, в нашем сердце и духовном сознании и которая не имеет ничего общего с антропоморфной концепцией»
(Е. Блаватская «Ключ к Теософии»)

25 июня 2021 в 18:32

Есть и другие представления о Боге:

"Мы пойдем к звездам и найдем богов, построим богов, станем богами и воскресим мертвых из прошлого с помощью передовой науки, техники пространства-времени и «магии времени». Бог появляется из сообщества продвинутых форм жизни и цивилизаций во вселенной и способен влиять на события пространства-времени в любом месте, в любое время, в том числе здесь и сейчас. Бог возводит любовь и сострадание в состояние фундаментальных сил, ключевых движущих сил развития вселенной," - бросает вызов Блаватской Церковь Тьюринга.
Может обновите "Универсальный Божественный Принцип", Дмитрий.

25 июня 2021 в 19:58

«Может обновите "Универсальный Божественный Принцип", Дмитрий»
Как можно говорить об «обновлении» Универсального Божественного Принципа, если этот Принцип - это то, что понимается под словом «Бог»? Слово «Принцип» здесь просто подчеркивает Его безличность
Ибо это только и искаженных религиях думают, что Бог - некий бородатый могучий и мудрый старик на Небеси - папа Иисуса Христа, который все может, все знает и за всем следит лично. Но если оставить эти глупые россказни попам и старухам, то разумнее принимать «Бога за Непостижимое Начало, за Единый Закон всякого существования». Иными словами, разумно «представление Бога как Божественного, Неизменного, Непреложного, Вездесущего и Беспредельного и Непознаваемого Принципа»
Христианство пришло в мир Запада с Востока. «Именно Восток от Монотеистического Бога, Правителя всей Вселенной, пришел к высшим идеям о Божестве, и в Непостигаемом Абсолюте найдено было объединение всей Вселенной» - писала Е.И.Рерих. «Те же мысли (о непостигаемом Абсолюте), - продолжала она - найдете Вы и в герметической философии, хотя и в иной фразеологии. Да, величественно представление древних о Боге, этом Непостижимом Начале всех вещей, этом Вселенском Законе, истинном Справедливом Начале, дающем каждой искре, исшедшей от Него, все свойства Свои, предоставляя ей следовать свободному выбору в применении их на строительство или разрушение»
А уж тем более не приходится говорить ни о каком «обновлении» доктрины о Боге такой ахинеей, как бредовые и невежественные идеи «церкви Тьюринга».
Наука действительно в Будущем приведет к Богу и человеческому бессмертию, но этой наукой будет НЕ КИБЕРНЕТИКА, а открытие и исследование тонкоматериальных (т.н. «загробных») миров Вселенной и соответствующих этим мирам тонкоматериальных тел людей (души и духа человека).

1.0x