Авторский блог Кирилл Утюшев 00:35 3 февраля 2023

Культура замены

в новых цифровых Афинах нас будут ждать труды искусственного Аристотеля

Покинувшее нас ощущение развития цифровой индустрии нулевых, когда каждый месяц энтузиасты обнаруживали новую поразительную технологию, вернулось. Сейчас даже видавших виды инженеров и разработчиков программного обеспечения всё больше и больше удивляют самообучающиеся программы, выдающие удивительные результаты. То, что ещё пять лет назад казалось трудновообразимым, сегодня доступно всем. Исследователи уже утверждают, что развитие аппаратных имитаций сетей нервных клеток (или нейросетей, как принято говорить) стало самым большим технологическим прорывом 2020-х. Пока рано рассуждать о том, чем это обернётся в долгосрочной перспективе и обожжётся ли человечество огнём новой технологии, но по реакции общества можно увидеть, какие изменения ждут нас в пока ещё обозримой перспективе.

Ключевую роль в развитии нейросетей сыграла американская компания OpenAI, основанная в 2015 году и занимающаяся разработкой и внедрением технологий машинного обучения. Интересна она не только тем, что создана завсегдатаем новостей Илоном Маском – маркетологом, которому свойственно позиционировать себя в качестве технологического гения и провидца, но и своими проектами. Последняя и самая главная их разработка - алгоритм обработки естественного языка GPT-3 - привлекла внимание корпорации «Майкрософт».

В начале января «Майкрософт» выделила 10 млрд долл. инвестиций компании OpenAI, а уже 23 января на своём сайте анонсировала дальнейшее упрочение партнёрства между двумя компаниями. Прогнозируются ещё большие инвестиции со стороны «Майкрософт» в будущем, а также внедрение технологий ИИ в продукцию техногиганта и предоставление «майковских» облачных серверов для сотрудников OpenAI.

«Майкрософт» далеко не единственная технокорпорация, которая проявила интерес к новой разработке. Alphabet, ранее известный как Google, тоже отреагировал на новый виток технологии, но реакция эта была скорее тревожной. Компания, владеющая ведущим на Западе интернет-поисковиком, с которого и начался его путь в мировые лидеры IT, выразила обеспокоенность, что GPT-3 и созданный на его основе чат-бот ChatGPT сделает поиск в интернете менее релевантным, так как на многие вопросы можно будет получить более подробный и быстрый ответ благодаря разработанному OpenAI языковому алгоритму. Чат-бот, доступный каждому, способен вести диалог и давать ответы на сложные вопросы с учётом множества факторов – такой натуральности в общении компьютерная программа не добивалась никогда. Разумеется, называть продвинутую языковую модель «искусственным интеллектом» фактологический неверно – до настоящего искусственного интеллекта (забавный оксюморон) этой имитации разума ещё очень далеко. Но новостное клише предполагает называть продукцию этих языковых моделей поделками искусственного интеллекта.

Впрочем, не только исполину Google стоит опасаться всё наступающего технологического прогресса, с которым даже он не сможет совладать. От убытков мегакорпораций всегда в первую очередь страдают рядовые работники, и этот случай не будет исключением. Уже упомянутая ранее «Майкрософт», к примеру, через несколько дней после того, как инвестировала 10 миллиардов в искусственный интеллект, уволила 10 тысяч собственных сотрудников, что составило примерно 5% от количества всех работников компании. Причём во второй половине 2022-го волна увольнений задела почти всех великанов из Кремниевой долины, так что суммарное количество увольнений у техногигантов достигло отметки в 46 тысяч человек. Конечно, преждевременным будет обвинять в этом именно искусственный интеллект: причинами, скорее, являются сокращающийся дополнительный штат, нанятый во времена COVID-19, и ухудшающаяся экономическая ситуация в США, но тут важно подметить и другое. IT-сфера давно многими экономистами признаётся пузырём, и вполне возможно, что такой (может, и случайный) намёк со стороны компании «Майкрософт» показывает, что именно ИИ станет иголкой, которая проткнёт этот пузырь.

Не только самой высокотехнологичной трудовой сфере угрожают нейросети, но и многим другим. Две популярные нейросети, Midjourney и Stability-AI, занимаются тем, что на основе данного пользователем текстового описания могут представить любое изображение. И качество созданного изображения порой неотличимо, а зачастую и превосходит то, что нарисовано человеческой рукой. Это привело к тому, что в некоторых компаниях была учреждена даже должность для людей, которые должны различать иллюстрации, созданные нейросетью.

Имеет место и противоположная ситуация. На англоязычном сайте Reddit художнику не дали опубликовать свою картину, так как она уж слишком похожа на то, что “рисует” искусственный интеллект, что, казалось бы, логично, ведь именно на том, что создают люди, ИИ и тренируется, но даже предоставление видео того, как художник рисует, не смогло переубедить модераторов форума. Художники не в восторге, что их лишают работы, а также тренируют нейросети на их собственных картинах, и в середине января они подали судебный иск на создателей двух нейросетей, так как их системы ИИ натренированы на работах художников без какого-либо разрешения, оплаты и даже указания авторства.

Сгенерировать изображение — не самая сложная задача для ИИ, да и на большинстве созданных им картин видны ошибки, которые человек вряд ли допустит: слишком большое количество кривых и растущих из неправильных мест пальцев на руках, размытые контуры, угловатости и нелепые штрихи или иные детали, которые человек сразу же подметит. Несмотря на это, качество работ этого кибер-Пикассо растёт день ото дня и удовлетворяет вкусы подавляющего большинства не слишком въедливых зрителей.

Теперь машины замахнулись на гораздо более сложный способ человеческого самовыражения – письменность. На данный момент язык все ещё остаётся одним из самых сложных человеческих конструктов, который до конца не может осилить компьютер. Конечно, искусственный интеллект уже не первый раз пытается посягнуть на владение языком и литературу. Помимо продвинутого уровня ChatGPT, существует множество чатов, в которых на более простом уровне можно вести переписку с ИИ. А в 2017 году была опубликована книга, созданная искусственным интеллектом “1 the Road”. Нейросеть была обучена на романе Керуака «В дороге», и литературные критики подмечали, что даже до такого сомнительного с точки зрения литературного мастерства произведения машине ещё очень и очень далеко: помимо отсутствия какого-либо элементарного сюжета и смысла, литературный стиль явно не дотягивал до уровня автора, однако порой и у компьютера выходила какая-никакая поэтичность слога.

Именно поэтому языковой алгоритм GPT-3 и созданный на его основе чат-бот ChatGPT за авторством OpenAI вызвал такой широкий резонанс со стороны техгигантов, по сравнению с теми же нейросетями-художниками Midjourney и Stability-AI, представляющими собой скорее развлечение для рядовых пользователей интернета. На данный момент этот бот превосходно владеет английским языком и может выдавать правдоподобные и убедительные тезисы на любую тему. Так, к примеру, в авторской колонке на страницах The New York Times, принадлежащей перу конгрессмена Теда Льё, специализирующемся как раз на компьютерных технологиях, ChatGPT по его запросу выдал аргументы, чем может угрожать искусственный интеллект, и, по признанию самого автора, написанные роботом мысли вполне совпадали с его собственными. Позже в этой же газете был опубликован материал, где один из авторов попросил ChatGPT написать текст теперь уже в защиту искусственного интеллекта в целом и самого чат-бота в частности. Причём спектр аргументов, которые бот может выдать по теме, оказался огромен – бот не только апеллировал к рациональным доводам, но и давил на эмоции.

Однако полёту фантазии компьютерного мудреца подрезала крылья навязчивая человеческая цензура: сразу после запуска искусственный консультант вполне развёрнуто отвечал, чем невозобновляемые источники энергии лучше зелёной энергетики, а уже через пару недель пользователи заметили, что бот начал отказываться обсуждать подобные вопросы, вместо этого отделываясь общей отговоркой, что изменение климата — это глобальная проблема, с которой нужно бороться. Подобная комбинация убедительности искусственного интеллекта и криво приклеенной к этому неолиберальной пропаганды может показаться опасной в целом, но это вовсе не единственная угроза.

Текст, созданный нейросетью, уже вполне правдоподобно имитирует литературный стиль других писателей и публицистов, а кто-то использует ИИ для написания домашних работ, текстов для собеседования и даже журналистских материалов. К примеру, во многих больших газетах в порядке эксперимента публиковались неотредактированные тексты за авторством компьютерной модели, а на русском языке был запущен чат-бот, относительно правдоподобно имитирующий стиль письма Александра Дугина.

Возникают мысли об опасности скорой замены людей машинами. Но отнюдь не в тех сферах, где этого ждали фантасты прошлого: в тяжёлом производстве, логистике, вредной для человека добыче полезных ископаемых, — а в профессиях, требующих умений писать, рисовать, сочинять музыку или даже составлять код. С таким мнением соглашаются и аналитики. Одним из них является экономист и эксперт по деятельности Федеральной резервной системы США Нуриэль Рубини, полагающий, что в течение 5–7 лет языковые модели заменят его как эксперта, а благодаря навыкам составления качественных текстов ChatGPT большинство людей это даже не заметит. Коснётся это и других областей: чат-боты будут писать за школьников сочинения, составлять за студентов рефераты, компилировать за соискателей тексты для собеседований на работу. Поэтому OpenAI уже сообщила, что работает над другой нейросетью, задачей которой будет выявлять, текст написан человеком или ботом. Не очень ясно, по какому принципу он будет отличать искусственный разум от естественного и как будет проверяться, не ошибся ли он в своих выводах, когда с этой задачей не всегда справляются и сами люди.

Стоит упомянуть ещё одну недавно разработанную нейросеть, которую пока тестируют только в области развлекательных интернет-трансляций. Суть её заключается в том, что она изменяет направление взгляда человека на видео в прямом эфире. Так что, вполне возможно, нас скоро ждёт эпоха, когда люди будут читать машинный текст с бумаги или экрана компьютера, а при помощи другого искусственного интеллекта зрителям будет демонстрироваться, что говорящий не читает, а абсолютно точно выступает с собственной речью; справиться с этой задачей поможет также возможность ChatGPT подражать не только языку, но и стилю определённых авторов.

В 2017 году, на заре эпохи нейросетей, вышла книга физика Макса Тегмарка «Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта». Тегмарк описывал самую сложную для ИИ работу как вершину горы, а всё больше забирающий человеческую работу искусственный интеллект – пока что примитивный и способный только на самую простую работу – как постепенно поднимающееся море, окружающее эту гору. На самый пик, помимо технически сложных и трудновыполнимых работ не только для разума искусственного, но и человеческого, он водрузил творческий труд, включающий литературу, музыку, изобразительное искусство и другие творческие профессии. Но современная реальность пока что рисует прямо противоположную картину. В то время как интеллектуальная деятельность становится всё более доступной «разумным» машинам, именно физические способности машин далеки от человеческих. Поэтому пока что картина ближайшего будущего выходит немного иной.

И в новых цифровых Афинах нас будут ждать труды искусственного Аристотеля, а потомки выдающихся мыслителей будут прибирать улицы и заниматься тяжёлым физическим трудом.

1.0x