Авторский блог Александр Нагорный 14:45 17 ноября 2019

Субъекты будущего

президент России — за права искусственного интеллекта
18

8-9 ноября в Москве под эгидой Сбербанка России проходила международная конференция Artificial Intelligence Journey (AIJ), в работе которой приняли участие более 5000 специалистов по искусственному интеллекту и смежным проблемам из России, стран Восточной Европы и всего мира. На пленарном заседании этой конференции выступил президент РФ Владимир Путин, чья речь вызвала широкий резонанс в мировом медиа-пространстве. При этом наибольшее внимание комментаторов привлекло не сравнение исследований в сфере искусственного интеллекта с эпохой Великих географических открытий и даже не фактическое признание войны, под видом "технологической гонки, самой жёсткой и бескомпромиссной в истории нашей цивилизации", уже идущей на этом пространстве, а тезис о том, что необходимо формирование свода этических правил взаимодействия человека с искусственным интеллектом. 

Здесь ключевое слово — "этических". Уберите его из путинской фразы — и сказанное было бы простой банальностью на тему соблюдения техники безопасности. Но оно прозвучало, и оно, судя по всему, не является случайной оговоркой. А это, поскольку этические правила возможны только в отношениях между субъектами, в свою очередь, может означать, что системы искусственного интеллекта (ИИ) либо уже достигли, либо близко подошли к уровню субъектности. Гораздо раньше, чем ожидалось и планировалось. И, если это так, то за одним-единственным словом российского лидера действительно стоит новая эпоха в истории человечества. Но даже если слова Путина были оговоркой или намеренным "вбросом" (а вся затея Германа Грефа очень похожа на попытку по максимуму "засветить" и раскрыть российские разработки в сфере ИИ перед "международным сообществом"), ясно, что эта проблема уже стоит в повестке дня. А потому требует рассмотрения и в более широком контексте. 

Данные генетических исследований утверждают, что люди современного биотипа ("Y-хромосомный Адам" и "митохондриальная Ева") появились 150-200 тысяч лет назад. И нам до сих пор неизвестны имеющие иную природу, чем Homo sapiens, системы, способные обладать свойством самосознания (самоотражения) и, соответственно, статусом субъекта. 

Иными словами, человеческая цивилизация, во всех её социальных, общественных проявлениях, строилась исключительно на биологическом фундаменте вида "человек разумный", а потому носила и до сих пор носит исключительно антропогенный и антропоцентричный характер. Однако уже не сегодня-завтра, благодаря научно-технологическому прогрессу, всё может измениться. 

Полный спектр этих изменений и их последствий пока даже нельзя адекватно представить, поскольку и с теоретической, и с практической точки зрения множественная эволюция "диссипативных", по терминологии И.Р.Пригожина, систем такого уровня выглядит уникальным событием — сравнимым, например, с такими событиями, как "Большой Взрыв" в истории нашей Вселенной, зарождение жизни на Земле, "кембрийский взрыв" многоклеточных организмов, или же сам антропогенез. 

Подавляющее большинство современных философов и футурологов пытаются моделировать варианты дальнейшего развития событий при помощи терминов "трансчеловечество", "постчеловечество", "альтчеловечество" и других, часто используя эти термины как синонимы "не-человечества" и одновременно — как антонимы по отношению к человечеству "традиционному". Как будут выглядеть формы взимодействия "традиционного" человечества с "не-человечествами" будущего: как всеми вместе, так и каждым из них по отдельности, или же конфликты между разными типами "не-человечеств"? Необходимо ли полное табу на научно-технологические эксперименты в данной сфере, так и полная, ничем не ограниченная, свобода для них. 

С этой точки зрения необходимым представляется не только различение и классификация технологических магистралей "дегуманизации" человечества, но и закрепление за ними соответствующих терминов. 

Развитие человеческой цивилизации достигло такого уровня, на котором стали принципиально возможными следующие направления социальной эволюции, которые можно назвать "неосоциогенезом". 

"Трансчеловечество" — результат направленных изменений вида Homo sapiens и, возможно, других биологических видов путём использования технологий "генной инженерии". 

"Постчеловечество" — интеграция системы организма Homo sapiens и других биологических видов с неорганическими компонентами нано-, микро- и макромасштабов. 

"Альтчеловечество" — создание искусственных систем, обладающих свойствами самосознания, самоотражения и саморазвития как минимум на сопоставимом с Homo sapiens и человеческими сообществами уровне без использования биогенных элементов, то есть результат развития того, что сегодня называется "искусственным интеллектом". 

Разумеется, возможны и различные комбинированные варианты применения подобных "субъективирующих" технологий. 

Период 2017-2019 годов можно считать настоящей "зоной бифуркации вокруг аттрактора". Даже с учётом возможной "фейковой" составляющей приведённых ниже сообщений, ясно, что "дыма без огня" не бывает. 

"В начале ноября 2018 года в Китае родились первые генетически модифицированные дети. Вмешательство в их геном на стадии эмбриона сделало двойняшек, получивших имена Лула и Нана, невосприимчивыми к ВИЧ". 

"В 2018 году более 3,5 тысяч граждан Швеции добровольно записались на чипирование; подкожный чип, вживляемый с помощью специального пистолета между большим и указательным пальцем, позволит объединить в одном устройстве кошелёк, проездной на метро, поезд, пропуск от офиса и ключи от квартиры". 

В мае 2017 года "искусственный интеллект", программа AlphaGo победила в матче против Кэ Цзе, сильнейшего в мире игрока в го, а ещё раньше, в феврале 2017 года, алгоритм Libratus впервые обыграл в безлимитный техасский холдем четырёх профессиональных игроков в покер, выиграв при этом 1,8 млн. долл. 

Как сообщается в публикации журнала Nature от 23 октября 2019 года, специалистами фирмы Google разработан квантовый суперкомпьютер Sycamore, который использует 53 программируемых сверхпроводящих кубита, соответствующих вычислительному пространству состояний размерности 253 (около 1016) и позволяет за считанные минуты решать задачи, на которые у "классических" суперкомпьютеров должны уйти 10 тысяч лет. 

Кроме того, как отмечается, во время обучения нейросети регулярно корректируют собственные настройки способами, которые создатели не в состоянии интерпретировать. 

То есть мир действительно уже сейчас стоит на грани перехода, в процессе которого человек теряет привычный статус "вершины творения" и "меры всех вещей". 

Перспективы неосоциогенеза приобретают особую остроту на фоне растущей "прекариатизации" человечества, когда социально-экономическая "матрица" глобализма делает ненужным и бессмысленным существование уже сотен миллионов и даже миллиардов людей, поскольку ресурсная база планеты не бесконечна, производство основной массы товаров и услуг может осуществляться практически без участия "живого" человеческого труда, а платёжеспособный спрос и рост ВВП (при отсутствии роста реального сектора экономики) обеспечиваются пока за счёт "эмиссионной" накачки через разного рода кредитные механизмы. 

Иными словами, существование значительной, а в ближайшей перспективе — и подавляющей части человечества становится "нецелесообразным" с финансово-экономической точки зрения. В отличие от продуктов "транс-", "пост-" и "альт-" человеческих технологий, которые, напротив, будут становиться всё более востребованными в рамках "повышения глобальной конкурентоспособности". 

Британский физик-теоретик и космолог Стивен Хокинг, при жизни страдавший от бокового амиотрофического склероза и считавшийся одним из главных "гуру" современной науки, в своей последней книге "Короткие ответы на серьёзные вопросы", увидевшей свет в октябре 2018 года, писал: "Уверен, что в течение этого века люди откроют для себя возможность модифицировать как свои интеллектуальные способности, так и инстинкты, например, агрессию… Появление суперлюдей сразу приведёт к возникновению серьёзных политических проблем с неулучшенными людьми, которые не будут в состоянии с ними конкурировать. По-видимому, они вымрут или станут малозначимыми. Вместо этого мы получим расу людей, которые сами себя проектируют, всё больше и больше улучшаясь". 

На самом деле перспективы человечества выглядят гораздо более сложными и гораздо менее определёнными, чем выделенный Стивеном Хокингом и предсказанный ещё Фридрихом Ницше конфликт между "юберменшами" и "унтерменшами", и речь должна идти не о "расе суперлюдей" или даже разных "расах суперлюдей", а об отмене самого понятия "человечество", или же о выходе данного понятия за рамки биологического вида Homo sapiens и его социально полноценной (дееспособной) и полноправной части. 

Возможно, с этой точки зрения масштабные эксперименты последнего времени с "толерантным" и "мультикультурным" обществом, правами сексуальных и прочих меньшинств, "международным терроризмом", "кризисом беженцев" etc. носили своего рода пробный характер, а настоящие "краш-тесты", с вытеснением "неконкурентоспособных систем", только предстоят. И далеко не факт, что они будут везде и всегда носить управляемый и контролируемый характер. Возможно, отдельные аспекты такого неосоциогенеза удастся "приморозить" — как, например, после Карибского кризиса 1962 года было "приморожено" создание, развитие и распространение ядерного оружия, которое, впрочем, в отличие от неосоциогенетических систем, априори не обладало качеством субъектности и способностью к саморазвитию. 

Одним из главных инструментов неосоциогенеза могут оказаться уже привычные и даже "банальные" социальные сети, где анонимность участников, а также наличие "закрытых" уровней и групп — позволяет создавать почти бесконечное множество "онлайн-личностей", виртуальных крипто- и псевдосубъектов, то есть существование и даже моделирование идеальной среды для неосоциогенеза уже налицо. 

Кажется, совсем недавно в связи с изменением коммуникативного поведения людей, которые всё в большей степени "переселяются" в интернет-пространство, активно обсуждалась проблема "нетократии" как нового типа социального устройства, реализуемого посредством Мировой Сети. И, соответственно, связанная с проблемой "нетократии" проблема "нетосов" — "сетевых коммуникативных общностей" как носителей такого типа, идущих на смену традиционным "этносам" и "демосам", которые на фоне "нетосов", как и деньги на фоне криптовалют, внезапно обнаружили свою истинную информационную природу. 

В данной связи не стоит забывать, что сам интернет создавался в рамках взаимодействия Пентагона с американскими спецслужбами и американским академическим сообществом через программу DARPA, и до сих пор имеет "закрытый" сверхскоростной сегмент, который может использоваться исключительно военно-политическими структурами США — в то время как "открытый" глобальный сегмент Интернета находится под непрерывным мониторингом серверов американских спецслужб, именуемых в просторечии "ботами ЦРУ", как об этом свидетельствуют показания Эдварда Сноудена и публикации WikiLeaks. 

Но на пороге "конца человека" и появления новых субъектов ноосферы проблема "нетоса" приобретает весьма специфические черты, поскольку в рамках данной коммуникативной общности ситуативно отличать Homo sapiens от генно-модифицированного человека, "киборга", системы искусственного интеллекта или иных представителей транс-, пост- и альт-человечества будет всё сложнее, если вообще возможно. В киберпространстве "эмулировать" можно не только текстовые сообщения, но также любые аудио- и видеофайлы, в общем — практически всё. Тем более, что развитие 3D-печати, вкупе с нано- и биотехнологиями, в принципе, открывает возможность для создания любых "тел"-носителей комплекса программ "субъектного" уровня сложности и выше. 

Одним из важнейших моментов неосоциогенеза представляется также изменение коммуникативной этики, комплекса поведенческих стандартов (этоса) в межсубъектных отношениях, весьма заметное уже на нынешнем уровне развития социальных сетей и других интернет-сообществ. Все последствия такого вскрытия "ящика Пандоры XXI века": идеологические, военно-политические, финансово-экономические, эстетические, этические, правовые, криминальные и т.д., — трудно себе представить и, тем более, предсказать, но избежать его вряд ли удастся. И это, в свою очередь, приведёт к фундаментальной трансформации новых субъектных сообществ, включая их, базовый на сегодня, государственный уровень. 

Подписывайтесь на наш канал в Яндекс.Дзен!

Нажмите «Подписаться на канал», чтобы читать «Завтра» в ленте «Яндекса»

Комментарии Написать свой комментарий
17 ноября 2019 в 15:25

Всё большее значение приобретает диалектика категорий "истина" и "ложь". Именно она будет определять борьбу в сфере идеологии, следовательно, в главной цивилизационной сфере - Культуры

17 ноября 2019 в 22:23

Лучше бы он(sic!) подумал не об этих грефо-хокинговских галлюцинациях в отношении прав ИИ, а о правах настоящего высшего естественного интеллекта, народа России, советского развитого человека, которому эти либерские агрессоры опять мешают жить. Создать-то ИИ либерский учёный конечно создасть, да кто ж ему это дасть?

18 ноября 2019 в 00:21

Зачем либеру, этому деволюционирующему существу искусственный интеллект? Разве что - чтоб найти цифровые оправдания своей деградации? Да кто ж в наше время поверит мёртвой цифре, и либеру, молящемуся на неё ? Искусственный интеллект не может быть ничем иным кроме как совершенным калькулятором, расширяющим возможности нашего разума в различных сферах его применения. Если же есть идея поиграть с какими-нибудь моделями некоего нового трансгуманичного разума, то это дело учёных, философов, художников и прочих тех, кто в состоянии предвидеть и просчитать возможные плюсы и минусы таких реальностей. А в остальном - конечно прогресса не остановить. И работы с ИИ сулят нам много новых открытий чудных.

18 ноября 2019 в 00:23

Мож российский ИИ подскажет - как провести ещё парочку -тройку газопроводов в обход Польши, Уккраины и Белоруссии. Вот деревня блин эта власть!

18 ноября 2019 в 00:30

Китай сейчас на первом месте по производству промышленных роботов ( не ИИ, но из той же оперы) и не от хорошей жизни, работать некому, по причине старения населения.
ИИ - это хорошо, но только когда социалка и идёт в ногу с прогрессом, а лучше его опережает.
В нашей демографической ситуации, все эти реляции по поводу ИИ, выглядят по меньшей мере пиром со время чумы. Президент лучше бы курс экономический выставил в правильном направлении, что повлечёт увеличение рождаемости и т.д., и т.п..
Всё что его интересует это ИИ, цифровизация, сети 5G и внезапно - проблемы с русским языком. Ему что, нужны терминаторы мысленно общающиеся на прекрасном телепатическом русском через сети 5G?
Тады Ой

18 ноября 2019 в 02:02

конечно, Пантелеев. Это простая лапша на уши. Руководство страной оказалось глупее, чем очень много тысяч простого народа и тем более обученного, который уже лет тридцать копается в машинных кодах, принципах работы двоичного и прочих кодов, их развития, перспектив и приложений для науки и хозяйства. У меня сынишка, году в 90м, уже решал задачи по алгебре на бэйсике. А эта руководящая темнота, откуда , из каких могильников их выкопали? Что за беда на нашу землю?

18 ноября 2019 в 02:10

Надеюсь, это просто вирус, переболев которым, наша коллективная иммунная система окрепнет и в будущем подобных заболеваний не допустит.
Если я ошибаюсь, можно закупаться белыми простынями...

18 ноября 2019 в 02:05

To что Путин повторяет всякую ахинею которую несёт Греф - это давно не секрет. Греф - это иностранный агент международной банковской мафии (можно подумать что ФСБ об этом не знает).
Никогда никакой "искусственный интеллект" не переплюнет человека. Потому что ИИ - не более чем громадного размера программы (десятки миллионов строк кода), написанные ЧЕЛОВЕКОМ. Человек может открыть новые законы природы; ИИ никогда не изобретёт уравнение Шредингера.

18 ноября 2019 в 05:49

Беда, коль пироги начнет печи сапожник, А сапоги тачать пирожник.

“Неудачей завершился дебютный эксперимент компании-резидента Сколково «Поп-тех» по созданию искусственного интеллекта. Заказчиком проекта выступило министерство социальной политики, попросившее летом этого года разработать уникальную программу по типу живого собеседника для граждан. Новый бот Василий должен был отвечать на все вопросы людей, и занимать при этом патриотическую позицию. В его функции входила разработка лайфхаков (удачных решений) для быта и ценные указания по экономии денег”.
http://panorama.pub/25978-iskusstvennyj-intellekt.html

Подобные программы писались ещё для ЕС ЭВМ (если не ошибаюсь – «Диала”), и конфуз с ботом Василий объясняется очень легко: “Искусственный интеллект, разработанный в Сколково, посоветовал россиянам бежать из страны” – программа повторила запомненную фразу из одного из диалогов. Кто делает из России страну дураков?

18 ноября 2019 в 10:01

ИИ - это химера.
Можно создать суперкомпьютер (и, кажется, «Гугл» это уже сделал - но и это не предел), но думающих машин не может быть в принципе. Ибо «мысль зарождается в сердце и лишь передается в мозг». Здесь сердце - это, конечно, не насос для прокачки крови и лимфы по системе сосудов человеческого физического тела, но один из центров высшего сознания Эти центры (или, как их называют традиционно индийский йоги, чакры) пронизываю собой все существо человека - от низа (физического тела) , через все промежуточные ступени (тонкие тела, которые в совокупности являют собой т.н. душу) и до верха (тела Света, или огненного, в котором живет дух). Вся эта сложнейшая система и порождает мысли.
Также и сознание - не «функция головного мозга», как полагает не знающая ничего, кроме видимого физического мира, пока еще очень незрелая земная наука. Но это тончайшие наслоения высших духовных энергий вокруг зерна Духа (монады), в которых зафиксирован весь жизненный опыт, через который прошла данная Монада в данном цикле своей эволюции, последовательно воплощаясь для этого в различных внешних материальных формах, т.е. телах - от минералов до высших животных и, наконец, до человека.
У ИИ же «за душой» ничего этого нет, да и быть не может, и поэтому он - ИИ - никогда не станет сознательным существом. Так что опасаться «бунта машин» не стоит.
Однако, до тех пор, пока под человеком будут понимать лишь его внешнее физическое тело (оболочку), эти страхи и все эти фантастические прогнозы будут будоражить умы. Человек не сводим ни к какой машине, ибо он - дух, т.е. Бог - начало всех начал. Только очень нескоро он еще это осознает.

18 ноября 2019 в 10:24

“У ИИ же «за душой» ничего этого нет, да и быть не может, и поэтому он - ИИ - никогда не станет сознательным существом”.

Автоматам не требуется ни душа, ни сознание, а вот просветленным адептам неплохо бы, кроме мантр, познакомится с общетехнической терминологией, что бы не выглядеть полными невеждами.

18 ноября 2019 в 14:16

Сознание ("душа", если хотите) - это функция отдельной части ствола головного мозга, называемой Pontine tegmentum.

18 ноября 2019 в 15:31

Да, «автоматам не требуется ни душа, ни сознание», но ИИ - как раз такой автомат, которому пытаются создать электронную душу (или сознание) - об этом и речь в статье. Вот я и говорю (без необязательной для этого «общетехнической терминологии», так как мое обоснование тут - скорее философское, чем техническое), что не получится.
Когда еще вместо нынешних персональных компьютеров были ЭВМ («Минск», ЕС - 1020, ЕС-1030, ЕС-1050) я учился в ТРТИ (Таганрогский радиотехнический институт) по специальности «Прикладная математика» (т.е. программирование), который почти закончил (4,5 курса из пяти), причем - в потоке был из наиболее успевающих студентов. Поэтому с «общетехнической терминологией», думаю, знаком не хуже, чем Вы. Как программист по образованию, я прекрасно понимаю, что никакая ЭВМ, никакой компьютер сам мыслить не может в принципе

18 ноября 2019 в 16:06

«Сознание ("душа", если хотите) - это функция отдельной части ствола головного мозга, называемой Pontine tegmentum».
Про полушария - левое и правое, знаю, а про «ствол головного мозга» слышу в первый раз. Впрочем, я не медик…
Но:
Когда во время клинической смерти человек оказывается вне своего тела, видит его сверху и слышит разговоры людей вокруг него, он продолжает быть в сознании и продолжает мыслить. Чем? Головной мозг остался в теле.
Некая телепатия? Неубедительно. Но, ладно уж, допустим
Далее, ясновидящая Ванга видела т.н. мертвых и разговаривала с ними. И они с ней тоже разговаривали. Каким образом, если их тела, а значит и головной мозг их, давно истлели в могилах? А тут как?...
Прочтите книгу Камиля Фламариона «Неведомое».

19 ноября 2019 в 17:17

На глюки Грефа вероятно будут выделены огромные суммы которые будут дружно освоены , по типу стартовой площадки "Восточный " . Ну а потом выяснится , что не искусственного интелекта , не денежных средств .

19 ноября 2019 в 22:51

Помнится, ранее, несколько лет назад, Путин в своих выступлениях уверял, что наши ученые открыли новый источник энергии. А потом все затихло. И мы продолжаем использовать для получения тепла и энергии всё тот же газ и уголь, строим в обход Украины газопроводы для снабжения стран Западной Европы и получения прибыли. Промышленность загубили, выезжаем на природных ресурсах. Но газ, нефть истребим, что будем делать? Их запасы не бесконечны.
Искусственный интеллект не сможет заменить Homo Sapiens, ибо это всего лишь механизм, созданный самим человеком. А любые механизмы изнашиваются, ломаются. Человек тоже не вечен, но он оставляет после себя потомство, детей, внуков, правнуков. Не думаю, что механические системы, компьютеры сами смогут размножаться, производить самих себя без вмешательства человека. Только в мечтах и фантастике машины могут сами себя починить и приобрести человеческие качества и чувства.

20 ноября 2019 в 00:03

Я так понимаю, Путин пытается показать всему миру, что ИИ и есть та Идеологическая и Технологическая дудочка, которой Россия поведёт весь мир за собой. Иначе зачем «ИИ» написано на каждом утюге )))
Людмила, Вы правы, но наши Павловы будут обкатывать эту технологию на нас, а если не получится, то женщины ещё нарожают «лабораторный материал». Грубо, но факт