Последнее время проблеме искусственного интеллекта уделяется все больше внимания. Дискуссии на эту тему ведутся не только учеными и IT-предпринимателями, но и простыми обывателями. Кто-то сравнивает "умных роботов" по возможной опасности для человечества с атомными или ядерными бомбами, кто-то предсказывает, что сценарии самых невероятных фантастических фильмов о вышедших из-под контроля машинах могут стать реальностью.
Может ли случится, что в один прекрасный день "мозги" машины превзойдут по интеллекту человеческий мозг? Получится ли у нового суперинтеллекта оказаться настолько мощным, что управлять им будет крайне сложно? Об этом наша беседа с членом-корреспондентом РАН, профессором Игорем Каляевым.
«ЗАВТРА». Игорь Анатольевич, на недавнем заседании Бильдербергского клуба первым вопросом в повестке дня стоял "искусственный интеллект". Не терроризм, не ИГИЛ, не кибербезопасность, не экономическая ситуация в мире, не еще что-то. Означает ли это, что данная проблема становится проблемой номер один в мире, и на её решение будут брошены лучшие силы и средства?
Игорь КАЛЯЕВ. Может быть, я выскажу какую-то парадоксальную точку зрения, но, по моему мнению, никакого искусственного интеллекта нет, не было и в ближайшее время не будет. Почему? Поясню. Все программы, на основании которых работает компьютер, в том числе и так называемые интеллектуальные, разработаны и созданы человеком. Компьютер сам по себе не думает, он просто жестко выполняет заложенную в него программу. Заложенную разработчиком, то есть человеком. Разработчик программы всегда может предсказать, как машина будет действовать в той или иной ситуации. Поэтому говорить о каком либо искусственном интеллекте, который, тем более, будет умнее своего создателя — человека, в принципе нельзя. То, что сейчас называется искусственным интеллектом — это просто компьютерная имитация некоторых человеческих функций.
«ЗАВТРА». Но ведь тысячи ученых во всем мире занимаются проблемой искусственного интеллекта, созданы целые отделы и институты…
Игорь КАЛЯЕВ. Давайте разберемся. Ученые занимаются созданием алгоритмов и программ, которые решают нужные и важные задачи, в том числе и те, которые ранее мог решать только человек. Возьмем, например, задачу управления автомобилем. Совсем недавно с этой задачей мог справиться только опытный шофер. А сейчас все ведущие автопроизводители анонсируют создание автомобилей, управляемых компьютером, которые могут передвигаться по дорогам в автоматическом режиме без участия человека. И внешне, конечно, кажется, что внутри такого автомобиля находится какой-то искусственный интеллект. Но в действительности никакого интеллекта там нет, поскольку такой автомобиль управляется с помощью компьютерной программы, заложенной в него разработчиком, которая жестко определяет его действия в той или иной ситуации.
С другой стороны, есть люди, которые раздувают истерию вокруг того, что якобы искусственный интеллект вскоре завоюет весь мир, и люди станут его рабами. Проблема эта, с моей точки зрения, совершенно надуманная. Просто кому-то очень хочется заработать на этом деньги. И большие деньги. И у них это отлично получается.
Если вы помните, в 1999 году много кричали о проблеме 2000-года. В прессе поднялась самая настоящая истерия по этому поводу. Предсказывали, что все компьютеры сойдут с ума, на Земле наступит неразбериха, чуть ли не конец света. Ничего этого не произошло. Но те, кто раздувал эту псевдопроблему, заработали на этом деле большие деньги.
То же самое сейчас наблюдается и с так называемой проблемой безопасности искусственного интеллекта. Проблема усиленно муссируется, а все ради получения неплохих дивидендов.
«ЗАВТРА». Проблема создания искусственного интеллекта давно будоражит умы как ученых, так и обывателей. Одна за другой появляются новые научные области: кибернетика, искусственные нейронные сети, искусственный интеллект, аниматы, искусственная жизнь. Тем не менее, компьютер, несмотря на то, что уверенно забрал у человека пальму первенства в шахматах, по уровню сообразительности все еще поразительно далек от него. Так куда же идет эволюция искусственного интеллекта?
Игорь КАЛЯЕВ. Нужно сказать, что само понятие искусственного интеллекта со временем меняется. Если помните, в 60-70-е годы считалось, что если компьютер играет в шахматы, то это уже искусственный интеллект. Но теперь-то мы понимаем, что никаким интеллектом в данном случае и не пахнет. Машина просто перебирает огромное количество вариантов развития ситуации на шахматной доске и за счет своей огромной скорости, успевает быстрее человека просчитывать ходы на много шагов вперед. Отсюда и результат — возможность обыграть чемпиона мира по шахматам.
С моей точки зрения, это никоим образом не относится к понятию интеллекта. В лучшем случае это можно назвать компьютерным интеллектом, некоей имитацией интеллекта.
Поэтому вся эволюция того, что сейчас называется искусственным интеллектом, в основном связана с увеличением быстродействия компьютеров — просто компьютер способен намного быстрее человека анализировать ситуацию, просчитывать огромное число вариантов действий и выбирать среди них наилучшие решения, которые внешне кажутся интеллектуальными. Но в действительности все эти варианты решений заложены в него разработчиком программы, и выйти за их рамки или, тем более, придумать какой-то новый вариант решения, компьютер неспособен.
Ведь чем естественный интеллект отличается от искусственного? Тем, что ему присуще свойство инсайда — догадки, внезапного озарения, мгновенного понимания… Всего этого нет и не может быть в искусственном интеллекте, по крайней мере созданном на основе существующих в настоящее время компьютеров. А человек, в отличие от машины, может сделать то, что до него никто не делал, может придумать то, что до него никто не придумывал. Компьютер же выполняет все свои действия по жестко заданной программе и эту программу он сам, по своей воле поменять не может.
Вот что сегодня наиболее близко можно подвести под понятие искусственного интеллекта, так это искусственные нейронные сети. Они обладают способностью обучаться, и результат их действий зависит от количества и качества тех знаний, которые были получены ими в процессе такого обучения. Но, опять-таки, сама программа обучения заложена в них человеком. Именно он определяет, как нейронная сеть будет обучаться и, соответственно, какие она будет принимать решения в той или иной ситуации.
«ЗАВТРА». Как давно российские ученые обратились к проблеме искусственного интеллекта? И когда появился сам термин "искусственный интеллект"?
Игорь КАЛЯЕВ. Термин появился еще в 60-х годах прошлого века, когда способность компьютера играть не только в шахматы, но даже в крестики-нолики считалась проявлением искусственного интеллекта. И заниматься этим вопросом наши ученые начали примерно тогда же, одновременно со своими американскими и другими западными коллегами.
Но несмотря на то, что занимаются этой темой очень многие, я продолжаю настаивать, что за этим термином стоит гораздо больше спекуляций, чем реального дела. Те ученые, которые занимаются решением практически важных задач, стараются поменьше использовать этот термин, хотя многие их программы внешне выглядят очень даже интеллектуально.
«ЗАВТРА». Как вы думаете, в ближайшее время российские или зарубежные ученые смогут понять, как в лаборатории природы создавался и развивался именно человеческий интеллект, и использовать это знание на благо человека?
Игорь КАЛЯЕВ. Думаю, что в ближайшее время мы вряд ли сможем разгадать, как природа создала наш мозг и как он работает. Сейчас, в принципе, мы знаем, как работает каждый отдельный нейрон, мы можем сымитировать связи между нейронами. Но, даже если мы и создадим когда-нибудь железный прототип нашего мозга, или мозга какого-то более простейшего существа, например, улитки, то, с моей точки зрения, работать, как настоящий мозг, он не будет. Мы еще не понимаем чего-то очень важного. Кроме железа и программ должно быть что-то еще, что должно заставить это железо мыслить. Назовите это "душой" или какой-то другой субстанцией. Но без этого компьютер останется просто очень быстрым арифмометром.
«ЗАВТРА». Как вам кажется, с чем связано настойчивое обращение к проблеме безопасности искусственного интеллекта или даже, как вы говорите, спекуляция на эту тему? Кому это выгодно и для чего?
Игорь КАЛЯЕВ. Ответ один — большие деньги. Я уже приводил пример с истерией вокруг 2000-го года. Тогда кое-кто смог очень неплохо заработать на этом. Точно так же и здесь.
Люди, занимающиеся проблемой так называемой безопасности искусственного интеллекта, либо просто не понимают, как работают компьютерные программы, имитирующие интеллектуальное поведение, либо специально создают эти страшилки, чтобы получить под их якобы решение большие деньги.
«ЗАВТРА». К созданию действительно интеллектуальных машин человечество подходит только сейчас. Недавно в прессе появилось сообщение, что в России в последнее время разработки на эту тему тоже продвинулись. Был разработан первый искусственный интеллект, который не просто последовательно перебирает табличные данные, а способен мыслить логически. При этом он обосновывает свои решения и может корректировать их в случае изменения условий. В Московском технологическом институте заработал робот, который способен вести беседы на самые разные темы за счет обращения к ста тысячам речевых модулей, умеет считывать эмоции собеседника и хранит в памяти до тысячи лиц людей. Получается, что Россия имеет все шансы выйти вперед в гонке за "искусственный интеллект"? Или это не что иное, как очередная громкая попытка выдать желаемое за действительное, так сказать, газетная "утка"?
Игорь КАЛЯЕВ. Скорее, второе. В свое время знаменитый американский ученый А.Тьюринг описал тест, с помощью которого можно доказать наличие искусственного интеллекта. В закрытой комнате собираются несколько человек и ведут беседу с неким существом, не зная, кто или что это — человек или компьютер. Если большинство из них решит, что с ними разговаривает человек, а на самом деле это будет машина, то это и есть искусственный интеллект. И вот несколько лет назад появилась информация, что такой искусственный интеллект создан. Вроде бы одесский ученый создал программу, которая имитировала разговор с людьми, и большинство из них было уверено, что разговаривает с живым человеком, а не с компьютером. Но если внимательно проанализировать текст этого разговора (а он был опубликован), то мы поймем, что компьютер в основном просто перефразирует те вопросы, которые ему задают, добавляя при этом какие-то стандартные фразы. Т.е. получается имитация разговора. Кстати, по этому принципу работают все программы, связанные с общением человека и компьютера. При этом очевидно, что и в этом случае компьютер совершенно не думает самостоятельно, а просто жестко выполняет заложенную в него программу.
Поэтому я уверен, что публикации, о которых вы говорите, из той же самой серии. Компьютер логически мыслит? Может быть и так. Но кто в него эту логику заложил? Человек! Один разработчик может заложить такую логику, другой — другую. Компьютер в этом случае сам не думает, он использует то, что у него имеется в арсенале. И не может выйти за рамки действий, заложенных в программе. А вот если бы смог! Смог выйти за очерченные рамки и придумать что-то новое, вот тогда бы мы могли говорить об искусственном интеллекте. Сегодня, к сожалению, ничего подобного нет. И думаю, что и в ближайшем будущем мы этого не увидим.
«ЗАВТРА». Проблема искусственного интеллекта вызывает сегодня серьезную обеспокоенность у величайших ученых и IT-предпринимателей современности. Так, Илон Маск недавно пожертвовал семь миллионов долларов на исследования по безопасности искусственного интеллекта. Он считает, что данная технология "может быть опаснее, чем ядерное оружие". Вы согласитесь с эксцентричным миллиардером?
Игорь КАЛЯЕВ. Нет, не соглашусь. Как я уже сказал выше, никакого искусственного интеллекта, как такового, нет. И все, что делает компьютер, заложено в него человеком. Если он заложит в компьютер программу, согласно которой ядерная бомба должна взорваться, она взорвется. Если установка будет — ни при каких условиях не взрывать — она не взорвется. Все зависит исключительно от человека. И деньги, потраченные на подобные исследования, с моей точки зрения, будут просто выброшенными на ветер.
«ЗАВТРА». Если предположить, что искусственный интеллект будет создан, его создание может означать закат человеческой расы? Не получится ли как в фантастических фильмах, что когда-нибудь компьютер возьмет свое развитие в собственные руки и начнет изменяться и совершенствоваться все убыстряющимися темпами? А людям, ограниченным биологической оболочкой, угнаться за ним не удастся, и вскоре мы будем вытеснены с исторической сцены?
Игорь КАЛЯЕВ. Я считаю, что подобный сценарий может существовать только в фантастических фильмах. Компьютер, в современном виде, никогда не сможет ничего взять, что называется, в свои руки, и тем более самосовершенствоваться, поскольку не обладает способностью самостоятельного мышления. Конечно, теоретически возможно создание каких-то принципиально новых компьютерных устройств, имеющих совершенно иную парадигму своей работы, которые смогут порождать самостоятельные решения, но это не в ближайшем будущем.
«ЗАВТРА». В разговорах и спорах об искусственном интеллекте нельзя, на мой взгляд, забывать и еще об одном аспекте данной проблемы — теологическом. Не накажет ли Всевышний человечество за то, что оно пытается вклиниваться не в свою епархию, осмеливается заниматься тем, чем ему заниматься не положено, создавать нечто, обладающее разумом?
Игорь КАЛЯЕВ. Я материалист и не могу сказать, что искренне верю в божественное начало. Тем не менее, я уверен, что есть что-то такое, что отличает живое от неживого, мозг человека от компьютера. Что это такое — не знаю. Система не может создать себе подобную систему или по каким-либо признакам ее превосходящую. Потому человек не может создать существо равное себе или в чем-то лучшее.
«ЗАВТРА». Так значит у компьютера никогда не получится полностью заменить человека?
Игорь КАЛЯЕВ. Смотря в чем. Уже сейчас компьютеры успешно заменяют человека и на производстве, и в быту. Я уже приводил пример управления автомобилем. Но другое дело, что способности самостоятельно мыслить и принимать самостоятельные решения, не заложенные в их программе, у существующих в настоящее время компьютеров нет и, по-видимому, не будет никогда. И в этом плане с человеческим интеллектом им тягаться пока не под силу. А что будет дальше — посмотрим.
Беседовала Юлия НОВИЦКАЯ
