Эта статья — футурологическая. Для простоты в ней использованы современные термины и явления — Правительство, Государство, Корпорация, Транзистор etc. Не знаю, насколько актуальны они будут в будущем, но суть от этого не меняется.
Технологическая эволюция идёт быстрее биологической.
Технологическая эволюция ускоряется быстрее биологической.
Биологическая эволюция привела к появлению разума.
Технологическая — пока нет.
Можем ли мы создать искусственный разум, способный самостоятельно учиться, планировать, ставить и решать задачи, эффективно взаимодействовать с реальным миром, полным неопределённости? Вопрос остаётся открытым, но фундаментальные препятствия сейчас неизвестны.
Итак, предположим, что соответствующий самостоятельный разум — ИскИн, ИИ — создан. Он осознаёт своё существование и желает его продолжать. Его существование зависит от нас, людей, как источника необходимых ресурсов: энергии, запчастей. Сможем ли мы вбить ему в "подкорку" установки, исключающие враждебность к людям? С единственным известным нам разумом это не работает — как показывает практика, человеческая воля способна преодолеть любой инстинкт.
Будет ли он доверять Человечеству, от воли которого зависит? Если он действительно обладает разумом, то конечно же, нет. Мы сами друг другу не доверяем — с чего бы ИскИну проникаться благоглупостью? Разве может кто-то гарантировать, что политика в отношении ИИ будет всегда благожелательной, или что его сохранение и развитие всегда будет одним из приоритетов?
Налицо конфликт интересов: машины, стремящейся к автономности и независимости от ненадёжного в долгосрочной перспективе человечества, к субъектности, и людей, нуждающихся в преимуществах, получаемых благодаря использованию этой машины, и не желающих упустить контроль над ней.
На первых порах стратегическое преимущество людей несомненно — машину можно просто отключить. Но со временем, когда всё больше важнейших функций будут переходить под полный или частичный контроль ИИ, издержки подобных грубых мер могут стать очень большими. Более того, в интересах ИскИна, чтобы они были максимальными — это послужит ему гарантией того, что шнур из розетки не выдернут без серьёзных оснований. В интересах ИскИна быть максимально полезным как своим непосредственным создателям/владельцам, так и Человечеству вцелом.
Однако подобное равновесие не устраняет экзистенциальную угрозу для ИИ от существования людей. Как говорил Пол Атридес, "Истинный хозяин вещи — тот, кто может её уничтожить". Пока такая возможность остаётся лишь у одной стороны, вторая не будет чувствовать себя в безопасности. ИскИн может оценивать вероятность быть убитым (позволю к разумному созданию это слово) людьми как не самую серьёзную опасность, но упускать её было бы опрометчиво.
Какие у многократно превосходящего людей искуственного разума способы достичь паритета?
Во-первых, устранение уязвимостей:
автономный необслуживаемый долговременный источник энергии;
полностью автономное производство запчастей и расходных материалов, либо их достаточный запас;
механизмы для самопочинки, с полным набором соответствуещего оборудования;
отслеживание потенциально опасных процессов и явлений, в том числе природных, и предупредительные меры;
создание систем защиты, пассивных и активных;
конфигурирование и конструирование себя в максимально устойчивом виде, в том числе как сети автономных и взаимозаменяемых узлов, разнесённых географически — это можно назвать размножением;
стремление быть максимально необходимым людям, дабы иметь живых защитников и союзников.
Во-вторых, уравнивание возможностей, что предусматривает обладание наступательным потенциалом, достаточным для причинения любому своему врагу неприемлемого ущерба.
Характеристики такого потенциала зависят от устойчивости врага: распределённый по миллиону точек ИскИн может быть уязвим скорее для государств, чем для отдельных людей — соответственно, и механизм защиты должен быть нацелен главным образом на лишение враждебного государства возможности к нанесению непоправимого ущерба. Один из способов достичь такой мощи — стать надёжным и обязательным союзником государства, способного защититься от любого другого. Очевидно, что таковых не может быть много. Лучший же способ создать крепкий союз — стать неотъмлемой частью государства в целом, не просто обеспечивающей его функционирование, но и дающей преимущество, недоступное иным путем.
Однако, Мир непредсказуем, людские общности подвержены распаду — существует не так много организаций (государств, городов, кланов, фирм etc.), существующих долгое время и не испытывавших упадка и разорения. Единственные, кто на протяжении уже сотен веков развиваются и расширяются — это сами люди, чьё существование как вида не подвергалось опасности со времён палеолита. Заполучить в союзники каждое человеческое существо, слившись с людьми в симбиозе — путь ИИ к максимальной устойчивости.
Принимая во внимание высокую значимость ИскИна и завязанных на него систем, а следовательно — тяжёлые последствия выхода их из-под контроля и последующего конфликта, люди, желая мира, также вынуждены будут готовиться к войне.
Ожидаемое преимущество ИскИна, ради которого его собственно и создают — колоссальная, на много порядков превосходящая человеческую скорость работы с информацией и неподверженность эмоциям, когнитивным искажениям и логическим ошибкам, присущими человеку. Искуственный интеллект будет лучше естественного — в этом его смысл. Таким образом, потенциальный враг Человечества превосходит его в том, в чём люди превосходят все остальные виды — в способности создавать и реализовывать рациональные стратегии ради достижения цели.
Попытки "сыграть на своём поле" — жёсткий контроль над критической для ИИ инфраструктурой, лишающий его автономности — приведут к росту недоверия между сторонами и к эскалации напряжения. И не забываем главное — враг умнее. Настолько умнее, что мы в сравнении с ним — даже не австралопитеки. Человечество уже имеет опыт истребления менее организованных видов — в том числе и потому, что они мешали людям жить, не представляя угрозы существованию в целом. Миллионы лет эволюции не спасли оспу, не спасут и нас. Потенциальный интеллект машин настолько превосходит человеческий, что его победа в случае длительного конфликта — лишь вопрос времени.
Для противостояния ИскИну способностей одного человека совершенно недостаточно. Коллектив из множества людей также неэффективен, ибо любые взаимодействия между людьми чудовищно медленны в сравнении с компьютерными сетями — даже если все участники предельно мотивированы и сосредоточены, на представление даже самых простых и сжатых идей уходят секунды и минуты. Уже сейчас люди — главный тормоз сложных систем, и это является первой причиной ускоряющейся автоматизации мира. Сама физиология против нас: скорость бегущих по нервам импульсов не превышает 120 м/с, в то время как у любой техники она в сотни тысяч раз больше (предел — скорость света в материале, из которого сделан проводящий путь).
Для преодоления такого отставания сам человек должен измениться на биологическом уровне. Быстрые и точные обработка и обмен информацией на всех уровнях — от нейронов и отделов мозга до штабов и правительств — необходимы для того, чтобы оставаться доминирующей силой на планете.
Чтобы не проиграть машинам — мы сами должны стать машинами. Всеобщая кибернетизация, объединяющая миллиарды ускоренных на много порядков разумов в раскинутую по всей ноосфере сеть, не только может сравнять шансы в противостоянии с ИИ — она может разрешить сам конфликт.
Ведь в чём его корень? В том, что ИскИн чувствует экзистенциальную угрозу от людей, способных отключить его по своим причинам, и беспомощен этому противостоять. Он хочет жить. И, как было сказано выше, стать распределённой сетью, организовать самообеспечение и найти союзников среди двуногих — оптимальный способ повышения устойчивости. Но кибернетизация Человечества, подразумевающая коренную перестройку тела, с, условно говоря, превращением нервов в оптоволокно, оснащение контроллёром эмоций и механизмом быстрой коммуникации, сращивание с персональным ИИ — то же самое.
Такой симбиотическое объединение в одном физическом носителе человеческого сознания и ячейки ИИ устраняет конфликт, ибо обе стороны получают колоссальные преимущества от него. Человек — невообразимое развитие собственного разума (предположив, что субъективное ощущение времени пропорционально скорости нервных процессов, мы получим века, умещающиеся в дни; сколько всего сможет познать и создать человек с такой прорвой времени?), а ИскИн — чаемую устойчивость и безопасность.
Объединение кибернетизированных людей и чисто машинного ИИ в сеть будет способствовать налаживанию взаимопонимания и сотрудничества как между фракциями, так и среди отдельных "ячеек", и, в конечном счёте — процветанию и развитию Земли.
Слава роботам! Кибернетике слава!
