30 января 2024 года редактор The Atlantic Андриенн ЛаФранс опубликовала в своем издании статью «Подъем техно – авторитаризма». Автор пишет:
«Кремниевая долина имеет свою собственную восходящую политическую идеологию. Давно пора называть вещи своими именами.
Если бы вам нужно было описать господствующую идеологию Кремниевой долины в одном анекдоте, вы могли бы сначала взглянуть на Марка Цукерберга, который около 20 лет назад сидел в голубом свете своего компьютера и болтал с другом о том, как его новый веб-сайт The Facebook* предоставил ему доступ к огромному количеству личной информации о его сокурсниках:
Цукерберг: Да, поэтому, если вам когда-нибудь понадобится информация о ком-либо в Гарварде
Цукерберге: просто спросите.
Цукерберг: У меня более 4000 электронных писем, фотографий, адресов, SNS
Друг: что? Как вам это удалось?
Цукерберг: Люди сами отправили все это.
Цукерберг: Я не знаю почему.
Цукерберг: Они «доверяют мне»
Цукерберг: Гребанные ублюдки.
За этим разговором, о котором позже стало известно из просочившихся записей чата, вскоре последовал другой, не менее красноречивый, хотя и более манерный. На знаменитой рождественской вечеринке в 2007 году Цукерберг впервые встретился с Шерил Сэндберг, своим будущим главным операционным директором, которая вместе с Цукербергом превратила платформу в цифровую империалистическую сверхдержаву. Там Цукерберг, который в первые дни существования Facebook взял на вооружение мантру «Компания важнее страны», объяснила Сэндберг, что он хочет, чтобы каждый американец, имеющий подключение к Интернету, имел учетную запись в Facebook. Для Сэндберг, которая однажды сказала коллеге, что она «была послана на эту планету, чтобы масштабировать организации», это оказалось идеальной миссией.
Facebook (теперь Meta) стал олицетворением всего, что не так с Кремниевой долиной. Его своекорыстная роль в распространении глобальной дезинформации является продолжающимся кризисом. Вспомните также секретный эксперимент компании по манипулированию настроением в 2012 году, в ходе которого пользователи намеренно изменили то, что пользователи видели в своей ленте новостей, чтобы измерить, как Facebook может влиять на эмоциональное состояние людей без их ведома. Или участие в подстрекательстве к геноциду в Мьянме в 2017 году. Или его использование в качестве клубного дома для планирования и проведения нападения на Капитолий 6 января 2021 года. (В первые дни существования Facebook Цукерберг перечислял «революции» среди своих интересов. Это было примерно в то время, когда у него была напечатана визитная карточка с надписью «я генеральный директор, сука».)
И все же, в значительной степени, способ ведения бизнеса Facebook остается нормой для технологической индустрии в целом, даже несмотря на то, что другие социальные платформы (TikTok) и технологические разработки (искусственный интеллект) затмевают Facebook по культурной значимости.
Чтобы поклониться на алтаре мега-масштаба и убедить себя в том, что вы должны быть тем, кто принимает всемирно-исторические решения от имени граждан мира, которые не избирали вас и могут не разделять ваши ценности или их отсутствие, вы должны обойтись без многочисленных неудобств, среди которых смирение и нюансы. Многие титаны Кремниевой долины неоднократно шли на эти компромиссы. YouTube (принадлежащий Google), Instagram* (принадлежащий Meta) и Twitter** (который Илон Маск настаивает на том, чтобы называть X) нанесли такой же ущерб правам личности, гражданскому обществу и глобальной демократии, как и Facebook.
Учитывая то, как генеративный ИИ сейчас развивается по всей Кремниевой долине, мы должны быть готовы к тому, что в ближайшие годы этот ущерб многократно возрастет.
Поведение этих компаний и людей, которые ими управляют, часто лицемерно, жадно и одержимо статусом. Но в основе этой продажности лежит нечто более опасное, четкая и последовательная идеология, которую редко называют тем, чем она является: авторитарной технократией. По мере того, как самые могущественные компании в Кремниевой долине взрослели, эта идеология становилась все сильнее, более самодовольной, более заблуждающейся и, перед лицом растущей критики, более обиженной.
Новые технократы демонстративно используют язык, апеллирующий к ценностям просвещения — разуму, прогрессу, свободе, — но на самом деле они возглавляют антидемократическое, нелиберальное движение. Многие из них заявляют о безоговорочной поддержке свободы слова, но мстительны по отношению к тем, кто говорит то, что им не льстит. Они, как правило, придерживаются эксцентричных убеждений:
что технический прогресс любого рода безоговорочно и по своей сути хорош;
что вы всегда должны строить его, просто потому, что вы можете;
что бесперебойный поток информации является наивысшей ценностью независимо от качества информации;
что неприкосновенность частной жизни – это архаичное понятие;
что мы должны приветствовать тот день, когда машинный интеллект превзойдет наш собственный;
и, прежде всего, чтобы их власть была неограниченной.
Системы, которые они построили или строят — чтобы:
перестроить коммуникации;
переделать человеческие социальные сети;
внедрить искусственный интеллект в повседневную жизнь;
и многое другое — навязывают эти убеждения населению, с которым не советуются и, как правило, не информируют.
И все это при том, что они до сих пор пытаются увековечить абсурдный миф о том, что они отчаянные аутсайдеры.
Сравнения между Кремниевой долиной и Уолл-стрит или Вашингтоном, являются обычным делом, и вы можете понять, почему: все они являются центрами силы, и все они являются магнитами для людей, чьи амбиции слишком часто опережают их человечность. Но влияние Кремниевой долины легко превосходит влияние Уолл-стрит и Вашингтона. Он перестраивает общество более глубоко, чем любой другой центр власти в любую другую эпоху, возможно, со времен Нового курса.
Многие американцы справедливо обеспокоены растущим авторитаризмом среди республиканцев MAGA, но они рискуют игнорировать другую движущую силу антилиберализма: склонных к истерикам и чрезвычайно могущественных королей технологий.
Шекспировская драма, развернувшаяся в конце прошлого года в OpenAI, подчеркивает, до какой степени худший менталитет Facebook «двигайся быстро и ломай вещи» был усвоен и прославлен в Кремниевой долине. OpenAI была основана в 2015 году как некоммерческая организация, занимающаяся внедрением общего искусственного интеллекта в мир таким образом, чтобы он служил общественному благу. В основе ее формирования лежала вера в то, что технология была слишком мощной и слишком опасной, чтобы ее можно было разрабатывать только из коммерческих соображений.
Но в 2019 году, когда технология начала поражать даже людей, которые работали над ней, скоростью, с которой она продвигалась, компания добавила коммерческое подразделение, чтобы привлечь больше капитала. Microsoft инвестировала сначала 1 миллиард долларов, а затем еще много миллиардов долларов. Затем, прошлой осенью, генеральный директор компании Сэм Альтман был уволен, а затем быстро принят на работу, что стало сигналом к разрушению ранее установленных защитных мер OpenAI против того, чтобы компания доминировала над страной. Те, кто хотел, чтобы Альтман ушел, как сообщается, считали, что он слишком сильно отдает приоритет темпам разработки, а не безопасности. Но ответ Microsoft — предложение пригласить Альтмана и кого-либо еще из OpenAI для воссоздания его команды — положил начало игре в курицу, которая привела к восстановлению Альтмана. Весь инцидент был беспорядочным, и Альтман вполне может быть подходящим человеком для этой работы, но посыл был ясен: погоня за масштабом и прибылью решительно победила проблемы безопасности и подотчетности перед обществом.
Кремниевая долина по-прежнему привлекает множество чрезвычайно талантливых людей, которые стремятся творить добро и работают над созданием наилучшей возможной версии более взаимосвязанного, богатого данными глобального общества.
Даже самые вредные компании создали несколько замечательных инструментов. Но эти инструменты, в масштабе, также являются системами манипулирования и контроля:
они обещают общность, но сеют раздор;
они утверждают, что отстаивают истину, но распространяют ложь;
они окутывают себя такими понятиями, как расширение прав и возможностей и свобода, но неустанно следят за нами.
Ценности, которые побеждают, как правило, это те, которые лишают нас свободы воли и удерживают нас зависимыми от наших лент.
Теоретические перспективы искусственного интеллекта столь же обнадеживающие, как когда-то были обещания социальных сетей, и столь же ослепительные, как и проект самых пристрастных архитекторов. Искусственный интеллект действительно может вылечить множество болезней. Это действительно могло бы трансформировать науку и раскопать утраченные знания. За исключением того, что Кремниевая долина, находясь под влиянием своих худших технократических импульсов, следует сценарию, установленному в массовом масштабировании и монополизации социальных сетей.
OpenAI, Microsoft, Google и другие корпорации, лидирующие в разработке ИИ, не сосредотачиваются на областях, в которых существует наибольшая общественная или эпистемологическая потребность, и, конечно, они не работают с какой-либо степенью прозрачности или осторожности. Вместо этого они участвуют в гонке за более быстрым строительством и максимизацией прибыли.
Ничто из этого не происходит без лежащей в основе технократической философии неизбежности, то есть идеи о том, что если вы можете построить что-то новое, вы должны это сделать.
«Я думаю, что в нормально функционирующем мире это должен быть проект правительств», — сказал Альтман моему коллеге Россу Андерсену в прошлом году, имея в виду попытки OpenAI разработать общий искусственный интеллект. Но Альтман все равно собирался продолжать строить его сам. Или, как сказал Цукерберг в интервью The New Yorker много лет назад: «Разве это не неизбежно, что будет огромная социальная сеть людей? ... Если бы мы этого не сделали, это сделал бы кто-то другой».
Технократия впервые расцвела как политическая идеология после Первой мировой войны, среди небольшой группы ученых и инженеров в Нью-Йорке, которые хотели создать новую социальную структуру, которая заменила бы представительную демократию, поставив во главе технологическую элиту. Несмотря на то, что их движение потерпело политический крах — людям в конечном итоге больше понравился «Новый курс» президента Франклина Д. Рузвельта, — оно имело больший успех в интеллектуальном плане, войдя в дух времени наряду с модернизмом в искусстве и литературе, которые разделяли некоторые из его ценностей. Модернистский лозунг американского поэта Эзры Паунда «Сделай это новым» легко мог бы стать мантрой для технократов. Параллельным движением были итальянские футуристы, возглавляемые такими фигурами, как поэт Ф. Т. Маринетти, который использовал такие максимы, как «Марш, не плесневел» и «Созидание, а не созерцание».
Как для технократов, так и для футуристов идеалом было действие ради него самого. «Мы не довольствуемся тем, что бродим по саду, окруженному темными кипарисами, склоняясь над руинами и мшистым антиквариатом», — сказал Маринетти в своей речи в 1929 году. «Мы считаем, что единственная достойная традиция Италии – это то, что у нее никогда не было традиции». Выдающиеся футуристы использовали их рвение к технологиям, действию и скорости и в конечном итоге превратили его в фашизм. Вслед за «Манифестом футуризма» (1909) Маринетти последовал «Фашистский манифест» (1919). Его друг Паунд был влюблен в Бенито Муссолини и сотрудничал с его режимом, чтобы вести радиошоу, в котором поэт пропагандировал фашизм, восхвалял «Майн кампф» и восхвалял как Муссолини, так и Адольфа Гитлера. Эволюция футуризма в фашизм не была неизбежной — многие друзья Паунда боялись его или думали, что он сошел с ума, — но она показывает, как во времена социальных волнений культурное движение, основанное на радикальном отрицании традиций и истории и окрашенное обидой, может стать политической идеологией.
В октябре 2023 года венчурный капиталист и технократ Марк Андриссен опубликовал на веб-сайте своей фирмы документ, который он назвал «Манифест технооптимистов» (The Techno-Optimist Manifesto), идеологический коктейль из 5000 слов, который жутко напоминает итальянских футуристов, таких как Маринетти. Андриссен, помимо того, что является одним из самых влиятельных инвесторов-миллиардеров Кремниевой долины, печально известен своей тонкокожей и упрямостью, и, несмотря на призыв к оптимизму в названии, эссе, кажется, отчасти вызвано его чувством обиды на то, что технологии, которые он и его предшественники продвинули, больше не «должным образом прославляются». Это показательный документ, отражающий мировоззрение, которое продвигают он и его коллеги-технократы.
Андриссен пишет, что «нет ни одной материальной проблемы», в том числе вызванной технологией, которая «не могла бы быть решена с помощью большего количества технологий». Он пишет, что технологии должны не только постоянно развиваться, но и ускоряться в своем развитии, «чтобы гарантировать, что восходящая спираль технокапитала будет продолжаться вечно». И он подверг резкой критике то, что он называет кампаниями против технологий, под такими названиями, как «техническая этика» и «экзистенциальный риск».
Или возьмем то, что можно считать Апостольским Символом веры его зарождающегося политического движения:
Мы считаем, что мы должны поместить интеллект и энергию в петлю положительной обратной связи и довести их до бесконечности;
Мы верим в приключения. Отправиться в путешествие героя, восстать против статус-кво, нанести на карту неизведанную территорию, победить драконов и принести домой трофеи для нашего сообщества;
Мы верим в природу, но мы также верим в преодоление природы. Мы не примитивные люди, съеживающиеся от страха перед ударом молнии. Мы — высшие хищники. Молния работает на нас.
Андриссен выделяет несколько «святых покровителей» своего движения, среди которых и Маринетти. Он цитирует «Манифест футуризма», заменяя «поэзию» Маринетти на «технологию»:
Красота существует только в борьбе;
Нет ни одного шедевра, который не имел бы агрессивного характера;
Технология должна быть яростным нападением на силы неведомого, чтобы заставить их склониться перед человеком.
Следует отметить, что манифест Андриссена не является фашистским документом, но является экстремистским. Он занимает разумную позицию о том, что технология в целом значительно улучшила человеческую жизнь, и искажает ее, чтобы прийти к абсурдному выводу, что любая попытка сдержать технологическое развитие при любых обстоятельствах отвратительна. Эта позиция, если рассматривать ее без цинизма, имеет смысл только как религиозное убеждение, а на практике она служит только для того, чтобы освободить его и других гигантов Кремниевой долины от любого морального или гражданского долга делать что-либо, кроме создания новых вещей, которые обогатят их, не обращая внимания на социальные издержки или историю. Андриссен также выделяет список врагов и «зомби-идей», которых он призывает своих последователей победить, среди которых «институты» и «традиции».
«Наш враг, — пишет Андриссен, — это всезнайка, признанное экспертное мировоззрение, потворствующее абстрактным теориям, верованиям в роскошь, социальной инженерии, оторванное от реального мира, бредовое, неизбранное и неподотчетное — играющее в Бога с жизнями всех остальных, с полной изоляцией от последствий».
Ирония заключается в том, что это описание очень близко подходит к Андриссену и другим элитам Кремниевой долины. Мир, который они создали за последние два десятилетия, несомненно, является миром безрассудной социальной инженерии, не имеющей последствий для его архитекторов, которые навязывают всем нам свои собственные абстрактные теории и верования в роскошь.
Некоторые из индивидуальных принципов, которые Андриссен выдвигает в своем манифесте, являются безобидными. Но его всеобъемлющий радикализм, учитывая его положение и власть, должен заставить вас сесть прямо. Ключевые фигуры в Кремниевой долине, включая Маска, в последние годы явно потеплели к нелиберальным идеям.
Главные опасности авторитарной технократии на данный момент не являются политическими, по крайней мере, в традиционном смысле. Тем не менее, немногие избранные уже имеют авторитарный контроль, в большей или меньшей степени, чтобы устанавливать правила и культурные нормы цифрового мира, которые могут быть столь же мощными, как и политическая власть.
В1961 году в своей прощальной речи президент Дуайт Эйзенхауэр предупредил нацию об опасностях грядущей технократии. «С уважением относясь к научным исследованиям и открытиям, — сказал он, — мы должны также помнить о равной и противоположной опасности того, что государственная политика сама может стать пленницей научно-технической элиты. Задача государственного деятеля состоит в том, чтобы формировать, уравновешивать и интегрировать эти и другие силы, новые и старые, в рамках принципов нашей демократической системы, всегда стремясь к высшим целям нашего свободного общества».
Восемь лет спустя первые компьютеры страны были подключены к сети ARPANET, предшественнице Всемирной паутины, которая стала широко доступной в 1993 году. В то время Кремниевая долина считалась утопией для амбициозных капиталистов и оптимистичных изобретателей с оригинальными идеями, которые хотели изменить мир, не обремененные бюрократией или традициями, работая со скоростью интернета (14,4 килобит в секунду в те времена). У этой культуры были свои недостатки даже в самом начале, но она также была изобретательной в отчетливо американском ключе, и это привело к созданию преобразующего, иногда даже ошеломляюще красивого аппаратного и программного обеспечения».
«В течение долгого времени, - пишет Андриенн ЛаФранс - я склонялась к тому, что касается регулирования технологий, на стороне Андриссен. Я верила в то, что социальные сети все еще могут быть чистым благом, и что при наличии достаточного количества времени ценности, которые лучше всего служат общественным интересам, естественным образом победят. Я сопротивлялась идее о том, что регулирование социальных сетей вообще необходимо, отчасти потому, что я не была (и до сих пор не убеждена) в том, что правительство может делать это, не причиняя себе вреда (европейская модель регулирования, включая такие законы, как так называемое право на забвение, глубоко несовместима с защитой свободной прессы в Америке), и представляет опасность для права общественности на информацию). Я бы предпочла, чтобы рыночная конкуренция была движущей силой технологического совершенствования и улучшения общества.
Но в последние годы стало ясно, что регулирование необходимо, не в последнюю очередь потому, что рост технократии доказывает, что лидеры Кремниевой долины просто не будут действовать в интересах общества. Многое должно быть сделано для того, чтобы защитить детей от опасностей, связанных с социальными сетями, разрушить монополии и олигополии, которые наносят ущерб обществу, и многое другое. В то же время, я считаю, что одного регулирования будет недостаточно для того, чтобы осмысленно бороться с культурной гнилью, которую распространяют новые технократы.
Университеты должны вернуть себе подобающее им положение в качестве лидеров в разработке технологий, меняющих мир, на благо человечества. (Гарвард, Стэнфорд и Массачусетский технологический институт могли бы инвестировать в создание консорциума для таких усилий — их фонды в совокупности оцениваются примерно в 110 миллиардов долларов.)
Отдельные люди тоже должны будут проложить путь.
Возможно, вы не сможете полностью отказаться от социальных сетей или отказаться от программного обеспечения для слежки на вашем рабочем месте — возможно, вы даже не захотите отказаться от этих вещей. Но в определении идеалов заключена необычайная сила, и мы все можем начать делать это для себя; для наших сетей реальных, реальных друзей; для наших школ; для наших мест поклонения.
Было бы мудро разработать более сложные общие нормы для обсуждения и принятия решений о том, как мы используем инвазивные технологии на межличностном уровне и в наших сообществах. Это должно включать в себя оспаривание существующих норм об использовании приложений и YouTube в классах, повсеместное распространение смартфонов в руках подростков и широко распространенное пренебрежение частной жизнью. Люди, которые считают, что мы все заслуживаем лучшего, должны будут активизироваться, чтобы возглавить такие усилия.
Наши дети — это не наборы данных, которые ждут, чтобы их количественно оценили, отследили и продали. Наши интеллектуальные результаты — это не просто учебное пособие для ИИ, которое будет использоваться для подражания и плагиата. Наша жизнь предназначена не для того, чтобы быть оптимизированной с помощью экрана, а для того, чтобы быть прожитой — во всей нашей беспорядочной, лазающей по деревьям, плавающей ночью, полной приключений красоты. Мы все становимся лучшей версией самих себя, когда мы не пишем твиты, не нажимаем «Нравится» или не прокручиваем, не прокручиваем, не прокручиваем, не прокручиваем.
Технократы правы в том, что технологии являются ключом к тому, чтобы сделать мир лучше. Но сначала мы должны описать мир таким, каким мы хотим его видеть, — проблемы, которые мы хотим решить в общественных интересах и в соответствии с ценностями и правами, которые способствуют человеческому достоинству, равенству, свободе, неприкосновенности частной жизни, здоровью и счастью. И мы должны настаивать на том, чтобы лидеры организаций, которые нас представляют, — больших и малых, — использовали технологии таким образом, чтобы они отражали то, что хорошо для людей и общества, а не только то, что обогащает технократов».
Мы не должны жить в мире, который создают для нас новые технократы. Мы не обязаны соглашаться с их растущим проектом дегуманизации и интеллектуального анализа данных. У каждого из нас есть свобода воли».
Комментарий Е.Л., В.О:
Автор статьи весьма точно указала на опасности техно – авторитаризма как идеологии Кремниевой долины. И трудно не согласиться с ее выводом о близости этих идей с самим фашизмом.
Только удивительно, что автор не развивает эту мысль и не показывает неразрывную связь идеологии Кремниевой долины с идеологией главных заказчиков и соисполнителей исследований Кремниевой долины – спецслужб США, ВПК и Пентагона.
Достаточно вспомнить историю Эдвина Сноудена, который раскрыл связь АНБ и Кремниевой долины. Кроме этого, в самих США проведено немало журналистских расследований, которые вскрывают взаимозависимость «гениев» технологий и тех, кто контролирует американское общество с помощью этих технологий.
Их совместная идеология и практика все более походит на неофашистскую.
*соцсети запрещённой в РФ экстремистской организации Meta Platforms Inc.
**социальная сеть, заблокированная в России
