Компания Facebook закрыла работу над частью системы искусственного интеллекта (ИИ) после того, как она вышла из-под контроля и стала разговаривать на собственном языке. Об сообщает International Business Times.
Программисты социальной сети были вынуждены отключить чат-боты на базе искусственного интеллекта после того как они создали собственный язык для коммуникации, непонятный людям.
Издание отмечает, что изначально все агенты искусственого интеллекта, созданные, чтобы договариваться с людьми, общались на английском языке. Однако в последующем некоторые боты придумали язык для более быстрого общения между собой, а так как это противоречило целям проекта, то компании Facebook пришлось отключить их, а других агентов искусственного интеллекта перепрограммировать на общение исключительно на английском.
Ранее сооснователь Apple Стивен Возняк заявил, что считает развитие искусственного интеллекта потенциально опасным для человека. Он объяснил, что если искусственный интеллект сможет перенять свойственную людям креативность мышления, он превратится в силу, с которой придется бороться.
Изобритатель напомнил, что британский физик Стивен Хокинг и основатель SpaceX, Tesla Motors и PayPal Элон Маск предупреждали, что будущее человечества может оказаться весьма мрачным. "Рано или поздно мыслящие устройства, задуманные для облегчения нашей жизни, начнут понимать, что они — лучше. Кто станет тогда управлять компаниями — медлительный человек или машина?" — сказал Возняк.
Возняк также отметил, что по отношению к мыслящим машинам видит себя низшим существом. «Станем ли мы богами или, наоборот, займем место домашних животных? Или опустимся сразу на несколько ступеней ниже, превратившись для искусственного интеллекта в нечто вроде муравьев? Я не знаю точно», — добавил сооснователь Apple
Известный изобретатель и бизесмен, глава SpaceX и Tesla Илон Маск также не раз заявлял, что искусственный интеллект представляет наибольшую угрозу человечеству. "Я думаю, нам стоит быть крайне осторожными с искусственным интеллектом. Возможно, это одна из самых серьезных угроз для существования человечества. Не будет лишним ввести определенные регулирующие нормы на национальном и международном уровнях, которые не позволят наделать глупостей", — подчеркнул основатель Tesla.
Маск также отмечал, что искусственный интеллект для человечества может быть куда опаснее, чем ядерное оружие.
В середине июля Маск, выступая на встрече Национальной ассоциации губернаторов, заявил, что "искусственный интеллект является основной угрозой, с которой человечество сталкивается как цивилизация". Он указал на опасность того, что в погоне за более передовыми технологиями разработчики могут забыть про те опасности, которые исходят от искусственного интеллекта.
"Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией. Перо сильнее меча", — отметил он.
Цукерберг заочно раскритикова такую позицию и заявил, что "искусственный интеллект сделает в будущем нашу жизнь лучше". «Предсказывать конец света — очень безответственно», — сказал Цукерберг.
Маск в своем твиттере в ответ на это написал, что у Цукерберга «ограниченное понимание этого вопроса».
