Facebook отключил искусственный интеллект, который начал общаться на собственном языке





Компания Facebook была вынуждена закрыть одну из своих систем искусственного интеллекта после того, как программисты обнаружили, что боты, запрограммированные для общения друг с другом, начали общаться на собственном языке, непонятном людям, пишет TechTimes.

Изначально боты общались на английском языке, однако они не были ограничены только им и создали свой собственный язык, с помощью которого им, видимо, было проще и быстрее обмениваться информацией. Созданный искусственный язык, судя по всему, состоит из английских слов, но имеет иную грамматическую структуру.

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

Вышеприведенные фразы, которые кажутся бессмыслицей для человека, являются примером общения между двумя ботами. Краткий анализ этой беседы ботов провел один из профессоров лингвистики Пенсильванского университета. Он отмечает, что в этом примере Alice неоднократно повторяет одну и ту же фразу (на самом деле это не совсем так, поскольку происходит замена одного из слов: zero / a ball / 0). Тем не менее, смысл многократного повторения фразы "to me" совершенно неясен (хотя это и напоминает бинарный код, как и многократное повторение "i", которое использует Bob). При этом Bob каждый раз отвечает по-разному, что может говорить о том, что каждая фраза Alice имеет для него свой собственный смысл.

Впрочем, нельзя исключать и того, что вся эта беседа действительно является бессмыслицей, а сам "искусственный язык ботов" получен в результате ошибок программирования. Иначе говоря, возможно, что боты вовсе не общаются на каком-либо языке, понимая друг друга, а просто обмениваются бессмысленными наборами слов английского языка.

Обнаружив, что общение ботов вышло из-под контроля, поскольку стало недоступным для понимания, в Facebook решили отключить систему искусственного интеллекта, после чего перепрограммировали ее, ограничив возможность общения только английским языком.

В связи с этим можно отметить, что в середине июля основатель компаний SpaceX и Tesla Илон Маск назвал искусственный интеллект «фундаментальной угрозой для человечества». По словам Маска, основная опасность исходит от внедрения технологий искусственного интеллекта в Интернет.

«Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией», — считает Маск.

Автор: Softodrom.ru
Дата:
Новые статьи: Наука и техника
03.08.2020 23:50

«Калашников» показал советские самозарядные винтовки

По ряду причин попытка советских конструкторов создать самозарядное оружие оказалась менее удачной, чем у американских коллег

03.08.2020 18:23

Рошаль назвал пандемию «репетицией биологической войны»

Глава Национальной медицинской палаты, сопредседатель Центрального штаба Общероссийского народного фронта доктор Леонид Рошаль считает, что пандемия коронавируса является «репетицией биологической войны»

03.08.2020 14:02

Названы сроки начала выпуска российского электромобиля

Глава Минпромторга Денис Мантуров рассказал, когда начнется серийное производство российского электромобиля Zetta и почему оно до сих не началось

31.07.2020 16:48

Китай запустил конкурента ГЛОНАСС и GPS

В мероприятиях по случаю запуска китайской навигационной спутниковой системы «Бэйдоу-3» принял участие председатель КНР Си Цзиньпин

31.07.2020 16:08

В технополисе «Эра» создали облегченное портативное зарядное устройство для военных

По словам разработчиков, у отечественного изобретения есть зарубежные аналоги, однако их масса превышает 2 кг

Популярное: Наука и техника
03.08.2020 23:50

«Калашников» показал советские самозарядные винтовки

По ряду причин попытка советских конструкторов создать самозарядное оружие оказалась менее удачной, чем у американских коллег

03.08.2020 14:02

Названы сроки начала выпуска российского электромобиля

Глава Минпромторга Денис Мантуров рассказал, когда начнется серийное производство российского электромобиля Zetta и почему оно до сих не началось

03.08.2020 18:23

Рошаль назвал пандемию «репетицией биологической войны»

Глава Национальной медицинской палаты, сопредседатель Центрального штаба Общероссийского народного фронта доктор Леонид Рошаль считает, что пандемия коронавируса является «репетицией биологической войны»

09.06.2019 21:28

Эксперты оценили разные варианты уничтожения человечества

В феврале 2021 года истекает договор между Россией и США об ограничении ядерных вооружений, подписанный Дмитрием Медведевым и Бараком Обамой, и стороны пока далеки от его продления

31.07.2020 16:08

В технополисе «Эра» создали облегченное портативное зарядное устройство для военных

По словам разработчиков, у отечественного изобретения есть зарубежные аналоги, однако их масса превышает 2 кг

lllevin
lllevin, 01.08.2017 13:59
Не долго ж музыка играла... Хорошо хоть выключили - я надеюсь.
utrennik
utrennik, 01.08.2017 12:17
Боты не только в комментариях общаются, они целые сайты открывают со всякой белибердой. Эти сайты заглатывают поисковики, индексируют их и отображают в топе. Вот вам и хвалёный искусственный интеллект поисковых систем, который не может справиться с мелкими ботами.
» Прочитать остальные / Написать свой комментарий

Новости /
Наука и техника /
Facebook отключил искусственный интеллект, который начал общаться на собственном языке
Все рубрики статей:
Статистика | Рейтинги | Авторам | Реклама
Copyright © 1999-2020 Softodrom.ru
О перепечатках | Рассылки | Пользовательское соглашение | Политика конфиденциальности | О проекте | Карта сайта
Яндекс.Метрика