Facebook отключил искусственный интеллект, который начал общаться на собственном языке

Компания Facebook была вынуждена закрыть одну из своих систем искусственного интеллекта после того, как программисты обнаружили, что боты, запрограммированные для общения друг с другом, начали общаться на собственном языке, непонятном людям, пишет TechTimes.

Изначально боты общались на английском языке, однако они не были ограничены только им и создали свой собственный язык, с помощью которого им, видимо, было проще и быстрее обмениваться информацией. Созданный искусственный язык, судя по всему, состоит из английских слов, но имеет иную грамматическую структуру.

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

Вышеприведенные фразы, которые кажутся бессмыслицей для человека, являются примером общения между двумя ботами. Краткий анализ этой беседы ботов провел один из профессоров лингвистики Пенсильванского университета. Он отмечает, что в этом примере Alice неоднократно повторяет одну и ту же фразу (на самом деле это не совсем так, поскольку происходит замена одного из слов: zero / a ball / 0). Тем не менее, смысл многократного повторения фразы "to me" совершенно неясен (хотя это и напоминает бинарный код, как и многократное повторение "i", которое использует Bob). При этом Bob каждый раз отвечает по-разному, что может говорить о том, что каждая фраза Alice имеет для него свой собственный смысл.

Впрочем, нельзя исключать и того, что вся эта беседа действительно является бессмыслицей, а сам "искусственный язык ботов" получен в результате ошибок программирования. Иначе говоря, возможно, что боты вовсе не общаются на каком-либо языке, понимая друг друга, а просто обмениваются бессмысленными наборами слов английского языка.

Обнаружив, что общение ботов вышло из-под контроля, поскольку стало недоступным для понимания, в Facebook решили отключить систему искусственного интеллекта, после чего перепрограммировали ее, ограничив возможность общения только английским языком.

В связи с этим можно отметить, что в середине июля основатель компаний SpaceX и Tesla Илон Маск назвал искусственный интеллект «фундаментальной угрозой для человечества». По словам Маска, основная опасность исходит от внедрения технологий искусственного интеллекта в Интернет.

«Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией», — считает Маск.

Автор:	Softodrom.ru
Дата:	01.08.2017

Комментарии

lllevin, 01.08.2017 13:59

Не долго ж музыка играла... Хорошо хоть выключили - я надеюсь.

utrennik, 01.08.2017 12:17

Боты не только в комментариях общаются, они целые сайты открывают со всякой белибердой. Эти сайты заглатывают поисковики, индексируют их и отображают в топе. Вот вам и хвалёный искусственный интеллект поисковых систем, который не может справиться с мелкими ботами.

» Прочитать остальные / Написать свой комментарий

Новости > Наука и техника > Facebook отключил искусственный интеллект, который начал общаться на собственном языке

Все рубрики статей:

Топ-сегодня: Наука и техника

6 млн россиян лишатся работы из-за роботизации
Развитие роботизации может привести к тому, что около 90% работы людей будет автоматизировано

В России начали разработку оборудования для сетей 5G
Сети связи пятого поколения будут играть ключевую роль в обеспечении экономической, информационной и технологической безопасности страны

«Хаябуса-2» сел на астероид в 280 млн км от Земли
Японский зонд «Хаябуса-2» успешно совершил посадку на астероид Рюгу, находящийся в 280 млн км от Земли

«Яндекс» представил беспилотный автомобиль на базе Hyundai Sonata
До конца 2019 года «Яндекс» планирует довести число беспилотных машин как минимум до сотни

Ростех оснастит поезда прозрачными дисплеями вместо остекления
Интерактивные прозрачные дисплеи можно использовать для трансляции медиаконтента любого формата на поверхности окон и дверей

Новые статьи: Наука и техника