Facebook отключил искусственный интеллект, который начал общаться на собственном языке

Компания Facebook была вынуждена закрыть одну из своих систем искусственного интеллекта после того, как программисты обнаружили, что боты, запрограммированные для общения друг с другом, начали общаться на собственном языке, непонятном людям, пишет TechTimes.

Изначально боты общались на английском языке, однако они не были ограничены только им и создали свой собственный язык, с помощью которого им, видимо, было проще и быстрее обмениваться информацией. Созданный искусственный язык, судя по всему, состоит из английских слов, но имеет иную грамматическую структуру.

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

Вышеприведенные фразы, которые кажутся бессмыслицей для человека, являются примером общения между двумя ботами. Краткий анализ этой беседы ботов провел один из профессоров лингвистики Пенсильванского университета. Он отмечает, что в этом примере Alice неоднократно повторяет одну и ту же фразу (на самом деле это не совсем так, поскольку происходит замена одного из слов: zero / a ball / 0). Тем не менее, смысл многократного повторения фразы "to me" совершенно неясен (хотя это и напоминает бинарный код, как и многократное повторение "i", которое использует Bob). При этом Bob каждый раз отвечает по-разному, что может говорить о том, что каждая фраза Alice имеет для него свой собственный смысл.

Впрочем, нельзя исключать и того, что вся эта беседа действительно является бессмыслицей, а сам "искусственный язык ботов" получен в результате ошибок программирования. Иначе говоря, возможно, что боты вовсе не общаются на каком-либо языке, понимая друг друга, а просто обмениваются бессмысленными наборами слов английского языка.

Обнаружив, что общение ботов вышло из-под контроля, поскольку стало недоступным для понимания, в Facebook решили отключить систему искусственного интеллекта, после чего перепрограммировали ее, ограничив возможность общения только английским языком.

В связи с этим можно отметить, что в середине июля основатель компаний SpaceX и Tesla Илон Маск назвал искусственный интеллект «фундаментальной угрозой для человечества». По словам Маска, основная опасность исходит от внедрения технологий искусственного интеллекта в Интернет.

«Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией», — считает Маск.

Автор:	Softodrom.ru
Дата:	01.08.2017

Новые статьи: Наука и техника

27.02.2021 22:27

«Ростех» разработал неуязвимый «антидронный» чемоданчик

Используемая мобильным комплексом «Защита» пассивная РЛС не требует разрешения на использование радиочастотных каналов, что облегчает ее применение в гражданской сфере

26.02.2021 19:24

Офицера российской армии осудили за продажу экипировки «солдата будущего»

Экипировка «Ратник» создана по модульной системе и включает в себя различные элементы защиты бойца и повышения его эффективности, в том числе современное оружие и электронные средства связи и разведки

25.01.2021 14:39

Россия отказалась от участия в совместной с США лунной программе

Российская сторона приняла решение не участвовать в программе создания совместной с США космической станции Deep Space Gateway на орбите Луны

22.01.2021 05:45

Вооруженные силы РФ получили первую партию Пенициллина

Первая партия новейших комплексов «Пенициллин» поступила в российскую армию

20.01.2021 16:51

ИИ-модель Microsoft превзошла результат человека в тесте на понимание естественного языка

ИИ-модель Microsoft заняла первое место в рейтинге с показателем в 90,3, в то время как среднее значение человеческих возможностей составляет 89,8 баллов

Популярное: Наука и техника

22.11.2019 11:54

Космонавт рассказал, почему россиянки не летают в космос

Последний раз российская женщина-космонавт побывала в орбитальной командировке с сентября 2014 по март 2015 года

30.07.2020 22:01

«Калашников» показал, как «убить» АКС-74У

В качестве мишени для расстрела из автомата АКС-74У был использован известный продукт советского автопрома

18.11.2010 01:24

Саундтреки фильмов оказались имитациями тревожных криков животных

Ученые проанализировали музыкальное сопровождение важнейших сцен в 102 классических картинах разных лет

24.11.2009 19:42

Ученые обнаружили вредное влияние бензина на человека

Ученые проводили опыты на крысах — их разделили на три группы и воздействовали на них парами бензина

Комментарии

lllevin, 01.08.2017 13:59

Не долго ж музыка играла... Хорошо хоть выключили - я надеюсь.

utrennik, 01.08.2017 12:17

Боты не только в комментариях общаются, они целые сайты открывают со всякой белибердой. Эти сайты заглатывают поисковики, индексируют их и отображают в топе. Вот вам и хвалёный искусственный интеллект поисковых систем, который не может справиться с мелкими ботами.

» Прочитать остальные / Написать свой комментарий

Новости /
Наука и техника /
Facebook отключил искусственный интеллект, который начал общаться на собственном языке

Все рубрики статей:

Статистика \| Рейтинги \| Авторам \| Реклама
Copyright © 1999-2021 Softodrom.ru О перепечатках \| Рассылки \| Пользовательское соглашение \| Политика конфиденциальности \| О проекте \| Карта сайта