Новость дня: Выпущена Windows 10 October 2020 Update

Facebook отключил искусственный интеллект, который начал общаться на собственном языке





Компания Facebook была вынуждена закрыть одну из своих систем искусственного интеллекта после того, как программисты обнаружили, что боты, запрограммированные для общения друг с другом, начали общаться на собственном языке, непонятном людям, пишет TechTimes.

Изначально боты общались на английском языке, однако они не были ограничены только им и создали свой собственный язык, с помощью которого им, видимо, было проще и быстрее обмениваться информацией. Созданный искусственный язык, судя по всему, состоит из английских слов, но имеет иную грамматическую структуру.

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to

Вышеприведенные фразы, которые кажутся бессмыслицей для человека, являются примером общения между двумя ботами. Краткий анализ этой беседы ботов провел один из профессоров лингвистики Пенсильванского университета. Он отмечает, что в этом примере Alice неоднократно повторяет одну и ту же фразу (на самом деле это не совсем так, поскольку происходит замена одного из слов: zero / a ball / 0). Тем не менее, смысл многократного повторения фразы "to me" совершенно неясен (хотя это и напоминает бинарный код, как и многократное повторение "i", которое использует Bob). При этом Bob каждый раз отвечает по-разному, что может говорить о том, что каждая фраза Alice имеет для него свой собственный смысл.

Впрочем, нельзя исключать и того, что вся эта беседа действительно является бессмыслицей, а сам "искусственный язык ботов" получен в результате ошибок программирования. Иначе говоря, возможно, что боты вовсе не общаются на каком-либо языке, понимая друг друга, а просто обмениваются бессмысленными наборами слов английского языка.

Обнаружив, что общение ботов вышло из-под контроля, поскольку стало недоступным для понимания, в Facebook решили отключить систему искусственного интеллекта, после чего перепрограммировали ее, ограничив возможность общения только английским языком.

В связи с этим можно отметить, что в середине июля основатель компаний SpaceX и Tesla Илон Маск назвал искусственный интеллект «фундаментальной угрозой для человечества». По словам Маска, основная опасность исходит от внедрения технологий искусственного интеллекта в Интернет.

«Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией», — считает Маск.

Автор: Softodrom.ru
Дата:
Новые статьи: Наука и техника
29.10.2020 19:50

«Калашников» показал характеристики обновленного АК-12

По результатам войсковой эксплуатации автоматов АК-12 в частях и подразделениях Минобороны были внедрены конструктивные изменения, улучшающие эргономику оружия и повышающие удобство его технического обслуживания


29.10.2020 19:03

ИИ научился оценивать успеваемость школьников по постам и твитам

В России создали компьютерную модель, способную оценивать успеваемость школьников по их постам в социальных сетях


25.10.2020 18:16

Робот Spot искал зараженные зоны в Чернобыле

Робот-собака Spot, разработанный американской компанией Boston Dynamics, искал радиацию на территории Чернобыльской зоны отчуждения


21.10.2020 20:23

Технологию искусственного интеллекта зарегистрировали как медицинское изделие

Замминистра отметил, что еще три таких изделия находятся на регистрации в Росздравнадзоре


20.10.2020 20:23

«Атака-Шорох» от «Ростеха» будет ловить дронов-шпионов

В оснащении «Атаки-Шорох» применяется интеллектуальная система анализа внешней обстановки, которая позволит выявлять ЧС, правонарушения и массовые скопления людей по характерным шумам


Популярное: Наука и техника
29.10.2020 19:03

ИИ научился оценивать успеваемость школьников по постам и твитам

В России создали компьютерную модель, способную оценивать успеваемость школьников по их постам в социальных сетях


29.10.2020 19:50

«Калашников» показал характеристики обновленного АК-12

По результатам войсковой эксплуатации автоматов АК-12 в частях и подразделениях Минобороны были внедрены конструктивные изменения, улучшающие эргономику оружия и повышающие удобство его технического обслуживания


25.10.2020 18:16

Робот Spot искал зараженные зоны в Чернобыле

Робот-собака Spot, разработанный американской компанией Boston Dynamics, искал радиацию на территории Чернобыльской зоны отчуждения


20.10.2020 20:23

«Атака-Шорох» от «Ростеха» будет ловить дронов-шпионов

В оснащении «Атаки-Шорох» применяется интеллектуальная система анализа внешней обстановки, которая позволит выявлять ЧС, правонарушения и массовые скопления людей по характерным шумам


21.10.2020 20:23

Технологию искусственного интеллекта зарегистрировали как медицинское изделие

Замминистра отметил, что еще три таких изделия находятся на регистрации в Росздравнадзоре


lllevin
lllevin, 01.08.2017 13:59
Не долго ж музыка играла... Хорошо хоть выключили - я надеюсь.
utrennik
utrennik, 01.08.2017 12:17
Боты не только в комментариях общаются, они целые сайты открывают со всякой белибердой. Эти сайты заглатывают поисковики, индексируют их и отображают в топе. Вот вам и хвалёный искусственный интеллект поисковых систем, который не может справиться с мелкими ботами.
» Прочитать остальные / Написать свой комментарий

Новости /
Наука и техника /
Facebook отключил искусственный интеллект, который начал общаться на собственном языке
Все рубрики статей:
Статистика | Рейтинги | Авторам | Реклама
Copyright © 1999-2020 Softodrom.ru
О перепечатках | Рассылки | Пользовательское соглашение | Политика конфиденциальности | О проекте | Карта сайта
Яндекс.Метрика