Facebook отключил искусственный интеллект, который начал общаться на собственном языке
Компания Facebook была вынуждена закрыть одну из своих систем искусственного интеллекта после того, как программисты обнаружили, что боты, запрограммированные для общения друг с другом, начали общаться на собственном языке, непонятном людям, пишет TechTimes.
Изначально боты общались на английском языке, однако они не были ограничены только им и создали свой собственный язык, с помощью которого им, видимо, было проще и быстрее обмениваться информацией. Созданный искусственный язык, судя по всему, состоит из английских слов, но имеет иную грамматическую структуру.
Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i i can i i i everything else . . . . . . . . . . . . . .
Alice: balls have a ball to me to me to me to me to me to me to me
Bob: i . . . . . . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i i i i i everything else . . . . . . . . . . . . . .
Alice: balls have 0 to me to me to me to me to me to me to me to me to
Bob: you i i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Вышеприведенные фразы, которые кажутся бессмыслицей для человека, являются примером общения между двумя ботами. Краткий анализ этой беседы ботов провел один из профессоров лингвистики Пенсильванского университета. Он отмечает, что в этом примере Alice неоднократно повторяет одну и ту же фразу (на самом деле это не совсем так, поскольку происходит замена одного из слов: zero / a ball / 0). Тем не менее, смысл многократного повторения фразы "to me" совершенно неясен (хотя это и напоминает бинарный код, как и многократное повторение "i", которое использует Bob). При этом Bob каждый раз отвечает по-разному, что может говорить о том, что каждая фраза Alice имеет для него свой собственный смысл.
Впрочем, нельзя исключать и того, что вся эта беседа действительно является бессмыслицей, а сам "искусственный язык ботов" получен в результате ошибок программирования. Иначе говоря, возможно, что боты вовсе не общаются на каком-либо языке, понимая друг друга, а просто обмениваются бессмысленными наборами слов английского языка.
Обнаружив, что общение ботов вышло из-под контроля, поскольку стало недоступным для понимания, в Facebook решили отключить систему искусственного интеллекта, после чего перепрограммировали ее, ограничив возможность общения только английским языком.
В связи с этим можно отметить, что в середине июля основатель компаний SpaceX и Tesla Илон Маск назвал искусственный интеллект «фундаментальной угрозой для человечества». По словам Маска, основная опасность исходит от внедрения технологий искусственного интеллекта в Интернет.
«Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учетные записи электронной почты и манипулируя информацией», — считает Маск.
29.10.2020 19:50
По результатам войсковой эксплуатации автоматов АК-12 в частях и подразделениях Минобороны были внедрены конструктивные изменения, улучшающие эргономику оружия и повышающие удобство его технического обслуживания
29.10.2020 19:03
В России создали компьютерную модель, способную оценивать успеваемость школьников по их постам в социальных сетях
25.10.2020 18:16
Робот-собака Spot, разработанный американской компанией Boston Dynamics, искал радиацию на территории Чернобыльской зоны отчуждения
21.10.2020 20:23
Замминистра отметил, что еще три таких изделия находятся на регистрации в Росздравнадзоре
20.10.2020 20:23
В оснащении «Атаки-Шорох» применяется интеллектуальная система анализа внешней обстановки, которая позволит выявлять ЧС, правонарушения и массовые скопления людей по характерным шумам
|
29.10.2020 19:03
В России создали компьютерную модель, способную оценивать успеваемость школьников по их постам в социальных сетях
29.10.2020 19:50
По результатам войсковой эксплуатации автоматов АК-12 в частях и подразделениях Минобороны были внедрены конструктивные изменения, улучшающие эргономику оружия и повышающие удобство его технического обслуживания
25.10.2020 18:16
Робот-собака Spot, разработанный американской компанией Boston Dynamics, искал радиацию на территории Чернобыльской зоны отчуждения
20.10.2020 20:23
В оснащении «Атаки-Шорох» применяется интеллектуальная система анализа внешней обстановки, которая позволит выявлять ЧС, правонарушения и массовые скопления людей по характерным шумам
21.10.2020 20:23
Замминистра отметил, что еще три таких изделия находятся на регистрации в Росздравнадзоре
|
|
