Билл Гейтс предупредил о риске гибели миллиарда людей из-за ИИ
Новости Безопасность
Сооснователь Microsoft Билл Гейтс призвал американских законодателей взять под контроль разработку искусственного интеллекта. В интервью программе «Meet the Press» на NBC News он заявил, что рассчитывать только на добрую волю технологических компаний — недостаточно.
«Никто не считает, что саморегулирования хватит», — сказал Гейтс, отвечая на вопрос о необходимости законодательных мер. По его словам, участие политиков и правоохранительных органов должно быть обязательным. Это создаст для отрасли «небольшую дополнительную нагрузку», но не остановит ее развитие.
ИИ уже достаточно мощен, чтобы «спровоцировать события, ведущие к миллиарду смертей», заявил Гейтс. По его словам, никогда прежде не существовало оружия, сопоставимого по опасности с комбинацией людей с преступными намерениями и новейших ИИ-инструментов.
Заявление Гейтса прозвучало на фоне публичного скандала. Бывший сотрудник Anthropic Джейкоб Коксон, покинувший компанию в начале сентября, открыто обвинил ведущие ИИ-лаборатории в безответственности: по его словам, они «несутся к самообучающемуся сверхразуму и ставят на кон наши жизни». Он также отмечал, что создатели ИИ всерьез верят в возможность гибели человечества до конца десятилетия.
Глава Anthropic Дарио Амодеи в своем эссе призвал к глобальному замедлению гонки и к сотрудничеству с Китаем — страной с наиболее развитыми ИИ-возможностями среди автократических режимов. Руководитель OpenAI Сэм Альтман выступил в ООН с идеей международных стандартов для оценки рисков и сохранения человеческого контроля над ИИ.
Президент Microsoft Брэд Смит, выступая на сессии ООН по ИИ и развитию, отверг идею о том, что компании должны ждать государственных регуляций, чтобы притормозить. Он сравнил ситуацию с двумя авиапроизводителями, которые соревнуются за скорость выпуска нового самолета, зная, что он может разбиться:
«Вы бы сказали: "Мне нужно выиграть эту гонку"? Или: "Я ставлю безопасность пассажиров и общества выше победы?" — в этом и заключается фундаментальный вопрос».
|
|
|
