Софтодром   
Windows Программы для Windows
Linux Программы для Linux
Android Приложения для Android
iOS Приложения для iPhone

Новости  Форумы

ЦБ назвал риски использования искусственного интеллекта



Новости    Вокруг софта



Использование технологий искусственного интеллекта, в том числе в финансовой сфере, связано с серьезными рисками. Об этом в интервью агентству «Прайм» рассказал зампред ЦБ РФ Василий Поздышев.

«Во-первых, даже самую сложную нейросеть можно взломать. У продвинутых нейросетей есть одна очень нехорошая особенность, которую в профессиональных кругах называют высокой чувствительностью к малым возмущениям. Это способность нейросети радикально переклассифицировать объект из одной категории в другую при незначительном изменении одного из его малых параметров. Приведу простой пример. Большинство нейросетей, решающих задачу биометрической идентификации, способно отличить мужчину от женщины или одного человека от другого, но если на лицо прилепить кусочек лейкопластыря и написать на нем слово "STOP", то некоторые нейросети переведут эту картинку из категории "лица" в категорию "дорожные знаки"», — сказал Поздышев.

«Во-вторых, нейросети способны создавать фейковую реальность. Например, после изучения большого количества реальных человеческих лиц нейросеть, если ей поставить такую задачу, очень легко может создать миллионы лиц несуществующих людей, их голоса и отпечатки пальцев – полный набор несуществующих биометрических данных, то есть можно создать целое государство несуществующих людей. И можно их сделать так, что другие нейросети будут воспринимать их как людей реальных. Аналогично можно создать несуществующие юрлица и транзакции», — пояснил он.

«Третий риск связан с тем, что применение искусственного интеллекта усложняет вопросы защиты персональных данных, поскольку появляется риск доступа к элементам обучающей выборки, а значит, к персональным данным, которые искусственный интеллект может "вытащить" из обучающей выборки», — отметил зампред ЦБ РФ.

По теме: Софт как новый опиум для народа


Автор: Softodrom.ru
Дата:

12.02.2025 19:34

Разработчики попросили отменить требование о совместимости отечественного софта с российскими процессорами

Ассоциация предприятий компьютерных и информационных технологий (АПКИТ) и Ассоциация крупнейших потребителей ПО и оборудования (КП ПОО) обратились с письмом в Минцифры


06.02.2025 06:59

Дуров «застрял» во Франции надолго, сообщают СМИ

Дело основателя Telegram Павла Дурова будет передано в суд не раньше, чем через год


30.01.2025 22:43

Госдума будет учитывать мнение РПЦ при работе над сферой ИИ

Госдума будет учитывать позицию патриарха Московского и всея Руси Кирилла в своей работе над регулированием сферы искусственного интеллекта


27.01.2025 23:38

Nvidia подешевела на $600 млрд из-за китайского ИИ DeepSeek

Глава компании Microsoft, ключевого инвестора OpenAI, Сатья Наделла на Всемирном экономическом форуме в Давосе заявил, что «нужно воспринимать новости из Китая очень-очень серьезно»


18.01.2025 03:05

Верховный суд США поддержал запрет TikTok

Верховный суд США признал законным запрет приложения TikTok в стране, если до 19 января оно не будет продано американским собственникам


Популярное: Вокруг софта
20.12.2023 14:14

В России зафиксирован рост патентования IT-разработок

В России отмечается рост патентования IT-разработок — отечественные разработчики активно занимают ниши, оставленные иностранными компаниями, ушедшими из РФ


19.12.2023 12:45

«Яндекс» перевел разработку приложений в сербскую юрисдикцию

Компания «Яндекс» перерегистрировала свои приложения в онлайн-магазинах App Store и Google Play на новую компанию в Сербии


08.11.2023 18:05

Разработчиков «Сбера» вызывали в прокуратуру из-за ИИ

Глава «Сбера» Герман Греф рассказал о том, что его сотрудников вызывали в прокуратуру из-за нейросети Kandinsky


06.03.2024 22:26

Минцифры внесет изменения в правила аккредитации ИТ-компаний

Еще больше компаний смогут претендовать на ИТ-аккредитацию, а процесс ее подтверждения станет удобнее


03.04.2023 18:22

В российском Android нашли юридические риски

«Ростелеком» опасается правовых рисков, связанных с разработкой российской мобильной операционной системы на базе Android



Ищете, где скачать бесплатные программы?

Скачать бесплатные программы для компьютера на Windows и смартфона на iOS или Android можно на Софтодроме. На данный момент в каталоге Софтодрома представлено более 13 000 бесплатных программ для Windows, iOS, Android и Linux.
Все рубрики статей (1236 / 236):


Программы для Windows | Приложения для Android | Приложения для iPhone | Программы для Linux
Статистика | Рейтинги | Авторам | Рассылки
Copyright © 1999-2025 Softodrom.ru
Реклама | О проекте | О перепечатках | Пользовательское соглашение | Политика конфиденциальности | Карта сайта