Софтодром   
Windows Программы для Windows
Linux Программы для Linux
Android Приложения для Android
iOS Приложения для iPhone

Новости  Форумы

ЦБ назвал риски использования искусственного интеллекта



Новости    Вокруг софта



Использование технологий искусственного интеллекта, в том числе в финансовой сфере, связано с серьезными рисками. Об этом в интервью агентству «Прайм» рассказал зампред ЦБ РФ Василий Поздышев.

«Во-первых, даже самую сложную нейросеть можно взломать. У продвинутых нейросетей есть одна очень нехорошая особенность, которую в профессиональных кругах называют высокой чувствительностью к малым возмущениям. Это способность нейросети радикально переклассифицировать объект из одной категории в другую при незначительном изменении одного из его малых параметров. Приведу простой пример. Большинство нейросетей, решающих задачу биометрической идентификации, способно отличить мужчину от женщины или одного человека от другого, но если на лицо прилепить кусочек лейкопластыря и написать на нем слово "STOP", то некоторые нейросети переведут эту картинку из категории "лица" в категорию "дорожные знаки"», — сказал Поздышев.

«Во-вторых, нейросети способны создавать фейковую реальность. Например, после изучения большого количества реальных человеческих лиц нейросеть, если ей поставить такую задачу, очень легко может создать миллионы лиц несуществующих людей, их голоса и отпечатки пальцев – полный набор несуществующих биометрических данных, то есть можно создать целое государство несуществующих людей. И можно их сделать так, что другие нейросети будут воспринимать их как людей реальных. Аналогично можно создать несуществующие юрлица и транзакции», — пояснил он.

«Третий риск связан с тем, что применение искусственного интеллекта усложняет вопросы защиты персональных данных, поскольку появляется риск доступа к элементам обучающей выборки, а значит, к персональным данным, которые искусственный интеллект может "вытащить" из обучающей выборки», — отметил зампред ЦБ РФ.

По теме: Софт как новый опиум для народа


Автор: Softodrom.ru
Дата:

06.03.2024 22:26

Минцифры внесет изменения в правила аккредитации ИТ-компаний

Еще больше компаний смогут претендовать на ИТ-аккредитацию, а процесс ее подтверждения станет удобнее


14.02.2024 17:04

На Госуслугах начался прием заявок на курсы программирования «Код будущего»

На Госуслугах стартовал прием заявок на курсы программирования «Код будущего» на 2024 год


23.01.2024 16:18

Начался прием заявок на ИТ-отсрочку от срочной службы

На портале Госуслуг открылся прием заявок от ИТ-специалистов на отсрочку от срочной службы в армии в рамках весеннего призыва


22.01.2024 18:13

Apple оплатила штраф на 1,2 млрд руб.

Компания Apple оплатила штраф в размере 1,2 млрд рублей, наложенный Федеральной антимонопольной службой России


20.12.2023 14:14

В России зафиксирован рост патентования IT-разработок

В России отмечается рост патентования IT-разработок — отечественные разработчики активно занимают ниши, оставленные иностранными компаниями, ушедшими из РФ


Популярное: Вокруг софта
20.12.2023 14:14

В России зафиксирован рост патентования IT-разработок

В России отмечается рост патентования IT-разработок — отечественные разработчики активно занимают ниши, оставленные иностранными компаниями, ушедшими из РФ


19.12.2023 12:45

«Яндекс» перевел разработку приложений в сербскую юрисдикцию

Компания «Яндекс» перерегистрировала свои приложения в онлайн-магазинах App Store и Google Play на новую компанию в Сербии


08.11.2023 18:05

Разработчиков «Сбера» вызывали в прокуратуру из-за ИИ

Глава «Сбера» Герман Греф рассказал о том, что его сотрудников вызывали в прокуратуру из-за нейросети Kandinsky


03.04.2023 18:22

В российском Android нашли юридические риски

«Ростелеком» опасается правовых рисков, связанных с разработкой российской мобильной операционной системы на базе Android


14.02.2024 17:04

На Госуслугах начался прием заявок на курсы программирования «Код будущего»

На Госуслугах стартовал прием заявок на курсы программирования «Код будущего» на 2024 год



Ищете, где скачать бесплатные программы?

Скачать бесплатные программы для компьютера на Windows и смартфона на iOS или Android можно на Софтодроме. На данный момент в каталоге Софтодрома представлено более 13 000 бесплатных программ для Windows, iOS, Android и Linux.
Все рубрики статей (1135 / 135):


Программы для Windows | Приложения для Android | Приложения для iPhone | Программы для Linux
Статистика | Рейтинги | Авторам | Рассылки
Copyright © 1999-2024 Softodrom.ru
Реклама | О проекте | О перепечатках | Пользовательское соглашение | Политика конфиденциальности | Карта сайта