Лучшие приложения.
Лучшие приложения.
Лучшие приложения.
Лучшие приложения.

ЦБ назвал риски использования искусственного интеллекта




Использование технологий искусственного интеллекта, в том числе в финансовой сфере, связано с серьезными рисками. Об этом в интервью агентству «Прайм» рассказал зампред ЦБ РФ Василий Поздышев.

«Во-первых, даже самую сложную нейросеть можно взломать. У продвинутых нейросетей есть одна очень нехорошая особенность, которую в профессиональных кругах называют высокой чувствительностью к малым возмущениям. Это способность нейросети радикально переклассифицировать объект из одной категории в другую при незначительном изменении одного из его малых параметров. Приведу простой пример. Большинство нейросетей, решающих задачу биометрической идентификации, способно отличить мужчину от женщины или одного человека от другого, но если на лицо прилепить кусочек лейкопластыря и написать на нем слово "STOP", то некоторые нейросети переведут эту картинку из категории "лица" в категорию "дорожные знаки"», — сказал Поздышев.

«Во-вторых, нейросети способны создавать фейковую реальность. Например, после изучения большого количества реальных человеческих лиц нейросеть, если ей поставить такую задачу, очень легко может создать миллионы лиц несуществующих людей, их голоса и отпечатки пальцев – полный набор несуществующих биометрических данных, то есть можно создать целое государство несуществующих людей. И можно их сделать так, что другие нейросети будут воспринимать их как людей реальных. Аналогично можно создать несуществующие юрлица и транзакции», — пояснил он.

«Третий риск связан с тем, что применение искусственного интеллекта усложняет вопросы защиты персональных данных, поскольку появляется риск доступа к элементам обучающей выборки, а значит, к персональным данным, которые искусственный интеллект может "вытащить" из обучающей выборки», — отметил зампред ЦБ РФ.

По теме: Софт как новый опиум для народа
Автор: Softodrom.ru
Дата:
Новые публикации: Вокруг софта
18.02.2020 19:09

Xiaomi объявила о готовности предустанавливать российское ПО на смартфоны

Представители китайской компании Xiaomi заявили готовности исполнять требования закона об обязательной предустановке российского программного обеспечения

17.02.2020 22:02

Samsung согласился на предустановку российского софта

Предустановка отечественного программного обеспечения на продаваемые в России смартфоны станет обязательной с 1 июля 2020 года

16.01.2020 19:40

Суд отклонил иск «Доктора Веба» к «Роскачеству» из-за рейтинга антивирусов

«Роскачество» поставило антивирус компании «Доктор Веб» на последнее место в своем рейтинге антивирусных продуктов для Windows

23.12.2019 16:36

Соседи России раскритиковали закон о предустановке российского софта

Представители Белоруссии, Казахстана и Киргизии заявили, что подписанный Владимиром Путиным закон об обязательной предустановке российского ПО нарушает договор о ЕАЭС

18.12.2019 15:20

ЦБ назвал риски использования искусственного интеллекта

У продвинутых нейросетей есть одна очень нехорошая особенность, которую в профессиональных кругах называют высокой чувствительностью к малым возмущениям

Популярные статьи: Вокруг софта
17.02.2020 22:02

Samsung согласился на предустановку российского софта

Предустановка отечественного программного обеспечения на продаваемые в России смартфоны станет обязательной с 1 июля 2020 года

18.02.2020 19:09

Xiaomi объявила о готовности предустанавливать российское ПО на смартфоны

Представители китайской компании Xiaomi заявили готовности исполнять требования закона об обязательной предустановке российского программного обеспечения

02.12.2019 21:52

Путин подписал закон о запрете продажи гаджетов без российского ПО

Президент РФ Владимир Путин подписал закон о запрете продажи гаджетов без предустановленного российского программного обеспечения

03.02.2012 05:45

Январь 2012: Статистика использования операционных систем

Рыночная доля Windows падает, а Linux растет

16.01.2020 19:40

Суд отклонил иск «Доктора Веба» к «Роскачеству» из-за рейтинга антивирусов

«Роскачество» поставило антивирус компании «Доктор Веб» на последнее место в своем рейтинге антивирусных продуктов для Windows

» Оставьте первым свой комментарий

Новости /
Вокруг софта /
ЦБ назвал риски использования искусственного интеллекта
Все рубрики статей:

Статистика | Рейтинги | Авторам | Реклама
Copyright © 1999-2020 Softodrom.ru
О перепечатках | Рассылки | Пользовательское соглашение | Политика конфиденциальности | О проекте | Карта сайта
Яндекс.Метрика 
В Опере нет автоматического способа добавить поиск по Софтодрому.
Чтобы вручную добавить поиск по Софтодрому, нужно сделать следующее:
  1. Нажать Ctrl+F12.
  2. Выбрать вкладку «Поиск».
  3. Нажать «Добавить» (Add).
  4. В появившемся окне:
    1. Заполнить название (Softodrom.ru).
    2. Заполнить адрес: https://www.softodrom.ru/Поиск/?text=%s&qs
      Если нет поля «адрес», то кликнуть на «Подробнее».
    3. Остальные поля заполнить по желанию.
  5. Нажать «ОК».