Приложение дня: Ultrasurf VPN

ЦБ назвал риски использования искусственного интеллекта



Автор: Softodrom.ru
Дата:


Использование технологий искусственного интеллекта, в том числе в финансовой сфере, связано с серьезными рисками. Об этом в интервью агентству «Прайм» рассказал зампред ЦБ РФ Василий Поздышев.

«Во-первых, даже самую сложную нейросеть можно взломать. У продвинутых нейросетей есть одна очень нехорошая особенность, которую в профессиональных кругах называют высокой чувствительностью к малым возмущениям. Это способность нейросети радикально переклассифицировать объект из одной категории в другую при незначительном изменении одного из его малых параметров. Приведу простой пример. Большинство нейросетей, решающих задачу биометрической идентификации, способно отличить мужчину от женщины или одного человека от другого, но если на лицо прилепить кусочек лейкопластыря и написать на нем слово "STOP", то некоторые нейросети переведут эту картинку из категории "лица" в категорию "дорожные знаки"», — сказал Поздышев.

«Во-вторых, нейросети способны создавать фейковую реальность. Например, после изучения большого количества реальных человеческих лиц нейросеть, если ей поставить такую задачу, очень легко может создать миллионы лиц несуществующих людей, их голоса и отпечатки пальцев – полный набор несуществующих биометрических данных, то есть можно создать целое государство несуществующих людей. И можно их сделать так, что другие нейросети будут воспринимать их как людей реальных. Аналогично можно создать несуществующие юрлица и транзакции», — пояснил он.

«Третий риск связан с тем, что применение искусственного интеллекта усложняет вопросы защиты персональных данных, поскольку появляется риск доступа к элементам обучающей выборки, а значит, к персональным данным, которые искусственный интеллект может "вытащить" из обучающей выборки», — отметил зампред ЦБ РФ.

По теме: Софт как новый опиум для народа

11.08.2022 10:29

Суд передал в Москву дело об удалении Tor Browser из Google Play

Ранее Ленинский районный суд Саратова принял решение ограничить доступ к сайту Tor Project в России, а также признал запрещенным приложение Tor Browser


09.08.2022 04:52

Создание государственного репозитория ПО отложили на неопределенный срок

Минцифры России перенесло на неопределенный срок запуск эксперимента по созданию государственного репозитория свободного программного обеспечения


03.08.2022 16:12

На Госуслугах стартовал прием заявок на отсрочку для ИТ-специалистов в рамках осеннего призыва

В рамках весеннего призыва ИТ-компании подали заявления в отношении 8,7 тыс. специалистов, но около 1 тыс. из них не соответствовали требованиям Минобороны


01.07.2022 11:31

Nvidia перестала продлевать в России лицензии на свой софт

Nvidia перестала продлевать и продавать российским компаниям лицензии на свое программное обеспечение для облачного гейминга


24.06.2022 22:34

Минимум 90 тыс. абитуриентов могут поступить на бюджет по ИТ-направлениям в 2022 году

Подать документы в вузы можно дистанционно через суперсервис «Поступление в вуз онлайн» на портале Госуслуг


Популярное: Вокруг софта
11.08.2022 10:29

Суд передал в Москву дело об удалении Tor Browser из Google Play

Ранее Ленинский районный суд Саратова принял решение ограничить доступ к сайту Tor Project в России, а также признал запрещенным приложение Tor Browser


09.08.2022 04:52

Создание государственного репозитория ПО отложили на неопределенный срок

Минцифры России перенесло на неопределенный срок запуск эксперимента по созданию государственного репозитория свободного программного обеспечения


17.03.2021 18:54

Google вслед за Apple снижает комиссию для разработчиков приложений

Компания Google объявила о том, что она в два раза снизит комиссию для издателей и разработчиков приложений, которые продают свои цифровые товары или услуги через Google Play


18.11.2010 01:38

В Свердловской области местный житель подозревается в нарушении авторских прав

По подозрению в нарушении авторских прав возбуждено уголовное дело в отношении 26-летнего жителя города Нижнего Тагила


11.11.2006 22:42

4794 причины для удаления Mozilla Firefox 2.0

С момента выпуска браузера Mozilla Firefox 2.0 4794 пользователя объяснили, почему они решили удалить этот продукт со своих жестких дисков


» Оставьте первым свой комментарий

Все рубрики статей (933 / 0):


Статистика | Рейтинги | Авторам | Реклама
Copyright © 1999-2022 Softodrom.ru
О проекте | О перепечатках | Рассылки | Пользовательское соглашение | Политика конфиденциальности | Карта сайта
Яндекс.Метрика