ЦБ назвал риски использования искусственного интеллекта
Новости Вокруг софта
Использование технологий искусственного интеллекта, в том числе в финансовой сфере, связано с серьезными рисками. Об этом в интервью агентству «Прайм» рассказал зампред ЦБ РФ Василий Поздышев.
«Во-первых, даже самую сложную нейросеть можно взломать. У продвинутых нейросетей есть одна очень нехорошая особенность, которую в профессиональных кругах называют высокой чувствительностью к малым возмущениям. Это способность нейросети радикально переклассифицировать объект из одной категории в другую при незначительном изменении одного из его малых параметров. Приведу простой пример. Большинство нейросетей, решающих задачу биометрической идентификации, способно отличить мужчину от женщины или одного человека от другого, но если на лицо прилепить кусочек лейкопластыря и написать на нем слово "STOP", то некоторые нейросети переведут эту картинку из категории "лица" в категорию "дорожные знаки"», — сказал Поздышев.
«Во-вторых, нейросети способны создавать фейковую реальность. Например, после изучения большого количества реальных человеческих лиц нейросеть, если ей поставить такую задачу, очень легко может создать миллионы лиц несуществующих людей, их голоса и отпечатки пальцев – полный набор несуществующих биометрических данных, то есть можно создать целое государство несуществующих людей. И можно их сделать так, что другие нейросети будут воспринимать их как людей реальных. Аналогично можно создать несуществующие юрлица и транзакции», — пояснил он.
«Третий риск связан с тем, что применение искусственного интеллекта усложняет вопросы защиты персональных данных, поскольку появляется риск доступа к элементам обучающей выборки, а значит, к персональным данным, которые искусственный интеллект может "вытащить" из обучающей выборки», — отметил зампред ЦБ РФ.
По теме: Софт как новый опиум для народа
|
Все рубрики статей (1248 / 248):
|
|
