Разработчиков «Сбера» вызывали в прокуратуру из-за ИИ
Новости Вокруг софта
Из-за неточного изображения российского флага, созданного нейросетью Kandinsky, сотрудников Сбербанка вызывали в прокуратуру. Как сообщает РБК, об этом рассказал глава «Сбера» Герман Греф в ходе форума «Финополис», организованного ЦБ.
«Опыт показал, что мы только опубликовали модели — и нас, и «Яндекс» тут же привели в прокуратуру. У нас модель при генерации российского флага — ну она же генеративная, она пытается его улучшить — она на флаге нарисовала еще купола от Собора Василия Блаженного. Депутаты посчитали, что это издевательство над нашим национальным флагом. Мы тут же остановили определенные вещи — символы государственные она не генерит уже, она генерит картинку, заранее заданную», — рассказал Греф.
При этом, по его словам, теперь модель теряет в креативности генерации: «Мы последние полгода модель не могли выставить, потому что мы закручивали настройки безопасности. При этом модель в общем доступе потеряла 12% в креативности и точности. Нам придется пройти через этот период. Нужна помощь государства в снисхождении и понимании, что мы как дети пока здесь, — нас сильно не судить. Потому что когда разработчиков и нас пригласили в прокуратуру… Хорошо, что прокурор такой современный попался, с чувством юмора, — он все изучил, и, слава богу, нас никуда не привлекли. Он сказал: ребята, давайте идите работайте, но будьте поаккуратнее. Могло бы быть иначе».
Ситуация, о которой рассказал Греф, произошла в апреле 2023 года. Тогда лидер фракции «Справедливая Россия — За правду!» в Госдуме Сергей Миронов обратился в Генпрокуратуру РФ с просьбой провести проверку деятельности Сбербанка и соответствия действующему законодательству контента, генерируемого нейросетью Kandinsky. По словам депутата, при генерации изображений «алгоритм Kandinsky формирует заведомо негативный образ России и положительный образ недружественных стран».
|
Все рубрики статей (4707 / 4707):
|
|
