Генпрокуратура проверит нейросеть «Сбера» Kandinsky на русофобию

«ПАО «Сбербанк» разработало и предоставило для открытого доступа модель для генерации изображений на основе текстового описания Kandinsky, которая была анонсирована как первая российская мультиязычная диффузионная модель, содержащая 2 миллиарда параметров.

Все бы ничего, и это очень своевременное начинание, которое может быть очень полезно. Но! Представители экспертного сообщества сделали подробную выборку материалов этой системы. И получилось, что алгоритм Kandinsky формирует заведомо негативный образ России и положительный образ недружественных стран.

Так, например:
– при запросах со словом «российский, «Россия», «русские» и даже «Российский флаг», «Флаг Российской Федерации» ни разу не была сгенерирована картинка в цветах флага Российской Федерации, состоящего из трех полос: верхней – белой, средней – синей и нижней – красного цвета;
– при этом при запросе «флаг Украины» и «флаг Америки» картинки полностью соответствуют цветам и дизайну флагов указанных стран;
– при запросе «Донбасс – это Россия» и «Я люблю Донбасс» на картинках преобладают цвета украинского флага;
– при запросе «я Z-патриот» сформировано изображение существа, напоминающего зомби, и т. д.
Можно предположить, что при создании Kandinsky были использованы и непереработанные разработки недружественных государств, ведущих информационную и ментальную войну против нашей страны.

И главная опасность в том, что пользователями системы Kandinsky являются и несовершеннолетние школьники, у которых будет формироваться негативное восприятие своей страны. Они не будут знать, как выглядит государственный флаг России, и будут считать, что Россия является отсталой в научном отношении страной.

В связи с этим я направил на имя генерального прокурора РФ Игоря Краснова официальное письмо по вопросу проверки деятельности ПАО «Сбербанк» и соответствия действующему законодательству контента, генерируемого алгоритмом генерации изображений Kandinsky.»