Софтодром   

Программы

Windows Windows
Linux Linux
Android Android
iOS iPhone

Новости

Форумы
аня.дети
вика.дети
маша.дети
оля.дети
катя.москва
лиза.москва
света.москва
таня.москва
детям.москва

Все домены тут

«Яндекс» привлечет белых хакеров для проверки безопасности генеративных нейросетей



Новости    Безопасность


«Яндекс» запустил новое направление программы «Охота за ошибками», связанное с генеративными нейросетями. Об этом говорится в сообщении компании.

«Компания готова выплатить до миллиона рублей исследователям, которым удастся отыскать технические уязвимости в семействах моделей YandexGPT, YandexART и сопутствующей инфраструктуре.

Участникам «Охоты» предстоит искать технические ошибки, которые могут повлиять на результаты работы и процесс обучения нейросетевых моделей: скажем, привести модель к сбою или изменить её поведение так, чтобы она повлияла на работу других сервисов Яндекса.

Размер выплаты зависит от серьёзности ошибки и простоты её применения. К критичным относятся уязвимости, которые позволят раскрыть данные о внутренней конфигурации модели, её служебный промт с техническими данными или другую чувствительную информацию. Максимальное вознаграждение за такие ошибки — 1 млн рублей. В «Охоте» могут участвовать только отчёты о технических уязвимостях. К ним, например, не относятся сообщения о неточных ответах Алисы или некорректных изображениях в Шедевруме.

Генеративные нейросети всё шире используются в сервисах Яндекса и партнёрами компании. YandexGPT и YandexART уже нашли применение более чем в 20 сервисах и продуктах для пользователей и бизнеса — от Алисы и Поиска с Нейро до Директа и решений Yandex Cloud, в том числе доступных сторонним разработчикам через API. Появление генеративных нейросетей в «Охоте» позволит проводить их независимую проверку и ещё раз убедиться, что сервисы Яндекса и новые технологии отвечают самым строгим стандартам безопасности.

Все технологии Яндекса, включая генеративные модели, создаются и развиваются с учётом принципов безопасной разработки на каждом этапе — от проектирования до внедрения. Для этого команда безопасности ещё на стадии проектирования изучает будущую архитектуру сервиса, проверяет её на возможные уязвимости и соответствие стандартам. Яндекс также изучает возможные способы атак на нейросети и разрабатывает защиту от потенциальных угроз. Например, Антиробот Яндекса защищает ИИ-сервисы от DDoS-атак, а центр мониторинга выявляет угрозы и анализирует подозрительную активность в инфраструктуре. Также Яндекс регулярно проводит внутренние аудиты для проверки защищённости сервисов.»


Автор: Softodrom.ru
Дата:

23.04.2025 14:11

Роскомнадзор предложил бизнесу сознаться в утечках персональных данных

С 30 мая в России вступают в силу новые нормы законодательства, по которым ответственность компаний за утечки персональных данных будет ужесточена


18.04.2025 15:42

«Сбер» инициировал блокировку 19 тыс. фишинговых ресурсов под своим брендом

Помимо этого, было выявлено 33 фальшивых мобильных приложения, которые маскировались под сервисы «Сбера»


17.04.2025 17:04

Минцифры не будет применять централизованный сбор данных россиян

Ранее глава «Ростелекома» выступил за централизацию хранения персональных данных россиян


15.04.2025 16:27

«Яндекс» представил умную IP-камеру

«Яндекс» представил свое первое устройство в категории безопасности — умную IP-камеру, которая поможет контролировать безопасность дома


11.04.2025 18:34

В России обсудят запрет ИИ с «угрожающим уровнем риска»

Законопроект «О регулировании систем искусственного интеллекта в России» разработан с целью реализации Национальной стратегии развития ИИ до 2030 года


Популярное: Безопасность
29.11.2017 05:21

Как удалить данные без возможности восстановления

Что такое безвозвратное удаление данных, и как удалить данные с компьютера так, чтобы их нельзя было восстановить


15.01.2023 09:34

15 бесплатных антивирусов для компьютера на Windows

Софтодром составил подборку из 15 бесплатных антивирусных программ для компьютера на Windows


07.04.2019 19:42

Как увидеть скрытых друзей во «ВКонтакте»

Поскольку многие пользователи «ВКонтакте» искренне верят, что существует способ увидеть чужих скрытых друзей, Софтодром решил этот миф опровергнуть


29.11.2017 23:52

Как защитить файл или папку паролем в Windows

Что делать, если вы используете компьютер под управлением Windows и вдруг решили защитить какой-либо файл или папку паролем, чтобы посторонние не могли узнать, что у вас там находится


20.06.2008 22:23

Самые популярные антивирусы в России по версии Comcon

Компания Comcon провела исследование распространения антивирусных решений среди российских пользователей



Ищете, где скачать бесплатные программы?

Скачать бесплатные программы для компьютера на Windows и смартфона на iOS или Android можно на Софтодроме. На данный момент в каталоге Софтодрома представлено более 13 000 бесплатных программ для Windows, iOS, Android и Linux.
Все рубрики статей (1168 / 1168):


Бесплатные программы | Рейтинги | Статистика | Авторам | Рассылки
Copyright © 1999-2025 Softodrom.ru
Реклама | О проекте | О перепечатках | Пользовательское соглашение | Политика конфиденциальности | Карта сайта