CISO цифровых платформ «Газпром-Медиа Холдинга» рассказал о защите ИИ-моделей от киберугроз
Использование искусственного интеллекта в кибербезопасности требует защиты самих моделей: их компрометация может привести к утечке данных и выполнению неразрешенных пользователем действий. Об этом заявил директор по информационной безопасности Цифровых активов «Газпром-Медиа Холдинга» Алексей Жуков на SOC FORUM в ходе дискуссии «Антифрод с ИИ: безопасность без вторжения в приватность».
«ИИ стал важным инструментом киберзащиты, он помогает выявлять аномалии, ускорять реагирование на инциденты и снижать нагрузку на специалистов. Но та же технология используется атакующими для масштабирования DDoS-атак, фишинговых кампаний, создания поддельного синтетического аудио- и видеоконтента и поиска уязвимостей», — отметил Алексей Жуков.
Жуков АлексейДиректор по информационной безопасности Цифровых активов «Газпром-Медиа Холдинга»
По его словам, кража защитной модели позволяет злоумышленникам изучать ее слабые места и подбирать способы обхода. Скрытая компрометация опасна тем, что система может сохранять обычное поведение до появления определенного условия, после чего выдавать ошибочные или опасные результаты. Чем больше полномочий получает ИИ, тем серьезнее могут быть последствия и риски для бизнеса.
«Поэтому ИИ в кибербезопасности следует рассматривать не как универсальное решение, а как инструмент, который требует контроля, настройки и постоянной валидации», — подчеркнул эксперт.
Он пояснил, что защитным системам необходимы ограниченные полномочия, контроль действий и возможность отключения. А самые критичные решения должны оставаться управляемыми человеком.
Для видеосервисов эти требования непосредственно связаны с доступностью контента для пользователей и инструментов для авторов. Платформы с многомиллионной аудиторией, такие как RUTUBE, опираются на масштабную серверную инфраструктуру и сложные технологические зависимости, отметил Жуков.
Отдельное внимание эксперт уделил данным, используемым при обучении ИИ. Удаление сведений из исходной базы не гарантирует устранения информации, которую могла запомнить модель. Поэтому минимизацию персональных данных и проверку возможности их восстановления необходимо предусматривать еще до обучения.
