В RUTUBE TECH рассказали о скрытых рисках разработки с помощью ИИ
Быстрое создание программных продуктов с помощью искусственного интеллекта может приводить к накоплению ошибок и увеличению затрат на дальнейшее сопровождение. Об этом заявил технический директор RUTUBE TECH (объединенного технологического хаба цифровых активов «Газпром-Медиа Холдинга») Дмитрий Егоров на SOC Forum в ходе сессии «Быстрее, дешевле, уязвимее? Как ИИ перекраивает стандарты безопасной разработки для бизнеса».
«Один из недооценённых и скрытых рисков — накопление ошибок. Можно быстро получить начальную версию продукта, в устройстве которого человеку затем будет трудно разобраться, поэтому и дальнейшие изменения тоже вносит преимущественно ИИ, при этом ошибки и неэффективные решения могут постепенно накапливаться».
Дмитрий ЕгоровТехнический директор RUTUBE TECH
По его словам, небольшие команды, использующие ИИ, могут эффективно создавать прототипы и проверять бизнес-гипотезы. Однако для долгосрочного развития сложных систем необходимо сначала убедиться в устойчивости результатов такого подхода. В отдельных случаях после проверки гипотезы промышленное решение придётся разрабатывать заново. При этом схема, в которой одна модель пишет код, а другая его проверяет, сама по себе не гарантирует надёжности результата.
Егоров подчеркнул, что возможность выполнять больше задач с помощью ИИ не заменяет профессиональную квалификацию. Чтобы оценить работу агента, специалисту необходима экспертиза в соответствующей области. Ее недостаток повышает вероятность пропустить ошибку.
«Для бизнеса важна совокупная стоимость результата: сколько стоило создать решение, проверить его и затем поддерживать. Дешёвый прототип может оказаться дорогим в дальнейшем развитии», — пояснил он.
Экономия рабочего времени также не означает пропорционального снижения всех расходов, добавил технический директор RUTUBE TECH. Использование ИИ может существенно увеличить потребность в вычислительных мощностях, а в оценку затрат необходимо включать стоимость работы моделей и дополнительных проверок в части кибербезопасности.
По мнению Дмитрия Егорова, ускорение разработки должно сопровождаться развитием инструментов информационной безопасности. Если автоматизировать только создание кода, нагрузка на проверяющих будет расти. ИИ при этом можно применять и для защиты — анализа уязвимостей, работы с инцидентами и настройки оповещений. В RUTUBE TECH представители разработки и информационной безопасности совместно участвуют в рабочей группе по внедрению технологии и подходов к безопасной разработке, рассматривают практические сценарии и определяют необходимые ограничения.
«Для бизнеса главным критерием успеха является устойчивое улучшение результата: быстрее выпускать полезные изменения, сохранять качество и безопасность, контролировать стоимость разработки и сопровождения», — заключил он.
