Искусственный интеллект перестал быть экспериментом, который существует только в лабораториях и пилотных проектах. Сотрудники уже готовят с его помощью документы и программный код, а компании встраивают модели в продажи, клиентскую поддержку и подбор персонала.
Проблема в том, что внедрение технологий почти всегда идёт быстрее, чем формируется система управления ими.
ИИ масштабирует то, что уже есть
Промах одного сотрудника обычно остаётся локальным. Ошибка автоматизированной системы способна повториться тысячи раз во всех документах, рекомендациях и ответах, которые она формирует. Поэтому ИИ не исправляет плохой процесс сам по себе, а прежде всего ускоряет его — вместе с ошибками, непрозрачными правилами и размытой ответственностью.
Кто владеет риском
Бизнес-заказчик должен определить, уместен ли конкретный сценарий применения ИИ и допустимы ли возможные последствия. ИТ отвечает за архитектуру системы и её надёжность. Информационная безопасность оценивает угрозы, управляет доступом и выстраивает порядок реагирования на инциденты. Юристы проверяют основания для обработки данных и соблюдение требований законодательства.
На уровне руководства необходимо определить, где проходит граница допустимого риска и какие решения нельзя полностью передавать алгоритму. Начать можно с инвентаризации используемых ИИ-сервисов, включая публичные, выделения критичных сценариев и назначения для каждого владельца риска. Для значимых систем также важно предусмотреть проверку результата человеком и порядок действий при сбое.
Управляемый риск вместо иллюзии полной безопасности
Сделать искусственный интеллект абсолютно безопасным невозможно. Задача заключается не в том, чтобы исключить все возможные инциденты, а в том, чтобы сделать риски понятными, измеримыми и управляемыми. Компания должна знать, где используется ИИ, какие последствия может вызвать его ошибка, кто принимает решение о допустимости такого риска и как организация будет действовать, если проблема всё же возникнет.
Именно этот путь — от инвентаризации рисков и распределения ответственности до полноценной корпоративной стратегии безопасности ИИ — лежит в основе программы повышения квалификации «Стратегия безопасности искусственного интеллекта», созданной Центром непрерывного образования ФКН НИУ ВШЭ совместно с MWS AI. В программе участники рассматривают архитектуру и инфраструктуру ИИ, управление и защиту данных, угрозы на разных этапах жизненного цикла моделей, комплаенс и количественную оценку рисков, а затем формируют дорожную карту по управлению ИИ и учатся обосновывать инвестиции в безопасность на языке бизнеса.
Такой подход не тормозит инновации, а создаёт условия для их развития. Компании, которые раньше других выстроят систему управления ИИ, смогут быстрее масштабировать удачные решения.
Автор: Любовь Шаброва, директор Центра непрерывного образования ФКН НИУ ВШЭ
