Вызовы и угрозы при внедрении ИИ в промышленности

Одним из главных аспектов доклада стало обсуждение безопасности в процессе интеграции ИИ в контуры промышленных предприятий. Эдуард Шантаев подчеркнул, что внедрение ИИ – это сложный, дорогостоящий и долгосрочный процесс, в котором значительную часть затрат составляют подготовительные мероприятия, такие как модернизация устаревшей инфраструктуры. Отсутствие качественной инфраструктуры влияет на точность и надежность данных, что критично для предиктивного обслуживания оборудования и минимизации рисков дорогостоящих сбоев.

Дополнительно он выделил киберугрозы, с которыми могут столкнуться предприятия при внедрении ИИ:

• Атака на данные – манипуляция или кража информации, например, подмена данных с датчиков;

• Взлом моделей ИИ – эксплуатация уязвимостей алгоритмов, внедрение вредоносного кода, что может привести к сбоям в работе оборудования;

• Атака на IoT-устройства – компрометация датчиков и контроллеров, что может повлечь аварийные ситуации;

• Киберпреступления с целью выкупа – блокировка систем и шифрование данных с требованием денежного вознаграждения.

Генеральный директор ФЦПР ИИ также рассказал об угрозах, связанных с преднамеренным внесением искаженных данных в обучающие выборки моделей ИИ. Этот вид атак приводит к снижению точности прогнозов, утечке конфиденциальной информации и манипуляциям с данными, что может существенно подорвать надежность систем.

Для предотвращения таких атак необходима строгая проверка источников данных, внедрение фильтрации обучающих выборок и регулярное тестирование моделей ИИ на устойчивость к вредоносным воздействиям.

Еще одной значимой проблемой остается нехватка кадров и сопротивление персонала внедрению ИИ из-за опасений потери рабочих мест. Решение этой проблемы требует комплексного подхода, включающего разработку образовательных программ в вузах и внедрение гибридных методов работы, где ИИ становится инструментом помощи специалистам, а не их заменой.

Оценка цифровой зрелости предприятий: роль ГИСП

Докладчик также рассказал о цифровом паспорте промышленного предприятия – инструменте Минпромторга России, позволяющем анализировать уровень цифровизации и информационной безопасности на предприятиях. Этот сервис помогает предприятиям выявлять наиболее востребованные технологии ИИ, оценивать уровень защиты данных и разрабатывать меры по его повышению. Благодаря ГИСП компании могут отслеживать критические уязвимости, внедрять передовые решения в области кибербезопасности и повышать цифровую зрелость своих процессов.

Среди наиболее популярных направлений внедрения ИИ были отмечены:

1. Оптическое распознавание символов – 818 внедрений;

2. Обработка естественного языка – 221 внедрение;

3. Компьютерное зрение – 177 внедрений;

4. Перспективные методы ИИ – 122 внедрения;

5. Интеллектуальная поддержка принятия решений – 100 внедрений;

6. Распознавание и синтез речи – 84 внедрения.

Общий индекс внедрения ИИ составляет 11 %, а индекс информационной безопасности – 58 %. Регулярный мониторинг этих показателей позволяет формировать нормативно-правовую базу и стандарты защиты данных в промышленности.

Информационная безопасность в закрытых контурах

Эдуард Шантаев подчеркнул, что внедрение ИИ в условиях повышенных требований к информационной безопасности требует строгого соблюдения регуляторных норм, установленных ФСБ России и ФСТЭК России. К основным проблемам закрытых контуров относятся:

• Фрагментация данных – сложность сбора и обработки информации для обучения ИИ;

• Использование устаревших систем – несовместимость с современными ИИ-технологиями;

• Запрет на публичные облака – ограничение возможностей масштабирования.

В качестве решений предлагаются внедрение сертифицированных отечественных решений, разработка локальных ИИ-платформ и использование синтетических данных для обучения моделей.

Локальные решения для защиты данных

В завершение доклада были рассмотрены преимущества локальных решений для работы с ИИ в промышленных контурах. Такие решения позволяют предприятиям минимизировать риски утечки данных и соответствовать требованиям регуляторов. 

Однако внедрение таких решений сопряжено с необходимостью модернизации вычислительных мощностей, интеграции с существующими системами и привлечения квалифицированных специалистов, что требует значительных ресурсов.

При внедрении ИИ в промышленность важно руководствоваться комплексным подходом – от модернизации инфраструктуры и обеспечения кибербезопасности до подготовки кадров и создания регуляторных стандартов. Для цифровой устойчивости промышленных систем необходимо соблюдение баланса между инновациями и управлением рисками.