Методика оценки рисков утечки данных при использовании LLM в корпоративной среде: организационно-технические и правовые аспекты

Работа посвящена проблеме оценки рисков утечки конфиденциальной информации при интеграции больших языковых моделей (БЯМ) в корпоративные бизнес-процессы. Авторы исследуют существующие подходы к защите данных в среде использования искусственного интеллекта (ИИ), выявляют критические векторы утечки информации через пользовательские запросы (промпты) и анализируют пробелы в нормативно-правовом регулировании данной сферы. Особое внимание уделено отсутствию системных методик оценки рисков, что приводит к субъективности принятия решений о допустимости обработки конфиденциальных данных в БЯМ. В статье предложена оригинальная матрица рисков, учитывающая тип обрабатываемых данных, уровень доступа пользователей и архитектуру развертывания моделей (облачное или локальное). Проведенное исследование позволило разработать методику классификации пользовательских запросов по уровню риска с набором правил фильтрации промптов, формулируются рекомендации по применению предложенного подхода в организациях, обрабатывающих персональные данные и коммерческую тайну.

Литература

[1] Интеллект оправдывает средства: топ-5 IT-компаний России обеспечили 95% выручки на рынке ИИ. URL: https://www.kommersant.ru/doc/7989450 (дата обращения 22.03.2026).

[2] ГОСТ Р 50739–95. Средства вычислительной техники. Защита от несанкционированного доступа к информации. Общие технические показатели. Москва, Изд-во стандартов, 1995.

[3] ГОСТ Р ИСО/МЭК 15408-1–2012. Информационная технология. Методы и средства обеспечения безопасности. Критерии оценки безопасности информационных технологий. Москва, Стандартинформ, 2014, ч. IV, 54 с.

[4] Средство моделирования угроз Майкрософт (Microsoft Threat Modeling Tool). URL: https://learn.microsoft.com/ru-ru/azure/security/develop/threat-modeling-tool-threats (дата обращения 22.03.2026).

[5] Alberts C., Dorofee S. OCTAVE Criteria, Version 2.0. Technical Report CMU/SEI-2001-TR-016. Pittsburgh, PA, Software Engineering Institute, Carnegie Mellon University, 2001, 109 p.

[6] О коммерческой тайне. ФЗ от 29.07.2004 № 98-ФЗ. 2004, № 31, ст. 3217.

[7] О персональных данных. ФЗ от 27.07.2006 № 152-ФЗ. 2006, № 31 (ч. 1), ст. 3451.

[8] Самолкаева А.М., Шведова С.М. Искусственный интеллект в сфере информационной безопасности: преимущества, ограничения и перспективы. Вестник науки, 2024, № 3(72), с. 534–539.

[9] Генеративный искусственный интеллект используют 70 % российских компаний. URL: https://www.forbes.ru/tekhnologii/535047-generativnyj-iskusstvennyj-intellekt-ispol-zuut-70-rossijskih-kompanij (дата обращения 22.03.2026).

[10] Артамонов В.А., Артамонова Е.В. Искусственный интеллект и безопасность: проблемы, заблуждения, реальность и будущее. Россия: тенденции и перспективы развития. XXI Нац. науч. конф. с междунар. уч.: матер. Москва, ИНИОН РАН, 2022, № 17-1.