Опубликовано: 15.11.2025
В статье рассматриваются три основных типа промпт-инъекций: прямые, косвенные и направленные на генерацию вредоносных инструкций. Авторы предлагают систематизированный подход к их анализу в контексте применения LLM в государственном корпоративном секторе. Также анализируется специфика уязвимостей, возникающих при использовании LLM для автоматизации обработки обращений граждан, подготовки служебных документов и поддержки электронного документооборота. Сделан вывод о необходимости разработки специализированных методик защиты, регламентов использования LLM, внедрения механизмов валидации выводов моделей и ограничения полномочий агентных систем.
