AppSec.AIGate — security gateway для больших языковых моделей. Он стоит между приложением и моделью и анализирует входящие запросы вместе с исходящими ответами. Задача — не пустить в модель опасный промпт и не выпустить наружу данные, которые не должны покидать компанию.
Основные возможности
- Защита от jailbreak и injection-атак — попыток обойти ограничения модели специально подобранными промптами.
- Контроль утечек персональных данных: электронная почта, телефоны, номера карт, паспорта, ИНН, СНИЛС.
- Контроль содержания: недопустимый контент в ответах модели.
- Защита от утечки секретов: API-ключи, токены, приватные ключи, внутренние IP-адреса.
- Классификация safe/unsafe на основе модели WildGuard.
- Разметка ложных срабатываний и экспорт датасета — для дообучения под свои данные.
- Интеграция через JavaScript/TypeScript SDK.
- Быстрый старт на Docker Compose и интеграция с LiteLLM.
Как это устроено
Запрос от приложения идёт в шлюз, а оттуда — в модель. Тот проверяет входящий промпт на попытки обхода и на чувствительные данные, затем пропускает запрос дальше и анализирует ответ — на утечки, секреты и недопустимое содержание. Всё, что не прошло проверку, блокируется или помечается.
Ложные срабатывания можно размечать и выгружать в датасет: на практике это позволяет дообучить фильтры под задачи конкретной компании, где обычные формулировки могут выглядеть подозрительно.
Кому подходит
Разработчикам продуктов на языковых моделях — это защита от самых частых атак на такие сервисы. Компаниям, которые внедряют ИИ-помощников для сотрудников и клиентов и должны контролировать, что уходит в модель и приходит из неё. Организациям с требованиями по защите персональных данных, где ответы модели могут содержать чувствительную информацию. И службам информационной безопасности, которым нужно прикрыть ИИ-направление, не тормозя разработку.
Что учесть
Шлюз требует инфраструктуры: развёртывание, требования к аппаратному обеспечению и к видеопамяти, сопровождение. Это отдельная работа для инженеров, и её стоит планировать до пилота.
Классификаторы работают вероятностно: возможны и пропуски, и ложные блокировки, поэтому фильтры стоит проверять на своих реальных запросах и настраивать. И, поскольку шлюз видит весь трафик между приложением и моделью, важно, чтобы доступ к его логам был ограничен — иначе средство защиты само станет источником утечки.
Похожие сервисы
- Kaspersky Endpoint Security Cloud
- urlscan.io — песочница для проверки подозрительных ссылок
- FindRisk — проверка сайта на известные уязвимости
- BotProtection — облачная защита сайта от ботов
Перейти к документации AppSec.AIGate