К содержанию
Rexaris AI

LLM firewall: проверка каждого ИИ-запроса до выхода за периметр

Сетевой файрвол решает, какие пакеты могут пройти. LLM firewall решает, какие промпты, данные и ответы могут пройти между вашими людьми и моделями. Rexaris AI принимает это решение внутри вашей инфраструктуры.

Сотрудники, приложения и агенты весь день отправляют текст, файлы и код языковым моделям. Большая часть этого трафика безобидна. Часть несет записи о клиентах, учетные данные или конфиденциальные документы, и обычный прокси не видит между ними разницы.

Rexaris AI стоит между пользователями и провайдерами моделей как OpenAI- и Anthropic-совместимый шлюз. Каждый управляемый запрос классифицируется, сверяется с вашими политиками и разрешается, маскируется, блокируется или перенаправляется, а решение записывается в журнал аудита до возврата ответа.

Запросить приватный пилот

Чего не умеет веб-прокси

  • Понимать содержимое

    Прокси видит POST на api.openai.com. LLM firewall видит номер карты внутри промпта, API-ключ внутри вложения или метку «конфиденциально» на документе.

  • Действовать по классу данных

    Один и тот же запрос может быть замаскирован для одного адресата и заблокирован для другого. Политики пишутся в терминах классов данных, пользователей, групп и провайдеров, а не диапазонов IP.

  • Проверять обратный путь

    Вывод модели тоже проверяется: секреты, вернувшиеся в ответе, можно замаскировать до того, как их увидит разработчик или приложение.

  • Оставаться детерминированным

    Правила срабатывают одинаково каждый раз. Ни одну модель не спрашивают, выглядит ли запрос приемлемо, поэтому аудитор может воспроизвести любое решение.

Как Rexaris AI работает в роли LLM firewall

  • Обнаружение чувствительных данных

    PII, платежные данные, учетные данные, секреты, исходный код и ваши собственные шаблоны обнаруживаются в запросе и в ответе.

    Подробнее

  • Policy engine

    Условия по пользователю, группе, классу данных, приложению и провайдеру дают Allow, Mask, Block или Route.

    Подробнее

  • Защита промптов и контента

    Шаблоны prompt injection и jailbreak, запрещенные темы и собственные списки слов, с честной оговоркой: обнаружение - один из слоев, а не гарантия.

    Подробнее

  • Журнал аудита

    Кто что отправил, какое правило сработало, какая модель ответила, сколько токенов это стоило.

    Подробнее

Частые вопросы

Заменяет ли LLM firewall мой DLP или SASE?
Нет. Эти инструменты видят трафик с управляемых устройств к любым адресатам. Rexaris AI понимает содержимое ИИ-запросов, проходящих через его шлюз, и применяет политику там. Они работают вместе; Rexaris также может принимать от них события теневого ИИ.
Замедлит ли он ответы?
Классификация выполняется внутри вашей сети до отправки запроса. Типичные накладные расходы - десятки миллисекунд, намного меньше задержки модели. Маскирование и восстановление плейсхолдеров не добавляет сетевых обращений.
Может ли он заблокировать все чувствительное?
Он блокирует то, что определяют детекторы и ваши правила. Обнаружение основано на шаблонах и классификаторах, поэтому его нужно сочетать с маршрутизацией конфиденциальной работы во внутренние модели, а не полагаться на него одного.
Где он работает?
Полностью внутри вашей инфраструктуры: Docker или Kubernetes, ваша база данных, ваши журналы аудита. Промпты клиентов не проходят через наше облако.

Смежные решения

Из блога

Посмотрите на свой трафик через LLM firewall

Начните с одной команды в режиме «только аудит». Классы данных в реальных промптах подскажут, какие правила писать первыми.

Запросить приватный пилот