Прежде чем дать AI-агенту доступ к CRM, рекламе и платежам, получите письменные ответы на восемь вопросов. Их можно отправить поставщику одним письмом, и по ответам станет видно, можно ли ему доверять.
Что стоит на кону
Агенту обычно подключают CRM, рекламные кабинеты и платёжные системы. В CRM есть имена и контакты клиентов, а это персональные данные, поэтому ошибка здесь стоит дороже, чем неудачный отчёт.
OWASP, открытый проект по безопасности приложений, ведёт список Top 10 для приложений на больших языковых моделях. В редакции 2025 года в нём десять пунктов, и для нашей темы важны три: LLM01 Prompt Injection, LLM02 Sensitive Information Disclosure и LLM06 Excessive Agency. Простыми словами (пояснение наше, к цитатам списка оно не относится) это три ситуации. В первой текст из внешнего источника подталкивает модель к лишнему действию. Во второй модель раскрывает данные тому, кому их видеть нельзя. В третьей агенту выдали больше прав, чем нужно для работы. Восемь вопросов ниже относятся ко всем трём ситуациям.
Восемь вопросов поставщику
| Вопрос | Хороший ответ | Тревожный ответ |
|---|---|---|
| 1. Где физически хранятся данные и журналы? | Названы страна, тип хостинга и тот, кто им управляет. Есть вариант развернуть у вас | «В облаке» без подробностей |
| 2. Кто из сотрудников поставщика может читать наши данные? | Перечислены роли, доступ выдаётся по запросу и фиксируется | «Все инженеры, когда нужно» |
| 3. Какие права у подключения к нашим системам? | Только чтение, отдельный пользователь или ключ, права можно сузить до нужных данных | Просят ключ администратора |
| 4. Куда уходят запросы к языковой модели и учится ли она на наших данных? | Назван провайдер модели, сказано, что данные для обучения не используются, и это записано в договоре | Ответ уходит в общие слова |
| 5. Сколько хранятся данные и что с ними после окончания работы? | Срок назван, после завершения услуг данные удаляют или возвращают | Про удаление молчат |
| 6. Что записано в договоре об обработке данных? | Обработка по вашим указаниям, конфиденциальность, условия по субподрядчикам, право на проверку | Такого договора нет |
| 7. Ведётся ли журнал запросов и действий агента? | Видно, кто что спросил и какие данные агент запрашивал, журнал доступен вам | Журнала нет или он виден только поставщику |
| 8. Что агент может менять сам? | Изменения в CRM только после подтверждения человека, либо запрещены совсем | Агент пишет в CRM без подтверждения |
Письменные ответы нужны на все восемь вопросов, а на вопросах 1, 4, 5 и 6 настаивайте в первую очередь: на такие ответы можно сослаться, если что-то пойдёт не так.
Что требует GDPR от поставщика
Если вы работаете с данными клиентов из Евросоюза, поставщик AI-агента, как правило, выступает обработчиком ваших данных. Статья 28 GDPR требует от вас выбирать только тех, кто даёт «sufficient guarantees», то есть достаточные гарантии надлежащих технических и организационных мер. Обработка должна регулироваться договором, который обязывает поставщика. По тексту статьи он обрабатывает данные только по вашим документированным указаниям, обеспечивает конфиденциальность сотрудников, соблюдает условия привлечения субподрядчиков, после окончания услуг удаляет данные или возвращает их вам и даёт всю информацию, нужную, чтобы подтвердить соблюдение требований, включая проверки и инспекции.
Статья 32 добавляет, что уровень защиты должен соответствовать риску. В качестве примеров мер она называет псевдонимизацию и шифрование, а ещё процесс регулярной проверки того, что меры работают. Это общий пересказ двух статей и не юридическая консультация. Текст договора стоит показать юристу до подписания.
Как проверить до подключения
- Создайте для агента отдельного пользователя или ключ в CRM и рекламных кабинетах с правом только на чтение.
- Подключите сначала тестовую копию или ограниченный набор данных, а рабочий контур оставьте на потом.
- Задайте контрольные вопросы, ответ на которые вы знаете сами, и сверьте цифры.
- Откройте журнал и найдите в нём свои запросы. Если их там нет, вопрос 7 остаётся без ответа.
- Отзовите ключ и убедитесь, что доступ действительно пропал.
- Попросите описать, как поставщик удалит данные, когда вы закончите работу.
Эти шаги наша рекомендация, закон их не требует.
Когда подключение лучше отложить
Отложите подключение, если поставщик не отвечает письменно хотя бы на вопросы 1-6, настаивает на ключе администратора или не может показать, как отозвать доступ. Отдельно притормозите, когда в данных есть категории, для которых действуют особые правила, и сначала обсудите такой случай с юристом.
Что мы отвечаем на эти вопросы
Brain работает на вашем сервере (self-hosted) или на нашем выделенном VPS под NDA, а все API-ключи и доступы остаются под вашим контролем. Так написано в разделе FAQ на нашем сайте. Остальные вопросы из таблицы, в том числе про языковую модель и условия договора, можно задать нам на бесплатном аудите, до подключения.
Какие вопросы стоит задавать уже подключённым данным, мы собрали в статье «Как спросить у данных: 7 вопросов, которые стоит задать своему бизнесу», а о проверке выводов самого агента писали в материале «Второй мозг vs аналитик в штате».
С чего начать
Распечатайте таблицу и отправьте её любому поставщику, не только нам. Если вы хотите пройти её вместе с нами, начните с бесплатного аудита. Дальше 2 недели сбора данных бесплатно, затем подключение по тарифу и подписка от 349 евро в месяц.
Источники: GDPR, статья 28; GDPR, статья 32; OWASP Top 10 for LLM Applications, редакция 2025.
