Перш ніж дати AI-агенту доступ до CRM, реклами й платежів, отримайте письмові відповіді на вісім запитань. Вони займають годину листування з постачальником і заздалегідь показують, наскільки йому можна довіряти.
Що поставлено на кін
Агенту зазвичай підключають CRM, рекламні кабінети й платіжні системи. У CRM є імена й контакти клієнтів, а це персональні дані, тому помилка тут коштує дорожче, ніж невдалий звіт.
OWASP, відкритий проєкт із безпеки застосунків, веде список Top 10 для застосунків на великих мовних моделях. У редакції 2025 року в ньому десять пунктів, і для нашої теми важливі три: LLM01 Prompt Injection, LLM02 Sensitive Information Disclosure і LLM06 Excessive Agency. Простими словами (пояснення наше, до цитат списку воно не належить) це три ситуації. У першій текст із зовнішнього джерела підштовхує модель до зайвої дії. У другій модель розкриває дані тому, кому їх бачити не можна. У третій агенту видали більше прав, ніж потрібно для роботи, і вісім запитань нижче закривають усі три ситуації.
Вісім запитань постачальнику
| Запитання | Добра відповідь | Тривожна відповідь |
|---|---|---|
| 1. Де фізично зберігаються дані та журнали? | Названо країну, тип хостингу й того, хто ним керує. Є варіант розгорнути у вас | «У хмарі» без подробиць |
| 2. Хто зі співробітників постачальника може читати наші дані? | Перелічено ролі, доступ видається за запитом і фіксується | «Усі інженери, коли треба» |
| 3. Які права має підключення до наших систем? | Лише читання, окремий користувач або ключ, права можна звузити до потрібних даних | Просять ключ адміністратора |
| 4. Куди йдуть запити до мовної моделі й чи вчиться вона на наших даних? | Названо провайдера моделі, сказано, що дані для навчання не використовуються, і це записано в договорі | Відповідь іде в загальні слова |
| 5. Скільки зберігаються дані і що з ними після завершення роботи? | Строк названо, після завершення послуг дані видаляють або повертають | Про видалення мовчать |
| 6. Що записано в договорі про обробку даних? | Обробка за вашими вказівками, конфіденційність, умови щодо субпідрядників, право на перевірку | Такого договору немає |
| 7. Чи ведеться журнал запитів і дій агента? | Видно, хто що спитав і які дані агент запитував, журнал доступний вам | Журналу немає або він видимий лише постачальнику |
| 8. Що агент може змінювати сам? | Зміни в CRM лише після підтвердження людини, або заборонені зовсім | Агент пише в CRM без підтвердження |
Відповіді на запитання 1, 4, 5 і 6 просіть письмово: на них можна послатися, якщо щось піде не так.
Що вимагає GDPR від постачальника
Якщо ви працюєте з даними клієнтів із Європейського Союзу, постачальник AI-агента, як правило, виступає обробником ваших даних. Стаття 28 GDPR вимагає від вас обирати лише тих, хто дає «sufficient guarantees», тобто достатні гарантії належних технічних і організаційних заходів. Обробка має регулюватися договором, який зобов'язує постачальника. За текстом статті він обробляє дані лише за вашими документованими вказівками, забезпечує конфіденційність співробітників, дотримується умов залучення субпідрядників, після завершення послуг видаляє дані або повертає їх вам і надає всю інформацію, потрібну, щоб підтвердити дотримання вимог, включно з перевірками та інспекціями.
Стаття 32 додає, що рівень захисту має відповідати ризику. Як приклади заходів вона називає псевдонімізацію та шифрування, а ще процес регулярної перевірки того, що заходи працюють. Це загальний переказ двох статей, юридичною консультацією він не є, і текст договору варто показати юристу до підписання.
Як перевірити до підключення
- Створіть для агента окремого користувача або ключ у CRM і рекламних кабінетах з правом лише на читання.
- Підключіть спершу тестову копію або обмежений набір даних, а робочий контур залиште на потім.
- Поставте контрольні запитання, відповідь на які ви знаєте самі, і звірте цифри.
- Відкрийте журнал і знайдіть у ньому свої запити. Якщо їх там немає, запитання 7 лишається без відповіді.
- Відкличте ключ і переконайтеся, що доступ справді зник.
- Попросіть описати, як постачальник видалить дані, коли ви закінчите роботу.
Ці кроки належать до практики, закон їх не вимагає.
Коли підключення краще відкласти
Відкладіть підключення, якщо постачальник не відповідає письмово хоча б на запитання 1-6, наполягає на ключі адміністратора або не може показати, як відкликати доступ. Окремо пригальмуйте, коли в даних є категорії, для яких діють особливі правила, і спершу обговоріть такий випадок з юристом.
Що ми відповідаємо на ці запитання
Brain працює на вашому сервері (self-hosted) або на нашому виділеному VPS під NDA, а всі API-ключі та доступи лишаються під вашим контролем. Так написано в розділі FAQ на нашому сайті. Решту запитань із таблиці, зокрема про мовну модель і умови договору, можна поставити нам на безкоштовному аудиті, до підключення.
Які запитання варто ставити вже підключеним даним, ми зібрали в статті «Як питати в даних: 7 запитань, які варто поставити своєму бізнесу», а про перевірку висновків самого агента писали в матеріалі «Другий мозок vs аналітик у штаті».
З чого почати
Роздрукуйте таблицю і відправте її будь-якому постачальнику, не лише нам. Якщо ви хочете пройти її разом із нами, почніть із безкоштовного аудиту. Потім 2 тижні безкоштовного збору даних, підключення за тарифом і підписка від 349 євро на місяць.
Джерела: GDPR, стаття 28; GDPR, стаття 32; OWASP Top 10 for LLM Applications, редакція 2025.
