Înainte să dai unui agent AI acces la CRM, la publicitate și la plăți, obține răspunsuri scrise la opt întrebări. Ele iau o oră de corespondență cu furnizorul și arată din timp cât de mult îi poți acorda încredere.
Ce este în joc
Unui agent i se conectează de obicei CRM-ul, conturile de publicitate și sistemele de plată. În CRM sunt numele și contactele clienților, iar acestea sunt date personale, de aceea o greșeală aici costă mai mult decât un raport nereușit.
OWASP, un proiect deschis despre securitatea aplicațiilor, ține o listă Top 10 pentru aplicațiile bazate pe modele lingvistice mari. În ediția din 2025 are zece puncte, iar pentru tema noastră contează trei: LLM01 Prompt Injection, LLM02 Sensitive Information Disclosure și LLM06 Excessive Agency. Pe scurt (explicația este a noastră și nu face parte din citatele listei) sunt trei situații. În prima, un text dintr-o sursă externă împinge modelul spre o acțiune în plus. În a doua, modelul dezvăluie date cuiva care nu are voie să le vadă. În a treia, agentului i s-au dat mai multe drepturi decât cere munca lui, iar cele opt întrebări de mai jos acoperă toate cele trei situații.
Opt întrebări pentru furnizor
| Întrebarea | Răspuns bun | Răspuns care alarmează |
|---|---|---|
| 1. Unde sunt stocate fizic datele și jurnalele? | Sunt numite țara, tipul de găzduire și cine o administrează. Există varianta de a instala la tine | „În cloud”, fără detalii |
| 2. Cine dintre angajații furnizorului poate citi datele noastre? | Sunt enumerate rolurile, accesul se dă la cerere și se înregistrează | „Toți inginerii, când e nevoie” |
| 3. Ce drepturi are conexiunea la sistemele noastre? | Doar citire, un utilizator sau o cheie separată, iar drepturile pot fi restrânse la datele necesare | Cer cheia de administrator |
| 4. Unde ajung cererile către modelul lingvistic și învață el din datele noastre? | Este numit furnizorul modelului, se spune că datele nu sunt folosite pentru antrenare, iar asta e scris în contract | Răspunsul se pierde în generalități |
| 5. Cât timp se păstrează datele și ce se întâmplă cu ele după încheierea lucrului? | Termenul este numit, iar după încheierea serviciilor datele se șterg sau se returnează | Despre ștergere se tace |
| 6. Ce scrie în contractul de prelucrare a datelor? | Prelucrare după instrucțiunile tale, confidențialitate, condiții pentru subcontractanți, dreptul de a verifica | Un astfel de contract nu există |
| 7. Se ține un jurnal al cererilor și acțiunilor agentului? | Se vede cine ce a întrebat și ce date a cerut agentul, iar jurnalul îți este accesibil | Jurnalul lipsește sau îl vede doar furnizorul |
| 8. Ce poate modifica agentul singur? | Modificări în CRM doar după confirmarea unui om sau deloc | Agentul scrie în CRM fără confirmare |
Cere răspunsurile la întrebările 1, 4, 5 și 6 în scris: te poți referi la ele dacă ceva merge prost.
Ce cere GDPR de la un furnizor
Dacă lucrezi cu datele unor clienți din Uniunea Europeană, furnizorul agentului AI este, de regulă, persoană împuternicită care prelucrează datele tale. Articolul 28 din GDPR cere să alegi doar furnizori care oferă „sufficient guarantees”, adică garanții suficiente pentru măsuri tehnice și organizatorice adecvate. Prelucrarea trebuie reglementată printr-un contract care îl obligă pe furnizor. Potrivit textului articolului, el prelucrează datele doar conform instrucțiunilor tale documentate, asigură confidențialitatea angajaților, respectă condițiile de angajare a subcontractanților, după încheierea serviciilor șterge datele sau ți le returnează și oferă toate informațiile necesare pentru a dovedi respectarea cerințelor, inclusiv verificări și inspecții.
Articolul 32 adaugă că nivelul de protecție trebuie să corespundă riscului. Ca exemple de măsuri, el numește pseudonimizarea și criptarea, precum și un proces de verificare regulată a faptului că măsurile funcționează. Aceasta este o reluare generală a două articole, nu consultanță juridică, iar textul contractului merită arătat unui jurist înainte de semnare.
Cum verifici înainte de conectare
- Creează pentru agent un utilizator sau o cheie separată în CRM și în conturile de publicitate, cu drept doar de citire.
- Conectează mai întâi o copie de test sau un set limitat de date, iar mediul de lucru lasă-l pe mai târziu.
- Pune întrebări de control la care știi singur răspunsul și verifică cifrele.
- Deschide jurnalul și caută în el cererile tale. Dacă nu sunt acolo, întrebarea 7 rămâne fără răspuns.
- Revocă cheia și asigură-te că accesul a dispărut cu adevărat.
- Cere să ți se descrie cum va șterge furnizorul datele când vei termina lucrul.
Acești pași țin de practică, legea nu îi cere.
Când e mai bine să amâni conectarea
Amână conectarea dacă furnizorul nu răspunde în scris măcar la întrebările 1-6, insistă pe o cheie de administrator sau nu poate arăta cum se revocă accesul. Încetinește separat atunci când în date există categorii pentru care se aplică reguli speciale, și discută mai întâi un astfel de caz cu un jurist.
Ce răspundem noi la aceste întrebări
Brain rulează pe serverul tău (self-hosted) sau pe VPS-ul nostru dedicat, sub NDA, iar toate cheile API și accesurile rămân sub controlul tău. Așa scrie în secțiunea FAQ de pe site-ul nostru. Restul întrebărilor din tabel, inclusiv cele despre modelul lingvistic și condițiile contractului, ni le poți adresa la auditul gratuit, înainte de conectare.
Întrebările care merită puse unor date deja conectate le-am adunat în articolul „7 întrebări pe care merită să le pui afacerii tale”, iar despre verificarea concluziilor agentului însuși am scris în „Al Doilea Creier vs analist angajat”.
De unde să începi
Printează tabelul și trimite-l oricărui furnizor, nu doar nouă. Dacă vrei să îl parcurgi împreună cu noi, începe cu un audit gratuit. Apoi 2 săptămâni de colectare gratuită a datelor, conectare pe tarif și abonament de la 349 de euro pe lună.
Surse: GDPR, articolul 28; GDPR, articolul 32; OWASP Top 10 for LLM Applications, ediția 2025.
