Kako bezbedno koristiti AI alate za analizu dokumentacije

Kada sam prvi put ubacio obimnu tehničku specifikaciju u AI alat i za nekoliko sekundi dobio pregled ključnih stavki, prva reakcija bila je oduševljenje. Druga, koja je stigla odmah posle, bilo je pitanje koje mi se od tada vraća pred svaki sledeći dokument: šta sam upravo poslao van organizacije?

Poslednjih meseci ChatGPT i Claude koristim gotovo svakodnevno za analizu dokumentacije, pripremu izveštaja i pronalaženje informacija u obimnim materijalima. Vrlo brzo postalo je jasno da najveći izazov nije napisati dobar „prompt“, već proceniti koje informacije uopšte smeju da napuste organizaciju.

Vremenom sam napravio nekoliko pravila za bezbedno korišćenje AI alata u radu sa poslovnom i privatnom dokumentacijom. U ovom tekstu delim neka od tih pravila koja mi pomažu da koristim veštačku inteligenciju, a da pritom ne ugrozim bezbednost podataka. Namenjena su sistem administratorima, IT inženjerima, rukovodiocima i svima koji se u radu oslanjaju na AI alate.

1. Prvo pitanje nije „Koji prompt da koristim?“

Pre nego što bilo šta pošaljem AI servisu, ne razmišljam o formulaciji prompta. Razmišljam o dokumentu.

Prvo pitanje je:

Da li ovaj dokument sme da napusti organizaciju?

Odgovor na to pitanje određuje sve što dolazi posle. Ako dokument sadrži poverljive informacije, postoje tri opcije: ne šalje se uopšte, šalje se samo deo koji je zaista potreban ili se prethodno anonimizuje.

Dobar prompt na pogrešnom dokumentu i dalje je pogrešna odluka.

2. Dokumenti koji ne idu AI servisu

Postoji sadržaj koji nikada ne ide direktno u AI alat bez prethodne procene i uklanjanja osetljivih podataka:

• ugovori koji nisu javno dostupni;
• backup konfiguracije;
• interne IP adrese;
• korisnička imena i lozinke;
• API ključevi;
• bezbednosni izveštaji;
• lični podaci zaposlenih ili korisnika;
• interni finansijski i poslovni podaci;
• detalji bezbednosne arhitekture.

Zašto je lista ovako stroga

Ovo nije lista zabrana radi zabrane. Svaka od ovih informacija može predstavljati poslovni, bezbednosni ili regulatorni rizik ukoliko napusti kontrolisano okruženje organizacije.

Iako pojedini AI servisi nude različite nivoe zaštite podataka i poslovne modele korišćenja, odgovornost za procenu rizika i dalje ostaje na organizaciji koja podatke šalje na obradu. Upravo zato pre svakog slanja dokumenta treba proceniti da li je njegova analiza uopšte opravdana i da li postoji bezbedniji način da se isti cilj postigne.

Kod podataka o ličnosti ograničenje nije samo stvar individualne procene. Njihova obrada korišćenjem eksternog AI servisa mora biti usklađena sa propisima, internim pravilima organizacije i odgovarajućim pravnim osnovom. To je pitanje koje treba razmotriti zajedno sa licem zaduženim za zaštitu podataka i drugim odgovornim funkcijama u organizaciji, a ne odluka koju samostalno donosi pojedinac koji analizira dokument.

3. Anonimizacija pre analize

Kada je potrebno analizirati internu dokumentaciju, prvo se uklanja sve što može da identifikuje organizaciju ili njenu infrastrukturu.

Umesto:

Server: ESX-PROD-DB
IP: 192.168.50.50
Storage: HPE Primera
Kompanija: VS DOO

koristi se:

Server A
IP-1
Storage A
Kompanija X

Za najveći broj analiza AI-u nisu potrebni stvarni nazivi servera ni IP adrese — potrebni su mu odnosi između podataka. Struktura ostaje ista, kontekst se ne gubi, a dokument više ne otkriva direktno podatke o infrastrukturi.

Šta se najčešće previdi

Zamka je u tome što se identitet organizacije retko krije samo u IP adresama. Mogu ga otkriti i naziv projekta, ime dobavljača, lokacija, domen, naziv interne aplikacije ili specifična kombinacija tehničkih detalja.

Zato posle anonimizacije uvek sledi još jedno čitanje dokumenta — ovog puta iz ugla nekoga ko pokušava da pogodi o kojoj je organizaciji reč. Ako i sam mogu da prepoznam sistem iz anonimizovane verzije, anonimizacija nije završena.

4. Rezime nije prvi korak

Jedna od prvih grešaka koje sam pravio bio je zahtev:

Napravi rezime ovog dokumenta.

Kod dokumenta od dvesta strana ovakav zahtev daje tekst koji zvuči tačno, a lako izostavi upravo ono što je najvažnije.

Rezime je kompresija, a kompresija uvek nešto odbacuje — problem je što se ne vidi šta.

Znatno bolji rezultati dolaze iz analize u nekoliko koraka.

Najpre:

Objasni strukturu dokumenta.

Zatim:

Analiziraj prvo poglavlje.
Izdvoji ključne informacije.

I tek na kraju:

Na osnovu svih analiziranih poglavlja napravi završni zaključak.

Razlika je vidljiva već kod dokumenata od nekoliko desetina strana, a kod višestotinastranih dokumenata postaje presudna.

5. Konkretno pitanje umesto opšteg

„O čemu govori dokument?“ pitanje je na koje se može dobiti tačan i potpuno beskoristan odgovor.

Mnogo je korisnije precizno definisati zadatak:

Izdvoji sve rokove.

Prikaži sve bezbednosne zahteve.

Pronađi sve rizike navedene u dokumentu.

Što je zahtev precizniji, to je odgovor upotrebljiviji. AI ne zna šta je za korisnika najvažnije dok mu se to jasno ne kaže.

Kod složenijih dokumenata zadatak se može dodatno ograničiti:

Izdvoji sve obaveze naručioca.

Za svaku obavezu navedi rok, odgovorno lice i deo dokumenta
u kom je navedena.

Nemoj izvoditi zaključke koji nisu direktno podržani tekstom dokumenta.

6. Poređenje dokumenata

Funkcionalnost koju koristim najčešće jeste direktno poređenje više dokumenata — dve tehničke specifikacije, dva IKT projektna zahteva ili dve verzije istog dokumenta.

Umesto zasebne analize svakog dokumenta, oba se učitavaju u isti razgovor:

Uporedi ova dva dokumenta.

Prikaži:

- ključne razlike
- prednosti
- nedostatke
- rizike
- šta postoji u jednom dokumentu, a nedostaje u drugom.

Poređenje dva zasebno pripremljena rezimea gotovo uvek može da propusti detalje. Direktno poređenje izvornih dokumenata u istom kontekstu pruža bolju osnovu za uočavanje razlika.

Isto pravilo o anonimizaciji važi i ovde, samo dvostruko: dva dokumenta zajedno mogu otkriti više nego svaki pojedinačno.

7. Provera je deo posla, a ne opcija

Ovo je pravilo koje ne preskačem ni kada se žuri.

Ako AI napiše:

Tehnička specifikacija predviđa tri servera i jedan storage uređaj.

sledi zahtev:

Pokaži tačno u kom delu dokumenta se nalazi ova informacija.

Ako izvor ne može da se pokaže, zaključak ne ide dalje.

AI modeli ponekad mogu da izvedu zaključak koji deluje potpuno logično i uverljivo, ali nije zasnovan na sadržaju dokumenta. Upravo zato nijedan važan podatak ne prihvatam bez provere u izvornom dokumentu. Što je odluka važnija, to provera mora biti detaljnija.

Provera nekada traje svega petnaestak sekundi, ali predstavlja razliku između informacije i pretpostavke koja samo lepo zvuči.

Ovo posebno važi za tehničke parametre — dakle, za sve ono zbog čega se dokument i analizira:

• količine opreme;
• kapacitete sistema;
• rokove;
• licence;
• obaveze ugovornih strana;
• bezbednosne zahteve;
• uslove prihvatanja rešenja.

8. Nalog i uslovi korišćenja servisa

Pravila o tome šta se šalje predstavljaju prvu liniju odbrane. Druga je izbor i podešavanje samog naloga.

Pre nego što se AI alat uvede u svakodnevni rad, vredi proveriti u zvaničnoj dokumentaciji servisa:

• da li se uneti sadržaj koristi za dalju obuku modela i može li se to isključiti;
• koliko dugo se čuva istorija razgovora i može li se obrisati;
• gde se podaci obrađuju i čuvaju;
• da li poslovni nalog nudi drugačije uslove od besplatnog;
• ko u organizaciji ima pristup nalogu i pod kojim uslovima;
• da li postoje administrativne kontrole, evidencija aktivnosti i upravljanje korisnicima;
• da li je korišćenje servisa pokriveno odgovarajućim ugovorima i internim pravilima.

Uslovi se razlikuju od servisa do servisa i menjaju se tokom vremena. Zbog toga je jedini pouzdan izvor zvanična dokumentacija provajdera koja važi u trenutku uvođenja ili korišćenja alata — a ne blog, objava na društvenoj mreži ili članak, uključujući i ovaj.

9. Kontrolna lista pre slanja dokumenta

Pre nego što dokument pošaljem AI servisu, prolazim kroz sledeća pitanja:

Česta pitanja

Da li je bezbedno koristiti ChatGPT ili Claude za analizu poslovne dokumentacije?

Zavisi od dokumenta, načina korišćenja i uslova konkretnog servisa. Javno dostupna dokumentacija ili pažljivo anonimizovan sadržaj obično nose manji rizik. Poverljivi ugovori, konfiguracije, bezbednosni izveštaji i podaci o ličnosti zahtevaju prethodnu procenu i usklađivanje sa internim pravilima organizacije.

Kako anonimizovati dokument pre slanja AI alatu?

Stvarni nazivi servera, IP adrese, imena organizacija i drugi identifikacioni podaci zamenjuju se opštim oznakama kao što su Server A, IP-1 ili Kompanija X. Struktura dokumenta se pritom ne menja. Posle zamene dokument treba ponovo pročitati i proveriti da li se organizacija i dalje može prepoznati po nazivima projekata, lokacija, domena, dobavljača ili kombinaciji tehničkih detalja.

Zašto AI ponekad izostavi važne informacije iz rezimea?

Rezime je kompresija sadržaja i po svojoj prirodi nešto izostavlja. Kod obimne dokumentacije analiza u koracima — najpre struktura, zatim pojedinačna poglavlja i tek onda završni zaključak — daje pouzdaniji rezultat od jednog opšteg zahteva za rezimeom.

Kako proveriti da li je odgovor AI alata tačan?

Za svaki važan zaključak treba tražiti tačan deo dokumenta na kom se zasniva. Ako izvor ne može da se pokaže, zaključak ne treba koristiti bez dodatne provere u originalnom dokumentu.

Da li AI alati mogu da zamene stručnu procenu?

Ne. AI može značajno da ubrza pronalaženje informacija, poređenje sadržaja i razumevanje obimne dokumentacije. Odluku, odgovornost i konačnu proveru i dalje zadržava čovek.

Zaključak

AI alati poput ChatGPT-a i Claude-a danas mogu značajno da ubrzaju analizu dokumentacije, pripremu izveštaja i pronalaženje informacija u obimnim materijalima. Za mene oni više nisu samo alati za eksperimentisanje, već deo svakodnevnog rada.

Ipak, nijedan AI alat nije promenio jedno pravilo koje važi mnogo duže od pojave veštačke inteligencije — pre nego što bilo koji dokument podelimo sa drugom stranom, moramo znati koje informacije napuštaju organizaciju i kakve posledice to može imati.

Ako od celog ovog teksta treba da ostane samo jedno pitanje, neka to bude upravo ono sa početka:

Da li ovaj dokument sme da napusti organizaciju?

Odgovor na to pitanje mnogo je važniji od bilo kog prompta, modela ili AI alata. Veštačka inteligencija može pomoći da brže pronađemo informacije i bolje razumemo dokumentaciju, ali odgovornost za zaštitu podataka, donošenje odluka i proveru činjenica i dalje ostaje na čoveku.

Napomena: Korišćenje AI alata u poslovnom okruženju potrebno je uskladiti sa internim pravilima organizacije, ugovornim obavezama i propisima o zaštiti podataka. Ovaj tekst predstavlja moje lično iskustvo i način rada i ne predstavlja pravni savet niti zamenu za interne bezbednosne politike.