Rizici privatnosti podataka kod umjetne inteligencije koje svaka mala tvrtka mora razumjeti

Nitko u maloj tvrtki ne kreće s namjerom da procuri podatke kupaca u model umjetne inteligencije. To se događa onako kako se događa većina nereda — tiho, uslužno, jedan bezazlen kopirani odlomak po jedan. Netko ubaci e-poštu kupca u chatbot kako bi sastavio pristojan odgovor. Netko prenese tablicu s imenima da je „samo sažme”. Netko dopusti novom blistavom alatu da pročita cijelu zajedničku pristiglu poštu kako bi bio pametniji. Ništa od toga ne djeluje kao odluka. Upravo zato vrijedi o tome razgovarati.

Surađujem s malim i srednjim tvrtkama koje uvode umjetnu inteligenciju u svakodnevni rad, a razgovor o privatnosti onaj je koji ljudi najviše žele preskočiti. Zvuči kao odvjetnici i usklađenost i obrasci — suprotnost brzini zbog koje su uopće došli AI-ju. Ali stvar je u ovome: ne morate postati stručnjak za zaštitu podataka. Trebate bistar osjećaj za to gdje su stvarni rizici, koji od njih zaista vrijede za tvrtku vaše veličine i nekoliko navika koje vas drže podalje od nevolja. To je cijeli posao, i manji je nego što se čini.

Ovo nije zastrašivanje, niti je predavanje o propisima koje nikada nećete pročitati. Ovo je praktična verzija: kojih se podataka AI alati zaista dotiču, gdje stvari mogu poći po zlu i kako nastaviti koristiti umjetnu inteligenciju bez besanih noći u kojima se pitate na čijim poslužiteljima leži vaš popis klijenata.

Što se zapravo promijenilo kad se pojavila umjetna inteligencija

Godinama su podaci kojima je vaša tvrtka rukovala uglavnom ostajali tamo gdje ste ih stavili — vaš računovodstveni softver, vaša pristigla pošta, dijeljeni disk. Rizično, naravno, ali ograničeno. Generativna umjetna inteligencija tiho je probila tu granicu. Cijela poanta tih alata jest da im date svoje stvarne, konkretne informacije, a oni s njima učine nešto korisno. To znači da vaši podaci sada putuju nekamo novo, često na poslužitelj koji nije vaš, u zemlju koju niste odabrali, kojim upravlja tvrtka s kojom nikada niste razgovarali.

To nije samo po sebi loše. Mnogi ugledni pružatelji AI-ja pažljivo postupaju s podacima. Ali zadane pretpostavke su se promijenile, a većina ljudi nikada nije ažurirala svoje. Mentalni model „moji podaci ostaju u mojoj zgradi” jednostavno ne preživljava dodir s chatbotom kojem pristupate kroz preglednik. Kad to prihvatite, sve ostalo postaje puno lakše za promišljanje.

Kamo vaši podaci zaista odlaze

Da biste promišljali o riziku, morate znati što se događa s djelićem teksta nakon što pritisnete pošalji. Kod tipičnog AI alata u oblaku vaš unos putuje na poslužitelje pružatelja, model ga obradi i vraća se odgovor. Dovoljno jednostavno. Pitanja koja su bitna ona su koja nitko u tom trenutku ne postavlja: Pohranjuje li se taj unos? Koliko dugo? Tko ga može vidjeti? I koristi li se za treniranje budućih modela?

Ta četiri pitanja čine cijeli razgovor o privatnosti u malom. Besplatna potrošačka razina i plaćeni poslovni plan iste tvrtke mogu na njih odgovoriti potpuno različito. Besplatna verzija alata može zadržati vaše unose i koristiti ih za poboljšanje modela; poslovna verzija tog istog alata često obećava da uopće neće pohranjivati niti trenirati na vašim podacima. Isti logotip, vrlo različit dogovor. Razlika leži u planu koji koristite i postavkama koje nikada niste otvorili.

Rizici koji zaista vrijede za malu tvrtku

Vodiči o privatnosti vole nabrajati dvadeset prijetnji, od kojih se većina odnosi na banku, a ne na tvrtku od 12 ljudi. Dopustite mi da to svedem na šačicu onih koje zaista grizu male tvrtke. To su one za koje sam vidio da uzrokuju stvarne glavobolje.

Curenje podataka koje niste namjeravali podijeliti

Ovo je svakodnevni rizik. Zaposlenik zalijepi cjelovitu poruku kupca — ime, adresu, detalje narudžbe, možda pritužbu — u chatbot da bi dobio pomoć pri odgovaranju. Bezazlena namjera, ali ti osobni podaci sada su poslani trećoj strani, možda pohranjeni, možda iskorišteni za treniranje. Pomnožite to s užurbanim timom kroz godinu dana i tiho ste otpremili znatan dio svoje baze kupaca na tuđe poslužitelje, bez ikakvog zapisa o tome i bez privole uključenih osoba.

Vaši podaci treniraju tuđi model

Ako alat koristi vaše unose za poboljšanje svojeg modela, djelići vaših informacija mogu se, načelno, kasnije pojaviti negdje drugdje. Za većinu malih tvrtki realna briga nije da konkurent čarobno izvuče vaš cjenik — već gubitak kontrole i problem privole. Obećali ste kupcima da ćete čuvati njihove podatke. Ubacivanje tih podataka u model koji uči iz njih teško je uskladiti s tim obećanjem, i nemoguće ga je poništiti.

Alat koji ste prikvačili a da ništa niste pročitali

Najrizičnija umjetna inteligencija u vašoj tvrtki često je ona mala koju nitko nije provjerio — proširenje za preglednik, aplikacija „povežite svoju poštu”, besplatni alat za transkripciju koji je netko našao. Oni mogu tražiti sveobuhvatan pristup e-pošti, datotekama ili kalendarima, a mnogi su tek tanki omotači oko većeg pružatelja AI-ja kojeg ne vidite. Opasnost nisu poznati alati koji prolaze reviziju. To su oni zaboravljivi s širokim dopuštenjima i pravilima privatnosti koja nitko nije otvorio.

Samouvjereno pogrešni odgovori o stvarnim ljudima

Postoji aspekt privatnosti koji se previđa: umjetna inteligencija može generirati uvjerljive, pogrešne informacije o određenoj osobi ili slučaju. Ako taj izmišljeni detalj završi u zapisu o kupcu, preporuci ili odluci koja utječe na nekoga, imate i problem točnosti i problem zaštite podataka. Sve što umjetna inteligencija tvrdi o stvarnom pojedincu treba provjeriti čovjek prije nego što se to uzme kao činjenica.

• Osobni podaci kupaca zalijepljeni u alate potrošačke razine koji ih mogu pohraniti ili na njima trenirati.
• Povjerljivi ugovori, cijene ili strategija podijeljeni s modelom s kojim nemate nikakav dogovor.
• Podaci zaposlenika — bilješke o zdravlju, učinku, plaćama — provučeni kroz opće chatbotove.
• Dodaci za umjetnu inteligenciju trećih strana kojima je dopušten širok pristup vašoj pošti, datotekama ili kalendaru.
• Tvrdnje koje je generirala umjetna inteligencija o stvarnim ljudima kopirane u zapise bez ljudske provjere.
• Cijele zajedničke pristigle pošte ili diskovi povezani s alatom čije uvjete nitko nije pročitao.

Što propisi očekuju (bez pravne glavobolje)

Ako rukujete podacima bilo koje osobe u Europi — a gotovo svaka tvrtka rukuje — GDPR se već primjenjuje na način na koji koristite umjetnu inteligenciju. Ne morate ga znati napamet, ali nekoliko se načela izravno prevodi u zdrav razum. Odgovorni ste za osobne podatke i onda kad ih alat obrađuje umjesto vas. „AI je to učinio” nije obrana. Ako predate podatke kupaca pružatelju, očekuje se da imate uredan ugovor s njim koji pokriva kako on s njima postupa.

Načela koja u praksi najviše vrijede ona su dosadna, razumna: dijelite samo podatke koji su vam stvarno potrebni (nemojte lijepiti cijeli zapis kad bi i isječak poslužio), budite transparentni prema ljudima o tome kako se njihovi podaci koriste, čuvajte ih samo onoliko dugo koliko je potrebno i budite u stanju udovoljiti zahtjevima za pristup ili brisanje. Umjetna inteligencija ne mijenja te dužnosti — samo ih čini lakšima za zaboraviti, jer alat djeluje kao privatni pomoćnik, a ne kao vanjska tvrtka.

Oblak, privatni oblak ili sve zadržati u kući?

Nije sva umjetna inteligencija na tuđem poslužitelju. Postoji raspon, a poznavanje tog raspona pomaže vam uskladiti alat s osjetljivošću podataka. Na jednom je kraju javni alat u oblaku — brz za uvođenje, najjeftiniji za početak, ali vaši podaci napuštaju vašu kontrolu. U sredini je poslovni aranžman u oblaku s ugovornim jamstvima: nema treniranja na vašim podacima, jasno zadržavanje, obrada u regiji koju prihvaćate. Za većinu malih tvrtki ta srednja opcija idealna je za svakodnevni rad.

Na krajnjem je kraju pokretanje umjetne inteligencije na vašoj vlastitoj infrastrukturi — on-premise ili u privatnom okruženju koje vi kontrolirate — tako da osjetljivi podaci uopće nikada ne napuštaju vaše zidove. To je nekad bilo egzotično i skupo. Više nije. Sposobni otvoreni modeli sada se mogu pokretati na hardveru koji srednja tvrtka razumno može posjedovati, a za tvrtke koje rukuju doista osjetljivim materijalom — zdravstvenim podacima, pravnim spisima, svime gdje je povjerljivost sam proizvod — to sve više postaje razuman zadani izbor, a ne luksuz.

Zamka je u tome da se na ovo gleda kao na sve ili ništa. Ne morate odabrati jedan model za cijelu tvrtku. Pametniji je obrazac da razvrstate podatke prema osjetljivosti i usmjerite ih u skladu s tim: marketinški tekstovi i opća pitanja mogu spokojno koristiti dobar alat u oblaku, dok sve što uključuje stvarne zapise o kupcima, zdravstvene informacije ili povjerljive ugovore ide kroz kontrolirano ili interno okruženje. Jedna tvrtka, dvije trake.

Praktičan popis koji zaista možete provesti

Evo dijela koji možete obaviti ovog mjeseca bez konzultanta ili projekta usklađenosti. Ništa od toga nije teško. Uglavnom se radi o tome da odluke donosite namjerno, a ne slučajno.

1. 1
   Popišite AI alate koji se već koriste

   Pitajte svoj tim — iskreno, bez prozivanja — koje AI alate koriste, uključujući besplatne osobne račune i proširenja za preglednik. Ne možete zaštititi podatke koji teku kroz alate za koje ne znate da postoje.
2. 2
   Razvrstajte podatke na osjetljive i neosjetljive

   Povucite grubu crtu. Osobni podaci kupaca, zapisi o zaposlenicima, ugovori i cijene na jednoj strani; opće pisanje, razmišljanje naglas i javne informacije na drugoj. Ta jedna podjela pokreće svaku drugu odluku.
3. 3
   Premjestite stvarni rad na poslovne planove

   Za sve što se dotiče osjetljive strane, prebacite se s potrošačkih/besplatnih razina na poslovni plan koji ugovorno neće pohranjivati niti trenirati na vašim podacima i ima DPA.
4. 4
   Napišite jedno kratko pravilo korištenja AI-ja

   Pola stranice: koji su alati odobreni, što se nikada ne smije zalijepiti u javni alat i koga pitati kad niste sigurni. Jednostavno i pročitano pobjeđuje temeljito i zanemareno.
5. 5
   Zaključajte osjetljivu traku

   Za doista povjerljive podatke odaberite kontrolirano ili on-premise okruženje kako nikada ne bi napuštali vaše okruženje — i prestanite pokušavati učiniti javni alat dovoljno sigurnim za njih.

To je to. Pet koraka, nijedan dramatičan. Cilj nije savršena tvrđava — već uklanjanje lakih, slučajnih curenja koja čine veliku većinu stvarnih incidenata. Riješite ih i već ste ispred većine tvrtki vaše veličine.

Dio koji tehnologija ne može popraviti

Možete kupiti najprivatnije okruženje na svijetu i i dalje imati problem, jer privatnost u maloj tvrtki uglavnom se svodi na navike, a ne na infrastrukturu. Curenje gotovo nikada ne dolazi od domišljatog napadača. Dolazi od uslužnog zaposlenika pod pritiskom vremena koji zalijepi pogrešnu stvar u pogrešan okvir jer mu nitko nije rekao da to ne čini, i jer je alat učinio da to djeluje sasvim normalno.

Stoga stvar s najvećim učinkom koju možete učiniti uopće nije tehnička. To je činiti očitim i lakim da se postupi ispravno: jedan odobreni alat za osjetljiv rad, pravilo u jednom retku koje svi zaista znaju i kultura u kojoj je pitanje „je li u redu staviti ovo ovamo?” normalno, a ne dosadno. Tehnologija postavlja granice. Ljudi odlučuju poštuju li se — a hoće, ako siguran put učinite onim lakim.

Česta pitanja