Tveganja za zasebnost podatkov pri umetni inteligenci, ki bi jih moralo razumeti vsako malo podjetje

Nihče v malem podjetju se ne loti tega z namenom, da bi podatke strank spustil v model umetne inteligence. Zgodi se tako, kot se zgodi večina zmešnjav — tiho, uslužno, en neškodljiv prilepljen odlomek za drugim. Nekdo vrže elektronsko sporočilo stranke v klepetalnega robota, da bi sestavil vljuden odgovor. Nekdo naloži preglednico z imeni, da jo »samo povzame«. Nekdo dovoli novemu bleščečemu orodju, da prebere celoten skupni nabiralnik, da bo pametnejše. Nič od tega ne deluje kot odločitev. Prav zato je vredno o tem govoriti.

Sodelujem z malimi in srednje velikimi podjetji, ki uvajajo umetno inteligenco v vsakdanje delo, in pogovor o zasebnosti je tisti, ki ga ljudje najraje preskočijo. Sliši se kot odvetniki, skladnost in obrazci — nasprotje hitrosti, zaradi katere so sploh prišli k UI. A tu je bistvo: ni vam treba postati strokovnjak za varstvo podatkov. Potrebujete jasen občutek za to, kje so resnična tveganja, katera od njih dejansko veljajo za podjetje vaše velikosti, in peščico navad, ki vas držijo stran od težav. To je celotno delo in je manjše, kot je videti.

To ni strašenje in ni predavanje o predpisih, ki jih nikoli ne boste prebrali. To je praktična različica: katerih podatkov se orodja UI resnično dotaknejo, kje gre lahko narobe in kako še naprej uporabljati umetno inteligenco brez prečutih noči, ko se sprašujete, na čigavih strežnikih leži vaš seznam strank.

Kaj se je dejansko spremenilo, ko se je pojavila umetna inteligenca

Leta so podatki, s katerimi je ravnalo vaše podjetje, večinoma ostali tam, kamor ste jih dali — vaša računovodska programska oprema, vaš nabiralnik, skupni disk. Tvegano, seveda, a omejeno. Generativna umetna inteligenca je to mejo tiho prebila. Celoten smisel teh orodij je v tem, da jim daste svoje resnične, konkretne informacije, oni pa z njimi naredijo nekaj koristnega. To pomeni, da vaši podatki zdaj potujejo nekam novo, pogosto na strežnik, ki ni vaš, v državo, ki je niste izbrali, in ga upravlja podjetje, s katerim niste nikoli govorili.

To samo po sebi ni slabo. Mnogi ugledni ponudniki UI s podatki ravnajo skrbno. A privzete predpostavke so se spremenile, večina ljudi pa svojih ni nikoli posodobila. Miselni model »moji podatki ostanejo v moji stavbi« preprosto ne preživi stika s klepetalnim robotom, do katerega dostopate prek brskalnika. Ko to sprejmete, je vse drugo veliko lažje premisliti.

Kam vaši podatki resnično potujejo

Da bi premišljevali o tveganju, morate vedeti, kaj se zgodi s koščkom besedila, ko pritisnete pošlji. Pri običajnem oblačnem orodju UI vaš vnos potuje na strežnike ponudnika, model ga obdela in vrne se odgovor. Dovolj preprosto. Vprašanja, ki štejejo, so tista, ki jih v tistem trenutku nihče ne zastavi: Ali se ta vnos shrani? Za kako dolgo? Kdo ga lahko vidi? In ali se uporablja za učenje prihodnjih modelov?

Ta štiri vprašanja so celoten pogovor o zasebnosti v malem. Brezplačna potrošniška raven in plačani poslovni načrt istega podjetja lahko nanje odgovorita povsem različno. Brezplačna različica orodja lahko vaše vnose obdrži in jih uporabi za izboljšanje modela; poslovna različica istega orodja pogosto obljublja, da vaših podatkov sploh ne bo shranjevala niti se na njih učila. Isti logotip, zelo različen dogovor. Razlika je v načrtu, ki ga uporabljate, in v nastavitvah, ki jih nikoli niste odprli.

Tveganja, ki za malo podjetje resnično štejejo

Vodiči o zasebnosti radi naštevajo dvajset groženj, od katerih se večina nanaša na banko, ne na podjetje z 12 ljudmi. Naj jih skrčim na peščico tistih, ki resnično grizejo mala podjetja. To so tiste, za katere sem videl, da povzročajo prave glavobole.

Uhajanje podatkov, ki jih niste nameravali deliti

To je vsakdanje. Zaposleni prilepi celotno sporočilo stranke — ime, naslov, podrobnosti naročila, morda pritožbo — v klepetalnega robota, da bi dobil pomoč pri odgovoru. Neškodljiv namen, a ti osebni podatki so zdaj poslani tretji osebi, morda shranjeni, morda uporabljeni za učenje. Pomnožite to z zaposleno ekipo skozi leto in tiho ste odpremili pomemben del svoje baze strank na tuje strežnike, brez kakršnega koli zapisa o tem in brez privolitve vpletenih oseb.

Vaši podatki učijo tuj model

Če orodje uporablja vaše vnose za izboljšanje svojega modela, se lahko drobci vaših informacij načeloma kasneje pojavijo drugje. Za večino malih podjetij realna skrb ni, da bi konkurent čarobno izvlekel vaš cenik — temveč izguba nadzora in težava privolitve. Strankam ste obljubili, da boste skrbeli za njihove podatke. Vnašanje teh podatkov v model, ki se iz njih uči, je s to obljubo težko uskladiti in nemogoče razveljaviti.

Orodje, ki ste ga priklopili, ne da bi karkoli prebrali

Najbolj tvegana umetna inteligenca v vašem podjetju je pogosto tista majhna, ki je nihče ni preveril — razširitev brskalnika, aplikacija »povežite svoj nabiralnik«, brezplačno orodje za prepisovanje, ki ga je nekdo našel. Ta lahko zahtevajo obsežen dostop do elektronske pošte, datotek ali koledarjev, mnoga pa so le tanki ovoji okoli večjega ponudnika UI, ki ga ne vidite. Nevarnost niso slavna orodja, ki gredo skozi revizijo. To so tista pozabljiva s širokimi dovoljenji in pravilnikom o zasebnosti, ki ga nihče ni odprl.

Samozavestno napačni odgovori o resničnih ljudeh

Obstaja vidik zasebnosti, ki ga spregledamo: umetna inteligenca lahko ustvari prepričljive, napačne informacije o določeni osebi ali primeru. Če ta izmišljena podrobnost konča v zapisu o stranki, v priporočilu ali v odločitvi, ki nekoga zadeva, imate hkrati težavo s točnostjo in z varstvom podatkov. Karkoli umetna inteligenca trdi o resničnem posamezniku, mora pred priznanjem za dejstvo preveriti človek.

• Osebni podatki strank, prilepljeni v orodja potrošniške ravni, ki jih lahko shranjujejo ali se na njih učijo.
• Zaupne pogodbe, cene ali strategija, deljene z modelom, s katerim nimate nobenega dogovora.
• Podatki zaposlenih — zdravstvene opombe, uspešnost, plače — gnani skozi splošne klepetalne robote.
• Dodatki UI tretjih oseb, ki jim je odobren širok dostop do vašega nabiralnika, datotek ali koledarja.
• Trditve, ki jih ustvari umetna inteligenca o resničnih ljudeh, prekopirane v zapise brez človeške preveritve.
• Celotni skupni nabiralniki ali diski, povezani z orodjem, katerega pogojev nihče ni prebral.

Kaj pričakujejo pravila (brez pravne glavobola)

Če ravnate s podatki katere koli osebe v Evropi — in skoraj vsako podjetje ravna — GDPR že velja za to, kako uporabljate umetno inteligenco. Ni vam ga treba znati na pamet, a nekaj načel se neposredno prevede v zdravo pamet. Za osebne podatke ste odgovorni tudi takrat, ko jih za vas obdeluje orodje. »UI je to naredil« ni obramba. Če podatke strank izročite ponudniku, se pričakuje, da imate z njim ustrezno pogodbo, ki ureja, kako z njimi ravna.

Načela, ki v praksi najbolj štejejo, so tista dolgočasna, razumna: delite samo podatke, ki jih resnično potrebujete (ne lepite celotnega zapisa, ko bi zadostoval izsek), bodite do ljudi pregledni glede tega, kako se njihovi podatki uporabljajo, hranite jih le toliko časa, kolikor je nujno, in bodite sposobni ugoditi zahtevam za dostop ali izbris. Umetna inteligenca teh dolžnosti ne spreminja — le lažje jih je pozabiti, ker orodje deluje kot zasebni pomočnik, ne kot zunanje podjetje.

Oblak, zasebni oblak ali vse zadržati doma?

Vsa umetna inteligenca ne živi na tujem strežniku. Obstaja razpon in njegovo poznavanje vam pomaga uskladiti orodje z občutljivostjo podatkov. Na eni strani je javno oblačno orodje — hitro za uvedbo, najcenejše za začetek, a vaši podatki zapustijo vaš nadzor. Na sredini je oblačna ureditev poslovne ravni s pogodbenimi jamstvi: brez učenja na vaših podatkih, jasno hranjenje, obdelava v regiji, ki jo sprejemate. Za večino malih podjetij je ta srednja možnost najprimernejša za vsakdanje delo.

Na skrajnem koncu je poganjanje umetne inteligence na vaši lastni infrastrukturi — on-premise ali v zasebnem okolju, ki ga nadzorujete — tako da občutljivi podatki sploh nikoli ne zapustijo vaših zidov. Nekoč je bilo to eksotično in drago. Zdaj ni več. Zmogljivi odprti modeli lahko zdaj tečejo na strojni opremi, ki si jo srednje veliko podjetje lahko razumno privošči, in za podjetja, ki ravnajo z resnično občutljivim gradivom — zdravstvenimi podatki, pravnimi spisi, čimerkoli, kjer je zaupnost sam izdelek — vse bolj postaja razumna privzeta izbira in ne razkošje.

Past je v tem, da to jemljete kot vse ali nič. Ni vam treba izbrati enega modela za celotno podjetje. Pametnejši vzorec je, da podatke razvrstite po občutljivosti in jih ustrezno usmerite: trženjska besedila in splošna vprašanja lahko mirno uporabljajo dobro oblačno orodje, medtem ko gre vse, kar vključuje resnične zapise o strankah, zdravstvene informacije ali zaupne pogodbe, skozi nadzorovano ali interno okolje. Eno podjetje, dva pasova.

Praktičen seznam, ki ga zares lahko izvedete

Tu je del, ki ga lahko opravite ta mesec brez svetovalca ali projekta skladnosti. Nič od tega ni zahtevno. Večinoma gre za to, da odločitve sprejemate namerno, ne po naključju.

1. 1
   Popišite orodja UI, ki so že v uporabi

   Vprašajte svojo ekipo — iskreno, brez očitkov — katera orodja UI uporabljajo, vključno z brezplačnimi osebnimi računi in razširitvami brskalnika. Ne morete zaščititi podatkov, ki tečejo skozi orodja, za katera ne veste, da obstajajo.
2. 2
   Razvrstite podatke na občutljive in neobčutljive

   Potegnite grobo črto. Osebni podatki strank, zapisi o zaposlenih, pogodbe in cene na eni strani; splošno pisanje, viharjenje možganov in javne informacije na drugi. Ta ena delitev poganja vsako naslednjo odločitev.
3. 3
   Premaknite resnično delo na poslovne načrte

   Za vse, kar se dotika občutljive strani, preklopite s potrošniških/brezplačnih ravni na poslovni načrt, ki pogodbeno ne bo shranjeval niti se učil na vaših podatkih in ima DPA.
4. 4
   Napišite eno kratko pravilo uporabe UI

   Pol strani: katera orodja so odobrena, kaj se nikoli ne sme prilepiti v javno orodje in koga vprašati ob negotovosti. Preprosto in prebrano premaga temeljito in prezrto.
5. 5
   Zaklenite občutljivi pas

   Za resnično zaupne podatke izberite nadzorovano ali on-premise okolje, da nikoli ne zapustijo vašega okolja — in nehajte poskušati javno orodje narediti dovolj varno zanje.

To je to. Pet korakov, nobeden dramatičen. Cilj ni popolna trdnjava — temveč odstranitev lahkih, naključnih uhajanj, ki sestavljajo veliko večino resničnih incidentov. Uredite jih in že ste pred večino podjetij vaše velikosti.

Del, ki ga tehnologija ne more popraviti

Lahko kupite najbolj zasebno okolje na svetu in še vedno imate težavo, kajti zasebnost v malem podjetju je večinoma stvar navad, ne infrastrukture. Uhajanje skoraj nikoli ne prihaja od premetenega napadalca. Prihaja od uslužnega zaposlenega pod časovnim pritiskom, ki prilepi napačno stvar v napačno polje, ker mu nihče ni rekel, naj tega ne počne, in ker je orodje poskrbelo, da je to delovalo povsem normalno.

Zato stvar z največjim učinkom, ki jo lahko naredite, sploh ni tehnična. Gre za to, da postane očitno in lahko ravnati prav: eno odobreno orodje za občutljivo delo, enovrstično pravilo, ki ga vsi resnično poznajo, in kultura, kjer je vprašanje »je v redu, da to dam sem?« normalno in ne nadležno. Tehnologija postavlja meje. Ljudje odločajo, ali se spoštujejo — in bodo, če varno pot naredite za lahko.

Pogosta vprašanja