Riziká ochrany osobných údajov pri umelej inteligencii, ktoré by mala chápať každá malá firma

Nikto v malej firme sa nepúšťa do toho s úmyslom vyniesť údaje zákazníkov do modelu umelej inteligencie. Stáva sa to tak, ako sa stáva väčšina nepríjemností — potichu, ochotne, jedno neškodne vyzerajúce vloženie textu za druhým. Niekto hodí e-mail zákazníka do chatbota, aby naformuloval zdvorilú odpoveď. Niekto nahrá tabuľku s menami, aby ju „len zhrnul“. Niekto nechá nový lesklý nástroj prečítať celú zdieľanú schránku, aby bol múdrejší. Nič z toho nepôsobí ako rozhodnutie. Práve preto sa o tom oplatí hovoriť.

Spolupracujem s malými a strednými firmami, ktoré zavádzajú umelú inteligenciu do každodennej práce, a rozhovor o súkromí je ten, ktorý ľudia najradšej preskočia. Znie to ako právnici, súlad a formuláre — opak rýchlosti, kvôli ktorej k AI vôbec prišli. Lenže je tu jedna vec: nemusíte sa stať odborníkom na ochranu údajov. Potrebujete jasný cit pre to, kde sú skutočné riziká, ktoré z nich naozaj platia pre firmu vašej veľkosti, a hrstku návykov, ktoré vás udržia mimo problémov. To je celá práca a je menšia, než sa zdá.

Toto nie je strašenie ani prednáška o predpisoch, ktoré si nikdy neprečítate. Je to praktická verzia: ktorých údajov sa nástroje AI naozaj dotýkajú, kde sa to môže pokaziť a ako ďalej používať umelú inteligenciu bez prebdených nocí, v ktorých rozmýšľate, na čích serveroch leží váš zoznam klientov.

Čo sa naozaj zmenilo, keď sa objavila umelá inteligencia

Roky údaje, s ktorými vaša firma narábala, väčšinou zostávali tam, kam ste ich dali — váš účtovný softvér, vaša schránka, zdieľaný disk. Riskantné, isteže, ale ohraničené. Generatívna umelá inteligencia túto hranicu potichu prelomila. Celý zmysel týchto nástrojov je v tom, že im poskytnete svoje skutočné, konkrétne informácie a oni s nimi urobia niečo užitočné. To znamená, že vaše údaje teraz cestujú niekam nové, často na server, ktorý nevlastníte, do krajiny, ktorú ste nevybrali, prevádzkovaný firmou, s ktorou ste nikdy nehovorili.

To nie je samo o sebe zlé. Mnohí renomovaní poskytovatelia AI narábajú s údajmi opatrne. Ale východiskové predpoklady sa zmenili a väčšina ľudí si tie svoje nikdy neaktualizovala. Mentálny model „moje údaje zostávajú v mojej budove“ jednoducho neprežije kontakt s chatbotom, ku ktorému pristupujete cez prehliadač. Keď to prijmete, zvyšok sa premýšľa oveľa ľahšie.

Kam vaše údaje naozaj putujú

Aby ste vedeli uvažovať o riziku, musíte vedieť, čo sa s kúskom textu stane po stlačení odoslať. Pri bežnom cloudovom nástroji AI váš vstup putuje na servery poskytovateľa, model ho spracuje a vráti sa odpoveď. Dosť jednoduché. Otázky, na ktorých záleží, sú tie, ktoré v danej chvíli nikto nepoloží: Ukladá sa ten vstup? Ako dlho? Kto ho môže vidieť? A používa sa na trénovanie budúcich modelov?

Tieto štyri otázky sú celým rozhovorom o súkromí v malom. Bezplatná spotrebiteľská úroveň a platený firemný plán tej istej spoločnosti môžu na ne odpovedať úplne odlišne. Bezplatná verzia nástroja môže vaše vstupy uchovávať a používať na zlepšovanie modelu; firemná verzia toho istého nástroja často sľubuje, že na vašich údajoch nebude vôbec ukladať ani trénovať. To isté logo, veľmi odlišná dohoda. Rozdiel je v pláne, ktorý používate, a v nastaveniach, ktoré ste nikdy neotvorili.

Riziká, na ktorých malej firme naozaj záleží

Príručky o súkromí radi vymenúvajú dvadsať hrozieb, z ktorých sa väčšina týka banky, nie firmy s 12 ľuďmi. Dovoľte mi zúžiť to na hrstku tých, ktoré malé firmy naozaj štípu. Sú to tie, pri ktorých som videl spôsobovať skutočné bolesti hlavy.

Únik údajov, ktoré ste nechceli zdieľať

Toto je to každodenné. Zamestnanec vloží celú správu zákazníka — meno, adresu, podrobnosti objednávky, možno sťažnosť — do chatbota, aby dostal pomoc s odpoveďou. Neškodný úmysel, ale tieto osobné údaje boli teraz odoslané tretej strane, možno uložené, možno použité na trénovanie. Vynásobte to vyťaženým tímom za rok a potichu ste odoslali významný kus svojej zákazníckej základne na cudzie servery, bez akéhokoľvek záznamu o tom a bez súhlasu dotknutých osôb.

Vaše údaje trénujú cudzí model

Ak nástroj používa vaše vstupy na zlepšovanie svojho modelu, úlomky vašich informácií sa môžu v zásade neskôr objaviť inde. Pre väčšinu malých firiem realistická obava nie je, že konkurent zázračne vytiahne váš cenník — je to strata kontroly a problém súhlasu. Sľúbili ste zákazníkom, že sa o ich údaje postaráte. Vkladanie týchto údajov do modelu, ktorý sa z nich učí, sa s týmto sľubom ťažko zlučuje a nedá sa vrátiť späť.

Nástroj, ktorý ste pripojili bez toho, aby ste si čokoľvek prečítali

Najrizikovejšia umelá inteligencia vo vašej firme je často tá malá, ktorú nikto nepreveril — rozšírenie prehliadača, aplikácia „pripojte svoju schránku“, bezplatný prepisovací nástroj, ktorý niekto našiel. Tieto môžu žiadať rozsiahly prístup k e-mailu, súborom či kalendárom a mnohé sú len tenké obaly okolo väčšieho poskytovateľa AI, ktorého nevidíte. Nebezpečenstvom nie sú slávne nástroje, ktoré prechádzajú auditom. Sú to tie ľahko zabudnuteľné so širokými oprávneniami a zásadami ochrany súkromia, ktoré nikto neotvoril.

Sebavedome nesprávne odpovede o skutočných ľuďoch

Existuje aspekt súkromia, ktorý sa prehliada: umelá inteligencia dokáže vygenerovať presvedčivé, nesprávne informácie o konkrétnej osobe alebo prípade. Ak tento vymyslený detail skončí v zázname o zákazníkovi, v referencii alebo v rozhodnutí, ktoré niekoho ovplyvní, máte zároveň problém s presnosťou aj s ochranou údajov. Čokoľvek, čo umelá inteligencia tvrdí o skutočnom jednotlivcovi, musí pred uznaním za fakt overiť človek.

• Osobné údaje zákazníkov vložené do nástrojov spotrebiteľskej úrovne, ktoré ich môžu ukladať alebo na nich trénovať.
• Dôverné zmluvy, ceny alebo stratégia zdieľané s modelom, s ktorým nemáte žiadnu dohodu.
• Údaje zamestnancov — zdravotné poznámky, výkon, mzdy — prehnané cez všeobecné chatboty.
• Doplnky AI tretích strán, ktorým bol udelený široký prístup k vašej schránke, súborom alebo kalendáru.
• Tvrdenia vygenerované umelou inteligenciou o skutočných ľuďoch skopírované do záznamov bez ľudskej kontroly.
• Celé zdieľané schránky alebo disky pripojené k nástroju, ktorého podmienky si nikto neprečítal.

Čo očakávajú pravidlá (bez právnej bolesti hlavy)

Ak narábate s údajmi ktorejkoľvek osoby v Európe — a takmer každá firma narába — GDPR sa už vzťahuje na to, ako používate umelú inteligenciu. Nemusíte ho mať naspamäť, ale niekoľko zásad sa priamo prekladá do zdravého rozumu. Za osobné údaje zodpovedáte aj vtedy, keď ich za vás spracúva nástroj. „Urobila to AI“ nie je obrana. Ak odovzdáte údaje zákazníkov poskytovateľovi, očakáva sa, že s ním máte poriadnu zmluvu pokrývajúcu spôsob, akým s nimi narába.

Zásady, na ktorých v praxi najviac záleží, sú tie nudné a rozumné: zdieľajte iba údaje, ktoré naozaj potrebujete (nevkladajte celý záznam, keď by stačil úryvok), buďte voči ľuďom transparentní v tom, ako sa ich údaje používajú, uchovávajte ich iba tak dlho, ako je nevyhnutné, a buďte schopní vyhovieť žiadostiam o prístup alebo vymazanie. Umelá inteligencia tieto povinnosti nemení — len ich uľahčuje zabudnúť, pretože nástroj pôsobí ako súkromný asistent, a nie ako externá firma.

Cloud, súkromný cloud, alebo držať to doma?

Nie všetka umelá inteligencia žije na cudzom serveri. Existuje škála a jej poznanie vám pomáha zladiť nástroj s citlivosťou údajov. Na jednom konci je verejný cloudový nástroj — rýchly na zavedenie, najlacnejší na začiatok, no vaše údaje opúšťajú vašu kontrolu. V strede je cloudové usporiadanie firemnej úrovne so zmluvnými zárukami: žiadne trénovanie na vašich údajoch, jasné uchovávanie, spracovanie v regióne, ktorý akceptujete. Pre väčšinu malých firiem je táto stredná možnosť ideálna pre každodennú prácu.

Na úplnom konci je prevádzkovanie umelej inteligencie na vašej vlastnej infraštruktúre — on-premise alebo v súkromnom prostredí, ktoré ovládate — takže citlivé údaje vôbec nikdy neopustia vaše steny. Kedysi to bývalo exotické a drahé. Už nie je. Schopné otvorené modely teraz dokážu bežať na hardvéri, ktorý môže stredne veľká firma rozumne vlastniť, a pre firmy narábajúce so skutočne citlivým materiálom — zdravotnými údajmi, právnymi spismi, čímkoľvek, kde je dôvernosť samotným produktom — sa to čoraz viac stáva rozumnou východiskovou voľbou než luxusom.

Pascou je brať to ako všetko alebo nič. Nemusíte zvoliť jeden model pre celú firmu. Múdrejším vzorcom je roztriediť údaje podľa citlivosti a podľa toho ich smerovať: marketingové texty a všeobecné otázky môžu pokojne používať dobrý cloudový nástroj, zatiaľ čo všetko, čo zahŕňa skutočné záznamy o zákazníkoch, zdravotné informácie alebo dôverné zmluvy, ide cez kontrolované alebo interné prostredie. Jedna firma, dva pruhy.

Praktický zoznam, ktorý naozaj zvládnete

Tu je časť, ktorú zvládnete tento mesiac bez konzultanta či projektu súladu. Nič z toho nie je náročné. Ide najmä o to robiť rozhodnutia zámerne, a nie náhodou.

1. 1
   Spíšte nástroje AI, ktoré sa už používajú

   Spýtajte sa svojho tímu — úprimne, bez vyčítania — ktoré nástroje AI používajú, vrátane bezplatných osobných účtov a rozšírení prehliadača. Nemôžete chrániť údaje tečúce cez nástroje, o ktorých neviete, že existujú.
2. 2
   Roztrieďte údaje na citlivé a necitlivé

   Načrtnite hrubú čiaru. Osobné údaje zákazníkov, záznamy o zamestnancoch, zmluvy a ceny na jednej strane; všeobecné písanie, brainstorming a verejné informácie na druhej. Toto jedno rozdelenie poháňa každé ďalšie rozhodnutie.
3. 3
   Presuňte skutočnú prácu na firemné plány

   Pre čokoľvek, čo sa dotýka citlivej strany, prepnite zo spotrebiteľských/bezplatných úrovní na firemný plán, ktorý zmluvne nebude ukladať ani trénovať na vašich údajoch a má DPA.
4. 4
   Napíšte jedno krátke pravidlo používania AI

   Polovica strany: ktoré nástroje sú schválené, čo sa nikdy nesmie vložiť do verejného nástroja a koho sa opýtať pri neistote. Jednoduché a prečítané vyhráva nad dôkladným a ignorovaným.
5. 5
   Uzamknite citlivý pruh

   Pre skutočne dôverné údaje zvoľte kontrolované alebo on-premise prostredie, aby nikdy neopustili vaše prostredie — a prestaňte sa snažiť spraviť verejný nástroj dosť bezpečným pre ne.

To je všetko. Päť krokov, ani jeden dramatický. Cieľom nie je dokonalá pevnosť — je to odstránenie ľahkých, náhodných únikov, ktoré tvoria drvivú väčšinu skutočných incidentov. Vyriešte ich a už ste pred väčšinou firiem vašej veľkosti.

Časť, ktorú technológia nedokáže opraviť

Môžete si kúpiť najsúkromnejšie prostredie na svete a aj tak mať problém, pretože súkromie v malej firme je väčšinou o návykoch, nie o infraštruktúre. Únik takmer nikdy neprichádza od šikovného útočníka. Prichádza od ochotného zamestnanca pod časovým tlakom, ktorý vloží nesprávnu vec do nesprávneho okienka, pretože mu nikto nepovedal, že to nemá robiť, a pretože nástroj spôsobil, že to pôsobilo úplne normálne.

Takže vec s najväčším pákovým efektom, ktorú môžete urobiť, vôbec nie je technická. Je to spraviť zjavným a ľahkým robiť správnu vec: jeden schválený nástroj na citlivú prácu, jednoriadkové pravidlo, ktoré všetci naozaj poznajú, a kultúra, kde otázka „je v poriadku dať toto sem?“ je normálna, a nie otravná. Technológia stanovuje hranice. Ľudia rozhodujú, či sa rešpektujú — a budú, ak z bezpečnej cesty spravíte tú ľahkú.

Časté otázky