Her Küçük İşletmenin Anlaması Gereken Yapay Zekâ Veri Gizliliği Riskleri

Küçük bir işletmede kimse müşteri verilerini bir yapay zekâ modeline sızdırmaya niyetlenmez. Olay, çoğu karmaşanın olduğu gibi olur — sessizce, yardımcı olmaya çalışırken, her seferinde zararsız görünen bir yapıştırmayla. Biri kibar bir yanıt taslağı için müşteri e-postasını bir sohbet botuna düşürür. Biri isim dolu bir tabloyu “sadece özetlesin diye” yükler. Biri yeni parlak bir aracın daha akıllı olabilmesi için tüm ortak gelen kutusunu okumasına izin verir. Hiçbiri bir karar gibi hissettirmez. İşte tam da bu yüzden bunun üzerine konuşmaya değer.

Yapay zekâyı günlük işlerine katan küçük ve orta ölçekli şirketlerle çalışıyorum ve gizlilik konuşması, insanların en çok atlamak istediği konu. Avukatlar, uyum ve formlar gibi geliyor — yapay zekâya geldikleri hızın tam tersi. Ama işin aslı şu: bir veri koruma uzmanı olmanıza gerek yok. Gerçek risklerin nerede olduğuna, hangilerinin sizin boyutunuzdaki bir işletme için geçerli olduğuna dair net bir görüşe ve sizi beladan uzak tutan bir avuç alışkanlığa ihtiyacınız var. Bütün iş bu kadar, ve göründüğünden daha küçük.

Bu bir korku metni değil, asla okumayacağınız düzenlemeler üzerine bir nutuk da değil. Pratik versiyonu: yapay zekâ araçları gerçekte hangi verilere dokunuyor, nerede ters gidebilir ve müşteri listenizin kimin sunucularında durduğunu merak ederek uykusuz kalmadan yapay zekâyı nasıl kullanmaya devam edebilirsiniz.

Yapay zekâ ortaya çıktığında gerçekte ne değişti

Yıllarca, işletmenizin işlediği veriler çoğunlukla koyduğunuz yerde kaldı — muhasebe yazılımınız, gelen kutunuz, ortak bir sürücü. Riskli, elbette, ama sınırlı. Üretken yapay zekâ bu sınırı sessizce kırdı. Bu araçların bütün amacı, onlara gerçek ve belirli bilgilerinizi vermeniz ve onların bununla faydalı bir şey yapmasıdır. Bu da verilerinizin artık yeni bir yere seyahat ettiği anlamına geliyor; çoğu zaman size ait olmayan bir sunucuya, seçmediğiniz bir ülkede, hiç konuşmadığınız bir şirket tarafından işletilen.

Bu doğası gereği kötü değil. Pek çok saygın yapay zekâ sağlayıcısı verileri dikkatle ele alıyor. Ama varsayılan kabuller değişti ve çoğu insan kendininkini hiç güncellemedi. “Verilerim binamda kalıyor” zihinsel modeli, bir tarayıcı üzerinden eriştiğiniz bir sohbet botuyla temasta basitçe ayakta kalamaz. Bunu kabul ettiğinizde, geri kalan her şeyi düşünmek çok daha kolaylaşıyor.

Verileriniz gerçekte nereye gidiyor

Risk üzerine düşünebilmek için, gönder'e bastıktan sonra bir metin parçasına ne olduğunu bilmeniz gerekir. Tipik bir bulut yapay zekâ aracıyla girdiniz sağlayıcının sunucularına seyahat eder, model tarafından işlenir ve bir yanıt geri gelir. Yeterince basit. Önemli olan sorular, o an kimsenin sormadığı sorulardır: O girdi saklanıyor mu? Ne kadar süreyle? Onu kim görebilir? Ve gelecekteki modelleri eğitmek için kullanılıyor mu?

Bu dört soru, gizlilik konuşmasının küçültülmüş bir özetidir. Aynı şirketten bir tüketici ücretsiz katmanı ile ücretli bir işletme planı bunları tamamen farklı yanıtlayabilir. Bir aracın ücretsiz sürümü girdilerinizi saklayıp modeli iyileştirmek için kullanabilir; aynı aracın işletme sürümü ise çoğu zaman verilerinizi hiç saklamayacağına ya da onunla eğitilmeyeceğine söz verir. Aynı logo, çok farklı bir anlaşma. Fark, bulunduğunuz planda ve hiç açmadığınız ayarlarda yaşar.

Küçük bir işletme için gerçekten önemli olan riskler

Gizlilik kılavuzları yirmi tehdit sıralamayı sever, çoğu 12 kişilik bir şirkete değil bir bankaya uygulanır. İzin verin, küçük işletmeleri gerçekten ısıran bir avuca indireyim. Bunlar, gerçek baş ağrısına yol açtığını izlediğim olanlar.

Paylaşmak istemediğiniz verilerin sızması

Bu, her gün olanı. Bir çalışan, yanıt vermede yardım almak için bir müşterinin tam mesajını — isim, adres, sipariş ayrıntıları, belki bir şikâyet — bir sohbet botuna yapıştırır. Niyet zararsız, ama o kişisel veri artık bir üçüncü tarafa gönderildi, belki saklandı, belki eğitim için kullanıldı. Bunu bir yıl boyunca yoğun bir ekiple çarpın ve müşteri tabanınızın anlamlı bir dilimini sessizce başkasının sunucularına göndermiş olursunuz, buna dair hiçbir kayıt ve ilgili kişilerin onayı olmadan.

Verilerinizin başkasının modelini eğitmesi

Bir araç girdilerinizi modelini iyileştirmek için kullanıyorsa, bilgilerinizin parçaları prensipte daha sonra başka bir yerde su yüzüne çıkabilir. Çoğu küçük işletme için gerçekçi endişe, bir rakibin fiyat listenizi sihirli biçimde çıkarması değil — kontrol kaybı ve onay sorunudur. Müşterilerinize verilerine göz kulak olacağınıza söz verdiniz. Onu, ondan öğrenen bir modele vermek bu sözle bağdaştırması zor ve geri alması imkânsızdır.

Hiçbir şey okumadan eklediğiniz araç

İşletmenizdeki en riskli yapay zekâ çoğu zaman kimsenin denetlemediği küçük olandır — bir tarayıcı uzantısı, bir “gelen kutunuzu bağlayın” uygulaması, birinin bulduğu ücretsiz bir deşifre aracı. Bunlar e-postaya, dosyalara veya takvimlere geniş erişim isteyebilir ve birçoğu göremediğiniz daha büyük bir yapay zekâ sağlayıcısının ince bir kabuğudur. Tehlike, denetlenen ünlü araçlar değil. Geniş izinleri ve kimsenin açmadığı bir gizlilik politikası olan unutulası olanlardır.

Gerçek insanlar hakkında kendinden emin yanlış yanıtlar

Gözden kaçan bir gizlilik boyutu var: yapay zekâ, belirli bir kişi veya vaka hakkında makul ama yanlış bilgi üretebilir. O uydurma ayrıntı bir müşteri kaydına, bir referansa veya birini etkileyen bir karara girerse, hem bir doğruluk sorununuz hem de bir veri koruma sorununuz olur. Bir yapay zekânın gerçek bir birey hakkında öne sürdüğü her şeyin, bir gerçek olarak ele alınmadan önce bir insan tarafından kontrol edilmesi gerekir.

• Saklayabilen veya onunla eğitilebilen tüketici katmanı araçlarına yapıştırılan müşteri kişisel verileri.
• Hiçbir anlaşmanızın olmadığı bir modelle paylaşılan gizli sözleşmeler, fiyatlandırma veya strateji.
• Çalışan verileri — sağlık notları, performans, bordro — genel sohbet botlarından geçirilir.
• Gelen kutunuza, dosyalarınıza veya takviminize geniş erişim verilen üçüncü taraf yapay zekâ eklentileri.
• Gerçek insanlar hakkında yapay zekâ tarafından üretilen, insan kontrolü olmadan kayıtlara kopyalanan iddialar.
• Şartlarını kimsenin okumadığı bir araca bağlanan tüm ortak gelen kutuları veya sürücüler.

Kuralların beklentisi (hukuki baş ağrısı olmadan)

Avrupa'daki herhangi birinin verisini işliyorsanız — ki neredeyse her işletme işler — yapay zekâyı nasıl kullandığınıza GDPR zaten uygulanır. Onu ezberlemeniz gerekmez, ama birkaç ilke doğrudan sağduyuya çevrilir. Bir araç sizin için işlese bile kişisel verilerden siz sorumlusunuz. “Yapay zekâ yaptı” bir savunma değildir. Müşteri verisini bir sağlayıcıya teslim ediyorsanız, onunla, onu nasıl ele aldığını kapsayan düzgün bir anlaşmanızın olması beklenir.

Pratikte en çok önemli olan ilkeler sıkıcı, makul olanlardır: yalnızca gerçekten ihtiyaç duyduğunuz veriyi paylaşın (bir parça yeterken tüm kaydı yapıştırmayın), insanlara verilerinin nasıl kullanıldığı konusunda şeffaf olun, onu yalnızca gerektiği kadar saklayın ve ona erişme veya silme taleplerini yerine getirebilin. Yapay zekâ bu görevleri değiştirmez — sadece unutulmalarını kolaylaştırır, çünkü araç dışarıdan bir şirketten çok özel bir asistan gibi hissettirir.

Bulut, özel bulut, yoksa kurum içinde mi tutmalı?

Her yapay zekâ bir yabancının sunucusunda yaşamaz. Bir yelpaze var ve onu bilmek aracı verinin hassasiyetiyle eşleştirmenize yardımcı olur. Bir ucunda halka açık bulut aracı var — benimsemesi hızlı, başlaması en ucuz, ama veriniz kontrolünüzden çıkar. Ortada sözleşmeye dayalı garantileri olan işletme düzeyinde bir bulut düzenlemesi durur: verinizle eğitim yok, net saklama süresi, kabul ettiğiniz bir bölgede işleme. Çoğu küçük işletme için günlük iş bakımından o ortadaki seçenek tam isabettir.

En uçta yapay zekâyı kendi altyapınızda çalıştırmak var — kurum içinde veya kontrol ettiğiniz özel bir ortamda — böylece hassas veriler duvarlarınızı hiç terk etmez. Bu eskiden egzotik ve pahalıydı. Artık değil. Yetenekli açık modeller artık orta ölçekli bir şirketin makul biçimde sahip olabileceği donanımda çalışabiliyor ve gerçekten hassas malzeme işleyen işletmeler için — sağlık verileri, hukuki dosyalar, gizliliğin ürün olduğu her şey — bu giderek bir lüks değil, akla yatkın varsayılan oluyor.

Tuzak, bunu ya hep ya hiç olarak ele almaktır. Tüm şirket için tek bir model seçmek zorunda değilsiniz. Daha akıllı yöntem, verinizi hassasiyete göre ayırmak ve ona göre yönlendirmektir: pazarlama metni ve genel sorular memnuniyetle iyi bir bulut aracını kullanabilir, oysa gerçek müşteri kayıtları, sağlık bilgisi veya gizli sözleşmeler içeren her şey kontrollü ya da kurum içi bir kurulumdan geçer. Tek şirket, iki şerit.

Gerçekten uygulayabileceğiniz pratik bir kontrol listesi

İşte bu ay bir danışman ya da uyum projesi olmadan yapabileceğiniz kısım. Hiçbiri ağır değil. Çoğunlukla, kazara değil bilerek karar vermekle ilgili.

1. 1
   Hâlihazırda kullanılan yapay zekâ araçlarını listeleyin

   Ekibinize sorun — dürüstçe, suçlamadan — ücretsiz kişisel hesaplar ve tarayıcı uzantıları dahil hangi yapay zekâ araçlarını kullandıklarını. Var olduğunu bilmediğiniz araçlardan akan veriyi koruyamazsınız.
2. 2
   Verinizi hassas ve hassas olmayan diye ayırın

   Kaba bir çizgi çekin. Bir yanda müşteri kişisel verisi, çalışan kayıtları, sözleşmeler ve fiyatlandırma; diğer yanda genel taslak yazımı, beyin fırtınası ve kamuya açık bilgi. Bu tek ayrım her diğer kararı yönlendirir.
3. 3
   Gerçek işi işletme planlarına taşıyın

   Hassas tarafa dokunan her şey için, tüketici/ücretsiz katmanlardan, sözleşmeyle verinizi saklamayacak ya da onunla eğitilmeyecek ve bir DPA'sı olan bir işletme planına geçin.
4. 4
   Kısa, tek bir yapay zekâ kullanım kuralı yazın

   Yarım sayfa: hangi araçlar onaylı, halka açık bir araca asla ne yapıştırılmamalı ve emin olmadığınızda kime sorulmalı. Basit ve okunan, kapsamlı ve görmezden gelinene üstündür.
5. 5
   Hassas şeridi kilitleyin

   Gerçekten gizli veri için, ortamınızı hiç terk etmemesi adına kontrollü veya kurum içi bir kurulum seçin — ve halka açık bir aracı onun için yeterince güvenli kılmaya çalışmayı bırakın.

İşte bu kadar. Beş adım, hiçbiri dramatik değil. Amaç kusursuz bir kale değil — gerçek dünyadaki olayların ezici çoğunluğunu oluşturan kolay, kazara sızıntıları ortadan kaldırmak. Bunları halledin ve zaten boyutunuzdaki çoğu işletmenin önündesiniz.

Teknolojinin düzeltemeyeceği kısım

Dünyanın en gizli kurulumunu satın alabilir ve yine de bir sorununuz olabilir, çünkü küçük bir işletmede gizlilik çoğunlukla altyapıyla değil alışkanlıklarla ilgilidir. Sızıntı neredeyse hiçbir zaman kurnaz bir saldırgandan gelmez. Zaman baskısı altındaki, kimse söylemediği için ve araç bunu tamamen normal hissettirdiği için yanlış şeyi yanlış kutuya yapıştıran yardımsever bir çalışandan gelir.

Yani yapabileceğiniz en yüksek kaldıraçlı şey hiç de teknik değil. Doğru olanı yapmayı bariz ve kolay kılmak: hassas iş için tek bir onaylı araç, herkesin gerçekten bildiği tek satırlık bir kural ve “bunu buraya koymak sakıncalı mı?” diye sormanın can sıkıcı değil normal olduğu bir kültür. Teknoloji sınırları belirler. İnsanlar onlara saygı gösterilip gösterilmeyeceğine karar verir — ve gösterirler, güvenli yolu kolay yol yaparsanız.

Sık sorulan sorular