Os riscos de privacidade de dados da IA que todas as PME deviam compreender

Ninguém numa PME se propõe a deixar fugir dados de clientes para um modelo de IA. Acontece como acontece a maioria das confusões: silenciosamente, com boas intenções, uma colagem de aspeto inofensivo após outra. Alguém deixa cair o e-mail de um cliente num chatbot para redigir uma resposta cordial. Alguém carrega uma folha de cálculo com nomes para «apenas a resumir». Alguém deixa uma ferramenta nova e reluzente ler toda a caixa partilhada para ficar mais esperta. Nada disto parece uma decisão. É precisamente por isso que vale a pena falar disto.

Trabalho com pequenas e médias empresas que integram a IA no seu dia a dia, e a conversa sobre privacidade é justamente aquela que as pessoas mais querem saltar. Cheira a advogados, conformidade e formulários — o oposto da rapidez que as trouxe até à IA. Mas a questão é esta: não precisa de se tornar um especialista em proteção de dados. Precisa de uma noção clara de onde estão os riscos genuínos, quais se aplicam realmente a uma empresa do seu tamanho e um punhado de hábitos que o mantêm longe de sarilhos. É esse o trabalho todo, e é mais pequeno do que parece.

Isto não é um texto alarmista, nem uma lição sobre regulamentos que nunca irá ler. É a versão prática: que dados as ferramentas de IA tocam realmente, onde pode correr mal e como continuar a usar a IA sem passar a noite acordado a pensar em que servidores está a sua lista de clientes.

O que mudou de facto quando a IA apareceu

Durante anos, os dados que a sua empresa tratava ficavam, na sua maioria, onde os colocava: o seu software de contabilidade, a sua caixa de entrada, uma unidade partilhada. Arriscado, claro, mas circunscrito. A IA generativa quebrou silenciosamente essa fronteira. Todo o sentido destas ferramentas é alimentá-las com as suas informações reais e concretas para que façam algo útil com elas. O que significa que os seus dados viajam agora para algum sítio novo, muitas vezes para um servidor que não é seu, num país que não escolheu, gerido por uma empresa com quem nunca falou.

Isto não é mau em si. Muitos fornecedores de IA reputados tratam os dados com cuidado. Mas os pressupostos por omissão mudaram, e a maioria das pessoas nunca atualizou os seus. O modelo mental de «os meus dados ficam dentro das minhas paredes» simplesmente não sobrevive ao contacto com um chatbot a que acede através de um navegador. Assim que aceita isso, o resto torna-se muito mais fácil de raciocinar.

Para onde vão realmente os seus dados

Para raciocinar sobre o risco, é preciso saber o que acontece a um pedaço de texto depois de carregar em enviar. Com uma ferramenta de IA na nuvem típica, a sua entrada viaja até aos servidores do fornecedor, é processada pelo modelo e regressa uma resposta. Simples quanto baste. As perguntas que importam são as que ninguém faz no momento: Essa entrada é guardada? Durante quanto tempo? Quem a pode ver? E é usada para treinar futuros modelos?

Estas quatro perguntas são toda a conversa sobre privacidade em miniatura. Um plano gratuito de consumo e um plano empresarial pago da mesma empresa podem respondê-las de forma completamente distinta. A versão gratuita de uma ferramenta pode reter as suas entradas e usá-las para melhorar o modelo; a versão empresarial dessa mesma ferramenta promete muitas vezes não guardar nem treinar com os seus dados. Mesmo logótipo, acordo muito diferente. A diferença vive no plano que escolheu e nas definições que nunca abriu.

Os riscos que realmente importam para uma PME

Os guias de privacidade adoram enumerar vinte ameaças, a maioria das quais se aplica a um banco, não a uma empresa de 12 pessoas. Deixe-me reduzir isto ao punhado que morde mesmo as PME. São esses que vi causar verdadeiras dores de cabeça.

Divulgar dados que não pretendia partilhar

Este é o do dia a dia. Um colaborador cola a mensagem completa de um cliente — nome, morada, detalhes da encomenda, talvez uma reclamação — num chatbot para o ajudar a responder. Intenção inofensiva, mas esses dados pessoais foram agora enviados para um terceiro, possivelmente guardados, possivelmente usados para treino. Multiplique isto por uma equipa atarefada ao longo de um ano e terá expedido silenciosamente uma fatia significativa da sua base de clientes para os servidores de outrem, sem qualquer registo disso e sem o consentimento das pessoas envolvidas.

Os seus dados a treinar o modelo de outra pessoa

Se uma ferramenta usa as suas entradas para melhorar o seu modelo, fragmentos da sua informação podem, em princípio, surgir noutro lado mais tarde. Para a maioria das PME a preocupação realista não é um concorrente extrair por magia a sua tabela de preços — é a perda de controlo e o problema do consentimento. Prometeu aos clientes que cuidaria dos seus dados. Introduzi-los num modelo que aprende com eles é difícil de conciliar com essa promessa, e impossível de desfazer.

A ferramenta que acoplou sem ler nada

A IA mais arriscada na sua empresa é muitas vezes a pequena que ninguém avaliou — uma extensão de navegador, uma aplicação «ligue a sua caixa de entrada», uma ferramenta gratuita de transcrição que alguém encontrou. Estas podem solicitar um acesso amplíssimo a e-mail, ficheiros ou calendários, e muitas são finas camadas em torno de um fornecedor de IA maior que não consegue ver. O perigo não são as ferramentas famosas que são auditadas. São as esquecíveis, com permissões amplas e uma política de privacidade que ninguém abriu.

Respostas erradas com convicção sobre pessoas reais

Há um ângulo de privacidade que costuma ser esquecido: a IA pode gerar informação plausível e errada sobre uma pessoa ou um caso específico. Se esse detalhe inventado acabar num registo de cliente, numa referência ou numa decisão que afeta alguém, tem ao mesmo tempo um problema de exatidão e um de proteção de dados. Tudo o que uma IA afirma sobre um indivíduo real precisa de ser verificado por um humano antes de ser tratado como facto.

• Dados pessoais de clientes colados em ferramentas de nível de consumo que podem guardá-los ou treinar com eles.
• Contratos confidenciais, preços ou estratégia partilhados com um modelo com o qual não tem qualquer acordo.
• Dados de colaboradores — notas de saúde, desempenho, vencimentos — passados por chatbots genéricos.
• Suplementos de IA de terceiros a quem foi concedido acesso amplo à sua caixa de entrada, ficheiros ou calendário.
• Afirmações geradas por IA sobre pessoas reais copiadas para registos sem verificação humana.
• Caixas partilhadas ou unidades inteiras ligadas a uma ferramenta cujos termos ninguém leu.

O que as regras esperam (sem a dor de cabeça jurídica)

Se trata dados de qualquer pessoa na Europa — e quase todas as empresas o fazem — o RGPD já se aplica à forma como usa a IA. Não precisa de o decorar, mas alguns princípios traduzem-se diretamente em bom senso. É responsável pelos dados pessoais mesmo quando uma ferramenta os trata por si. «Foi a IA que o fez» não é uma defesa. Se entrega dados de clientes a um fornecedor, espera-se que tenha com ele um acordo em condições que abranja a forma como os trata.

Os princípios que mais importam na prática são os aborrecidos e sensatos: partilhar apenas os dados de que realmente precisa (não cole o registo inteiro quando um excerto chegaria), ser transparente com as pessoas sobre como os seus dados são usados, conservá-los apenas o tempo necessário e ser capaz de honrar pedidos de acesso ou eliminação. A IA não altera esses deveres — apenas os torna mais fáceis de esquecer, porque a ferramenta parece um assistente privado em vez de uma empresa externa.

Nuvem, nuvem privada ou manter em casa?

Nem toda a IA vive no servidor de um estranho. Há um espetro, e conhecê-lo ajuda-o a ajustar a ferramenta à sensibilidade dos dados. Numa ponta está a ferramenta de nuvem pública — rápida de adotar, a mais barata para começar, mas os seus dados saem do seu controlo. No meio fica uma solução de nuvem de nível empresarial com garantias contratuais: sem treino com os seus dados, conservação clara, tratamento numa região que aceita. Para a maioria das PME, essa opção intermédia é o ponto ideal para o trabalho do dia a dia.

Na ponta oposta está executar a IA na sua própria infraestrutura — on-premise ou num ambiente privado que controla — para que os dados sensíveis nunca saiam das suas paredes. Isto era outrora exótico e caro. Já não é. Modelos abertos capazes podem agora correr em hardware que uma empresa de média dimensão pode razoavelmente possuir, e para empresas que lidam com material genuinamente sensível — dados de saúde, processos jurídicos, tudo aquilo em que a confidencialidade é o produto — é cada vez mais a opção sensata por omissão em vez de um luxo.

A armadilha é tratar isto como tudo ou nada. Não tem de escolher um modelo para toda a empresa. O padrão mais inteligente é ordenar os seus dados por sensibilidade e encaminhá-los em conformidade: os textos de marketing e as perguntas gerais podem usar à vontade uma boa ferramenta de nuvem, ao passo que tudo o que envolva registos reais de clientes, informação de saúde ou contratos confidenciais passa por uma configuração controlada ou interna. Uma empresa, duas vias.

Uma lista prática que consegue mesmo executar

Aqui está a parte que pode fazer este mês sem um consultor nem um projeto de conformidade. Nada disto é pesado. Trata-se sobretudo de decidir as coisas de propósito em vez de por acaso.

1. 1
   Liste as ferramentas de IA já em uso

   Pergunte à sua equipa — com honestidade, sem culpas — que ferramentas de IA usam, incluindo contas pessoais gratuitas e extensões de navegador. Não pode proteger dados que fluem por ferramentas cuja existência desconhece.
2. 2
   Ordene os seus dados em sensíveis e não sensíveis

   Trace uma linha aproximada. Dados pessoais de clientes, registos de colaboradores, contratos e preços de um lado; redação geral, brainstorming e informação pública do outro. Esta única divisão orienta todas as outras decisões.
3. 3
   Mova o trabalho real para planos empresariais

   Para tudo o que toca o lado sensível, mude dos planos de consumo/gratuitos para um plano empresarial que, por contrato, não guarde nem treine com os seus dados e tenha um DPA.
4. 4
   Escreva uma regra curta de uso da IA

   Meia página: que ferramentas estão aprovadas, o que nunca deve ser colado numa ferramenta pública e a quem perguntar em caso de dúvida. Simples e lida ganha a exaustiva e ignorada.
5. 5
   Blinde a via sensível

   Para dados genuinamente confidenciais, escolha uma configuração controlada ou on-premise para que nunca saiam do seu ambiente — e deixe de tentar tornar uma ferramenta pública segura o suficiente para eles.

É isto. Cinco passos, nenhum deles dramático. O objetivo não é uma fortaleza perfeita — é eliminar as fugas fáceis e acidentais que constituem a esmagadora maioria dos incidentes reais. Trate desses e já estará à frente da maioria das empresas do seu tamanho.

A parte que a tecnologia não consegue resolver

Pode comprar a configuração mais privada do mundo e ainda assim ter um problema, porque a privacidade numa PME tem sobretudo a ver com hábitos, não com infraestrutura. A fuga quase nunca vem de um atacante engenhoso. Vem de um colaborador prestável sob pressão de tempo que cola a coisa errada na caixa errada porque ninguém lhe disse para não o fazer, e porque a ferramenta fez com que parecesse perfeitamente normal.

Por isso, a coisa de maior alavancagem que pode fazer não é nada técnica. É tornar óbvio e fácil fazer o que está certo: uma ferramenta aprovada para o trabalho sensível, uma regra de uma linha que toda a gente conheça mesmo e uma cultura em que perguntar «posso pôr isto aqui?» seja normal em vez de aborrecido. A tecnologia define os limites. São as pessoas que decidem se os respeitam — e respeitarão, se tornar o caminho seguro no caminho fácil.

Perguntas frequentes