Um assunto tem gerado muita discussão no mundo da tecnologia: a decisão da Meta de pausar seus planos de treinar seus sistemas de Inteligência Artificial usando dados de usuários da União Europeia e do Reino Unido.
Essa decisão veio após a Comissão de Proteção de Dados da Irlanda (DPC), principal regulador da Meta na UE, e o Escritório do Comissário de Informações do Reino Unido (ICO) levantarem preocupações sobre a conformidade desses planos com as rigorosas regulamentações de proteção de dados da Europa, como o GDPR.
A Meta planejava começar a usar conteúdo público compartilhado por adultos no Facebook e Instagram para treinar seus modelos de linguagem, argumentando que precisava fazer isso para refletir a diversidade de idiomas, geografia e referências culturais das pessoas na Europa. No entanto, organizações de privacidade, como a NOYB, apresentaram reclamações alegando que a Meta estava infringindo vários aspectos do GDPR.
Um dos principais pontos de discórdia é a questão do opt-in versus opt-out. De acordo com o GDPR, quando ocorre o processamento de dados pessoais, os usuários devem ser solicitados a dar permissão primeiro, em vez de exigir uma ação para recusar. A Meta, por sua vez, estava contando com uma disposição do GDPR chamada “interesses legítimos” para defender que suas ações estavam em conformidade com as regulamentações.
Além disso, a Meta tornou extremamente difícil para os usuários “optarem por não participar” de ter seus dados usados. Embora a empresa tenha enviado mais de 2 bilhões de notificações informando os usuários sobre as próximas mudanças, essas notificações apareceram junto com as notificações padrão dos usuários, tornando muito fácil perdê-las.
Esse caso destaca o desafio que as empresas de tecnologia enfrentam ao tentar aproveitar os vastos dados que possuem sobre nós para treinar seus sistemas de IA, especialmente em regiões com regulamentações de privacidade mais rígidas, como a Europa. Também levanta questões importantes sobre transparência, consentimento do usuário e o equilíbrio entre inovação e proteção da privacidade.
Embora os esforços da Meta para treinar sua IA no conteúdo público dos usuários na Europa estejam suspensos por enquanto, é provável que o assunto volte à tona novamente em outra forma após consulta com a DPC e a ICO – esperançosamente, com um processo de permissão do usuário diferente em vigor.
Como sempre digo, no mundo digital de hoje, a confiança do público é fundamental. As empresas precisam priorizar a privacidade desde o início e dar aos usuários controle real sobre seus dados. Só então poderemos aproveitar ao máximo o potencial da IA generativa e as oportunidades que ela traz.
Treinamento com dados de usuários brasileiros
E no Brasil, como fica essa questão? Bem, aqui no Brasil situação é um pouco diferente. A Meta já começou a coletar dados de usuários no país para treinar seus modelos de IA, e a responsabilidade de optar por não participar recai sobre o usuário.
Isso significa que, por padrão, os dados públicos dos usuários brasileiros no Facebook e Instagram serão usados para treinar a IA da empresa, a menos que o usuário desative manualmente essa opção em suas configurações. Esse processo, no entanto, não é tão simples quanto deveria ser.
Para desativar a coleta de dados, o usuário precisa navegar por várias etapas nas configurações de sua conta, o que pode ser confuso e demorado. Além disso, muitos usuários podem nem estar cientes dessa coleta de dados ou de como desativá-la.
Essa abordagem levanta questões sobre a transparência e o consentimento sobre o uso de dados. Será que os usuários estão realmente cientes de que seus dados estão sendo usados dessa maneira? E será que eles têm controle real sobre isso?
É importante que as empresas de tecnologia sejam transparentes sobre suas práticas de coleta e uso de dados, e que deem aos usuários controle fácil e claro sobre suas informações pessoais.
