Graus de risco e regulamentação da IA
No mundo digital e tecnológico de hoje, é praticamente impossível viver sem contato com algum tipo de Inteligência Artificial (IA). Seja por uma triagem de e-mail, em que o sistema separa o que é identificado como spam e assuntos importantes, por anúncios publicitários que são mostrados ao navegar na internet, ou uma análise de crédito no banco. A lista de possíveis exemplos é extensa, dessa forma, em razão de sua importância, impacto e potencial risco à sociedade, muitos especialistas têm alertado sobre a urgência da regulamentação legal do tema, e que, a mera autorregulação do mercado, como é feito no momento, não é suficiente para proteger os direitos das pessoas.
Antes de tudo, cabe pontuarmos os motivos da importância da regulamentação da IA. A princípio, a simples utilização para triagem de e-mails ou direcionamento de e-mails pode parecer inofensiva, no entanto, uma IA utilizada para triagem de currículos, por exemplo, pode acabar sendo usada para fins discriminatórios. Além disso, atualmente existem IAs capazes de “ler” emoções, sendo possível, até mesmo, manipulá-las. Dessa forma, diante da relevância dessas ferramentas, um cuidado legal demonstra-se importante, para proteger os direitos das pessoas e, de um ponto de vista comercial, aumentar a confiança do mercado como um todo.
Para reforçar a relevância do tema, podemos relembrar alguns eventos que ocorreram no passado. Impossível esquecer do caso da empresa Cambridge Analytica que, em 2018, utilizou dados de milhões de usuários de uma rede social para mapear perfis e direcionar publicidade política de forma estratégia. Outro evento marcante foi o da empresa Clearview AI, que coletou bilhões de fotografias sem o consentimento dos titulares. As imagens coletadas foram utilizadas para construir um banco de dados de reconhecimento facial.
Do ponto de vista financeiro, a regulamentação pode trazer aumento da confiança de investidores, empresas e consumidores. A criação de uma regulamentação pode padronizar os níveis de segurança adequados, mitigando potenciais riscos, pode garantir transparência com o mercado e consumidores, permitindo que tomem decisões mais conscientes, além de, ao definir regras de responsabilização, incentiva as empresas a adotarem práticas mais seguras e éticas. Tudo isso pode contribuir para construção de um mercado mais seguro, ético e confiável.
Partindo agora para a discussão da regulamentação, temos a já aprovada Lei de Inteligência Artificial da União Europeia. Ela apresenta como característica principal a responsabilização das IAs baseada em risco e direitos, ou seja, o grau de responsabilidade aumenta conforme o grau de risco da operação. Dessa forma, voltando ao exemplo da triagem de e-mail, citado acima, tal operação pode ser considerada de baixo risco, portanto, suas obrigações e responsabilidades devem ser baixas e proporcionais ao risco oferecido, enquanto a IA que identifica emoções terá um grau de responsabilização maior. A lei europeia adotou quatro níveis de risco, classificados em inaceitável, quando há a impossibilidade da aplicação da IA, elevado, moderado e baixo.
Enquanto isso, no contexto brasileiro, temos a Proposta de Lei 2338/23. A proposta tem como base o relatório final da Comissão de Juristas de Inteligência Artificial do Brasil (CJUSBIA) e possui semelhanças com a lei europeia. Em relação a responsabilização das IAs, a PL também adotou uma abordagem baseada em riscos e direitos, no entanto, apenas duas são explícitas, a de risco excessivo, caso em que a implementação é proibida, e de alto risco. As classificações de gravidade menor estão inseridas no texto de forma subjetiva e implícita. Mais detalhadamente, o texto da PL indica que a responsabilização por eventuais danos será objetiva nos casos de risco alto ou excessivo e presumida para IAs de menor gravidade, além da inversão do ônus da prova a favor da vítima.
Além disso, a PL diferenciou-se da Lei europeia ao incluir o conceito de discriminação, e ressaltar o direito a não discriminação em diversas passagens do texto. No mais, criou medidas específicas para fomentar a inovação, autorizando que certas IAs realizem experimentos em ambientes controlados, chamados de sandboxes regulatórios.
Em suma, apesar do potencial das IAs em contribuir de forma positiva na sociedade, diante dos diversos exemplos de mal uso de IAs, desde triagem discriminatória de currículos até manipulação de opinião pública, a regulamentação legal mostra-se necessária. Portanto, a importância da criação da lei está em proteger a sociedade de usos irresponsáveis e arriscados das IAs.
______________________________________________________
Escrito por: Henrique Carvalho - Advogado de Direito Digital no escritório COTS Advogados
