Repercussões jurídicas da tecnologia algorítmica

As repercussões jurídicas da inteligência artificial são inúmeras e relacionam-se com o aumento do uso de seus sistemas, e da ampliação da gama de possibilidades de interação entre pessoas e máquinas para a facilitação de processos. A IA é utilizada no âmbito dos Poderes Legislativo, Executivo e Judiciário para auxílio em procedimentos específicos ou atendimento ao público.

No contexto dos contratos, especialmente no mundo digital, os sistemas inteligentes têm sido utilizados para redução de custos e otimização das atividades realizadas por empresas grandes e pequenas. A busca pela IA acontece quando se percebe a facilitação de certos processos e a possibilidade de prestar melhor serviço a consumidores, contratantes, parceiros comerciais, jurisdicionados etc.

Em todas as áreas da vida cotidiana nota-se a crescente utilização dos sistemas de inteligência artificial. Machado Segundo demonstra a utilização de algoritmos em nosso presente e em nosso futuro, destacando a atuação conjunta de especialistas de várias ciências para compreender os comandos normativos e identificar situações em que é necessário estabelecer critérios morais ou jurídicos para a organização da utilização das máquinas.^[1]

O desenvolvimento da IA não acontece de forma isolada. O avanço da tecnologia em geral, o uso de dispositivos móveis, as câmeras em vários aparelhos, as mais variadas redes sociais, a internet das coisas e o mundo de informações produzido nesses aparelhos contribuíram para os estudos da viabilidade técnica e financeira da inteligência artificial, também referida como computação cognitiva.^[2]

Como é sabido, as novas tecnologias têm impactado profundamente a vida humana e demandam respostas jurídicas efetivas, uma vez que estão para além de uma mera acessoriedade: há verdadeira alteração da dinâmica relacional da sociedade que provoca modificações nos paradigmas estruturantes do Direito.^[3]

Há diversos níveis de incidência do que se denomina tecnologia algorítmica. Nem todos os sistemas que utilizam algoritmos se valem de inteligência artificial. Há operações automatizadas ou semiautomatizadas em que não há ação humana capaz de interferir em seus processos. Todo nível de automação, no entanto, na qual há um algoritmo, apresenta a possibilidade de risco de dano, que pode se dar por omissão do desenvolvedor ou pela ocorrência de um acontecimento durante o uso do sistema informático, havendo ou não intencionalidade.[4]

No âmbito da utilização da inteligência artificial, há risco de danos relacionados à atividade de tratamento de dados pessoais, matéria prima da IA. Também a ausência de informação adequada sobre a utilização de inteligência artificial que de alguma forma se aproveite do desconhecimento do usuário ou sobre a utilização sem o devido consentimento, caso exigido pela lei para coleta, armazenamento ou uso de dados pode causar danos.

O conhecimento sobre os dados gera a possibilidade de estímulo à criação de produtos e serviços inovadores e de melhorias para a sociedade, como avanços na área da saúde e qualidade de vida. Os dados extraídos geralmente são analisados para que gerem um valor utilizado pelas empresas que os tratam, que os transformam em bem muito valioso. Questões como privacidade, proteção de propriedade intelectual e demais direitos vêm à tona quando se fala sobre utilização de dados para supostas melhorias ou seu uso no contexto da Inteligência Artificial.

No mercado de consumo, é lançada mão da inteligência artificial comumente nos primeiros contatos entre consumidor e fornecedor. Nos sites de empresas, vemos, por exemplo, chatbot ou chatterbot, o conhecido chat de conversa que se vale de sistemas de IA para tentar simular uma comunicação entre humanos. A partir de mecanismos já configurados, a máquina vai reagindo às palavras digitadas pela pessoa do outro lado da tela. São os famosos assistentes virtuais ou digitais, que muitas vezes recebem até nome, atribuído pelos fornecedores com o objetivo de aproximar a marca de seus potenciais clientes.

Na Europa, o tema é tratado pelo AI Act, que tem 13 capítulos, 180 considerandos, 113 artigos e 13 anexos, objetivando a regulação de práticas proibidas, de deveres a serem cumpridos, de governança e outras práticas comerciais. A responsabilidade civil no EU AI Act foi baseada em um sistema de categorização de riscos dos sistemas de inteligência artificial. Os riscos inaceitáveis devem ser evitados a qualquer custo, pois contrariam os valores da União Europeia. Violam diretamente os direitos fundamentais a nível individual e coletivo. São riscos vedados e correspondem às práticas proibidas.[5]

Os sistemas de alto risco, por outro lado, podem ser utilizados desde que o potencial danoso possa ser mitigado com medidas de governança. Há requisitos de conformidade a serem cumpridos. Estão previstos na norma alguns deveres de transparência, respeito e boa-fé e os riscos oriundos de ausência de transparência são previstos para todos os sistemas, independente da categoria de riscos. É importante a comunicação de que há interação com a inteligência artificial, para que as pessoas não pensem que estão em contato com um ser humano.

No Brasil, ainda não há lei específica sobre IA. O Projeto de Lei 2338 de 2023 objetiva a regulamentação do assunto, estabelecendo também um regime de responsabilidade e deveres que tornem a utilização de inteligência artificial ética e segura. O projeto, atualmente em trâmite no Senado Federal, traz disposições acerca de governança, autorregulação, responsabilidade dos agentes, entre outras questões.

São apresentadas críticas ao PL 2338/23 no que tange à responsabilidade civil principalmente se seria relevante a importação dos termos alto risco e risco excessivo, expressões novas no direito brasileiro e que não se comunicam com conceitos já existentes no nosso Direito Civil. Além disso, debate-se a necessidade de se falar em responsabilidade civil no Marco Legal da IA tendo em vista que já teria, no Brasil, normas acerca do assunto com elementos sólidos e que permitem eventuais responsabilizações.

De acordo com os artigos 35 e 36 do PL em análise, a responsabilidade civil decorrente de danos causados no âmbito de relações de consumo continua sujeita às regras do Código de Defesa do Consumidor e a responsabilidade decorrente de danos causados por sistemas de IA explorados, empregados ou utilizados por agente de IA permanece sujeita às regras do Código Civil.  A primeira versão do Projeto adotava a responsabilização dos agentes independentemente do grau de autonomia dos sistemas, o que foi modificado na nova versão do PL. É essencial que se exija o efetivo cumprimento dos deveres decorrentes da boa-fé, importante princípio e fundamento de algumas leis, como o CDC e a LGPD.

Renata Pozzi Kretzmann

Associada ao IARGS. Doutoranda e Mestre em Direito pela UFRGS. Especialista em Direito dos Contratos e Responsabilidade Civil pela Unisinos. Diretora adjunta da Revista de Direito do Consumidor pelo Brasilcon. Professora

[1] MACHADO SEGUNDO, Hugo de Brito. Direito e Inteligência Artificial: o que os algoritmos têm a ensinar sobre interpretação, valores e justiça. 2. Ed. Indaiatuba, SP: Editora Foco, 2024. p. 11.

[2] COELHO, Alexandre Zavaglia. O uso de automação e computação cognitiva (robôs) na área do Direito e a ética profissional. Revista de direito e as novas tecnologias, v. 1, out./dez, 2018.

[3] GIANANAKOS, Demétrio Beck da Silva. Inteligência Artificial, Processo Civil e Análise Econômica do Direito. Londrina, PR: Thoth, 2024. p. 102.

[4]RAMPAZO, Flaviana Soares. Levando os algoritmos a sério. In: BARBOSA, Mafalda Miranda; BRAGA NETTO, Felipe; SILVA, Michael César; FALEIROS JÚNIOR, José Luiz de Moura. Direito Digital e Inteligência Artificial: diálogos entre Brasil e Europa. Indaiatuba, SP: Editora Foco, 2021. p. 43-64.

[5] VAINZOF, Rony; GUTIERREZ, Andriei; GODINHO, Gustavo; KRASTINS, Alexandra. Comentários ao EU AI ACT: uma abordagem prática e teórica do Artificial Intelligence Act da União Europeia. São Paulo: Thomson Reuters Brasil, 2024.

Renata Pozzi Kretzmann

Associada ao IARGS. Doutoranda e Mestre em Direito pela UFRGS. Especialista em Direito dos Contratos e Responsabilidade Civil pela Unisinos. Diretora adjunta da Revista de Direito do Consumidor pelo Brasilcon. Professora