O momento atual da inteligência artificial na mediação

Ao promulgar a encíclica “Magnifica Humanitas”, o Papa Leão XIV inseriu definitivamente a Inteligência Artificial no centro do debate ético global. Ao classificar a tecnologia como a “nova questão social” e pedir o seu “desarmamento” em prol do bem comum, o Pontífice adverte sobre os riscos de se reduzir a dignidade e a subjetividade humana a meros parâmetros algorítmicos. No campo do Direito, e mais especificamente na resolução consensual de conflitos, esse apelo ganha contornos práticos urgentes, desafiando as instituições a conciliar o avanço tecnológico com a preservação da autonomia das partes.

É nesse cenário de transformação que aqueles que atuam nos sistemas jurídicos reconhecem que a utilização da inteligência artificial (IA) está trazendo um novo formato para a arquitetura institucional dos sistemas jurídicos. Em todas as jurisdições, os tribunais estão experimentando ferramentas baseadas em IA para realizar tarefas como classificação de casos, bem como apoio às decisões, além dos formatos de resolução de disputas[i].

Dentre essas ferramentas em expansão estão os sistemas de resolução de disputas online (ODR), os quais obtiveram especial atenção, pois foram desenvolvidos como plataformas assíncronas para facilitar a comunicação entre partes em conflito e solucionar controvérsias. Agora, os sistemas ODR evoluíram para incorporar análises preditivas com algoritmos capazes de sugerir e gerar resultados jurídicos.[ii] De um lado, a IA é vista como uma forma de expandir o acesso à justiça em disputas de baixo risco — melhorando a eficiência, a consistência e a equidade.[iii] Por outro lado, os analistas reverberam que os procedimentos jurídicos automatizados correm o risco de reduzir a equidade e a legitimidade, particularmente se carecerem de salvaguardas essenciais, como participação significativa e esclarecimentos adequados aos optantes deste sistema.[iv]

Nesse recente ambiente, a maioria das pesquisas empíricas que estudam as reações do público à IA, em contextos jurídicos, tem se concentrado na adjudicação — situações nas quais um juiz ou algoritmo emite uma decisão vinculativa e as partes não têm autoridade para rejeitar a decisão emitida.[v] Nesses cenários, a IA gera descrença: o público entende as decisões algorítmicas como menos justas do que as decisões proferidas por juízes. Esse efeito é denominado “aversão a algoritmos”.[vi]

Enquanto isso, na mediação, onde as partes mantêm o controle da decisão, elas podem aceitar ou rejeitar qualquer acordo proposto pela IA, sem penalidade. Essa diferença estrutural é um universo que gera diferentes percepções. De fato, resta evidente que a IA na mediação não substitui o julgamento humano, mas o completa, criando legitimidade do resultado, a qual repousa na aceitação voluntária das partes e não na autoridade do tomador de decisão. Se a aversão a algoritmos persiste em um contexto no qual os participantes mantêm essa autoridade, é uma questão empírica em aberto. O certo é que a aversão existe quando um terceiro a impõe.

No momento atual, a análise da IA em processos de mediação é exploratória e deve ser interpretada como sugestiva e não confirmatória. A estrutura hodierna sugere que os efeitos dependem não simplesmente se a IA é usada, mas do papel que ela desempenha e do caminho perceptivo através do qual esse papel é avaliado. Quando a IA opera em um papel processual, ela molda principalmente os aspectos relacionais da justiça processual (i.e., neutralidade e consistência), enquanto que, quando atua em um papel substantivo, ela afeta principalmente

as avaliações da qualidade do resultado, particularmente a precisão percebida pelo usuário.

Ultrapassadas as necessárias digressões sobre o tema, precisamos enfrentar os critérios éticos e de responsabilidade legal do uso da IA em mediações, sejam elas judiciais ou privadas. O questionamento deve ser feito para o caso de o processo falhar e causar danos aos participantes. Como restaurar o devido processo legal infringido pelo uso da IA?

Um aspecto muito importante é a confidencialidade das informações expostas aos algoritmos. Eis o primeiro item que pode deixar a IA de lado. Quem está na sala? Caso a sessão esteja sendo conduzida por plataformas de teleconferência. Noutro tocante, também podemos nos perguntar: para onde irá a informação que está sendo compilada e com quem (ou o que) será compartilhada na plataforma de IA? Eis dois aspectos que devemos ter em mente ao utilizar serviços cuja base eletrônica poderá operar de forma que o cidadão comum ou a empresa (sem supervisão) não teriam como monitorar. Ou seja, os aspectos legais de privacidade e de conformidade (compliance) deveriam ficar muito além do possível monitoramento ou vazamento de informações, quando se trata de chatbots de IA, tais como ChatGPT.

Por exemplo, funcionários da Samsung que usaram o ChatGPT divulgaram alguns dados confidenciais da empresa em diversas sessões diferentes.[vii] Os próprios representantes da OpenAI afirmam que podem usar as informações para melhorar a funcionalidade do ChatGPT.[viii]

A confidencialidade da mediação tem dois aspectos: a confidencialidade do próprio procedimento de mediação e a confidencialidade das informações relacionadas à resolução do litígio no procedimento de mediação. Este último requisito é imposto ao mediador, às partes na disputa e aos seus representantes, bem como às pessoas que organizam e/ou administram o procedimento de mediação.

O risco de proteção de dados no processo de mediação deve ser considerado, juntamente com o risco de perda/divulgação de informações confidenciais. A proteção de dados é (e deve ser) uma preocupação para muitos, e é exacerbada pela IA tendo potencial assustador de uso de dados oferecido pelas ferramentas de IA. [ix] Por exemplo, os dados que são submetidos ao processamento de IA, especialmente os submetidos a ferramentas públicas de IA, são, em contrapartida, usados ​​para aprendizado de IA. Respostas a consultas adicionais etc., podem ser divulgadas a terceiros em casos similares. Esses dados podem ser apenas nomes, mas também podem incluir quaisquer outros dados sensíveis, como dados de saúde, informações sobre orientação sexual, crenças, visões religiosas, etc. Por essa razão, toda ferramenta de IA que possa ser potencialmente usada na mediação deve ser ponderada por meio de uma avaliação de impacto sobre a proteção de dados. Assim, destacando os potenciais riscos, o grau e a aceitabilidade de tais riscos para os próprios participantes e mediadores. Neste contexto, a chave para o uso bem-sucedido da IA ​​é a compreensão de que o cliente é o mais importante e deve ser a prioridade. Isso não se trata apenas de construir confiança, mas também do uso ético da IA.

Conclui-se, portanto, que a incorporação da Inteligência Artificial nos métodos adequados de solução de conflitos não deve ser temida, mas sim balizada pelo seu formato institucional. Se o uso da IA na adjudicação desperta natural aversão ao afastar o cidadão do livre-arbítrio, o seu emprego na mediação preserva a essência da pacificação social. Ao manter o controle da decisão nas mãos das partes, a mediação cumpre o imperativo ético de colocar a tecnologia a serviço do protagonismo humano — convertendo o algoritmo em instrumento de diálogo, e nunca de imposição.

A análise do cenário contemporâneo revela que o verdadeiro risco da Inteligência Artificial no ambiente jurídico não reside na tecnologia em si, mas na forma de sua governança institucional. Conforme evidenciado pela literatura acadêmica, a imposição de decisões automatizadas na adjudicação desperta uma legítima “aversão a algoritmos”, impulsionada pela opacidade dos sistemas de “caixa-preta” e pelo temor do esvaziamento da agência humana.

Em contrapartida, a introdução da IA no ecossistema da mediação desenha um horizonte promissor. Por preservar o controle da decisão estritamente nas mãos das partes, os métodos consensuais esvaziam o caráter impositivo da máquina e resgatam a legitimidade do resultado por meio da aceitação voluntária. O algoritmo, portanto, deixa de agir como um julgador substituto e passa a operar como um sofisticado facilitador do diálogo.

Ao colocar as ferramentas preditivas a serviço da autonomia e não da coerção, a mediação responde diretamente ao apelo ético lançado pelo Papa Leão XIV em sua encíclica “Magnifica Humanitas”. Garante-se, dessa forma, o “desarmamento” da tecnologia em prol da centralidade humana, provando que o futuro da pacificação social não depende da exclusão da inteligência artificial, mas sim da preservação intransigente da nossa própria sensibilidade e dignidade jurídica.

Referências

[i] Gutiérrez JD., UNESCO Guidelines for the use of AI systems in courts and tribunals (https://unesdoc.unesco.org/ark:/48223/pf0000389786)

[ii] Prescott JJ., Using ODR platforms to level the playing field: improving pro se litigation through ODR design. In: Engstrom DF, editor. Legal Tech and the future of civil justice. Cambridge: Cambridge University Press; 2023.

[iii] Susskind R. Online courts and the future of justice. Oxford: Oxford Univ Press; 2019.

[iv] Pasquale F. The black box society: the secret algorithms that control money and information. Cambridge, MA: Harvard University Press; 2015.

[v] Chen BM, Stremitzer A, Tobia K. Having your day in robot court. Harv J Law Technol 2022;36(1):127–82

[vi] Dietvorst BJ, Simmons JP, Massey C. Algorithm aversion: people erroneously avoid algorithms after seeing them err. J Exp Psychol Gen 2015;144(1):114–26. https://doi.org/10.1037/xge0000033

[vii] DeGeurin, M. (2023). Oops: Samsung Employees Leaked Confidential Data to ChatGPT:

https://gizmodo.com.au/2023/04/oops-samsung-employees-leaked-confidential-data-to-chatgpt/

[viii] Schade, M. How your data is used to improve model performance: https://help.openai.com/en/articles/5722486-

how-your-data-is-used-to-improve-model-performance

[ix] Westcott, J. (2023). AI marketing: the game of personalisation vs privacy: https://www.clicdata.com/blog/ai-marketing-personalisation-vs-privacy/

Eduardo Fontoura

 Diretor-Adjunto do Departamento de Métodos Autocompositivos do IARGS. Advogado e Consultor em Resolução de Disputas com Mestrado em Resolução de Conflitos pelo Straus Institute da Pepperdine School of Law.