Entre a utopia tecnológica e a distopia algorítmica, existe o Direito

Acordamos com o despertador. A cafeteira prepara o café sozinha. As persianas se abrem automaticamente. A geladeira avisa que o leite está acabando. A panela elétrica termina o jantar exatamente quando chegamos em casa. A câmera informa pelo celular tudo o que acontece durante nossa ausência. Durante décadas, esse foi o futuro que aprendemos a imaginar. Um futuro em que a tecnologia nos libertaria das pequenas tarefas do cotidiano, devolveria tempo às pessoas e tornaria a vida mais confortável, eficiente e segura. A inovação ocupava o centro da narrativa, quase como uma força autônoma, capaz de conduzir a humanidade a um estágio superior de desenvolvimento.

Curiosamente, a narrativa oposta foi construída sobre a mesma premissa. Quando o assunto é inteligência artificial, algoritmos ou robôs, multiplicam-se previsões igualmente categóricas: empregos desaparecerão, a privacidade deixará de existir, máquinas substituirão pessoas, a democracia entrará em colapso e o ser humano perderá o controle sobre a própria criação. O protagonista continua sendo o mesmo. Apenas muda o desfecho. A utopia transforma-se em distopia.

As duas narrativas, porém, compartilham um mesmo equívoco: ambas atribuem à tecnologia um protagonismo que ela nunca teve. A tecnologia amplia capacidades. Responde à pergunta “como”. Torna possíveis coisas que antes eram impossíveis. Mas jamais respondeu às perguntas realmente decisivas: para quê, até onde e em quais condições essas capacidades devem ser utilizadas. Essas nunca foram perguntas de engenharia. São perguntas institucionais. E, entre todas as instituições criadas para respondê-las, nenhuma desempenha papel mais relevante do que o Direito.

Talvez nós, juristas, tenhamos contribuído para que isso fosse esquecido. Durante muito tempo aceitamos um papel secundário na narrativa da inovação. A economia explicava os mercados, a política explicava as disputas de poder, a tecnologia produzia as transformações e ao Direito caberia apenas chegar depois, disciplinando excessos e resolvendo conflitos. Pouco a pouco, consolidou-se a percepção de que o desenvolvimento tecnológico seria um fenômeno inevitável, diante do qual restaria ao Direito apenas adaptar-se. Essa compreensão, contudo, inverte a ordem das coisas.

Economia, política e tecnologia operam predominantemente no plano do ser. Descrevem incentivos, comportamentos, relações de poder e capacidades técnicas. Explicam a realidade tal como ela se apresenta. O Direito, por sua vez, pertence ao plano do dever-ser. Sua função não é simplesmente compreender a realidade, mas conformá-la. Não pergunta apenas o que pode ser feito, mas o que deve ser permitido, proibido ou incentivado. É justamente por isso que o Direito frequentemente parece chegar por último, quando, em certa medida, chega primeiro. Afinal, uma inteligência artificial só se transforma em produto, um algoritmo só se converte em serviço e uma plataforma digital só se torna um mercado porque existe um conjunto de instituições que disciplina responsabilidade, propriedade intelectual, concorrência, proteção de dados, segurança cibernética, direitos do consumidor e inúmeras outras questões. Sem essas escolhas normativas, existe apenas capacidade técnica. Não existe organização social.

A história recente da internet talvez seja a demonstração mais eloquente desse fenômeno. Durante anos prevaleceu a convicção de que as instituições jurídicas criadas para disciplinar a internet continuariam adequadas à medida que a tecnologia evoluísse. A realidade demonstrou o contrário. Enquanto a internet se transformava profundamente, o modelo regulatório permaneceu ancorado em premissas concebidas para uma realidade tecnológica que já não existia. O resultado está diante de nós. A concentração econômica das plataformas, a exploração massiva de dados pessoais, a amplificação algorítmica de conteúdos, a crise da desinformação, os novos riscos impostos a crianças e adolescentes e a dificuldade de responsabilizar grandes intermediários digitais não decorreram apenas do avanço tecnológico. Foram também consequência de escolhas institucionais — e, sobretudo, da demora em revê-las quando a realidade já havia mudado. O custo de regular tarde é que, quando o Direito finalmente chega, a tecnologia já deixou de ser apenas uma inovação. Ela passou a constituir a infraestrutura sobre a qual a própria sociedade passou a funcionar.

Talvez essa seja a principal lição que a experiência da internet oferece para o debate contemporâneo sobre inteligência artificial. O futuro da IA não será determinado apenas pelos avanços da engenharia, pela capacidade computacional ou pela velocidade dos modelos de linguagem. Será definido, sobretudo, pelas instituições que decidirmos construir para governá-la. Esperar que a tecnologia amadureça para somente depois discutir seus limites significa repetir exatamente o erro que cometemos com a internet: permitir que escolhas fundamentais sejam feitas, na prática, pelo mercado e pela arquitetura técnica, quando deveriam ser resultado de uma deliberação consciente da sociedade.

É justamente nesse ponto que o papel do jurista recupera um protagonismo que jamais deveria ter perdido. Não porque lhe caiba impedir a inovação ou substituí-la por um excesso de regulação, mas porque lhe compete participar da construção das instituições que transformarão capacidades técnicas em possibilidades legítimas de convivência social. O engenheiro amplia o horizonte do possível. O jurista delimita o horizonte do legítimo. É da tensão permanente entre essas duas atividades que nasce o futuro.

Hannah Arendt afirmava que pensar significa interromper o fluxo aparentemente inevitável dos acontecimentos para exercer a capacidade de julgar. Talvez esse seja precisamente o desafio da nossa geração. Nunca tivemos tantas possibilidades técnicas à nossa disposição, mas também nunca foi tão importante preservar a capacidade de decidir, coletivamente, quais delas desejamos transformar em realidade. O maior erro do debate contemporâneo sobre tecnologia talvez seja acreditar que o futuro será escrito pelos algoritmos. Não será. O futuro continuará sendo uma construção humana, resultado da nossa capacidade de pensar, julgar e agir. E o nome que damos, há séculos, a esse processo de transformar escolhas coletivas em instituições continua sendo o mesmo: Direito.

Maurício Brum Esteves

Associado do IARGS. Doutorando em Direito pela UFRGS. Sócio e Data Protection Officer (DPO) do Silveiro Advogados.