Uso da inteligência artificial no direito – ConJur

é desembargador do Tribunal de Justiça de São Paulo professor dos cursos de graduação e pós-graduação em Direito da PUC/SP e coordenador da área de Filosofia do Direito na Escola Paulista de Magistratura.
7 de junho de 2024, 20h58
Há no meio acadêmico, tanto quanto na grande imprensa, fundada suspeita sobre a inteligência artificial que utilizamos, mas para a qual também trabalhamos, explorados pelas diversas camadas do mundo digital. Uma certa fetichização do algoritmo tem contribuído para diagnósticos sombrios, a supor que um dia a IA tomará o lugar do homem, o que representa um risco para a sobrevivência da humanidade. Por ironia, essa desconfiança é alimentada pela própria máquina, pois cotidianamente plataformas e arquiteturas de serviços digitais pedem de nós usuários provas de que não somos robôs.

TJ-PE
O título de um artigo do The New York Times, publicado pelo jornal O Estado de São Paulo (edição de 29/3/2023), é significativo dos medos e receios de uma geração que nasceu numa sociedade analógica e agora, em não mais que oito décadas, vê-se envolvida na era da big data e da big computing, em que o virtual se tornou real. “Será a inteligência artificial o começo do nosso fim?”, indaga Yuval Noah Harari, autor de Sapiens, no  texto escrito em parceria com dois pesquisadores da área de tecnologia humana, Tristan Harris e Aza Raskin.
O primeiro contato da humanidade com a IA se deu por meio das redes sociais. Entre fascinados e perplexos, demoramo-nos a perceber que ela sequestrou nossa linguagem, aprendendo a reconhecer, na base de uma tecnologia sofisticada (considerados os paradigmas da época), os nossos gostos e preferências, para depois nos deixar seduzir com sons e imagens fantásticos, tudo com base na seleção de postagens que obtêm mais “viralidade”, mais reações e engajamento.
Não demorou muito para que essa ferramenta tecnológica, que se apropria das nossas informações para reforçar o sistema e sua performance na base de um mundo de ilusões, passasse a alimentar a dissensão e a discórdia, minando a saúde mental dos usuários, provocando a polarização social e o desgaste da democracia a um ponto tal que, nas últimas eleições americanas, o mundo, atônico, durante semanas, ainda perguntava quem havia se tornado, efetivamente, o novo presidente dos Estados Unidos.
Mas é indubitável — como lucidamente observam esses estudiosos — que a IA pode ser uma importante ferramenta para salvar o homem e o próprio planeta da autodestruição promovida por seres pretensamente inteligentes. Há muita pesquisa em torno do conceito de inteligência, tarefa que tem ocupado filósofos, psicólogos, matemáticos, físicos, neurocientistas, cientistas comportamentais e cientistas da computação, entre outros, podendo-se dizer que existe um certo consenso de que a definição, no campo da IA, tem de se desvencilhar de um viés exclusivamente antropocêntrico.
Como adverte Lucia Santaella, em percuciente trabalho (“A inteligência artificial é inteligente?”. São Paulo: Edições 70, 2023), há outras formas de inteligência que não a humana. Os seres humanos são inteligentes na medida em que deles se pode esperar que suas ações atinjam seus objetivos, o que está presente também em todo o reino animal, vegetal e mineral.
Florestas e plantas pensam e representam, com capacidade para cuidar dos vizinhos doentes, de alertar as companheiras do perigo por meio de sinais elétricos transmitidos por uma rede de fungos. Além disto, podem manter vivos os tocos de árvores caídas há séculos por meio de uma solução açucarada que enviam às raízes (Eduardo Kohn, “How forests think: toward an anthropology beyond the human”. Berkeley: University of California Press, 2013, apud Lucia Santaella, ob. cit., p.105).
O debate em torno da noção antropocêntrica de inteligência ganha força quando se tem em conta a relação entre pensamento e linguagem, esferas que se exigem reciprocamente, reconhecendo-se, nesta última instância, o caráter social do homem, a forma operacional da cultura humana, presente na simbologia do direito, por exemplo. Mais que isto, nem tudo se resume à capacidade de perceber, organizar, planejar e raciocinar, de forma dedutiva e indutiva. A realização de objetivos socialmente relevantes exige vários tipos de habilidades, a que correspondem diferentes esferas da inteligência. Ao lado do conceito de pensamento, importa a definição de consciência e de sentimento.

Spacca
Nas palavras de Lucia Santaella (ob. cit., p. 11, 30, 31, 34, 43, 82-85, 88, 89, 99,126-128), o que faz a IA muito semelhante à inteligência humana é, precisamente, a sua capacidade de aprender, de desenvolver diversas habilidades. E onde houver tendência para aprender, para crescer e se desenvolver haverá inteligência, característica relacionada, no campo da IA, àquilo que se conhece como AM (aprendizado de máquina, ou machine learning).
O programa (software) é uma linguagem codificada que controla o funcionamento do hardware e suas operações, ao passo que o algoritmo é um procedimento ou conjunto de regras a serem seguidas nos cálculos, os quais, por sua vez, definem como o trabalho deve ser executado para atingir o resultado desejado.
Em suma, o algoritmo é uma sequência de instruções que diz como a máquina deve executar determinada tarefa, o que se faz por meio de uma linguagem formal. Na IA, os “dados de treinamento”, que geram algoritmos, são usados para tornar a máquina cada vez mais eficiente na previsão de ocorrências do mundo real, podendo estes mesmos dados cumprir a função de “dados de feedback”, utilizados para melhorar o desempenho do algoritmo com base na experiência. Os algoritmos, com o veloz desenvolvimento da IA, tornaram-se dinâmicos e performáticos, o que permite escrever programas que se modificam e se aperfeiçoam semiautomaticamente e em resposta ao feedback, numa espécie de semiose (Santaella, ob. cit., p. 30-37).
A IA, porém, está longe de ser concebida como um sistema autorreferencial, uma espécie de autopoiese, na formulação dos biólogos chilenos Maturana e Varela, desenvolvida na década de 1970. Desse modelo se utilizou Luhmann, anos depois, ao reivindicar para o direito a conformação de um sistema fechado, que se retroalimenta, seguindo o autor, nesta medida, caminho diverso daquele antes percorrido pelo funcionalismo de Talcott Parsons, para quem o direito também é um organismo cibernético, achando-se, contudo, do ponto de vista de um sistema parcial, inserido no sistema comunicativo global, que é a sociedade.
E o projeto da autorreferência, no campo da IA, vê-se esvaziado porque a formulação dos algoritmos certos de aprendizagem sempre dependerá de dados fornecidos por seres humanos. Para usar um exemplo de Lucia Santaella (ob. cit., p.139), “assim como uma criança, quando deixada sozinha no mundo, não conseguirá aprender a diferenciar o certo e o errado, os algoritmos da AM também precisam de seres humanos para aprender com êxito. Entretanto, aprender com êxito não é o mesmo que aprender o que é certo ou errado. Neste ponto, é necessário considerar, de um lado, os papeis participativos que os humanos desempenham nos processos de IA e, de outro, os modos pelos quais a IA está indissoluvelmente enredada em questões éticas”.
Tais considerações têm desdobramentos de duas ordens. O primeiro deles remete ao que se dizia parágrafos acima, ao observar que, por mais que os estudiosos e especialistas em IA tenham se inspirado na inteligência humana, nem tudo se esgota na capacidade de perceber, organizar, planejar e raciocinar, conjunto de atividades a que correspondem diferentes esferas da inteligência, como concebidas pela filosofia e, um pouco mais tarde, pela psicologia. Pois bem, às tantas, filósofos, neurocientistas e cientistas da computação passaram a indagar se a máquina pode ter consciência (Santaella, ob. cit., p. 52 a 58).
Robôs antropomórficos, a despeito do treinamento em habilidades perceptivas, não são dotados de consciência social. Para tanto, insuficientes se mostram a representação e a interpretação do significado, fazendo-se necessários a vontade, o instinto e a emoção, ou em uma só palavra, o sentimento, que nem mesmo o homem, sob certas condições, é capaz de exprimir. E muitas vezes, para repetir o Segundo Wittgenstein — aquele das investigações filosóficas —, o que importa é o indizível, compreensão que representa uma séria dificuldade para o projeto de uma linguagem formalizada (de que se vale a IA), plano que o filósofo havia desenvolvido, no Tractatus logico-philosophicus, e depois abandonou, ao chegar a um paradoxo.
Inteligência, mente, pensamento, memória e consciência têm vasos comunicantes, mas não se confundem nem são intercambiáveis. A consciência remete ao sentido subjetivo de uma experiência difícil de capturar em quaisquer tipos de sistemas formais. Duas pessoas podem estar vendo a mesma cor (que estariam em condições de definir ostensivamente), mas não sabemos se elas têm a mesma experiência a respeito dela. Os sentimentos que me despertam o amarelo não necessariamente são comuns aos demais indivíduos; e a cromoterapia está aí para demonstrar isto. Não basta, para que se possa falar numa “superinteligência” da IA, o desenvolvimento de relações sintáticas ou semânticas porque fica sempre um resto de vida. Enfim, existem sentimentos (os quais, aliás, nem sempre se consegue decodificar na base do reconhecimento facial, por exemplo).
Mais ainda, há relações de poder, objeto da pragmática de tradição europeia (filosofia analítica), que desafiam o caráter abrangente da IA. Vê-se, entretanto, que a máquina já começa a se aventurar no campo do sutil, com resultados surpreendentes. A fina ironia, a formulação velada de uma frase, o sarcasmo, são práticas discursivas que apontam para determinada forma de interação humana — muito explorada na retórica —, com as quais a máquina já começa a trabalhar. Isto também se passa no campo dos Juízos de prudência, construídos culturalmente, e com o lugar-comum, objeto da tópica. Na esfera da criatividade, que dá expressão à inconstância dos sentimentos e ao ludismo do ser humano, a IA já dá passos importantes, pois, como trabalha com parâmetros indutivos e estatísticos, os dados assim colhidos acabam por alimentar algoritmos com essa disposição.
O direito, que integra o “mundo da vida”, no dizer de Habermas (numa ressignificação do conceito formulado no âmbito da fenomenologia de Husserl), compartilha todos os espaços acima apontados, infensos a uma análise sistêmica (Jürgen Habermas, “Pensamento pós-metafísico: estudos filosóficos”. Rio de Janeiro: Tempo Brasileiro, 1990, p. 31, 32 e 84). Em muitos teóricos e filósofos do direito, é possível encontrar a aproximação entre direito e arte, a exemplo de Carnelutti, Emilio Betti, Edmond Picard, Carlos Maximiliano e Miguel Reale, tendência que vem se acentuando de tempos para cá, como se vê nas obras de François Ost e nas elaborações de seu discípulo, Oscar Enrique Torres.
O reconhecimento dos sentimentos como esfera da consciência permite entender, ademais, a existência de seres sencientes, capazes não só de perceber como também de sentir. A dor, a agonia, as aflições são estados subjetivos presentes não só na vida interior do homem como também na maioria das espécies animais. Não por outra razão, o anteprojeto de revisão e atualização do Código Civil dispõe que a “a afetividade humana também se manifesta por expressões de cuidado e de proteção aos animais que compõem o entorno sociofamiliar da pessoa” (artigo 19).
O segundo desdobramento das reflexões há pouco desenvolvidas — enunciado seis parágrafos acima — consiste na demonização dos algoritmos. Tratá-los “como se fossem senhores autônomos dos malefícios da desinformação é uma maneira de isentar os humanos, tanto da responsabilidade pessoal que lhes cabe quanto da responsabilidade coletiva para a regulamentação da IA” (Santaella, ob. cit., p. 152), reflexão que se torna ainda mais relevante quando se observa que “não se pode barrar o caminho do conhecimento com negativas peremptórias, pois o que não se sabe hoje poderá ser conhecido no futuro” (idem, p. 108). Em poucas palavras, ao admitir que a IA é alimentada por dados humanos, cabe lembrar que compete ao homem o desenvolvimento de um controle ético sobre esse tipo de tecnologia, sem o qual o atual estágio da civilização poderá entrar em declínio.
Essa também é a conclusão, em linhas gerais, de Yuval Noah Harari, Tristan Harris e Aza Raskin, no artigo “Será a inteligência artificial o começo do nosso fim?”, com o qual iniciamos nossas reflexões. E ao direito, que compartilha com a moral social a ética do bem, compete a regulação desse território. A propósito, colhe o alerta de Dora Kaufman (“A ética e a inteligência artificial”. Valor Econômico, 21/12/2017, apud Lucia Santaella, ob. cit., p. 141 e 142), uma das maiores especialistas nas interferências éticas da IA, conhecedora dos documentos internacionais de regulação nesse campo. Segundo a estudiosa, as empresas, a administração pública e as universidades terão de definir seu modelo e atualizá-lo continuamente, à vista de parâmetros de governança, segurança, responsabilidade e transparência, cujo estabelecimento incumbe a um Comitê de Ética, ao qual também competirá definir os riscos a que está exposta a instituição.
Se é certo que a IA representa um importante instrumento para a produção jurisdicional, na base de dados que podem auxiliar na tomada de decisões, necessário se faz refletir, de maneira crítica e responsável, sobre o sentido, a extensão e os desdobramentos dessa ferramenta. O algoritmo permite, por exemplo, a redução da complexidade de inferências relacionadas à atividade probatória, mas como a existência de graus de correção é da natureza mesma da via indutiva, subsistindo a dúvida, vale dizer, a probabilidade de os fatos terem ocorrido dessa ou daquela maneira, continuará valendo o recurso a fórmulas sintéticas culturalmente construídas, a exemplo do “in dubio, pro reo”. Mas a grande dificuldade consiste em que esse “mundo da vida” também vai sendo aos poucos colonizado pela IA, o que remete novamente ao campo ético.
Diga-se mais, assim como alguém precisa fornecer os algoritmos certos de aprendizagem, ao magistrado caberá também, no emprego dos múltiplos recursos da IA, a avaliação da qualidade e da confiabilidade dos dados que informam os algoritmos. No caso das plataformas de produção de texto, importante é perceber que, conquanto haja uma organização sintática e até mesmo semântica, certos vieses podem ser expressão de uma particular visão de mundo. Ao se fiar na programação de uma vontade livre, na programação da moralidade e da responsabilidade — admitindo-se que isto em breve seja possível —, o julgador, de quem não se pode esperar uma atitude ingênua, deixará de ser um dos protagonistas da cena jurídica para se transformar em coadjuvante canastrão. Enfim, como toda e qualquer ferramenta tecnológica, a inteligência artificial será a expressão do uso que se fizer dela. A depender disto, poderemos dar ou não razão a Georges Bernanos, quando afirma, em “A França contra os robôs”, que “um mundo ganho para a técnica está perdido para a liberdade”.
é desembargador do Tribunal de Justiça de São Paulo, mestre e doutor em Direito (USP), escritor e professor dos cursos de graduação e pós-graduação em Direito da PUC-SP.
Ver todos os posts
Encontrou um erro? Avise nossa equipe!
Quando nos deparamos com questões de governança, accountability e avaliações de impacto precisamos entender, inicialmente, o…
As novas ferramentas de inteligência artificial são um efetivo avanço tecnológico com comprovada influência na produtividade…
A evolução da neurociência e, em paralelo, da neurotecnologia [1] é imparável. Nas próximas décadas, veremos…
*palestra traduzida do inglês, proferida em maio de 2024, na sede do United States Patent and…
O comércio eletrônico emerge como uma força transformadora, redefinindo as interações comerciais e moldando o panorama…

Consultor Jurídico 2024. Todos os direitos reservados.
ISSN 1809-2829

source

Compartilhe:

Picture of Marcelo Faria - Redação Kriahtiva

Marcelo Faria - Redação Kriahtiva

Marcelo Faria, aos 27 anos, é a mente criativa por trás da produção de textos da Kriahtiva. Com uma paixão inigualável pelo universo online, seus textos são faróis de inspiração, navegando pelos mares do marketing digital com inovação e expertise. Em cada artigo, ele transforma conceitos complexos em leituras envolventes, guiando os leitores por uma jornada única de descobertas no vasto mundo do marketing.

Sobre o autor

Picture of Marcelo Faria - Redação Kriahtiva

Marcelo Faria - Redação Kriahtiva

Marcelo Faria, aos 27 anos, é a mente criativa por trás da produção de textos da Kriahtiva. Com uma paixão inigualável pelo universo online, seus textos são faróis de inspiração, navegando pelos mares do marketing digital com inovação e expertise. Em cada artigo, ele transforma conceitos complexos em leituras envolventes, guiando os leitores por uma jornada única de descobertas no vasto mundo do marketing.

Veja também

mais acessados

On Key

Related Posts

Uso da inteligência artificial no direito – ConJur