THE LEGAL CHALLENGES OF IMPLEMENTING ARTIFICIAL INTELLIGENCE WITHIN THE MODERN LEGAL SYSTEM
REGISTRO DOI: 10.69849/revistaft/cl10202411241133
Alexandre Victor Dias Moura1
Carlos Eduardo Oliveira de Assis2
Maria Laura Vargas Cabral3
Resumo: Objetiva-se, através da presente pesquisa científica, tratar acerca dos desafios de implementação da inteligência artificial no âmbito do sistema jurídico moderno. Tem-se que a inteligência artificial consiste em um campo da área de tecnologia de informação, responsável pelo desenvolvimento de programas capazes de reproduzir ações humanas no âmbito de tomada de decisões. Nesse sentido, tem se que doutrinadores, estudiosos e juristas passaram a indagar sobre a aplicação da inteligência artificial no âmbito do sistema jurídico moderno e os possíveis obstáculos para fins de implementação dessa tecnologia. Dessa maneira, tem-se a seguinte problemática: Ainda existem desafios a serem enfrentados, para fins de implementação da inteligência artificial no âmbito do sistema jurídico moderno? Para corroborar com a hipótese atinente ao tema em comento, coaduna-se com o entendimento de que apesar da IA representar um mundo inovador, ainda existem alguns desafios a serem enfrentados. O objetivo geral de pesquisa visa demonstrar que a implementação da IA no âmbito dos sistemas jurídicos ainda enfrenta alguns percalços, principalmente relativos às legislações excessivamente cautelosas. Com base no presente estudo, coaduna-se com o entendimento que a IA possibilita a inovação tecnológica, a celeridade de processos e procedimentos, contudo deve ser levado em consideração os direitos fundamentais e as diretrizes contidas na Resolução 332 do Conselho Nacional de Justiça. Quanto à metodologia empregada, salienta-se a utilização de fontes bibliográficas, doutrinárias e jurisprudenciais, haja vista que a temática se mostra parcialmente teórica e qualitativa.
Palavras-chave: Inteligência artificial. Desafios e perspectivas. Conselho Nacional de Justiça. Sistemas jurídicos. Tecnologia de informação.
Abstract: The objective of this scientific research is to address the challenges of implementing artificial intelligence within the modern legal system. Artificial intelligence consists of a field in information technology, responsible for the development of programs capable of reproducing human actions in the context of decision-making. In this sense, scholars, scholars and jurists have begun to inquire about the application of artificial intelligence within the modern legal system and the possible obstacles to the implementation of this technology. Thus, the following problem arises: Are there still challenges to be faced for the purpose of implementing artificial intelligence within the modern legal system? To corroborate the hypothesis related to the topic under discussion, it is consistent with the understanding that although AI represents an innovative world, there are still some challenges to be faced. The general objective of the research aims to demonstrate that the implementation of AI within the scope of legal systems still faces some setbacks, mainly related to overly cautious legislation. Based on this study, it is in line with the understanding that AI enables technological innovation and the speed of processes and procedures, but fundamental rights and the guidelines contained in Resolution 332 of the National Council of Justice must be taken into consideration. Regarding the methodology used, the use of bibliographic, doctrinal and jurisprudential sources is highlighted, given that the theme is partially theoretical and qualitative.
Keywords: Artificial intelligence. Challenges and perspectives. National Council of Justice. Legal systems. Information technology.
1. INTRODUÇÃO
É cediço que o mundo tecnológico vem se tornando cada vez mais próximo da realidade vivenciada por milhares de pessoas. Nesse sentido, tem-se que os órgãos públicos e, sobremodo os sistemas jurídicos também possuem grande tendência para se aproximarem dessa realidade e implementarem tais benesses em prol da celeridade processual e procedimental.
Com base nessas premissas iniciais, tem-se que o surgimento da denominada “inteligência artificial” (também denominada de “IA”) trouxe uma série de desafios relevantes e transformadores para toda a sociedade e para a comunidade jurídica em geral, haja vista que se trabalha com um sistema autônomo, que reproduz diversos comportamentos humanos e, concomitantemente, promove-se um maior acesso às informações e também a eficiência em processos e procedimentos.
Nesse contexto, tem-se que diversos doutrinadores e estudiosos passaram a questionar a forma de implementação da inteligência artificial no âmbito dos sistemas jurídicos e seus viesses. Desse modo, tem-se a seguinte problemática de pesquisa: Ainda existem desafios a serem enfrentados, para fins de implementação da inteligência artificial no âmbito do sistema jurídico moderno? Para corroborar com a hipótese atinente ao tema em comento, coaduna-se com o entendimento de que apesar da IA representar um mundo inovador, ainda existem alguns desafios a serem enfrentados. O objetivo geral de pesquisa visa demonstrar que a implementação da IA no âmbito dos sistemas jurídicos ainda enfrenta alguns percalços, principalmente relativos às legislações excessivamente cautelosas.
Para cumprir com os objetivos específicos da pesquisa, tem-se que o presente estudo é dividido por capítulos. Desse modo, aborda-se sobre a forma de compreensão da inteligência artificial, bem como sobre os pressupostos voltados para o seu controle e regulação.
Posteriormente, apresentam-se posicionamentos doutrinários sobre os benefícios da IA no âmbito do sistema de justiça e os dados que corroboram para o resultado realçado.
Através do capítulo principal, trata-se sobre os desafios existentes para fins de implementação da IA nos sistemas de justiça, o uso da inteligência artificial e os elementos presentes no instituto da responsabilidade civil, as principais ferramentas que são utilizadas nesses sistemas e também os preceitos e diretrizes contidas na resolução 332 do Conselho Nacional de Justiça (CNJ).
Justifica-se, nesse sentido, que a presente temática se mostra de grande importância, tanto em âmbito social quanto em âmbito jurídico. Tem-se que por se tratar de questões sobre inovação tecnológica e o emprego de mecanismos de inteligência artificial na seara jurídica, faz-se necessária essa abordagem. Além disso, visa-se contribuir com o presente estudo para fins de aprimoramento de conhecimento dos demais discentes do curso de direito, advogados e serventuários da justiça.
Quanto à metodologia empregada, salienta-se a utilização de fontes bibliográficas, doutrinárias e jurisprudenciais, haja vista que a temática se mostra parcialmente teórica e qualitativa.
2. A COMPREENSÃO ACERCA DA INTELIGÊNCIA ARTIFICIAL E OS PRESSUPOSTOS DE CONTROLE E REGULAÇÃO
Compreende-se que a Inteligência artificial atua na reprodução de padrões de comportamento semelhantes ao humano por dispositivos e programas computacionais (Fia, 2022).
“A inteligência artificial” é um campo da ciência da computação que se dedica ao estudo e ao desenvolvimento de máquinas e programas computacionais capazes de reproduzir o comportamento humano na tomada de decisões e na realização de tarefas, desde as mais simples até as mais complexas. É comumente referida pela sigla IA ou AI (em inglês, artificial inteligence) (Fia, 2022).
Suplementarmente ao exposto, tem-se a seguinte conceituação acerca desse instituto:
[…] um sistema que é baseado em software ou incorporado em dispositivos de hardware e que exibe comportamento inteligente, inter alia, coletando, processando, analisando e interpretando seu ambiente e agindo com algum grau de autonomia, para atingir objetivos específicos (Parlamento Europeu, 2020).
Com maior desenvolvimento a partir da década de 1950, a inteligência artificial já faz parte da vida cotidiana das pessoas por meio dos assistentes de voz, dos mecanismos de pesquisa, dos carros autônomos e das redes sociais. Apesar de trazerem inúmeros benefícios e avanços importantes em diversas áreas, muito se debate a respeito dos limites éticos da inteligência artificial e do papel que elas desempenham na nossa sociedade atual (Fia, 2022).
Os sistemas de inteligência artificial (IA) não podem ultrapassar e violar os direitos dos cidadãos. Transparência, equidade e participação do Estado e da população são necessárias em sua definição temática (Negreiro, 2023).
Segundo o Conselho Nacional de Justiça (2024), o programa de justiça denominada de ‘’Justiça 4.0’’, onde ela atua com uma iniciativa do Conselho Nacional de Justiça (CNJ) de modernizar e tornar o sistema de justiça brasileiro mais acessível, eficiente e integrado, utilizando tecnologias avançadas, sendo a inteligência artificial e automação. Tendo o intuito de acompanhar as tendências da chamada quarta revolução industrial, trazendo vários projetos e ferramentas cabíveis para o uso, transformando digitalmente o poder judiciário.
3. OS BENEFÍCIOS DA IA NOS SISTEMAS DE JUSTIÇA
A utilização da Inteligência Artificial (IA) no sistema judiciário garante eficiência, celeridade e principalmente o aprimoramento das decisões judiciais. No entanto, essa transformação traz consigo uma série de desafios e questões que precisam ser levantadas e analisadas cuidadosamente. Dentre os diversos desafios incluem a equidade, ética, transparência e a necessidade de supervisão profissional adequada dos sistemas de Inteligência Artificial (IA) (Negreiro, 2023).
O Brasil avança na regulamentação da IA com o PL 2.338/23, que busca proteger direitos fundamentais, promover inovação e garantir sistemas seguros. O projeto visa equilibrar tecnologia e direitos humanos. Acerca desse assunto, observa se o conteúdo previsto no artigo 2º do PL 2.338/23:
Art. 2º O desenvolvimento, a implementação e o uso de sistemas de inteligência artificial no Brasil têm como fundamentos:
I – a centralidade da pessoa humana;
II- o respeito aos direitos humanos e aos valores democráticos;
III – o livre desenvolvimento da personalidade;
IV – a proteção ao meio ambiente e o desenvolvimento sustentável;
V – a igualdade, a não discriminação, a pluralidade e o respeito aos direitos trabalhistas;
VI – o desenvolvimento tecnológico e a inovação; VII – a livre iniciativa, a livre concorrência e a defesa do consumidor;
VII – a privacidade, a proteção de dados e a autodeterminação informativa;
VIII- a promoção da pesquisa e do desenvolvimento com a finalidade de estimular a inovação nos setores produtivos e no poder público; e
IX- o acesso à informação e à educação, e a conscientização sobre os sistemas de inteligência artificial e suas aplicações (Senado Federal, 2023).
Observando os incisos acima expostos, mostra-se evidente que o legislador busca no PL, estabelecer determinadas limitações para o uso da tecnologia, com intuito de preservar a harmonia entre o incentivo ao desenvolvimento tecnológico e a valorização dos direitos humanos fundamentais, bem como do próprio trabalho humano, visto que o fato do uso de uma base de dados pré-existente, demonstra que a IA traz soluções com dados e informações do passado, ou seja, IA não possui a criatividade de propor uma nova solução, não há uma evolução da capacidade decisiva baseada na ascensão cultural da sociedade (Mello, 2024).
A inteligência artificial no âmbito do Judiciário permitirá uma automatização de atividades burocráticas, ampliando o trabalho humano e permitindo maior celeridade nos processos, já que permitirá aos operadores de Direito e Servidores Judiciais um raciocínio criativo, rápido e inovador das tarefas jurídicas. As decisões baseadas em IA unirão trabalho humano e tecnologia, agindo a inteligência artificial como auxiliar ao pensamento humano, levando a decisões mais rápidas e eficazes (Mello, 2024).
O Tribunal de Justiça de Minas Gerais (2023) pretende adotar o Sistema Assistente Virtual de Inteligência Artificial (SAVIA). A ferramenta, orientada por inteligência artificial (IA), é capaz de auxiliar magistrados, servidores e colaboradores da área administrativa do TJMG na redação de textos e documentos.
A ferramenta é baseada na recém-lançada plataforma Chat GPT e utiliza o modelo de inteligência artificial GPT-3.5, desenvolvido pela norte-americana Open AI, instituição sem fins lucrativos com sede em São Francisco/CA (EUA) para pesquisa e desenvolvimento colaborativo de modelos de inteligência artificial. A plataforma, que tem como objetivo redigir textos de forma similar aos produzidos pelo ser humano, está em fase de desenvolvimento e foi disponibilizada para testes. Posteriormente, mas ainda sem data definida, o uso do modelo de inteligência artificial será oficialmente disponibilizado para os interessados (TJMG, 2023).
GPT é a sigla para GenerativePre-Training Transformer, um modelo de IA de 3ª geração (GPT-3) que usa uma técnica de processamento de linguagem natural (PLN) do tipo autorregressiva, utilizando dados e informações disponíveis na internet e contando atualmente com 175 bilhões de parâmetros de aprendizagem de máquina. Dessa forma, a tecnologia não utilizada dados e informações dos usuários, garantindo-se a proteção de dados exibida pela LGP (TJMG, 2023).
A nova ferramenta está sendo testada para o desenvolvimento de atividades administrativas, poderá futuramente ser adotada pelo TJMG auxiliando na redação de e-mails, portarias, resoluções, relatórios e textos em geral (TJMG, 2023).
Todas as informações desejadas pelo usuário são faladas ou digitadas e a ferramenta, em questão de segundos, é capaz de buscar todas as informações solicitadas na Internet e sugerir o texto desejado. Caberá ao usuário realizar as correções que julgar pertinentes (TJMG, 2023).
A incorporação da Inteligência Artificial (IA) no poder judiciário pode proporcionar uma Justiça mais rápida e precisa, entretanto, é natural que surjam questões relacionadas a singularidade e privacidade de cada indivíduo, direito de imagem, questões éticas e morais, discriminação e outras situações agressivas (Nascimento, 2024).
Com os avanços tecnológicos destaca-se a justiça 4.0 onde se mostra seus benefícios de ser uma plataforma unificada com a permissão de compartilhamento de dados entre os tribunais, promovendo maior transparência e agilidade nos processos atuais, assim sendo uma das ferramentas é o Sistema Eletrônico de Execução Unificado (SEEU), onde se reduzem os erros trazendo mais transparência entre os casos (Nascimento, 2024).
De tal forma se destaca na possibilidade de o processo ser totalmente digital pelo fato de não precisar de estar presente fisicamente nas audiências, da forma que se torna mais prático e possibilitando maior acesso ao sistema de justiça (Nascimento, 2024).
Conforme Nascimento (2024), essas inovações possuem vantagens de menor custo-benefício, diminuindo custo com papel, transporte e infraestrutura física. De modo que seja mais seguro, com as plataformas trazem processos de segurança onde se torna rastreável e com clareza. Sendo uma inovação para que traga uma justiça das necessidades da sociedade moderna, oferecendo uma alternativa mais rápida, prática e inclusiva para a resolução de conflitos jurídicos.
4. OS DESAFIOS DA IMPLEMENTAÇÃO DA IA NO SISTEMA DE JUSTIÇA BRASILEIRO
A inteligência artificial não possui uma análise crítica de cada caso em específico, por isto a necessidade da junção da tecnologia com a conduta humana. Cita-se como exemplo, uma decisão calçada em um contrato, onde seria necessário analisar a boa-fé inserida em uma cláusula ou mesmo a função social do contrato (Rocha, 2023).
Deve ser exigida a intervenção ou revisão humana nos casos em que a sua implementação seja comprovadamente impossível, hipótese pela qual o responsável pelo controle do sistema de IA deverá implementar medidas alternativas eficazes, com o intuito de garantir a reanálise da decisão contestada, a partir dos argumentos suscitados pela pessoa afetada (Rocha, 2023).
É preciso atentar para possíveis decisões, previsões ou recomendações realizadas por sistema de IA que tenham um impacto irreversível ou de difícil reversão ou envolvam decisões que possam acarretar risco à vida ou à integridade física de indivíduos, deverá haver participação humana no processo decisório e determinação humana final (Rocha, 2023).
Dentre os diversos desafios incluem a equidade, ética, transparência e a necessidade de supervisão profissional e adequada dos sistemas de Inteligência Artificial (IA) (Borsoi, 2023).
A IA apresenta pelo menos três áreas principais de preocupação ética para a sociedade: (I) a privacidade e a vigilância; (II) o preconceito e a discriminação; e (III) o papel do julgamento humano (Borsoi, 2023).
A implementação da Inteligência Artificial (IA) no poder judiciário requer o acesso a grandes quantidades de informações e dados pessoais dos indivíduos, sendo assim, é fundamental garantir a privacidade e a segurança desses dados. As preocupações surgem devido à coleta, armazenamento e compartilhamento de informações sigilosas. Neste caso, medidas restritas de proteção de dados são necessárias para reduzir os riscos (Borsoi, 2023).
Por isto, como dito, a tecnologia não é capaz ainda de substituir a participação humana, no que tange a análise do contexto, avaliação de boa-fé, questões morais e éticas, circunstâncias imprescindíveis para trazer um julgamento justo à causa (Mello, 2024).
Por outro lado, os algoritmos de Inteligência Artificial (IA) são capazes de reproduzir efeitos preconceituosos presentes em dados de treinamento e com isso, podem levar a decisões judiciais imparciais, discriminatórias e ofensivas.Para garantia de decisões justas e igualitárias, requer que o Juiz fique atento ao viés algorítmico (Mello, 2024).
Desse modo, segundo Mello (2024), o tema tem sido objeto de debates, elaboração de projetos de lei, a fim de regulamentar o uso da Inteligência Artificial (IA), pois mesmo com o estágio atual de desenvolvimento da tecnologia, é de maior importância garantir a segurança e a proteção dos direitos individuais, em todos os setores, e em especial ao Judiciário.
4.1 O uso da inteligência artificial e os elementos atinentes à responsabilidade civil
A responsabilidade civil decorrente do uso de inteligência artificial (IA) deve ser levada em consideração, sendo um tema relevante e importante ao Judiciário. Nesse sentido, observa-se as ponderações de Chacon (2024):
Basta pensar, por exemplo, no problema de identificação do agente responsável pelos atos realizados pela IA. Isso porque, tradicionalmente, a responsabilidade civil está ancorada na atribuição de culpa ao agente causador do dano, no entanto, a IA, especialmente aquela que opera com um grau significativo de autonomia, desafia essa noção já que não possui vontade própria e nem tem capacidade de discernimento moral equivalente ao humano.
A análise dos atuais projetos de lei em discussão ilustra bem o argumento. O PL 21/2020, de autoria do deputado Eduardo Bismarck (PDT-CE), explicitava que a regra seria a responsabilidade civil subjetiva, aplicável à objetiva quando por determinação legal.
No artigo 6º, inciso VI do projeto, sobre diretrizes, se explicava que a responsabilidade dos agentes da cadeia de desenvolvimento e operação seria a subjetiva e que se levaria em conta “a efetiva participação desses agentes, os danos específicos que se deseja evitar ou remediar e a forma como esses agentes podem demonstrar adequação às normas aplicáveis, por meio de esforços razoáveis compatíveis com os padrões internacionais e melhores práticas de mercado”. Ressalva-se ali no §3º do inciso VI a responsabilidade objetiva nas relações de consumo e o direito de regresso para pessoas jurídicas no §4º.
O PL 2338/2023, iniciativa do senador Rodrigo Pacheco (PSD-MG), elaborado a partir do relatório divulgado pela Comissão de Juristas do Senado Federal (CJSUBIA), dispunha no Capítulo V sobre a responsabilidade civil e trazia a regra da responsabilidade objetiva para os sistemas de alto risco ou risco excessivo e da culpa presumida para os demais modelos que utilizassem IA (Chacon, 2024).
Conforme Chacon (2024), muitos estudiosos indagam sobre a atribuição de culpa desses sujeitos, ao invés de apenas padronizar um entendimento para essas situações narradas. Dessa forma, para fins de regulamentação da Inteligência Artificial no país, mister que o legislador crie novos caminhos, mais concretos e transparentes, elucidando todas as especificidades e desafios impostos por esse instituto. Não se trata apenas de implementar uma regulação restritiva, com normas excessivamente cautelosas, mas sim de promover o desenvolvimento da IA de forma justa e equânime para todos (Chacon, 2024).
Nesse sentido, a autora complementa:
A regulação restritiva da inteligência artificial pode gerar implicações adversas para a inovação, sobretudo num campo tão vital e dinâmico como o tecnológico. Uma abordagem regulatória excessivamente cautelosa pode, inicialmente, desincentivar a pesquisa e o desenvolvimento, criando obstáculos consideráveis ao progresso e teste de novas tecnologias. Tal cenário é capaz de afastar empresas e instituições de pesquisa do investimento em novos projetos de IA, temendo a incompatibilidade com as normas vigentes ou os altos custos de conformidade.
Adicionalmente, normas muito rígidas podem retardar a implementação de tecnologias de IA que beneficiariam significativamente a sociedade em campos como saúde, educação e segurança pública. A demora na adoção dessas inovações pode resultar na perda de oportunidades essenciais ao aprimoramento da qualidade de vida e da eficiência de serviços essenciais (Chacon, 2024).
É importante também que tais regramentos caminhem com celeridade, porque a tecnologia evolui em um ritmo acelerado, e talvez as aprovações de leis passem a ser inofensivas e ultrapassadas, necessitando ao tempo de sua vigência a atualização e adaptação de acordo com o avanço tecnológico àquele tempo (Silva, 2022).
Também é necessário que tais normas sobre a IA sejam equilibradas e eficazes, inclusive prevendo a responsabilização civil, tema que não pode ser descartado diante da evolução tecnológica e sujeição a erros (Silva, 2022).
Quanto ao instituto da responsabilidade civil, tem-se que esse visa a reparação à vítima, a fim de ressarcir o dano sofrido. É o que é preconizado no artigo 186 do Código Civil “Aquele que, por ação ou omissão voluntária, negligência ou imprudência, violar direito e causar dano a outrem, ainda que exclusivamente moral, comete ato ilícito” (Brasil, 2002).
Portanto, indiferente se o dano foi causado por ação ou omissão voluntária, negligência ou imprudência, o resultado é ato ilícito, de maneira que há dever/obrigação de reparar o dano causado e indenizar a vítima lesada (Brasil, 2002).
O dever de reparar o dano ou de indenizar, ainda que se trate de inteligência artificial é aplicável, ainda que a conduta tenha causa direta e imediata ligada ao resultado danoso, pelo mecanismo de inteligência artificial (Silva, 2022).
Tem-se, no campo da jurisprudência moderna, alguns julgados relativos à responsabilização civil pela utilização errônea da IA. Nesse aspecto, para fins de complementação de estudo, se observa a decisão proferida pelo Tribunal de Justiça do Distrito Federal, em sede de análise de uma ação de cobrança indevida por um estabelecimento bancário:
CONSUMIDOR. BANCO. COBRANÇA INDEVIDA. DÍVIDA INEXISTENTE E PAGA. REPETIÇÃO DO INDÉBITO. FORMA SIMPLES. ARTIGO 42, § ÚNICO DO CDC. ART. 940 DO CÓDIGO CIVIL. MÁ-FÉ NÃO COMPROVADA. INTELIGÊNCIA ARTIFICIAL. PRECEDENTES DO STJ. 1.
“A aplicação do art. 42, parágrafo único, do Código de Defesa do Consumidor somente é justificável quando ficarem configuradas tanto a cobrança indevida quanto a má-fé do credor fornecedor do serviço. Precedentes do STJ” (AgRg no REsp 1200821/RJ, Relator Ministro JOÃO OTÁVIO DE NORONHA, TERCEIRA TURMA, julgado em 10/02/2015, DJe 13/02/2015.). 2. Para que haja a devolução em dobro do indébito, é necessária a comprovação de três requisitos, conforme o parágrafo único do artigo 42 do CDC, a saber: 1) que a cobrança realizada tenha sido indevida; 2) que haja o pagamento indevido pelo consumidor; e 3) que haja engano injustificável ou má-fé. Mutatis mutandis, a mesma exigência impõe-se para a repetição ou para a indenização prevista no art. 940 do Código Civil. 3. A má-fé é inerente à atitude humana de quem age com a intenção deliberada de enriquecimento ilícito ao cobrar o que já foi pago, ao receber o que foi cobrado e ao cobrar o que não era devido, sem qualquer engano ou erro justificável. 4. Para a devolução em dobro, não basta a cobrança indevida. As instituições financeiras, conceito que compreende bancos e, também, companhias que administram operações de cartões de crédito, conhecidas como bandeiras, operam com inteligência artificial, a chamada 4ª Revolução Industrial, que é caracterizada pela fusão de tecnologias que puseram em xeque as esferas física, digital e biológica. Não há como se imputar má-fé às cobranças feitas por sistemas computacionais, por robôs eletrônicos. 5. Há que se repensar conceitos que não poderão receber dos juristas as antigas soluções impostas pelo Direito Romano ao vendedor de balcão, com caderneta de apontamentos pessoais dos seus fregueses, contemporânea da 1ª Revolução Industrial, a era da máquina movida a vapor. 6. As inconsistências do emprego de inteligência artificial não podem ser punidas com o rótulo da má-fé, atributo exclusivamente humano, ínsito a quem anota, naquela mencionada caderneta, uma compra que não foi feita ou uma dívida que já foi paga, para dobrar, fraudulentamente, o lucro no fim do mês. 7. Sem os requisitos legais, a devolução do indébito deve ocorrer de forma simples. 8. Recurso conhecido e parcialmente provido (Brasil. Tribunal de Justiça do Distrito Federal. 07150148120188070001/ DF 0715014-81.2018.8.07.0001. Relator: desembargador Eustáquio de Castro. Diário Judiciário Eletrônico- Dje, 06 mai. 2019, grifo nosso).
Nesse sentido, tem-se que o douto TJDF (2019), através de uma apreciação da demanda, considerou que o estabelecimento bancário e as operadoras de cartão de crédito, ao utilizarem um sistema de inteligência artificial, poderão gerar cobranças indevidas para os seus clientes. Dessa forma, não se pode considerar uma conduta de má-fé por parte dessa instituição (haja vista que se trata de um equipamento automático), mas tal erro deverá ser sanado com a devolução do indébito, de forma simples. Ademais, não consideraram a responsabilidade civil por parte do banco por tratar-se de um sistema automático, de emprego de inteligência artificial.
4.2 As principais ferramentas da IA utilizadas no âmbito dos sistemas de justiça
Recentemente o Conselho Nacional de Justiça (CNJ) submeteu o uso da inteligência artificial (IA) a uma pesquisa, cujos dados foram publicados em 25 de setembro de 2024, que concluiu que o uso de tais ferramentas é baixo (CNJ, 2024).
A pesquisa foi realizada com magistrados e servidores do Poder Judiciário e responderam a pesquisa 1.681 juízes (9,1% do total de 18,4 mil) e 16.844 servidores (6% dos 278,7 mil) (CNJ, 2024).
Nos dois grupos, 49% informaram utilizar ferramentas desse tipo. Dentro desse universo, a frequência de uso dos magistrados ocorreu da seguinte forma: 43% raramente, 35,3% eventualmente, 15,2% frequente, 6,5% sempre. Já entre os servidores, os números são: 36,4%: raramente, 37,5%: eventualmente, 19,7%: freqüente, 6,4%: sempre (CNJ, 2024).
A ferramenta mais utilizada, nos dois grupos, foi o ChatGPT, da OpenAI: fizerem uso dele 96% dos juízes e 94% dos servidores. Também lideram a lista o Copilot, da Microsoft, (24,7% e 26,4%, respectivamente) e o Gemini, do Google, (23% e 28,5%) (CNJ, 2024).
O ChatGPT é um modelo de linguagem treinado pela OpenAI. Tem a capacidade de entender e gerar textos, responder perguntas, completar frases incompletas, sendo uma das ferramentas mais usadas para aplicações como assistentes virtuais, geração de conteúdo e tradução automática (Fia, 2024).
O ChatGPT, um assistente virtual baseado na tecnologia GPT (GenerativePretrained Transformer). Funciona através do processamento de linguagem natural (NLP), que permite entender e responder às perguntas em linguagem natural, como se estivesse conversando com um humano. Para isso, o GPT foi treinado em grandes volumes de dados linguísticos e, assim, é capaz de reconhecer padrões na linguagem (Fia, 2024).
O objetivo é ajudar a fornecer informações e responder perguntas de forma precisa e eficiente, utilizando a vasta base de conhecimento e capacidade de processar a linguagem natural. Dessa forma, capaz de conversar sobre uma ampla gama de tópicos, desde ciência e tecnologia a cultura e entretenimento, e sempre aprendendo com as interações que tem com os usuários (Fia, 2024).
O Copilot é uma ferramenta de inteligência artificial criada pela Microsoft, semelhante ao ChatGPT da OpenAI e ao Gemini do Google. A vantagem do Copilot em relação ao ChatGPT e ao Gemini é a capacidade de interagir e integrar facilmente com os outros programas da Microsoft, como o Excel, Word e o PowerPoint, aumentando seu potencial e suas funcionalidades (Fia, 2024).
Além disso, ele pode ser utilizado diretamente da área de trabalho do seu computador Windows, clicando no ícone correspondente no canto inferior direito.
Figura 01- Imagem mostrando o ícone correspondente ao Copilot no computador Windows.
Fonte: Silva, 2022.
Sendo da Microsoft, ele também é facilmente integrado com o Microsoft Edge, permitindo fazer análises e perguntas direto das abas do navegador (Silva, 2022).
Assim como a grande maioria das inteligências artificiais, o Copilot também apresenta uma versão paga e uma versão gratuita. O Copilot funciona de forma muito parecida ao ChatGPT, permitindo a interação com a inteligência artificial através de um chat (Silva, 2022).
O Gemini é uma ferramenta de inteligência artificial desenvolvida pelo Google. Sua principal função é entender e gerar conteúdo em diversas modalidades, incluindo texto, código, imagem, vídeo e áudio. Conta com as versões Gemini Pro, Gemini Ultra e Gemini Nano (Fia, 2024).
O Google Gemini é uma IA Generativa que fornece respostas e realiza tarefas complexas a partir da interação do usuário. Essa interação pode ser em formato de texto, imagem ou áudio, sendo feita em prompts (comandos) que podem ser realizados no chat da ferramenta (Fia, 2024).
O Tribunal de Justiça de Minas Gerais adotou o Sistema Assistente Virtual de Inteligência Artificial (SAVIA), atualmente em fase de testes e baseado no chat GPT, será um assistente com o objetivo de amparar magistrados, servidores e colaboradores do Tribunal, na elaboração e interpretação de textos (TJMG, 2023).
A ferramenta permite aos usuários a conversão de voz em texto, resumos e expansão de textos em PDF, pesquisas por texto e voz, além do desenvolvimento da biblioteca em prompts. O SAVIA apresenta resultados em questão de segundos, tornando o trabalho mais eficiente e célere ao redigir conteúdo para cada demanda documental (TJMG, 2023).
Acerca da utilização e importância do ChatGPT, acrescenta-se que:
O ChatGPT, da Open AI, é a ferramenta mais utilizada pelos respondentes (96% entre magistrados e 94% entre servidores). Também são populares entre eles o Copilot, da Microsoft, e o Gemini, do Google. Além disso, há uma predominância pelo uso de versões livres/abertas. Para os pesquisadores, esse é um ponto importante. “Essas ferramentas podem conter imprecisões e erros, e o seu resultado é indiscernível do produzido por humanos. Isso traz a necessidade de procedimentos de revisão e de transparência sobre o uso. Então existem vantagens para se utilizar ferramentas que são disponibilizadas pelos tribunais, mas que a gente vê pela pesquisa que são minoria”, afirmou Juliano.
Apesar de ser pouco utilizada, a pesquisa aponta que, entre os que lançam mão da ferramenta, há um considerável uso para atividades do tribunal (27% dos magistrados e 31% dos servidores fazem uso na vida profissional). O estudo identificou também interesse expressivo entre aqueles que não a empregam em suas funções. Ademais, em ambos os grupos, a maioria manifestou elevada crença na serventia da Inteligência Artificial (IA) generativa para apoio à atividade judicial, sobretudo em tarefas que envolvem tecnologia da informação, estatística ou ciência de dados (CNJ, 2024).
Do mesmo modo, se observa, através do demonstrativo abaixo, os percentuais de utilização dessa tecnologia no âmbito do Poder Judiciário:
Imagem 02- demonstrativo acerca do uso da Inteligência Artificial Generativa no Poder Judiciário.
Fonte: Tribunal Regional Federal (2024).
Conforme ressaltado pelo presidente do CNJ e do Supremo Tribunal Federal (STF), Luís Roberto Barroso, o Judiciário brasileiro está na vanguarda do uso da tecnologia artificial, possuindo uma tendência para ampliar esse espectro ao longo dos próximos anos (CNJ, 2024).
Para fins de complementação da presente pesquisa, observa-se um julgado proveniente do Tribunal de Justiça do Distrito Federal:
CIVIL. PROCESSUAL CIVIL. APELAÇÃO CÍVEL. INEXIGIBILIDADE DE DÉBITOS. DÍVIDA PRESCRITA. COBRANÇA EXTRAJUDICIAL. SERASA LIMPA NOME. PROCURAÇÃO. ASSINADORES. DEMANDAS REPETITIVAS. ADVOCACIA PREDATÓRIA. EXTINÇÃO. ILEGITIMIDADE. CAUSÍDICO. REPRESENTAÇÃO PROCESSUAL. VALIDADE NÃO COMPROVADA. INTELIGÊNCIA ARTIFICIAL. 1. Há tribunais que desenvolvem estudos e exames de demandas predatórias e outros abusos – inclusive sobre os assinadores – que os advogados têm utilizado para propositura de demandas de natureza repetitiva, com petição padronizada, com clientes do Brasil todo. 2. A ausência de juntada de procuração com reconhecimento de firma, mesmo após facultada ao advogado, desatendendo ordem judicial, reforça a suspeita da utilização indevida do direito de ação, seja por irregularidade na confecção do instrumento procuratório, seja por captação ilícita de clientela. 3. Diante das dúvidas acerca da autenticidade da procuração acostada à petição inicial, acrescido do fato de insistência pela não marcação de audiências de conciliação (sendo impossível saber se os clientes estão cientes da propositura da demanda e tampouco interesse no seu prosseguimento), necessário se faz reconhecer o vício da representação processual e da ilegitimidade de parte. 4. A Corregedoria do TJDFT criou o NUMOPEDE, a fim de identificar demandas predatórias, utilizando da inteligência artificial e outros recursos tecnológicos e disponibilizando produtos que podem, em tese, apontar fortes indícios do uso criminoso do processo. 5. Apelo não provido (Brasil. Tribunal de Justiça do Distrito Federal. 07419861520238070001 1887172. Relator: ministro Mário Zambemiro. Diário Judiciário Eletrônico- Dje, 18 jul. 2024, grifo nosso).
Tem-se, conforme ementa extraída de um julgado do TJDF (2024), que os órgãos pertencentes ao Poder Judiciário vêm utilizando-se de ferramentas provenientes da inteligência artificial para resolução de demandas. Nesse caso em comento, tem-se que o douto TJDF ressaltou a criação do NUMOPEDE (Núcleo de Monitoramento de Perfis de Demandas), pertencente à Corregedoria do mencionado órgão, sendo responsável pela identificação de demandas predatórias. Trata-se, sobremodo, da utilização da IA para identificação e responsabilização daqueles que agem em desconformidade com as leis vigentes, principalmente advogados que atuam em demandas de natureza repetitiva, com petições padronizadas e que visam apenas o lucro em detrimento dos clientes.
4.3 A resolução 332 do CNJ
No contexto apresentado, tem-se que a Resolução CNJ nº 332/2020 traz em seu bojo diversas diretrizes relativas à ética, transparência e governança na produção e no uso de Inteligência Artificial (IA) no Judiciário brasileiro. Dessa maneira, observa-se que a principal finalidade da Inteligência Artificial é a celeridade dos processos judiciais com suporte decisório eficiente, mas também a análise avançada de jurisprudências, principalmente utilizada para resolver a morosidade/atraso no julgamento da Justiça (CNJ, 2020).
Nesse sentido, assim dispõe a Resolução em seu artigo 2º, de seguinte redação: “Art. 2º A Inteligência Artificial, no âmbito do Poder Judiciário, visa promover o bem-estar dos jurisdicionados e a prestação equitativa da jurisdição, bem como descobrir métodos e práticas que possibilitem a consecução desses objetivos “(CNJ, 2020).
Acerca dos elementos contidos no âmago da Resolução 332/2020, complementa Borsoi (2023):
Prossegue-se ainda com disposições iniciais no sentido de definir importantes conceitos atinentes à IA, e que devem ser posteriormente aperfeiçoados no contexto do Judiciário, tais como algoritmo, modelos, sinapses e modalidades de usuários internos e externos.
A seguir, passado o cenário de intróito, analisa-se a preocupação concernente à tutela dos direitos fundamentais e controle de dados sensíveis e ao segredo de justiça, estes previstos na LGPD.
A mencionada normativa, por sua vez, alberga a chamada “não discriminação”, que tem o condão de proteger, como baluarte do sistema, os desacertos de julgamento originários nos preconceitos, que visam à supressão dos marginalizados socialmente, bem assim no subsídio para um julgamento justo (Borsoi, 2023).
Consoante Borsoi (2023), a implementação dos serviços relacionados à IA se constituem em um importante acréscimo, não apenas para o poder judiciário, mas para todos os sistemas de um modo geral. Ademais, tem- se que as pesquisas voltadas para essa finalidade, centram-se em um equilíbrio evolutivo e transformador. Acerca dos demais capítulos da Resolução em comento complementa o autor em destaque:
O artigo 20 aduz que a IA será “orientada pela busca da diversidade em seu mais amplo espectro, incluindo gênero, raça, etnia, cor, orientação sexual, pessoas com deficiência, geração e demais características individuais”, com maior participação representativa possível, em atenção à diversidade. Aliás, estudos, pesquisas, ensino e treinamentos devem ser avessos a preconceitos, e respeitar a dignidade e liberdade de todos, o que se complementa pela previsão de atividades indenes de ameaça ou dano ao homem.
Em arremate, o capítulo atinente à prestação de contas e responsabilização civil, dois temas tão valiosos e apropriados quando se menciona a IA na órbita de análise do Judiciário, pois sua credibilidade e segurança, além da reputação dos defensores da própria computação dentro do terceiro poder, necessariamente, perpassam pela punição aos envolvidos (Borsoi, 2023).
É importante destacar que existem outros temas que também são abordados pela Resolução 332 do CNJ. Dentre eles, tem-se uma disposição acerca dos riscos de utilização da IA (art. 8º, III e art. 25, V); utilização de conjunto de dados suficientemente amplo (art. 6º); possibilidade de auditoria (art. 8º, V e VI); dever de informação aos usuários externos e o caráter não vinculante da proposta da solução fornecida pelo sistema de IA, que sempre será submetida à análise da autoridade competente (art. 18); preponderância a autonomia dos usuários internos (art. 17); transparência quanto à divulgação dos sistemas de IA usados pelo Poder Judiciário no Brasil (art. 11) (CNJ, 2020).
A Resolução nº 332/2020 harmoniza-se com a Magna Carta de 1988, com tratados que o Brasil é signatário, legislação ordinária e, especialmente, o arcabouço axiológico sobre o qual é assentado o regime político democrático nacional (CNJ, 2020).
No último dia 27 de setembro de 2024, o Conselho Nacional de Justiça- CNJ realizou audiência pública reunindo 60 especialistas nacionais e internacionais de várias áreas (CNJ, 2024).
As várias propostas apresentadas seguem agora para a elaboração da atualização da Resolução CNJ n. 332/2020, cujo objetivo, segundo apreciação pelo Plenário do CNJ é que a IA possa se desenvolver e evoluir, sem a perda de controle, além de incluir a IA generativa, que se refere ao uso de IA para criar novos conteúdos, como texto, imagens, música, áudio e vídeos (CNJ, 2024).
Além disto, conforme dados extraídos do site do CNJ (2024), são utilizados modelos de fundação (modelos de IA grandes), capazes de realizar várias tarefas ao mesmo tempo, além de resumos, perguntas e respostas, classificações e muito mais. Além disso, com o mínimo de treinamento necessário, os modelos de fundação podem ser adaptados para casos de uso específicos com poucos dados de exemplo.
5. CONCLUSÃO
Tendo como base toda a pesquisa científica desenvolvida, bem como os elementos jurídicos e técnicos apresentados, compreende-se que a inteligência artificial consiste em uma importante inovação tecnológica, de grande utilidade para todos os cidadãos e, sobremodo, para os sistemas judiciários modernos. Em resumo, tem-se que a inteligência artificial reproduz diversos comportamentos humanos que, de forma sistematizada, atuam em prol da celeridade e eficiência procedimental.
Ademais, trata-se de um campo mais voltado para a ciência da tecnologia e computação, mas com aplicação prática em diversos âmbitos, setores e órgãos. Dentre tais âmbitos, têm-se os sistemas judiciários.
Com subsídio nos pressupostos de análise realçados, observa-se que a inteligência artificial aplicável aos sistemas jurídicos poderá propiciar a eficiência, celeridade e resolução de processos e procedimentos e, sobremodo, contribuir para a elaboração concisa e prática de decisões judiciais. Embora se trate de uma importante ferramenta, tem-se que a mesma deve ser vislumbrada com cautela, principalmente nos ambientes judiciários.
Tal necessidade de cautela centra-se, sobremodo, pelo fato de que a inteligência artificial possibilita o acesso aos diversos dados contidos nos sistemas judiciários. Além disso, poderá incorrer em erros, tendo em vista que existe uma atuação predominantemente automática e sistemática. Além dos pontos suscitados, também se leva em consideração que muitos dados ali contidos versam sobre direitos fundamentais (previstos na Magna Carta de 1988), dados sigilosos, questões bancárias, financeiras, dentre outros elementos de grande importância.
Diante desses pontos suscitados, faz-se necessária a utilização da IA em ambientes judiciais (dentre tais utilizações, cita-se o Processo Judicial Eletrônico, os sistemas informatizados da justiça, os núcleos de monitoramento de perfis de demandas, dentre outros). Contudo, é necessário que tais instrumentos sejam respaldados pela ética, pela transparência, pela observância das diretrizes contidas na Resolução nº 332 do Conselho Nacional de Justiça.
É importante enfatizar que não se trata do impedimento ou restrição de uso da IA em ambientes forenses. Contudo, se faz necessário a correta observância dos direitos, princípios e garantias fundamentais (previstas na Magna Carta de 1988), nas diretrizes contidas na Lei Geral de Proteção de Dados (LGPD) e em todas as normativas de cunho obrigatório. Tais medidas são necessárias para que não se tenha a propagação de injustiças em nome da inovação tecnológica propiciada pela inteligência artificial.
REFERÊNCIAS
BORSOI, Bruno Chemin. A inteligência artificial no poder judiciário: princípios éticos, normas e a Resolução 332/2020. Revista Ciências Sociais. v. 27. ed. 27. out/2023.
BRASIL. Constituição da República Federativa do Brasil de 1988. Diário Oficial da União, Brasília, 05 de outubro de 1988. Disponível em: https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm Acesso em: 02 ago. 2024.
BRASIL. Lei 10.406 de 10 de janeiro de 2002. Institui o Código Civil. Diário Oficial da União, Brasília, 10 de janeiro de 2002. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/2002/l10406compilada.htm Acesso em: 02 ago. 2024.
BRASIL. Tribunal de Justiça do Distrito Federal. 07150148120188070001/ DF 0715014-81.2018.8.07.0001. Relator: desembargador Eustáquio de Castro. Diário Judiciário Eletrônico- Dje, 06 mai. 2019.
BRASIL. Tribunal de Justiça do Distrito Federal. 07419861520238070001 1887172. Relator: ministro Mário Zambemiro. Diário Judiciário Eletrônico- Dje, 18 jul. 2024.
CARTAXO, Mac Amaral. O impacto da inteligência artificial na prática jurídica. 2024. Disponível em: https://www.conjur.com.br/2024-mai-10/o-impacto-dainteligencia-artificial-na-pratica-juridica/ Acesso em: 01 ago. 2024.
CHACON, Eduarda. A responsabilidade civil e a inteligência artificial. 2024. Disponível em: https://www.bfbm.com.br/a-responsabilidade-civil-e-a-inteligenciaartificial/ Acesso em: 14 ago. 2024.
CONSELHO NACIONAL DE JUSTIÇA. Programa Justiça 4.0 divulga resultados de pesquisa sobre IA no Judiciário brasileiro. 2024. Disponível em: https://www.cnj.jus.br/programa-justica-4-0-divulga-resultados-de-pesquisa-sobre-iano-judiciario-brasileiro/ Acesso em: 22 out. 2024.
FIA. Marco Legal da Inteligência Artificial: o que é, bases e benefícios. 2022. Disponível em: https://fia.com.br/blog/marco-legal-da-inteligencia-artificial/ Acesso em: 05 ago. 2024.
MELLO, Lucas de. Desenvolvimento da IA e a necessidade de regulamento no Brasil. 2024. Disponível em: https://www.migalhas.com.br/depeso/410392/desenvolvimento-da-ia-e-anecessidade-de-regulamento-no-brasil Acesso em: 16 nov. 2024.
NASCIMENTO, Pablo. TJMG lança inteligência artificial para traduzir “juridiquês” dos processos. 2024. Disponível em: https://noticias.r7.com/minasgerais/tjmg-lanca-robo-de-inteligencia-artificial-para-traduzir-juridiques-dosprocessos-21122023/ Acesso em: 26 out. 2024.
NEGREIRO, Patrícia. Aplicação da Inteligência Artificial no Mundo Jurídico: Vantagens, Desvantagens e Impacto. 2023. Disponível em: https://www.jusbrasil.com.br/artigos/aplicacao-da-inteligencia-artificial-no-mundojuridico-vantagens-desvantagens-eimpacto/1995452599#:~:text=**Apoio%20%C3%A0%20Tomada%20de,ou%20influe nciadas%20por%20erros%20humanos Acesso em: 19 out. 2024.
PARLAMENTO EUROPEU. Resolução de 20 de outubro de 2020. Disponível em: https://www.europarl.europa.eu/doceo/document/TA-9-2020-0275_PT.html. Acesso em: 14 ago. 2024.
POMPEU, Lauriberto. Senado deve votar projeto que regulamenta IA nesta semana. 2024. Disponível em: https://oglobo.globo.com/economia/noticia/2024/06/17/senado-deve-votar-projetoque-regulamenta-ia-nesta-semana.ghtml Acesso em: 18 out. 2024.
SENADO FEDERAL. Projeto de Lei n° 2338, de 2023. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/157233 Acesso em: 12 out. 2024.
SENADO FEDERAL. Projeto de Lei n° 21 de 2020. Disponível em: <https://legis.senado.leg.br/sdleggetter/documento?dm=9063365&ts=171391155593 3&disposition=inline Acesso em: 12 out. 2024.
SENADO FEDERAL. Inteligência artificial: direitos fundamentais não podem ser violados, alertam especialistas. 2022. Disponível em: https://www12.senado.leg.br/noticias/materias/2022/06/09/inteligencia-artificialdireitos-fundamentais-nao-podem-ser-violados-alertam-especialistas Acesso em: 18 out. 2024.
SENADO FEDERAL. Senado analisa projeto que regulamenta a inteligência artificial 2023. Disponível em: https://www12.senado.leg.br/noticias/materias/2023/05/12/senado-analisa-projetoque-regulamenta-a-inteligencia-artificial Acesso em: 18 ago. 2024.
SILVA, Paulo Ricardo Artequilino da. Responsabilidade civil por ato de inteligência artificial (IA). 2022. Disponível em: https://www.jusbrasil.com.br/artigos/responsabilidade-civil-por-ato-de-inteligenciaartificial-ia/1784595859 Acesso em: 19 out. 2024.
SUPERIOR TRIBUNAL DE JUSTIÇA. A inteligência artificial a favor da celeridade judicial I Decisões do STJ sobre o tema. Youtube, 2024. Disponível em: https://www.youtube.com/watch?v=z4kzzWRbDfE Acesso em: 17 nov. 2024.
TRIBUNAL DE JUSTIÇA DO DISTRITO FEDERAL. Inteligência artificial no Poder Judiciário. 2024. Disponível em: https://www.tjdft.jus.br/institucional/biblioteca/pesquisa/inteligencia_artificial_poder_ju diciario-1.pdf Acesso em: 14 out. 2024.
TRIBUNAL DE JUSTIÇA DE MINAS GERAIS. TJMG apresenta SAVIA, nova ferramenta de inteligência artificial baseada no ChatGPT. 2023. Disponível em: https://www.tjmg.jus.br/portal-tjmg/noticias/tjmg-apresenta-savia-nova-ferramenta-deinteligencia-artificial.htm Acesso em: 02 nov. 2024.
TRIBUNAL REGIONAL FEDERAL. Inteligência Artificial no Judiciário: uso é pouco frequente, mas interesse pela ferramenta é elevado. 2024. Disponível em: https://www.trf2.jus.br/jf2/noticia-jf2/2024/inteligencia-artificial-no-judiciario-usopouco-frequente-mas-interesse-pela Acesso em: 16 out. 2024.
1Acadêmico do curso de Direito do Centro Universitário UNA- Campus Bom Despacho/MG, xandedmourafox@hotmail.com
2Acadêmico do curso de Direito do Centro Universitário UNA- Campus Bom Despacho/MG, carlaoeoassis@gmail.com
3Docente do curso de Direito do Centro Universitário UNA- Campus Bom Despacho/MG, maria.vargas@prof.una.br