CHALLENGES AND RISKS OF (IN)APPROPRIATE USE OF ARTIFICIAL INTELLIGENCE AS A TOOL FOR RESOLUTING DEMANDS IN THE JUDICIAL SYSTEM
REGISTRO DOI: 10.5281/zenodo.11178776
Gabriel Lange da Silva1
Luana Santos de Souza2
Ingryd Stéphanye Monteiro de Souza3
RESUMO
O uso da Inteligência Artificial (IA) no sistema judiciário apresenta benefícios em termos de eficiência, porém traz desafios éticos e legais significativos. A IA, ao ser baseada em dados históricos, pode refletir preconceitos sociais, resultando em viés algorítmico. A transparência, responsabilidade e equidade são essenciais para mitigar esse viés, exigindo a criação de algoritmos explicáveis e auditáveis. A legislação, como a Resolução que aborda princípios éticos, busca estabelecer diretrizes para o uso ético da IA no judiciário, protegendo os direitos fundamentais e promovendo a confiança na tecnologia. A LGPD desempenha um papel crucial na proteção de dados pessoais em contextos jurídicos, garantindo a transparência e a justiça no uso da IA. No entanto, a implementação de legislação adequada é fundamental para lidar com os desafios emergentes da IA e garantir uma sociedade mais justa e equitativa, assegurando direitos fundamentais e garantias necessárias.
Palavras chaves: Inteligência Artificial; Viés Algorítmico; Legislação; LGPD; Ética.
ABSTRACT
The use of Artificial Intelligence (AI) in the judicial system presents benefits in terms of efficiency but brings significant ethical and legal challenges. AI, being based on historical data, can reflect social biases, resulting in algorithmic bias. Transparency, accountability, and equity are essential to mitigate this bias, requiring the creation of explainable and auditable algorithms. Legislation, such as the Resolution addressing ethical principles, seeks to establish guidelines for the ethical use of AI in the judiciary, protecting fundamental rights and promoting trust in the technology. The LGPD plays a crucial role in protecting personal data in legal contexts, ensuring transparency and fairness in the use of AI. However, the implementation of adequate legislation is essential to address the emerging challenges of AI and ensure a fair and equitable society, safeguarding fundamental rights and necessary guarantees.
Keywords: Artificial Intelligence; Algorithmic Bias; Legislation; LGPD; Ethics.
1 INTRODUÇÃO
A inteligência artificial (IA) tem se tornado uma das tecnologias mais impactantes e promissoras do século XXI4, transformando diversos setores da sociedade, incluindo a advocacia e o sistema judiciário. A automação de tarefas, a análise de dados em larga escala e a capacidade de tomar decisões complexas com base em algoritmos estão entre as principais vantagens oferecidas pela IA nesse contexto. No entanto, a utilização dessa tecnologia também apresenta desafios e riscos importantes que merecem atenção especial.
Nesse contexto, os desafios e riscos de utilização (in)adequada da inteligência artificial como ferramenta de resolução de demandas no sistema judiciário tem aumentado demasiadamente, proferindo até mesmo grandes decisões automáticas no judiciário e demonstrando um grande avanço tecnológico, todavia com seus meios arriscados e alguns erros.
No mais, consta estabelecer quais são os principais desafios éticos e legais decorrentes da utilização da inteligência artificial (IA) como ferramenta de resolução de demandas no sistema judiciário, e como a falta de regulamentação adequada pode afetar a integridade e a justiça do sistema legal.
Assim, visa o presente artigo analisar os desafios éticos e legais decorrentes da utilização da inteligência artificial como ferramenta de resolução de demandas na advocacia e no sistema judiciário, avaliando seu impacto sobre a integridade, a equidade e a justiça do sistema legal, e investigar as medidas possíveis regulatórias e éticas que podem ser adotadas para promover a utilização responsável e justa da IA nesse contexto.
Portanto, a relevância deste estudo reside na necessidade urgente de abordar as questões éticas e legais da IA no campo jurídico, buscando soluções que permitam a incorporação eficaz dessa tecnologia, ao mesmo tempo em que se preservam os princípios e a integridade do sistema jurídico.
2 MATERIAL E MÉTODOS
A metodologia empregada para a pesquisa sobre os efeitos da inteligência artificial (IA) no contexto jurídico adotou uma abordagem aplicada, visando investigar os desafios éticos e legais decorrentes da crescente adoção da IA no sistema jurídico. Optamos por uma abordagem qualitativa para permitir uma análise profunda das implicações da IA na prática jurídica.
Os procedimentos utilizados consistiram principalmente em pesquisa bibliográfica e análise documental. Através da revisão de fontes acadêmicas e literatura especializada sobre inteligência artificial, ética jurídica e sistemas jurídicos automatizados, buscamos obter uma compreensão abrangente do tema. Além disso, foram examinados documentos legais, regulamentos e políticas relacionadas ao uso da IA no campo jurídico, incluindo o Projeto de Lei nº 2.338/235 em trâmite no Senado Federal.
Os instrumentos de coleta de dados foram ajustados conforme os procedimentos técnicos adotados. Registros de leituras e sínteses de artigos e livros relevantes foram utilizados para a pesquisa bibliográfica, enquanto documentos legais e regulatórios pertinentes foram avaliados para a análise documental.
Com essa abordagem metodológica, almejamos fornecer insights significativos para a compreensão dos impactos da IA na prática jurídica, contribuindo para o desenvolvimento de medidas regulatórias e éticas adequadas neste domínio em constante evolução.
3 RESULTADOS
Após a conclusão da pesquisa, foram delineados três resultados de destaque concernentes à integração da inteligência artificial no cenário jurídico contemporâneo.
Primeiramente, foi notável o avanço significativo em termos de eficiência operacional, impulsionado pela automação de tarefas rotineiras e administrativas, tais como revisão de documentos legais e gerenciamento de processos. Este ganho operacional proporcionou uma economia substancial de tempo e recursos, permitindo uma alocação mais eficiente de energia intelectual e profissional por parte dos juristas.
Em segundo lugar, observou-se uma clara elevação na precisão e qualidade das decisões jurídicas, fruto da aplicação precisa de algoritmos de machine learning. Estes algoritmos capacitaram uma análise preditiva mais acurada e uma pesquisa jurídica mais eficiente, contribuindo para uma interpretação mais profunda e abrangente do corpus juris.
Por fim, emergiu a necessidade premente de considerações éticas, a fim de atenuar potenciais viéses algorítmicos e garantir a equidade na aplicação do direito. Princípios fundamentais, como transparência, responsabilidade e não discriminação, emergiram como pilares essenciais para assegurar uma prática jurídica justa e ética em consonância com os avanços tecnológicos.
Tais resultados não apenas refletem o potencial transformador da inteligência artificial no âmbito jurídico, mas também enfatizam a importância contínua de abordar os desafios éticos e legais inerentes à sua implementação, visando uma adoção responsável e equânime que promova a confiança no sistema jurídico e salvaguarde os direitos individuais dos cidadãos.
4 DISCUSSÃO
4.1 CONCEITO DE INTELIGÊNCIA ARTIFICIAL
Conforme Nieva (2023)6 não existe um consenso absoluto para se chegar à definição de Inteligência Artificial (IA), contudo descreve-se como a possibilidade de máquinas “pensarem” ou imitarem o pensamento humano, assim, utilizando de generalidades empregadas pelas pessoas para tomarem decisões frequentes.
O autor destaca ainda: “Sabemos que não é possível ver sem luz, razão pela qual, ao detectar a escuridão, a máquina acenderá as lâmpadas.”7
Por outro lado, Lage8 (2022) define IA com base no dicionário Aurélio e na doutrina de Russel e Norvig como um meio de intelecto, onde existe a faculdade de se conhecer e aprender, em outro paralelo confere-se quatro categorias, sendo elas: 1) sistemas que pensam como humanos; 2) sistemas que agem como humanos; 3) sistemas que pensam racionalmente; e 4) sistemas que agem racionalmente.
Assim, define-se que a IA é o mecanismo de propriedades intelectuais que copiam o pensamento humano com base em modelos que consistem nas representações abstratas de um determinado processo, possuindo pontos cegos, já que suas os conjuntos de dados usados por IA são para soluções específicas. Dados são enviados aos sistemas de IA, contudo os mesmos se baseiam na sociedade, onde há também um enorme problema de desigualdades, exclusões e discriminações.9
Se a IA continuar a ser usada de forma irregular, o viés algoritmo sempre ficará com falhas, ou seja, quando os modelos são fornecidos e a IA soluciona os problemas específicos e que já se tem dados nas redes, poderá haver decisões com falhas grotescas, por exemplo uma vez que o algoritmo não reconhecerá fatos novos que ainda não foram explorados pela sociedade através do pensamento humano, o que será uma das interferências em julgamentos e decisões finais.
4.2 Crescimento e tendências da utilização de IA no campo jurídico
Ultimamente, tem-se observado um crescimento significativo na utilização da Inteligência Artificial (IA) no campo jurídico, impulsionado pela necessidade de lidar com volumes massivos de dados legais, aumentar a eficiência na prestação de serviços jurídicos e melhorar a precisão na tomada de decisões. Essa tendência vem acompanhada de diversas inovações e avanços tecnológicos que estão transformando a prática do direito em todo o mundo. Uma das principais áreas onde a IA tem sido aplicada é na automação de tarefas rotineiras e repetitivas, como a revisão de documentos legais, a elaboração de contratos padrão e a análise de dados para descoberta de evidências em processos judiciais. Sistemas de IA, como os algoritmos de processamento de linguagem natural, são capazes de analisar grandes volumes de texto legal de forma rápida e eficiente, identificando informações relevantes e gerando insights úteis para os advogados. Outra tendência importante é a utilização da IA para análise preditiva e tomada de decisões no campo jurídico. Algoritmos de machine learning são treinados com dados históricos, como decisões judiciais anteriores e jurisprudência, para prever resultados em casos semelhantes no futuro. Isso permite que os advogados avaliem o risco e desenvolvam estratégias legais mais eficazes para seus clientes. Além disso, a IA também está sendo cada vez mais utilizada para auxiliar na pesquisa jurídica, facilitando a identificação de precedentes relevantes e jurisprudência aplicável a casos específicos. Plataformas de IA podem analisar vastas bases de dados legais e fornecer aos advogados informações precisas e atualizadas sobre questões legais específicas, economizando tempo e recursos na fase de preparação de casos.
A utilização da IA no campo jurídico está contribuindo para o aumento da eficiência e a redução de custos para escritórios de advocacia e departamentos jurídicos corporativos. Ao automatizar tarefas repetitivas e fornecer insights preditivos, a IA permite que os profissionais do direito se concentrem em atividades que exigem habilidades humanas, confirmando o que afirma Alencar (2022)10, que a relação entre Direito e tecnologia deve trazer cada vez maior eficiência para o sistema de justiça e benefícios para toda a sociedade. No entanto, o crescimento da utilização da IA no campo jurídico também levanta uma série de desafios e considerações éticas. Questões relacionadas à privacidade dos dados, viés algorítmico, interpretabilidade dos sistemas de IA e responsabilidade legal estão entre as preocupações que precisam ser abordadas para garantir uma aplicação ética e justa da IA no sistema jurídico.
Em suma, a utilização da IA está transformando a prática do direito, proporcionando oportunidades para melhorar a eficiência, precisão e justiça no sistema jurídico. No entanto, é importante destacar que as previsões da IA não substituem a expertise humana, mas complementam as estratégias legais, orientando os profissionais do direito em suas decisões.
4.3 Desafios Éticos e legais da Utilização da Inteligência Artificial no Direito e a Ética no Uso da Inteligência Artificial no Direito 4.3.1 Viés Algorítmico
Diagnostica-se que a Inteligência Artificial (IA) possui um mecanismo de modelo, visando a direção para um resultado, baseando-se na Inteligência Humana. Ou seja, é criado uma dimensão com um pensamento, que assim, obterá um resultado. Com isso, os programadores, que projetam os modelos (dependência da IA), selecionam informações e as fornecem ao sistema para que haja a previsão de soluções ou resultados futuros.
Tais resultados, serão baseados nas informações diagnosticadas, assim, havendo o aprendizado de máquina (machine learning), o que determina, o problema social, isto, pois, a máquina tem como base a sociedade, todavia é nesta que se dispõe as violências, exclusões, discriminação e desigualdades sociais11.
A vastidão de informações disponíveis na internet é um recurso valioso, porém complexo. Essa abundância de dados alimenta a inteligência artificial (IA), que se baseia nesses dados para tomar decisões. Contudo, essa interconexão pode levar a equívocos jurídicos, uma vez que a capacidade da tecnologia está intrinsecamente ligada à qualidade das informações disponíveis online. Um desafio adicional enfrentado pela IA é a possibilidade de que as informações estejam desatualizadas, o que compromete a precisão das conclusões. Dentro desse contexto, surge a discussão sobre o viés algorítmico, que representa um dos principais dilemas éticos e legais relacionados à aplicação da IA no campo jurídico. Esse viés se manifesta quando os algoritmos utilizados em sistemas de IA revelam tendências discriminatórias ou injustas, resultando em decisões parciais ou prejudiciais para determinados grupos ou indivíduos.
Dentro do contexto jurídico existem algumas maneiras, tais como o viés nos dados (Os algoritmos de IA são frequentemente treinados com conjuntos de dados históricos que refletem preconceitos sociais existentes. Se esses dados históricos contiverem viés racial, de gênero, socioeconômico ou outro tipo de preconceito, os algoritmos podem reproduzir e até amplificar esses vieses em suas decisões), viés na programação (Os próprios programadores podem inadvertidamente introduzir viés em algoritmos por meio de escolhas de design ou decisões de codificação. Por exemplo, decisões sobre quais recursos incluir ou excluir em um algoritmo podem influenciar fortemente os resultados e potencialmente introduzir viés.), falta de transparência (muitos sistemas de IA utilizados no Direito são “caixas-pretas”, o que significa que seus processos de tomada de decisão são obscuros e não facilmente compreensíveis pelos usuários finais. Isso dificulta a identificação e a correção de qualquer viés algorítmico presente nos sistemas.), reforço de preconceitos existentes (algoritmos de IA podem inadvertidamente perpetuar preconceitos ao longo do tempo, à medida que aprendem com os dados de entrada e interações com o ambiente. Isso pode levar a um ciclo de reforço, onde decisões preconceituosas do passado são usadas para informar decisões futuras, perpetuando assim o viés.), entre outros que estimulam e levam ao pensamento ético e jurídico de como essa ferramenta (IA) vem se destacando e gerando desafios dentro do contexto legal.
Os desafios éticos e legais associados ao viés algorítmico no Direito são significativos. A justiça e a imparcialidade são valores fundamentais do sistema jurídico, e qualquer forma de discriminação ou parcialidade é inaceitável12.
Para enfrentar esses desafios, é essencial adotar abordagens que promovam a transparência, responsabilidade e equidade na utilização de sistemas de IA no Direito. Isso pode incluir o desenvolvimento de algoritmos que sejam explicáveis e auditáveis, a implementação de práticas de monitoramento contínuo para detectar e corrigir viés algorítmico, e o envolvimento de diversos grupos de stakeholders13, incluindo comunidades afetadas, na concepção e implementação de sistemas de IA jurídica. Além disso, podem ser necessárias mudanças na regulamentação e na legislação para garantir que os sistemas de IA sejam usados de maneira ética e legalmente responsável no campo do Direito.
Como exemplo a se diagnosticar, tem-se o sistema VICTOR, do STF, criado em 2018, em parceria com a Universidade de Brasília, sistema este que determina os requisitos de admissibilidade dos Recursos Extraordinário14, no mesmo contexto vem o TJMG construindo um sistema que elevará a automatização para identificação de temas repetitivos.
4.3.2 Princípios Éticos no uso da Inteligência Artificial no Campo Jurídico
O uso da Inteligência Artificial (IA) no campo jurídico tem o potencial de melhorar a eficiência e a acessibilidade da prática do direito, mas também levanta questões éticas importantes. Segundo Lage (2022)15, a Carta Europeia para a Eficiência da Justiça (CEPEJ) estabelece cinco princípios éticos fundamentais para o uso da IA no sistema jurídico. Os princípios expressos na Carta Europeia visam sobre ética no uso da inteligência artificial nos sistemas judiciais e vem mostrando como as precauções metodológicas devem ser tomadas para não afetar os valores fundamentais na criação e desenvolvimento dos algoritmos.
4.3.2.1 Princípio do respeito aos direitos fundamentais
O princípio do respeito aos direitos fundamentais na utilização da Inteligência Artificial (IA) no campo jurídico, destacado por Lage (2022)16, enfatiza a necessidade de alinhar as técnicas de IA com os direitos fundamentais, especialmente o acesso a um juiz independente e imparcial, garantindo igualdade e respeito pelo processo contraditório. Para isso, é essencial que os sistemas de IA sejam projetados e implementados de forma transparente, equitativa e responsável, livres de viés e sem perpetuar preconceitos. Mecanismos eficazes de supervisão e controle são necessários para garantir o uso ético da IA protegendo os direitos individuais e coletivos. O diálogo entre diversas partes interessadas, incluindo advogados, juízes, legisladores e o público em geral, é crucial para considerar preocupações éticas e sociais na formulação de políticas relacionadas ao uso da IA no campo jurídico. Em suma, a reflexão sobre o uso ético da IA visa promover uma cultura de responsabilidade e respeito aos direitos fundamentais, garantindo que a tecnologia seja uma ferramenta para promover a justiça e o bem-estar da sociedade.
4.3.2.2 Princípio da não discriminação
Conforme discutido por Lage (2022)17, destaca-se a importância de prevenir qualquer forma de discriminação entre indivíduos ou grupos, e a capacidade da Inteligência Artificial (IA) de identificar e neutralizar preconceitos para questões futuras. É crucial abordar essa neutralização de forma transparente e responsável, garantindo que o processo de desenvolvimento e ajuste dos algoritmos para mitigar preconceitos seja claro e acessível para avaliação crítica. Deve-se assegurar também que essa neutralização não resulte na introdução de novas formas de discriminação ou injustiça, exigindo uma compreensão profunda do contexto e uma avaliação cuidadosa dos impactos potenciais das decisões da IA. Além disso, é essencial reconhecer que a IA é uma ferramenta complementar à análise humana crítica e sensível ao contexto na interpretação de casos jurídicos.
4.3.2.3 Princípio da qualidade e segurança
Como destacado por Lage (2022)18, ressalta-se a importância de obter decisões e dados judiciais de fontes certificadas e elaborar modelos de forma multidisciplinar em ambientes tecnologicamente seguros. Isso visa garantir a integridade e a confiabilidade das informações, evitando alterações voluntárias ou não nos resultados das decisões. É fundamental que os dados utilizados sejam provenientes de fontes confiáveis para evitar informações imprecisas ou tendenciosas. A elaboração de modelos multidisciplinares contribui para a robustez das análises ao considerar diferentes perspectivas e abordagens na formulação dos algoritmos. Realizar essas atividades em ambientes seguros é crucial para proteger os dados contra acessos não autorizados e manipulações indevidas, garantindo a integridade dos processos judiciais. Em suma, o princípio da qualidade e segurança busca preservar a transparência, a imparcialidade e a justiça nos processos judiciais que utilizam inteligência artificial e outras tecnologias.
4.3.2.4 Princípio da transparência, imparcialidade e justiça
A doutrinadora destaca a importância do princípio da transparência, imparcialidade e justiça na construção de modelos de inteligência artificial como “caixas pretas”, com dados acessíveis e compreensíveis para auditorias externas, enquanto resguarda a propriedade intelectual e os interesses da justiça. Essa transparência é fundamental para fortalecer a confiança nas decisões judiciais, permitindo a detecção e correção de falhas, garantindo a imparcialidade do processo. Ao mesmo tempo, proteger a propriedade intelectual dos desenvolvedores dos modelos incentiva a inovação e promove a equidade no âmbito judicial. Esse princípio consolida a integridade e equidade do sistema judicial, estimulando a inovação e o desenvolvimento contínuo de tecnologias que promovam a justiça, trazendo melhores resultados às pesquisas realizadas por essa ferramenta auspiciosa.
4.3.2.5 Princípio sob controle do usuário
O princípio sob controle do usuário desempenha um papel essencial na humanização e transparência do sistema judicial ao evitar uma abordagem prescritiva da tecnologia e garantir a autonomia dos usuários. Através desse princípio, os usuários são capacitados a serem informados e a controlarem as escolhas feitas durante o processo judicial, promovendo a participação ativa e consciente de todas as partes envolvidas. Além disso, ao garantir que os magistrados sejam informados sobre as decisões tomadas pela IA e ao assegurar aos litigantes os mesmos direitos para contestar e recorrer, esse princípio reforça a transparência, justiça e equidade no sistema judicial.
Em suma, os cinco princípios discutidos desempenham papéis fundamentais na garantia de um sistema judicial justo, equitativo e transparente no contexto do uso da inteligência artificial (IA). Isso implica em projetar sistemas que sejam facilmente acessíveis, compreensíveis e utilizáveis por todos os envolvidos, promovendo a inclusão e a igualdade de acesso à justiça. Portanto, ao adotar e aplicar esses princípios, juntamente com a ênfase na liberdade do usuário, acessibilidade, inclusão e facilidade de uso, podemos garantir que a IA seja uma ferramenta que fortaleça e aprimore o sistema judicial, promovendo a justiça, a equidade e a transparência em todos os aspectos do processo jurídico.
4.4 Regulamentação da Inteligência Artificial no Direito e Soluções Possíveis de Inovação Jurídica
A IA cresceu exponencialmente nos últimos anos, com isso é importante destacar a importância de legislação a seu respeito, no Brasil por exemplo existem vários projetos de leis que buscam solucionar o uso da IA de forma ética e legal.
Nesse sentido, tem-se o Conselho Nacional de Justiça (CNJ) como um dos meios de criação de legislação para inovações tecnológicas, posto que há um nível de preocupação em legislar a respeito de inovações tecnológicas19.
Com isso, o CNJ criou a Resolução 332/2020 que dispõe sobre a ética, a transparência e a governança na produção e no uso de Inteligência Artificial no Poder Judiciário e cria a Plataforma Sinapses.
Assim, o bem-estar dos jurisdicionados é a maior preocupação a ser evidenciada por legislações a respeito da IA, uma vez que estas legislações buscam diminuir os riscos relacionados à ética, à transparência e à proteção de dados das pessoas.
Apesar da Resolução 332/2020, é importante ressaltar que a falta de programas competentes ao judiciário que impeça a IA de ser uma máquina de problemas, cria ainda um receio a sociedade, visto que a IA é assim, um meio de estratégia que pode ser usada de forma inadequada e que implica no meio social.
Ainda que seja uma forma de agilizar o meio judicial, a IA também pode ser um problema aos olhos de quem não a utiliza de forma correta, isso até mesmo pela confiança dada a essa IA. Cite-se a exemplo de uso inadequada, um caso ocorrido em Manhattan, onde um advogado utilizou a IA para recorrer em um processo e deu confiança a IA que criou processos inexistentes como base para o recurso, o que acabou gerando uma punição ao advogado20.
Esses e muitos outros casos demonstram que a regulamentação do uso de IA é extremamente necessária, até mesmo para a forma que ela é usada dentro do sistema judicial.
Há ainda pontos que merecem destaque, descritos no Projeto de Lei nº 2338/202321 que regulamenta a IA no Brasil e como esta deve ser usada, a exemplo da garantia dos direitos fundamentais que devem ser respeitados, evidenciando ainda mais a necessidade de aprovação de projetos como este22.
Assim, a rápida evolução da Inteligência Artificial nos últimos anos destaca a necessidade urgente de uma legislação eficaz para regular seu uso. Projetos como o PL nº 2338/2023 são cruciais para garantir uma aplicação ética e responsável da IA protegendo os direitos fundamentais e promovendo a confiança na tecnologia.
4.5 O uso da Inteligência Artificial na Advocacia e no Poder Judiciário diante da Lei Geral de Proteção de Dados (LGPD)
O uso da IA impacta na Lei Geral de Proteção de Dados23, mormente quando o treinamento algoritmo viabiliza a utilização de dados pessoais. Isto se justifica pela necessidade da tecnologia de construir seu método a partir de cruzamento de dados, conforme demonstrado anteriormente. Quanto maior o número de dados, maior será a qualidade da IA. Entrementes, a preocupação é majorada ao discutir este cenário no âmbito jurídico, quando da coleta de dados pessoais e impactos do uso de ferramentas tecnológicas.
A Lei n. 13.709/201824, no inciso VII do art. 2°, dispõe os direitos humanos e o exercício da cidade como fundamento perante os critérios da LGPD, diploma sob a influência do Regulamento Geral de Proteção de Dados da União Europeia.
Diante disso, há dois contextos a serem analisados: o primeiro, sob o ponto de vista da advocacia, a virtualização dos atos processuais proporcionou benefícios e obstáculos, quanto a este último, envolve a atividade jurisdicional e o segundo contexto, o Judiciário. Que a inteligência artificial atinge a atividade judicante não é novidade, principalmente os atos de expediente, de admissibilidade recursal ou seleção de temáticas a serem submetidas às Cortes Superiores, estas já integrantes na realidade do sistema judiciário brasileiro. O foco gira em torno da atividade-fim, aquela exercida pela Jurisdição, em sua função de julgar os casos.
Se atendo aos aspectos processuais e seus efeitos, longe de se tornar um empecilho, a LGPD funcionará como um relevante mecanismo de proteção aos direitos fundamentais no que se refere a uma aplicação do direito de forma justa, transparente e isonômica por meio da IA. Este é o desafio a ser lançado. Na busca por se aproximar da inteligência humana, combater a morosidade e o crescimento da judicialização, a IA e as tecnologias já implantadas no Judiciário brasileiro carecem de regulamentação específica, se socorrendo dos ditames Constitucionais e LGPD, por ser considerado um setor de alto risco25.
Não obstante a natural coleta de dados pessoais pelo Judiciário, ao abarcar esta necessidade protetiva e regulamentadora, o art. 20 da LGPD estabelece um controle das decisões automatizadas assegurando que os jurisdicionados afetados tenham direito de revisão em decisões proferidas sem intervenção humana, visando preservar os direitos individuais, propondo o direito à explicação sobre os critérios e procedimentos utilizados, como previsto no §1° do mesmo dispositivo, na medida em que promove a transparência dos atos.
Portanto, a LGPD tem a desafiadora função de ser o mínimo ético da utilização da IA e suas ferramentas no Poder Judiciário e seus impactos no exercício da advocacia, este que enfrenta a dificuldade da paridade de armas ao labutar com máquinas. Por tal razão, é primordial a promoção da transparência no sentido de que a IA não se torne um muro, mas sim um instrumento de preservação da qualidade das decisões, mantendo a intervenção e a sensibilidade inerentes ao ser humano.
4.6 Resolução mediante a implantação de legislação
A implementação de legislação e resoluções específicas para lidar com os desafios e riscos da utilização inadequada da Inteligência Artificial (IA) no sistema judiciário é uma resposta crucial à complexidade dessas tecnologias. Tais medidas podem abranger uma série de aspectos, desde a definição de princípios éticos e diretrizes de transparência até a criação de órgãos reguladores especializados em IA no contexto legal. A legislação pode estabelecer requisitos rigorosos para o desenvolvimento e uso de algoritmos de IA incluindo testes de imparcialidade e equidade, auditorias regulares e monitoramento contínuo para detectar e corrigir vieses e discriminações. Além disso, a transparência no uso da IA no sistema judiciário é fundamental, exigindo que os processos de tomada de decisão automatizados sejam compreensíveis e auditáveis por parte dos envolvidos.
Outro aspecto importante é a proteção de dados e a privacidade dos indivíduos, garantindo que a coleta, armazenamento e uso de informações pessoais sejam realizados de acordo com padrões éticos e legais estabelecidos. Isso pode envolver a implementação de políticas de segurança robustas, o uso de técnicas de anonimização e o consentimento informado dos usuários em relação ao uso de seus dados. Além disso, a legislação pode estabelecer mecanismos de responsabilização e prestação de contas para as decisões tomadas por sistemas de IA garantindo que haja recursos e processos adequados para lidar com casos de uso indevido, erros ou consequências adversas decorrentes da aplicação da tecnologia no contexto judicial.
5 CONSIDERAÇÕES FINAIS
Do estudo abordado, visa-se compreender a forma que a IA é utilizada no sistema judiciário, o que pode ser uma implicação dentro das legislações. Notoriamente, o conteúdo que é feito por IA poderá ser benéfico, contudo, este quando utilizado inadequadamente resulta em inconformidades, o que causa desavenças a Constituição Federal.
Obviamente, a IA é uma resolução rápida e objetiva, todavia, contendo riscos a sociedade e assim, não prestando um serviço 100% aos jurisdicionados.
A regulamentação pela legislação tem como objetivo estabelecer a ética e transparência, uma vez que os direitos fundamentais devem ser respeitados, e a proteção de dados por intermédio da LGPD é crucial para a proteção jurisdicional.
De forma objetiva, frisa-se que existem fortes falhas que podem vir com o uso inadequado da IA, diante dos meios que estas são formatadas, bem como suas fontes de modelos desenvolvidas podem gerar equívocos em seu uso, tanto pelos advogados quanto pelo poder judiciário, ressalta-se que os dados massivos que a internet oferece não são tão confiáveis, o que poderá levar a erros em sua utilização, o que carece de informações verdadeiras dentro de um mundo onde a falha é algo cotidiano e sempre estará presente. Outra verdade é que a legislação existente pode não ser adequada para lidar com essas questões emergentes de IA, o que levanta preocupações sobre responsabilidade e accountability26.
Assim, conclui-se que a implementação de legislação adequada, visando o bem-estar dos jurisdicionados causarão efeitos positivos ao uso da IA, e deverão concretizar uma sociedade mais justa no uso correto desta tecnologia, que de ponto traz consigo viés algorítmicos que devem sempre ser bem visualizados, posto que algo de tal magnitude e importância não pode abrir brechas para a existência de falhas de dados.
4MALONE, Hugo; NUNES, Dierle. Manual da Justiça Digital: Compreendendo a Resolução de Disputas Online, os Tribunais Híbridos e a Inteligência Artificial Analítica e Generativa no Direito. 2. ed. revista, atualizada e ampliada. São Paulo, 2023.
5BRASIL. Projeto de Lei nº 2338, de 2023. Disponível em: < https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 11 mar. 2024.
6NIEVA-FENOLL, Jordi. Inteligência Artificial e Processo Judicial. Traduzido por Ellie Pierre Eid. São Paulo: JusPodivm, 2023. Edição Brasileira.
7NIEVA-FENOLL, Jordi. Inteligência Artificial e Processo Judicial. Traduzido por Ellie Pierre Eid. São Paulo: JusPodivm, 2023. Edição Brasileira.
8LAGE, Fernanda de Carvalho. Manual de Inteligência Artificial no Direito Brasileiro. 2. ed. São Paulo: Saraiva, 2022.
9MALONE, Hugo; NUNES, Dierle. Manual da Justiça Digital: Compreendendo a Resolução de Disputas Online, os Tribunais Híbridos e a Inteligência Artificial Analítica e Generativa no Direito. 2. ed. revista, atualizada e ampliada. São Paulo, 2023.
10ALENCAR, Ana Catarina D. Inteligência Artificial, Ética e Direito: Guia Prático para Entender o Novo Mundo. São Paulo. Editora Saraiva, 2022.
11NUNES, Dierle; MARQUES, Ana Luiza Pinto Coelho. ALGORITMO: O RISCO DA DECISÃO DAS MÁQUINAS. Revista Bonijuris. Direito 4.0: Uma Verdade Inconveniente. Ano 31, Nº 659, Ago./Set. de 2019
12MALONE, Hugo; NUNES, Dierle. Manual da Justiça Digital: Compreendendo a Resolução de Disputas Online, os Tribunais Híbridos e a Inteligência Artificial Analítica e Generativa no Direito. 2. ed. revista, atualizada e ampliada. São Paulo, 2023.
13Conceito criado na década de 1980, pelo filósofo norte-americano Robert Edward Freeman, o stakeholder é qualquer indivíduo ou organização que, de alguma forma, é impactado pelas ações de uma determinada empresa. Em uma tradução livre para o português, o termo significa parte interessada.
14LAGE, Fernanda de Carvalho. Manual de Inteligência Artificial no Direito Brasileiro. 2. ed. São Paulo: Saraiva, 2022.
15LAGE, Fernanda de Carvalho. Manual de Inteligência Artificial no Direito Brasileiro. 2. ed. São Paulo: Saraiva, 2022.
16LAGE, Fernanda de Carvalho. Manual de Inteligência Artificial no Direito Brasileiro. 2. ed. São Paulo: Saraiva, 2022.
17LAGE, Fernanda de Carvalho. Manual de Inteligência Artificial no Direito Brasileiro. 2. ed. São Paulo: Saraiva, 2022.
18LAGE, Fernanda de Carvalho. Manual de Inteligência Artificial no Direito Brasileiro. 2. ed. São Paulo: Saraiva, 2022.
19MAGRO, Américo Ribeiro; ANDRADE, Landolfo. Manual de Direito Digital. 3ª ed. revista, atualizada e ampliada. São Paulo, 2023.
20https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html?searchResultPosition=4
21BRASIL. Projeto de Lei nº 2338, de 2023. Disponível em: < https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 11 mar. 2024.
22MAGRO, Américo Ribeiro; ANDRADE, Landolfo. Manual de Direito Digital. 3ª ed. revista, atualizada e ampliada. São Paulo, 2023.
23BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados (LGPD). Dispõe sobre o tratamento de dados pessoais, inclusive nos meios digitais, por pessoa natural ou por pessoa jurídica de direito público ou privado. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 11 mar. 2024.
24BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados (LGPD). Dispõe sobre o tratamento de dados pessoais, inclusive nos meios digitais, por pessoa natural ou por pessoa jurídica de direito público ou privado. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 11 set. 2023.
25LOCATELLI, Jovair. Indelegabilidade da função jurisdicional: limites do uso da inteligência artificial e das decisões automatizadas frente ao artigo 20 da LGPD e ao Direito fundamental à proteção de dados, Dissertação, UFRS, 2023.
26Refere-se a um conjunto de ações.
REFERÊNCIAS
ALENCAR, Ana Catarina D. Inteligência Artificial, Ética e Direito: Guia Prático para Entender o Novo Mundo. São Paulo. Editora Saraiva, 2022.
BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados (LGPD). Dispõe sobre o tratamento de dados pessoais, inclusive nos meios digitais, por pessoa natural ou por pessoa jurídica de direito público ou privado. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 11 mar. 2024.
BRASIL. Projeto de Lei nº 2338, de 2023. Disponível em: < https://www25.senado.leg.br/web/atividade/materias/-/materia/157233. Acesso em: 11 mar. 2024.
LAGE, Fernanda de Carvalho. Manual de Inteligência Artificial no Direito Brasileiro. 2. ed. São Paulo: Saraiva, 2022.
LOCATELLI, Jovair. Indelegabilidade da função jurisdicional: limites do uso da inteligência artificial e das decisões automatizadas frente ao artigo 20 da LGPD e ao Direito fundamental à proteção de dados;Dissertação, UFRS, 2023.
MALONE, Hugo; NUNES, Dierle. Manual da Justiça Digital: Compreendendo a Resolução de Disputas Online, os Tribunais Híbridos e a Inteligência Artificial Analítica e Generativa no Direito. 2. ed. revista, atualizada e ampliada. São Paulo, 2023.
NIEVA-FENOLL, Jordi. Inteligência Artificial e Processo Judicial. Traduzido por Ellie Pierre Eid. São Paulo: JusPodivm, 2023. Edição Brasileira.
NUNES, Dierle; MARQUES, Ana Luiza Pinto Coelho. ALGORITMO: O RISCO DA DECISÃO DAS MÁQUINAS. Revista Bonijuris. Direito 4.0: Uma Verdade Inconveniente. Ano 31, Nº 659, Ago./Set. de 2019
1Acadêmico de Direito. E-mail: gabriellsilvae@gmail.com. Artigo apresentado a Instituição de Ensino Centro Universitário Aparício Carvalho – FIMCA, como requisito para obtenção do título de Bacharel em Direito, Porto Velho/RO, 2024.
2Acadêmica de Direito. E-mail: ssluana02@gmail.com. Artigo apresentado a Instituição de Ensino Centro Universitário Aparício Carvalho – FIMCA, como requisito para obtenção do título de Bacharel em Direito, Porto Velho/RO, 2024.
3Professor(a) Orientador(a). Professor do curso de Direito. E-mail: ingryd.monteiro@fimca.com.br.