LIMITES ÉTICOS DA INTELIGÊNCIA ARTIFICIAL NO CAMPO DO DIREITO.

REGISTRO DOI: 10.69849/revistaft/pa10202510260847

Clara De Oliveira Serva Maciel
Orientador(a): Tiago Augusto De Figueiredo

Resumo:

A inteligência artificial é um tema cada vez mais em voga. É também dúbio: se por um lado descortina horizontes inexplorados, por outro traz alarme, uma vez que a evolução exponencial da técnica pode vir de encontro a valores imperiosos para a sociedade, como a vida, o bem estar, a incolumidade física e mental dos cidadãos como um todo e até mesmo dos animais: ora, afinal o que significaria o fim da fome, se considerada a exploração dos animais na engenharia genética? Contudo, o presente trabalho visa trazer a problemática discutida dos limites éticos da inteligência artificial de maneira elucidativa e farta, de modo a trazer soluções, a fim de esclarecê-la da melhor maneira possível.

Palavras Chave: inteligência artificial, perigos, limites éticos, direito.

Abstract:

Artificial intelligence is a looming topic. It is also dubious: if on the one hand it reveals unexplored horizons, on the other it brings alarm, since the exponential evolution of technology can come against imperative values for society, such as life, well-being, physical and mental safety of citizens as a whole and even animals: after all, what would the end of hunger mean if the exploitation of animals in genetic engineering was considered? However, the present work aims to bring a discussed problem of the ethical limits of artificial intelligence in an enlightening and comprehensive way, in order to bring solutions in order to resolve it in the best possible way. Keywords: artificial intelligence, dangers, ethical limits, law

1. INTRODUÇÃO

A ascensão da inteligência artificial – IA traz possibilidades inúmeras, mas também desafios.

É como a fábula de Faetonte, o filho do Deus Hélio, vencedor da corrida de bigas.

Hélio prometeu a Faetonte o que quisesse. E o mesmo desejou as rédeas do carro do sol. Mesmo tendo recusado o audacioso pedido de primeira, o deus concedeu o pedido ao filho. Não conseguindo manter a rota, Faetonte quase destrói a Terra e é morto por Zeus por um raio.

Ou a história do ‘’Aprendiz de Feiticeiro’’, em que um jovem aprendiz que, buscando evitar tarefas domésticas, enfeitiça objetos para que eles realizassem seu trabalho, mas os objetos começam a agir de maneira inesperada: por exemplo, um deles começa a trazer cada vez mais água, quase afogando o aprendiz.

Nessas duas estórias fica-se o questionamento: novas tecnologias, novos ‘’poderes’’ trazem inovações, mas qualquer poder sem precedentes também traz perigos insondáveis.

Desafios que a área jurídica está cada vez mais solicitada a dirimir. Esses desafios estão ligados à ética e se destrincham, por exemplo, em temas como responsabilidade, transparência, segurança e políticas não discriminatórias.

Desenvolvedores, operadores, plataformas e usuários de IAs devem agir com boa fé, responsabilizando-se por falhas e danos causados pela tecnologia aos usuários.

Estima-se também que os sistemas carecem ser elucidativos sobre o modo como operam e sobre como agem; que os dados dos usuários da tecnologia avançada precisam ser protegidos, assim como sua privacidade na rede; e que os sistemas de inteligência artificial não podem veicular ou reproduzir conteúdos estigmatizadores individuais e de grupo.

Sob essa perspectiva, o Direito desempenha papel relevante, cabendo-lhe assegurar justiça e isonomia na transmissão de informações, propondo regulamentação das redes e sanção de comportamentos que atentem contra a liberdade de expressão e a dignidade da pessoa humana.

O presente trabalho tem por objetivo fazer uma explanação de como a inteligência artificial IA impacta na realidade atual e como o Direito pode regulamentá- la.

Na abordagem do presente trabalho, o Tópico 2 tratará do conceito de Inteligência Artificial e da sua aplicabilidade nos diversos domínios do saber; no Tópico 3 será trabalhado o emprego da IA na cultura pop, no tópico 4 o uso da inteligência artificial no Direito; no tópico 5, uma vez que toda ideia e trabalho científico se propõe à inserção prática, far-se-á uma análise de como a nova tecnologia afetou o funcionamento de uma instituição essencial à Justiça, como a Advocacia-Geral da União; o Tópico 6 conterá uma problematização da realidade da nova tecnologia no domínio jurídico; finalmente, no Tópico 7, será apresentada uma conclusão do trabalho com proposições; o Tópico 8 será dedicados às referências bibliográficas.

2. Conceito de IA e sua Aplicabilidade nos Diversos Domínios do Saber e Atividades Humanas

O conceito de inteligência artificial é dos mais complexos e variados:

‘’A Inteligência Artificial (IA) é uma área da ciência da computação que se concentra em criar sistemas que podem realizar tarefas que, normalmente, exigem inteligência humana para serem realizadas’’ (Russell & Norvig, 2021)

Para John McCarthy, Inteligência Artificial seria a “ciência e engenharia de fazer máquinas inteligentes, especialmente programas de computador inteligentes’’ (MCCARTHY, 2007).

Inteligência artificial é o campo da ciência da computação que estuda formas de criar máquinas e softwares que pareçam ter inteligência humana (BERMAN, 2013).

Para Modi, ‘’é uma ciência da computação para criar máquinas tão inteligentes e capazes quanto humanos com a ajuda de algoritmos projetados para tomar decisões usando dados em tempo real.” (MODI, 2021).

Já para Bernard Marr, IA é o estudo de complexos sistemas de processamento de informações, objetivando a identificação de seus problemas e suas resoluções. (Marr, 1977);

Para Haugeland: “O novo e interessante esforço para fazer os computadores pensarem… máquinas com mentes, no sentido total e literal”. (HAUGELAND, 1985).’’

De acordo com Ray Kurzweil: A arte de criar máquinas que executam funções que exigem inteligência quando executadas por pessoas.” (KURZWEIL, 1990);

“O estudo das faculdades mentais pelo seu uso de modelos computacionais”, conforme Charniak Mcdermott (CHARNIAK; MCDERMOTT, 1985); ou o “desenvolvimento de programas de computador que simulam o pensamento humano, capaz de desenvolver um comportamento inteligente” (MICHAELIS, 2024), bem como “a ciência de fazer as máquinas executarem tarefas que exigiriam inteligência se fossem realizadas por seres humanos” (MINSKY, 1968).

Percebe-se, portanto, que a inteligência artificial pode ser definida como sistemas que pensam como seres humanos, através de raciocínio lógico, atuando em funções e desenvolvendo atividades como se seres humanos fossem.

Por exemplo, os sistemas de inteligência artificial podem reconhecer uma linguagem natural pelo simples comando de voz; a inteligência artificial pode atuar em áreas como planejamento e logística, por meio de técnicas de preparo que permitem a geração em pouco tempo de um plano que exigiria semanas se desenvolvido pela capacidade humana. Desse modo, a IA supera, em largo espectro, funções cognitivas como armazenamento e processamento de informações e conexão de dados.

Tem-se como de difícil enumeração as áreas do conhecimento suscetíveis de aplicabilidade da IA, um longo e amplo campo de possibilidades como o uso doméstico, através dos chamados assistentes pessoais inteligentes, por meio da automação residencial, por exemplo. Esses assistentes acabam funcionando como cérebros digitais, aprendendo a rotina de uma casa, reconhecendo vozes e até mesmo antecipando necessidades por meio de uma personalização do lar.

A IA nas residências se desenvolve, desse modo, desde aspiradores de pó autônomos, geladeiras que notificam itens perecidos ou faltantes, sistemas de segurança que são ativados quando todos os moradores saem de casa, até assistentes robóticos que conseguem dobrar roupas, servir bebidas, ligar e desligar a TV, detectando quando o indivíduo adormeceu, por exemplo, poupando tempo e energia dos moradores da casa.

Passando por diversas atividades profissionais, a exemplo da engenharia civil, a IA auxilia no projeto de estruturas avançadas, na manutenção preditiva, na construção robótica, na gestão de tráfego urbano, na detecção e diagnóstico de falhas, na otimização de cadeias de suprimentos, nos projetos de energias renováveis, etc., através de sistemas autônomos e modelagem de informações da construção.

A IA pode ser utilizada no projeto de estruturas avançadas, na engenharia, uma vez que auxilia os engenheiros no projeto de estruturas mais eficazes e sustentáveis, mediante a otimização de materiais diminuindo o desperdício. Algoritmos avançados auxiliam no desempenho estrutural e em designs Inovadores.

Em relação à manutenção proativa, verifica-se a vantagem do uso da IA, uma vez que por meio de algoritmos de aprendizado da máquina, a IA pode prever falhas em equipamentos antecipadamente, prevenindo mau funcionamento, o que aumenta a eficácia profissional, também reduzindo custos.

Tratando-se da construção robótica, robôs têm sido utilizados na engenharia para realizar tarefas perigosas e repetitivas, trazendo segurança aos trabalhadores

Na gestão de tráfego urbano, a IA tem sido usada para análise de padrões de tráfego, otimizando o funcionamento dos semáforos e rotas, auxiliando a minimizar congestionamentos e garantindo a mobilidade urbana.

No que se refere à detecção e diagnóstico de falhas, a IA é usada para monitorar constantemente o funcionamento e desempenho de sistemas, permitindo, assim, uma correção eficaz de problemas antes que se tornem críticos.

Tratando-se da otimização de cadeias de suprimento, a IA pode prever demandas e otimizar estoques, provendo eficiência logística e redução de custos.

Em projetos de energia renovável, a IA pode colaborar na análise de dados climáticos, auxiliando na localização e design das instalações de energia renovável, como usinas solares e parques eólicos.

Nos sistemas autônomos, a engenharia tem incorporado sistemas automatizados baseados em IA, como drones e veículos autônomos para tarefas, tais quais inspeção de infraestrutura e entrega de materiais.

Por fim, em relação à modelagem de informações da construção, a IA auxilia na comunicação entre os múltiplos profissionais envolvidos em um projeto.

No campo da medicina, cita-se a robotização de cirurgias, manuseio de exames clínicos e fabricação de próteses e artefatos anatômicos. O sistema de computador denominado “Watson for Oncology”, por exemplo, sediado em Manhattan, Estados Unidos, identifica os medicamentos mais indicados no tratamento de pacientes com câncer. O sistema também analisa artigos científicos para seleção de ideias e insights sobre o desenvolvimento de medicamentos inovadores para o tratamento terapêutico.

No segmento da radiologia, a Universidade norte-americana de Stanford se vale da IA para diagnósticos de pneumonia e diabete, bem como retinopatia, uma lesão na retina que tem por causa a diabetes.

Já o aplicativo “Google Deepmind” tem auxiliado o serviço de saúde pública britânico a diagnosticar patologias, analisando dados coletados pelo celular e buscando detectar a presença de células cancerígenas.

Outra possibilidade de utilização pacífica do conhecimento, visto que infelizmente a IA também serve a propósitos bélicos, é a esportiva.

No ano de 2024, em que se realizaram as Olimpíadas de Paris, a ferramenta tecnológica da inteligência artificial teve utilidade extraordinária. No atletismo e outras competições individuais, serviu para que atletas otimizassem seus rendimentos e performances a partir da coleta de dados biométricos, curvas de desempenho e outros marcadores fisiológicos. Permitiu, ainda, que se simulassem treinamentos e ambientes esportivos, aprimorando as habilidades atléticas e contribuindo para a tomada de decisões nas competições.

Todos esses dados de que se vale a IA, que são conhecidos como “algoritmos”, são uma sequência de comandos bem definidos, normalmente utilizados para solucionar problemas matemáticos específicos, ou para a realização de cálculos e equações e execução de tarefas, e são a base das IAs.

Ademais, a inteligência artificial tem se mostrado eficaz também em diversas outras áreas do saber.

3. A IA Na Cultura Pop

Como visto, a inteligência artificial e a tecnologia são assuntos cada vez mais em voga nos dias de hoje e a cultura pop não deixa, de forma alguma, a desejar nesse quesito. Na obra Deuses Americanos, por exemplo, do aclamado escritor Neil Gaiman, é explorado o confronto entre os antigos e os novos deuses, preconizados pela tecnologia de última geração e, por que não, a inteligência artificial.

Outro exemplo em que a IA é protagonista é no conhecido filme Blade Runner, em que replicantes, ‘’abastecidos’’ por inteligência artificial desejam a imortalidade, entrando em guerra com os humanos de “carne e osso”.

Já na saga de Ex-Machina, em que um programador é aprovado para um projeto consistente em se isolar e fazer experimentos com uma IA, personificada por uma androide, que visa ser submetida ao teste de Turing, que verifica se essa inteligência está, de fato, consolidada ou não, descortina os meandros do “auspicioso aprendizado das máquinas.’’

Tratando, ainda, do tema, não se pode deixar de citar a distópica série de humor negro “Black Mirror”. No episódio “Be Right Back’’, por exemplo, a dor da perda é mitigada pela IA, uma vez que, após a morte de um ente querido, a protagonista Martha passa a dispor de um serviço que recria uma versão digital do falecido por meio de seus bate-papos e interações on-line. No entanto, depressa se torna evidente que há lacunas e desconfortos viscerais nessa criação. Assim, o episódio acaba tratando de temas sensíveis como a espontaneidade e a autenticidade da conexão humana e a forma como lida-se com a perda.

Seguindo-se com a mesma série, que fornece muito ‘’pano para manga’’ concernente ao presente assunto da IA, no episódio “White Christmas”, um dispositivo denominado ‘’cookie’’ é utilizado como cópia digital da consciência de uma pessoa, levantando-se várias questões éticas.

Já em ‘’Hated in the Nation’’, a IA é utilizada em abelhas robóticas que são utilizadas para polinizar, sendo abordado, no entanto, como a tecnologia pode ter resultados potencialmente desastrosos e inesperados.

No episódio da mesma série “Metalhead”, num futuro pós-apocalíptico, cães androides caçam humanos, o que reflete uma visão antiutópica da inteligência artificial e da automação militar, através de uma tecnologia que se volta contra o seu criador.

Ainda, em ‘’ Striking Vipers’’, a IA é representada num jogo de realidade virtual altamente imersivo, em que os jogadores podem assumir identidades distintas. É tratado, no episódio, o lugar do auto-reconhecimento em relação aos impactos da tecnologia.

Por fim, o episódio ‘’Joan is Awful’’, é abordado como a IA cria conteúdos baseados em dados pessoais, quando uma mulher percebe que sua vida está sendo retratada em um programa de streaming, levando a uma série de perturbadores eventos. É explorada a questão da autonomia e da privacidade em uma realidade onde a inteligência artificial pode não só monitorar, quanto representar a vida com precedentes antes vistos.

Portanto, cada representação supracitada na cultura pop preconiza a ideia de como a vida humana é afetada e como dilemas éticos surgem da tecnologia e, mais especificamente, da IA.

4. A IA no Direito

Como esclarecido anteriormente, nenhuma área do saber e fazer humanos é refratária à incidência da inteligência artificial. O Direito, como ciência e prática, faz prova disso.

No âmbito judicial, a IA se tornou uma realidade.

O embrião dessa nova tecnologia foi o advento do peticionamento judicial eletrônico (PJe) em setembro de 2009.

Num segundo momento, os processos físicos passaram a ser substituídos gradativamente por autos judiciais digitais.

“Por meio da mesma tecnologia são aferidos volumes de processos por Seções Judiciárias/Comarcas, fixação de juízes, promotores e procuradores, distribuição de cargas de processo entre operadores jurídicos, mensuração de produtividade, servindo até mesmo como “filtro” de acesso a Tribunais Superiores, por meio de recursos especial e extraordinário. Esse último aspecto vem sendo classificado pela comunidade jurídica como “robotização” de processos, posto que a IA identifica palavras-chave algorítmicas, que, associadas a decisões judiciais já emitidas, “cases”, possibilitam que automaticamente um recurso seja considerado como admissível ou não.” (Comunicação pessoal com Omar Serva Maciel, Advogado da União, 2025.)

Desde 2018, a presidência do TRF4 utiliza algoritmos para homogeneizar a distribuição processual das unidades judiciarias da primeira instância da Justiça Federal da 4ª Região.

‘’Atualmente, todo e qualquer ajuizamento de ação acontece por meio de plataformas digitais, exigindo do jurisdicionado, devidamente representado por seu advogado(a), interação com o ambiente virtual, mediante a aposição de dispositivos (“tokens”) eletrônicos para anexação de peças e documentos.’’ (Comunicação pessoal com Omar Serva Maciel, Advogado da União, 2025.)

O TJDFT está usando a inteligência artificial para otimizar a tramitação do PJe, sendo que o chamado Projeto Toth, em funcionamento desde 2021, ampara o usuário do PJe, recomendando classes e assuntos para as ações que constituirão os processos. Ao distribuir uma ação, por exemplo, o advogado(a), por meio do Sistema Toth, é intuitivamente orientado a compatibilizar a petição inicial com um assunto ou tema pertinente.

“Repartições públicas que têm como atividade-fim a atuação judicial foram sensibilizadas pela IA mediante a distribuição de processos por meio de sistemas integrados ao Pje. Essas mesmas plataformas digitais administrativas controlam distribuição de tarefas a membros do MP e órgãos de representação de entes públicos, exercendo ainda inteligente controle de prazos e tarefas.’’ (Comunicação pessoal com Omar Serva Maciel, Advogado da União, 2025.)

Em relação à distribuição de cargas de processo entre os operadores jurídicos, o chamado projeto Hórus possibilitou a classificação de documentos para distribuição de 274 mil processos, o que auxilia o cotidiano dos operadores do direito, diminuindo atividades repetitivas e trazendo precisão e agilidade na concessão de resoluções a sociedade.

Importante ainda citar a presença da IA no sistema do ChatGPT.

O Chat GPT é um modelo de linguagem que gera respostas e textos por IA, auxilia o direito na criação de petições, uma vez que pode automatizar processos, redigindo essas petições, por exemplo, até porque pode prever desfechos por meio de históricos e outros aspectos pertinentes, identificando a probabilidade de finalização dos casos.

Além disso, o Chat GPT pode auxiliar na criação de uma petição, encontrando informações sobre casos anteriores que sejam significativos para a elaboração dessa peça, através de resultados encontrados em jurisprudência, por exemplo.

Visto isso, o Direito tem se beneficiado muito da IA.

5. IA E AGU

A Advocacia-Geral da União é instituição essencial à justiça, tendo previsão constitucional, Art. 131 da CF, assim redigido:

“Art. 131. A Advocacia-Geral da União é a instituição que, diretamente ou através de órgão vinculado, representa a União, judicial e extrajudicialmente, cabendo-lhe, nos termos da lei complementar o que dispuser sobre sua organização e funcionamento, as atividades de consultoria e assessoramento jurídico do Poder Executivo”.

Nota-se o foro de competência da União, nos termos do Art. 109, I, da Carta Política, é a Justiça Federal.

A Justiça Federal, por sua vez, é prestada em 6 (seis) Regiões e tribunais, o mais recente deles abrangendo o Estado de Minas Gerais.

Por força do estabelecido na Lei Complementar 73/93, a defesa judicial da União em matéria não tributária é de competência da Procuradoria-Geral da União, órgão de direção superior da AGU, responsável pelo patrocínio das ações da União perante tribunais superiores e normatização de teses e linhas de atuação dos Advogados da União.

Conforme explicou Omar Serva Maciel, Advogado da União (Comunicação pessoal, 2025.), “o advento da Inteligência Artificial no domínio do direito e a implementação do peticionamento judicial eletrônico afetou enormemente o funcionamento da AGU, exigindo da Instituição o desenvolvimento e a criação de um sistema de inteligência artificial denominado SAPIENS, conceituado como ‘gerenciador eletrônico de documentos que possui avançados recursos de apoio à produção de conteúdo jurídico e de controle de fluxos administrativos, focado na integração com os sistemas informatizados do Poder Judiciário e do Poder Executivo’. Observa-se, desde já, que a necessidade de aperfeiçoamento da plataforma digital levou a AGU a criar um sistema ainda mais operacional e que recebeu o nome de SUPERSAPIENS”.

Percebeu-se, desde a promulgação da Constituição de 1988, um aumento exponencial da litigiosidade contra a União, adversidade que, somada ao número insuficiente de representantes judiciais, em decorrência de contingenciamento de despesas com concursos públicos, exigiu da PGU/AGU, como órgão normatizador de contencioso institucional, uma maior racionalização de atuação judicial com aproveitamento ótimo de força de trabalho e sem comprometimento da qualidade da defesa do ente público perante os diversos órgãos judiciários e tribunais.

Instituiu-se, assim, um modelo de atuação judicial desterritorializado, de tal modo que o(a) ocupante do cargo de Advogado(a) da União, lotado(a) em determinada localidade e/ou unidade federativa pudesse atuar virtualmente perante subseção judiciária federal ou tribunal baseado em outro município ou Estado- membro.

Concebeu-se também um algoritmo para medição de produtividade desses advogados públicos, o IAJ – Índice de Atividade Judicial, qualificando cada peça processual com determinada pontuação, levando em conta a complexidade maior ou menor da atuação. Cruzando-se os índices, sempre por meio e com auxílio do acervo de dados do SAPIENS, a Administração da AGU estaria possibilitada a distribuir os Advogados da União de maneira numericamente isonômica por Coordenações Temáticas, subordinadas, por sua vez, a Procuradorias-Seccionais, Estaduais, Regionais e na própria PGU e Gabinete do Advogado-Geral da União.

O controle algorítmico permitiria, ainda, apurar o resultado de êxito dos peticionamentos, que, para atingir metas previamente estabelecidas pela PGU, deveriam, preferencialmente, obedecer a modelos desenvolvidos pela mesma Inteligência Artificial – SAPIENS a partir da identificação de uma peça matriz.

Em termos objetivos, a ferramenta SAPIENS acarretou uma atuação mais objetiva, uniforme e com segurança jurídica dos Advogados da União.

6. Problematização

Em relação ao modelo de IA na AGU, Advogados Públicos são, antes, advogados.

Advogados desempenham a atividade-fim de patrocínio adequado dos interesses da pessoa cliente. Não estão obrigados, nem por força contratual, a garantirem o êxito judicial das teses que sustentam. É o Estado-Juiz que assegura o direito controvertido entre as partes.

“Índices de Êxito” vinculados por peticionamento padrão, ainda que em nome da segurança jurídica, subvertem o papel e a missão da advocacia, representando controle hierárquico incompatível muitas vezes com a liberdade de consciência jurídica daqueles profissionais.

“Robotização” de atuação significa sempre alienação e perda de criatividade, elemento fundamental da prática advocatícia.

Ademais, em relação ao Direito em si, pode-se afirmar que a inteligência artificial não pode deixar de ser uma aliada nos diversos campos do saber, muito embora seja crucial analisar seus riscos. Não é diferente na área do direito, o que veremos a seguir.

Como seriam reparados danos ou falhas causadas pela tecnologia, é o que convoca a área jurídica a resolver o impasse. Até porque empatia, um raciocínio ético, são capacidades exclusivas aos seres humanos. Nesse sentido, a LGPD, Lei Geral de Proteção de Dados compreende o chamado direito à explicação.

Na LGPD, em seu artigo 20, parágrafo primeiro, é disciplinado que o controlador de sistemas que tomam decisões com base na IA deve fornecer, sempre que solicitadas, informações transparentes e apropriadas a respeito dos procedimentos e critérios utilizados para a decisão automatizada. E é através de legislações específicas como essa que o direito pode criar diretrizes contra avanços indesejados em relação a tecnologia sem precedentes.

O PL 2338 de 2023 é outro exemplo de uma tentativa do senado de normatizar e regulamentar a IA. O projeto de lei diz respeito à classificação de risco, direitos das pessoas afetadas, transparência, direitos autorais e estímulo a inovação.

O PL 2338 de 2023, como um ótimo exemplo a ser seguido a fim de regularizar a tecnologia e seus excessos, diretriza que os sistemas de inteligência artificial deverão, conforme o projeto, passar por uma avaliação preliminar realizada pelos fornecedores a fim de avaliar se eles têm riscos de ser discriminatórios, se afetam no direito à liberdades e se têm a possibilidade de causar danos morais e materiais, tal como danos irreversíveis aos envolvidos.

Preconiza, também, os direitos das pessoas afetadas, especificando-os. Um deles é o direito de contestar, solicitando explicações a decisões tomadas pelos sistemas de IAs; requisitando participação de seres humanos nas decisões desses sistemas em situações específicas; bem como obter conhecimento sobre seu funcionamento; e o direito dessas pessoas de não serem discriminadas, seja por gênero, orientação sexual, origem geográfica, idade, deficiência, religião ou opiniões politicas.

Em relação à transparência, o projeto implica transparência na atuação dos sistemas de IA, através de documentação do processo de desenvolvimento da tecnologia, testes de solidez, cobertura e precisão, bem como a obrigação de fornecer comunicação a autoridade competente a ocorrência de incidentes graves de segurança, como ocasiões que comprometam a vida ou integridade física ou moral de pessoas, que comprometam a prestação de serviços fundamentais e o meio ambiente.

Tratando-se dos direitos autorais, o PL 2338 de 2023 autoriza o uso automatizado de obras pelos sistemas de IA, sem que isso constitua afronta aos direitos autorais, desde que não haja prejuízo econômico pelos detentores de direitos autorais, até mesmo para estimular-se a inovação.

Em relação ao ChatGPT, é importante lembrar que o ChatGPT é uma ferramenta de apoio e não substitui o conhecimento jurídico especializado de um advogado qualificado e é crucial, nesse sentido, constantemente verificar as informações obtidas em fontes confiáveis e consultar profissionais do direito para obter orientação jurídica específica ao caso, pois o ChatGPT pode “alucinar”, ou seja, criar informações falsas quando não encontra respostas às solicitações feitas a ele.

7. A Robotização do Homem e a Humanização das Máquinas: Conclusões

No tópico 1, foi vista a introdução do que é a IA aplicada ao direito e elucidado que o Direito está cada vez mais apto a dirimir esses impasses. Desafios como ética, responsabilidade, segurança, não discriminação são alguns deles. A partir dessa perspectiva, o Direito é responsável por garantir justiça e isonomia na transmissão de informações, sugerindo regulamentos para as redes e punindo ações que violam a liberdade de expressão e a dignidade humana.

Já no tópico 2, foi estudado o conceito de inteligência artificial, que se sintetiza na capacidade das máquinas pensarem e agirem como seres humanos e visto também sua aplicabilidade nos diversos domínios do saber. Foi exemplificado, nesse tópico, que na área doméstica a inteligência artificial tem sido usada para automatização de atividades de rotina, como ligar e deligar a TV, a notificação de itens perecíveis na geladeira, proporcionando mais produtividade e tempo livre aos moradores de uma residência.

Na engenharia, foi pontuado que a IA é muito múltipla: sendo usada, por exemplo, para a otimização de materiais, na prevenção de falhas em aparelhos, prevenindo mau funcionamento; na robótica para execução de tarefas perigosas, trazendo mais segurança aos trabalhadores; usada no tráfego urbano para analisar os padrões do tráfego, otimizando o funcionamento de rotas e semáforos, etc.

No campo da medicina, foi exposto que a IA tem sido utilizada para o tratamento do câncer e de outras enfermidades, além de diagnósticos e detecção de patologias.

Nos esportes, restou noticiado que a IA tem utilização muito interessante, auxiliando os atletas a melhorarem seu rendimento e desempenho.

Foi definido, também, o que é um algoritmo, se tratando de uma sequência de comandos bem definidos para execução de tarefas, o que é a base das IAs.

Ademais, a IA, no campo do Direito, tem sido utilizada como “filtro” de acesso a Tribunais Superiores e, através de palavras-chave algorítmicas, um processo pode ser admitido ou não. Ainda, através de tokens eletrônicos, acontece a anexação de peças e documentos, por exemplo.

No Direito, ainda, tratando-se da IA, é crucial citar o Chat GPT, que tem gerado automatização aos processos, podendo criar petições e prever desfechos por meio de históricos, identificando as possibilidades de finalização dos mesmos.

No tópico 3, foi exposto que a IA na cultura POP, um assunto muito explorada com o advento cada vez mais exponencial da mesma.

No tópico 4, foi foi demonstrado que a IA se faz muito presente no mundo jurídico, por exemplo, através do peticionamento judicial eletrônico, o PJe; através do cálculo de processos por comarcas; pela fixação de juízes, promotores e procuradores, por exemplo e mensuração de produtividade dos operadores jurídicos.

No tópico 5, foi citada a IA na AGU, uma vez que o advento da IA e a implementação do peticionamento judicial eletrônico afetou significativamente o funcionamento da AGU, engendrando a criação pelo órgão do sistema de inteligência artificial SAPIENS e mais tarde o SUPERSAPIENS, ambos acarretaram uma atuação mais objetiva, uniforme e com segurança jurídica dos Advogados da União. Ademais, na AGU, foi implementado mecanismo de inteligência artificial de controle da produtividade dos advogados públicos, o IAJ, levando em conta a maior ou menor complexidade de atuação, por exemplo.

No tópico 6, foi vista a problematização da IA no Direito. Concluiu-se que advogados são antes seres humanos do que índices de êxito, pois as IAs, através de peticionamentos padrões, ainda que em nome da segurança jurídica, podem perverter a liberdade e a consciência jurídicas daqueles profissionais. Além disso, uma robotização de uma atuação significa a cada instante, perda da criatividade e uma alienação. E a criatividade é fator fundamental para a prática dos advogados.

Desse modo, tratado na problematização como seria possível reparar danos ou falhas causados pela tecnologia, bem como prevenir problemas futuros.

Com base em notícias e informações de domínio público, percebe-se que há algum tempo se sabe que o Vale do Silício vem desenvolvendo alta tecnologia na construção de “Inteligências Artificiais”. O que surpreendeu parte da comunidade científica foi a recente divulgação feita pela startup NEURALINK (parceria da SpaceX e Tesla) da realização em meados de 2024 dos primeiros implantes cerebrais em humanos. Os experimentos buscam estabelecer uma simbiose com a inteligência artificial com propósitos terapêuticos indiscutivelmente nobres: reabilitação de pacientes que sofrem do Mal de Parkinson, que perderam a fala por derrames cerebrais, que tiveram a capacidade locomotora comprometida, parcial ou definitivamente, e que necessitam de estimulação neural de qualquer ordem.

Em portadores de Alzheimer, por exemplo, o chip tem potencial para tratar essa doença neurológica.

Um horizonte próximo nos separa de próteses e da substituição nanotecnológica da fisiologia e de funções sistêmicas do organismo humano. Portanto, grandes feitos, bons ou ruins, estão para acontecer brevemente e as pessoas devem levar isso a sério. Precisamos realmente fazê-lo. Não se trata de uma tecnologia futurista. Ela já “caminha” entre nós.

Uma das maneiras de se cuidar seriamente do assunto é refletir sobre os limites éticos da biotecnologia e do seu impacto em outros domínios, destacando-se a Filosofia, o Direito e a Economia. Que avanços tecnológicos são bem-vindos e necessários à medicina e a disciplinas afins é algo que não se coloca em dúvida. A ciência deverá sempre servir ao homem. Entretanto, é indisputável que nos acautelemos contra a “tecnolatria”, a despeito da entronização, nos dias atuais, dos deuses do consumo e do hedonismo.

Soa como um truísmo dizer que o homem não pode ser instrumentalizado e colonizado pelas máquinas. Quanto a isso nos advertiram (e advertem) a ficção científica mais recentemente, o “Black Mirror”. Nesse cenário distópico, o emprego militar da IA não pode ser desprezado. Assistimos por demais ao horror da tecnologia bélica, cujos ecos ainda ressoarão pelas gerações subsequentes. Somente uma reflexão profunda viabilizará a compreensão do alcance dos imensos avanços tecnológicos de Elon Musk, por exemplo, da Neuralink e empresas associadas, pois estamos prestes a conhecer um “salto evolutivo sem precedentes na história da civilização”.

Pensar a “robotização do homem” e/ou a “humanização das máquinas” se inicia com a indagação sobre o que torna nós, humanos, indistinguíveis. O que é o “logos”? A certeza da mortalidade, da nossa finitude, da fragilidade e da brevidade da vida contribuiu para incontáveis abordagens existenciais que demarcaram (e demarcam) a história da civilização, propiciando, inclusive, a concepção e o debate sobre o “tempo”.

Prosseguirmos na resposta a esses questionamentos se revela mais do que nunca um imperativo. Ou aspiramos à imortalidade? Quais valores partilharia uma sociedade “sem humanos” destinada à eternidade? Ademais, dialogando-se com o Direito, “robotização” de atuação significa sempre alienação e perda de criatividade, elemento fundamental da prática advocatícia.

8. Referências

HARARI, Yuval Noah. Nexus: uma breve história das redes de informação, da Idade da Pedra à Inteligência Artificial. 1. ed. São Paulo: Companhia das Letras, 2024. Tradução de Berilo Vargas e Denise Bottmann. 504 p. ISBN 978-85-359-3781-7

MENDONÇA, Márcio; BOVOLENTA, Matheus Gil; ROSA, Bruno Oliveira; SOUZA, Lucas Botoni de; GONGORA, Vicente de Lima; GARCIA, Emanuel Ignácio; et al. Inteligência Artificial, fundamentos, conceitos, aplicações e tendências. In: MARTINS, Ernane Rosa (org.). Ciência, tecnologia e inovação: experiências, desafios e perspectivas 3. Ponta Grossa: Atena Editora, 2023. ISBN 978-65-258-1153-6;

INSper. Inteligência artificial: saiba a história, o presente e o futuro. São Paulo, 12 jan. 2023. Disponível em: https://www.insper.edu.br/content/insper- portal/pt/noticias/2023/1/inteligencia-artificial–saiba-a-historia–o-presente-e-o- futuro.html;

SCHÜSSLER, Paulo J.; BASTIANI, Ederson; BUSSLER, Nairana Radtke Caneppele. Inteligência artificial e aprendizado de máquina: utilizando o entendimento da inteligência humana para reprodução na computação. In: Salão do Conhecimento. 4. ed., v. 4, 30 set. 2018. Disponível em: https://publicacoeseventos.unijui.edu.br/index.php/salaoconhecimento/article/view/9828. Acesso em: 02 out. 2025; SOUZA, Gabriela de;

COSTA, Renan Martarelli da; CAVICHIOLLI, Adriane. Inteligência Artificial: conceitos e utilidades da tecnologia. 2024. Disponível em: https://ric.cps.sp.gov.br/bitstream/123456789/23519/1/ads_2024_1_gabrielasouza_in teligenciaartificialconceitoseutilidades.pdf. Acesso em: 02 out. 2025;

GOMES, Dennis dos Santos. Inteligência Artificial: conceitos e aplicações. 2010. Disponível em: https://www.professores.uff.br/screspo/wp- content/uploads/sites/127/2017/09/ia_intro.pdf. Acesso em: 02 out. 2025;

SOUZA, Gabriela de; COSTA, Renan Martarelli da; CAVICHIOLLI, Adriane. Inteligência artificial: conceitos e utilidades da tecnologia. 2024. Disponível em: https://ric.cps.sp.gov.br/bitstream/123456789/23519/1/ads_2024_1_gabrielasouza_in teligenciaartificialconceitoseutilidades.pdf. Acesso em: 3 out. 2025;

BRITANNICA. Marvin Minsky. Britannica. Disponível em: https://www.britannica.com/biography/Marvin-Minsky. Acesso em: 05 out. 2025;

CNN Brasil. O que é casa inteligente e como montar uma? CNN Brasil, 03 abr. 2023. Disponível em: https://www.cnnbrasil.com.br/tecnologia/casa-inteligente/. Acesso em: 02 out. 2025;

CHAVES, Laís E. Conheça as 10 principais aplicações da Inteligência Artificial na Engenharia atualmente. Engenharia Híbrida, Laís E. Chaves, s.d.. Disponível em: https://www.engenhariahibrida.com.br/post/10-principais-aplicacoes-inteligencia- artificial-engenharia. Acesso em: 02 out. 2025;

MAIS LAUDO. Inteligência artificial na medicina: 8 usos e seus benefícios. Mais Laudo, s.d.. Disponível em: https://maislaudo.com.br/blog/inteligencia-artificial-na- medicina/. Acesso em: 02 out. 2025;

O GLOBO. Olimpíadas de Paris 2024 é marcada pelo uso da inteligência artificial. O Globo, 29 jul. 2024. Disponível em: https://oglobo.globo.com/esportes/olimpiadas/noticia/2024/07/29/olimpiadas-de- paris-2024-e-marcada-pelo-uso-da-inteligencia-artificial.ghtml. Acesso em: 02 out. 2025;

PINGBACK. Saiba como funciona um algoritmo e conheça os principais exemplos existentes no mercado. Disponível em: https://pingback.com/br/resources/algoritmo/. Acesso em: 3 out. 2025.;

GAIMAN, Neil. Deuses Americanos. Tradução de Fábio Fernandes. 1. ed. São Paulo: Conrad, 2002;

BLADE RUNNER. Direção de Ridley Scott. Estados Unidos: Warner Bros., 1982. Filme (117 min);

EX MACHINA. Direção de Alex Garland. Reino Unido: Universal Pictures, 2015. Filme (108 min);

BLACK MIRROR: Be Right Back. Direção de Owen Harris. Reino Unido: Netflix, 2013. Episódio (48 min), Temporada 2, Ep. 1;

BLACK MIRROR: White Christmas. Direção de Carl Tibbetts. Reino Unido: Netflix, 2014. Especial de TV (74 min);

BLACK MIRROR: Hated in the Nation. Direção de James Hawes. Reino Unido: Netflix, 2016. Episódio (89 min), Temporada 3, Ep. 6.;

BLACK MIRROR: Metalhead. Direção de David Slade. Reino Unido: Netflix, 2017. Episódio (41 min), Temporada 4, Ep. 5;

BLACK MIRROR: Striking Vipers. Direção de Owen Harris. Reino Unido: Netflix, 2019. Episódio (61 min), Temporada 5, Ep. 1;

BLACK MIRROR: Joan Is Awful. Direção de Ally Pankiw. Reino Unido: Netflix, 2023. Episódio (56 min), Temporada 6, Ep. 1;

CONSELHO DA JUSTIÇA FEDERAL Histórico do PJe. Disponível em: https://www.cjf.jus.br/observatorio/arq/historico_pje.pdf. Acesso em: 3 out. 2025;

TRIBUNAL REGIONAL FEDERAL DA 4ª REGIÃO. [Título da notícia]. Disponível em: https://www.trf4.jus.br/trf4/controlador.php?acao=noticia_visualizar&id_noticia=15828. Acesso em: 3 out. 2025;

TRIBUNAL DE JUSTIÇA DO DISTRITO FEDERAL E TERRITÓRIOS. Solução de inteligência artificial analisou mais de 1,2 milhão de petições no TJDFT. Disponível em: https://www.tjdft.jus.br/institucional/imprensa/noticias/2025/marco/solucao-de- inteligencia-artificial-analisou-mais-de-1-2-milhao-de-peticoes-no-tjdft. Acesso em: 3 out. 2025;

TRIBUNAL DE JUSTIÇA DO DISTRITO FEDERAL E TERRITÓRIOS. Inteligência artificial: uma realidade no Poder Judiciário. Disponível em: https://www.tjdft.jus.br/institucional/imprensa/campanhas-e-produtos/artigos- discursos-e-entrevistas/artigos/2020/inteligencia-artificial. Acesso em: 3 out. 2025;

LEGALE EDUCACIONAL. Descubra o impacto do ChatGPT na advocacia. Disponível em: https://legale.com.br/blog/descubra-o-impacto-do-chatgpt-na-advocacia/. Acesso em: 3 out. 2025;

MELO, Jonatas. Chat GPT para advogados: uma ferramenta indispensável. JusBrasil, 6 jan. 2023. Disponível em: https://www.jusbrasil.com.br/artigos/chat-gpt-para-advogados-uma-ferramenta-indispensavel/1731249422. Acesso em: 3 out. 2025.;

BRASIL. Constituição (1988). Constituição da República Federativa do Brasil. Brasília, DF: Senado Federal, 1988. Disponível em: https://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm. Acesso em: 3 out. 2025.;

BRASIL. Lei Complementar nº 73, de 10 de fevereiro de 1993. Dispõe sobre a Advocacia-Geral da União e dá outras providências. Diário Oficial da União, Brasília, DF, 10 fev. 1993. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/lcp/lcp73.htm. Acesso em: 3 out. 2025;

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Dispõe sobre a proteção de dados pessoais e altera a Lei nº 12.965, de 23 de abril de 2014 (Marco Civil da Internet). Diário Oficial da União, Brasília, DF, 15 ago. 2018. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/L13709.htm. Acesso em: 3 out. 2025;

BRASIL. Projeto de Lei nº 2.338, de 2023. Dispõe sobre o desenvolvimento, o fomento e o uso ético e responsável da inteligência artificial com base na centralidade da pessoa humana. Câmara dos Deputados, Brasília, DF, 17 mar. 2025. Disponível em: https://www.camara.leg.br/proposicoesWeb/prop_mostrarintegra?codteor=2881712& filename=Avulso+PL+2338%2F2023. Acesso em: 3 out. 2025;

VALINSKY, Jordan. Neuralink faz 1º implante de chip cerebral em humano, diz Elon Musk. CNN Brasil, 30 jan. 2024. Disponível em: https://www.cnnbrasil.com.br/tecnologia/neuralink-faz-1o-implante-de-chip-cerebral- em-humano-diz-elon-musk/. Acesso em: 3 out. 2025;

GOMES, Francinaldo. Neurocirurgião explica o chip Neuralink. Blog Instituto Dr. Francinaldo, 2 fev. 2024. Disponível em: https://blog.institutodrfrancinaldo.com.br/tratamento/implantes- cerebrais/neurocirurgiao-explica-o-chip-neuralink/. Acesso em: 3 out. 2025;

MARTINS, Rafael. O que o chip cerebral da empresa de Elon Musk já fez até agora. Forbes Brasil, 2 abr. 2024. Disponível em: https://forbes.com.br/forbes- tech/2024/04/o-que-o-chip-cerebral-da-empresa-de-elon-musk-ja-fez-ate-agora/. Acesso em: 3 out. 2025.