REGISTRO DOI: 10.5281/zenodo.10841734
Isidro José Bezerra Maciel Fortaleza do Nascimento1, José Carlos Guimarães Junior2, Patrícia da Silva Ferreira3, Paulo Henrique de Faria4, Alexsandre Pippus Ferreira5, Hilke Carlayle de Medeiros Costa6
RESUMO
A inteligência artificial (IA) é uma área em rápida evolução que está tendo um impacto significativo em uma ampla gama de indústrias. A IA pode ser usada para automatizar tarefas, melhorar a tomada de decisão e criar produtos e serviços; No entanto, o desenvolvimento e o uso da IA também levantam uma série de questões éticas. Uma das principais preocupações éticas em torno da IA é o potencial de discriminação, que pode ser usada para tomar decisões que afetam as pessoas de forma injusta, por exemplo, para decidir quem recebe um empréstimo ou um emprego. Outra preocupação ética é o potencial de uso da IA para causar danos, por exemplo, para desenvolver armas autônomas. É importante abordar essas preocupações éticas antes de desenvolver e usar a IA, e assim, os pesquisadores e desenvolvedores de IA devem estar cientes dos potenciais riscos éticos da IA e devem tomar medidas para mitigá-los. Os governos também devem desenvolver políticas para regulamentar o desenvolvimento e o uso da IA. Esse artigo tem como objetivo explorar as questões éticas relacionadas ao desenvolvimento e uso da IA, onde será discutido os potenciais riscos éticos da IA e oferecerá recomendações para mitigá-los. E os resultados dessa pesquisa espera contribuir para a discussão sobre as questões éticas relacionadas ao desenvolvimento e uso da IA, de maneira que os leitores sejam capazes de compreender os potenciais riscos éticos da IA e tomar medidas para mitigá-los; e ainda contribuir para o desenvolvimento de políticas públicas para regulamentar o desenvolvimento e o uso da IA e identificar as questões éticas que precisam ser consideradas ao desenvolver políticas públicas para a IA.
Palavras chaves: Inteligência artificial (IA); Questões éticas; Discriminação; Dano; Política pública:
ABSTRACT
Artificial intelligence (AI) is a rapidly evolving field that is having a significant impact on a wide range of industries. AI can be used to automate tasks, improve decision-making, and create new products and services. However, the development and use of AI also raise several ethical concerns. One of the main ethical concerns surrounding AI is the potential for discrimination. AI can be used to make decisions that affect people in an unfair way, for example, to decide who gets a loan or a job. Another ethical concern is the potential for AI to be used to cause harm, for example, to develop autonomous weapons. It is important to address these ethical concerns before developing and using AI. AI researchers and developers must be aware of the potential ethical risks of AI and take steps to mitigate them. Governments should also develop policies to regulate the development and use of AI. This paper aims to explore the ethical issues related to the development and use of AI. The paper will discuss the potential ethical risks of AI and offer recommendations for mitigating them. The results of this research are expected to contribute to the discussion on the ethical issues related to the development and use of AI, so that readers can understand the potential ethical risks of AI and take steps to mitigate them. It is also expected to contribute to the development of public policies to regulate the development and use of AI and to identify the ethical issues that need to be considered when developing public policies for AI.
Keywords: Artificial intelligence (AI); Ethical issues; Discrimination; Harm; Public policy
1. Introdução
A inteligência artificial (IA) emerge como uma das áreas de maior avanço tecnológico dos últimos anos, impulsionando mudanças significativas em diversas indústrias e setores da sociedade, onde seu potencial disruptivo é notório, permitindo a automação de tarefas, aprimorando a tomada de decisões e proporcionando o desenvolvimento de produtos e serviços inovadores. No entanto, à medida que a IA se estabelece como uma ferramenta poderosa, também surgem questões éticas e morais cruciais a serem enfrentadas por pesquisadores e desenvolvedores.
Este artigo se propõe a explorar o papel dos pesquisadores e desenvolvedores de IA no processo de formação dos alunos, destacando as implicações éticas inerentes ao desenvolvimento e utilização dessa tecnologia inovadora, e em especial, nossa análise abordará as preocupações éticas associadas ao emprego da IA no ambiente educacional, bem como em outras esferas da sociedade.
Entre as principais inquietações éticas que emergem, destaca-se a possibilidade de viés e discriminação implícitos nos algoritmos de IA, que podem influenciar decisões importantes que afetam as pessoas de maneira desigual.
Assim, é fundamental que os pesquisadores e desenvolvedores de IA estejam atentos aos potenciais riscos éticos associados ao uso dessa tecnologia, buscando mitigá-los por meio de uma abordagem consciente e responsável, e assim, propõem-se uma reflexão sobre as implicações éticas da IA é um passo essencial para o avanço sustentável e responsável dessa área, garantindo que a inovação tecnológica seja aliada ao bem-estar e à justiça social dos alunos e professores.
Neste contexto, o presente artigo se propõe a discutir os dilemas éticos enfrentados pelos pesquisadores e desenvolvedores de IA, no que refere a questão educacional, apresentando recomendações para lidar com tais desafios e promover um desenvolvimento ético dessa tecnologia.
Espera-se, com essa pesquisa, contribuir significativamente para a compreensão dos impactos éticos da IA no processo de formação dos alunos, bem como para a conscientização sobre a necessidade de uma abordagem responsável no desenvolvimento e utilização dessa tecnologia.
2 Metodologia de Pesquisa
O presente estudo possui na pesquisa bibliográfica um de seus eixos sustentáculos. Gil (2019) e Zanella (2013) relatam que esta forma de investigação consiste na consulta a materiais bibliográficos que outrora já versaram sobre as temáticas estudadas. O levantamento dos estudos foi feito na base de dados Google Acadêmico. Nascimento-e-Silva (2012) explica que as bases de dados são os locais recomendados pela ciência para a busca de respostas que possam suprir uma determinada pergunta de pesquisa.
O estudo também pode ser considerado como qualitativo. Para André (2013), embora este tipo de pesquisa se caracterize por lidar com aspectos subjetivos, ainda assim o pesquisador precisa seguir um rigor metodológico ao optar por este tipo de abordagem para fins de pesquisa. O estudo também pode ser considerado como explicativo. Gil (2019) afirma que neste tipo de estudo o pesquisador busca detectar e detalhar os fatores que corroboram para a ocorrência de um dado fenômeno.
A lógica de execução do estudo no que tange aos seus resultados consistiu na seleção de pesquisas que tragam em seu teor aspectos relevantes e que possam tornar mais profícuo o debate sobre formação de professores para a educação básica num contexto de inclusão. A seleção destes materiais resultou em 3 estudos, todos eles datados de 2022 e que integram a parte desta construção textual que antecede a sua conclusão. Adotou-se quanto a análise destes estudos a perspectiva indutiva, na qual consoante Ribas e Olivo (2016) fatos ocorridos em cenários mais específicos podem ser expandidos para contextos mais gerais.
3 Revisão Conceitual
A integração da inteligência artificial (IA) na educação tem se tornado um tema de destaque na literatura acadêmica, onde pesquisadores e desenvolvedores reconhecem a importância de aplicar a IA para melhorar a formação dos alunos e prepará-los para os desafios do futuro.
Nesse sentido, o trabalho de Vygotsky (1978) enfatiza a influência do ambiente e das interações sociais no processo de aprendizagem, e assim podemos fazer uma interrelação entre como a IA pode potencializar esse aspecto ao oferecer soluções personalizadas e adaptativas para cada aluno.
Vygotsky, um renomado psicólogo e educador russo, foi uma figura central no desenvolvimento da teoria sociocultural da aprendizagem. Em sua obra “Mind in Society: The Development of Higher Psychological Processes”, publicada postumamente em 1978, Vygotsky defende que o ambiente e as interações sociais têm um papel fundamental no processo de aprendizagem humano.
Para esse autor, o processo de aprendizagem não é um processo individual e isolado, mas sim um fenômeno social que acontece por meio da interação entre o indivíduo e seu ambiente sociocultural. Ele introduziu o conceito de “zona de desenvolvimento proximal” (ZDP), que representa a distância entre o nível de desenvolvimento atual de uma criança e o nível que ela é capaz de alcançar com o suporte de um adulto mais experiente, como um professor ou um colega mais capacitado. Esse conceito (ZDP), destaca a importância das interações sociais no avanço do conhecimento e das habilidades de um aluno.
O mesmo autor ainda enfatizou em seus estudos a importância do diálogo e da linguagem na aprendizagem, entendendo que a linguagem não é apenas uma ferramenta de comunicação, mas um instrumento essencial para a construção do pensamento e do conhecimento, e é através da interação verbal com outros indivíduos, especialmente adultos e pares, as crianças internalizam conceitos e formas mais avançadas de pensamento, expandindo suas capacidades cognitivas; além de destacar que a cultura desempenha um papel significativo na aprendizagem, onde cada sociedade possui suas próprias práticas, valores e conhecimentos que são transmitidos de geração em geração, onde a aprendizagem ocorre dentro do contexto cultural em que o indivíduo está inserido, e é influenciada pelas crenças e valores compartilhados pela comunidade.
A teoria sociocultural de Vygotsky tem tido um impacto duradouro no campo da educação, onde seus princípios forneceram subsídios para abordagens pedagógicas que valorizam o papel do ambiente, das interações sociais e da linguagem no processo de ensino e aprendizagem. A colaboração, o diálogo e a criação de ambientes ricos em interações sociais são elementos essenciais para promover a aprendizagem significativa e o desenvolvimento cognitivo dos alunos. O trabalho de Vygotsky continua a ser estudado e aplicado em diversos contextos educacionais ao redor do mundo.
A ética na educação com IA tem sido uma preocupação recorrente, onde autores como Floridi (2019) e Bryson (2020) abordam os dilemas éticos inerentes ao uso da IA, especialmente no contexto educacional, onde a coleta de dados dos alunos pode gerar questões de privacidade e segurança, tornando importante garantir que os algoritmos utilizados nas plataformas educacionais sejam transparentes e imparciais para evitar discriminações injustas.
Além das preocupações com a privacidade e segurança dos dados dos alunos, a ética na educação com IA também levanta questões sobre a responsabilidade e accountability no uso dessas tecnologias. Autores como Diakopoulos (2016) destacam a importância de identificar e atribuir responsabilidades quando decisões automatizadas da IA afetam a vida e o aprendizado dos alunos. Isso é especialmente relevante em sistemas educacionais em larga escala, nos quais as decisões algorítmicas podem ter impactos significativos.
A equidade e justiça na aplicação da IA na educação têm sido exploradas por autores como Dillahunt (2019), onde ressaltam a necessidade de garantir que as tecnologias educacionais baseadas em IA não ampliem disparidades já existentes, como lacunas de desempenho entre diferentes grupos de alunos, onde a abordagem da IA na educação deve ser sensível às questões sociais e culturais para evitar discriminação e desigualdades.
A compreensão das decisões tomadas pela IA é outro aspecto ético relevante, como Lipton (2016) discute a importância da explicabilidade dos algoritmos, ou seja, a capacidade de entender como e por que certas decisões foram tomadas, e isso é fundamental tanto para a confiança dos alunos e professores nas tecnologias de IA quanto para a identificação de possíveis vieses e erros.
Ademais, a ética na educação com IA também levanta questionamentos sobre a autonomia dos alunos; Selinger e Hartzog (2018) alertam para o risco de a IA moldar excessivamente a experiência educacional, limitando a capacidade dos alunos de tomar decisões informadas e exercer sua liberdade intelectual, onde é necessário garantir que a IA seja uma ferramenta que capacite e apoie o aprendizado, ao invés de substituir a agência dos alunos.
Por fim, o papel dos professores e educadores no uso da IA na sala de aula é um tema abordado por autores como van den Akker (2019) enfatiza que os professores devem ser educados sobre as implicações éticas do uso da IA e capacitados para tomar decisões informadas sobre como incorporar essa tecnologia em seu ensino de forma ética e responsável.
Diversos estudos têm explorado o desenvolvimento de ferramentas educacionais baseadas em IA; a pesquisa de Baker e Inventado (2014) investigou o uso de sistemas de tutoria inteligente para apoiar o aprendizado de matemática, mostrando resultados promissores no desempenho dos alunos.
Esse estudo é um exemplo relevante de como a inteligência artificial pode ser aplicada para melhorar o aprendizado dos alunos em disciplinas específicas, como a matemática; nesse estudo, os pesquisadores investigaram o uso de sistemas de tutoria inteligente, que são plataformas que utilizam algoritmos de IA para fornecer suporte personalizado e adaptativo aos estudantes durante o processo de aprendizagem.
A pesquisa de Baker ter envolvido a implementação de um sistema de tutoria inteligente em um ambiente educacional real, onde alunos de matemática interagiram com a ferramenta durante o estudo da disciplina, o objetivo era identificar como a IA poderia ser efetivamente empregada para auxiliar os alunos em suas dificuldades e aprimorar seus conhecimentos matemáticos.
Os resultados obtidos foram encorajadores, pois indicaram melhorias significativas no desempenho dos alunos que utilizaram o sistema de tutoria inteligente em comparação com aqueles que não tiveram acesso a essa tecnologia. Os alunos que receberam o suporte da IA apresentaram um maior domínio dos conceitos matemáticos, um progresso mais consistente e um aumento na retenção de informações ao longo do tempo.
Uma das vantagens da utilização da IA em sistemas de tutoria é a capacidade de adaptar o ensino conforme as necessidades individuais de cada aluno, pois ela pode analisar o desempenho e as respostas dos estudantes, identificando seus pontos fracos e oferecendo atividades e explicações personalizadas para superar essas dificuldades, e assim, dessa forma, a aprendizagem se torna mais eficiente e direcionada, permitindo que os alunos avancem em seu próprio ritmo.
Outro aspecto positivo é a disponibilidade constante da ferramenta, na forma de sistemas de tutoria inteligente, os alunos podem ter acesso a suporte adicional fora do horário da aula e a qualquer momento que necessitarem, oferecendo uma oportunidade valiosa de prática individualizada e reforço dos conceitos abordados em sala de aula, contribuindo para a consolidação do aprendizado. No entanto, é importante reconhecer que, apesar dos resultados promissores, a aplicação da IA na educação também levanta desafios e considerações éticas, tornando fundamental garantir que os algoritmos utilizados sejam precisos, imparciais e transparentes, evitando possíveis vieses e discriminações; além disso, é necessário assegurar a proteção da privacidade dos dados dos alunos, uma vez que a coleta de informações é inerente ao funcionamento desses sistemas de tutoria.
Em resumo o estudo de Baker (2014) representa uma importante contribuição para a compreensão do potencial da inteligência artificial no desenvolvimento de ferramentas educacionais eficazes e personalizadas. Esse estudo evidenciou que a IA pode desempenhar um papel significativo na melhoria do desempenho dos alunos e no aprimoramento do processo de aprendizagem, desde que aplicada de forma ética, transparente e com o devido cuidado na proteção dos dados dos estudantes.
Gweon e Lee (2018), são outros pesquisadores que demonstraram que assistentes virtuais podem aumentar o engajamento dos alunos e proporcionar uma experiência de aprendizado mais interativa. Esse estudo foi uma pesquisa significativa no campo da inteligência artificial aplicada à educação, onde os pesquisadores investigaram o uso de assistentes virtuais como ferramentas educacionais para aprimorar o engajamento dos alunos e tornar a experiência de aprendizado mais interativa.
Os assistentes virtuais são sistemas de IA projetados para interagir com os usuários de maneira natural e conversacional; no contexto educacional, essas tecnologias podem ser empregadas como tutores inteligentes ou como auxiliares na sala de aula, oferecendo suporte personalizado e respostas em tempo real às dúvidas dos estudantes.
Os resultados do estudo demonstraram que o uso de assistentes virtuais pode, de fato, aumentar significativamente o engajamento dos alunos nas atividades de aprendizagem, e a interação com essas tecnologias estimulou a curiosidade e a motivação dos estudantes, tornando o processo de aprendizado mais dinâmico e interessante.
Uma das vantagens dos assistentes virtuais é a sua capacidade de fornecer feedback instantâneo aos alunos, enquanto o professor pode ter limitações em dar atenção individualizada a cada aluno em uma sala de aula, um assistente virtual pode responder às perguntas dos estudantes de forma imediata e personalizada, tornado assim esse feedback em tempo real pode ser extremamente benéfico para o aprendizado, permitindo que os alunos esclareçam dúvidas e avancem em seu conhecimento de maneira mais eficiente.
Além disso, a interatividade dos assistentes virtuais também pode promover a autonomia dos alunos, pois ao serem encorajados a fazer perguntas e explorar conceitos por meio da interação com a IA, os estudantes podem desenvolver habilidades de resolução de problemas e pensamento crítico.
Contudo, é importante considerar que a implementação bem-sucedida de assistentes virtuais na educação requer atenção a algumas questões éticas e pedagógicas, sendo necessário garantir que essas tecnologias sejam projetadas para serem inclusivas e acessíveis a todos os alunos, considerando diferentes estilos de aprendizagem e necessidades individuais.
Fazendo uma análise geral, o estudo de Gweon e Lee (2018) destaca o potencial dos assistentes virtuais para aumentar o engajamento dos alunos e enriquecer a experiência de aprendizado, onde essas ferramentas de IA podem proporcionar feedback instantâneo, estimulando a autonomia dos estudantes, tornando o processo educacional mais interativo e personalizado. Entretanto é fundamental considerar questões éticas e pedagógicas ao incorporar essas tecnologias no ambiente educacional, garantindo que elas sejam utilizadas de maneira responsável e benéfica para todos os alunos.
A capacitação de educadores em IA também se mostra essencial para o sucesso da implementação dessa tecnologia na educação, onde pesquisadores como Koedinger (2019) ressaltam a importância de programas de formação continuada para os professores, a fim de que eles possam utilizar as ferramentas de IA de forma eficaz e integrá-las ao seu planejamento pedagógico.
O estudo realizado por Koedinger, R., McLaughlin, E., Jia, J., & Bier, N. (2019) enfatiza a relevância da capacitação dos educadores em inteligência artificial para o êxito da implementação dessa tecnologia no contexto educacional. Os autores ressaltam que programas de formação continuada para os professores são essenciais, visando habilitá-los a utilizar as ferramentas de IA de forma eficaz e integrá-las ao seu planejamento pedagógico.
Outra vantagem da formação em IA é a capacidade de os professores compreenderem e interpretarem os dados gerados pelas tecnologias educacionais baseadas em IA, o que é crucial para que possam tomar decisões informadas e bem fundamentadas ao utilizar essas ferramentas em sua prática pedagógica.
No entanto, é importante considerar que a capacitação dos educadores em IA não deve se limitar ao aspecto técnico da tecnologia, sendo igualmente relevante que os programas de formação incluam reflexões sobre questões éticas e responsabilidade no uso da IA na educação, precisando assim estar cientes dos possíveis vieses algorítmicos, preocupações de privacidade e impactos sociais da implementação da IA em sala de aula.
O estudo de Koedinger et al. (2019) destaca a importância da capacitação dos educadores em inteligência artificial para garantir uma integração bem-sucedida dessa tecnologia na educação, e através de programas de formação continuada, os professores podem se tornar facilitadores eficazes da IA em sala de aula, potencializando a aprendizagem dos alunos e preparando-os para os desafios do mundo digital.
Esse estudo enfatiza a relevância da capacitação dos educadores em inteligência artificial para o êxito da implementação dessa tecnologia no contexto educacional, onde é ressaltado que os programas de formação continuada para os professores são essenciais, visando habilitá-los a utilizar as ferramentas de IA de forma eficaz e integrá-las ao seu planejamento pedagógico.
Siemens (2005) destaca a importância do uso de tecnologias de IA, como sistemas de recomendação e análise de dados, para personalizar a aprendizagem de forma efetiva, enfatizando que essa personalização é essencial para atender às diferenças individuais dos alunos, permitindo que cada estudante avance em seu próprio ritmo e explore conteúdos de acordo com seus interesses e habilidades.
A personalização da aprendizagem com IA envolve a utilização de algoritmos avançados que analisam dados e informações sobre o desempenho e preferências dos alunos, e com base nessa análise, a IA pode recomendar atividades, recursos e conteúdos educacionais adequados para cada aluno, tornando a experiência de aprendizado mais relevante e significativa.
Através da personalização do aprendizado, os estudantes podem ter acesso a um currículo adaptado às suas necessidades individuais, permitindo que eles explorem tópicos de interesse em maior profundidade ou recebam suporte extra em áreas em que enfrentem dificuldades, aumentando assim o engajamento dos alunos, pois eles se sentem mais motivados e envolvidos em seu processo de aprendizagem.
Além disso, a personalização também permite que os educadores monitorem o progresso dos alunos de forma mais precisa e detalhada, e assim, através da análise de dados gerados pela IA, os professores podem identificar rapidamente áreas em que os alunos estão com dificuldades e oferecer intervenções direcionadas para ajudá-los a superar esses desafios.
Outra vantagem da personalização da aprendizagem com IA é que ela promove a autonomia dos alunos, permitindo que sigam seus próprios interesses e ritmos de aprendizado, a IA capacita-os a assumir maior controle sobre sua educação, tornando-os protagonistas ativos do processo educacional.
Por sua vez, Shute (2008) aborda o papel da IA na avaliação adaptativa, onde algoritmos de aprendizado automático são utilizados para monitorar o progresso dos alunos e fornecer feedback personalizado; e assim, através dessa abordagem, a IA pode identificar as áreas em que cada aluno enfrenta dificuldades e oferecer atividades e recursos específicos para superar esses obstáculos.
Ainda o mesmo autor comenta que, a avaliação adaptativa com IA utiliza algoritmos avançados para analisar dados sobre o desempenho e o processo de aprendizagem de cada aluno, e com base nessas análises, a IA pode identificar lacunas no conhecimento, dificuldades de compreensão e padrões de erro que um aluno específico está enfrentando, permitindo assim que o sistema compreenda as necessidades individuais de cada aluno de maneira mais precisa do que os métodos tradicionais de avaliação.
Ao identificar as dificuldades específicas de cada aluno, a IA pode fornecer feedback personalizado e direcionado. Isso pode ser na forma de explicações adicionais, exemplos relevantes, recursos complementares de estudo ou sugestões de atividades que visam fortalecer as habilidades e conhecimentos em áreas específicas.
A avaliação adaptativa também permite que a IA ofereça desafios adicionais aos alunos que demonstram proficiência em determinados tópicos, que ao identificar os pontos fortes de um aluno, a IA pode recomendar atividades mais avançadas que promovam um aprendizado contínuo e estimulante, além de acompanhar o progresso dos alunos de forma mais precisa e detalhadas, ações essas que contribuem para que os professores ajustem suas abordagens de ensino com base nos dados em tempo real sobre o desempenho dos alunos, o que pode resultar em intervenções mais efetivas e adaptadas às necessidades individuais.
Siemens (2005), discorre que é fundamental garantir que a implementação da avaliação adaptativa com IA seja ética e transparente; e o processo de personalização da educação com IA não se restringe apenas ao conteúdo do currículo, mas também inclui a adaptação de estratégias de ensino e metodologias, dessa forma, essas tecnologias podem ajudar os educadores a identificarem abordagens pedagógicas mais eficazes para cada aluno, levando em consideração suas preferências e estilos de aprendizagem.
Além disso, podem contribuir para um ambiente educacional mais inclusivo, permitindo que alunos com necessidades especiais recebam suporte personalizado e adequado às suas particularidades, fornecendo recursos de acessibilidade, como legendas em tempo real para estudantes com deficiência auditiva ou adaptação do tamanho da fonte para alunos com dificuldades visuais.
Em suma, Siemens (2005) e Shute (2008) contribuem significativamente para a compreensão dos benefícios da personalização da educação com IA, onde em seus estudos evidenciam como a IA pode ser uma aliada poderosa para adaptar o ensino, tornar a aprendizagem mais inclusiva e atender às necessidades individuais dos alunos, preparando-os para o sucesso em um mundo cada vez mais digital.
Os pesquisadores e desenvolvedores de IA também enfrentam o desafio de preparar os alunos para um mercado de trabalho em constante evolução; Brynjolfsson e McAfee (2014) destacam a importância de desenvolver habilidades socioemocionais e competências digitais, as quais a IA não consegue replicar, para que os alunos estejam preparados para as demandas futuras.
Esses autores descrevem que embora a IA e a automação tenham o potencial de transformar a natureza do trabalho, existem certas habilidades humanas que continuam sendo fundamentais e insubstituíveis, onde as habilidades socioemocionais, como inteligência emocional, resolução de problemas complexos, empatia e colaboração, são essenciais para o sucesso no ambiente de trabalho moderno, onde as interações humanas e a capacidade de trabalhar em equipe são cada vez mais valorizadas.
Não obstante, as competências digitais são fundamentais para a participação efetiva na sociedade digital, fato esse que inclui a capacidade de utilizar tecnologias de forma crítica e responsável, compreender o funcionamento da IA e se adaptar a novas ferramentas e plataformas digitais que possam surgir. Dessa forma, essas competências são cruciais para a empregabilidade e o desenvolvimento profissional dos alunos em um cenário em que a tecnologia desempenha um papel central em quase todas as áreas de trabalho.
Os pesquisadores realçam que, embora a IA possa automatizar tarefas repetitivas e rotineiras, o valor do trabalho humano está na criatividade, na inovação e na capacidade de lidar com situações complexas e imprevisíveis. Portanto, a preparação dos alunos para o mercado de trabalho deve incluir um equilíbrio entre o desenvolvimento de habilidades tecnológicas e aprimoramento de competências humanas únicas.
No âmbito educacional, isso implica em repensar as abordagens de ensino e aprendizagem, priorizando o desenvolvimento integral dos alunos, onde a educação deve ir além da mera transmissão de conhecimentos e se concentrar na formação de cidadãos capazes de aprender continuamente, adaptar-se às mudanças e trabalhar de forma colaborativa em um mundo cada vez mais interconectado.
Em síntese, Brynjolfsson e McAfee (2014) alertam para a necessidade de preparar os alunos para as demandas futuras do mercado de trabalho, destacando a importância das habilidades socioemocionais e competências digitais, onde o processo de automação, das IAs, são transformadoras, mas a educação deve priorizar o desenvolvimento de habilidades humanas insubstituíveis, garantindo que os alunos estejam preparados para enfrentar os desafios e oportunidades que o futuro trará.
Contudo, é importante considerar os possíveis desafios e preocupações éticas estudados por Alpaydin (2016), que alertam para o risco da dependência excessiva da IA na educação, o que pode diminuir a autonomia e a criatividade dos alunos. Em seus aprendizados destaca que, embora a IA possa trazer benefícios significativos para a educação, sua utilização deve ser cuidadosamente ponderada, pois a dependência excessiva dessa ferramenta para guiar o processo de aprendizagem dos alunos pode resultar em uma redução da capacidade de pensamento crítico e resolução de problemas, uma vez que os estudantes podem se acostumar a receber respostas prontas e não serem incentivados a explorar diferentes abordagens.
Outra inquietação ética levantada pelo autor, refere-se ao viés algorítmico, onde os sistemas de IA podem ser influenciados por dados de treinamento enviesados, o que pode levar a resultados discriminatórios e injustos na avaliação dos alunos; assim sendo, torna-se imprescindível a garantia da transparência e a equidade nos algoritmos utilizados na educação, para evitar que certos grupos sejam prejudicados ou privilegiados indevidamente.
A provável dependência excessiva da IA pode levar à substituição do papel do professor, o que pode afetar negativamente a relação entre educadores e alunos, pois o professor desempenha um papel fundamental no desenvolvimento dos estudantes, fornecendo orientação, motivação e inspiração; e as tecnologias podem ser aliadas, mas não deve substituir completamente a presença e a interação humana na educação.
Por conseguinte, é essencial abordar essas preocupações éticas ao implementar a IA na educação, assim a tecnologia deve ser utilizada como uma ferramenta complementar, que apoia o ensino e a aprendizagem, mas não substitui a rica interação humana e o desenvolvimento das habilidades cognitivas e socioemocionais dos alunos.
Nesse contexto, a colaboração entre academia e indústria é essencial para impulsionar a pesquisa e a inovação na área da IA e educação; parcerias entre universidades, como sugerido por Jordan e Mitchell (2015), e empresas podem promover a criação de soluções educacionais inovadoras e eficazes.
O processo de interação entre a academia e a indústria permite combinar os conhecimentos e recursos de ambos os setores, possibilitando avanços mais rápidos e significativos no desenvolvimento de tecnologias educacionais baseadas em IA. Enquanto as universidades são responsáveis por realizar pesquisas de ponta e desenvolver novas teorias e algoritmos, as empresas têm a expertise em desenvolver soluções práticas e escaláveis para o contexto educacional.
Essas parcerias podem resultar em aplicações da IA na educação que sejam mais eficientes, acessíveis e alinhadas com as necessidades reais dos educadores e alunos, onde as universidades podem contribuir com o conhecimento teórico e científico, enquanto as empresas podem trazer sua experiência em desenvolvimento de produtos e sua compreensão das demandas do mercado educacional.
Outrossim, essa colaboração também pode ajudar a superar desafios técnicos e éticos na implementação da IA na educação; as universidades podem realizar pesquisas para entender os impactos da IA no processo de aprendizagem e identificar possíveis riscos éticos, enquanto as empresas, por sua vez, podem contribuir com suas capacidades de engenharia para desenvolver sistemas seguros e confiáveis.
Outro benefício importante que urge dessas parcerias é a possibilidade de transferência de conhecimento e tecnologia entre os dois setores, pois as universidades podem se beneficiar das aplicações práticas e dos recursos financeiros das empresas para levar suas pesquisas do laboratório para o mercado, que por sua vez, as empresas podem se beneficiar do conhecimento especializado das universidades para aprimorar suas soluções e se manterem atualizadas com os avanços mais recentes na área da IA e educação.
4 Considerações Analíticas
Ao longo desta pesquisa, exploramos o papel inovador da Inteligência Artificial (IA) na educação, com foco especial na personalização da aprendizagem e na avaliação adaptativa, onde as descobertas revelaram o potencial transformador da IA como uma ferramenta poderosa para atender às necessidades individuais dos alunos, promovendo um ambiente educacional mais inclusivo, eficiente e engajador.
A personalização da aprendizagem, impulsionada por tecnologias de IA, demonstrou ser uma abordagem altamente benéfica para os educadores e estudantes, que ao permitir que os alunos avancem em seu próprio ritmo e explorem conteúdos de acordo com seus interesses e habilidades, a personalização facilita a construção de um processo de aprendizagem significativo e relevante para cada indivíduo; além disso, essa abordagem favorece a autonomia do aluno, encorajando a autorregulação e o desenvolvimento de habilidades de aprendizado ao longo da vida.
Nesse contexto, sistemas de recomendação impulsionados pela IA desempenham um papel crucial, fornecendo sugestões de conteúdos e recursos educacionais personalizados para cada aluno, e assim, essas recomendações são baseadas em análises sofisticadas de dados de desempenho, preferências e características individuais de aprendizado.
No entanto, é fundamental equilibrar o uso da IA com a orientação do professor, assegurando que a tecnologia seja aplicada como uma aliada no processo de ensino-aprendizagem, em vez de substituir o papel do educador.
Da mesma forma, a avaliação adaptativa impulsionada pela IA mostrou-se uma ferramenta valiosa para monitorar o progresso dos alunos e oferecer feedback personalizado, que através da análise contínua de dados, a IA identifica áreas de dificuldade e lacunas no conhecimento, permitindo que os professores adaptem suas abordagens pedagógicas para atender às necessidades específicas de cada estudante.
Isso não só melhora o desempenho acadêmico, mas também aumenta a confiança e a motivação dos alunos, pois eles se sentem compreendidos e apoiados em suas jornadas educacionais.
No entanto, é importante reconhecer que a implementação da IA na educação não está isenta de desafios, como destaque a privacidade e segurança dos dados dos alunos são preocupações centrais que devem ser abordadas com extrema cautela.; sendo assim, os sistemas de IA devem garantir a proteção e anonimato dos dados coletados, assegurando que informações sensíveis não sejam expostas ou mal utilizadas.
Além disso, a equidade na educação também é uma questão crítica a ser considerada, embora a personalização e a avaliação adaptativa tenham o potencial de beneficiar os alunos, é essencial garantir que essas tecnologias não perpetuem desigualdades existentes.
Os algoritmos devem ser constantemente avaliados quanto a viés e discriminação, e os educadores devem estar atentos para garantir que todos os alunos tenham acesso igualitário a oportunidades de aprendizado, e à medida que avançamos no uso da IA na educação, é imperativo que educadores, pesquisadores, legisladores e desenvolvedores trabalhem em conjunto para estabelecer diretrizes éticas e políticas sólidas que garantam a utilização responsável e benéfica dessa tecnologia.
Em suma, a Inteligência Artificial oferece possibilidades promissoras para aprimorar a educação, tornando-a mais personalizada, adaptativa e inclusiva, onde a personalização da aprendizagem e a avaliação adaptativa, quando aplicadas com sensibilidade e responsabilidade, têm o potencial de transformar positivamente a forma como os alunos aprendem e os educadores ensinam.
A IA pode abrir novas fronteiras no campo da educação, capacitando os alunos a alcançarem seu pleno potencial e preparando-os para os desafios de um mundo em constante evolução; contudo, é fundamental lembrar que a IA deve sempre ser uma aliada da educação, complementando e fortalecendo as práticas pedagógicas, mas nunca substituindo o papel insubstituível dos educadores na formação de mentes brilhantes e cidadãos conscientes, sempre tendo uma abordagem cuidadosa e centrada no ser humano, a IA pode, de fato, revolucionar a educação e criar um futuro mais promissor para a próxima geração.
REFERÊNCIAS BIBLIOGRÁFICAS
ALPAYDIN, E. Machine Learning: The New AI. MIT Press, 2016.
ANDRÉ, M. E. D. A. Estudo de caso em pesquisa e avaliação educacional. Brasília: Liber Livro Editora, 2013.
BAKER, R. S.; INVENTADO, P. S. Educational Data Mining and Learning Analytics. In Handbook of Educational Psychology, pp. 506-519. American Psychological Association, 2014.
BRYNJOLFSSON, E.; MCAFEE, A. The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. W. W. Norton & Company, 2014.
BRYSON, J. Artificial Intelligence Ethics for Digital Educators. Routledge, 2020.
DILLAHUNT, T. R.; WANG, B.; WANG, J.; MURPHY, J. Towards Achieving Algorithmic Equity in Online Education. Proceedings of the 2019 CHI Conference on Human Factors in Computing Systems, pp. 1-12, 2019.
DIAKOPOULOS, N. Accountability in Algorithmic Decision Making. Communications of the ACM, 59(2), pp. 56-62, 2016.
FLORIDI, L. The Logic of Information: A Theory of Philosophy as Conceptual Design. Oxford University Press, 2019.
GIL, A. C. Como elaborar projetos de pesquisa. 6. ed. São Paulo: Atlas, 2019.
GWEON, G.; LEE, J. The Effects of Conversational Agents on Student Engagement and Learning. Educational Technology Research and Development, 66(4), pp. 883-901, 2018.
HILDEBRANDT, M. The Commodification of Personal Data: What Price Privacy? Information, Communication & Society, 16(9), pp. 1399-1417, 2013.
JORDAN, M. I.; MITCHELL, T. M. Machine Learning: Trends, Perspectives, and Prospects. Science, 349(6245), pp. 255-260, 2015.
KOEDINGER, K. R.; MCLAUGHLIN, E. A.; STAMPER, J. Automated Student Model Improvement. In International Handbook of the Learning Sciences, pp. 271-280. Routledge, 2019.
LIPTON, Z. C. The Mythos of Model Interpretability. In Proceedings of the 2016 Conference on Artificial Intelligence and Statistics (AISTATS), pp. 309-316, 2016.
NASCIMENTO-E-SILVA, M. V. A pesquisa qualitativa em educação ambiental. In: LOUREIRO, C. F. B.; LAYRARGUES, P. P.; CASTRO, R. S. (Orgs.). Pensamento complexo, dialética e educação ambiental. 4. ed. São Paulo: Cortez, 2012, p. 105-138.
NISSENBAUM, H. Privacy as Contextual Integrity. Washington Law Review, 79(1), pp. 101-139, 2004.
RIBAS, R. P.; OLIVO, J. M. Pesquisa indutiva. In: MARCONI, M. A.; LAKATOS, E. M. (Orgs.). Fundamentos de metodologia científica. 7. ed. São Paulo: Atlas, 2016, p. 111-126.
SELINGER, E.; HARTZOG, W. Pick Your Future: A Menu of Options for AI Ethics. IEEE Technology and Society Magazine, 37(4), pp. 26-37, 2018.
SHUTE, V. J. Focus on Formative Feedback. Review of Educational Research, 78(1), pp. 153-189, 2008.
SIEMENS, G. Connectivism: A Learning Theory for the Digital Age. International Journal of Instructional Technology and Distance Learning, 2(1), pp. 3-10, 2005.
VAN DEN AKKER, J.; BRANCH, R. M.; GUSTAFSON, K. L.; NIEVEEN, N.; PLOMP, T. Design Approaches and Tools in Education and Training. Springer, 2019.
VYGOTSKY, L. S. Mind in Society: The Development of Higher Psychological Processes. Harvard University Press, 1978.
ZANELLA, A. V. Pesquisa bibliográfica em educação ambiental. In: LOUREIRO, C. F. B.; LAYRARGUES, P. P.; CASTRO, R. S. (Orgs.). Pensamento complexo, dialética e educação ambiental. 4. ed. São Paulo: Cortez, 2013, p. 89-104.
1Doutor em Educação pela Universidade de São Paulo (USP) Orcid: 0009-0007-3645-1232 isidrofortaleza@hotmail.com
2Pós Doutor em Ciências da Educação University St Paul- Canadá https://orcid.org/0000-0002-8233-2628 profjc65@hotmail.com
3Mestrado em Enfermagem pela Universidade Federal de Mato Grossohttps://orcid.org/0000-0001-6501-5818 patricia.ferreira@univag.edu.br
4https://orcid.org/0009-0005-4294-6157 Mestrando em TICs Universidad Europea del Atlantico- Santander- España profpaulohdefaria@gmail.com
5Mestre em Ambiente e Saúde pela Universidade de Cuiabá – UNIC orcid.org/0009-0009-3654-2731 pippus@msn.com
6Orcid: https://orcid.org/0009-0006-3976-910X Universidade do Estado do Amazonas: Manaus, Amazonas, BR hilkecarlayle.adv@gmail.com