AS IMPLICAÇÕES ÉTICAS DO USO DE CHATBOTS GENERATIVOS NO ENSINO SUPERIOR

A incorporação da inteligência artificial (IA) na educação, especialmente por meio de chatbots generativos, pode revolucionar tanto a administração quanto a pedagogia no ensino superior. No entanto, é crucial considerar cuidadosamente as implicações éticas dessa utilização. Embora a discussão sobre as preocupações éticas com chatbots avançados ainda seja incipiente no setor educacional, este artigo pretende explorar essas questões. A metodologia adotada neste estudo foi uma revisão sistemática da literatura. Foram consultadas bases de dados acadêmicos, como Scopus e Google Scholar. O uso de chatbots que tratam de dados confidenciais dos alunos levanta sérias questões de privacidade. É essencial aderir aos regulamentos de proteção de dados, o que pode ser desafiador. A manipulação inadequada dessas informações pode resultar em violações de privacidade significativas. Há um risco inerente de preconceito algorítmico nos chatbots, que pode perpetuar preconceitos sociais existentes. Este é um problema potencialmente grave, pois algoritmos enviesados podem reforçar estereótipos e discriminações. Outro ponto crítico é o equilíbrio entre promover a autonomia dos alunos na aprendizagem e evitar uma dependência excessiva da IA. O artigo mostrou que uso indiscriminado de chatbots pode afetar negativamente a auto eficácia acadêmica dos alunos, tornando-os excessivamente dependentes da tecnologia para tarefas educativas. O plágio continua a ser uma preocupação ética relevante, já que o conteúdo gerado pela IA pode comprometer a integridade acadêmica. Conclui-se que medidas abrangentes, como políticas claras, técnicas avançadas de detecção de plágio e métodos inovadores de avaliação, são necessárias para mitigar este problema.