AS DUALIDADES ENTRE O USO DA INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO E OS RISCOS DE VIESES ALGORÍTMICOS
RESUMO O estudo busca identificar as dualidades entre o uso da inteligência artificial (IA) na educação e os riscos de vieses algorítmicos. A pesquisa se insere como qualitativa e uma revisão sistemática de literatura com apoio bibliométrico. A coleta de dados ocorreu nas bases Scopus, Web of Scienc...
Saved in:
| Main Authors: | , , |
|---|---|
| Format: | Article |
| Language: | English |
| Published: |
Centro de Estudos Educação e Sociedade (CEDES)
2025-01-01
|
| Series: | Educação & Sociedade |
| Subjects: | |
| Online Access: | http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0101-73302025000100301&lng=pt&tlng=pt |
| Tags: |
Add Tag
No Tags, Be the first to tag this record!
|
| _version_ | 1841538781474193408 |
|---|---|
| author | João Marcos Heggler Romeu Miqueias Szmoski Awdry Feisser Miquelin |
| author_facet | João Marcos Heggler Romeu Miqueias Szmoski Awdry Feisser Miquelin |
| author_sort | João Marcos Heggler |
| collection | DOAJ |
| description | RESUMO O estudo busca identificar as dualidades entre o uso da inteligência artificial (IA) na educação e os riscos de vieses algorítmicos. A pesquisa se insere como qualitativa e uma revisão sistemática de literatura com apoio bibliométrico. A coleta de dados ocorreu nas bases Scopus, Web of Science e ScienceDirect, e ao final foram selecionados 16 artigos para análise e interpretação. A hipótese levantada é de que os vieses algorítmicos na educação podem comprometer a equidade e a eficácia dos processos educativos. Os vieses foram apontados desde a codificação dos algoritmos até o processamento automatizado, o que pode impactar o desempenho dos alunos e ampliar as desigualdades. Medidas sugeridas para mitigação incluem os cuidados nas fases de treinamento e implementação dos algoritmos, desenvolvimento de práticas de reparação algorítmica, supervisão das plataformas e a necessidade de tecnologias justas e confiáveis. Como resposta à hipótese, conclui-se que a eficácia da IA na educação depende de um treinamento contínuo e inclusivo dos algoritmos e da conscientização de seus usuários sobre os riscos dos vieses algorítmicos, de forma que os sistemas possam ser aperfeiçoados para evitar a reprodução de injustiças sociais. Recomenda-se uma abordagem ética e colaborativa para garantir que a IA contribua para uma educação mais justa. A interação entre os alunos e a IA pode suscitar uma reflexão crítica sobre os feedbacks recebidos, pois eles precisam saber identificar se os resultados são confiáveis, atualizados e não tendenciosos, uma vez que a IA pode demorar a incorporar novos dados de treinamento nos algoritmos. |
| format | Article |
| id | doaj-art-7dfc3ffdd4a04138a2b454d07f3fca9b |
| institution | Kabale University |
| issn | 1678-4626 |
| language | English |
| publishDate | 2025-01-01 |
| publisher | Centro de Estudos Educação e Sociedade (CEDES) |
| record_format | Article |
| series | Educação & Sociedade |
| spelling | doaj-art-7dfc3ffdd4a04138a2b454d07f3fca9b2025-01-14T07:39:01ZengCentro de Estudos Educação e Sociedade (CEDES)Educação & Sociedade1678-46262025-01-014610.1590/es.289323AS DUALIDADES ENTRE O USO DA INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO E OS RISCOS DE VIESES ALGORÍTMICOSJoão Marcos Hegglerhttps://orcid.org/0000-0002-7044-6644Romeu Miqueias Szmoskihttps://orcid.org/0000-0002-0968-7158Awdry Feisser Miquelinhttps://orcid.org/0000-0002-7459-3780RESUMO O estudo busca identificar as dualidades entre o uso da inteligência artificial (IA) na educação e os riscos de vieses algorítmicos. A pesquisa se insere como qualitativa e uma revisão sistemática de literatura com apoio bibliométrico. A coleta de dados ocorreu nas bases Scopus, Web of Science e ScienceDirect, e ao final foram selecionados 16 artigos para análise e interpretação. A hipótese levantada é de que os vieses algorítmicos na educação podem comprometer a equidade e a eficácia dos processos educativos. Os vieses foram apontados desde a codificação dos algoritmos até o processamento automatizado, o que pode impactar o desempenho dos alunos e ampliar as desigualdades. Medidas sugeridas para mitigação incluem os cuidados nas fases de treinamento e implementação dos algoritmos, desenvolvimento de práticas de reparação algorítmica, supervisão das plataformas e a necessidade de tecnologias justas e confiáveis. Como resposta à hipótese, conclui-se que a eficácia da IA na educação depende de um treinamento contínuo e inclusivo dos algoritmos e da conscientização de seus usuários sobre os riscos dos vieses algorítmicos, de forma que os sistemas possam ser aperfeiçoados para evitar a reprodução de injustiças sociais. Recomenda-se uma abordagem ética e colaborativa para garantir que a IA contribua para uma educação mais justa. A interação entre os alunos e a IA pode suscitar uma reflexão crítica sobre os feedbacks recebidos, pois eles precisam saber identificar se os resultados são confiáveis, atualizados e não tendenciosos, uma vez que a IA pode demorar a incorporar novos dados de treinamento nos algoritmos.http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0101-73302025000100301&lng=pt&tlng=ptViés algorítmicoAlgoritmoInteligência artificialEducação |
| spellingShingle | João Marcos Heggler Romeu Miqueias Szmoski Awdry Feisser Miquelin AS DUALIDADES ENTRE O USO DA INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO E OS RISCOS DE VIESES ALGORÍTMICOS Educação & Sociedade Viés algorítmico Algoritmo Inteligência artificial Educação |
| title | AS DUALIDADES ENTRE O USO DA INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO E OS RISCOS DE VIESES ALGORÍTMICOS |
| title_full | AS DUALIDADES ENTRE O USO DA INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO E OS RISCOS DE VIESES ALGORÍTMICOS |
| title_fullStr | AS DUALIDADES ENTRE O USO DA INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO E OS RISCOS DE VIESES ALGORÍTMICOS |
| title_full_unstemmed | AS DUALIDADES ENTRE O USO DA INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO E OS RISCOS DE VIESES ALGORÍTMICOS |
| title_short | AS DUALIDADES ENTRE O USO DA INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO E OS RISCOS DE VIESES ALGORÍTMICOS |
| title_sort | as dualidades entre o uso da inteligencia artificial na educacao e os riscos de vieses algoritmicos |
| topic | Viés algorítmico Algoritmo Inteligência artificial Educação |
| url | http://www.scielo.br/scielo.php?script=sci_arttext&pid=S0101-73302025000100301&lng=pt&tlng=pt |
| work_keys_str_mv | AT joaomarcosheggler asdualidadesentreousodainteligenciaartificialnaeducacaoeosriscosdeviesesalgoritmicos AT romeumiqueiasszmoski asdualidadesentreousodainteligenciaartificialnaeducacaoeosriscosdeviesesalgoritmicos AT awdryfeissermiquelin asdualidadesentreousodainteligenciaartificialnaeducacaoeosriscosdeviesesalgoritmicos |