Transparencia algorítmica ¿un problema normativo o tecnológico?
Con la evolución de las tecnologías, cada vez va a ser más frecuente que ciertas decisiones tales como selección de personal, otorgamiento de crédito o selección de parejas, sean adoptadas por sistemas de inteligencia artificial estructurados sobre la base de algoritmos de aprendizaje automático. M...
Saved in:
| Main Author: | |
|---|---|
| Format: | Article |
| Language: | English |
| Published: |
Universidad Católica de Temuco in Chile
2021-12-01
|
| Series: | CUHSO |
| Subjects: | |
| Online Access: | https://cuhso.uct.cl/index.php/CUHSO/article/view/39 |
| Tags: |
Add Tag
No Tags, Be the first to tag this record!
|
| _version_ | 1841525047558144000 |
|---|---|
| author | Carlos Fernando Araya Paz |
| author_facet | Carlos Fernando Araya Paz |
| author_sort | Carlos Fernando Araya Paz |
| collection | DOAJ |
| description |
Con la evolución de las tecnologías, cada vez va a ser más frecuente que ciertas decisiones tales como selección de personal, otorgamiento de crédito o selección de parejas, sean adoptadas por sistemas de inteligencia artificial estructurados sobre la base de algoritmos de aprendizaje automático. Muchas de esas decisiones pueden contener sesgos que derivan en decisiones discriminatorias que afectan al sujeto sobre el que recae dicha decisión.
Para revelar cómo se adoptaron dichas decisiones, se ha recurrido a la idea de transparencia en materia de algoritmos, implementándola a través de regulaciones. Dicho enfoque normativo o regulatorio resulta insuficiente para resolver el problema planteado, principalmente, porque ignora una premisa básica: la transparencia no es solamente un problema legal, sino también un problema tecnológico, que adquiere relevancia cuando se considera la naturaleza de los algoritmos involucrados, esto es, algoritmos de aprendizaje automático.
Los algoritmos de aprendizaje automático, por su parte, constituyen una tecnología idónea para obtener una automatización de procesos más sofisticada, pues supone acceder a reglas más inteligentes, potentes y flexibles, que se van corrigiendo a medida que los datos de la muestra van evolucionando y reconociendo variaciones en función de muchísimos factores. Sin embargo, el grado de sofisticación de estos algoritmos conlleva una complejidad de sus modelos que, a su vez, inciden en la dificultad para su interpretación.
El enfoque normativo desconoce la complejidad antes mencionada, generando un marco regulatorio insuficiente y rígido. El presente artículo propone superar dicha visión a través de propuestas flexibles, comprendiendo el rol de la tecnología, reconociendo su valor y estimulando su uso. En definitiva, propuestas que fomenten y fortalezcan la innovación en Chile.
|
| format | Article |
| id | doaj-art-38074fba903845c9abf78ab767ee3d99 |
| institution | Kabale University |
| issn | 2452-610X |
| language | English |
| publishDate | 2021-12-01 |
| publisher | Universidad Católica de Temuco in Chile |
| record_format | Article |
| series | CUHSO |
| spelling | doaj-art-38074fba903845c9abf78ab767ee3d992025-01-17T19:34:14ZengUniversidad Católica de Temuco in ChileCUHSO2452-610X2021-12-0131210.7770/cuhso-v31n2-art2196Transparencia algorítmica ¿un problema normativo o tecnológico?Carlos Fernando Araya Paz0Universidad Católica de Chile Con la evolución de las tecnologías, cada vez va a ser más frecuente que ciertas decisiones tales como selección de personal, otorgamiento de crédito o selección de parejas, sean adoptadas por sistemas de inteligencia artificial estructurados sobre la base de algoritmos de aprendizaje automático. Muchas de esas decisiones pueden contener sesgos que derivan en decisiones discriminatorias que afectan al sujeto sobre el que recae dicha decisión. Para revelar cómo se adoptaron dichas decisiones, se ha recurrido a la idea de transparencia en materia de algoritmos, implementándola a través de regulaciones. Dicho enfoque normativo o regulatorio resulta insuficiente para resolver el problema planteado, principalmente, porque ignora una premisa básica: la transparencia no es solamente un problema legal, sino también un problema tecnológico, que adquiere relevancia cuando se considera la naturaleza de los algoritmos involucrados, esto es, algoritmos de aprendizaje automático. Los algoritmos de aprendizaje automático, por su parte, constituyen una tecnología idónea para obtener una automatización de procesos más sofisticada, pues supone acceder a reglas más inteligentes, potentes y flexibles, que se van corrigiendo a medida que los datos de la muestra van evolucionando y reconociendo variaciones en función de muchísimos factores. Sin embargo, el grado de sofisticación de estos algoritmos conlleva una complejidad de sus modelos que, a su vez, inciden en la dificultad para su interpretación. El enfoque normativo desconoce la complejidad antes mencionada, generando un marco regulatorio insuficiente y rígido. El presente artículo propone superar dicha visión a través de propuestas flexibles, comprendiendo el rol de la tecnología, reconociendo su valor y estimulando su uso. En definitiva, propuestas que fomenten y fortalezcan la innovación en Chile. https://cuhso.uct.cl/index.php/CUHSO/article/view/39Transicion democraticaproyecto refundacionalcontexto economicoreformas |
| spellingShingle | Carlos Fernando Araya Paz Transparencia algorítmica ¿un problema normativo o tecnológico? CUHSO Transicion democratica proyecto refundacional contexto economico reformas |
| title | Transparencia algorítmica ¿un problema normativo o tecnológico? |
| title_full | Transparencia algorítmica ¿un problema normativo o tecnológico? |
| title_fullStr | Transparencia algorítmica ¿un problema normativo o tecnológico? |
| title_full_unstemmed | Transparencia algorítmica ¿un problema normativo o tecnológico? |
| title_short | Transparencia algorítmica ¿un problema normativo o tecnológico? |
| title_sort | transparencia algoritmica un problema normativo o tecnologico |
| topic | Transicion democratica proyecto refundacional contexto economico reformas |
| url | https://cuhso.uct.cl/index.php/CUHSO/article/view/39 |
| work_keys_str_mv | AT carlosfernandoarayapaz transparenciaalgoritmicaunproblemanormativootecnologico |