Scribd
Cargar
19 vistas2 páginas

Evaluación Ética de Casos Reales: Objetivo

El documento aborda la evaluación ética de la inteligencia artificial en el sector público, analizando casos reales como el reconocimiento facial, AuroraAI, sesgos en algoritmos de búsqueda y predicción de reincidencia criminal. Se plantean dilemas éticos relacionados con la privacidad, justicia y transparencia, así como el impacto en la confianza pública. Además, se sugieren medidas de gobernanza y controles éticos para mitigar riesgos asociados a la IA.

Cargado por

nattygtt2021
Derechos de autor
© © All Rights Reserved
Nos tomamos en serio los derechos de los contenidos. Si sospechas que se trata de tu contenido, reclámalo aquí.
Formatos disponibles
Descarga como PDF, TXT o lee en línea desde Scribd
19 vistas2 páginas

Evaluación Ética de Casos Reales: Objetivo

El documento aborda la evaluación ética de la inteligencia artificial en el sector público, analizando casos reales como el reconocimiento facial, AuroraAI, sesgos en algoritmos de búsqueda y predicción de reincidencia criminal. Se plantean dilemas éticos relacionados con la privacidad, justicia y transparencia, así como el impacto en la confianza pública. Además, se sugieren medidas de gobernanza y controles éticos para mitigar riesgos asociados a la IA.

Cargado por

nattygtt2021
Derechos de autor
© © All Rights Reserved
Nos tomamos en serio los derechos de los contenidos. Si sospechas que se trata de tu contenido, reclámalo aquí.
Formatos disponibles
Descarga como PDF, TXT o lee en línea desde Scribd

Evaluación Ética de Casos

Reales
Objetivo
Reforzar la comprensión de los principios éticos y las
consideraciones de gobernanza en la aplicación de la
inteligencia artificial (IA) en el sector público.

Actividad
En esta actividad, reflexionarás sobre casos reales en los que
la IA ha sido utilizada en el sector público y evaluarás las
implicaciones éticas y de gobernanza. A continuación se
describen los casos, junto con preguntas de reflexión para cada
uno.

Casos a evaluar

Reconocimiento facial en la seguridad pública: Muchas ciudades


han implementado IA para el reconocimiento facial en espacios
públicos para mejorar la seguridad. Sin embargo, estos
sistemas han sido criticados por comprometer la privacidad y
mostrar sesgos raciales, ya que tienden a ser menos precisos
al identificar a personas de minorías raciales, lo que podría
llevar a discriminación y vigilancia desproporcionada​

Lectura: UNESCO

AuroraAI: AuroraAI es un proyecto en Finlandia que conecta


servicios públicos utilizando IA para ofrecer recomendaciones
personalizadas. Aunque esta tecnología promete mejorar la
eficiencia de los servicios, plantea preocupaciones sobre la
privacidad de los datos y el posible control excesivo sobre la
vida de los ciudadanos. La implementación de este sistema ha
requerido la supervisión de un comité ético para garantizar la
transparencia y el respeto a los derechos individuales​
.

Lectura: Frontiers
Sesgo en algoritmos de búsqueda: Los algoritmos de IA en
motores de búsqueda pueden reforzar estereotipos y sesgos. Por
ejemplo, las búsquedas de “grandes líderes” suelen mostrar
predominantemente a hombres, mientras que términos como “niñas
escolares” pueden arrojar resultados con contenido
sexualizado. Esto resalta cómo los sesgos en los datos de
entrenamiento de IA pueden reflejar prejuicios existentes en
la sociedad y afectar negativamente la percepción pública​

Lectura: UNESCO

Predicción de reincidencia criminal en EE. UU: La policía


predictiva utiliza algoritmos para identificar áreas y
personas con mayor riesgo de criminalidad, basándose en datos
históricos. Departamentos de policía en ciudades como Los
Ángeles y Nueva York han adoptado herramientas como PredPol,
financiadas por agencias federales y desarrolladas en
colaboración con entidades privadas. Estos sistemas han
generado controversia debido a su falta de transparencia, el
sesgo racial en los datos de entrenamiento y su potencial para
violar derechos civiles.

Lectura: Universidad de Michigan

Reflexión

Para cada caso, responde las siguientes preguntas de reflexión:

¿Cuáles son los principales dilemas éticos de este caso?


Reflexiona sobre cuestiones como privacidad, justicia y
transparencia que puedan surgir en cada situación.

¿Cómo crees que el uso de IA en este caso afecta la confianza


del público en las instituciones?
Considera si la implementación de IA en cada caso podría generar
desconfianza en la población debido a posibles sesgos o invasión
de privacidad.

¿Qué medidas de gobernanza o controles éticos propondrías para


mitigar los riesgos asociados a la IA en este contexto?
Piensa en posibles soluciones como la creación de comités
éticos, ajustes en los algoritmos o mejores prácticas de
transparencia para reducir los riesgos.

También podría gustarte