Concepto

Proceso para identificar, documentar y comunicar de manera efectiva cualquier problema o sesgo detectado en el funcionamiento de herramientas de inteligencia artificial.

Definición

Reportar problemas o sesgos en IA implica reconocer anomalías en los resultados generados por algoritmos, documentar evidencias del comportamiento inadecuado y seguir los canales institucionales establecidos para su revisión y corrección.

Pregunta y Respuesta

Pregunta: ¿Por qué es importante reportar problemas o sesgos en herramientas de IA?

Respuesta: Permite mejorar la calidad, la equidad y la transparencia de los sistemas de IA, contribuyendo a que estos sean más justos, precisos y alineados con los principios éticos institucionales.

Caso de Uso

En una universidad, un estudiante detecta un sesgo en un sistema de IA que afecta la calificación de tareas escritas. El estudiante utiliza un formulario institucional para reportar el problema, permitiendo que el equipo técnico analice y corrija el sesgo identificado.

Tres Preguntas para Profundizar

1. ¿Cuáles son los indicadores que podrían sugerir la presencia de un sesgo en una herramienta de IA?
2. ¿Qué procedimientos debe seguir una institución para gestionar los reportes de sesgos en IA?
3. ¿Cómo se garantiza la transparencia en el proceso de revisión de problemas reportados?

Recursos Adicionales

Escanea el siguiente código QR para acceder a una guía sobre la detección y reporte de sesgos en IA.