¿Qué es la IA Responsable?
La IA Responsable es un conjunto de principios y prácticas que garantizan que los sistemas de IA operen de manera justa, segura y con respeto por los valores humanos.
Considera una IA de contratación entrenada con 10 años de datos donde el 80% de los contratados eran hombres. La IA probablemente perjudicaría a las candidatas sin que nadie programara ese sesgo intencionalmente.
En AIF-C01, la IA Responsable cubre todo el Dominio 4, aproximadamente el 14% del examen.
---
Principios de IA Responsable de AWS
| Principio | Significado | |-----------|-------------| | Equidad | Trato igualitario para todos los grupos | | Explicabilidad | Las decisiones de IA pueden entenderse y explicarse | | Privacidad | Recolección mínima de datos, almacenamiento seguro | | Seguridad | Prevenir acceso no autorizado a IA | | Seguridad | Prevenir salidas dañinas | | Controlabilidad | Los humanos pueden controlar y anular la IA | | Veracidad | Precisión y confiabilidad de los outputs de IA |
---
Tipos de Sesgo de IA
Sesgo de Muestreo: Los datos no representan adecuadamente ciertos grupos Sesgo de Etiquetado: El sesgo subjetivo del etiquetador queda en los datos Sesgo Histórico: La desigualdad social pasada capturada en datos históricos Sesgo de Medición: Métricas de rendimiento diseñadas injustamente para ciertos grupos Sesgo de Agregación: Combinar diferentes poblaciones produce malos resultados para subgrupos
---
Referencia Rápida del Examen
| Concepto | Punto del Examen | |---------|-----------------| | SageMaker Clarify | Detección de sesgo pre/post-entrenamiento + explicabilidad SHAP | | Amazon A2I | Revisión humana automática para predicciones de baja confianza | | Bedrock Guardrails | Filtro de seguridad bidireccional con enmascaramiento de PII |