Capacidades y Riesgos de la IA Generativa
La IA generativa puede escribir, diseñar y programar como un asistente muy capaz. Pero a veces afirma información incorrecta con confianza o genera contenido dañino. El examen AIF-C01 requiere comprender tanto las capacidades como los riesgos.
---
Las 7 Capacidades Clave de la IA Generativa
| Capacidad | Explicación Simple | |-----------|-------------------| | Adaptabilidad | El mismo modelo responde preguntas de cocina y preguntas legales. | | Capacidad de respuesta | Las respuestas aparecen casi de inmediato. | | Simplicidad | Una enorme complejidad se oculta detrás de una interfaz de chat simple. | | Creatividad | Genera ideas, eslóganes o fragmentos de código que nunca existieron antes. | | Eficiencia de datos | Funciona bien incluso con conjuntos de datos pequeños. | | Personalización | Puede responder de forma simple a un niño y técnicamente a un experto. | | Escalabilidad | Maneja millones de usuarios simultáneos. |
---
Principales Desafíos
Violaciones regulatorias, riesgos sociales, seguridad de datos Contenido tóxico, alucinaciones, falta de interpretabilidad No determinismo, plagio y trampa
---
Toxicidad y Alucinaciones
La toxicidad es contenido ofensivo o inapropiado. Las alucinaciones ocurren cuando la IA afirma información falsa con confianza. La solución clave para alucinaciones es RAG (Recuperación Aumentada por Generación).
Estrategias: curación de datos de entrenamiento, Guardrails, HITL, etiquetado de salidas.
---
Usos Indebidos de Prompts — 5 Tipos
Envenenamiento (Poisoning) Secuestro / Inyección de Prompt Exposición de Información Sensible Filtración de Prompt Jailbreaking
---
Resumen para el Examen
7 capacidades: Adaptabilidad, Capacidad de respuesta, Simplicidad, Creatividad, Eficiencia de datos, Personalización, Escalabilidad Alucinación → RAG; Toxicidad → Guardrails + curación + HITL Guardrails for Amazon Bedrock gestiona filtrado de toxicidad, eliminación de PII y bloqueo de temas sensibles