"El modelo no conoce nuestro negocio" se puede resolver con ingeniería de prompts, RAG, fine-tuning o preentrenamiento continuo. En AIP-C01 el fine-tuning aparece mucho en las opciones, pero casi siempre como distractor: el examen espera que pruebe primero las opciones más ligeras.
Empiece por la opción más ligera
| Requisito | Elija | |-----------|-------| | Cambiar formato o tono con pocos ejemplos | Ingeniería de prompts (few-shot) | | Responder con documentos que cambian a menudo y citar fuentes | RAG (Bedrock Knowledge Bases) | | Formato y calidad constantes en una tarea, miles de ejemplos | Fine-tuning | | Aprender el lenguaje de un dominio con un gran corpus sin etiquetas | Preentrenamiento continuo | | Calidad de un modelo grande al costo de uno pequeño | Destilación | | Servir en Bedrock un modelo abierto entrenado fuera | Custom Model Import |
Separe conocimiento y comportamiento: los hechos que el modelo no conoce piden RAG; cambiar cómo se comporta pide fine-tuning.
!Espectro de personalización: empiece por la izquierda
Cuándo el fine-tuning es la respuesta incorrecta
Los datos cambian a diario: no se puede reentrenar tan seguido. Hay que mostrar las fuentes: los pesos no citan documentos. Cada usuario solo puede ver ciertos documentos: use RAG con filtros de metadatos. Solo hay unas decenas de ejemplos etiquetados: empiece con few-shot.
Despliegue y ciclo de vida
Con LoRA se entrenan pequeños adaptadores sobre un modelo base congelado, y un endpoint de SageMaker AI puede servir muchos adaptadores. SageMaker Model Registry gestiona versiones y aprobaciones, y los despliegues blue/green revierten automáticamente con alarmas de CloudWatch.
Puntos clave para el examen
"Información cambiante con citas" -- RAG "Conocimiento distinto según permisos del usuario" -- RAG + filtros de metadatos "Mismo formato de salida o tono de marca" -- Fine-tuning supervisado "Entrenar con puntuaciones de calidad" -- Reinforcement fine-tuning "Calidad de modelo grande a costo bajo" -- Destilación "Modelo abierto externo en Bedrock" -- Custom Model Import "Muchas variantes de dominio sobre un modelo base" -- Adaptadores LoRA "Al cambiar el modelo de embeddings" -- Volver a generar e indexar todos los documentos