Guia completo de treinamento e fine-tuning de FM

Domine as tecnicas de fine-tuning (RLHF, LoRA/PEFT) e as metricas de avaliacao (ROUGE, BLEU, BERTScore) com tabelas comparativas e analogias para iniciantes.

O que é Personalização de Modelos Fundacionais?

Modelos Fundacionais (FM) como Claude, GPT e Titan são pré-treinados com enormes quantidades de texto da internet — ótimos para tarefas gerais, mas com conhecimento limitado do domínio específico do seu negócio.

Pense em um recém-formado universitário: bases sólidas, mas precisa de treinamento específico do trabalho. A personalização de FM é o mesmo conceito.

---

 

Comparação de Métodos de Personalização

| Método | Descrição | Custo | Atualiza pesos? | |--------|-----------|-------|----------------| | Engenharia de Prompts | Ajusta apenas entradas | Muito baixo | Não | | RAG | Recupera docs externos + adiciona ao prompt | Baixo | Não | | Instruction Tuning | Ajuste fino com pares instrução-resposta | Médio | Sim | | Adaptação de Domínio | Treinamento adicional em texto do domínio | Alto | Sim | | RLHF | Aprende com feedback humano | Muito alto | Sim |

!Métodos de personalização de modelos fundacionais comparados por custo e atualização de pesos

Métricas de Avaliação de Modelos

| Métrica | Uso Principal | Medição | |---------|--------------|---------| | ROUGE | Avaliação de resumos | Sobreposição de palavras | | BLEU | Avaliação de traduções | Sobreposição de N-gramas | | BERTScore | Propósito geral | Similaridade semântica |

---

 

Referência Rápida do Exame

| Conceito | Ponto do Exame | |---------|---------------| | Engenharia de Prompts | Sem mudanças de pesos, personalização mais barata | | RAG | Adiciona conhecimento externo sem retreinamento | | RLHF | Aprendizado de preferências humanas, caro, usado no ChatGPT | | LoRA / PEFT | Atualiza pequeno subconjunto de parâmetros eficientemente | | ROUGE | Qualidade de resumo (sobreposição de palavras) | | BLEU | Qualidade de tradução (sobreposição de N-gramas) |

Voltar à lista do blog