Engenharia de prompts e segurança de IA

De tecnicas Zero-shot, Few-shot e CoT a Guardrails e defesa contra injecao de prompts — engenharia de prompts e seguranca de IA para AIF-C01.

O que é Engenharia de Prompts?

A engenharia de prompts é a prática de projetar texto de entrada (prompts) para obter resultados desejados de modelos de IA — sem modificar o modelo em si.

É como dar instruções precisas a um chef: "Faça algo gostoso" dá resultados imprevisíveis. "Baixo em calorias, vegetariano, sem pimenta, pronto em 20 minutos" obtém exatamente o que você quer.

No AIF-C01, a engenharia de prompts aparece no Domínio 2 e no Domínio 3.

---

 

As 4 Técnicas Principais de Prompts

Zero-shot Solicitar uma tarefa sem exemplos. A abordagem mais simples e rápida. Melhor para: classificação simples, resumo, tradução.

Few-shot Fornecer 2–5 exemplos antes da sua solicitação real. Mostra à IA o formato e padrão que você quer. Melhor para: tarefas críticas de formato, escrita com estilo específico.

Chain-of-Thought (CoT) Guiar o modelo a raciocinar passo a passo. Melhora dramaticamente a precisão para matemática e lógica complexa. Frases de ativação: "Vamos pensar passo a passo" / "Raciocine isso sistematicamente"

System Prompt Camada de instrução oculta que define o papel, persona e regras do modelo. Os usuários normalmente não a veem.

!As 4 técnicas principais de engenharia de prompts

Ameaças de Segurança de Prompts

Injeção de Prompts: Atacantes inserem texto malicioso para substituir regras do prompt do sistema. Vazamento de Prompts: Atacantes enganam o modelo para revelar o conteúdo do prompt do sistema. Jailbreaking: Atacantes tentam contornar as diretrizes de segurança da IA.

Defesa: Bedrock Guardrails + validação de entradas + prompts de sistema reforçados.

---

 

Referência Rápida do Exame

| Conceito | Ponto do Exame | |---------|---------------| | Zero-shot | Sem exemplos, adequado para tarefas simples | | Few-shot | 2–5 exemplos, melhor para tarefas críticas de formato | | Chain-of-Thought | Raciocínio passo a passo, melhora a precisão | | System Prompt | Predefine papel/regras do modelo, oculto para usuários | | Temperatura | Menor = previsível, Maior = criativo | | Bedrock Guardrails | Filtro de segurança bidirecional com mascaramento de PII | | Injeção de Prompts | Entrada maliciosa substitui regras do prompt do sistema |

Voltar à lista do blog