Capacidades e Riscos da IA Generativa
A IA generativa pode escrever, criar e programar como um assistente muito capaz. Mas às vezes afirma informações incorretas com confiança ou gera conteúdo prejudicial. O exame AIF-C01 exige compreender tanto as capacidades quanto os riscos.
---
As 7 Capacidades Principais da IA Generativa
| Capacidade | Explicação Simples | |-----------|-------------------| | Adaptabilidade | O mesmo modelo responde perguntas de culinária e perguntas jurídicas. | | Capacidade de resposta | As respostas aparecem quase instantaneamente. | | Simplicidade | Enorme complexidade escondida por trás de uma interface de chat simples. | | Criatividade | Gera ideias, slogans ou trechos de código que nunca existiram. | | Eficiência de dados | Funciona bem mesmo com conjuntos de dados menores. | | Personalização | Pode responder de forma simples a uma criança e tecnicamente a um especialista. | | Escalabilidade | Processa milhões de usuários simultâneos. |
---
Principais Desafios
Violações regulatórias, riscos sociais, segurança de dados Conteúdo tóxico, alucinações, não interpretabilidade Não determinismo, plágio e trapaça
---
Toxicidade e Alucinações
Toxicidade é conteúdo ofensivo ou inapropriado. Alucinações ocorrem quando a IA afirma informações falsas com confiança. A solução principal para alucinações é RAG.
Estratégias: curadoria de dados de treinamento, Guardrails, HITL, rotulagem de saídas.
---
Usos Indevidos de Prompts — 5 Tipos
Envenenamento (Poisoning) Sequestro / Injeção de Prompt Exposição de Informações Sensíveis Vazamento de Prompt Jailbreaking
---
Resumo para o Exame
7 capacidades: Adaptabilidade, Responsividade, Simplicidade, Criatividade, Eficiência de dados, Personalização, Escalabilidade Alucinação → RAG; Toxicidade → Guardrails + curadoria + HITL Guardrails for Amazon Bedrock gerencia filtragem de toxicidade, remoção de PII e bloqueio de tópicos sensíveis