Guardrails são as barreiras de proteção configuradas em volta de um sistema de IA: o que ele pode responder, quais dados pode acessar, quais ações pode executar sem aprovação humana.
Tipos comuns
- De conteúdo: impedir que o chatbot informe tarifas que não estão na base oficial
- De dados: bloquear o envio de dados pessoais de clientes para ferramentas externas
- De ação: exigir aprovação humana antes de um agente emitir, cancelar ou reembolsar
- De escopo: limitar o assistente ao tema do negócio
Em travel
Guardrails são a condição para colocar IA em contato com cliente final ou com sistemas de emissão. A regra prática do setor: quanto mais autonomia o agente tem, mais explícitos precisam ser os limites e os pontos de aprovação humana.