Tác nhân / NAVIN RESEARCH
Human Approval Gates for High-Risk AI Agent Actions
Place approval at the last responsible moment and show people exactly what the agent intends to do.
Place approval at the last responsible moment and show people exactly what the agent intends to do.
Tóm tắt: Require approval for irreversible, externally visible, expensive, or privilege-changing actions. Generate a preview from validated structured arguments, freeze those arguments while approval is pending, and execute exactly the approved operation.
Các bước triển khai
- Classify tools by risk and define policy outside the prompt.
- Show target, scope, cost, data exposure, and rollback options in the approval view.
- Bind approval to a hash of the normalized request.
- Expire approvals and require re-approval after any material change.
Danh sách kiểm tra
- Change an argument after preview and ensure execution is blocked.
- Test cancellation, timeout, and duplicate-submit behavior.
- Audit who approved what without recording excess sensitive content.
Sai lầm thường gặp
- A generic 'Are you sure?' dialog.
- Approval before the agent has concrete arguments.
- Letting the model decide whether its own action requires review.
Quyết định thực tế
Hãy triển khai thiết kế nhỏ nhất vượt qua các bước kiểm tra ở trên. Ghi lại phiên bản mô hình, prompt, công cụ, dữ liệu và runtime đã dùng để kiểm thử để những thay đổi sau này có thể được so sánh thay vì phỏng đoán. Kiểm tra lại tài liệu được liên kết trước khi dựa vào giới hạn, tên mô hình, giá hoặc tính năng thử nghiệm của nhà cung cấp.
