Đánh giá an toàn / NAVIN RESEARCH
Privacy Engineering for AI Applications
Minimize data, define retention, isolate tenants, control logs, and make deletion testable.
Minimize data, define retention, isolate tenants, control logs, and make deletion testable.
Tóm tắt: Collect and send only data required for the task. Document where prompts, files, embeddings, caches, traces, and backups go; who can access them; how long they remain; and how deletion propagates. Provider settings do not replace application governance.
Các bước triển khai
- Create a data-flow inventory for every model and tool call.
- Classify fields and redact before logging or evaluation storage.
- Apply tenant-aware authorization to retrieval and memory.
- Test access, export, correction, and deletion procedures.
Danh sách kiểm tra
- Inspect logs and traces for accidental secrets.
- Verify retention jobs and backup policies.
- Review subprocessors and regional processing requirements.
Sai lầm thường gặp
- Sending full records when a few fields suffice.
- Using production prompts as an unlabeled eval corpus.
- Claiming zero retention without checking every connected service.
Quyết định thực tế
Hãy triển khai thiết kế nhỏ nhất vượt qua các bước kiểm tra ở trên. Ghi lại phiên bản mô hình, prompt, công cụ, dữ liệu và runtime đã dùng để kiểm thử để những thay đổi sau này có thể được so sánh thay vì phỏng đoán. Kiểm tra lại tài liệu được liên kết trước khi dựa vào giới hạn, tên mô hình, giá hoặc tính năng thử nghiệm của nhà cung cấp.
