資安、隱私與治理

辨認資產、信任邊界與威脅，控制誰能對什麼資料做什麼事

辨認資產、信任邊界與威脅，控制誰能對什麼資料做什麼事

Security 不是最後加上的功能

需求：資料與法規要求
設計：trust boundary 與權限模型
實作：安全預設、輸入驗證、secret
測試：scan、abuse case、penetration test
部署：最小權限與環境隔離
維運：audit、patch、incident response

Threat Modeling

  • 保護哪些 asset：資料、帳號、服務、模型、金鑰
  • 攻擊者可能是誰？具備哪些能力？
  • Entry point、data flow 與 trust boundary 在哪裡？
  • Spoofing、tampering、repudiation、information disclosure
  • Denial of service、elevation of privilege

Authentication 與 Authorization

概念 問題
Authentication 你是誰？
Authorization 你可以做什麼？
Session／Token 如何延續與驗證身分？
RBAC／ABAC 權限依角色或屬性如何判斷？
Least privilege 只給完成任務所需的最小能力

Input、Output 與 Injection

  • 所有外部輸入都不可信任
  • Validation、normalization、allowlist、size limit
  • SQL、command、template、path traversal、XSS
  • Parameterized query 與安全 API
  • Output encoding、content security policy 與錯誤訊息

Secret 與 Credential

  • Password、API key、private key、certificate、token
  • 不寫進 Code、Git、log、prompt 或公開 artifact
  • 使用 secret manager、短期 credential 與自動輪替
  • 不同環境、服務與人員使用不同權限
  • 洩漏時需要 revoke、rotate、audit 與事故處理

Dependency 與供應鏈

  • Package 來源、maintainer、版本與 checksum
  • Lockfile、registry、signature、provenance
  • SBOM、CVE、dependency scan 與 patch policy
  • Build runner、CI action、container base image 也是依賴
  • 防範 typosquatting、惡意更新與被接管的套件

資料安全與隱私

  • Data classification：公開、內部、敏感、機密
  • Encryption in transit／at rest 與 key management
  • Data minimization、retention、backup、deletion
  • 個資遮罩、匿名化、測試資料與跨境傳輸
  • 誰讀過、改過、匯出或刪除，要留下 audit trail

Agent 特有的安全邊界

  • Prompt injection 與不可信文件中的指令
  • Agent 可以使用哪些 tool、network、credential？
  • Read、write、execute、deploy、delete 分開授權
  • Sandbox、allowlist、approval 與操作紀錄
  • 模型輸出不能直接成為高風險操作的唯一依據

Security Testing

  • SAST、DAST、dependency scan、secret scan
  • Container、IaC、cloud configuration scan
  • Abuse case、permission test、fuzzing
  • Penetration test 與 red team exercise
  • False positive、severity、exploitability 與 remediation SLA

Vulnerability Management

發現 → 確認影響版本與資產
    → 分級與指定 owner
    → 緩解／修補／升級
    → 測試與部署
    → 驗證、公告、追蹤

CVSS 是參考，仍要結合實際暴露與業務影響。

Governance 與 Audit

  • Policy、standard、procedure、exception
  • Separation of duties 與 approval workflow
  • Change log、access log、deployment record
  • Data owner、system owner、risk owner
  • 合規證據要能由實際紀錄產生，不只是一份文件

看到 Agent 執行安全工作時

要知道它掃描了什麼範圍、使用什麼規則、
是否握有 credential，以及建議操作會影響哪些資產。

高風險結果必須有人查證並背書