←返回 AI 專欄列表
2026-10-28•11 min read · 11 分鐘閱讀•Joseph Cheung

導入 AI Agent 前安全清單:權限、監控、人工審批|香港中小企

香港中小企導入 AI Agent/AI 員工前,要先做好權限、人工審批、audit trail 與暫停機制。整理一份可執行安全清單,並對照 Deptai 預設真人把關與 edge case 升級做法。

#AI Agent 安全#人工審批#human in the loop#AI 導入清單

簡答: 導入 AI Agent 之前,先不要問「夠不夠聰明」,而是問「你給了它多大權限」——權限夠不夠細、關鍵動作有沒有人工審批、出事可不可以即停。一份最小可行安全清單,往往比急於上線更能保護客戶與你自己的團隊。

公開報道出現過 Agent 越權或洩露資料的爭議,企業導入前應先做好權限與審批——不必等出大事才補規則。以下是我建議香港中小企使用的實務清單,並對照 Deptai 在 AI Agents 服務 與 合作流程 的公開做法。

一、為何中小企更需要清單,而不是「先上線再說」?

中小企通常:

  • 沒有專職資安/合規團隊
  • Agent 往往直接接入 WhatsApp、Facebook、Slack、CRM
  • 一出事,老闆與前線要即刻向客戶解釋

所以安全不是「大企業才需要」,而是你給了自動化多少權限,就要有多嚴的閘門。風險不是模型「夠不夠聰明」,而是權限有多大——最小權限加人工審批,才是多數中小企做得到、又用得住的安全。想理解 AI Agent 可以做甚麼,可先參閱 AI Agents;想看大規模自動回覆的公開案例,可參考 自主 Facebook 專頁管理 與 相關案例文(公開數字:每日 10K+ 留言、回覆 <30 秒、CM 工時約 −85%——量度細節以案例頁為準)。

二、導入前必做安全清單(可列印逐項剔)

1. 最小權限(Least privilege)

  • Agent 只取得「完成這個工作流」需要的讀/寫權限
  • 分開:讀客戶資料 ≠ 可以改價 ≠ 可以對外發訊 ≠ 可以匯出整個 database
  • 用獨立帳號/API key,不要共用老闆個人登入

2. 對外/金錢/不可逆動作:必設人工審批

至少要過真人先執行的例子:

  • 對外發正式回覆(尤其涉及承諾、賠償、合約)
  • 改價、開折扣、確認訂單
  • 任何牽涉付款、退款、轉賬
  • 刪除或大量修改客戶資料

這就是 human-in-the-loop:AI 處理大部分重複步驟,關鍵 10% 留給真人——與 自動化流程服務 公開講法一致(AI 約處理 90% 重複、真人約 10% 關鍵;以服務頁表述為準)。

3. Logging/Audit trail

  • 記錄:哪個 agent、哪個動作、哪份資料、結果、有否升級/審批
  • 保留期與誰可以查看,要寫清楚
  • 出事時用 log 說明事實,不要靠「應該沒問題」

AI Agents 服務頁 公開提到 audit trail;導入時應要求供應商示範你如何查一條紀錄。

4. Edge case 自動升級給真人

  • 信心低、資料不齊、情緒激烈、政策灰色地帶 → 轉人
  • 寫明升級渠道(Slack/WhatsApp/工單)與回應時間期望
  • 「自主執行」並不等於「永遠不問人」

5. 資料存取邊界

  • 先分類:公開資訊/內部營運/客戶個人資料/高度敏感
  • 訂明哪類可以入 prompt、哪類永遠不可以自動外傳
  • 私隱合規細節另文再述/先諮詢顧問;本文不提供法律意見,亦不代替正式合規審查

6. Kill switch/暫停機制

  • 誰可以一鍵暫停 agent
  • 暫停後:停止對外動作、收回寫入權限、通知負責人
  • 定期演練一次「假警報暫停」,確認不是紙上談兵

7. 先在 staging/測試環境跑

  • 用測試帳號、假資料或脫敏資料
  • 覆蓋:正常流程、拒答、升級、審批拒絕、權限不足
  • 通過才接 production 通道

三、對照 Deptai 公開原則(不是口號,而是設計預設)

根據公開說明:

原則 公開來源 對你有甚麼意思
預設真人把關 合作流程 關鍵步驟不會假設「全自動就完結」
Edge case escalate 真人 AI Agents 異常情況有升級路徑
Audit trail AI Agents 動作可追溯
客戶擁有 code/資料/infra/文件 合作流程 權限與資產歸你,而不是鎖死在供應商
以週交付、可逐步加閘門 合作流程 可以先小範圍上線,再擴大權限

選擇供應商時,可以用這張表逐項問;如何評估顧問,亦可參考 香港 AI 顧問點揀。

四、建議的導入順序(由小至大)

  1. 選一個低風險工作流(例如內部知識查詢、常見 FAQ 草稿)
  2. 寫權限與審批表(哪些動作要人批)
  3. Staging 試跑 + 查看 audit log
  4. 小流量 production(限制對象/時段)
  5. 檢視升級率與誤判,才考慮擴大權限

保險前線知識查詢的公開案例寫明知識查詢加快約 80%,量度方法以 案例頁 為準;即使是「對內查知識」類 agent,同樣建議保留資料邊界與 log。更多量度細節以案例頁最新說明為準。

五、費用與起步方式(安全不等於一定很貴)

安全閘門是設計問題,不一定等同「要買最貴方案才有」。Deptai 可由 HK$0 免費診斷與 prototype 開始,用你真實(或脫敏)場景驗證權限與審批;正式上線可選 Launch,或按規模用 AI 部門方案。想預約診斷,前往 聯絡我們。

DEPTAI 的看法

AI Agent 的風險不是「夠不夠聰明」,而是「你給了它多大權限」。模型再強,只要對外發訊、改價、轉賬與刪資料不必經過真人,出事時你都是沒有閘門。

對多數香港中小企而言,可執行的安全就是兩樣:最小權限,加關鍵動作人工審批——再配 audit trail 與可即停的 kill switch。你可以先用 HK$0 診斷與 prototype 驗證這些閘門,再決定 Launch 或 AI 部門;想預約,前往 聯絡我們。

常見問題

導入 AI Agent 之前,最少要做齊甚麼?

最少要有:最小權限、對外/金錢動作要人工審批、完整 audit trail、edge case 升級真人、資料存取邊界、可即時暫停(kill switch),以及先在 staging/測試環境試跑。

甚麼叫 human-in-the-loop/人工審批關卡?

即 AI 可以處理大部分重複步驟,但關鍵動作(對外發訊、改價、轉賬、刪資料等)要經真人確認才執行。Deptai 的自動化流程與 AI Agent 服務都預設保留真人把關。

AI Agent 出錯或者越權,如何停用?

上線前就要有清晰的暫停/停用機制(kill switch):誰可以按、按下之後哪些權限即時收回、如何通知相關同事。不要等到出事後才問「如何停」。

Audit trail 要記錄甚麼?

最少記錄:誰(或哪個 agent)做了甚麼、何時、用了哪些資料、結果是成功還是升級給真人、有否經審批。出事時才有得追溯,而不是靠記憶。

Deptai 如何處理 AI Agent 安全?

公開說明包括:預設真人把關、edge case escalate 給真人、保留 audit trail;合作流程亦強調客戶擁有 code/資料/infra/文件。具體權限與審批閘門會按你業務一齊訂定。

私隱與個人資料方面要如何處理?

先做資料分類:哪些可以給 agent 讀、哪些永遠不可以自動外傳。詳細私隱合規另文再述;涉及具體法律要求,應先諮詢顧問或律師,不要靠一篇清單代替合規意見。

想為貴公司的 AI Agent 訂定權限與審批閘門?可以先預約 免費 30 分鐘業務診斷,或者參閱 AI Agents、自動化流程、合作流程 與 定價。

JC
Joseph Cheung

Deptai 生成式 AI 顧問團隊 · 專注於香港中小企 AI 自動化、智能 Agent 開發與企業內訓,致力協助在地品牌以低成本快速升級為 AI 驅動企業。

預約您的免費30 分鐘業務診斷

帶著您最複雜的工作流程前來。我們會清楚說明 AI 系統能接手哪些部分,以及哪些部分暫不適合。

WHATSAPP 聯絡