AI Incident Response Plan 2026：香港中小企處理 AI Chatbot、CRM automation 與網站 AI 助手出錯的應變清單

香港中小企導入 AI chatbot、WhatsApp CRM automation、AI 網站助手或內部 AI workflow 後，最危險的不是 AI 偶爾答錯，而是答錯後沒有人知道誰負責、怎樣暫停、日誌在哪裏、客戶由誰回覆、資料是否外洩，以及是否可以回滾。 一份實用的 AI incident response plan，要把技術、客服、私隱、營運和供應商責任連在一起，讓團隊在首 24 小時先控制損害，再判斷是否需要通知受影響人士、PCPD 或其他相關方。

本文不是叫每間公司建立大型企業級 SOC，而是為香港中小企提供可落地的 AI 事故應變清單。適用場景包括 AI Chatbot、AI 系統開發、AI 網站製作、IT 外判、CRM lead scoring、RAG knowledge base、WhatsApp 自動回覆和報價流程。

甚麼情況算是 AI 事故？不要只看系統有沒有死機

傳統 IT incident 通常容易識別：網站 500、伺服器宕機、電郵收不到、資料庫錯誤。AI 事故比較隱蔽，因為系統仍然「有回覆」，但回覆可能已經傷害客戶、誤導銷售、污染 CRM 或暴露不應暴露的資料。

HKCERT 的中小企事故應變指引把事故處理分為事前、事中和事後工作，並強調角色、責任和標準程序。放到 AI 系統上，重點就是先把 AI 從「自動決定」降級成「人工輔助」，再找出資料、模型、prompt、知識庫、API 或權限哪一層出問題。

AI 事故分級：先判斷是否要停用、降級或通知

應變計劃要有分級，否則每次出事都只靠群組訊息和臨場判斷。以下是一個適合中小企的四級分類，可用於 AI chatbot、CRM automation、AI website assistant 和內部工作流。

這個分級不應只由工程師決定。客服主管知道客戶承諾有沒有出錯，銷售主管知道 lead 是否被錯分，資料私隱負責人知道事件是否涉及個人資料，供應商則應提供日誌、回滾和修復建議。

首 24 小時 AI incident response checklist

以下流程的目的不是立即找出所有根因，而是先控制損害、保持證據完整、保障客戶、恢復核心營運。PCPD 的資料安全頁面建議資料外洩應先收集資料、控制外洩、評估傷害、考慮通知和記錄事件。AI 事故也應用同樣紀律處理，只是要額外包括 prompt、知識庫、模型和 automation flow。

0 至 1 小時：止血和保存證據

• 暫停受影響 AI 功能，例如自動回覆、CRM 寫入、報價生成、電郵發送或 webhook。
• 切換至人工接手訊息，例如「我們正在由專人核實，稍後回覆」。
• 記錄發現時間、通報人、受影響渠道、初步截圖、URL、對話 ID 和客戶個案 ID。
• 保存相關系統日誌，不要急於刪除對話、重建資料庫或覆蓋部署版本。
• 通知內部負責人和外判供應商，要求確認是否有持續自動動作仍在執行。

1 至 4 小時：界定影響範圍

• 確認是否只影響單一客戶、單一頁面、單一知識庫，還是所有 AI 流程。
• 查核最近是否有 prompt、RAG 文件、CRM 欄位、API key、權限或網站內容更新。
• 抽出受影響對話和 CRM 紀錄，標示哪些需要人工跟進或更正。
• 若涉及個人資料，按資料類別、數量、可識別程度和潛在傷害做初步風險評估。
• 若系統仍需營運，設置只讀、人工批核或降級模式，不要直接恢復全自動。

4 至 24 小時：修復、溝通和決策

• 決定是否需要通知客戶、受影響人士、PCPD、HKCERT、付款服務商或其他第三方。
• 回滾至上一個穩定 prompt、知識庫或 automation workflow 版本。
• 重跑測試題：價格、服務範圍、私隱、負面輸入、handoff、CRM 寫入和 WhatsApp 回覆。
• 由業務負責人批准恢復服務，不應只由工程師按「測試通過」自行上線。
• 開立事後改善清單，包含監控、權限、測試、文件和供應商責任。

香港私隱和資料安全角度：AI 出錯時要問的 8 條問題

PCPD 的 AI 資源頁列出 AI 模型個人資料保障框架、生成式 AI 員工使用指引和 AI chatbot 安全提示。這些資源的共同重點是：AI 不只是功能問題，也涉及資料治理、權限、透明度、監察和持續改善。

• AI 是否接觸個人資料，例如姓名、電話、WhatsApp 對話、訂單、報價、病歷或學生資料？
• 這些資料是否被傳送至第三方模型、CRM、分析工具、外判供應商或海外服務？
• 事件是否涉及未授權或意外存取、處理、刪除、遺失或使用個人資料？
• 受影響人士可否因事件承受實際風險，例如詐騙、身份冒用、財務損失、尷尬或歧視？
• 系統有沒有足夠日誌證明哪些資料被讀取、寫入、傳送或輸出？
• 外判供應商是否有合約責任協助調查、保全資料、刪除資料和提交報告？
• 通知客戶時，是否能清楚交代發生甚麼事、影響範圍、公司已做甚麼、客戶應做甚麼？
• 事後是否有文件記錄根因、修復、責任、時間線和防止重複發生的措施？

香港現時資料外洩通知並非所有情況下的法定強制要求，但 PCPD 鼓勵資料使用者適時通知。對中小企而言，重點不是「可否不通知」，而是是否有足夠事實支持你的判斷，並且能證明公司已採取合理可行的保障和補救措施。

AI 系統設計時就要預留的應變功能

很多 AI 事故難處理，不是因為模型太複雜，而是當初沒有設計緊急開關、版本管理、日誌和人工接手。若你正準備委託 AI 系統開發 或 AI chatbot，以下功能應在開發階段列入 scope。

• Kill switch：可即時停用特定 AI flow，而不是關掉整個網站。
• Human handoff：當信心不足、敏感問題、投訴或高價值 lead 出現時轉人工。
• Version control：保存 prompt、知識庫、workflow、API mapping 和部署版本。
• Audit log：記錄輸入、輸出、資料來源、CRM 寫入、管理員操作和錯誤碼。
• Data minimisation：避免把不必要的敏感資料交給 AI 或第三方服務。
• Role-based access：限制誰可改 prompt、上載知識庫、匯出對話和查看個人資料。
• Fallback content：API 失效時顯示人工聯絡方法，而不是讓 chatbot 空白或亂答。
• Test suite：每次更新前測試價格、服務限制、私隱問題、投訴、退款和緊急情況。
• Monitoring dashboard：追蹤錯誤率、handoff rate、異常輸出、API latency、token cost 和 CRM 寫入失敗。

供應商和 IT 外判合約應列明的事故責任

AI 事故通常橫跨多個系統：網站、CMS、WhatsApp、CRM、模型 API、向量資料庫、Google Sheet、付款、電郵和分析工具。如果每個供應商都只說「不是我這邊」，公司會錯過黃金處理時間。

事後復盤：不要只問「誰改壞了」

AI incident review 應該像產品和營運改善會議，而不是追究單一工程師。NIST AI RMF 強調 AI 風險管理要跨設計、開發、使用和評估，把可信度納入整個生命週期。對中小企來說，事後復盤至少要回答以下問題：

• 事故由哪一個觸發點開始：資料、prompt、權限、API、前端、CRM、供應商還是人手操作？
• 為何監控沒有更早發現？是否缺少 alert、抽查、QA 測試或前線通報渠道？
• AI 是否擁有過多自動權限，例如直接發送報價、改 CRM stage 或回覆敏感問題？
• 哪些流程應轉為人工批核，哪些可保留自動化？
• 是否需要更新員工 AI 使用政策、客戶通知模板或供應商 SLA？
• 是否要刪除、遮蔽或最小化 AI 接觸的個人資料？
• 下次同類事故發生時，是否可以在 15 分鐘內停用受影響流程？

LoftyGroup 如何協助香港中小企建立 AI 應變能力

LoftyGroup 不只製作 AI demo，而是把 AI 放入網站、CRM、WhatsApp、內部系統、SEO 和營運流程時，同步處理可維護性、監控、權限和應變。這對香港中小企尤其重要，因為很多公司沒有獨立 cybersecurity team，但又希望用 AI 提升銷售、客服和後台效率。

• AI chatbot 風險審核：檢查知識庫、prompt、handoff、私隱、錯誤答案和高風險問題。
• AI system incident playbook：為不同事故級別建立停用、回滾、通知、修復和復盤流程。
• CRM 和 WhatsApp automation QA：核對 lead capture、欄位寫入、通知、追蹤和 fallback。
• AI monitoring dashboard：整合 API 狀態、錯誤率、handoff rate、成本和異常對話抽查。
• IT 外判和維護支援：把 AI 系統納入 hosting、backup、security update、access control 和 incident response。

常見問題

AI chatbot 出錯是否一定要即時停用？

不一定。若只是單一答案不準，可以先暫停相關知識庫或特定流程；若涉及個人資料外洩、錯誤報價、錯誤付款、錯誤醫療或法律類建議、CRM 大量寫入錯誤，應立即切換人工接手、暫停自動化動作，並保留日誌作調查。

香港中小企的 AI incident response plan 應由誰負責？

至少要有業務負責人、系統或 IT 負責人、資料私隱負責人，以及能夠向客戶回覆的前線主管。若 AI 系統由外判供應商管理，合約應列明緊急聯絡、回覆時間、日誌取得、回滾、修復和事後報告責任。

AI 回覆錯誤但沒有資料外洩，需要通知 PCPD 嗎？

一般錯誤回覆未必等於資料外洩。若事件涉及個人資料被未授權或意外存取、處理、刪除、遺失或使用，便應按 PCPD 的資料外洩處理步驟評估風險，考慮是否通知 PCPD、受影響人士和其他相關方。

AI 事故後最重要的技術證據是甚麼？

通常包括時間線、prompt 或知識庫版本、用戶輸入、AI 輸出、CRM 寫入記錄、API/webhook 狀態、管理員操作紀錄、權限變更、資料匯出紀錄和修復部署紀錄。這些資料應按最少必要原則保存。

LoftyGroup 可以協助建立 AI 事故應變流程嗎？

可以。LoftyGroup 可協助審核 AI chatbot、CRM automation、AI website assistant、RAG knowledge base 和 custom system 的風險位，建立告警、人工接手、日誌、回滾、測試、私隱檢查和事後改善流程。

參考資料

• PCPD：AI Privacy Protection resources
• PCPD：Artificial Intelligence: Model Personal Data Protection Framework
• PCPD：Data Security and Data Breach Response Plan
• PCPD：Data Breach Notification
• HKCERT：Incident Response Guideline for SMEs
• HKCERT：Hong Kong Cybersecurity Outlook 2026
• NIST：AI Risk Management Framework