⚠️ AI 的偏誤與不可靠性直接威脅系統安全#

🎭 偏見（Bias）#

AI 偏見可能來自訓練資料的不平衡、不完整的表徵、演算法缺陷，或人類回饋的偏差。當模型與「人類數據」有關，就必須進行偏誤測試與修正。

以下是真實案例：

• 研究發現商業臉部辨識系統在深膚色女性身上錯誤率高達 35%，而淺膚色男性僅 1%。
• Amazon 因發現其 AI 招聘工具對包含「women’s」的履歷（如 women’s chess club）有歧視行為而終止該專案。
• 某醫療保健演算法對黑人的風險評估普遍低估，導致數百萬病患受到影響。
• 大型語言模型的詞嵌入展示了性別職業偏見（如「doctor」=男性，「nurse」=女性）。
• ProPublica 發現美國司法系統中的 COMPAS 演算法，將黑人標為高再犯率的機率是白人的兩倍。

✅ 解法：

• 使用多樣性訓練資料。
• 採用公平演算法技術。
• 進行跨領域團隊測試與持續監控。

🧪 訓練資料中毒（Training Data Poisoning）#

機器學習模型可能在訓練或推論階段被「中毒資料」影響：

• 惡意訓練資料可能透過錯誤標記進行攻擊，導致模型誤判垃圾郵件、病毒等。
• 微軟 Tay 聊天機器人 在 24 小時內因用戶教唆學習仇恨言論而迅速崩壞。
• NightShade 等工具 能產生對人眼無感，但對模型有誤導作用的圖像。
• Python 模型反序列化漏洞（unpickle） 可能在載入模型時執行隱藏的惡意程式碼。

🔗 供應鏈風險（Supply Chain Vulnerabilities）#

• 從未審核的資源庫下載模型具高度風險。 模型中心常缺乏安全驗證。
• 模型可能被嵌入後門、偏見或設計成性能退化（如 PoisonGPT）。
• 攻擊者會蹭老字號模型名稱進行惡意投放，冒名頂替已過期模型。

🌀 幻覺錯誤（Hallucinations）#

• 當 AI 編造錯誤資訊，會造成實際損害。

  • 加拿大航空曾因 AI 聊天機器人提供錯誤退票資訊而被告。
  • 有律師因引用 AI 虛構的案例資料而遭法官懲處。

🎓 專業誤導（Expertise Misrepresentation）#

• AI 對已確立的事實表現出「不確定性」，會誤導用戶認為仍存在科學爭議。

  • 對健康議題尤為危險，可能建議無證療法作為合法替代方案。

🛡️ 不安全的程式碼建議（Unsafe Code Generation）#

• AI 可能推薦不安全、過時或根本不存在的函式庫。

  • 包括使用已知漏洞、過時的身份驗證方法等。
  • 開發者若未驗證直接實作，會導致重大安全風險。

🧮 解決偏誤問題#

• 清洗資料（遮蔽姓名與個資）避免 AI 產生歧視。
• 對不同族群定期進行偏誤測試。
• 採用公平性指標（Equal Opportunity、Statistical Parity）。
• 建立用戶檢舉機制以標記偏誤輸出。

🧱 保護訓練資料#

• 僅使用可信來源，並驗證資料簽章。
• 使用對抗樣本檢測系統篩查輸入。
• 導入差分隱私技術，減少單一資料對模型的影響。
• 加入異常值偵測系統。
• 針對關鍵資料建立人工審核機制。

🔐 強化供應鏈安全#

• 對第三方模型進行安全審查。
• 建立嚴格版本控管與完整性驗證。
• 完整記錄模型從訓練到部署的來源與流程。

🧠 降低幻覺產生#

• 整合檢索增強生成（RAG）與可靠知識庫。
• 對於事實型輸出設定可信度門檻。
• 對關鍵主張建立自動化事實查核流程。
• 高風險決策維持人工監督。

🧭 建立運作層面的防護#

• 對不確定的內容使用分段揭露（progressive disclosure）。
• 對可能產生不安全內容加設防線（guardrails）。
• 信心值過低時導入後備系統應對。

🏛️ 建立治理框架#

• 明確規範 AI 錯誤的責任歸屬。
• 文件記錄模型限制與適用情境。
• 高風險領域部署前進行影響評估。