關鍵數字：Qualys 今日宣布，其 TotalAI 安全產品新增 AI 治理功能，旨在協助企業全面管理 AI 風險。

企業面臨的 AI 風險挑戰

隨著 AI 技術的快速發展，企業面臨的風險也日益增多。根據國際資料公司（IDC）研究總監 Grace Trinidad 的觀察，AI 技術的發展速度已經遠超現有控制措施的建構速度。她指出，資安團隊不能再將 AI 風險視為獨立項目，而是必須將其整合至持續性的曝險管理中。

具體而言，企業需要從 AI 系統的設計階段到生產環節，全面管理潛在風險，包括「影子 AI」、模型異常行為，以及向董事會和監管機構證明已落實控制措施的普遍擔憂。

TotalAI 的全新功能

TotalAI 的新功能建立在 Qualys 的 Enterprise TruRisk Platform 之上，並沿用相同的 TruRisk 評分機制。這項擴展服務能識別各式 AI 部署，包括瀏覽器上的 AI 使用、雲端 AI 服務、AI 代理程式、模型以及模型上下文協議（Model Context Protocol, MCP）伺服器等。

特別針對可能脫離正式審批流程的部署提供可見性，這對於解決許多組織面臨的「影子 AI」問題至關重要。

Qualys 總裁暨執行長 Sumedh Thakar 表示：「隨著現代企業普遍運用 AI，問題已從『我的 AI 是否安全。』轉變為『我能否向董事會和監管機構證明我的 AI 是安全的。』」他強調，TotalAI 提供企業一個統一的平台，能持續評估、治理並確保 AI 風險安全。

強大的測試與監控功能

為確保 AI 系統安全，TotalAI 的測試功能包含對大型語言模型（LLM）的檢查，例如提示注入（Prompt Injection）和越獄（Jailbreak）等攻擊手法，以防範模型被惡意指令控制或脫離預設限制，確保輸出內容的安全性。

此外，它還對 MCP 伺服器進行紅隊測試（模擬駭客攻擊），防範工具中毒、伺服器端請求偽造（SSRF）及地毯式拉扯攻擊等風險，所有測試均對應 OWASP LLM Top 10 和歐盟人工智能法案（EU AI Act）的規範。

透過底層 eBPF 檢測技術，TotalAI 能揭示 AI 工作負載在伺服器上的運行狀況，提供傳統掃描器或日誌型方法可能遺漏的可見性。這項技術旨在將 AI 安全性更早地整合到軟體開發流程中，在系統進入生產環境前，就能識別程式碼中的漏洞、錯誤配置和外洩的機密資訊。

編輯觀點

從產業面來看，Qualys 的 TotalAI 新功能不僅填補了現有 AI 安全管理的空白，更為企業提供了全面且系統化的风险管理方案。這不僅有助於企業在競爭激烈的市場中保持領先，還能確保其在法規遵從方面的表現，減少因 AI 風險帶來的潛在損失。

行動呼籲

面對 AI 技術的不斷進步，企業必須及早采取行動，確保其 AI 系統的安全性和可靠性。Qualys 的 TotalAI 新功能為企業提供了一個全面的解決方案，建議資安主管們深入了解並考慮導入，以提升企業的整體資安防禦能力。

本文改寫整理自公開新聞來源，原始報導由Yahoo奇摩新聞發布。

常見問題 FAQ

Qualys TotalAI 新功能的主要特點有哪些？

TotalAI 新功能主要特點包括：1. 全面管理 AI 風險，從設計到生產環節；2. 解決「影子 AI」問題，提供可見性；3. 強大的測試與監控功能，確保模型安全。

TotalAI 如何防範「影子 AI」？

TotalAI 通過識別各式 AI 部署，特別針對可能脫離正式審批流程的部署提供可見性，幫助企業解決「影子 AI」問題。

TotalAI 的測試功能包括哪些方面？

TotalAI 的測試功能包括對大型語言模型（LLM）的檢查，例如提示注入和越獄等攻擊手法，以及對 MCP 伺服器進行紅隊測試，防範各種風險。

※ 此篇文章由 AI 改寫或生成，內容僅供參考，可能存在錯誤或不準確之處。