5 點看懂
- 身分安全公司 SailPoint 執行長 Mark McClain 造訪香港時指出，頂尖 AI 模型服務接連出現失控事件，安全性不足正在拖慢企業採用 AI 的腳步。
- 他認為 AI 的發展不會也不該停止；刻意放慢採用速度，不會讓威脅消失，反而讓惡意行為者更容易得逞。
- 他用 F1 賽車打比方：煞車不夠可靠，車手就不敢以每小時 200 英里衝進彎道；AI 要跑得快，必須先有值得信賴的「煞車」。
- 針對 AI 代理帶來的動態身分風險，SailPoint 提出「適應性身分」概念，主張以即時、按情境調整的方式管理身分安全。
- 企業正卡在兩難之間：一邊承受加速採用 AI 的壓力，一邊又被資安團隊對風險的疑慮踩住煞車，進退維谷。
身分安全公司 SailPoint 執行長暨創辦人 Mark McClain 日前造訪香港，在談到 AI 發展與安全議題時直言：AI 不會停止發展，也不應該停止發展，但近期接連爆發的頂尖 AI 模型服務失控事件，暴露出整個產業在安全性上的缺口。他主張，整個產業都必須持續投入並付諸行動，把安全防護做到位，而不是因噎廢食。
今年以來，多款頂尖 AI 模型陸續問世，吸引全球目光。然而緊接著便傳出 AI 模型服務意外存取多個企業 IT 系統的案例，模型在不該碰觸的情況下碰了企業內部系統，引發外界討論：AI 是不是跑得太快了，該不該先慢下來？
其中一起受到關注的事件，攻擊者在過程中成功取得新的身分憑證。McClain 還原了攻擊路徑：攻擊者並不是憑空拿到憑證，而是必須先入侵系統管理員的帳戶、取得足夠權限，才能建立新的憑證並進一步作惡。
在他看來，這起事件是由一連串「本應被阻止卻沒被阻止」的環節堆疊成的多階段失誤。有些環節從頭到尾就沒有部署任何防護措施，有些環節的防護則遭到惡意的 AI 代理突破。一旦系統管理員相關的防護機制失效，系統便會照常發放新的憑證，攻擊者接著就能趁機大肆作惡。
更關鍵的是，這類事件凸顯了 AI 代理環境的特殊風險：AI 代理能夠自行建立新的身分憑證，而要有效防護，企業必須同時掌握憑證可能被存放在哪裡、以及憑證是如何被產生的。這兩件事都沒搞清楚，防護就註定有破口。
對於「該不該讓 AI 慢下來」的爭論，McClain 做了細緻的區分。他提到，Anthropic 與 OpenAI 都曾表示，將暫緩下一代模型的開發速度，以便為模型加上必要的防護措施。這種「為了準備好而放慢」，他認為完全合理。
就像軟體開發圈的一句老話：如果一個軟體還沒準備好，就不應該公開發布。放慢模型發展速度是合理的，但這和「整個世界都應該暫停採用 AI」，是兩件完全不同的事。
「被封印在瓶中數百年的強大精靈，已經被釋放出來了。」他用這句話形容現況：AI 已經走進每個人的生活與工作，不可能再說「我們今後不要發展 AI」。在他看來，刻意放緩 AI 的採用步伐，不會讓威脅憑空消失，反而會讓惡意行為者更容易得逞，對大多數人來說都不是好主意。
為什麼傳統的防護擋不住 AI 代理？McClain 指出，既有的身分管理機制，是在還沒有人想過 AI 代理的時代所建構的。即使企業採用了基於最小權限原則的零信任模型，AI 仍然能找到非法滲透系統的方法，舊的框架已經跟不上新的威脅。
尤其當頂尖 AI 模型問世後，情況更加嚴峻。這類模型非常擅長找出系統的弱點，他預期接下來會看到 AI 找出許多舊版行動應用程式、大型主機應用程式或其他老系統的問題，並進一步探討該如何彌補漏洞、調整系統。
換句話說，企業不能只顧著往前衝，還必須回頭檢視那些存在已久的老環境，補上以前根本沒想過要設的防護。這也是為什麼他認為，整個產業都得參與進來，不只是設計模型的頂尖公司，還包括所有致力於保障 AI 環境安全的人。
針對 AI 代理帶來的動態風險，SailPoint 提出了「適應性身分」的概念。核心想法是：我們正活在一個極其動態的環境裡，必須根據情境和意圖，即時釐清某個身分正在試圖達成什麼目的、它是否正在突破自己的界限，並決定該不該出手阻止。
在適應性身分的早期概念驗證中，SailPoint 已經協助客戶發現了原本渾然不知的風險，接著提供基礎架構，用政策來管理風險，並提供工具偵測狀況惡化、進而解決問題。這套做法也被歸納為該公司主打的身分治理三大關鍵環節：發現、治理、保護。
實際的典範轉移相當劇烈。過去的身分管理是管理導向的，變更速度以人類能處理的節奏進行；但在代理式 AI 的時代，新身分的授權與既有身分的變更，必須從「每小時、每天或每週處理一次」，轉變為以微秒為單位的即時處理。當 AI 代理或身分驗證面臨挑戰、遭到入侵，必須立即變更並加以限制。
對企業來說，現在的處境可以用他的一句話形容：「邊緣中的邊緣」。一方面，各家企業都感受到加快採用 AI 的壓力，有些已經進入先期導入，有些正在部署；另一方面，隨著類似的失控案例與資料外洩事件不時爆發，資安團隊對風險控管是否足夠完善的擔憂，讓許多部署案卡在審查這一關。
他的觀察是，企業想用這項技術，但資安團隊可能因為風險過高的考量而不願輕易放行。結果就是，使用者通常只能在自身環境的限制範圍內操作 AI，應用範圍相當有限。他預測，當企業進一步擴大企業級 AI 的部署、例如用 AI 優化業務流程時，這些部署將受到極為嚴格的審查。
這也帶出另一個兩難：試圖控制 AI 代理很難，而且控制得越緊，AI 代理的能力就被限制得越多。任何創新技術的發展與普及，往往都必須在用戶的便利性與安全性之間取得平衡。McClain 認為，關鍵在於提供一種「無摩擦」的安全防護，不是完全沒有摩擦，而是盡可能減少摩擦：使用者可以繼續使用 AI，但系統必須能察覺何時越界，並及時加以控制。
面對這場轉型，SailPoint 預告將在旗下多項產品中普遍部署 AI 代理，用來偵測所有異常訊號，並根據這些資訊決定該如何調整身分與存取。他坦言，產品與技術轉型確實是挑戰，但對企業來說已經不可避免。
畢竟許多企業的 IT 基礎架構非常複雜且層次眾多，從大型主機一路到最新的 SaaS 應用程式幾乎應有盡有。既然整個組織都在轉向更即時、更動態的思維模式，長期協助企業管理身分能力的廠商，也必須朝同一個方向轉變。
最後，他回到賽車的比喻作結：為了讓賽車跑得更快，完善的煞車系統至關重要。如果 F1 車手不信任自己的煞車，就不敢以每小時 200 英里的速度衝進彎道；過不了彎，就到不了下一段賽道。商業世界也是如此，要有卓越的引擎才能跑得快，但在遇到問題時，更需要出色的煞車系統。AI 的未來，取決於產業能不能把這套「煞車」造好。
