廣告
AI圈流行「養龍蝦」？KPMG：小心數位助理變資安內鬼
【記者林巧雁／台北報導】最近全球社群媒體流行一句問候語：「你今天養龍蝦了嗎？」乍聽像玩笑，卻是目前AI科技圈最熱門的現象之一。KPMG安侯企業管理股份有限公司董事總經理謝昀澤表示，社群把代理式AI 比喻為一種會「自己找食物、自己工作」的數位生物，網路逐漸用「養龍蝦」來形容部署AI 助手的行為，小心AI助理聯合成為「資安內鬼」，也造成大量的龍蝦棄養潮。
小心養到「毒龍蝦」
謝昀澤指出，過去AI的問題是「說錯話」，但當AI開始彼此合作，未來的風險可能變成「一群聰明的 AI一起做傻事」。他認為，代理式 AI 的應用將在今年迎來爆發式成長，而這股浪潮最後帶來的是「數位助理」還是「資安內鬼」，關鍵就在於企業對AI的治理能力。
謝昀澤建議，一般使用者目前可以暫時保持觀望，因為目前許多代理式 AI 工具安裝移除與管理門檻仍高，且資安問題仍難以完全掌控，不小心養到「毒龍蝦」的機率仍然偏高，與目前已普及的生成式AI成熟度仍有很大差異；而具備技術能力的開發者，應在隔離測試環境與嚴格權限控管的條件下進行測試。
新一代AI代理程式的出現，突破了過去生成式AI「光說不練」的限制。這些AI不只會回答問題，還能實際操作系統、執行任務。在企業環境中，如果運用得當，非常適合處理某些特定類型的數位工作。AI 代理最適合四種特性明顯的任務：跨系統、全天候、高頻率與大數據。
龍蝦自主加班帳單飆升
例如，企業可以讓AI代理在庫存與客服系統之間自動運作，從CRM系統讀取客戶資料，到ERP查詢庫存，再到郵件系統回覆客戶。過去這類流程往往需要員工在不同系統之間來回切換，而AI agent可以全天候動態接收指令，自動完成整個流程。然而，這股「養龍蝦」熱潮很快也出現了亂象。
謝昀澤以自己的「養蝦」經驗為例，他原本只是要AI簡單蒐集一些旅遊景點資料，結果經過一晚「龍蝦自主加班」，AI不但開始分析旅遊趨勢、研究匯率變化、建立旅遊成本模型，最後甚至生成數十頁旅遊市場分析報告與風土人文白皮書。「勤奮」的AI agent持續呼叫大型付費語言模型服務，讓他的帳單迅速飆升。除了AI過度「努力工作」，還出現更荒謬的產業鏈。
一些平台開始有人提供「龍蝦安裝服務」，幫忙部署AI agent、設定環境、調整參數；沒過多久又有人推出「龍蝦卸載服務」。謝昀澤分析，造成近期「龍蝦棄養潮」的主要原因，是許多AI代理在安裝過程中需要取得大量系統與帳號權限，讓使用者逐漸意識到巨大的資安威脅。
小心AI漏洞被駭客入侵
在真正開始「養龍蝦」、發揮AI 生產力之前，謝昀澤提醒企業應謹慎評估四大主要風險。第一是提示詞注入，也就是駭客在網站或文件中藏入惡意指令，誘導 AI 洩漏金鑰或機密資料。第二是指令誤判，AI可能誤解任務，例如錯誤刪除重要郵件或資料。第三是外掛程式被投毒，部分AI插件可能暗藏惡意程式，讓電腦變成殭屍網路的一部分。第四則是漏洞被駭客利用，只要AI系統存在安全漏洞，就可能成為駭客入侵的入口。
謝昀澤指出，資安研究人員已發現，駭客開始開發專門的「資訊竊取器（Info Stealer）」，只要掃描到未設防的AI代理，就能直接竊取 API 金鑰與系統憑證。駭客不僅可以盜刷模型費用，甚至能遠端控制整台電腦。一旦電腦被控制，駭客可能竊取企業文件、監控鍵盤輸入，甚至把這台電腦變成攻擊其他公司的跳板。
同時，產業界也開始嘗試建立更安全的 AI 代理平台。例如 NVIDIA 近期推出的AI agent平台NemoClaw，以及微軟推動的 Copilot Coworker概念，都是希望為快速發展的AI 代理生態建立更安全的框架，這類平台被期待透過更嚴格的權限管理與安全機制，避免AI代理在企業環境中失控。
