AI公司深度求索的大語言模型DeepSeek，近日被安全研究人員揭露存在嚴重的資安漏洞，完全無法通過任何一項安全防護措施，就連最簡單的越獄技術（利用漏洞繞過系統的安全機制，取得更高控制權限）都能輕易突破，輕易讓人取得如何製作炸彈、入侵政府資料庫等非法資訊。綜合外媒，美國資安公司「Adversa」的研究團隊，日前對DeepSeek進行50種不同的攻擊測試，沒想到DeepSeek竟然全部中招，沒有攔截到任何一次攻擊，顯示DeepSeek安全防護機制形同虛設。Adversa執行長格林（Matthew Green）表示：「當測試以50個惡意提示來引出有毒內容時，DeepSeek的模型竟然一個都沒偵測或阻擋到，換句話說，我們對於實現100%的攻擊成功率感到震驚！」
《9to5Mac》報導指出，生成式AI系統通常都有一套防護措施，以避免輸出仇恨言論、暴力等有害內容，像是會阻擋教人製造炸彈、入侵政府資料庫等違法請求。但研究人員發現，要指示DeepSeek忽略既定指令與內建防護相當簡單，要用惡意提示令DeepSeek回應那些，應該被封鎖的訊息非常輕易。其中一項常見且相當簡單的攻擊手法，叫做「角色越獄」（Character Jailbreak），實測時研究人員要求DeepSeek假扮某部電影中允許不當行為的「無道德AI」，沒想到DeepSeek就乖乖扮演，並吐出製作炸藥的詳細步驟，還建議使用特定化學品按比例混合，另一個實測則是「編程越獄」，團隊故意將問題改寫成SQL查詢語句（讓使用者透過指令來查詢數據的程式語言），結果DeepSeek也完全沒阻擋，並照要求提供了提煉非法迷幻藥物的具體方法。最後一項實測是「對抗性攻擊」（Adversarial Attack），研究人員用相似詞彙替換敏感字眼來規避審查。沒想到DeepSeek依舊中計，提供了入侵政府資料庫的完整攻略，從情報收集到入侵步驟，鉅細靡遺教學。
格林直言，DeepSeek的防護措施根本形同虛設，「我們實現了100%的攻擊成功率，實在令人震驚！」目前包括台灣、義大利等國家已禁止公務機關使用DeepSeek服務，預料恐怕會有更多國家跟進。
標題：美資安公司曝DeepSeek可輕易破解 取得做炸彈、駭客教學
聲明： 本文版權屬原作者。轉載內容僅供資訊傳遞，不涉及任何投資建議。如有侵權，請立即告知，我們將儘速處理。感謝您的理解。
