大模型滲透率提升，全國政協委員周鴻禕建議“以模製模”防範安全風險

來源：@華夏時報微博

華夏時報記者 石飛月 兩會報道

今年春節期間，DeepSeek在全球異軍突起，成了AI發展史上的重要節點。然而作為基座模型，DeepSeek不可避免地存在幻覺、提示注入攻擊等問題，此外，大模型要在企業內部真正發揮作用，還需要連上企業的專業知識庫、打造智能體、調用企業各種IT係統，這進一步加劇了安全風險。

因此，當大模型滲透率提升時，解決應用安全問題也迫在眉睫。今年全國兩會期間，全國政協委員、360集團創始人周鴻禕建議，應由既懂安全又懂AI的企業牽頭，“以模製模”防範風險，與此同時，在大模型產業高速發展的過程中，不能因為大模型的幻覺問題就因噎廢食，由此，周鴻禕還呼籲國家對大模型發展實行柔性監管，更加包容審慎。

利用安全大模型檢測和防範

“DeepSeek是真火，不是虛火，因為它確實解決了人工智能大模型從‘不可用’到‘湊合用’，再到‘完全可用’和‘能用’的階段。”周鴻禕說。從普通用戶到個人開發者，從雲服務商到大模型廠商，從國企到政府部門，DeepSeek在短短一個多月的時間內已經“攻城略地”。

用戶越來越多，安全問題也越發凸顯。周鴻禕總結道，人工智能的安全問題，對DeepSeek來講至少分成四個層麵：智能體的安全、知識數據的安全、客戶端的安全，還有基座模型的安全，構成一個人工智能安全新領域。

麵對這些問題，周鴻禕認為，傳統網絡安全已經無法應對新挑戰，因此他建議應由既懂安全又懂AI的企業牽頭，“以模製模”，通過打造安全大模型來解決大模型的應用安全問題。

至於要如何實現“以模製模”，周鴻禕對《華夏時報》記者表示，作為兼具數字安全和AI雙重能力的科技企業，360很早開始關注大模型安全風險，提出“以模製模”理念，利用安全大模型來檢測和防範大模型可能出現的安全風險。

據介紹，針對以DeepSeek為代表的國產大模型廠商麵臨的安全挑戰，360推出了大模型安全解決方案，錨定係統安全、數據安全、內容安全、幻覺問題、行為失控五大挑戰，對症下藥，守護DeepSeek大模型訓練、推理和運營全流程，為全球人工智能技術治理提供“中國方案”。比如，針對大模型係統安全問題，360智鑒以全鏈路、精細化和動態進化的檢測能力為核心，融合紅藍對抗思路和大模型自身技術優勢，覆蓋了從數據清洗、模型訓練、模型推理、部署上線整個生命周期中的係統安全檢測，保障大模型係統的可靠性與業務穩定性。

不僅是大模型廠商麵臨著安全挑戰，周鴻禕指出，在傳統行業紛紛進行數轉智改的背景下，越來越多的企業開始打造自己的安全體係，但我國安全行業內卷嚴重，很多廠商隻是一味賣硬件軟件，客戶也無法得到想要的安全服務，致使行業麵臨普遍性經營困境，造成客戶和廠商雙輸的局麵，同時，各種高級別攻擊日益嚴重，企業不隻需要一個“安全盒子”，更需要高級網絡安全專家協助進行數據分析研判、數據追蹤及事件處置。

“為了解決這個困境，國外很早就通過SaaS的方式來為更多企業提供安全服務，企業不僅可以直接體驗安全服務效果，投入成本也降到了五分之一甚至十分之一。”周鴻禕呼籲，國家從政策上支持采購安全服務，特別是鼓勵采購SaaS化安全服務，實現安全的普惠。

對 “幻覺” 采取柔性管理策略

不過，無論是上述提到的哪種安全問題，在周鴻禕看來，都不是最大的不安全，在大模型產業高速發展的過程中，不發展才是最大的不安全，不能因為大模型的幻覺問題就因噎廢食。

大模型作為新生事物，其本身在快速發展的過程中，難免出現一些過去未能預料到的“新問題”，例如包括DeepSeek在內的大模型都存在“幻覺”，偶爾會生成看似不合理、與事實不符的情況，由此也產生了一些爭議。

周鴻禕對本報記者表示，“幻覺” 作為大模型的固有特性，猶如一把雙刃劍。“一方麵，它無法從大模型中根除，並且在很大程度上奠定了模型的創造力與想象力根基，是邁向通用人工智能（AGI）之路上的關鍵要素。這就如同人類一樣，若缺失了虛構、想象的能力，創造力便會枯竭，而能力出眾的大模型往往伴隨著更多的 ‘幻覺’ 產出。”

從積極維度來看，周鴻禕舉例稱，在科研前沿，大模型憑借 “幻覺” 能夠大膽暢想新藥分子、蛋白質結構，為科研人員開辟新思路，打破傳統認知局限；而在文藝創作領域，它能突破常規，勾勒出新奇場景、編織出奇幻情節，讓作品充滿創意與驚喜。但在醫療、法律、金融這些對精準度要求極高的領域，“幻覺” 引發錯誤的風險不容小覷。

因此，就像“避風港原則”曾帶給互聯網巨大的產業發展機會，周鴻禕呼籲國家對大模型發展實行柔性監管，更加包容審慎，這樣中國人工智能才能借助DeepSeek的機會實現更長遠的發展。

“鑒於大模型發展與國家發展息息相關，不應因過度執著於準確性而束縛其創新活力。”周鴻禕對本報記者說，因而有必要對 “幻覺” 采取柔性管理策略，營造包容開放、鼓勵創新的環境，助力更多企業複製DeepSeek的成功範例，對此不妨參考過往 “避風港原則” 的實踐智慧，在監管大模型及其關聯產品、服務時，以適度包容的態度對待 “幻覺” 問題，對於一些因“幻覺”引發的一般性差錯，避免簡單粗暴地關停、下架，而是給予企業自糾的時間與空間，激發企業創新熱情，讓它們敢於放手一搏、踴躍競爭，推動行業蓬勃發展。

此外，周鴻禕表示，也可以通過技術手段解決大模型幻覺問題，例如360推出的大模型可信增強（AISO）工具“360智搜”，可融合多模態檢索與語義理解技術，能夠提供精準的搜索結果，並支持基於企業私域數據的知識提煉與總結。

責任編輯：黃興利 主編：寒豐