每經(jīng)記者｜張梓桐    每經(jīng)編輯｜陳俊杰    

AI（人工智能）與數(shù)據(jù)安全的融合博弈已進入白熱化階段，海內(nèi)外科技巨頭近期密集發(fā)布核心方案，推動行業(yè)從被動防御向主動治理轉(zhuǎn)型。

“燃料（數(shù)據(jù)）質(zhì)量決定了引擎（AI）的上限，垃圾數(shù)據(jù)喂不出優(yōu)質(zhì)模型?！卑埠阈畔⒓夹g(shù)股份有限公司數(shù)據(jù)安全運營總監(jiān)程文博，在“2025全球數(shù)商大會”普陀分會場接受《每日經(jīng)濟新聞》記者采訪時，以谷歌近期熱門的NoteBook LM舉例稱，其降低幻覺的核心在于高質(zhì)量知識庫輸入，反之則會陷入“垃圾進垃圾出”的困境。

Gartner高級研究總監(jiān)陳延全在今年9月曾經(jīng)指出：“到2027年，60%的中國大型企業(yè)機構(gòu)將在安全運營中心（SOC）采用暴露面管理技術(shù)，以提高事件響應(yīng)效率并減少漏洞；到2028年，60%部署AI技術(shù)的中國企業(yè)機構(gòu)將采用協(xié)作式AI防御策略，整合跨職能團隊來應(yīng)對AI的網(wǎng)絡(luò)安全風險，而目前這一比例僅為5%?！?/p>

海外陣營中，谷歌在Next 2025大會推出AI Protection全生命周期防護方案。OpenAI也發(fā)布開源模型GPT-OSS-Safeguard-20B，將合規(guī)落地周期從月級縮至小時級。

兩大巨頭的動作直指 AI 安全核心痛點，而這一切解決方案的落地，終究離不開大模型與數(shù)據(jù)的深度協(xié)同——大模型與數(shù)據(jù)的關(guān)系，被業(yè)內(nèi)人士喻為“火箭引擎與燃料”。

在程文博看來，AI大模型的進化依賴于高質(zhì)量的數(shù)據(jù)支撐，同時，AI也將進一步優(yōu)化目前的數(shù)據(jù)安全保護體系，精準預測、處理網(wǎng)絡(luò)安全威脅。

“安全與利用的平衡”成核心關(guān)鍵詞

“AI對數(shù)據(jù)安全的賦能，從來不是單向輸出。”程文博表示，這一關(guān)系包含兩個核心維度：讓安全更智能，讓智能更安全。前者是技術(shù)迭代的自然延伸，后者則是新場景催生的新責任。

程文博介紹，數(shù)據(jù)安全分類分級曾是耗時耗力的“重活”，人工標注不僅效率低下，還易因主觀判斷出現(xiàn)偏差。AI技術(shù)的介入改變了這一現(xiàn)狀，通過算法對數(shù)據(jù)特征的精準識別，分類分級效率提升超3倍，準確率也穩(wěn)定在95%以上。

同樣，在API（應(yīng)用程序編程接口）安全領(lǐng)域，API安全智能體通過對接口報文、路徑及敏感數(shù)據(jù)的要素解構(gòu)，結(jié)合聚類分析和大模型推理技術(shù)，能過濾非API資產(chǎn)，完成API資產(chǎn)的高精度梳理，輸出高純度的資產(chǎn)清單。

“智能體通過識別API中的業(yè)務(wù)數(shù)據(jù)，并結(jié)合行業(yè)特點賦予接口精準的業(yè)務(wù)屬性標簽，有效提升了資產(chǎn)管理的深度與廣度?！彼嬖V記者，在風險監(jiān)測與降噪方面，智能體通過大模型計算實現(xiàn)自動化風險降噪，同時根據(jù)風險類型、報文特征及上下文信息提供智能化解讀與綜合處置建議，幫助安全團隊精準定位并快速響應(yīng)潛在威脅。

“這些升級并非停留在實驗室，而是已轉(zhuǎn)化為面向金融、政務(wù)等行業(yè)的成熟解決方案。”程文博說。

但與此同時，大模型的爆發(fā)式增長，也帶來了提示詞注入攻擊、輸出內(nèi)容不當?shù)刃嘛L險。

“政府部門用大模型向公眾提供服務(wù)，總不能出現(xiàn)違規(guī)表述吧？”程文博舉例道。安恒信息的應(yīng)對方案，是通過語義識別與風險攔截技術(shù)，為大模型搭建“電子圍欄/大模型安全防火墻”。這套系統(tǒng)能實時監(jiān)測輸出內(nèi)容，對敏感信息、不當表述進行攔截或修正，目前已在部分政務(wù)服務(wù)場景試點應(yīng)用。

當話題轉(zhuǎn)向數(shù)據(jù)要素市場化改革，“安全與利用的平衡”成為核心關(guān)鍵詞。

“安全是發(fā)展的前提，沒有安全，數(shù)據(jù)就流不動、用不好。”程文博表示，目前業(yè)內(nèi)的破局路徑分為兩步：筑牢安全底線，打通利用通道。

在安全保障端，業(yè)內(nèi)頭部廠商的產(chǎn)品已覆蓋數(shù)據(jù)全生命周期管理；在利用賦能端，隱私保護計算技術(shù)成為關(guān)鍵抓手。通過“數(shù)據(jù)可用不可見”的技術(shù)特性，有效解決了企業(yè)間數(shù)據(jù)共享的信任難題。

針對中小微企業(yè)數(shù)字化轉(zhuǎn)型中的合規(guī)痛點，程文博坦言，數(shù)據(jù)安全分類分級是數(shù)據(jù)安全的第一步，但傳統(tǒng)方案成本高、部署復雜，讓不少小企業(yè)望而卻步。

數(shù)字信任：如何重構(gòu)隱私保護邊界？

“AI與數(shù)據(jù)的融合不是簡單的技術(shù)疊加，而是數(shù)字經(jīng)濟雙循環(huán)的核心動力?！痹凇?025全球數(shù)商大會”普陀分會場“數(shù)字經(jīng)濟雙循環(huán)發(fā)展視角下的數(shù)字信任與安全合規(guī)”圓桌對話上，上海社科院互聯(lián)網(wǎng)研究中心主任惠志斌開場拋出的議題，引發(fā)全場共鳴。

政務(wù)領(lǐng)域的技術(shù)實踐成為首個破題案例。上海市大數(shù)據(jù)中心副主任王明政分享了中心的實踐：用大模型破解代碼審計的“高成本困局”。

傳統(tǒng)代碼審計依賴人工，效率低下且漏檢率高。上海市大數(shù)據(jù)中心通過兩種路徑構(gòu)建數(shù)據(jù)集——采集歷史安全漏洞代碼，同時用大模型生成模擬漏洞代碼，以此訓練專用審計模型。

“雖然還在摸索階段，但已能將部分場景的審計效率提升30%?！蓖趺髡瑫r警示，大模型的“幻覺”風險不容忽視，網(wǎng)絡(luò)上大量由AI生成的“全能化賦能”文章，恰恰暴露了技術(shù)落地中的認知偏差。

隱私保護的邊界重構(gòu)，成為全場熱議的焦點。

王明政觀察到全球監(jiān)管的微妙變化：歐洲近期提案放松GDPR（通用數(shù)據(jù)保護條例）對大模型訓練數(shù)據(jù)的限制，將高風險AI法規(guī)實施時間推遲18個月，背后是“技術(shù)競爭與監(jiān)管平衡”的深層考量。而國內(nèi)場景更復雜——會議拍照無需明確同意、線上線下隱私認知差異等現(xiàn)象，正倒逼監(jiān)管邏輯升級。

全鏈條監(jiān)管技術(shù)正在填補漏洞。

針對數(shù)據(jù)可復制、難追溯的特性，公安部第三研究所數(shù)據(jù)安全中心副主任盛小寶透露了兩大技術(shù)方向：數(shù)據(jù)水印可實現(xiàn)交易后溯源，即便數(shù)據(jù)用于模型訓練也能精準定位；模型指紋則能識別“備案與實際使用不符”的違規(guī)行為，此前某聊天App備案DeepSeek模型，實際卻使用微調(diào)后并產(chǎn)生擦邊內(nèi)容，正是通過該技術(shù)發(fā)現(xiàn)。

“安全不是一勞永逸的，要建立政府、企業(yè)、研究院三位一體的情報共享生態(tài)?！彼怨?yīng)鏈安全情報共享為例，強調(diào)協(xié)同防御的重要性。

產(chǎn)業(yè)生態(tài)的構(gòu)建則為技術(shù)落地提供了土壤。上海市普陀區(qū)數(shù)據(jù)局局長張軍表示，產(chǎn)業(yè)集聚是普陀區(qū)的核心優(yōu)勢。雖然缺乏單一頭部巨頭，但數(shù)量眾多的中小安全企業(yè)形成了集群效應(yīng)。360安全、安恒信息等企業(yè)扎根于此，京東科技、淘寶閃購、餓了么等數(shù)字企業(yè)也在此深耕，構(gòu)成了“安全服務(wù)+數(shù)字應(yīng)用”的完整產(chǎn)業(yè)生態(tài)。這種生態(tài)優(yōu)勢，在數(shù)據(jù)要素流通中轉(zhuǎn)化為獨特競爭力——安全企業(yè)為數(shù)字應(yīng)用提供防護，數(shù)字應(yīng)用為安全企業(yè)提供場景，形成雙向賦能的閉環(huán)。

封面圖片來源：圖片來源：視覺中國-VCG211550173673