在世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)期間，360數(shù)字安全集團(tuán)正式推出《大模型安全白皮書》，為人工智能行業(yè)安全發(fā)展提供系統(tǒng)性解決方案。該白皮書聚焦大模型運(yùn)行中的復(fù)雜安全挑戰(zhàn)，首次梳理出五大核心風(fēng)險(xiǎn)，并提出“動(dòng)態(tài)防御+原生安全”的雙軌防護(hù)理念，通過(guò)實(shí)戰(zhàn)驗(yàn)證的技術(shù)框架為AI應(yīng)用構(gòu)建全鏈路安全屏障。

隨著大模型技術(shù)深度融入政務(wù)、金融、醫(yī)療等關(guān)鍵領(lǐng)域，其引發(fā)的安全威脅呈現(xiàn)指數(shù)級(jí)增長(zhǎng)。白皮書以2025年全球多起AI安全事件為樣本，歸納出五大風(fēng)險(xiǎn)維度：基礎(chǔ)設(shè)施層面存在設(shè)備控制漏洞、供應(yīng)鏈攻擊及算力濫用問(wèn)題；內(nèi)容安全領(lǐng)域面臨價(jià)值觀偏離、虛假信息傳播及模型幻覺等挑戰(zhàn)；數(shù)據(jù)與知識(shí)庫(kù)環(huán)節(jié)凸顯隱私泄露、越權(quán)訪問(wèn)及知識(shí)產(chǎn)權(quán)糾紛；智能體自主性增強(qiáng)導(dǎo)致插件調(diào)用、數(shù)據(jù)流轉(zhuǎn)等邊界模糊；用戶端則存在API濫用、惡意腳本執(zhí)行等風(fēng)險(xiǎn)。這些風(fēng)險(xiǎn)相互疊加，形成傳統(tǒng)安全方案難以破解的威脅矩陣。

針對(duì)上述挑戰(zhàn)，360提出“外掛式安全+平臺(tái)原生安全”的協(xié)同防御體系。前者作為AI系統(tǒng)的“動(dòng)態(tài)護(hù)盾”，通過(guò)“以模治?！奔夹g(shù)對(duì)算力主機(jī)、軟件生態(tài)及輸入輸出內(nèi)容進(jìn)行實(shí)時(shí)監(jiān)測(cè)，可在毫秒級(jí)識(shí)別并阻斷異常算力消耗、惡意內(nèi)容注入等威脅。其優(yōu)勢(shì)在于適配性強(qiáng)、部署成本低，能快速接入不同企業(yè)環(huán)境。后者則作為“基因級(jí)防護(hù)”，將安全能力嵌入數(shù)據(jù)、知識(shí)庫(kù)、智能體等核心組件，通過(guò)企業(yè)級(jí)知識(shí)庫(kù)、智能體運(yùn)營(yíng)平臺(tái)及客戶端產(chǎn)品，從底層架構(gòu)解決數(shù)據(jù)泄露、行為失控等內(nèi)生性問(wèn)題。

該防護(hù)體系通過(guò)七大核心產(chǎn)品實(shí)現(xiàn)縱深防御。在外部防護(hù)層面，大模型衛(wèi)士算力主機(jī)安全系統(tǒng)、檢測(cè)系統(tǒng)、防護(hù)系統(tǒng)及幻覺檢測(cè)系統(tǒng)構(gòu)成四道防線，重點(diǎn)應(yīng)對(duì)算力劫持、供應(yīng)鏈投毒及內(nèi)容違規(guī)等風(fēng)險(xiǎn)。在內(nèi)部防護(hù)層面，企業(yè)級(jí)知識(shí)庫(kù)保障數(shù)據(jù)全生命周期安全，智能體運(yùn)營(yíng)平臺(tái)實(shí)現(xiàn)行為全程可追溯，客戶端產(chǎn)品筑牢終端入口防線。這種“外防內(nèi)固”的組合策略，使安全檢測(cè)能力具備主動(dòng)發(fā)現(xiàn)與動(dòng)態(tài)演進(jìn)特性，有效應(yīng)對(duì)多變的安全威脅。

目前，360已將該安全框架應(yīng)用于政務(wù)、金融、制造等多個(gè)行業(yè)，將理論方案轉(zhuǎn)化為可落地的實(shí)戰(zhàn)能力。通過(guò)與產(chǎn)學(xué)研機(jī)構(gòu)合作，集團(tuán)正推動(dòng)AI安全標(biāo)準(zhǔn)建設(shè)與技術(shù)共享，致力于構(gòu)建安全、可信的AI生態(tài)體系。

免責(zé)聲明：本文內(nèi)容僅供參考，不構(gòu)成任何投資建議。