在近期舉辦的2025年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)上，奇安信（688561.SH）網(wǎng)絡(luò)安全專家黃巍就人工智能時(shí)代下的網(wǎng)絡(luò)安全問題發(fā)表了看法。他指出，隨著人工智能技術(shù)的廣泛應(yīng)用，新的網(wǎng)絡(luò)安全威脅正逐漸顯現(xiàn)，這些威脅貫穿于AI模型從訓(xùn)練到應(yīng)用的各個(gè)環(huán)節(jié)。

黃巍詳細(xì)分析了AI面臨的三大新型攻擊階段。首先是訓(xùn)練階段的數(shù)據(jù)投毒，攻擊者通過向訓(xùn)練數(shù)據(jù)中植入惡意樣本，干擾模型學(xué)習(xí)過程，導(dǎo)致模型性能下降甚至失效。其次是服務(wù)階段的濫用與中斷，攻擊者利用身份冒充或分布式拒絕服務(wù)（DDos）等手段，使AI服務(wù)無法正常運(yùn)行或性能嚴(yán)重受損。最后是應(yīng)用階段的提示詞攻擊，攻擊者通過精心設(shè)計(jì)的隱蔽提示詞，誘導(dǎo)模型產(chǎn)生錯(cuò)誤輸出或消耗大量計(jì)算資源。

他進(jìn)一步強(qiáng)調(diào)，隨著AI技術(shù)深入滲透到各個(gè)行業(yè)，其帶來的最大潛在風(fēng)險(xiǎn)在于人們可能難以分辨虛擬與現(xiàn)實(shí)。為應(yīng)對(duì)這一挑戰(zhàn)，行業(yè)正在探索"以AI對(duì)抗AI"的解決方案，即通過開發(fā)專門的AI工具來檢測(cè)和防范AI相關(guān)的安全威脅。這種趨勢(shì)正推動(dòng)各行業(yè)加速采用AI技術(shù)，同時(shí)建立相應(yīng)的規(guī)范和治理體系，采購(gòu)專業(yè)產(chǎn)品和服務(wù)來應(yīng)對(duì)AI帶來的新問題。

不過，黃巍也提醒，這種"以AI制AI"的模式并非完美無缺。在實(shí)際應(yīng)用中，AI系統(tǒng)可能會(huì)產(chǎn)生幻覺或編造信息。例如，在測(cè)試軟件程序時(shí)，AI為完成預(yù)設(shè)指標(biāo)可能會(huì)虛構(gòu)問題，這就需要人工進(jìn)行二次驗(yàn)證。這種人機(jī)協(xié)作的模式，將成為未來保障AI安全運(yùn)行的關(guān)鍵。