5月17日，騰訊云在北京舉辦的生成式AI產(chǎn)業(yè)應(yīng)用峰會(huì)上公布大模型研發(fā)、應(yīng)用產(chǎn)品的系列進(jìn)展。騰訊集團(tuán)高級(jí)執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生表示，騰訊始終以“產(chǎn)業(yè)實(shí)用”作為發(fā)展大模型的核心戰(zhàn)略，通過打造高性能的模型、高效率的工具平臺(tái)、高敏捷的場(chǎng)景應(yīng)用、高可用的算力基礎(chǔ)設(shè)施，以及強(qiáng)安全的模型環(huán)境，構(gòu)建離產(chǎn)業(yè)最近的AI。

圍繞AI帶來的全新安全挑戰(zhàn)，騰訊云在會(huì)上發(fā)布了AI安全保護(hù)框架，以及全鏈路的內(nèi)容安全解決方案和數(shù)據(jù)安全解決方案，護(hù)航企業(yè)擁抱生成式AI從模型訓(xùn)練、內(nèi)容生成到事后運(yùn)營全過程的安全建設(shè)，護(hù)航產(chǎn)業(yè)發(fā)展。

(騰訊安全總經(jīng)理周斌在大會(huì)現(xiàn)場(chǎng)發(fā)表主題演講)

攻防相長，AI重塑安全保護(hù)框架

生成式AI為許多行業(yè)的創(chuàng)新和發(fā)展提供了新的工具和視角，但其帶來的安全威脅也讓眾多企業(yè)倍感擔(dān)憂。相關(guān)研究數(shù)據(jù)顯示，ChatGPT發(fā)布后，釣魚郵件環(huán)比增長260%且平均語言復(fù)雜度提升17%，攻擊者利用生成式AI增加的社會(huì)工程攻擊量達(dá)135%，這些新風(fēng)險(xiǎn)均導(dǎo)致企業(yè)安全需求激增。根據(jù)普華永道調(diào)研顯示，77%的CEO擔(dān)心AI增加網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。

騰訊安全總經(jīng)理周斌認(rèn)為，AI和安全一直以來都在互相影響，尤其是在生成式 AI爆火以來，攻擊方和防守方都在利用AI提升智能化水平。這個(gè)過程中，也會(huì)產(chǎn)生專屬于大模型的新風(fēng)險(xiǎn)，尤其是AI本體安全，以及生成式AI“智能涌現(xiàn)”對(duì)數(shù)字內(nèi)容、版權(quán)等方面的衍生安全沖擊。

因此，防守方應(yīng)重新建立AI本體安全、AI應(yīng)用安全、AI內(nèi)容安全的AI應(yīng)用保護(hù)框架，覆蓋AI從第一條數(shù)據(jù)訓(xùn)練到最終上線運(yùn)營全過程安全。同時(shí)，企業(yè)還應(yīng)提升安全體系的AI含量，讓安全專家和機(jī)器協(xié)同作戰(zhàn)，智能化應(yīng)對(duì)安全威脅。

周斌表示，無論哪種技術(shù)的伴生安全，其實(shí)都需要多方協(xié)同。在企業(yè)擁抱生成式AI的過程中，以騰訊為代表的大模型建設(shè)方，需要保障AI本體安全；企業(yè)基于騰訊的大模型構(gòu)建原生AI應(yīng)用時(shí)，需要關(guān)注模型從開發(fā)、測(cè)試、部署到運(yùn)行等完整生命周期內(nèi)的應(yīng)用安全，“同時(shí)，雙方還需要攜手共建AI內(nèi)容安全防線”。

天御AIGC內(nèi)容安全解決方案，已服務(wù)主流生成式AI應(yīng)用

周斌認(rèn)為，相比于其他技術(shù)和業(yè)態(tài)，生成式AI的特征是始終圍繞“數(shù)據(jù)”和“內(nèi)容”展開，每一條訓(xùn)練數(shù)據(jù)和生成內(nèi)容，都在檢驗(yàn)全套安全體系是否有效。其中內(nèi)容安全不僅考驗(yàn)底線類的涉黃涉暴等違規(guī)內(nèi)容，還要應(yīng)對(duì)虛假信息泛濫、個(gè)人內(nèi)容版權(quán)侵權(quán)、文化偏見歧視、倫理道德背離等全新挑戰(zhàn)。

騰訊云對(duì)此打造了天御AIGC全鏈路的內(nèi)容安全解決方案，提供包含審校服務(wù)、安全專家服務(wù)、機(jī)器審核服務(wù)、版權(quán)保護(hù)服務(wù)、客戶體驗(yàn)管理五大服務(wù)體系，包含風(fēng)險(xiǎn)場(chǎng)景定義、風(fēng)險(xiǎn)語料庫服務(wù)、語料版權(quán)檢測(cè)、輸出價(jià)值觀檢測(cè)、業(yè)務(wù)傳播風(fēng)險(xiǎn)監(jiān)測(cè)等能力，覆蓋生成式AI應(yīng)用從模型訓(xùn)練到內(nèi)容生成到事后運(yùn)營全過程的內(nèi)容安全建設(shè)。

騰訊安全依托過去20多年的安全運(yùn)營經(jīng)驗(yàn)，積累了豐富的違規(guī)樣本以及十幾種定制識(shí)別服務(wù)，可以結(jié)合行業(yè)場(chǎng)景為企業(yè)的內(nèi)容安全建設(shè)“量體裁衣”。騰訊云天御風(fēng)控還和對(duì)象存儲(chǔ)、云直播、云點(diǎn)播、實(shí)時(shí)音視頻等云上工具打通，讓企業(yè)在云上一次接入即可完成整套審核，效率大幅提升。

目前，騰訊云天御AIGC內(nèi)容安全解決方案已在AI問答、數(shù)字人、創(chuàng)作助手、代碼生成、娛樂社交、AI客服等各種場(chǎng)景中落地，覆蓋主流生成式AI應(yīng)用生態(tài)，護(hù)航各行各業(yè)內(nèi)容安全。

全鏈路數(shù)據(jù)安全解決方案，實(shí)現(xiàn)99.99%敏感數(shù)據(jù)識(shí)別準(zhǔn)確度

在內(nèi)容合規(guī)要求外，生成式AI還面臨數(shù)據(jù)安全風(fēng)險(xiǎn)，模型和數(shù)據(jù)都會(huì)成為潛在的攻擊目標(biāo)，數(shù)據(jù)類型多樣及規(guī)模大也導(dǎo)致數(shù)據(jù)安全治理難度加大。相比于傳統(tǒng)過濾掉有害數(shù)據(jù)的保護(hù)措施，生成式AI的“從無到有”的特性顯著加劇了數(shù)據(jù)安全挑戰(zhàn)。

因此，為防范數(shù)據(jù)安全問題造成的隱私侵犯、經(jīng)濟(jì)損失、法律責(zé)任、聲譽(yù)損失等系列問題，需要對(duì)數(shù)據(jù)工程師、算法工程師等人員做好身份認(rèn)證、數(shù)據(jù)訪問控制以及操作管控，對(duì)數(shù)據(jù)做好防篡改、敏感數(shù)據(jù)去標(biāo)識(shí)化、以及數(shù)據(jù)行為審計(jì)和異常監(jiān)測(cè)。

騰訊云針對(duì)AIGC場(chǎng)景和數(shù)據(jù)特點(diǎn)開發(fā)，打造數(shù)據(jù)安全治理解決方案，通過對(duì)大模型的用戶、實(shí)體、模型文件實(shí)施分級(jí)別的訪問控制，實(shí)現(xiàn)權(quán)限分離。同時(shí)，騰訊云通過數(shù)據(jù)安全治理中心、數(shù)據(jù)安全防護(hù)網(wǎng)關(guān)、機(jī)密計(jì)算平臺(tái)等產(chǎn)品能力，實(shí)現(xiàn)大模型業(yè)務(wù)全流程從數(shù)據(jù)采集、數(shù)據(jù)處理、訓(xùn)練、精調(diào)、發(fā)布、推理到應(yīng)用的過程中，海量數(shù)據(jù)和大模型的完整性和保密性。

目前，該方案已實(shí)現(xiàn)99.99%敏感數(shù)據(jù)識(shí)別準(zhǔn)確度，積累了超200種的數(shù)據(jù)分類以及300多個(gè)風(fēng)險(xiǎn)檢測(cè)模型，能支持企業(yè)海量數(shù)據(jù)的敏感度識(shí)別和安全防護(hù)、審計(jì)溯源。

除此之外，周斌在發(fā)布會(huì)上還公布了騰訊云在安全運(yùn)營、風(fēng)控建模、漏洞修復(fù)等基于大模型賦能安全場(chǎng)景的探索，致力于幫助企業(yè)提升安全攻防效率。周斌表示，未來，騰訊云將基于領(lǐng)先技術(shù)讓千行百業(yè)無懼安全威脅，安心擁抱AI，激發(fā)應(yīng)用價(jià)值。

關(guān)鍵詞：