在信息爆炸的時(shí)代，內(nèi)容安全宛如一座燈塔，照亮我們在數(shù)字世界中的航程。4月11日，網(wǎng)易易盾應(yīng)邀進(jìn)入武漢大學(xué)，網(wǎng)易易盾總經(jīng)理朱浩齊在國家網(wǎng)絡(luò)安全學(xué)院舉行主題演講。
朱浩齊以“內(nèi)容安全行業(yè)入門與實(shí)踐”為主題，為學(xué)生們講解了內(nèi)容安全的基本概念、最新趨勢和發(fā)展前景，強(qiáng)調(diào)了內(nèi)容安全行業(yè)的重要性，并分享了實(shí)踐經(jīng)驗(yàn)和職業(yè)規(guī)劃建議。
與此同時(shí)，他還分享了內(nèi)容安全領(lǐng)域的技術(shù)和應(yīng)用，包括人工智能、大數(shù)據(jù)、圖像識別、語音識別、自然語言處理、深度學(xué)習(xí)等技術(shù)在實(shí)際應(yīng)用中取得的顯著成效，讓同學(xué)們深入了解內(nèi)容安全的實(shí)際應(yīng)用和解決方案。
他表示，“內(nèi)容安全行業(yè)是一個(gè)充滿活力的行業(yè)，它不僅能夠提高用戶體驗(yàn)，提升產(chǎn)品的價(jià)值，也能保護(hù)網(wǎng)絡(luò)環(huán)境的安全，從而為社會(huì)發(fā)展做出貢獻(xiàn)?！?
本次安全主題授課旨在通過合作學(xué)校和企業(yè)的共同努力，深入探討行業(yè)知識，提升相關(guān)技能。作為主講人，朱浩齊熱情鼓勵(lì)學(xué)生們投身網(wǎng)絡(luò)安全和內(nèi)容安全行業(yè)，共同維護(hù)網(wǎng)絡(luò)空間的和諧與秩序。
互聯(lián)網(wǎng)世界就像一座巨大的舞臺，每個(gè)人都扮演著不同的角色，而內(nèi)容則是舞臺上不可或缺的介質(zhì)。內(nèi)容安全在整個(gè)生態(tài)中是至關(guān)重要的“導(dǎo)演”，既要仰賴技術(shù)進(jìn)步，也要受到人文關(guān)懷和道德引導(dǎo)的支持。
一直以來，內(nèi)容安全是一個(gè)頗為小眾的概念，但應(yīng)用場景卻非常廣泛，從智能汽車、智能手表到在線社區(qū)，從娛樂社交平臺、游戲平臺到電商平臺，對內(nèi)容的審核和管理無處不在。
具體而言，娛樂社交平臺，如小紅書、微信、微博等，會(huì)對用戶上傳的內(nèi)容進(jìn)行審核和管理。手游、頁游等游戲平臺，對用戶上傳的頭像、游戲昵稱、社區(qū)發(fā)言等內(nèi)容進(jìn)行審核和管理，維護(hù)游戲秩序和用戶體驗(yàn)。淘寶、京東等電商平臺等電商平臺，對用戶上傳的商品信息、評價(jià)等內(nèi)容進(jìn)行審核和管理，保障商品質(zhì)量和用戶權(quán)益。在線教育、汽車、金融、新零售都搭建了行業(yè)化的在線社區(qū)/網(wǎng)站，要對用戶上傳的帖子、評論進(jìn)行審核和管理。
當(dāng)審核成為共識，新的挑戰(zhàn)也隨之而來。2022年11月30日，一款由Open AI公司開發(fā)的人工智能聊天機(jī)器人ChatGPT正式上線天就產(chǎn)生了百萬用戶。隨后其他生產(chǎn)式AI技術(shù)如雨后春筍一般進(jìn)入大眾視野，內(nèi)容生產(chǎn)賦予大眾專業(yè)內(nèi)容生產(chǎn)者的能力。
無所不能的生成式AI技術(shù)，也伴隨著種類繁多的惡意風(fēng)險(xiǎn)，從虛假新聞、網(wǎng)絡(luò)騙局、信息誤導(dǎo)、內(nèi)容垃圾到惡意廣告，都在“內(nèi)容安全”的警惕范圍之內(nèi)。
朱浩齊問道：“在未來，我們?nèi)绾卧诰薮蟮男畔⒑榱髦斜３智逍训念^腦？面對網(wǎng)絡(luò)暴力、謠言、侵權(quán)等問題，我們應(yīng)如何采取有效措施，維護(hù)網(wǎng)絡(luò)空間的和諧？” 這些問題引導(dǎo)在座師生們思考內(nèi)容安全在維護(hù)網(wǎng)絡(luò)環(huán)境中所扮演的重要角色。
在中國，內(nèi)容安全得到了政府和企業(yè)的高度重視。政府部門加強(qiáng)了法律法規(guī)的制定與更新，積極管理網(wǎng)絡(luò)內(nèi)容，并推動(dòng)企業(yè)落實(shí)主體責(zé)任。企業(yè)運(yùn)用AI技術(shù)、大數(shù)據(jù)分析等手段提供全面、實(shí)時(shí)的風(fēng)險(xiǎn)監(jiān)測和防范方案，輔助乃至代替人類審核員提高審核準(zhǔn)確性和效率，是當(dāng)前發(fā)展的主流方向。
近日，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了一項(xiàng)關(guān)于《生成式人工智能服務(wù)管理辦法(征求意見稿)》的公開征求意見的通知，以加強(qiáng)對生成式人工智能服務(wù)的監(jiān)管細(xì)則。
內(nèi)容安全是本次征求意見稿的重中之重，其主要包含三大監(jiān)管要點(diǎn)。
01利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個(gè)人，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任。
02提供者應(yīng)當(dāng)明確并公開其服務(wù)的適用人群、場合、用途，采取適當(dāng)措施防范用戶過分依賴或沉迷生成內(nèi)容。
03不得開展違反法律法規(guī)，違背商業(yè)道德、社會(huì)公德行為時(shí)，包括從事網(wǎng)絡(luò)炒作、惡意發(fā)帖跟評、制造垃圾郵件、編寫惡意軟件，實(shí)施不正當(dāng)?shù)纳虡I(yè)營銷等，應(yīng)當(dāng)暫?；蛘呓K止服務(wù)。
國際上，內(nèi)容安全也得到廣泛關(guān)注。歐美等發(fā)達(dá)國家在相關(guān)領(lǐng)域具有較強(qiáng)的技術(shù)研發(fā)實(shí)力，多家科技巨頭如谷歌、Facebook等積極投入資源開展數(shù)字內(nèi)容風(fēng)控技術(shù)研發(fā)。此外，政府和民間組織也在積極推動(dòng)立法和監(jiān)管，以保障網(wǎng)絡(luò)空間的安全和秩序。
朱浩齊指出，雖然內(nèi)容安全行業(yè)在全球范圍內(nèi)均取得了顯著進(jìn)展，但依舊面臨著諸多挑戰(zhàn)，如隱私保護(hù)、跨境法律監(jiān)管、多元文化背景下的內(nèi)容審查，以及監(jiān)管標(biāo)準(zhǔn)不統(tǒng)一等問題。這些問題不僅涉及技術(shù)層面，更關(guān)乎社會(huì)倫理和法制建設(shè)，因此內(nèi)容安全對于現(xiàn)代網(wǎng)絡(luò)安全從業(yè)者來說是一門必修課。
網(wǎng)易智企旗下的“易盾”作為一家專注于內(nèi)容安全的技術(shù)提供商，致力于顛覆傳統(tǒng)的安全防護(hù)方式，提供更加智能化的保護(hù)，并積累了豐富的實(shí)踐經(jīng)驗(yàn)和眾多成功案例。
針對生成式AI風(fēng)險(xiǎn)，傳統(tǒng)的處理內(nèi)容風(fēng)險(xiǎn)案例的方法“內(nèi)容識別算法”，很快會(huì)達(dá)到極限。易盾還通過行為數(shù)據(jù)、賬號數(shù)據(jù)、內(nèi)容數(shù)據(jù)構(gòu)建了統(tǒng)一向量空間的協(xié)同算法模型，通過不同維度信息之間的相互驗(yàn)證，構(gòu)建起立體化全方位的防守系統(tǒng)。
毫無疑問，內(nèi)容安全技術(shù)將繼續(xù)在加強(qiáng)對用戶生成內(nèi)容（UGC）和人工智能生成內(nèi)容（AIGC）的服務(wù)管理和監(jiān)管中發(fā)揮著越來越重要的作用，有效保障用戶的合法權(quán)益和維護(hù)社會(huì)安全穩(wěn)定。
