近日，上海網(wǎng)信辦通報了“清朗·整治AI技術(shù)濫用”專項行動第一階段的顯著成果。此次行動主要針對AI技術(shù)的違規(guī)使用，全面清理并整治了相關(guān)違規(guī)AI產(chǎn)品及信息。
在專項行動中，上海市委網(wǎng)信辦積極指導(dǎo)包括小紅書、嗶哩嗶哩、拼多多在內(nèi)的15家重點網(wǎng)站平臺，集中對“一鍵脫衣”、未經(jīng)授權(quán)的人臉或人聲克隆編輯等違規(guī)AI產(chǎn)品、商品及其營銷、炒作、推廣、教程信息進行清理。這些平臺積極響應(yīng)，不僅主動發(fā)布專項行動治理公告，還開通了有害AI內(nèi)容的舉報受理處置渠道，加強了對智能體的全面排查清理。
據(jù)統(tǒng)計，各重點網(wǎng)站和AI平臺在此次行動中共攔截清理了82萬余條違法違規(guī)信息，處置了1400余個違規(guī)賬號，并下線了2700余個違規(guī)智能體。這一系列舉措使得網(wǎng)絡(luò)上的違規(guī)AI信息得到了顯著減少。
此外，上海網(wǎng)信辦還圍繞AI內(nèi)容的“制作-傳播”環(huán)節(jié)，通過政策指導(dǎo)、生態(tài)協(xié)同與技術(shù)落地，推動相關(guān)企業(yè)加快開發(fā)上線隱式標識和傳播鏈互認驗證。稀宇科技、階躍星辰、通義等多家企業(yè)已基本完成了顯式標識規(guī)范的上線工作。同時，小紅書還牽頭編制了圖片模態(tài)元數(shù)據(jù)標識實踐指南，為上海的標識工作取得了階段性成效。
此次專項行動的初步成果展示了上海網(wǎng)信辦在整治AI技術(shù)濫用方面的決心和成效，為營造清朗的網(wǎng)絡(luò)空間邁出了堅實的一步。
浙公網(wǎng)安備 33010502007447號