當(dāng)前，人工智能（AI）技術(shù)給人們生產(chǎn)生活帶來(lái)便利的同時(shí)，也出現(xiàn)不少風(fēng)險(xiǎn)挑戰(zhàn)，AI造假就是其中之一。例如，有不法分子利用“AI換臉”“AI變聲”等合成技術(shù)實(shí)施詐騙，迷惑性很強(qiáng)；一些不良商家靠AI假圖吸引顧客，“圖文不符”“貨不對(duì)板”等現(xiàn)象頻發(fā)。

  國(guó)家互聯(lián)網(wǎng)信息辦公室等四部門(mén)日前聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，要求AI服務(wù)提供者和內(nèi)容傳播平臺(tái)必須采取措施對(duì)AI生成內(nèi)容進(jìn)行標(biāo)識(shí)。

  《辦法》的出臺(tái)是從頂層設(shè)計(jì)出發(fā)、加強(qiáng)人工智能行業(yè)治理的又一項(xiàng)制度安排，可有效遏制AI偽造內(nèi)容產(chǎn)生、傳播，推動(dòng)AI在合法框架內(nèi)健康發(fā)展。在此基礎(chǔ)上，公眾將更容易識(shí)別人工智能合成內(nèi)容，有效減少造假誤導(dǎo)情況發(fā)生。

  最大限度降低AI濫用影響，讓技術(shù)更好造福人類(lèi)，還需社會(huì)各界達(dá)成共識(shí)，形成治理合力。互聯(lián)網(wǎng)平臺(tái)是AI生成內(nèi)容的主要傳播渠道，強(qiáng)化AI生成內(nèi)容治理，平臺(tái)應(yīng)發(fā)揮更大作用。《辦法》特別明確了平臺(tái)需對(duì)合成內(nèi)容進(jìn)行審核、核驗(yàn)。對(duì)此，有電商平臺(tái)企業(yè)第一時(shí)間作出回應(yīng)，發(fā)布新規(guī)嚴(yán)禁利用AI等技術(shù)合成方式，呈現(xiàn)顯著失真、與實(shí)際不符的商品信息效果圖，還向全行業(yè)發(fā)出倡議，規(guī)范使用AI生成圖片，保障商品信息真實(shí)，號(hào)召加入對(duì)AI假圖的全面治理。

  不同于資訊、娛樂(lè)內(nèi)容，商品圖片直接關(guān)系到消費(fèi)決策，需要更精細(xì)的管理。平臺(tái)要主動(dòng)出擊完善規(guī)范、推出治理方案，可通過(guò)模型識(shí)別，攔截失真的AI假圖上傳，同時(shí)針對(duì)存量假圖向商家發(fā)出整改提醒，并標(biāo)注提醒消費(fèi)者注意甄別。

關(guān)鍵詞：