開欄語(yǔ)：預(yù)應(yīng)力鋼絞線價(jià)格

\n

 AI技術(shù)正以前所未有的速度重塑世界，也在現(xiàn)實(shí)中投射出重重亂象。幾天前，“slop”（AI批量產(chǎn)出的劣質(zhì)內(nèi)容）被評(píng)為年度熱詞。過(guò)去這一年，我們見證了AI“一鍵脫衣”打開潘多拉，捏個(gè)“假偶像”直播撈金；賽博算命、智商稅學(xué)習(xí)機(jī)屢屢上新，學(xué)術(shù)圈和詐騙團(tuán)伙也都在狂刷AI本……上游新聞特別出“年度AI亂象調(diào)查”題，盤點(diǎn)六大AI“翻車”現(xiàn)場(chǎng)，帶你看透亂象背后的層邏輯和監(jiān)管難點(diǎn)，探討AI亂象綜合整治之道。

\n

技術(shù)無(wú)善惡，道德有底線。這場(chǎng)AI安全保衛(wèi)戰(zhàn)，沒有局外人和旁觀者。

\n

2025年，AI技術(shù)以驚人速度滲透到社會(huì)生活的方方面面，從“一鍵脫衣”到“AI論文”，從“偽人帶貨”到“擬聲詐騙”，各種AI亂象層出不窮，映射出技術(shù)快速發(fā)展引發(fā)的層問(wèn)題。面對(duì)這一現(xiàn)狀，近日，上游新聞（報(bào)料郵箱baoliaosy@163.com）記者采訪了重慶大學(xué)大數(shù)據(jù)與軟件學(xué)院博士生導(dǎo)師黃晟教授，他從多個(gè)維度系統(tǒng)提出了自己的治理建議。

\n

源頭治理：法律、模型、數(shù)據(jù)三管齊下

\n

黃晟教授認(rèn)為，在源頭治理上，應(yīng)從法律、模型、數(shù)據(jù)三個(gè)層面遏制AI技術(shù)造惡。

\n

9月1日起，國(guó)網(wǎng)信辦等4部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》正式施行，要求所有AI生成的文字、圖片、視頻等內(nèi)容須“亮明身份”，防止虛假信息傳播。

\n

黃晟表示，在法律層面，關(guān)鍵在于壓實(shí)技術(shù)提供者的主體責(zé)任。須嚴(yán)格執(zhí)行《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，要求所有AI生成的圖片、音頻、視頻等合成內(nèi)容，均嵌入不可移除的顯標(biāo)識(shí)和隱式標(biāo)識(shí)（數(shù)字水?。?。這不僅有助于公眾識(shí)別內(nèi)容來(lái)源，更能為公安機(jī)關(guān)偵查取證和司法機(jī)關(guān)追究責(zé)任提供可靠的技術(shù)依據(jù)。

\n

\n

廣州一名年輕女子乘坐地鐵時(shí)，照片遭“一鍵去衣”。據(jù)澎湃新聞

\n

在模型層面，黃晟表示，服務(wù)提供者須確保模型在上線前通過(guò)安全與倫理評(píng)估，尤其對(duì)支持人臉合成、語(yǔ)音克隆、開放域文本生成等風(fēng)險(xiǎn)功能的系統(tǒng)，應(yīng)將其活體檢測(cè)、聲紋驗(yàn)證、敏感內(nèi)容過(guò)濾及生成水印等防濫用機(jī)制作為模型內(nèi)建能力予以實(shí)現(xiàn)和驗(yàn)證。

\n

在數(shù)據(jù)層面，訓(xùn)練數(shù)據(jù)須合法合規(guī)，嚴(yán)禁使用未經(jīng)許可的版權(quán)作品或未經(jīng)授權(quán)的個(gè)人隱私數(shù)據(jù)進(jìn)行模型訓(xùn)練。同時(shí)，應(yīng)建立嚴(yán)格的內(nèi)容審核機(jī)制，篩查并剔除包含違法不良信息，如涉黃、暴力恐怖、電信詐騙等內(nèi)容，以及具有歧視或偏見的數(shù)據(jù)，防止模型因訓(xùn)練數(shù)據(jù)污染而生成有害、違法或違背社會(huì)公序良俗的內(nèi)容。

\n

“數(shù)據(jù)是AI的‘食物’，若輸入的是盜版素材、隱私信息或違法內(nèi)容，模型便難免‘習(xí)得’偏差甚至惡意?！秉S晟表示，須從源頭守住數(shù)據(jù)合法合規(guī)的底線，杜偏見與違法內(nèi)容進(jìn)入訓(xùn)練集。

\n

倫理邊界：從口號(hào)到可執(zhí)行標(biāo)準(zhǔn)

\n

黃晟教授強(qiáng)調(diào)，AI倫理不能只停留在口號(hào)或原則層面，須轉(zhuǎn)化為可量化、可執(zhí)行、可驗(yàn)證的技術(shù)標(biāo)準(zhǔn)與制度安排。

\n

“作為一名AI技術(shù)從業(yè)者，預(yù)應(yīng)力鋼絞線我建議，先是制定AI倫理‘負(fù)面清單’?！秉S晟表示，應(yīng)明確禁止將人工智能技術(shù)用于風(fēng)險(xiǎn)、危害場(chǎng)景，例如利用度偽造技術(shù)實(shí)施詐騙或誹謗、生成傳播情暴力內(nèi)容、批量偽造學(xué)術(shù)論文或考試答案，以及針對(duì)未成年人進(jìn)行誘導(dǎo)營(yíng)銷或行為操控等。

\n

黃晟強(qiáng)調(diào)：“這份清單不應(yīng)只是道德倡導(dǎo)，應(yīng)成為模型設(shè)計(jì)、產(chǎn)品上線和平臺(tái)審核的硬約束條件?！?/p>\n

\n

央視曝光博主利用AI仿冒奧運(yùn)冠軍全紅嬋聲音帶貨土雞蛋的視頻。網(wǎng)絡(luò)圖

\n

“其次是廣‘可解釋AI’?！秉S晟表示，在司法、教育等關(guān)乎人身權(quán)益的關(guān)鍵領(lǐng)域，系統(tǒng)應(yīng)能清晰說(shuō)明“為何做出此判斷”，“這些場(chǎng)景中的算法決策直接影響人的健康、自由與發(fā)展，不能是‘黑箱’?！?/p>\n

“比如司法輔助系統(tǒng)展示量刑參考因素，教育薦引擎揭示內(nèi)容篩選邏輯。只有做到過(guò)程透明、依據(jù)可查、結(jié)果可復(fù)核，才能真正建立公眾信任?！秉S晟說(shuō)。

\n

“后是將AI素養(yǎng)納入國(guó)民基礎(chǔ)教育體系。面對(duì)AI生成內(nèi)容日益逼真、信息污染無(wú)處不在的現(xiàn)實(shí)，下一代須具備基本的數(shù)字辨識(shí)能力?！秉S晟建議，在中小學(xué)課程中融入AI素養(yǎng)教育，通過(guò)案例教學(xué)、互動(dòng)實(shí)驗(yàn)等方式，教會(huì)學(xué)生識(shí)別度偽造視頻、質(zhì)疑AI生成信息、理解算法偏見，并在此基礎(chǔ)上培養(yǎng)立思考與批判思維。

\n

監(jiān)管轉(zhuǎn)型：從“事后追責(zé)”到“技術(shù)前置”

\n

10月16日人民日?qǐng)?bào)發(fā)表評(píng)論《人工智能監(jiān)管應(yīng)因時(shí)而變》，文中稱，近年來(lái)，《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)信息服務(wù)度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》等法律法規(guī)的出臺(tái)，為人工智能的有監(jiān)管奠定了基礎(chǔ)。然而，技術(shù)發(fā)展日新月異，規(guī)則具有滯后，二者不可避免存在時(shí)間差。

\n

“進(jìn)一步健全法律體系，其關(guān)鍵在于讓規(guī)則具備技術(shù)可執(zhí)行?！秉S晟認(rèn)為，當(dāng)前監(jiān)管偏重“事后追責(zé)”，“但AI濫用往往是‘秒生成、分鐘傳播’，等發(fā)現(xiàn)時(shí)危害已擴(kuò)散，監(jiān)管部門更應(yīng)動(dòng)技術(shù)前置治理。”

\n

黃晟建議，監(jiān)管部門可以關(guān)注三方面：一是強(qiáng)制風(fēng)險(xiǎn)AI服務(wù)開放安全接口，比如要求換臉、擬聲類模型須提供“內(nèi)容真實(shí)驗(yàn)證API（應(yīng)用程序接口）”，供平臺(tái)或警方快速核驗(yàn)是否為合成內(nèi)容。

\n

\n

民警將正欲出門向詐騙人員交付現(xiàn)金的老人攔下。四川公安公眾號(hào)視頻截圖

\n

二是建立AI模型備案與檢測(cè)標(biāo)準(zhǔn)。參考APP備案，對(duì)具備度合成能力的模型，要求提交安全測(cè)試報(bào)告，如活體檢測(cè)通過(guò)率、敏感詞攔截率等指標(biāo)，并允許三方用標(biāo)準(zhǔn)數(shù)據(jù)集進(jìn)行“壓力測(cè)試”。

\n

三是支持建設(shè)國(guó)AI內(nèi)容檢測(cè)基礎(chǔ)設(shè)施，監(jiān)管部門可牽頭開發(fā)開源的識(shí)別工具包，并強(qiáng)制社交平臺(tái)接入，實(shí)現(xiàn)“上傳即檢測(cè)”。

\n

四是健全行業(yè)制度，在于構(gòu)建跨平臺(tái)協(xié)同防御機(jī)制，通過(guò)標(biāo)準(zhǔn)化與互操作，使社交平臺(tái)、支付系統(tǒng)、應(yīng)用商店等能夠快速聯(lián)動(dòng)響應(yīng)，將作惡者擋在整個(gè)生態(tài)之外。

天津市瑞通預(yù)應(yīng)力鋼絞線有限公司\n

“技術(shù)防御須跑在詐騙和謠言前面?！秉S晟表示：“說(shuō)到底，好的監(jiān)管不是限制創(chuàng)新，而是設(shè)定技術(shù)底線，讓作惡的成本遠(yuǎn)于守規(guī)的成本?！?/p>\n

上游新聞?dòng)浾?nbsp;湯皓預(yù)應(yīng)力鋼絞線價(jià)格