午夜精品久久久久久影视riav,白嫩少妇一级无码,中国精品人妻久久久久,久久精品亚洲无码日韩

換臉換聲、版權(quán)侵權(quán)……生成式AI被濫用該如何治理?

分享到:
分享到:

換臉換聲、版權(quán)侵權(quán)……生成式AI被濫用該如何治理?

2025年10月21日 23:52 來源:央視新聞客戶端
大字體
小字體
分享到:

  中國互聯(lián)網(wǎng)絡信息中心日前發(fā)布了《生成式人工智能應用發(fā)展報告(2025)》。報告顯示,我國生成式人工智能產(chǎn)品用戶規(guī)模已達5.15億人。報告同時也提出,隨著生成式人工智能的高速普及,其帶來的換臉換聲、版權(quán)侵權(quán)、學術(shù)濫用等問題也越發(fā)凸顯。這些問題在實踐中存在哪些表現(xiàn)?如何治理和應對這些風險挑戰(zhàn)?

  利用AI換臉換聲生成虛假廣告案件頻發(fā)

  生成式人工智能的多模態(tài)能力,可以讓用戶輕易給視頻中的人物換臉換聲,甚至直接生成完全虛構(gòu)的視頻,給不法分子帶來可乘之機。近期就發(fā)生了多起AI換臉換聲,生成虛假廣告的案件。比如,有的偽造奧運冠軍推薦土雞蛋,還有的偽造醫(yī)生形象推銷保健品,嚴重誤導公眾。

  這些換聲和換臉的AI深度合成是如何制作出來的呢?面對這些以假亂真的視頻,又該如何識別?

  業(yè)內(nèi)人士告訴記者,隨著AI換聲換臉技術(shù)的越來越成熟,已經(jīng)足以達到以假亂真的地步。分辨一段視頻或者聲音是否是經(jīng)過深度合成,最好的辦法還是通過AI去識別。即用AI去識別AI。

  人工智能大模型研究員 潘季明:從技術(shù)角度來說,最快的方式還是基于AI的方式去進行識別,如專門的深度偽造鑒別模型,用于分析視頻和音頻中的不自然的特征,如檢測眨眼頻率、面部肌肉運動的生理一致性、音頻與純嘴唇同步率、光源一致性等細微的物理或生理破綻。

  專家:治理核心在于全面落實內(nèi)容標識制度

  近兩年,AI深度合成名人、換臉換聲的視頻層出不窮、屢禁不止。對此,專家表示,治理的核心在于全面落實內(nèi)容標識制度。

  北京航空航天大學法學院副教授 趙精武:我國自2025年9月起正式施行了《人工智能生成合成內(nèi)容標識辦法》,其中明確要求,所有AI生成的文字、圖片、視頻等內(nèi)容必須添加顯式標識以"亮明身份",同時鼓勵添加數(shù)字水印等隱式標識。平臺企業(yè)應當依據(jù)《人工智能生成合成內(nèi)容標識辦法》,從源頭嵌入標識機制,為AI生成內(nèi)容附加不可篡改的數(shù)字水印,并確保這些標識在經(jīng)過剪輯、壓縮后仍能被準確識別。

  專家表示,AI深度合成的使用者在通過AI制作視頻時,應該有一條侵權(quán)法律界限,要合規(guī)合法使用人工智能深度合成。

  北京航空航天大學法學院副教授 趙精武:在明確合法性邊界方面,需要嚴格區(qū)分AI換臉技術(shù)的合法應用與非法濫用的邊界。合法應用通常包括影視制作、教育教學、醫(yī)療康復等具有正當價值的場景,這些應用需遵循法律上規(guī)定最小必要原則,確保使用范圍和目的相匹配,并獲取相應授權(quán)。而非法濫用則主要表現(xiàn)為未經(jīng)授權(quán)的肖像冒用、虛假信息傳播、淫穢色情內(nèi)容制作等場景。

  AI大模型訓練引發(fā)版權(quán)問題 矛盾怎么破?

  再來看人工智能帶來的版權(quán)侵權(quán)問題。早在去年10月,文學界、音樂界等超萬名人士發(fā)表了一份聯(lián)合聲明,譴責“未經(jīng)許可使用創(chuàng)意作品來訓練生成式人工智能”的行為。人工智能大模型使用的數(shù)據(jù)為何會引起版權(quán)爭端,又該如何破局,來聽聽專家怎么說。

  AI業(yè)內(nèi)人士告訴記者,目前人工智能大模型訓練的數(shù)據(jù),絕大多數(shù)來自于網(wǎng)絡,這些數(shù)據(jù)就包括含有版權(quán)的相關(guān)數(shù)據(jù)。

  人工智能大模型研究員 潘季明:現(xiàn)有的大模型都是基于海量的數(shù)據(jù)進行訓練的,其來源包括像互聯(lián)網(wǎng)數(shù)據(jù),以及圖書、論文、行業(yè)數(shù)據(jù)等,經(jīng)過數(shù)據(jù)預處理,通過無監(jiān)督學習、微調(diào)、強化學習之后,便可用于內(nèi)容生成。然而模型是沒有版權(quán)意識的,它不知道哪些內(nèi)容是涉及版權(quán),哪些不能隨便生成,除非對現(xiàn)在數(shù)據(jù)進行一個明確的版權(quán)標識。而現(xiàn)在的大模型基本上不管有沒有版權(quán),都會去進行一個數(shù)據(jù)抓取訓練。

  針對人工智能大模型涉及的版權(quán)問題,專家表示,發(fā)展人工智能不能以犧牲版權(quán)為代價,兩者和諧共生應以尊重知識產(chǎn)權(quán)為前提。

  北京航空航天大學法學院副教授趙精武介紹,AI開發(fā)運營者需建立全面的著作權(quán)合規(guī)機制,包括:

  在訓練數(shù)據(jù)收集階段進行版權(quán)審核,優(yōu)先獲取授權(quán)和使用開放許可的資源;在模型訓練過程中保留數(shù)據(jù)來源記錄;

  在內(nèi)容生成環(huán)節(jié)嵌入防抄襲檢測;

  在輸出階段需要添加版權(quán)標識和水印。

  另一方面,主管部門需要擴充訓練數(shù)據(jù)供給渠道,化解訓練數(shù)據(jù)不充分與版權(quán)的沖突困境。

  學生和研究人員濫用AI寫論文抄作業(yè)引關(guān)注

  除了剛才說到的問題,報告中也提到,學生和研究人員將生成式人工智能用于寫論文、抄作業(yè)的情況也正引起各界關(guān)注。

  專家表示,隨著生成式人工智能在學術(shù)研究中的廣泛應用,學術(shù)誠信體系面臨前所未有的挑戰(zhàn)。簡單的禁止措施已被證明效果不彰,且難以執(zhí)行。“堵不如疏”的治理理念正成為全球?qū)W術(shù)界的共識,其核心在于認可AI技術(shù)提升科研效率的積極價值,同時通過規(guī)范引導確保其應用不損害學術(shù)誠信。

  北京航空航天大學法學院副教授 趙精武:在教學活動中,教師應當設置專門環(huán)節(jié)引導學生正確使用AI工具,將該類工具從“偷懶”“圖省事”的錯誤定位調(diào)整為“提升學習效率”“輔助科研”的正確功能定位,明確它的輔助定位的屬性。同時,教師還需要設計能夠評估學生思維過程的考核方式,減少對純文本輸入的依賴,增加過程性評價比重。(央視新聞客戶端)

【編輯:史詞】
發(fā)表評論 文明上網(wǎng)理性發(fā)言,請遵守新聞評論服務協(xié)議
本網(wǎng)站所刊載信息,不代表中新社和中新網(wǎng)觀點。 刊用本網(wǎng)站稿件,務經(jīng)書面授權(quán)。
未經(jīng)授權(quán)禁止轉(zhuǎn)載、摘編、復制及建立鏡像,違者將依法追究法律責任。
Copyright ©1999-2025 chinanews.com. All Rights Reserved

評論

頂部