日本在线不卡中文高清播放::[一一91pio.com一一]近期,多起知名人士被AI仿冒事件引發(fā)關注。有賬號仿冒知名醫(yī)生,深夜帶貨推銷所謂“保健品”。雖然很快被網(wǎng)友識破,但對醫(yī)生本人造成很大困擾,當事人多次投訴,違規(guī)賬號仍屢禁不止。 一段時間內,AI生成內容帶有明顯加工痕跡,大家尚能識別。隨著技術發(fā)展,AI生成的畫面、聲音、視頻越來越逼真,普通用戶愈發(fā)難辨真?zhèn)?。一些不法商家為躲避監(jiān)管,通常選擇在深夜直播,有的利用老年人警惕性弱、對新技術不了解,精準對其進行“收割”。 AI造假觸及的不止直播帶貨。有不法分子利用AI技術編“偽消息”、造“假新聞”,騙取網(wǎng)民關注點贊,實現(xiàn)流量變現(xiàn)。部分詐騙分子,深度合成受害者親屬、同事聲音畫面,精準施騙。 嚴防AI造假,關系社會秩序,也關系公民權益,是一個很迫切的話題。近來相關法律法規(guī)相繼出臺,《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等都在內容審核、信息安全方面對生成式AI提出了要求。今年9月,國家網(wǎng)信辦發(fā)布《人工智能生成合成內容標識辦法(征求意見稿)》,進一步提出剛性約束。 AI技術發(fā)展突飛猛進,帶來了新奇體驗和產(chǎn)業(yè)進步,與此同時,不法分子也千方百計為謀私利鉆空子。面對新挑戰(zhàn),確實需要想一些新辦法,全方位提升防造假的能力。 網(wǎng)絡平臺的責任不可推卸,需要不斷提升技術手段,加強審核識別,識別深度偽造內容。對于疑似AI生成的內容,應考慮在明顯位置進行標識提醒,并做好相關內容的后臺存儲備案,以防止不法商家一刪了之。監(jiān)管部門應嚴格執(zhí)法,對利用AI技術進行不法行為的人員和機構追根溯源、嚴查嚴處,加大震懾力度。網(wǎng)友則應提高警惕,加強防范,多方求證,增強信息辨別能力。 技術發(fā)展有其自身規(guī)律,關鍵在于使用技術者,須懷揣一顆向善之心。期待多方協(xié)同發(fā)力,清掃AI造假亂象,讓AI成為造福社會的超級助手,不能淪為不法分子的行騙工具。 海報制作:陳泉伊
主辦單位:北京市教育委員會
承辦單位:北京市數(shù)字教育中心
政府網(wǎng)站標識碼:1100000152 京公網(wǎng)安備 11040202430147號 京ICP備20014478號-1