国产欧美综合在线区专区::[一一91pio.com一一]近期，多起知名人士被AI仿冒事件引發(fā)關(guān)注。有賬號仿冒知名醫(yī)生，深夜帶貨推銷所謂“保健品”。雖然很快被網(wǎng)友識破，但對醫(yī)生本人造成很大困擾，當(dāng)事人多次投訴，違規(guī)賬號仍屢禁不止。 一段時間內(nèi)，AI生成內(nèi)容帶有明顯加工痕跡，大家尚能識別。隨著技術(shù)發(fā)展，AI生成的畫面、聲音、視頻越來越逼真，普通用戶愈發(fā)難辨真?zhèn)?。一些不法商家為躲避監(jiān)管，通常選擇在深夜直播，有的利用老年人警惕性弱、對新技術(shù)不了解，精準對其進行“收割”。 AI造假觸及的不止直播帶貨。有不法分子利用AI技術(shù)編“偽消息”、造“假新聞”，騙取網(wǎng)民關(guān)注點贊，實現(xiàn)流量變現(xiàn)。部分詐騙分子，深度合成受害者親屬、同事聲音畫面，精準施騙。 嚴防AI造假，關(guān)系社會秩序，也關(guān)系公民權(quán)益，是一個很迫切的話題。近來相關(guān)法律法規(guī)相繼出臺，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等都在內(nèi)容審核、信息安全方面對生成式AI提出了要求。今年9月，國家網(wǎng)信辦發(fā)布《人工智能生成合成內(nèi)容標識辦法（征求意見稿）》，進一步提出剛性約束。 AI技術(shù)發(fā)展突飛猛進，帶來了新奇體驗和產(chǎn)業(yè)進步，與此同時，不法分子也千方百計為謀私利鉆空子。面對新挑戰(zhàn)，確實需要想一些新辦法，全方位提升防造假的能力。 網(wǎng)絡(luò)平臺的責(zé)任不可推卸，需要不斷提升技術(shù)手段，加強審核識別，識別深度偽造內(nèi)容。對于疑似AI生成的內(nèi)容，應(yīng)考慮在明顯位置進行標識提醒，并做好相關(guān)內(nèi)容的后臺存儲備案，以防止不法商家一刪了之。監(jiān)管部門應(yīng)嚴格執(zhí)法，對利用AI技術(shù)進行不法行為的人員和機構(gòu)追根溯源、嚴查嚴處，加大震懾力度。網(wǎng)友則應(yīng)提高警惕，加強防范，多方求證，增強信息辨別能力。 技術(shù)發(fā)展有其自身規(guī)律，關(guān)鍵在于使用技術(shù)者，須懷揣一顆向善之心。期待多方協(xié)同發(fā)力，清掃AI造假亂象，讓AI成為造福社會的超級助手，不能淪為不法分子的行騙工具。 海報制作：陳泉伊
主辦單位：北京市教育委員會
承辦單位：北京市數(shù)字教育中心
政府網(wǎng)站標識碼：1100000152
京公網(wǎng)安備 11040202430147號
京ICP備20014478號-1
