隨著人工智能技術(shù)的快速發(fā)展，AI換臉應(yīng)用因其趣味性和創(chuàng)新性迅速流行。這項(xiàng)技術(shù)也引發(fā)了社會廣泛擔(dān)憂。例如，未經(jīng)授權(quán)的換臉視頻可能侵犯個人肖像權(quán)和隱私，甚至被用于詐騙、誹謗等違法犯罪活動，嚴(yán)重威脅公共安全和社會秩序。

為應(yīng)對這一問題，國家互聯(lián)網(wǎng)信息辦公室（網(wǎng)信辦）積極行動，制定并發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)規(guī)定，對AI換臉等深度合成技術(shù)進(jìn)行嚴(yán)格監(jiān)管。新規(guī)強(qiáng)調(diào)，提供此類服務(wù)的平臺必須履行備案義務(wù)，確保數(shù)據(jù)來源合法，并設(shè)置顯著標(biāo)識以提示用戶。禁止利用AI換臉技術(shù)從事?lián)p害國家利益、社會公共利益和他人合法權(quán)益的行為。

這些措施旨在加強(qiáng)互聯(lián)網(wǎng)安全服務(wù)，保護(hù)用戶個人信息，促進(jìn)技術(shù)健康有序發(fā)展。隨著監(jiān)管體系的完善和技術(shù)的迭代，AI換臉有望在娛樂、教育等領(lǐng)域發(fā)揮更大價值，同時最大限度地降低潛在風(fēng)險。