我們每天上網看到的海量圖文、視頻，有多少是人工智能生成合成的？如何準確分辨AI文章、AI圖片、AI視頻？近日，國家互聯(lián)網信息辦公室發(fā)布《人工智能生成合成內容標識辦法（征求意見稿）》（以下簡稱《意見稿》），擬規(guī)定服務提供者提供的生成合成服務，包括文本、音頻、圖片、視頻、虛擬場景等，均應在適當位置添加顯著的提示標識；服務提供者提供生成合成內容下載、復制、導出等方式時，應當確保文件中含有滿足要求的顯式標識。

隨著人工智能技術的迅猛發(fā)展，AI合成成本低、制作容易、出品太快，使得這類合成內容逐漸滲透到生活的方方面面，從文字、圖片到音頻、視頻，無時不在、無處不在。隨之而來的是一系列倫理和社會問題，AI合成被一些不法人員用于制作、復制、發(fā)布、傳播違法和不良信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等，影響傳播秩序和社會秩序，損害人民群眾合法權益，危害國家安全和社會穩(wěn)定。

或許有人說，用人工智能技術合成，是“弄著玩”或“開玩笑”，給網絡生活加點“調料”，沒有惡意?？杉幢闳绱耍矔斐晒妼π畔⒌恼`會或誤判，極易導致不良社會后果。因此，顯著標識AI合成內容變得至關重要，而《意見稿》劃定了人工智能技術合成服務的底線和紅線。如此明確設定，具有很強的針對性，將減少由此導致的信任危機，對于防范化解網絡安全風險具有建設性作用。

眾所周知，網絡上每天產生的圖文、視頻等海量信息，傳播的路徑非常廣闊，傳播的速度異?？旖荨５?，隨著深度學習和生成對抗網絡等先進技術的介入，使得AI合成內容越來越逼真，這種技術進步存在被濫用的風險。這可能導致公眾對媒體和信息的普遍不信任，進而引發(fā)社會信任危機并擾亂社會秩序。而目前許多國家尚未有完善的法律框架來規(guī)范AI合成內容的使用，導致出現(xiàn)對這一網絡空間的監(jiān)管盲區(qū)。亟待有關部門出臺過渡性監(jiān)管措施，為法制監(jiān)管相關領域打下堅實基礎，催生新的立法和監(jiān)管措施。

為此，規(guī)定設置顯式標識，體現(xiàn)了對透明性和真實性的尊重，這是維護社會誠信和公共安全的基本要求。這一規(guī)定，非常具有現(xiàn)實針對性、必要性。保障了用戶的知情權和選擇權，使用戶能夠自主決定是否接觸和信任這些由AI合成的特定內容。這樣做，增加了一定成本，但對于提高透明度和建立信任至關重要；幫助公眾區(qū)分真實與合成內容，減少信息混亂；有助于防止這種潛在的大規(guī)模操控行為；明確內容的來源和制作者，有助于在發(fā)生侵權或欺詐行為時追究相關責任。

隨著AI技術不斷進步，AI合成內容將更加難以分辨，這必將會給顯式標識帶來新的挑戰(zhàn)。未來可能需要更復雜的技術手段和國際合作來實現(xiàn)跨平臺、跨媒介的顯式標識。同時，如何平衡技術發(fā)展與社會倫理，制定全球統(tǒng)一的標準和法規(guī)也是未來需要面對的重要問題。我們應當推動相關政策、技術和倫理規(guī)范的完善，以確保AI技術的健康發(fā)展和應用。