9月1日起，《人工智能生成合成内容标识办法》正式实施，要求所有AI生成的内容都要“亮明身份”。在此背景下，DeepSeek、腾讯元宝等各大模型厂商纷纷行动，为AI生成合成内容添加标识，一场与AI造假斗争的行动拉开帷幕。

一、大模型厂商纷纷“打标”

厂商积极行动

9月1日，DeepSeek在官方公众号发布公告，对AI生成合成内容添加标识，并提醒用户相关内容由AI生成。早在8月31日，腾讯元宝就发布了《关于AI内容标识的公告》。此外，字节豆包、阿里通义、Kimi、智谱清言等也已更新用户协议中与AI标识相关的内容，履行AI标识相关义务，包括显性标识和隐性标识。

《办法》要求多方遵守

该《办法》由国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局四部门联合发布，要求文本、图片、音频、视频、虚拟场景等AI生成内容都要标识，AIGC技术服务者、平台、用户都得遵守。AIGC技术服务者需在生成AI内容时埋好隐性标识，做好“出厂盖章”；平台要识别并给AI内容添加显式标识和隐式标识，如标明“作品含AI内容”，做好“上架明牌”；用户在发布和传播相关内容时，不得删除、篡改、伪造或隐匿平台添加的AI标识。互联网平台如B站、抖音、快手等也纷纷上线相关功能，让用户主动声明AI内容并配以平台识别打标。

二、AI造假乱象丛生

欺骗老人

AI内容越来越多、越来越逼真，给人们带来了诸多困扰。老人容易被AI乖孙等虚假内容欺骗，比如过年时老人抱着手机与AI合成的“乖孙”亲密互动，甚至拿AI乖孙和真孙比较，让子女有苦难言。更严重的是，一些不法分子利用AI制作虚假视频，如马来西亚一对老夫妻看到AI制作的“记者走访”缆车项目视频后，驱车前往却发现被骗；中国工程院院士张伯礼也被AI合成视频虚假宣传。

迷惑年轻人

年轻人也未能幸免，催婚视频大量使用AI技术，原视频经AI处理后成了对口型文案点读机，甚至用AI猫猫成亲视频配催婚文案。还有“袋鼠登机”视频，因无明显破绽，很多人信以为真，事后才发现是AI视频。这些虚假内容不仅让年轻人感到愤怒，还冲击着他们对真实与虚假的认知。

三、全球AI标识规范情况

我国力度罕见

我国强制规范AI生产商、平台、用户三方共同努力，不留“视情况遵守”的灰色地带和“猫鼠游戏”的空间，力度在全球实属罕见。

其他国家进展

韩国和西班牙在今年年初分别有人工智能框架法和AI标识要求；欧盟2024年正式公布《人工智能法案》，将人工智能系统分级管理，但强制标签要求可能要到2026年生效，且法案推行遇到阻力，如美国科技巨头对自愿签署《通用人工智能行为准则》态度不一，美国本土至今没有全国性AI标识法规，部分州有强制标签要求，联邦层面仅有指导性意见，科技公司如OpenAI、谷歌、Meta等是自愿支持AI水印、AI标识等措施。

四、非强制监管问题凸显

YouTube乱象

在非强制性监管环境下，AI标识落实和AI内容控制不尽如人意。谷歌旗下视频平台YouTube上AI短视频泛滥，儿童频道是重灾区，存在蹩脚无意义、知识错误百出等问题，部分账号还重复上传相同视频赚取流量。此外，YouTube还被怀疑擅自为真人视频做AI增强，引发创作者不满。

未来隐患

AI内容挤占了人类创作者的生存空间，人类影响者平均收入是AI影响者的46倍，但差距在缩小。创作者经济和虚拟创作市场呈增长趋势，未来AI视频数量可能越来越多，若不加以规范，我们可能需要在AI世界里挑拣“真实”内容。

虽然《办法》实施后AI标识仍存在难点和“漏网之鱼”，但这是迈向解决AI造假问题的重要一步，至少为规范AI内容提供了开端。