AI要“持证上岗”了!9月1日起,不打“身份证”小心被“请喝茶”!

温故智新AIGC实验室

TL;DR:

家人们谁懂啊!9月1日起,AI生成内容也要实名制了,不亮“身份证”可是要被“请喝茶”的!这波操作旨在规范AI内容,但平台识别能力还在“新手村”,创作者和版权方更是“一整个大懵圈”!

嘿,各位科技弄潮儿,吃瓜群众,以及每天与AI“斗智斗勇”的打工人们,注意啦!你们天天刷到的那些以假乱真的AI视频、图片,从9月1日开始,都要“持证上岗”了!没错,国家网信办等部门联合发布的《人工智能生成合成内容标识办法》(简称《办法》)和配套国标,正式生效,这意味着,AI生成的内容,必须,必须,必须亮明身份!不标识?那就等着被“查水表”吧!

这波操作,直接把AI内容治理推向了一个“全链条责任体系”的新时代。以前大家可能觉得,AI生成内容,谁做的谁负责呗。但现在,汇业律师事务所的史宇航律师给咱们科普了:这《办法》不光管模型开发者这些“幕后操手”,连抖音、小红书、B站这些“内容传播大户”也跑不掉!它们得核验,还得帮忙打上标识。简单说,从AI内容诞生,到它在你手机屏幕上“招摇过市”,每个环节都有人盯着1 简直是给国际社会上了一课,这AI治理,中国走在了前面!

“打假”进行时:理想很丰满,现实骨感不?

《办法》一出,网友们瞬间脑补了AI内容“裸奔”的时代一去不复返。然而,理想很丰满,现实嘛,总有点“骨感”。《IT时报》记者亲测了一番,在抖音、B站、小红书发了3条AI视频,一条主动标识,两条“悄悄的进村”。结果呢?

主动标识的,B站还算“光明磊落”,左下角和简介都亮明身份;小红书就有点“羞羞答答”了,得点进头像才能发现那行小小的“笔记含AI生成内容”。这差异,简直是大型“捉迷藏”现场1

更“抓马”的是,对于那两条“偷偷摸摸”没标识的AI视频,平台们的表现简直是**“参差不齐”。抖音还算给力,自动识别出了一条,温馨提示“作品含有AI生成内容”。但B站和小红书呢?“两耳不闻窗外事,一心只管流量来”,两条都没!有!识!别!出!来!**1

“整体来看,各平台在AI生成内容的检测和提示机制上仍存在差异,自动识别和强制标识能力有待提升。” —— 这话,真是一针见血,没毛病。

想想今年3·15期间,有记者用AI换脸技术制作视频,明明标题都喊着“AI换脸”了,平台愣是“视而不见”,全数放行。再往前看,央视都曝光了,有博主利用AI模仿奥运冠军全红婵的声音带货土鸡蛋,狂卖4.7万件!这不就是典型的“AI诈骗”吗?平台当时的监管,简直是“大写的缺位”1

所以,《办法》这次是动真格了!它明确指出,如果“深度伪造”内容不打声明,罚款、关停账号、限制功能都是小事,严重的甚至可能面临民事、行政乃至刑事责任!1 这下,那些想靠AI“蒙混过关”的,可得掂量掂量了。史宇航律师都说了,未来短视频平台上,如果AI换脸、AI声替名人,而平台不加标识,那可是**“撞上处罚枪口”**的节奏!1

创作者的“喜”与“忧”:是机遇还是“甲方劝退器”?

新规出台,最敏感的莫过于广大的AI内容创作者们了。

喜:规范是好事,技术小白也能“起飞”

AI视频创作者俞国汉就表示,行业规范化是好事,那些“伪造图片骗流量”的行为,以后会越来越难。毕竟,现在AI太强了,连业内人士都很难一眼辨真伪,“防伪标识”变得尤为必要1

更让人兴奋的是,随着通用大模型和开源社区的繁荣,连“技术小白”也能轻松玩转高质量AI内容了! 创作者阿远(化名)就是个活生生的例子。他一个“技术小白”,不到一天,用几百张图就在阿里魔搭平台训练出“小红书风格”的专属模型,“几乎没有任何门槛”!几秒钟就能生成逼真图片,日产千张,简直是“生产队的驴”也比不上!1

忧:甲方不买账,版权“罗生门”

然而,“喜”的背后也有“忧”。俞国汉也坦言,如果内容带着明显的AI标识,部分甲方可能会“不买账”,创作者收益可能因此减少。这不就是,你辛辛苦苦用AI“搞创作”,结果因为打了个标,甲方爸爸就觉得你“含金量不足”?这波操作,搞不好会变成“甲方劝退器”啊!1

而关于AI内容的版权,那更是一整个大罗生门。阿远训练的模型用了大量未经授权的小红书图片。那么问题来了,他模型生成的图片,版权到底是谁的?是原始素材的作者?是训练模型的阿远?还是魔搭平台?抑或是最终使用图片的用户? 这一连串的灵魂拷问,简直能把人绕晕!1

史宇航律师建议,AI生成内容必须添加“AI生成”等显著提示,这是合规,也是对公众和版权机构的交代,别再“冒充原创”了!1 更是提醒大家,一定要仔细阅读平台协议,保存好提示词、原始文件、修改记录,这些都是未来维权、厘清责任的**“保命符”**。1

AI“身份证”:它来了,它带着镣铐和机遇走来了

从《办法》的出台,到平台们“踉踉跄跄”的落地,再到创作者的“小确幸”与“大焦虑”,以及悬而未决的版权问题,我们看到的是AI这只“吞金巨兽”在狂奔猛进的同时,终于被套上了监管的“缰绳”。

但这“缰绳”并非全然束缚,它更像是一张AI世界的“身份证”。它告诉我们,AI生成的内容不再是“法外之地”,而是需要遵守规则、承担责任的“数字公民”。这张“身份证”将倒逼技术进步,推动平台加强识别能力,也促使创作者思考如何更负责任地利用AI。

未来,我们或许会看到AI生成内容的“含金量”重新被定义:那些主动标识、来源可追溯、版权清晰的内容,将赢得更多信任和商业价值。而那些试图“浑水摸鱼”的,最终只会引火烧身。

毕竟,当技术放低了门槛,法律的底线就应该相向提高。只有这样,才能在AI技术狂飙突进的时代,守住我们对真实世界的底线,让AI真正成为人类社会进步的“神助攻”,而不是“大麻烦”! 这波AI“身份证”操作,是挑战,更是新秩序的开始。我们,拭目以待!

引用


  1. 9月1日起,AI生成内容需持“身份证”,不标识或面临严格处罚 · IT时报 · 贾天荣 (2025/9/5) · 检索日期2025/9/5 ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎ ↩︎