引言

2022年底，生成式人工智能逐渐走入公众视野，这种仅凭借文字指令就可以生成稿件、图片、音频、视频的应用。一经推出就获得了许多人的青睐。但正如学者尼尔·波兹曼在《技术垄断》（Technopoly）一书中写道：“每一种技术既是包袱也是恩赐，不是非此即彼的结果而是利弊同在的产物”。生成式人工智能也是如此，在为人们带来便捷的同时，也暗藏着许多危险的信号。虚假新闻、隐私泄漏、著作权侵权等等都是AIGC技术可能带来的弊端。

2023年，为了应对韦斯特菲尔德高中的一起令人震惊的人工智能滥用案件，几位十年级的女学生向校方管理人员报告称其班上的男生以她们为原型使用AI软件合成了她们的不雅图像。此次案件使得美国国会议员小汤姆·基恩（Tom Kean Jr.）带头努力解决监管人工智能的法律设施不足的问题，为此，基恩提出了2023年人工智能标签法案，旨在解决当前围绕人工智能技术的法律空白。但次法案一直未得到正式通过。2023年10月30日美国总统拜登签署颁布《关于安全、可靠、值得信赖地开发和使用人工智能的行政命令》（Executive Order on the Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence），其中第四节第5点明确提出未来应着重减少合成带来的风险，培养识别和标记人工智能系统生成的合成内容的能力，并确定由联邦政府或代表联邦政府生成的合成和非合成数字内容的真实性和出处。这是美国官方首次针对生成式AI的标识办法提出正式要求。

总的来说，美国针对生成式AI标识办法目前还停留在提出法案与颁布行政令阶段，而欧洲已针对如何给生成式AI生成内容打上标识进行立法。2023年5月21日欧盟《人工智能法案》（Artificial Intelligence (AI) Act）（以下简称“AI法案”）由欧盟理事会正式批准通过，并将于当地时间8月1日正式生效。AI法案中第四章第50条中明确提出了特定AI系统的提供者和部署者的透明度义务。该条例规定了提供者应确保与自然人直接互动的AI系统被设计与开发成能够使相关自然人知道他们正在与AI系统互动的方式，同时，该条例还规定了包括通用AI系统在内的AI系统的提供者，如果生成合成音频、图像、视频或文本内容，应确保AI系统以带有机器可读格式标记进行输出，并且可以被检测为人工生成或操控。除此之外，2023年9月28日欧盟发布了平台对AI操纵和生成虚假信息的政策，其中对于平台该如何处理人工智能相关内容做出了讨论，之后又在2023年11月30日和2024年6月4日先后出台了补充政策。

我国也走在了世界人工智能标识办法的前列，2024年9月14日，国家互联网信息办公室发布《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《AIGC内容标识办法》），在此之前我国出台的《互联网信息服务算法推荐管理规定》与《生成式人工智能服务管理暂行办法》就已经提出了关于算法生成合成信息、深度合成信息内容（包括图片、视频等）履行标识义务的概要性规定。而此次的《AIGC标识办法》则在结合前述规定的基础上，明确以人工智能生成合成内容为治理客体，就标识义务主体、适用范围、标识类型、标识部署场景与部署方式做了进一步规定。值得注意的是，在此次办法中过多的赋予了平台进行内容标识的责任，并仅从技术参与程度的角度对AI生成的内容进行了区分，不仅违背了“避风港”原则，还可能会阻碍组织或者个人的创作自由。的确，限制用户生产能够使得互联网安全得到进一步的保护，可是，在全球背景下，网络内容市场创新亦是大国博弈下的重要一环。因此，关于AIGC标识办法未来的优化之路，是坚持“安全第一”还是进行其他的取舍仍然需要仔细地权衡（图1）。

一、《人工智能生成合成内容标识办法（征求意见稿）》

（一） 明确适用对象

在《AIGC标识办法》中明确了此办法主要针对人工智能生成合成服务提供者和内容传播服务提供者。办法规定人工智能生成合成服务提供者为利用人工智能技术（包括通过提供可编程接口等方式）向公众提供生成合成文本、图片、音频、视频等内容服务的组织或个人。即此次办法暂不针对仅负责开发和设计生成式人工智能的组织与个人。而内容传播服务提供者则为提供网络信息内容传播服务的网络信息服务提供者，这表明，利用网络信息服务传播信息的组织与个人在此次办法中亦不适用。在AIGC用作信息生产的全链条中，主要环节可以分为三部分，前期的产品的设计与开发、中期的技术提供与驯化，以及后期的信息的审核与传播。总的来说，在此次办法中，主要将人工智能标识办法的主要责任集中于中期的技术支持与驯化环节中。

（二） 界定适用范围

在此次标识办法中，还对文本、图片、音频、视频以及交互场景内容中如何进行显式标识和隐式标识作出了明确规定。显式标识为可以被用户明显感知到的标识，隐式标识为不明显被用户感知，但可以通过技术手段被提取的标识。其中当由AI生成的作品越是能够模拟或改变人类特征，呈现出一种拟真的情况，越是可能被打上显示标识。这是由于基于生成式AI的技术逻辑，可将生成式AI引发虚假身份信息风险的类型划分为积极生成型和人为操纵型。其一，积极生成型风险主要源于算法本身的复杂性和不确定性。在缺乏恶意意图的情况下，生成式AI仍可能因误解语境或逻辑等因素，自动生成误导性、欺骗性的虚假身份信息，这种风险是算法基于现有训练数据和模型结构所做出的直接判断。例如，在人脸识别领域，生成式AI模型会将不同个体的面部特征混淆致使生成错误的身份信息。又或者，在文本生成领域，生成式AI模型会误解语境或逻辑致使生成不准确的身份描述信息。其二，人为操纵型风险是指在有意训练和提示下，生成式AI被动输出虚假身份信息的现象。因生成式AI具备根据用户的提问或引导灵活调整输出内容方向的能力，该风险类型主要涉及多种不当行为。这些情况使得AIGC会有侵犯个人名誉权、肖像权以及隐私权的可能。

办法还认为，原则上涉及深度合成服务提供者利用深度合成技术生成或编辑的全部信息内容都应该被打上隐式标识。这种分类与要求的确有助于确保人工智能生成的内容被用户识别，避免由人工智能制造的内容给别人用户带来误导。不过，若仅仅以技术参与度与拟真度作为区分标准还是太过于片面，且有遏制创新的风险。一是如何界定AI生成的内容是否会让人产生拟真的错觉的标准过于二是对于不同类别的传播内容以及不同领域的传播使用者，同样的标准所产生的影响不同。

（三） 强化平台的主体责任

在本次办法中，将网络信息内容传播平台服务的服务提供者也纳入责任范围，值得注意的是，在此次标识办法中，负责进行AIGC内容审核以及标识的主要责任人为平台服务者。即平台需要审核各类人工智能生成内容并按照规定为其打上标签。这使得平台承担了过多的责任。这一点在国际立法趋势中也有所体现，中国、欧盟、美国等国家和地区的立法机构均已认识到对人工智能生成合成内容的溯源及真实性核验加强监管的必要性。例如，欧盟《人工智能法》第五十条要求平台添加强制性水印，以确保人工智能生成合成内容的透明度义务。美国加州于2024年8月颁布的《加州数字内容溯源标识法案》（California Digital Content Provenance Standards）中对人工智能可溯源，标识，义务主体等各个方面提出了严格的规定。以便用户快速确定内容是否由提供商的系统创建。以上规定都在强调平台在AIGC内容审核和标识中的责任。

中国也出现了类似的情况，2023年11月，北京互联网法院在“春风图案”案件中首次明确了生成式AI生成的作品是否能被称为作品以及生成式AI生成的作品是否属于AI使用者的问题。法院认为，涉案的AI生成图片“春风送来了温柔”具备了“独创性”要件，体现了人的智力投入，应当被认定为作品，并受著作权法的保护。这意味着，尽管图片是由AI生成的，但因为其中包含了原告的智力劳动和个性化表达，所以被认定为作品。此次案件标志着中国法院对AIGC内容的著作权保护和责任认定迈出了重要一步。除此之外，广州互联网法院在“奥特曼案”中首次明确了AI平台在提供生成式AI服务过程中侵犯了原告对案涉奥特曼作品所享有的复制权和改编权，并应承担相关民事责任。

以上情况说明，在未来，在AIGC标识办法中强调平台的责任是大势所趋，但同时我们也应注意到，强化平台服务者的主体责任是否会给平台带来过多的负担以及带来潜在的法律风险。

二、出台AIGC标识办法的必要性：在失控边缘的“座架”

学者海德格尔在《技术的追问》（The Question Concerning Technology）一书中提出了“座架”理论，该理论认为，现代人没有思想，不会思考。这是因为现代人都生活在技术的座驾上，技术已经决定了一切思想、行动。我们所思考的东西，都是按照技术座驾的内容的内在逻辑而展开。这一理论可以很好地描述如今的AIGC与人类社会之间的共生关系。人们看似是技术的生产者，但其实现代技术已经成为构成现代人生存环境的重要组成部分，甚至已经渗透在了人们生活的方方面面。表面上看，是人在驯化技术，但事实上，技术也在反向驯化人类。AIGC亦是如此，由于各种因素，如今的AIGC已经有脱离人类掌控的趋势，如同即将脱缰的野马，AIGC标识办法则是勒住他的一根缰绳。因此，出台AIGC标识办法迫在眉睫。

（一） 算法黑箱下的“知”与“行”失衡

随着ChatGPT走入大众视野，生成式AI已经进入了商业化应用时代，并且逐渐接入办公软件、搜索引擎、社交媒体等方面。但同时，AI领域存在的“算法黑箱”问题一直存在，即人们对于技术允许的底层逻辑缺乏了解。算法黑箱冶的形成，是技术特点与开发者意志叠加的结果。客观上，机器基于自我学习形成的运算逻辑和决策规律，难以被直观认识到；主观上开发者为了竞争优势保护商业秘密，也会刻意在公开算法时进行模糊化处理。即便是世界各国为了解决“算法黑箱”冶积极立法推动算法公开披露的当下，仍然存在公开领域有限、披露标准不统一、与商业秘密相抵牾等问题。这便会造成人们在对于生成式AI知之甚少的情况下便赋予生成式AI过多的权力的情况，这种情况则会导致人们无法确保通过自己的指令生成的内容没有受到曲解。今年年初，data.ai发布了《2023年AIGC移动市场洞察报告》，报告中显示在2023年AIGC应用下载量突破了8亿次，其中美国的生成式AI应用下载量份额高达17%。相比国外，国内的AIGC应用占比的确相对较少但也明显呈现上升趋势，甚至可以称2024年为中国AI应用元年，根据中国专业的移动互联网商业智能服务商QuestMobile的《2024上半年AIGC流量与场景研究报告》显示豆包、文心一言等app的月活量已达到千万级，同时，国内对于AIGC内容的应用涵盖文字创作、制作自身分身、社交、情感陪伴等多个领域。这些都可以证明，生成式人工智能应用在人们的日常生活中的占比逐渐变大，且应用场景也愈加丰富。而同时，人们对于人工智能的了解却是几近缺失的。哪怕是ChatGPT的核心工程师也很难说清楚其核心模型“LLM”模型究竟是怎样运行的，更别说平台上的使用者。同时，AIGC应用在制作前期需要大量的数据投喂，而由于各国的政治、文化、地理、历史等背景的不同，这使得AIGC应用很难保持完全的客观与中立。以影视行业为例，在影视产业的AI变革中，算法成为内容生成的核心驱动力。然而，算法并非中立无偏，而是深受训练数据、模型设计者和算法黑箱等多方面的影响。这种偏见在算法镜像中得到了集中体现，进而导致歧视风险的出现。联合国教科文组织发布的报告显示，即使是不同的大型语言模型（LLM），也存在着偏见倾向。这使得使用者与生成式AI所生成作品的受众可能会在潜移默化之中的被不同的价值观所影响。不止在影视领域，在生成式AI生成的各种内容中这种情况都可能发生。这种价值观的偏向，其实是对个人权利的一种侵犯。而出台AIGC标识办法，让用户知道自己接受的信息来自AI，给予其心理预期，在某种程度上是对用户的知情权的保护以及维护用户的权利。

（二） 深度伪造下的“真”与“假”混淆

在Web2.0时代，互联网的生产者就已经呈现出去中心化的样态，而随着web3.0时代的来临，人们都拥有了成为一名创作者的机会，这使得人们愈加活在一个被各种技术和信息所构筑的虚假的真实里，生成式AI的出现更是给予了人们更便捷生成拟真内容的可能。如今，其潜在的虚假信息生成风险逐渐显露。虚假信息本身具有复杂的语言学和语义特征，类型多种多样，表现为虚假新闻、误解、阴谋论、讽刺、捏造以及未经证实的谣言等，其核心目的是误导和欺骗信息接收者。由于AIGC技术能够通过简单的交互式提示快速生成内容，这大大降低了虚假信息的制作门槛，存在被恶意使用的风险。在AIGC技术的推动下，不具备专业知识或技能的个人和组织也能轻易生成具有误导性和错误性的信息。更严重的是，AIGC生成的虚假信息通常具有高度的逼真性和欺骗性，使其在社交媒体和其他网络平台上易于广泛传播。这不仅极大地提高了公众被误导的风险，也给虚假信息的识别和管理带来了前所未有的挑战。而AIGC等技术的应用赋予了普通人也可以通过技术制造虚拟的图片、音频、视频。可由于受教育水平以及个人品德的高低，一些用户并不具有媒介素养，这使得其利用AI生成的内容可能不利于甚至有害于维护公共秩序。2023年2月16日，关于“杭州市政府取消了机动车尾号限行政策”的消息引起网络上的讨论。后经杭州之声记者调查发现，此条消息为利用ChatGPT技术编写的虚假消息，最初为一个业主群的消息后经不断的传播造成了一定的影响。利用AIGC技术进行深度伪造的例子并非个例，公安部网安局发布文章称，2024年1月23日，网民杨某某为了获取流量进行谋益，利用AI软件生成了“云南山体滑坡灾害，已致8人遇难”的虚假新闻消息。种种案例表明，深度伪造所带来的“真”与“假”混合的情况的确会使得社会产生一定的混乱。而关于AIGC的监管，有关部门以及学者们都提出了自己的看法。如出台相关法规建立问责机制、明确责任人，以及将监管前置在技术制造期就进行一定的监管。而建立AIGC标识办法便是将监管环节前置的一个重要举措，对AIGC进行前置监管，可以防患于未然并给予一定的警示作用。

（三） 平台博弈下的“张弛之度”难寻

1980年，美国未来学家托夫勒在《第三次浪潮》（The Third Wave）中首次提出了“产消者”的概念，这一概念不仅预示了消费者在生产过程中的参与，也精准地概括了如今互联网内容生产者的现状。在传统媒体时代，信息传播和分发的渠道被少数机构所垄断，这些机构因此拥有对舆论的绝对控制权。然而，随着互联网的兴起和普及，这种集中化的权力结构被打破，传统媒体的影响力和控制力随之减弱。

在当前的互联网时代，信息的传播更加去中心化，每个人都可以成为信息的生产者和传播者。这种权力的分化导致了主流媒体在舆论控制方面的功能难以为继，同时也削弱了它们的影响力。主流平台和媒体在与新兴互联网平台的竞争中逐渐失去优势，这促使它们不得不更加积极地抢占内容市场。例如，抖音在AI内容兴起之时推出了“一键解锁瞬息全宇宙”的功能，这一创新功能迅速在用户中引发了挑战热潮，展示了AI技术在内容创作中的潜力和吸引力。

随着AI技术在内容创作中的应用越来越广泛，平台对于AI技术的依赖和运用比例也在不断增加。AI技术的应用不仅限于文本创作，还扩展到了图像、音频和视频等多个领域。例如，自然语言处理（NLP）技术使得AI能够理解和生成自然语言，而生成对抗网络（GANs）则在图像和音频合成方面展现出巨大潜力。这些技术的发展，不仅提高了内容创作的效率和质量，也为内容的个性化和定制化提供了可能。

然而，AI技术的应用也在内容审核和监管方面带来了全新的挑战。一些平台可能会利用AI技术生成虚假内容以吸引流量和关注，这种情况显得AIGC标识办法的提出尤为重要。

总之，从各个方面来说，AIGC标识办法的提出显得尤为重要，无论是维护互联网秩序还是保障公民的个人权利，都具有明显的正向作用。因此结合我国国情出台AIGC标识办法是十分必要的，只是，目前仍处于建立完整的AIGC标识办法的探索初期，现有的AIGC标识办法仍存在许多问题。未来，AIGC标识办法仍有很长一段路要走。

三、AIGC标识办法“征求意见稿”的隐忧

（一） 平台过多担责与“避风港原则”相悖

避风港原则起源于1998年美国《数字千年版权法案》（DMCA），是一项旨在平衡网络服务提供者、版权持有者和用户之间权益的法律设计。该原则的核心在于，网络服务提供者（ISP）在不知情的情况下，对于用户上传的侵权内容不承担法律责任，只需在接到版权持有者的通知后，及时删除侵权内容即可免除责任。这一原则在全球范围内得到了广泛采纳，包括中国在2006年实施的《信息网络传播权保护条例》中也有所体现。

然而，随着人工智能技术的发展和应用，传统的避风港原则面临新的挑战。《AIGC标识办法》的出台第二条明确指出，人工智能生成合成内容的网络信息服务提供者是履行标识义务的核心主体，这包括使用深度合成技术和生成式人工智能技术提供合成内容服务的组织和个人。这一规定将责任直接指向了内容的生产者和服务提供者，而非仅仅提供技术支持的第三方。

此外，该办法第六条还规定了网络信息内容传播平台服务提供者的核验和标识义务，要求平台服务者不仅要核验内容，还要完善元数据、提供相关功能，并教育用户。这种规定在一定程度上增加了平台的责任，与避风港原则中平台仅在接到通知后采取行动即可免责的立场形成了对比。

这种变化强化了平台在AIGC标识办法中的主体责任。在传统的避风港原则下，平台的角色更多是被动的，只需对已知的侵权行为做出响应。但在新的监管框架下，平台需要主动承担起更多的责任，包括对内容的核验、标识和用户教育等。这不仅是对平台技术能力的考验，也是对其法律责任的强化。

然而，让平台过多担责可能会导致平台因为害怕承担法律责任而采取过度保守的措施，比如对用户生成内容进行十分严格的审查和限制，这可能会抑制创新和表达自由，从而阻碍内容市场的繁荣。同时，平台的工作负担也会随之增加，需要投入更多的资源来满足监管要求，这会大大影响平台的经营效率。

的确，《AIGC标识办法》的出台，是适应数字时代发展需求的必然选择，旨在更有效地保护版权以及维护互联网秩序，促进技术的健康发展。但这一变化也对平台的运营模式和法律责任提出了新的要求，这使得平台、版权持有者和监管机构之间需要进行更多的沟通和协作，以找到最佳的平衡点。

（二） 区域差异阻碍立法

不可否认，不论是美国、欧盟、还是中国在制定本国AIGC标识办法时所采取的策略都存在些许差异。但同时，根据国际电信联盟（ITU）最新发布的《衡量数字化发展：2024年事实与数据》报告数据显示，预计到2024年，全球联网人数将达到55亿，这一数字占全球人口的68%。除此之外，随着互联网愈加开放，许多信息一经发布便由全球网络用户共享。AIGC标识办法的地区差异与互联网的全球化之间的差距，可能会造成某些由AIGC生成的内容在本国合法合规却在他国违法违规的现象。比如，中国在《人工智能生成合成内容标识办法（征求意见稿）》中提出了对AIGC内容的标识要求，强调了服务提供者的责任，并允许在特定条件下不添加显式标识。而美国《加州数字内容溯源标识法案》则要求所有AIGC内容必须强制标识不允许任何豁免，以确保内容的透明性尤其是在广告、新闻等影响公共认知的领域。这种差异可能导致同一AIGC内容在不同国家的合法性评价不同，增加了跨国内容提供者的合规难度。

四、AIGC标识办法的发展路径：由“单向治理”到“多方协同”

（一） 对症下药：AI内容审核标准细化

在数字化时代，随着用户生成内容的增多，平台审核的压力也在加大，而AI内容审核标准细化可以给予平台明确的方向，减少审核的负担。同时，不单单以技术参与度为主要标准，而是加入更多样化的评价体系也能够使得内容市场更加繁荣。

而想要细化AI内容审核标准，可以从明确审核标准、设置优先级、人工审核与机器审核相结合等方面入手。明确审核标准可以明确界定哪些内容是不允许被制造以及传播的。同时，可以参考“红旗”原则，设置优先级，对于明显违法或有害的内容，给予最高优先级进行处理。此外，通过结合人工审核与机器审核，可以提高审核的准确性和效率。人工审核员可以对AI标记的复杂或模棱两可的内容进行人工复审，确保审核的公正性和准确性。而AI的审核模型可以进行更好地优化，比如建立结合上下文理解与多模态分析的审核模型，帮助AI更全面地理解内容含义，减少误判。同时可以进行系统架构的优化，如分布式计算和高效的存储与检索，让审核更加高效。

这种标准精细化的审核，一方面可以让平台更加明确自己该如何审核生成式AI的生成内容，另一方面可以让不同类型的内容被不同的标准审核以保障某些内容不会因为过于死板的判定标准而被限制传播。

（二） 一览无余：全链条透明明确责任边界

在现有的AIGC标识办法中给予了平台过多的主体责任，而AIGC生产全过程中，前期的产品的设计与开发、中期的技术提供与驯化，以及后期的信息的审核与传播都是重要参与者。平台仅是作为中间环节的某一个参与者。因此，在未来，AIGC标识办法可以将主体责任分摊在AIGC生产的前期与后期中。

在前期，可以让AIGC应用的设计者与开发者对其应用所提供的全部内容打上技术水印，并开发出可以表明使用者具体使用方法以及时间的智能水印。

其次，可以引入用户反馈机制，允许用户报告可疑内容，为审核流程提供额外的数据支持。在技术层面，优化算法模型和数据集是提高AI内容审核标准的关键。通过引入深度学习技术和模型集成，结合数据清洗、标注和增强，可以提升AI模型的性能和泛化能力。实时学习机制和反馈循环的建立，使AI系统能够快速适应新的内容趋势和审核标准，不断优化审核效果。

将责任分摊不仅能让AIGC标识办法更有效率地落实，更能够使得AI所生成的内容受到更加灵活的监管，让人们更加信任生成式AI，让生成式AI能够得到更加充分的应用，促进一切朝着好的方向发展。

目前，颁布AIGC标识办法是大势所趋，可以解决由算法黑箱、深度伪造技术以及平台审核标准不明确带来的各项潜在风险。但同时，也不能忽略现行的AIGC标识办法所带来的问题，如平台的过多担责以及办法的区域性差异。在未来，我国应顺应互联网开放的大趋势，在保证“安全第一”的情况下，给予各方更加明确，更加灵活的标识办法。

参考文献：

1. [1] 刘谢慈, 虞晨.生成式AI虚假身份信息的风险与应对[J]. 宜宾学院学报,2025,25(03):1-9.
2. [2] 漆晨航.生成式人工智能的虚假信息风险特征及其治理路径[J]. 情报理论与实践,2024,47(03):112-120.
3. [3] 陈嘉鑫, 李宝诚. 风险社会理论视域下生成式人工智能安全风险检视与应对[J]. 情报杂志,2025,44(01):128-135+171.
4. [4] 覃圣云, 李星仪. 从ChatGPT到Sora：影视产业AIGC变革下的生产流程重塑与信任危机应对[J].视听,2024(11):3-8.
5. [5] 张均胜, 孙晓平, 刘志辉. 自动迭代聚类数据集训练的虚假信息识别方法[J]. 情报学报,2023,42(01):59-73.
6. [6] 矣晓沅, 谢幸. 大模型道德价值观对齐问题剖析[J].计算机研究与发展,2023,60(09):1926-1945.
7. [7] Fang X, Che S, Mao M, et al. Bias of AI-generated content: an examination of news produced by large language models[J]. Scientific Reports,2024,14(01):5224.