这种认识显然忽视了教育参与主体的多元性和教育管理活动的交叉性。

虽然伦理的法治化势不可挡，但也不宜将伦理予以全盘法治化。上述第一种规范转化路径无疑是伦理法治化的理想模式，然而，受制于伦理的多层性和主观性等特征，特别是新兴科技伦理的持续动态调整与发展，达成高度共识并成为法律规范，需要一个渐进的过程。

道德责任理论以自由意志为基础，探讨人们对自己行为的过失及其不良后果是否存在道义上的责任。对其伦理规制的重心，已不仅限于对参与主体的尊重和保护，对于可能改变人类整体命运、具有高度伦理敏感性和极端重要性的科研项目及其方向和进程，展现出更加谨慎和保守的一面。生命权在人权中具有优位性，但对生命权的维护并非仅着眼于身体的存在和存活，还指向其生命健康价值。这种属性换位昭示着，伦理与法律之间开始具有高度关联性和互动性。另一方面，伦理的法治化是增强其稳定性和可操作性的必然要求。

第一，临终者获得了更加人道的对待，可以减轻痛苦，更加平静地接受死亡，享有生命最后时刻的尊严。我国高度重视科技伦理治理，已经组建了国家科技伦理委员会，负责相关领域的工作。在欧盟《人工智能法案》最新草案中指出，鉴于人工智能系统价值链的性质和复杂性，基础模型开发者具有信息披露义务。

商务部将制定内容认证和水印的指南，以明确标记AI生成的内容。第一，位于上游环节的基础大模型开发者具有标识义务，应主动对生成内容进行标识并为下游的服务提供者提供必要的技术支持。（一）法理基础：作为内容生产者与分发者的质量安全保障与信息披露义务信息披露制度体现了公权对私权的限制。而显性标识可以通过内容后处理、用户界面添加等方式实现，天然与服务提供形式联系。

因此，人工智能服务提供者应将来源的可靠性判断内置于贴标的流程中而非标本身之中，生成内容质量光谱的作用是连接来源可靠性与标识程度的枢纽。第一，根据我国网络安全的要求，对过滤内容的判断应在算法伦理原则和相关算法、网络安全规范的框架下作分段处理，将明确损害国家、社会安全利益的信息内容列为最高敏感级，对损害国家、社会安全利益存在模糊性的信息内容以及损害个体的信息内容列为一般敏感级。

第三，当生成内容涉及商用或侵犯个人权益时，经申请、举报等程序进入人工审核，审核后则可根据应用人本人或被侵权人申请，按照特定程序，从应用端到部署端再到建模端，依次进行注明公开。标识需要同时具备来源与真伪的双轨判断逻辑，甚至在人工智能生成内容与日俱增、生成内容质量不断完善的过程中，为降低用户信息筛选成本，真伪判断的重要性将远远超过价值判断。在实际应用中，人工智能生成的文本往往位于文本对数概率的负曲率上，导致识别准确率低。但该模型倾向于参与训练的那些文本来源，并且不具备增量学习功能，如果想要使模型能够识别未知来源的文本，就需要对模型整体重新训练。

生成式人工智能以用户输入+机器输出的形式提供服务，生成内容的性质、价值取向在很大程度上取决于用户输入指令。无论是在现实社会或是网络空间中，以人为本都是信息内容生产、使用和传播的最终目的。信息的信息性是通过商的增加或减少的量进行衡量。 【摘要】生成式人工智能正在颠覆人们获取信息的方式，但生成内容的质量良莠难辨。

模型开发方与服务提供方已经在技术上设置了普通用户难以篡改和删除的水印，用户使用生成内容的同时需履行保持水印的义务以便实现对生成内容的全平台检测追踪和责任认定。在传统媒体时代，按照信息来源分为专业生成内容（ProfessionalGeneratedContent，简称PGC）和用户生成内容（UserGeneratedContent，简称UGC）。

我国以总体国家安全观统筹网络意识形态安全，在《国家安全法》《网络安全法》《数据安全法》《互联网信息服务管理办法》等法律法规的框架下，内容治理需求有：第一，坚持维护国家网络空间主权与意识形态安全。从信息标识义务的执行上看，隐式水印技术一般在模型生成内容时实现，天然应该是模型方承担。

美国白宫《人工智能行动令》第1条中强调，要求为人工智能制定新的安全标准，要求人工智能公司与联邦政府分享安全测试结果，同时指示商务部为人工智能水印制定指南。人工智能服务提供者应将来源可靠性的判断内置于贴标的流程而非标本身之中，生成内容质量光谱则发挥评估是否需要进行标识、应当进行何种标识的作用。另一方面，虚假信息与不良信息在实务当中存在混用，相较于违法性而言更强调内容的真假性。图1当前人工智能生成内容的治理逻辑随着人工智能生成信息的广泛应用，大量反检测技术尝试进行信息筛选工作。（二）治理目标：生成来源与真伪判断双轨并行机制随着生成式人工智能的广泛应用，机器生成的信息比例越来越高，生成来源的单轨判断标准仅具有形式上的判断功效，不具备信息内容治理的实质作用。社会治理思路的惯性决定了目前仍是由政府管控、网站自治、用户举报三种管理形式相结合的模式。

我国信息安全标准化技术委员会发布《网络安全标准实践指南——生成式人工智能服务内容标识方法》，规定了四类生成内容的具体标识方法。有害信息与违法信息所保护的法律权益均是国家安全、个人尊严名誉与隐私、经济秩序安全、信息安全等，在程度上有害信息的有害性程度应高于不良信息，有害信息是指在价值观、伦理等方面具有严重错误的信息，这种信息的传播危害性大，可能涉及国家、社会、个人权益。

由于这一阶段人工智能生成内容在数量上占比较低，通常将人工智能生成内容的真伪判断默认为伪，由人工审核对其进行价值判断。当前基于大型语言模型（largelanguagemodels，LLMs）的文本检测技术可分为两类。

适当的信息披露制度能够增强信息的易注意性，提升信息使用的便利性，而过度的信息披露反而会造成信息接受的负担。虚假信息 一、问题的提出：是否AI生成的标识制度无法满足内容治理需求生成式人工智能已经颠覆人类获取信息方式，并预期2026年AIGC将占据未来互联网内容的90%。

随着用户生成内容时代的分流治理机制失效，标识制度应成为人工智能内容治理的核心，发挥生成来源+真伪判断的双轨提示作用。其中，可视化水印、署名和披露字段是用户能够看到的标识成分，作用在于表明生成内容中含有人工智能的参与，解释人工智能在共同开发内容中的作用，显然该标识方式向用户进行的披露不足以支撑用户实现真伪判断。生成式人工智能每天产生数百万的输出，这种输出反过来又成为下一代模型训练数据的一部分，在一个连续的反馈循环中把算法扭曲和偏见的影响扩大到了未来。如美国白宫《人工智能行动令》第1条强调，要求为人工智能制定新的安全标准，要求人工智能公司与联邦政府分享安全测试结果，同时指示商务部为人工智能水印制定指南。

可见，AIGC的标识制度仍停留于信息内容来源的表面，缺乏对于来源可靠性的体现。人工智能对信息来源进行了何种程度的修改，直接引用的内容质量通常高于断章取义或多来源组合拼凑。

一是将机器生成的文本检测任务比拟为一个二分类问题，根据文本来源的预定义类别对候选文本进行分类。这一阶段的专业生成内容，指由专业的创作者或团队进行创作、编辑、发布的专业生成内容，常见于报纸、杂志、电视等，创作内容的质量与专业度较高，信息筛选、审核工作主要通过创作者所在机构的审校流程完成。

《互联网信息服务算法推荐管理规定》第九条要求，算法推荐服务者建立健全用于识别违法信息、不良信息的特征库，未作显著标识的算法生成合成信息的，应当作出显著标识后方可继续传输。人工智能生成内容信息外观仿真度高，人工智能信息的生成逻辑以模拟真实信息为终点，在信息表面的文字表述、语言结构等方面与真实信息无异。

在信息内容价值判断的分类逻辑中，按信息内容的合法性可将其分为合法信息、不良信息和违法信息。为避免信息披露义务的形式化履行，披露义务应具体包括：生成来源的强制性标识、责任主体的强制性标识、生成内容质量应属于强制性披露范围。目前，世界各国普遍采用的加注是否AI生成的标识制度无法满足人工智能时代的内容治理需求，未能有效降低虚假信息的扩散风险。安全标志能够提醒人们对某种物品或动作高度警惕，强化管理、维护、运输流程，从而避免危险的发生。

《网络安全法》中使用了虚假信息的概念，《生成式人工智能服务管理办法（征求意见稿）》中同样采虚假信息的表述，而2023年7月10日发布的《生成式人工智能服务管理暂行办法》中使用的表述是虚假有害信息。随着web2.0时代社交网络、在线论坛、博客等平台的出现，由普通用户参与创作、编辑、发布的用户生成内容逐渐流行，构筑了用户生成内容为主的信息时代。

在《互联网信息服务算法推荐管理规定》中，为加强信息安全管理，对违法信息与不良信息进行了区分。占据信息优势地位的人工智能服务提供者应主动进行信息披露，使用户能够借助外在的标识进行信息接收与筛选。

以生成式人工智能服务提供者为核心，是因为生成式人工智能大模型作为一种全新的信息内容生产和传播平台，虽然尚未展现出全貌，但其生成性、集成性、通用性、智能交互性的特征，正在使其成为信息生产和传播的主要垄断者。墨尔本西北部地区HepburnShire议会的现任市长BrianHood曾揭发 Securency印钞公司的行贿行为，但ChatGPT却称他参与向印尼和马来西亚的官员行贿并被判入狱。