【法治护我心】划定深度合成服务“底线”“红线”******

　　【法治护我心——《互联网信息服务深度合成管理规定》系列解读】

　　光明网记者 陈畅、李政葳

　　“雾里看花，水中望月，你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲，用来描述当下互联网时代的“云”上生活，在技术发展与风险伴生之下，“虚”“实”之间让人颇有迷幻之感。

　　“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来，人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态，但其被恶意利用制作虚假信息内容，进而带来了政策干扰、谣言泛滥、低俗内容等。因此，我们也在呼吁——“借我一双慧眼，把这纷扰看个清清楚楚明明白白……”

　　纵观互联网发展历程，技术治理本身就是一场攻防对抗博弈，也是技术从创新应用到规范发展的必经之路。近日，这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。

　　法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”， 迈出我国新技术新应用立法的重要一步，也将有效维护网络空间良好生态。

　　明确义务要求，强化主体责任

　　事实上，深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展，深度合成技术门槛大幅降低。2017年11月，Reddit网站的用户“deepfakes”发布伪造视频，曾一度将这项技术推至风口浪尖，其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。

　　何为“深度合成技术”？《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

　　具体包括：篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术，文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术，音乐生成、场景声编辑等生成或者编辑非语音内容的技术，人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术，图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。

　　诚然，从技术进步的角度看，深度合成技术应用的初衷是让生成合成内容更逼真，但技术在愈趋“智能”的同时，也不可避免地带来更多风险。对此，中国科学院信息工程研究所所长孟丹介绍，除深度伪造风险外，还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。

　　深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者，也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现，《规定》明确了深度合成技术定义和服务范围，提出了服务提供者落实信息安全主体责任，指出了服务提供者和技术支持者备案义务，并对服务提供者履行安全评估和配合监督检查义务提出具体要求。

　　中国科学院自动化研究所所长徐波这样评价：《规定》分析梳理了深度合成活动边界，对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如，服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务，服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。

　　健全技术支撑体系，促进科技向上向善

　　从此起彼伏的社会案件中可以看出，深度合成信息内容制作和传播数量正在高速增长，尤其伴随“元宇宙”等新模式、新场景不断落地，深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为，《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步，标志着我国网络空间治理能力进一步优化提升。

　　时间倒回到两年前。在2021年12月，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》，对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上，加强对深度合成服务全过程管理，也深化了备案与评估标本兼治。

　　然而，从技术发展阶段看，深度合成技术与应用管理仍处于起步阶段，在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设，是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。

　　《规定》的字里行间，凸显了“以技术管技术”的逻辑，也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架，提出了明确的数据和技术管理规范，为促进深度合成技术向上向善，引导相关产业健康发展，确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。

　　“《规定》以促进技术在规范中发展为价值取向，在明确‘红线’的同时，为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如，《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。

　　孟丹也建议，从深度合成信息内容源头上，解决其衍生的内容安全风险，利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力，不仅着眼于管理好、使用好、发展好深度合成技术及相关服务，也致力于深度合成技术的合法合理合规使用，促进深度合成技术及相关服务健康有序的发展。

　　引导多方参与，推动治理走深向实

　　随着数字化、智能化进程不断加快，互联网信息服务综合治理不断细化，规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示，深度合成服务治理需要政府、企业、社会、网民等多方主体参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展。

　　《规定》明确提到，国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责，国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。

　　王志勤认为，《规定》构建了统筹协调、多方参与的监管体制；《规定》鼓励相关行业加强行业自律，搭建齐抓共管、协同共治的治理机制；《规定》通过系统化的制度安排，进一步构建完善了我国网络综合治理法治体系。

　　孟丹也提到，《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面，仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中，建议业内推进产业联盟建立，以产业自治、多方共治的方式，不断推进深度合成技术应用高质量发展。

　　为推动深度合成治理走深向实，徐波建议，强化智能监管平台支撑。比如，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设；加强人机混合的智能监管技术，研究深度合成服务提供者的安全可控技术保障方案，把监管规范转化为评估标准，建设面向网络全域监管的监测管理平台；研发深度合成与鉴别对抗机制，鼓励新兴科技企业与研究机构开展技术演练，共同推动深度合成服务健康发展。

无人智能作战有哪些优势******

　　引言

　　习主席在党的二十大报告中强调，加快无人智能作战力量发展。纵观近年来的局部战争实践，以无人机为代表的无人作战力量已经成为联合作战力量体系的重要组成部分，发挥着越来越突出的效能倍增器作用，特别是随着人工智能技术的迅猛发展及在军事领域的广泛运用，无人系统的智能化程度不断提升，自主能力持续增强，无人智能作战呈现出不同于以往的优势和效能。

　　灵活性增强，能更有效达成突袭效果

　　一般的无人系统因其较小的目标特征及隐身化的设计，具有实施突然袭击的先天优势，但由于依靠程序控制或指令控制模式，应变性较差，仅可借助相对有利的环境条件对固定或慢速目标进行袭击。而智能化无人系统可以不依赖后方控制，可依据预先赋予的作战权限，在更加复杂的战场环境下进行自主侦察、识别、决策和行动，灵活性不断增强，能够在更广泛的任务范围内实施突袭作战。

　　可实现敏捷袭击。信息化战场上，敌方关键性高价值目标通常具有突然出现、时空随机的特点，对其进行打击受到严格的时间窗口限制，打击时机稍纵即逝，但一旦打击成功，将产生较好的作战效果并获得较高的作战效益。智能化无人系统自主能力强且具有较高的自主决策权，解决了后方指令控制在传输时间和平台反应上的延迟问题，能够借助长航时优势，以区域机动巡弋方式，对重要任务区进行持久地侦察监视，发现目标即能快速精准突击，有效把握战机。2020年1月，美军刺杀伊朗“圣城旅”最高指挥官苏莱曼尼的突袭行动，就是在其他情报信息支持下，使用具有一定智能化的MQ-9“死神”察打一体无人机，预先进入巴格达上空，对目标成功实施了侦搜和打击。

　　可实现渗透袭击。进入敌方纵深核心区域对重要目标实施破袭，历来风险大、成功率低。随着小微型无人系统智能化水平的提升，它可以通过空投或炮射等方式撒播到敌纵深，再通过自身动力飞行或地面机动，自动比对数据，自主抵近预定目标或直接附着于大型武器系统关键部位上，甚至渗透进入敌作战决策、指挥系统等内部核心场所，进行侦察监视，适时利用所携带的高爆炸药对目标的要害和节点部位进行破坏，或施放高能量毒剂对关键、核心人员进行杀伤，实施“内窥式侦察”和“微创式打击”，可破坏敌作战体系、打乱敌作战计划、扰乱敌行动节奏，并形成强烈的心理震撼。2017年11月，联合国特定常规武器公约会议上展示的一款名为“杀人蜂”的高智能微型自主攻击机器人，尺寸不到普通人手掌大小，配有广角摄像头、战术传感器等，内装3克炸药，可集群使用，能够通过很小的孔隙飞入室内，进行精准识别和攻击。

　　协同性增强，能更有效实施编组作战

　　由于受智能化水平限制，一般的无人系统以及无人系统与有人系统之间的协同，主要按照预先规划在时间和空间上进行配合，遇到情况变化，需通过无人系统后方操控站进行协调，及时性、精确性差，难以适应极速变化的信息化战场，而智能化无人系统能够根据执行任务设定的初始状态、终止状态及过程约束等条件，自动保持编队机动与作战队形、自动规避威胁，并以最优路径和方式协同执行作战任务。

　　能实施集群作战。无人系统智能自主水平的提升，是多个无人系统共同编组集群运用的物质条件，是有效发挥无人作战效能的重要基础。无人智能集群中，各作战平台能够根据不同的作战目的和任务需求，以作战目标为中心，通过互联互通互操作，相互交换信息，动态自主组合，协调一致地进行机动突击与整体防御。进攻作战时，能够高度协调地从多个方向连续或同时对预定目标实施攻击，使敌人应接不暇、防不胜防，在短时间内造成其作战体系瘫痪或关键部位毁伤，而且诱骗、干扰、电子攻击等软杀伤行动与火力硬摧毁行动能自动协调，以最佳时机进行配合，可避免相互影响及目标选择上的冲突，有效支持火力行动，提高整体作战效能。防御作战中，能够建立智能的自适应防御系统，在己方作战单元或需要防护的目标外围形成自动响应的保护“气泡”，构建立体、多层次拦截网，动态实施外围警戒、拦截和对威胁目标的灵活反应打击，保护海上或地面重要目标安全。

　　能实施有人/无人协同作战。将有人作战力量与无人系统混合编组、一体作战，是随着无人智能作战力量发展而形成的一种重要作战模式，能够最大限度地发挥两者的互补增效优势，提高整体作战能力。作战中，根据作战任务、对抗强度和战场环境等条件，多个有人作战平台与无人作战平台依托先进信息和智能技术，动态匹配力量，灵活进行编组，并在负责编队指挥的有人作战力量规划控制下，智能化无人系统靠前配置，可迅速掌握战场态势，拓展预警探测范围；又可对火力进行精确指示引导，延伸有人作战平台的打击力臂，发挥其远程作战效能；还可实施先期作战，做到先敌发现、先敌攻击，为有人作战创造战机和有利条件。同时，又可使有人作战力量保持在敌威胁范围之外，从而减少遭受敌方攻击的可能性，提高战场生存能力。外军直升机/无人侦察机协同作战的效能评估显示，执行战术侦察任务的时间平均缩短了10%，识别目标的数据量增加了15%，机载人员生存性增加了25%，武器系统杀伤力增加了50%以上。

　　可控性增强，能更有效提高指挥效能

　　无人智能作战力量的智能化，是无人系统整体的智能化，不仅表现在无人作战平台的自主能力上，还体现在规划控制方面。无论是后方控制站的操控人员，还是有人/无人协同作战编队的指挥人员，智能化控制系统都能够辅助其快速、高效地完成任务规划、作战控制，极大地提高指挥效能。

　　表现为平台控制通用化。无人系统的控制单元是整套无人系统的“大脑”，也是无人作战力量遂行任务的指挥节点，负责无人作战平台行动时的预先规划、投放/回收、信息处理、指令下达及与其他作战力量协同等任务。智能化控制系统，具备架构开放性和很强的互操作性，在极大降低操控人员工作负荷的同时，实现了由“一控一”向“一控多”的转变，即一个控制单元能够同时控制多个不同空间、不同任务类型的无人作战平台或无人集群，而且还能通过与多个不同的通信网络中的任何一个进行交互，实现与其他作战单元的信息共享与作战协同。加之智能无人作战平台自主控制能力增强，能够对指令信号上的微小错误或偏差进行自我纠正，也促进了对无人智能作战力量的高效指挥控制。外军提出并开展的“舰载无人系统通用控制”计划，就是要实现对舰载的各类型无人机及水面/水下无人系统的统一控制，从而有效协同海上作战力量行动。

　　表现为人机交互快捷化。高效的人机交互是实现对无人作战平台有效控制的关键。智能化控制系统不仅能够自主完成态势感知、作战决策、任务规划等工作，而且能将相应成果以简捷、直观的形式全面呈现出来，使操控人员很好地理解并能以简单、直接的操作进行确认。特别是智能化操控系统中的人机交互界面，能够多模式接收、准确理解识别指控人员通过语音、手势、表情、脑电等基于生理特征的非接触式交互方式表达的意图，并快速将其转化为无人作战平台能够识别的任务指令，按需分发或下达，提高了交互效率和指挥控制效能。比如，外军的“无人机控制最佳角色分配管理控制系统”项目，由智能无人机自主行为软件和高级用户界面组成，系统界面针对多架无人机控制进行优化，配有具备触摸屏交互功能的玻璃座舱和辅助型目标识别系统，使1名直升机上的空中任务指挥官同时可有效控制3架无人机，在不增加工作负荷的情况下，提高了态势感知能力和执行任务成效。

　　无人智能作战的独特优势，提高了无人智能作战力量的战场适应能力，使其能够在高动态、强对抗的复杂环境中，更加有效地与其他作战力量联合遂行作战任务。特别是随着未来“强人工智能”的实现，无人系统在具备更优的深度学习能力与更高的自主决策能力后，将对战争规则和作战方式产生颠覆性的影响。(赵先刚 苏艳琴)