大众彩票必赚方案-平台推荐官方版v2.9.1(2023已更新)

【法治护我心】划定深度合成服务“底线”“红线”******

　　【法治护我心——《互联网信息服务深度合成管理规定》系列解读】

　　光明网记者 陈畅、李政葳

　　“雾里看花，水中望月，你能分辨这变幻莫测的世界……”如果把上个世纪九十年代这首“315”晚会歌曲，用来描述当下互联网时代的“云”上生活，在技术发展与风险伴生之下，“虚”“实”之间让人颇有迷幻之感。

　　“再也不敢相信自己的眼睛和耳朵。”当换脸换声、三维重建、智能对话等逐渐应用开来，人们时常发出这样的感叹。这类深度合成服务催生了美颜美妆、智能客服、虚拟主播等一系列应用形态，但其被恶意利用制作虚假信息内容，进而带来了政策干扰、谣言泛滥、低俗内容等。因此，我们也在呼吁——“借我一双慧眼，把这纷扰看个清清楚楚明明白白……”

　　纵观互联网发展历程，技术治理本身就是一场攻防对抗博弈，也是技术从创新应用到规范发展的必经之路。近日，这项深度合成技术被套上了“紧箍咒”——国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。

　　法立于上则俗成于下。《规定》出台划定了深度合成服务的“底线”和“红线”， 迈出我国新技术新应用立法的重要一步，也将有效维护网络空间良好生态。

　　明确义务要求，强化主体责任

　　事实上，深度合成技术由来已久。随着深度学习技术、特别是对抗式生成网络技术的发展，深度合成技术门槛大幅降低。2017年11月，Reddit网站的用户“deepfakes”发布伪造视频，曾一度将这项技术推至风口浪尖，其“以假乱真”的信息内容严重威胁国家安全、干扰社会秩序。

　　何为“深度合成技术”？《规定》中给出了明确表述——指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

　　具体包括：篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术，文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术，音乐生成、场景声编辑等生成或者编辑非语音内容的技术，人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术，图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术，三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术等。

　　诚然，从技术进步的角度看，深度合成技术应用的初衷是让生成合成内容更逼真，但技术在愈趋“智能”的同时，也不可避免地带来更多风险。对此，中国科学院信息工程研究所所长孟丹介绍，除深度伪造风险外，还包括生成合成信息内容带来的个人信息泄漏、侵犯人格权和知识产权等他人合法权益等风险。

　　深度合成服务提供者和技术支持者既是新技术、新应用的创造者、受益者，也应该是控制技术风险、引导技术向善的责任践行者。记者梳理发现，《规定》明确了深度合成技术定义和服务范围，提出了服务提供者落实信息安全主体责任，指出了服务提供者和技术支持者备案义务，并对服务提供者履行安全评估和配合监督检查义务提出具体要求。

　　中国科学院自动化研究所所长徐波这样评价：《规定》分析梳理了深度合成活动边界，对深度合成服务提供者、技术支持者和使用者以及应用程序分发平台等主体应履行的责任义务作出规定。比如，服务提供者应履行建立健全管理制度、对使用者真实身份信息认证、加强深度合成信息内容管理等义务，服务提供者和技术支持者应履行加强训练数据管理、加强深度合成技术管理等义务。

　　健全技术支撑体系，促进科技向上向善

　　从此起彼伏的社会案件中可以看出，深度合成信息内容制作和传播数量正在高速增长，尤其伴随“元宇宙”等新模式、新场景不断落地，深度合成技术将为智能化、视觉化、场景化、虚拟化的互联网信息服务发展提供更多技术方案。孟丹认为，《规定》的出台是网络内容治理由结果管理迈向行为管理的重要一步，标志着我国网络空间治理能力进一步优化提升。

　　时间倒回到两年前。在2021年12月，国家互联网信息办公室发布《互联网信息服务算法推荐管理规定》，对包括生成合成类在内的五类算法推荐服务进行规范。本次出台的新规在之前算法规定的基础上，加强对深度合成服务全过程管理，也深化了备案与评估标本兼治。

　　然而，从技术发展阶段看，深度合成技术与应用管理仍处于起步阶段，在技术支撑和能力建设方面还有待进一步加强。“加快推进深度合成治理技术支撑体系建设，是切实保障深度合成服务治理工作有力有序推进的关键。”孟丹说。

　　《规定》的字里行间，凸显了“以技术管技术”的逻辑，也必将促进深度合成服务的规范治理。“其确立了我国对深度合成服务的治理框架，提出了明确的数据和技术管理规范，为促进深度合成技术向上向善，引导相关产业健康发展，确保互联网信息内容安全提供了有力的制度保障。”中国政法大学副校长时建中说。

　　“《规定》以促进技术在规范中发展为价值取向，在明确‘红线’的同时，为技术发展留足空间。”中国信息通信研究院副院长王志勤这样认为。比如，《规定》要求深度合成服务提供者应当建立算法机制机理审核、科技伦理审查等管理制度。

　　孟丹也建议，从深度合成信息内容源头上，解决其衍生的内容安全风险，利用技术创新、技术对抗等方式持续提升和迭代检测技术的能力，不仅着眼于管理好、使用好、发展好深度合成技术及相关服务，也致力于深度合成技术的合法合理合规使用，促进深度合成技术及相关服务健康有序的发展。

　　引导多方参与，推动治理走深向实

　　随着数字化、智能化进程不断加快，互联网信息服务综合治理不断细化，规范深度合成活动对营造健康安全的网络空间有着重要意义。国家互联网信息办公室有关负责人表示，深度合成服务治理需要政府、企业、社会、网民等多方主体参与，推动深度合成技术的依法、合理、有效使用，积极防范化解深度合成技术带来的风险，促进互联网信息服务健康发展。

　　《规定》明确提到，国家和地方网信部门统筹协调深度合成服务的治理和相关监督管理职责，国务院电信主管部门、公安部门以及地方相关部门的监督管理职责。

　　王志勤认为，《规定》构建了统筹协调、多方参与的监管体制；《规定》鼓励相关行业加强行业自律，搭建齐抓共管、协同共治的治理机制；《规定》通过系统化的制度安排，进一步构建完善了我国网络综合治理法治体系。

　　孟丹也提到，《规定》在生成合成类算法服务范围、深度合成技术具体范围、深度合成服务业务分类、显式标识条件与标识方式、隐式标识方法与识别等诸多具体方面，仍亟需行业内部进一步细化相关配套标准规范。在实际落地过程中，建议业内推进产业联盟建立，以产业自治、多方共治的方式，不断推进深度合成技术应用高质量发展。

　　为推动深度合成治理走深向实，徐波建议，强化智能监管平台支撑。比如，深入研究深度合成类算法内生安全机理和深度合成鉴别等关键技术，推动深度合成管理技术能力建设；加强人机混合的智能监管技术，研究深度合成服务提供者的安全可控技术保障方案，把监管规范转化为评估标准，建设面向网络全域监管的监测管理平台；研发深度合成与鉴别对抗机制，鼓励新兴科技企业与研究机构开展技术演练，共同推动深度合成服务健康发展。

你的隐私，大数据怎知道******

　　作者：杨义先、钮心忻（均为北京邮电大学教授）

　　在网络上，每个人都会或多或少，或主动或被动地泄露某些碎片信息。这些信息被大数据挖掘，就存在隐私泄露的风险，引发信息安全问题。面对汹涌而来的5G时代，大众对自己的隐私保护感到越来越迷茫，甚至有点不知所措。那么，你的隐私，大数据是怎么知道的呢？大家又该如何自我保护呢？

　　1.“已知、未知”大数据都知道

　　大数据时代，每个人都有可能成为安徒生童话中那个“穿新衣”的皇帝。在大数据面前，你说过什么话，它知道；你做过什么事，它知道；你有什么爱好，它知道；你生过什么病，它知道；你家住哪里，它知道；你的亲朋好友都有谁，它也知道……总之，你自己知道的，它几乎都知道，或者说它都能够知道，至少可以说，它迟早会知道！

　　甚至，连你自己都不知道的事情，大数据也可能知道。例如，它能够发现你的许多潜意识习惯：集体照相时你喜欢站哪里呀，跨门槛时喜欢先迈左脚还是右脚呀，你喜欢与什么样的人打交道呀，你的性格特点都有什么呀，哪位朋友与你的观点不相同呀……

　　再进一步说，今后将要发生的事情，大数据还是有可能知道。例如，根据你“饮食多、运动少”等信息，它就能够推测出，你可能会“三高”。当你与许多人都在独立地购买感冒药时，大数据就知道：流感即将暴发了！其实，大数据已经成功地预测了包括世界杯比赛结果、股票的波动、物价趋势、用户行为、交通情况等。

　　当然，这里的“你”并非仅仅指“你个人”，包括但不限于，你的家庭，你的单位，你的民族，甚至你的国家等。至于这些你知道的、不知道的或今后才知道的隐私信息，将会把你塑造成什么，是英雄还是狗熊？这却难以预知。

　　2.数据挖掘就像“垃圾处理”

　　什么是大数据？形象地说，所谓大数据，就是由许多千奇百怪的数据，杂乱无章地堆积在一起。例如，你在网上说的话、发的微信、收发的电子邮件等，都是大数据的组成部分。在不知道的情况下被采集的众多信息，例如被马路摄像头获取的视频、手机定位系统留下的路线图、驾车的导航信号等被动信息，也都是大数据的组成部分。还有，各种传感器设备自动采集的有关温度、湿度、速度等万物信息，仍然是大数据的组成部分。总之，每个人、每种通信和控制类设备，无论它是软件还是硬件，其实都是大数据之源。

　　大数据利用了一种名叫“大数据挖掘”的技术，采用诸如神经网络、遗传算法、决策树、粗糙集、覆盖正例排斥反例、统计分析、模糊集等方法挖掘信息。大数据挖掘的过程，可以分为数据收集、数据集成、数据规约、数据清理、数据变换、挖掘分析、模式评估、知识表示等八大步骤。

　　不过，这些听起来高大上的大数据产业，几乎等同于垃圾处理和废品回收。

　　这并不是在开玩笑。废品收购和垃圾收集，可算作“数据收集”；将废品和垃圾送往集中处理场所，可算作“数据集成”；将废品和垃圾初步分类，可算作“数据规约”；将废品和垃圾适当清洁和整理，可算作“数据清理”；将破沙发拆成木、铁、布等原料，可算作“数据变换”；认真分析如何将这些原料卖个好价钱，可算作“数据分析”；不断总结经验，选择并固定上下游卖家和买家，可算作“模式评估”；最后，把这些技巧整理成口诀，可算作“知识表示”。

　　再看原料结构。大数据具有异构特性，就像垃圾一样千奇百怪。如果非要在垃圾和大数据之间找出本质差别的话，那就在于垃圾是有实体的，再利用的次数有限；而大数据是虚拟的，可以反复处理，反复利用。例如，大数据专家能将数据（废品）中挖掘出的旅客出行规律交给航空公司，将某群体的消费习惯卖给百货商店等。总之，大数据专家完全可以“一菜多吃”，反复利用，而且时间越久，价值越大。换句话说，大数据是很值钱的“垃圾”。

　　3.大数据挖掘永远没有尽头

　　大数据挖掘，虽然能从正面创造价值，但是也有其负面影响，即存在泄露隐私的风险。隐私是如何被泄露的呢？这其实很简单，我们先来分解一下“人肉搜索”是如何侵犯隐私的吧！

　　一大群网友，出于某种目的，利用自己的一切资源渠道，尽可能多地收集当事人或物的所有信息；然后，将这些信息按照自己的目的提炼成新信息，反馈到网上与别人分享。这就完成了第一次“人肉迭代”。

　　接着，大家又在第一次人肉迭代的基础上，互相取经，再接再厉，交叉重复进行信息的收集、加工、整理等工作，于是，便诞生了第二次“人肉迭代”。如此循环往复，经过多次不懈迭代后，当事人或物的画像就跃然纸上了。如果构成“满意画像”的素材确实已经证实，至少主体是事实，“人肉搜索”就成功了。

　　几乎可以断定，只要参与“人肉搜索”的网友足够多，时间足够长，大家的毅力足够强，那么任何人都可能无处遁形。

　　其实，所谓的大数据挖掘，在某种意义上说，就是由机器自动完成的特殊“人肉搜索”而已。只不过，这种搜索的目的，不再限于抹黑或颂扬某人，而是有更加广泛的目的，例如，为商品销售者寻找最佳买家、为某类数据寻找规律、为某些事物之间寻找关联等。总之，只要目的明确，那么，大数据挖掘就会有用武之地。

　　如果将“人肉搜索”与大数据挖掘相比，网友被电脑所替代；网友们收集的信息，被数据库中的海量异构数据所替代；网友寻找各种人物关联的技巧，被相应的智能算法替代；网友们相互借鉴、彼此启发的做法，被各种同步运算所替代。

　　各次迭代过程仍然照例进行，只不过机器的迭代次数更多，速度更快，每次迭代其实就是机器的一次“学习”过程。网友们的最终“满意画像”，被暂时的挖掘结果所替代。之所以说是暂时，那是因为对大数据挖掘来说，永远没有尽头，结果会越来越精准，智慧程度会越来越高，用户只需根据自己的标准，随时选择满意的结果就行了。

　　当然，除了相似性外，“人肉搜索”与“大数据挖掘”肯定也有许多重大的区别。例如，机器不会累，它们收集的数据会更多、更快，数据的渠道来源会更广泛。总之，网友的“人肉搜索”，最终将输给机器的“大数据挖掘”。

　　4.隐私保护与数据挖掘“危”“机”并存

　　必须承认，就当前的现实情况来说，大数据隐私挖掘的“杀伤力”，已经远远超过了大数据隐私保护的能力；换句话说，在大数据挖掘面前，当前人类有点不知所措。这确实是一种意外。自互联网诞生以后，在过去几十年，人们都不遗余力地将碎片信息永远留在网上。其中的每个碎片虽然都完全无害，可谁也不曾意识到，至少没有刻意去关注，当众多无害碎片融合起来，竟然后患无穷！

　　不过，大家也没必要过于担心。在人类历史上，类似的被动局面已经出现过不止一次了。从以往的经验来看，隐私保护与数据挖掘之间总是像“走马灯”一样轮换的——人类通过对隐私的“挖掘”，获得空前好处，产生了更多需要保护的“隐私”，于是，不得不再回过头来，认真研究如何保护这些隐私。当隐私积累得越来越多时，“挖掘”它们就会变得越来越有利可图，于是，新一轮的“挖掘”又开始了。历史地来看，人类在自身隐私保护方面，整体处于优势地位，在网络大数据挖掘之前，“隐私泄露”并不是一个突出的问题。

　　但是，现在人类需要面对一个棘手的问题——对过去遗留在网上的海量碎片信息，如何进行隐私保护呢？单靠技术，显然不行，甚至还会越“保护”，就越“泄露隐私”。

　　因此，必须多管齐下。例如从法律上，禁止以“人肉搜索”为目的的大数据挖掘行为；从管理角度，发现恶意的大数据搜索行为，对其进行必要的监督和管控。另外，在必要的时候，还需要重塑“隐私”概念，毕竟“隐私”本身就是一个与时间、地点、民族、文化等有关的约定俗成的概念。

　　对于个人的网络行为而言，在大数据时代，应该如何保护隐私呢？或者说，至少不要把过多包含个人隐私的碎片信息遗留在网上呢？答案只有两个字：匿名！只要做好匿名工作，就能在一定程度上，保护好隐私了。也就是说，在大数据技术出现之前，隐私就是把“私”藏起来，个人身份可公开，而大数据时代，隐私保护则是把“私”公开（实际上是没法不公开），而把个人身份隐藏起来，即匿名。

　　《光明日报》（ 2023年01月12日 16版）

　　（文图：赵筱尘 巫邓炎）