360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******

　　2023年1月10日，360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告，报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题，提出人工智能发展面临十大安全挑战，旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道，是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索，对人工智能安全治理具有积极指导意义。

　　在人工智能加速智能化变革的同时，针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称，人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术，其在发展过程中所产生的安全挑战也更为复杂多元，世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。

　　目前，各国普遍关注的人工智能安全问题共十类，包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程，又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。

　　报告显示，作为一种数字技术，人工智能“双刃剑”特征明显，不仅自身存在数字安全威胁和隐患，随着人工智能工程化、场景化、平台化落地不断加快，人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战，人工智能安全治理难以一蹴而就，只有在实践中不断摸索，才能将人工智能安全风险遏制在可控范围。

　　报告对各国人工智能安全治理模式进行了深入剖析，针对上述问题，报告主要发现：美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管，建立与之配套的规范体系；欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制，其规制更倾向于人权方向；相较美国与欧盟，中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系，涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。

　　为了避免人类社会发展被技术创新所“反噬”，也就是落入所谓的“科林格里奇困境”，产学研各界以监管和设置可操作性原则为主导，通过治理实践凝聚共识，探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路，首先是基于未来风险预防的影响评估模式，其次是基于自主性原则的元监管模式，然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。

　　在中国，360等多家人工智能龙头企业以自身实践构建行业安全案例，走出了技术赋能、行业规制、平台监测的多种道路。其中，360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设，集中解决各类人工智能发展问题，引领人工智能安全生态建设。

　　作为报告联合发起方，天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景，紧紧把握新型城市发展规律和机遇，致力于促进人工智能与经济社会发展深度融合，助力打造“智慧城市国家级标杆区”。

　　随着数字经济成为改变全球竞争格局的关键力量，人工智能产业将得到更大发展。同时，人工智能安全治理也将得到全世界的关注和推动，《全球人工智能安全治理》报告作为相关领域的权威论著，也将为人工智能产业的健康发展贡献一份重要的力量。

重视数据产权制度设计 加快建设数字中国******

　　作者：唐树源（上海杉达学院法学系教师、数字商务研究中心副主任）

　　党的二十大报告指出，要加快建设网络强国、数字中国。数据作为新型生产要素，对于数字中国的建设具有基础性价值。2022年12月，中共中央、国务院印发《关于构建数据基础制度更好发挥数据要素作用的意见》（以下简称《意见》），对数据产权、数据要素流通和交易制度、数据要素收益分配制度及数据要素治理制度作出部署。数据作为新型生产要素，对于整个数字经济的发展都有着关键性价值，厘清数据产权制度是构建数据基础制度的基础性工作。

　　数据产权制度的关键性问题

　　要素市场运行的前提是产权配置清晰，产权不清的数据资源必然会限制数据市场的流通和交易。有关数据产权问题，早在2017年，习近平总书记就强调“要制定数据资源确权、开放、流通、交易相关制度，完善数据产权保护制度”。有关数据产权的讨论，需要关注如下几点关键性问题：

　　第一，有关数据产权的立法规定散见于各地政策性文件中，国家层面尚无统一的立法规定。特别是在2021年之后，各地有关数据要素的政策性文件出台较多，而数据产权的内容主要分散在各类文件中，各地的规定也有所不同。主要存在各地政府“自我赋权”“模糊处理”“规定不全面”等问题，这也就促使此次《意见》的出台，明确了数据产权制度的重要性，对理论界和实务界都有着定分止争的作用。接下来从国家层面制定数据产权相关的统一性规定已经非常必要，尤其是在《意见》的指引下细化数据确权的制度性内容是当务之急。

　　第二，数据确权不应只有所有权的确立，而应当构建符合数据独特属性的权属体系。当前国内外研究数据产权主要局限在所有权的问题上，这将不利于数据要素的市场运营和交易。数据具有有限排他、可分割、动态调整和技术依赖的独特属性，不能等同于石油等自然资源的确权思路，更不应当停留在所有权的层面。因而此次《意见》提出的数据确权治理路径是“三权分置”的数据产权运行机制，充分考虑到了数据的独特价值，更好地平衡了数据权属与市场应用发展。

　　第三，构建数据分类分级确权授权使用机制。《意见》提出要“探索建立数据产权制度”，其中包括“建立公共数据、企业数据、个人数据的分类分级确权授权制度”，说明数据产权不能“一刀切”。从分类上看，数据可以分为公共数据、企业数据和个人数据，每一类数据相关联的主体和内容都是不同的。如公共数据的主体涉及面更广，不同阶段会有不同的参与主体，权属的确立就更难，但公共数据的开放又更为重要，所以平衡两者之间关系的难题就摆在了决策者面前。同时，各类数据的授权机制同样重要并有所不同，这无疑增加了数据产权制度的复杂性。平衡好数据各类权利保护并兼顾效率最大的结果是数据产权运营的重要追求。

　　构建“三权分置”的数据产权运行机制

　　《意见》提出“建立数据资源持有权、数据加工使用权、数据产品经营权‘三权分置’的数据产权制度框架”，这是接下来数据产权确立的核心内容。对于此项较新的治理机制，需要注意理解如下问题：

　　一方面，“数据资源持有权”是基于数据所有权特殊性的分离权利。所有权、持有权、经营权、使用权、占有权等都是产权体系中重要的构成，持有权不同于使用权和经营权，更加突出对数据资源的掌控，是脱离于所有权的分离权利。之所以设立“数据资源持有权”，本质上也是因为数据资源所有权的不确定性。

　　另一方面，数据“三权”的分工和定位是不同的。 “数据资源持有权”是对于数据资源的掌控权利，如个人对个人所有的数据持有权，公司对公司所有数据的持有权，公共管理部门对公共管理服务中产生数据的持有权。“数据加工使用权”是对于数据的加工处理活动的使用权利，持有并不代表着有权对数据进行加工处理，在数据授权加工中尤为明显，因而使用权所涉及到的主体就更为多元。“数据产品经营权”是对于数据产品的经营性权利，数据从一开始的资源形态，经过加工处理，最后形成为数据产品，可以经营并产生收益。随着数据交易市场的快速发展，未来各类数据产品会更加多样和丰富，这也容易引发市场竞争的垄断和不公平性，因而更加公平、开放的数据产权运行机制是十分必要的。

　　建立数据产权制度需要同步解决的问题

　　当数据不确权，就会限制数据的流通交易，而当数据产权机制确立后，随着数据广泛流通使用，势必会遇到其他方面的各类问题，如各方权益保护、安全、合规等方面的难点问题，需要重点对以下几个方面加以关注：

　　第一，健全数据要素权益保护制度。数据相关的权益保护主要包括数据财产权益和人格权益的保护。针对不同类型的数据保护内容是不一样的，如个人数据重点在于隐私保护与个人信息保护，企业数据的重点在于商业秘密与知识产权保护，公共数据较为复杂，可能同时包含个人数据和企业数据的内容。随着数据交易运营的快速发展，多方主体参与会使得各方权益保护更为重要。同时，数据也会经历动态发展的过程，针对不同时期的数据权益保护也不尽相同，实践中需要更加细化不同流程和阶段，并进行分类分级保护。

　　第二，重视数据全流程合规能够更好保护数据产权。数据产权制度的确立本质上就是从根源上划清各方主体的数据权益，确保数据运行的合规。此次《意见》指出要“建立合规高效、场内外结合的数据要素流通和交易制度”“完善数据全流程合规与监管规则体系”“ 统筹构建规范高效的数据交易场所”。当前，数据合规已经逐步被重视并引入企业实践中，此后的数据合规需要结合“三权分置”的数据产权运行机制全面梳理并总结，明确各方权利和责任。以数据合规为契机，全面开展数据产权保护工作是较好的切入点，有助于建立起公平、经济的数据要素流通和交易环境。

　　第三，安全是数据全流程的底线原则，数据产权制度也需要动态调整，适应数据市场的发展。此次《意见》指出要“统筹发展和安全，贯彻总体国家安全观，强化数据安全保障体系建设，把安全贯穿数据供给、流通、使用全过程，划定监管底线和红线。”数据产权制度本质上是根据数据独特产权属性而创立的，当数据要素市场需要更合适的产权制度的时候，当前的数据产权制度进行不断调整也是必然的。这当中首要保障的就是安全底线，安全体现在数据权属、内容、技术、载体等层面，也贯穿于数据交易、授权、加工、开放、共享等全过程。有了安全的保障，使得数据产权制度更加坚固，数据要素的市场活力方能够充分释放。