人工智能如何做到可信、可用？专家热议：把责任归结到个人******
中新网北京12月11日电 人工智能治理的理想状态，是人工智能技术能做到可知、可信、可控、可用。而在现实中，人工智能技术手段虽然非常强大，但是离完美、完善仍有相当的距离。从技术角度和技术应用角度，人工智能的发展如何做到扬长避短？
近日，在2022人工智能合作与治理国际论坛上，专家围绕该话题进行了讨论。
中国工程院院士、鹏城实验室主任高文认为，现阶段很多技术还处于发展的过程中，如果过早地说这个不能用、那个不能用，可能会抑制技术本身的发展。但反过来，如果什么都不管，也不行。
“因此，现在更多还是从道德层面多进行引导。同时，做技术的人，也要尽量把一些可能的风险、抑制工具，即约束风险的工具，尽快想明白。自己也做，同时号召大家做，两者结合。”他说。
清华大学智能产业研究院国强教授、首席研究员聂再清认为，我们要保证能够创新，但同时不能让创新对我们的生活产生破坏性的影响，最好的办法就是把责任归结到个人。
“技术的背后是有人在控制的。这个人应该时刻保证工具或创新在危险可控的范围内。同时，社会也要进行集体的监督，发布某个产品或技术，要能够召回、撤销。在创新和监管之间，当然是需要平衡的，但归根结底，还是要把责任落实到个人身上。”他指出。
瑞莱智慧RealAI公司联合创始人、首席执行官田天补充道，在技术可解释性方面，需要去进行技术发展与相应应用场景的深度结合。大家需要一个更加可解释的AI模型，或者更加可解释的AI应用。
“但我们真正想落地的时候，会发现每个人想要的可解释性完全不一样。比如：模型层面的可解释，可能从研发人员角度觉得已经很好了，但是从用户的角度是看不懂的，这需要一些案例级的解释，甚至通过替代模型等方式进行解释。因此，在不同领域，需要不同的可解释能力，以及不同的可解释级别，这样才能让技术在应用场景发挥最好的作用。”他说。
将伦理准则嵌入到人工智能产品与系统研发设计中，现在是不是时候？
高文认为，人工智能软件、系统应该有召回的功能。如果社会或伦理委员会发现这样做不对，可能带来危害，要么召回，要么撤销。
高文说，应用的开发者，系统提交或者最终用户让他去调整的时候，他应该有责任。如果开发者发现已经踩线了，应该给他一个保护机制，他可以拒绝后面的支持和维护，甚至可以起诉。“不能只说哪一方不行，光说是开发者的责任，他可能觉得冤枉，因为他只提供工具，但有时候是有责任的，只是说责任怎么界定。”
“在人工智能的发展过程中，一方面要建立一些红线。”田天建议，比如，对于人工智能的直接滥用，造假、个人隐私泄露，甚至关联到国家安全、生命安全的，这些领域一定要建立相关红线，相应的惩罚规定一定要非常清晰，这是保证人工智能不触犯人类利益的基本保障。
“在这个基础上，对于处于模糊地带的，希望能留有更多空间。不光是从限制角度，也可以从鼓励更加重视伦理的角度，促进合规地发展。”田天称。
2022人工智能合作与治理国际论坛由清华大学主办，清华大学人工智能国际治理研究院(I-AIIG)承办，中国新闻网作为战略合作伙伴，联合国开发计划署(UNDP)、联合国教科文组织(UNESCO)等国际组织、国内外学术机构支持。(中新财经)
【网络强国这十年】杨冀龙：万物互联时代，做云端上的安全行者****** 【网络强国这十年——行业回顾篇】 党的十八大以来，我国网信事业发展取得历史性成就，网络综合治理体系日益完善，网络空间法治化进程加快推进，网络安全保障体系和能力建设全面加强。近日，中国网络空间安全协会理事、知道创宇CTO&COO杨冀龙做客光明网“网络强国这十年”专栏，畅谈关于网络安全技术及行业发展的观察与思考。
谈行业变化： 法规条例日益完善，人才培养更受重视 这些年国家出台了一系列政策和法律法规。比如《网络安全法》，明确了什么叫网络安全，网络安全的义务、责任、主体，违法的连带责任。《等级保护条例》升级到了2.0版本，更加注重实战化对抗；为了检验落地情况，有关部门还专门组织了攻防演练活动，公司要实际参与这种攻防检验，看是否的确防住了，我觉得这是很落地的一个策略。不仅是《网络安全法》和《等级保护条例》，现在还有《密码法》，也成立了一系列的密码评估单位。 这些法律的颁布和落地，是特别大的国家层面的推动。国家给了网络安全企业很多政策，比如有些地方建立网络安全产业园，有些地方网络安全企业创业会给政府扶持基金，催生了一系列网络安全行业企业。 近年来国家支持高校设立网络安全专业，样就让很多学校都成立了网络安全专业教育，很多学生也愿意去考这个专业。而且政府在各种宣传活动上，包括网络安全宣传周等大型的宣传活动，也能调动民间的积极性。 学生愿意就读网络安全专业，高校愿意开展这门课程，很多企业愿意吸收这些人才，并且在各个地方办安全企业，各地方政府也愿意给出产业园区，给出免税或者免租金等优惠政策，整个产业就欣欣向荣地发展起来了。 人才培养现在是比较好的一个方面。知道创宇在早期招聘中，一般都招计算机系的学生，公司再进行培养，人才从毕业到真正能够熟悉业务，大概要1年以上，甚至更长时间。而现在从信息安全专业招人、从培训机构招人，基本上2个月就可以很熟练了。 国家多个部委联合推出了信息安全测试员、网络安全运维人员等新职业，有这些职业体系支撑，相当于国家各个部委也在鼓励人才通过自学或培训提升自己，考到相应的职称，所以这个人才体系是一个全方位的体系。现在很多人对网络安全专业越来越有兴趣，也是因为这个大的人才体系，由国家在底层做了支撑。 谈产业发展： 供给侧、需求侧两端发力，产业体系实现良性循环 对一个企业的发展而言，主要有两个方面。第一个是需求端，需求是否旺盛，取决于甲方需求，就是大量的企业是否真正重视安全。 很多企业都存了很多公民的个人隐私数据，现在从法律要求出发，首先企业只被允许收集有限数据，收集了必须保护好，保护不好的话要承受很大法律风险，那么企业就必然加强人员、设备或资金来提升安全建设。 需求多了，另一方面企业还能接得住，这就取决于有没有足够的人才，能不能快速招到人才，快速构建业务。 从这两个方面，国家做得特别好的就是在需求侧通过法律法规牵引落地，在基础层面通过人才培养牵引夯实。这样的话，企业在中间把人才招回来、组织起来，去服务甲方的需求。我觉得这个体系，现在越做越好了。 谈未来趋势： 云端网络边界线渐趋模糊，“零信任”安全成新方向 随着云上的业务越来越多，很多重要的数据和重要的业务都在云上，这也催生了一个问题，云上的业务怎么防御？因为云上是的虚拟化的，传统设备有些可以做到虚拟化，还有很多设备是无法做到虚拟化的，所以上云的业务面临的第一个问题就是防御薄弱了。 第二个问题是，“云”的厂商他们自身的安全措施是否就够了？我们现在的看法是，应该有一个第三方的安全云来保卫云上的业务安全。 我们知道传统Windows是分散的，Windows操作系本身就是资源调度，但现在业务都在一个大“云”上，其实这个大“云”本身就是下一代操作系统——云操作系统。云操作系统就像微软的Windows系统一样，它本身就要提高安全性、提供安全工具，所以云操作系统、云平台也要提高安全性，这是基础。但是真正要保证安全的话，安全工具应该使用第三方的。 还有一个问题是未来家庭办公会越来越多，家庭办公远程也可以访问公司的内网业务系统。传统网络安全会通过网络边界、内外网边界做一个网络隔离，但现在大家居家远程办公了，都需要访问内网，我们会发现网络的边界就逐渐模糊化了。 基于零信任理念的话，应该在内网及外网对谁都不信任，必须要通过信任机制来实施安全保护的健全，所以零信任我认为是未来一个重要的发展方向。 在零信任之上，其实还有一种新的机制叫SASE（安全访问服务边缘）。SASE是构建出虚拟的网络，并且在这种网络中直接打破了各个分支机构的界限，打通了到家庭的界限，甚至打通了“云”上资源的界限。 通过互联网类似SD-WAN的技术快速组网，组成一个企业内部跨云、跨家庭、跨分支机构的网络，在SASE侧提供一系列的安全措施，相当于把传统安全的边界防御系统也SaaS化，所有用户一起分摊安全设备的成本，我认为这是一个重要的发展方向。 监制：张宁、李政葳 采访：孔繁鑫 拍摄：雷渺鑫 后期：孔繁鑫、雷渺鑫 吉好彩票地图 |
