360联合天津智慧城市数字安全研究院发布《全球人工智能安全治理》报告******
2023年1月10日,360天枢智库、天津智慧城市数字安全研究院、网络空间国际治理研究中心三方联合发布《全球人工智能安全治理》报告,报告站在全球视角的宏观高度纵览、分析和解读人工智能安全治理问题,提出人工智能发展面临十大安全挑战,旨在探索既能发挥人工智能技术效益又能控制其安全风险和负面影响的治理之道,是中国学术界和产业界对人工智能发展与安全的一次思想碰撞与深度探索,对人工智能安全治理具有积极指导意义。
在人工智能加速智能化变革的同时,针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称,人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术,其在发展过程中所产生的安全挑战也更为复杂多元,世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。
目前,各国普遍关注的人工智能安全问题共十类,包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程,又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。
报告显示,作为一种数字技术,人工智能“双刃剑”特征明显,不仅自身存在数字安全威胁和隐患,随着人工智能工程化、场景化、平台化落地不断加快,人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战,人工智能安全治理难以一蹴而就,只有在实践中不断摸索,才能将人工智能安全风险遏制在可控范围。
报告对各国人工智能安全治理模式进行了深入剖析,针对上述问题,报告主要发现:美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管,建立与之配套的规范体系;欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制,其规制更倾向于人权方向;相较美国与欧盟,中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系,涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。
为了避免人类社会发展被技术创新所“反噬”,也就是落入所谓的“科林格里奇困境”,产学研各界以监管和设置可操作性原则为主导,通过治理实践凝聚共识,探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路,首先是基于未来风险预防的影响评估模式,其次是基于自主性原则的元监管模式,然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。
在中国,360等多家人工智能龙头企业以自身实践构建行业安全案例,走出了技术赋能、行业规制、平台监测的多种道路。其中,360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设,集中解决各类人工智能发展问题,引领人工智能安全生态建设。
作为报告联合发起方,天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景,紧紧把握新型城市发展规律和机遇,致力于促进人工智能与经济社会发展深度融合,助力打造“智慧城市国家级标杆区”。
随着数字经济成为改变全球竞争格局的关键力量,人工智能产业将得到更大发展。同时,人工智能安全治理也将得到全世界的关注和推动,《全球人工智能安全治理》报告作为相关领域的权威论著,也将为人工智能产业的健康发展贡献一份重要的力量。
工匠先锋点燃城市“智慧火把”******
近日,一场代表上海智慧城市最高水准的竞赛在上海华能大厦举行。25名在城市数字化转型相关技术领域的产业精英和工匠,现场向专家评委和观众展示上海在城市数字化转型中呈现出的智慧与力量。
这场由上海市总工会、上海市经济和信息化工作委员会、上海市经济和信息化委员会共同主办的上海城市数字化转型“智慧工匠”选树、“领军先锋”评选活动今年已是第7年。颁奖仪式上,上海市总工会副主席周奇表示,希望通过“智慧工匠”“领军先锋”评选活动,激发城市数字化各领域从业人员的创新创造活力,进一步加强上海数字化转型人才队伍建设,推动更多竞赛成果转化为优秀解决方案和应用场景。
培育高端人才引领先导产业
从2021年起,活动面向致力于上海城市数字化转型各领域的建设者,主要聚焦在集成电路、人工智能、生物医药、信息化建设及相关技术领域,挖掘树立一批工匠先锋。
参加决赛的25名候选人,都是上海城市数字化转型建设的标杆型人物,其中既有专注信息技术和模式创新的大拿,又有致力于传统行业通过数字化实现转型提升的实践者;既有国有企业的技术管理人员,又有民营企业的创新创业技术人才。
获得此次一等奖的星希尔生物科技(上海)有限公司CEO李成涛创办企业仅3年左右,其自研的MI平台可快速准确描述分子和蛋白间的相互作用、精确计算目标药物分子与特定靶标的结合自由能,突破经典计算模拟方法,上线1个月,已有20余家标杆客户试用并推进合作。
得益于不断优化的选树活动模式,以及坚持赛评结合、以赛促评的方式和不断完善的激励培养机制,活动举办7年来,涌现出一大批像李成涛这样在城市数字化转型实践中的能工巧匠和优秀的数字化转型成果、项目。城市数字化转型各领域培养劳模工匠的热情和职工的创新创造活力被充分激发。
截至2022年9月,活动共评选出“智慧工匠”60人、提名奖60人;“领军先锋”60人、提名奖55人。获奖选手可参评上海市五一劳动奖章、“上海工匠”等荣誉,有效提升了市级劳模工匠的“智慧”指数。
赛场上演绎工匠精神
入围选手的经历和成果,对数字化时代的工匠精神内涵做了生动演绎。
今年的竞赛单元大幅度迭代更新,新增绿色低碳、元宇宙、智能终端等新赛道。获得一等奖的朱俊领衔研究的《融数注智城市全光云网底座关键技术研究与规模应用》项目,经过5年的技术研发创新,为2500万人、数百万名用户提供与数字世界连接的“动脉血管”。这也是朱俊用“创新、专注、坚持”诠释工匠精神的体现。
同样获得一等奖的奚笑冬总结了自己对工匠精神的理解:立得稳、守得住,方得始终。由他牵头完成的上海地铁全自动驾驶系统,实现了地铁设计的彻底转型。
竞赛通过科学设计评选指标,进一步凸显参评者需具备的精神特质“软实力”和技术技能“硬水平”,从而展示出项目和参赛选手的“含金量”。
以“点上突破”带动“满盘皆活”
“收钱吧到账啦”,这个老百姓耳熟能详的声音,如今有了惠及更多小商贩的新举措。竞选“领军先锋”的收钱吧CEO陈灏在演讲中表示,收钱吧开启从移动支付、数字支付向“数字化门店”的转型,商家只需在APP中输入门店相关信息,就能获得收钱吧为其生成的数字化门店,联通线上线下购买渠道。
工业领域的数字化赋能,场景则更为宏大。此次竞赛中获奖的优也科技CEO李克斌表示,国内不少头部企业的底层工业数据操作系统、数字孪生引擎等都由优也来搭建。“我们为上电漕泾发电厂的两台百万机组做数字化能效分析诊断,实现近10万吨的二氧化碳减排。”李克斌举例说。
在竞赛中,一个个数字化场景陆续落地,但主办方的期待还不止于此。“我们期待数字化不仅要赋能各行各业,还要赋能产业链的上下游。”主办方相关负责人表示,“在赛场内,一批批优秀项目、解决方案逐年丰富;在赛场外,各行各业得以互学互鉴,更多创意火花被激发,加速城市的整体数字化转型。”(工人日报记者 裴龙翔)
(文图:赵筱尘 巫邓炎)