在人工智能加速智能化变革的同时,针对人工智能的伦理规范、风险框架、以及治理理念和模式的探索成为各国学术界和政策界的重点工作。360首席安全官、天津智慧城市数字安全研究院院长杜跃进称,人工智能作为中、美、欧等国家或地区都在积极发展的关键新兴技术,其在发展过程中所产生的安全挑战也更为复杂多元,世界主要国家和地区已经将安全治理列为各自人工智能战略的优先事项。
目前,各国普遍关注的人工智能安全问题共十类,包括网络安全问题、企业合规问题、可解释性问题、隐私安全问题、声誉和伦理问题、未来劳动力问题、公平性问题、人身安全问题、社会稳定问题、以及国家安全问题。而以上挑战映射到人工智能的研发和应用过程,又可以划分为人工智能自身安全、衍生安全、以及人工智能赋能安全等核心安全挑战。
报告显示,作为一种数字技术,人工智能“双刃剑”特征明显,不仅自身存在数字安全威胁和隐患,随着人工智能工程化、场景化、平台化落地不断加快,人工智能安全需求已经超越单纯技术范畴。面对日趋复杂的安全挑战,人工智能安全治理难以一蹴而就,只有在实践中不断摸索,才能将人工智能安全风险遏制在可控范围。
报告对各国人工智能安全治理模式进行了深入剖析,针对上述问题,报告主要发现:美国流派在人工智能安全治理上采取的手段是在人工智能技术部署、使用与监测的全过程中都进行验证与监管,建立与之配套的规范体系;欧盟流派则更寄希望于运用监管框架与信任体系来对人工智能的安全进行规制,其规制更倾向于人权方向;相较美国与欧盟,中国流派的人工智能安全治理致力于形成内含研发、管理和应用的全流程安全保障体系,涵盖基础框架研制、基本安全原则、供应链管理实践指南、安全服务能力、应用领域的标准研制等各个方面。
为了避免人类社会发展被技术创新所“反噬”,也就是落入所谓的“科林格里奇困境”,产学研各界以监管和设置可操作性原则为主导,通过治理实践凝聚共识,探索人工智能安全治理的思路与模式。报告详细介绍了业界通用的各类风险治理思路,首先是基于未来风险预防的影响评估模式,其次是基于自主性原则的元监管模式,然后是基于透明追踪的AI系统预警模式。并由此细分出以用户为考虑重点的参与性设计和以政府为主导力量的敏捷治理两条路径。
在中国,360等多家人工智能龙头企业以自身实践构建行业安全案例,走出了技术赋能、行业规制、平台监测的多种道路。其中,360承建了科技部牵头成立的“安全大脑国家新一代人工智能开放创新平台”建设,集中解决各类人工智能发展问题,引领人工智能安全生态建设。
作为报告联合发起方,天津智慧城市数字安全研究院依托于新一代人工智能创新发展试验区核心区——中新天津生态城提供的丰富应用场景,紧紧把握新型城市发展规律和机遇,致力于促进人工智能与经济社会发展深度融合,助力打造“智慧城市国家级标杆区”。
随着数字经济成为改变全球竞争格局的关键力量,人工智能产业将得到更大发展。同时,人工智能安全治理也将得到全世界的关注和推动,《全球人工智能安全治理》报告作为相关领域的权威论著,也将为人工智能产业的健康发展贡献一份重要的力量。
AI医生出手 居家筛查宝宝视功能******
广州日报讯 (全媒体记者梁超仪 通讯员邰梦云、唐艳丽)宝宝最近总是揉眼、不断眨眼,是不是视力有问题?看诊不会配合检查怎么办?过往,婴幼儿视力评估充满了挑战,这一群体的眼健康普筛也存在空白。如今这一现状得以打破。
日前,中山大学中山眼科中心召开新闻发布会,该中心林浩添教授团队联合全球多家医疗及研发机构,研发全球首个婴幼儿视功能损伤手机智能筛查系统,研究成果于1月26日在《Nature Medicine》在线发表,为破解婴幼儿视功能损伤及相关眼病早期筛诊难题提供有效技术手段。
目前,团队与粤省事等公众平台进行对接和部署,为婴幼儿视功能损伤及相关眼病的大规模筛查提供可行方案。此外,市民搜索小程序“Ai宝睛灵”,即可便捷在家首尝“头啖汤”。
历时八年采集3652名婴幼儿视力数据
林浩添教授介绍,0-4岁婴幼儿处于视功能发育的关键时期。在这个阶段发生的眼病如果不能及时干预治疗,很可能导致患者长达几十年低视力甚至致盲,给家庭和社会带来沉重的负担。据国家疾控中心数据显示,全国5000万0-4岁婴幼儿中,眼病发病率高达9.11%,早筛早治是提高婴幼儿视功能预后的关键。
对婴幼儿进行视功能评估,早期发现眼部疾患引起的视功能损伤十分关键,却充满挑战。由于婴幼儿难以表达眼部不适,视功能损伤易被忽视或漏诊,错过最佳的治疗时机。其次,受限于认知水平,婴幼儿难以配合完成传统的眼部检查。此外,大部分检查手段对于技术人员的专业水平与设备要求高,筛查成本高,效能低,难以作为普筛技术手段普及。
为破解这一难题,该研究团队历时八年,前瞻性采集来自3652名婴幼儿的超过2500万帧注视行为大数据,依托天河二号超算中心部署的深度学习人工智能数据分析后台,对采集的数据进行深度分析,早期预警异常注视行为,筛检婴幼儿视功能损伤及相关眼病。
该技术的研发创新婴幼儿视功能损伤移动智能筛诊模式,有望极大降低婴幼儿视功能损伤早期筛诊的难度及成本。
可初筛超16种婴幼儿常见致盲眼病
记者进入小程序发现,居家用手机操作十分方便,在实操中,家长通过手机播放一段3分钟的动画视频吸引婴幼儿保持注视,可以实现对婴幼儿注视习惯和行为模式的实时捕捉,随后该系统会给出初筛的结果。
林浩添介绍,在这个人工智能系统中,研究团队基于视频大数据,深度挖掘了不同眼病引起的婴幼儿视功能损伤的异常注视行为模态,并依托深度学习人工智能技术,突破性地实现了对先天性白内障、先天性上睑下垂、先天性青光眼、斜视、视网膜母细胞瘤等超16种婴幼儿常见致盲眼病引起视功能损伤的早期检测,平均筛查准确率超85%。而在实际应用中,系统在全国4家医疗机构参与的多中心外部验证中的筛查准确率超80%。同时,研究团队招募了120个家庭参与居家筛查,便捷的系统操作流程使得99%的家长都能顺利完成筛查试验,筛查准确率达85.9%。
“我们希望通过这一人工智能系统,让有需要的家长居家便可以便捷帮助婴幼儿视力进行普筛,辨别视力状况是正常还是异常,有异常状况通过去医院专科就诊确诊具体的眼疾。”林浩添介绍。据了解,这一系统已在小程序“Ai宝睛灵”试运行上线,下一步在小程序“粤睛晶”中也计划引入。此外,该团队正与粤省事对接,希望可以在广东范围内大范围普及,后续有条件覆盖全国有需要的市民。
(文图:赵筱尘 巫邓炎)