人工智能 豆瓣影评(人工智能电影经典影评)

 

试想一下，有人将一张神奇的贴纸放置在面部，就可以使人脸识别门禁系统误认为是你，从而轻而易举打开大门；同样是这张神奇的贴纸，把它放置在眼镜上，就可以1秒解锁你的手机人脸识别，探取你的隐私如入无人之境。这并非科幻大片的想象，而是首届人工智能安全大赛颁奖典礼现场展示的真实攻防场景。

近日，以共筑AI安全 安享智能未来为主题的AISC首届人工智能安全大赛圆满落幕。本次大赛由国家工业信息安全发展研究中心、清华大学人工智能研究院和北京瑞莱智慧科技有限公司等单位联合主办，系首个全国性人工智能安全赛事，旨在推动人工智能攻防技术创新、实战演练、场景挖掘和人才培养。

大赛工作人员演示对抗样本攻击人脸识别门禁系统

结合具体赛题来看，自动驾驶安全赛题和人脸识别安全赛题从攻击视角出发，通过让选手攻击目标模型挖掘算法漏洞，旨在发现更加稳定的攻击算法，以更好的实现准确评估模型的安全性。深度伪造安全赛题则通过分析伪造音视频的相似性，来溯源不同伪造内容是否来自同一种或同一类生物特征生成软件，以促进对深度伪造检测技术的发展，具有重要的现实意义。

自七月开启报名以来，大赛共吸引来自全国范围内70多所高等高校、科研院所、企业机构的超过400支团队，共计600余名选手的踊跃参与。经过三个月的激烈角逐，最终，上海交通大学联合战队AreYouFake与北京交通大学战队BJTU-ADaM分别摘得深度伪造安全与自动驾驶安全赛道桂冠，北京理工大学战队DeepDream与建信金科战队Tian Quan&LianYi共同位列人脸识别赛道第一名。

深度伪造安全竞赛前三名

人工智能和其他通用目的技术一样，在高歌猛进的同时，也带来了新的风险和隐患。主办方北京瑞莱智慧科技有限公司首席执行官田天认为，人工智能技术风险发生的范围正随着应用场景的日趋广泛而逐步扩大，风险发生的可能性也随着其应用频次的增长而持续提高。在他看来，人工智能当前的安全风险主要可以从人与系统这两个视角来剖析。

互联网小常识：交换机采用两种交换方式技术：快捷转发交换方式和存储转发交换方式。

从人的视角来评估AI的安全问题，首当其冲就是技术的两面性问题，存在AI滥用甚至武器化的问题。具体到人工智能的应用中来看，最为典型的代表就是深度伪造技术，它的负向应用风险持续加剧且已产生实质危害。

现场的人脸识别破解演示，所揭示的正是系统的风险，它来自于深度学习算法本身的脆弱性。以深度学习算法为核心的第二代人工智能是个黑盒子，具有不可解释性，意味着系统存在结构性的漏洞，可能受到不可预知的风险，典型的就比如现场演示的神奇贴纸，其实就是对抗样本攻击，通过在输入数据中添加扰动，使得系统作出错误判断。

这一漏洞在自动驾驶感知系统同样存在，瑞莱智慧演示了用对抗样本攻击自动驾驶汽车。正常情况下，在识别到路障、指示牌、行人等目标后，自动驾驶车辆就会立即停车，但在目标物体上添加干扰图案后，车辆的感知系统就会出错，径直撞上去。

在人工智能的全生命周期，不仅存在算法层面的安全性问题，算力作为人工智能发展的重要基础设施，也面临着诸多风险，推动人工智能算力基础设施安全发展具有重要意义。活动期间，由国家工业信息安全发展研究中心牵头，联合华为技术有限公司和北京瑞莱智慧科技有限公司共同撰写的《人工智能算力基础设施安全发展白皮书》也正式发布，打造可信、可用、好用的人工智能算力底座，营造安全、健康、合规发展的人工智能产业生态。

互联网小常识： P2DR安全模型：策略（Policy）、防护（Protection）、检测（Detection）、响应（Response）。

文/北京青年报记者 温婧

编辑/樊宏伟

互联网小常识：IEEE802.11b运作模式基本分为两种：点对点模式（ad hoc，无线网卡与无线网卡之间的通信方式，最多256台），基本模式（无线网络规模扩充或无线和有线网络并存时的通信方式，是802.11b最常用的工作模式，最多1024台）。

免责声明：本站所有信息均搜集自互联网，并不代表本站观点，本站不对其真实合法性负责。如有信息侵犯了您的权益，请告知，本站将立刻处理。联系QQ：1640731186