人工智能危机(人工智能危机安卓)

 

图说：人工智能安全领域三部曲 采访对象供图（下同）

昨天，2022世界人工智能大会可信AI论坛在上海西岸美术馆举行。论坛汇聚全球顶尖AI智脑，共同探索多元化的落地措施，进一步推动可信AI产业持续发展。瑞莱智慧RealAI合伙人、高级副总裁朱萌表示，安全是第一准则，瑞莱智慧将持续构建安全、可靠、可控的人工智能基础设施，为可信AI提供技术支撑，助力AI向善进化。

图说：瑞莱智慧合伙人、高级副总裁朱萌

互联网小常识：信息的安全传输包括两个基本部分：（1）对发送的信息进行安全转换（如信息加密），实现信息的保密性。或者附加一些特征信息，以便进行发送方身份验证。（2）发送和接收双方共享的某些信息（如加密密钥），这些信息除了对可信任的第三方外，对于其他用户是保密的。为了信息的安全传输，通常需要一个可信任的第三方。

第二代AI遭遇天花板 第三代AI探索破局点

自1956年达特茅斯会议诞生人工智能的概念后，AI历经了两起两落，才步入到当前的快速发展时期。每一轮技术周期浪潮迭起往往与技术创新紧密相连，第一代人工智能是知识驱动的符号推理，在上世纪七八十年代呈现高潮；之后，人工智能步入低谷；第二代人工智能是数据驱动的深度学习，在本世纪第二个十年高歌猛进。

但学界普遍认为，从应用的角度来看，以数据驱动的深度学习，其技术潜力已接近天花板。理由是，深度学习的本质是利用没有加工处理过的数据用概率学习的黑箱处理方法寻找规律。这一方法本质上非常脆弱，带来了新的风险和问题。如对抗样本攻击， 通过在输入数据中添加扰动，即可使系统作出错误判断。

朱萌以瑞莱智慧团队所做的研究成果举例：在自动驾驶场景中，通过修改锥桶的形状，就能让汽车感知模块失效，径直撞上去；通过在T恤上打印特殊的花纹，就能让目标检测系统捕捉不到穿这件衣服的人，实现隐身；制作带有特制花纹的眼镜，刷开数十部商用手机的人脸解锁等。

在信任危机的笼罩之下，安全、可信已成为人工智能稳健发展的主要抓手，也将逐步成为行业规范化、技术商业化的关键助推器。

中科院院士、清华大学人工智能研究院名誉院长、瑞莱智慧首席科学家张钹提出第三代人工智能，持之以恒加强基础研究，综合运用知识、数据、算法、算力四个要素，在实现高水平安全的前提下，为人工智能高水平发展提供动力和支撑。

互联网小常识：网络关键设备选型的基本原则是：a、选择成熟的主流产品，最好是一家厂商的产品。 b、主干设备一定要留有一定的余量，注意系统的可扩展性。c、对于新组建网络一定要在总体规划的基础上选择新技术、新标准与新产品，避免因小失大。

安全建设三部曲 消弭人工智能信任危机

朱萌介绍，围绕高水平安全赋能高质量发展目标，瑞莱智慧正在力争奏好三部曲，致力于AI安全领域的三方面能力建设。首先是，发掘现有AI安全风险、预判AI潜在风险；二是针对风险建设治理体系，包括建立AI治理理论、构建治理运转机制、探索技术实践路径等；三是在治理体系框架下，重点探寻伦理法规的技术落地方案。

人工智能当前的安全风险主要可以从‘系统’与‘人’两个视角来剖析。朱萌认为，系统层面来看，以深度学习算法为核心的人工智能系统十分脆弱，其结构性漏洞致使对抗样本攻击不可避免，而其数据依赖性则使其存在数据投毒漏洞，出现后门攻击。从人的层面来评估AI的可信问题，主要风险来自人的滥用、恶意应用，最为典型的就是深度合成技术。它大幅降低了信息生成合成的难度，但其负向应用已产生实质危害，甚至存在武器化风险。

针对这些风险，瑞莱智慧于今年6月成立了人工智能治理研究院，探寻从伦理法规到技术落地的人工智能治理实践之路，主要开展四个方面工作：参与伦理规则建立、支撑立法工作、开展技术探索、建立从伦理法规到技术实践的映射模型。

记者获悉，瑞莱智慧搭建了系列安全可控新一代人工智能基础设施，包括业内首个针对AI系统的防火墙和杀毒软件，提供模型安全性测评及安全加固的端到端解决方案；基于安全多方计算、联邦学习、匿踪查询等技术打造的隐私保护计算平台，通过打通数据孤岛，将计算环节移动到数据端，实现数据安全和共享流通；用于快速、精准地对多种格式与质量的视频和图片进行真伪鉴别的深度伪造内容检测平台等。

这系列平台将从根本上增强人工智能的安全性、可靠性及可控性，目前已在政务、金融、工业互联网等高价值场景中发挥了重大作用，成为AI纵深赋能的坚实基座。

新民晚报记者 郜阳

互联网小常识：为了防止链路出现回路采用STP(spanning tree protocol，802.1d)。选择ID最小的网桥作为根网桥，非根网桥与根网桥最近的端口称为根端口，一个网段与根网桥最近的端口称为指定端口，其他称为阻塞端口。

免责声明：本站所有信息均搜集自互联网，并不代表本站观点，本站不对其真实合法性负责。如有信息侵犯了您的权益，请告知，本站将立刻处理。联系QQ：1640731186