什么是可解释的人工智能它的定义如何

　　可解释的人工智能意味着人类可以理解IT系统做出决定的路径。人们可以通过分解这个概念来探究人工智能如此重要的原因。虽然人工智能应用越来越广泛，但关于人工智能也有一些误解。有些人采用“黑盒”这个术语描述人工智能，认为其内涵是神秘和不祥的部分，其“X档案”的内容比IT 日常业务还要多。

　　然而，像机器学习深度学习这样的人工智能系统，确实需要人工输入，然后在没有可解释的场景的情况下产生输出（或做出决定）。人工智能系统做出决定或采取行动，人们不一定知道它为什么或如何达到这个结果。人工智能系统就是这么做的，而这就是人工智能的黑盒模型，它确实很神秘。在某些用例中应用很好，而在其他情况下却不一定。

　　PubNub公司首席技术官兼联合创始人Stephen Blum表示：“对于像人工智能驱动的聊天机器人或社交信息的情感分析这样的小事情，而人工智能系统是否在黑盒中运行并不重要。但是对于人类具有巨大影响的用例（例如自动驾驶车辆、飞行导航、无人机、军事应用）能够理解决策过程是至关重要的任务。随着人们在日常生活中越来越依赖人工智能，需要能够理解其思维过程，并随着时间的推移做出改变和改进。”

　　SAS公司执行副总裁兼首席信息官Keith Collins说，“‘可解释的人工智能’术语是指人类能够通过动态生成的图表或文本描述轻松理解人工智能技术做出决策的路径。”PubNub公司首席技术官和联合创始人Stephen Blum说，“可解释的人工智能可以等同于数学问题中的‘展示工作’。所有的人工智能决策过程和机器学习都不是在黑盒中进行的——它是一种透明的服务，具有被人类从业者解剖和理解的能力。”

　　Sutherland公司首席分析官Phani Nagarjuna说，“可解释的人工智能是我们可以解释人工智能的结果，同时在人工智能达到结果的路径上能够清楚地解释从输入到结果。”SPR公司数据分析师Andrew Maturo说，“可解释的人工智能是一种机器学习或人工智能应用，伴随着易于理解的推理，它如何得出一个给定的结论。无论是通过先发制人的设计还是回顾性的分析，都在采用新技术来降低人工智能的黑盒不透明性。”

　　CogniveScale公司创始人和首席技术官Matt Sanchez说，“简单来说，可解释的人工智能意味着人工智能在其操作中是透明的，这样人类就能够理解和信任决策。组织必须问这个问题——那么能解释其人工智能是如何产生这种特定的洞察力或决策的吗？”Sanchez的问题引发了另一个问题：为什么可解释的人工智能很重要？其原因是多方面的，这可能对人们、企业、政府和社会产生巨大影响。在此考虑一下“信任”这个词。

　　IBM Watson物联网高级产品经理Heena Purohit指出，人工智能（IBM称之为“增强型智能”）和机器学习已经在以复杂的方式处理大量数据方面做得非常出色。但Purohit说，人工智能和机器学习的目标是帮助人们提高工作效率，做出更明智、更快速的决策——如果人们不知道他们为什么要做出这些决策，这就更加困难了。

　　由于人工智能的目的是帮助人们做出更高的决策，当用户改变行为或根据人工智能输出预测采取行动时，企业就实现了人工智能解决方案的真正价值。但是，为了让用户改变自己的行为，就必须相信系统的建议。当用户感觉到有能力并知道人工智能系统如何得出建议输出时，就会建立这种信任。”从组织领导的角度来看，可解释的人工智能在某种意义上是让人们信任并购买这些新系统，以及它们如何改变人们的工作方式。

　　“看到‘人工智能黑盒’问题仍然存在，我现在确保我们的人工智能解决方案是可以解释的。”Purohit补充说，“在设计人工智能产品以确保可以解释人工智能时，我想问的一个问题是：人工智能是否使人类容易理解、检测和理解其决策过程？”可解释的人工智能对于信任和透明度至关重要的其他领域将越来越重要，例如任何人工智能偏见可能对人们产生有害影响的场景。

　　SPR公司的Maturo说，“尽管这种解释的任务很麻烦，但这是一项值得努力的尝试，通常可以揭示模型中的偏见。在许多行业中，这种透明度可能来自法律、财政、医疗或道德义务。在可能的情况下，模型看起来越不神奇，它的用户就会越多。”可解释的人工智能对于问责制和可审计性也很重要，它将（或者至少应该）仍然存在于组织的人员中，而不是其技术中。

　　“企业和个人总是需要进行决定。只是按照算法推荐的做法并不具有说服力。”Ness公司数字工程首席技术官Moshe Kranc说。Kranc指出，可解释的人工智能对于识别错误的结果是至关重要的，这些错误的结果来自于诸如有偏见或调整不当的培训数据和其他问题。能够跟踪人工智能系统得出不良结果的路径可以帮助人们解决潜在问题，并防止它们再次发生。

　　“人工智能技术并不完美。尽管人工智能的预测可能非常准确，但模型总是有可能出错。”Clara AnalyTIcs公司数据科学主管Ji Li说，“人工智能技术具有可解释性，帮助人类快速做出基于事实的决定，但允许人类仍能使用他们的判断力。有了可解释的人工智能，人工智能将成为一种更有用的技术，因为人类并不总是相信或从不相信预测，但却不断帮助改进预测。”

　　事实上，可解释的人工智能最终将使人工智能在商业环境和日常生活中变得更有价值，同时也防止了不良后果。“可解释的人工智能对业务很重要，因为它为我们提供了解决问题的新方法，适当地扩展流程，并最大限度地减少人为错误的机会。提高的可视性有助于增强理解，并改善客户体验。”SAS公司首席信息官Collins说。

　　声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容图片侵权或者其他问题，请联系本站作侵删。侵权投诉

　　对形状值进行聚类的想法基于 EU Horizon 项目FIN-TECH中最成功的 AI 用例，发布为

　　从实验室走向产业化生产，重塑传统行业模式、引领未来的价值已经凸显，并为全球经济和社会活动做出了不容忽视的贡献。当前全球

　　系统存在一些不可避免的安全缺陷，容易受到特定攻击。也正因此，在一些真正重要的关键领域，比如自动驾驶、金融业务决策和医疗诊断等实际应用场景中，

　　升级。通过600多个项目实践，他们发现已经有30%的项目进入企业核心生产系统，经过测算，AI进入企业核心生产系统会带来超过18%的盈利和效率提升。 在AI的发展过程中，经

　　（AI）和机器学习（ML）技术。毫无疑问，这些模仿人类推理的技术可以积极地改变企业及其战略。

　　技术在信息领域的应用，极大地提高了信息的利用效率和挖掘价值，深刻的影响了各领域的业务形态，同时也引发了监管部门和用户对这一新技术运用中出现的 “算法黑箱”问题关切和疑虑。

　　性，即我们了解或者解决一件事情的时候，可以获得我们所需要的足够可以理解的信息。比如说过去算法是黑盒算法，缺乏透明性、

　　又准确的模型来改良这种错误的二分法。关键是将神经网络与决策树相结合，在使用神经网络进行低级决策时保留高级的

　　AI（X AI）近年来一直是一个积极的研究课题，受到DARPA2016年倡议的推动。 计算机视觉和自然语言处理等“感知”问题的机器学习的广泛采用，导致了分类器的

　　每天都在改变着人们的学习方式、生产方式和生活方式，那种扑面而来和潜移默化，对我们是机遇也是挑战，推进

　　，技术人员需要社会学家，心理学家，人类学家和其他专家的帮助，他们能够洞察偏见对人类生活的影响，并告诉人们

　　就是对理性主体的研究，此处的理性主体指任何能够作出决策的主体，可以是一个人、一个公司，也可以是机器或者软件”。

　　添加到当前的IT组合当中。AI可以包含在现有的应用程序当中，也可以与工作流程中的应用程序进行集成。或者，在鲜为人知的以流程中心的方法中，

　　很大的进展，但是仍然具有很大的局限性，在数据和知识不充分、不确定性、不完全信息、多领域、动态变化的问题中算法的性能会出现大幅度的下降，

　　博鳌亚洲论坛2019年年会于3月26日开幕，在26日下午举行的以“数据：有待开发的巨大资源”为主题的分论坛上，微软亚洲研究院院长洪小文在发言中表示，人类需要

　　恩智浦半导体总裁Kurt Sievers在慕尼黑国际电子元器件博览会(electronica)的圆桌会议上感叹：今天

　　识别拍照场景，而是通过Google Assistant中的Lens功能，来识别所拍摄的物体。用户可以通过这项功能来完成拍照翻译、拍照识别物体名称、拍摄建筑确定所在地点、纪录文档、储存名片等等。

　　”（Towards A RealArtifitial Intelligence）的大会报告。

　　的下一个黑天鹅。说不定什么时候，一只独角兽就会从中诞生。 但在此之前，一定要正确的认清什么才是真正

　　军备竞赛，迫使苹果公司不得不紧追巨头步伐，苹果正力求以一个更开放的姿态来吸引人才。 苹果在7月份发布

　　Facebook 官方博客更新，FAIR 主管、深度学习代表人物 Yann LeCun 与同事撰文，深入浅出

　　是一门学科，目标是要探索和理解人类智慧的奥秘，并把这种理解尽其可能地在机器上实现出来，从而创造具有一定

免责声明：本站所有信息均搜集自互联网，并不代表本站观点，本站不对其真实合法性负责。如有信息侵犯了您的权益，请告知，本站将立刻处理。联系QQ：1640731186