什么是可解释的人工智能

　　Sanchez的问题引发了另一个问题：为什么可解释的人工智能很重要？其原因是多方面的，这可能对人们、企业、政府和社会产生巨大影响。在此考虑一下“信任”这个词。

　　IBM Watson物联网高级产品经理Heena Purohit指出，人工智能（IBM称之为“增强型智能”）和机器学习已经在以复杂的方式处理大量数据方面做得非常出色。但Purohit说，人工智能和机器学习的目标是帮助人们提高工作效率，做出更明智、更快速的决策——如果人们不知道他们为什么要做出这些决策，这就更加困难了。

　　Purohit说：“由于人工智能的目的是帮助人们做出更高的决策，当用户改变行为或根据人工智能输出（或）预测采取行动时，企业就实现了人工智能解决方案的真正价值。但是，为了让用户改变自己的行为，就必须相信系统的建议。当用户感觉到有能力并知道人工智能系统如何得出建议（或）输出时，就会建立这种信任。”

　　从组织领导的角度来看，可解释的人工智能在某种意义上是让人们信任并购买这些新系统，以及它们如何改变人们的工作方式。

　　“看到‘人工智能黑盒’问题仍然存在，我现在确保我们的人工智能解决方案是可以解释的。”Purohit补充说，“在设计人工智能产品以确保可以解释人工智能时，我想问的一个问题是：人工智能是否使人类容易理解、检测和理解其决策过程？”

　　可解释的人工智能对于信任和透明度至关重要的其他领域将越来越重要，例如任何人工智能偏见可能对人们产生有害影响的场景。

　　SPR公司的Maturo说，“尽管这种解释的任务很麻烦，但这是一项值得努力的尝试，通常可以揭示模型中的偏见。在许多行业中，这种透明度可能来自法律、财政、医疗或道德义务。在可能的情况下，模型看起来越不神奇，它的用户就会越多。”

　　可解释的人工智能对于问责制和可审计性也很重要，它将（或者至少应该）仍然存在于组织的人员中，而不是其技术中。

　　“企业和个人总是需要进行决定。只是按照算法推荐的做法并不具有说服力。”Ness公司数字工程首席技术官Moshe Kranc说。Kranc指出，可解释的人工智能对于识别错误的结果是至关重要的，这些错误的结果来自于诸如有偏见或调整不当的培训数据和其他问题。能够跟踪人工智能系统得出不良结果的路径可以帮助人们解决潜在问题，并防止它们再次发生。

　　“人工智能技术并不完美。尽管人工智能的预测可能非常准确，但模型总是有可能出错。”Clara Analytics公司数据科学主管Ji Li说，“人工智能技术具有可解释性，帮助人类快速做出基于事实的决定，但允许人类仍能使用他们的判断力。有了可解释的人工智能，人工智能将成为一种更有用的技术，因为人类并不总是相信或从不相信预测，但却不断帮助改进预测。”

　　事实上，可解释的人工智能最终将使人工智能在商业环境和日常生活中变得更有价值，同时也防止了不良后果。

　　“可解释的人工智能对业务很重要，因为它为我们提供了解决问题的新方法，适当地扩展流程，并最大限度地减少人为错误的机会。提高的可视性有助于增强理解，并改善客户体验。”SAS公司首席信息官Collins说。

　　Collins指出，这在医疗和银行等受到严格监管的组织尤为重要，这些组织最终需要能够展示人工智能系统是如何做出决定或结果。而即使在不需要审计其人工智能的行业中，可解释人工智能的核心信任和透明度也是值得的，他们可以具有良好的商业意识。

　　“在采用可解释的人工智能的情况下，人类增强了技术的知识和经验，以调整和加强分析模型以供将来使用。”Collins说，。“人类的知识和经验有助于学习技术，反之亦然。这是一个持续的反馈循环，可以成为企业的一种动态资产。”

免责声明：本站所有信息均搜集自互联网，并不代表本站观点，本站不对其真实合法性负责。如有信息侵犯了您的权益，请告知，本站将立刻处理。联系QQ：1640731186