可解释的人工智能可以帮助人们了解人工智能系统如何做出决策，这将成为医疗，制造，保险和汽车行业的关键。那么这对组织意味着什么呢？
例如，流媒体音乐服务平台Spotify计划向用户推荐歌手Justin Bieber的歌曲，但推荐Belieber的歌曲，这显然有点令人困惑。这并不一定意味着Spotify网站上的程序员必须确保他们的算法透明且易于理解，但有人可能会发现这有点偏离目标，但后果显然是微不足道的。
这是一个可以解释人工智能的试金石。——机器学习算法和其他人工智能系统，可以产生人类可以轻松理解并追溯到原点的结果。基于人工智能的结果越重要，对可解释的人工智能的需求就越大。相反，相对低风险的人工智能系统可能仅适用于黑匣子模型，并且难以理解结果。
Jane.ai人工智能研究主任Dave Costenaro表示：“如果人工智能算法表现不佳，如音乐服务公司推荐的歌曲，那么社会可能不需要监管机构来规范这些建议。”
人们可以容忍对应用程序音乐品味的误解。但它可能无法容忍人工智能系统做出的更重要的决定，可能是建议的医疗护理或拒绝申请抵押贷款。
这些是高风险情况，特别是在负面结果的情况下，人们可能需要明确解释具体结果是如何得出的。在许多情况下，审计师，律师，政府机构和其他潜在的政党也会这样做。
科斯特纳罗说，由于特定决策或结果的责任从人到机器转移，对可解释性的需求增加。
科斯特纳罗说：“如果算法让人类处于这个循环中，人类决策者可以继续承担解释结果的责任。”
他举例说明了一种计算机视觉系统，该系统为放射科医师预先标记了X射线图像。 “这可以帮助放射科医生更准确，更有效地工作，但最终会提供诊断和解释，”他说。
IT的人工智能责任：解释原因
然而，随着人工智能的成熟，人们可能会看到越来越多的新应用依赖于人类的决策和责任。音乐推荐引擎可能没有特别重要的责任，但许多其他真实或潜在的用例将面临重大责任。科斯特纳罗说：“对于一种新型的人工智能决策，这些决策具有很大的影响，并且由于所需的处理速度或数量，人类不再能够有效参与，从业者正试图找到解释。算法的方法。“
IT领导者需要采取措施确保其组织的人工智能用例在必要时包含正确的可解释性。 TigerGraph营销副总裁Gaurav Deshpande表示，许多企业CIO已经关注这个问题，即使他们了解特定人工智能技术或用例的价值，他们也常常犹豫不决。
Deshpande说，“但如果你无法解释你是如何得到答案的，你就不能使用它。这是因为'黑匣子'人工智能系统存在偏见的风险，这可能导致诉讼，重大责任企业品牌和资产负债表。风险。“
这是思考企业如何以及为何使用可解释的人工智能系统而非黑盒模型的另一种方式。他们的业务可能取决于它。人们对人工智能偏见的主张可能会产生误导。在较高的风险下，类似的要求可能非常严重。这就是为什么可解释的人工智能可以成为机器学习，深度学习和其他学科的商业应用的焦点。
解释人工智能在四个行业中的作用
Ness Digital Engineering的首席技术官Moshe Kranc讨论了解释人工智能的潜在用例。他说，“任何影响人们生活的用例都会受到偏见的影响。”答案很简单，影响深远。
他分享了人工智能可能做出越来越多决策的一些例子，但这从根本上要求信任，可审计性和解释人工智能的其他功能：
参加培训计划
决定是否为某人投保以及投保多少
根据人口统计数据决定是否向某人发放信用卡或贷款
考虑到这一点，各种AI专家和IT领导者确定了解释AI所必需的行业和用例。银行业就是一个很好的例子。可以说，可解释的人工智能非常适合机器在贷款决策和其他金融服务中发挥关键作用。在许多情况下，这些用途可以扩展到其他行业，其细节可能会有所不同，但原则保持不变，因此这些示例可能有助于考虑组织中可解释的AI用例。
1.医疗保健行业
对可解释的人工智能和人类影响的需求将同时增加。因此，医疗保健行业是一个很好的起点，因为它也是人工智能非常有益的领域。
Kinetica首席执行官Paul Appleby说：“使用可解释的人工智能机器可以为医务人员节省大量时间，使他们能够专注于医疗解释工作，而不是重复性工作。他们可以同时给每个病人。更多关注。潜在价值很大，但需要可解释的人工智能提供可追溯的解释。可解释的人工智能允许机器评估数据并得出结论，但同时向医生或护士提供决策数据，以了解如何达到这一点结论，所以在某些情况下会得出不同的结论，这需要人们解释它们的细微差别。“SAS执行副总裁兼首席信息官Keith Collins分享了一个具体的实际应用。 “我们目前正在研究使用人工智能分析来帮助更准确地检测癌症病变，”他说。 “这项技术可以作为医生的虚拟助手，并解释磁共振成像（MRI）图像中的每个变量如何帮助识别可能导致癌症的可疑区域，而其他可疑区域则没有。”
2.制造业
在诊断和修复设备故障时，现场技术人员通常依赖“部落知识”。
IBM Watson IoT的高级产品经理Heena Purohit指出，在制造业中，现场技术人员通常依赖“部落知识”来诊断和修复设备故障，某些行业也是如此。部落知识的问题在于团队成员经常变化，有时甚至是戏剧性变化：人们经常移动，他们的专业知识发生变化，而且知识并不总是被记录或转移。
Purohit说：“人工智能驱动的自然语言处理可以帮助分析非结构化数据，例如设备手册，维护标准和结构化数据，如历史工作订单，物联网传感器读数和业务流程数据，以表明技术人员应该遵循最好的关于规范性指导的建议。“
这并不能消除部落知识的价值，也不会破坏人类的决策。相反，它是一个迭代和交互过程，有助于确保以操作方式存储和共享知识。
Purohit解释说，“在这种情况下，我们向用户展示了由人工智能驱动的各种可能的维护指导选项，每个响应的置信区间都是可能的答案。用户可以获得所有选项，这有助于继续学习过程并改进未来的建议。通过这种方式，我们不仅仅为用户提供单一选择，我们允许用户在选项之间做出明智的决定。对于每个建议，我们还向用户显示知识地图输出此高级功能，以及在人工智能训练阶段使用的输入，以帮助用户理解为什么结果优先级和相应评分的参数。
3.保险业
就像医疗保健行业一样，人工智能可以对保险业产生深远的影响，但信任，透明度和可审计性是绝对必要的。
Cognitivescale的创始人兼首席技术官Matt Sanchez表示：“人工智能在保险方面有许多潜在的使用案例，例如客户获取，代理生产率，索赔预防，承保，客户服务，交叉销售，政策调整和风险规避合规。“他指出，埃森哲最近的一项调查发现，大多数保险业高管都希望人工智能能够在未来三年内彻底改变其行业。

• 上一篇: 蓝盟IT外包，元宇宙：四梁八柱是什么
  下一篇: 破碎的心脏，微软Chromium浏览器更加流畅的滚动功能曝光

• 分享到：