大家所说的人工智能,其实是无法看到的黑盒子

  大家所说的人工智能,其实是无法看到的黑盒子

  人工智能(AI)已经紧紧地融入我们的日常生活中,并且正在进入越来越多的行业。例如,语音助手已经成为许多人智能手机,汽车和家庭中的日常用品。AI领域的进展主要基于神经网络的使用。模仿人类大脑的功能,神经网络将数学定义的单元彼此联系起来。但在过去,人们还不知道神经网络如何做出决策。弗劳恩霍夫电信研究所,海因里希赫兹研究所,HHI和柏林工业大学的研究人员开发出一种技术,揭示了AI系统在做出决策时使用的标准。基于分层相关性传播技术的创新光谱相关性分析(SpRAy)方法首次在神经网络的“黑匣子”内部成功的进行了了解。

  大家所说的人工智能,其实是无法看到的黑盒子

  今天几乎不可能找到人工智能无关的领域,无论是制造业,广告业还是通信业。许多公司使用学习和在线的AI系统,例如生成精确的需求预测并且准确预测客户的行为。这种方法也可用于调整区域物流存储等。医疗保健行业还使用特定的AI进行试验预测,例如基于结构化数据的预测生成。通过图像识别:将X射线图像输入到AI系统中,然后AI系统输出诊断。正确检测图像内容对自动驾驶也至关重要,因为必须完全准确地识别交通标志,树木,行人。这就是问题的关键:人工智能系统必须在医疗诊断和安全关键领域等敏感应用领域提供绝对可靠的问题解决策略。但是,过去尚未完全清楚AI系统如何做出决策。此外,预测取决于输入数据的质量。

  大家所说的人工智能,其实是无法看到的黑盒子

  现在AI系统根据要求将图像分配到正确的类别。然而,解决方案有些是有缺陷的。在实践中,该技术识别已用于进行预测的各个输入元素。因此,当组织样本的图像被输入到AI系统中时,在分类结果中量化每个单独像素的影响。换句话说,除了预测成像组织是如何“恶性”或“良性”之外,系统还提供关于该分类的基础的信息。不仅结果应该是正确的,解决方案策略也是如此。在过去,AI系统被视为黑盒子。系统被信任做正确的事情。

  信任神经网络的结果必然意味着理解它们的工作方式。根据研究团队的测试,AI系统并不总是采用最佳策略来达成解决方案。例如,一个众所周知的AI系统根据上下文对图像进行分类。当图片中可以看到大量的水时,它将照片分配给“船舶”类别。它没有解决识别船舶图像的实际任务,即使在大多数情况下它也选择了合适的照片。许多AI算法使用不可靠的策略并得出非常不切实际的解决方案。

  大家所说的人工智能,其实是无法看到的黑盒子

  人工智能关注的是能够独立解决问题并且类似于人类思想和行为模式的系统的开发。目前,机器学习领域正在取得最大进展,这是人工智能的一个子领域。机器学习涉及从数据中提取知识和独立学习数据中包含的上下文的方法。该进展是使用基于数学计算单元之间的连接的人工神经网络的结果,该数学计算单元原则上模仿人脑的神经结构。机器学习,深度学习的子领域涵盖了一类新程序,可以教授和训练复杂的人工神经网络。这些网络由许多层组成,这些层在多层结构中相互链接