首页 > 热点专题

知道你的图片是如何被分类的吗GoogleAI告诉你

文章作者:来源:www.787store.com时间:2019-10-29



我想昨天分享雷锋网

人工智能发展到今天,使用AI对图像库进行分类也就不足为奇了。但是,图片并非全部都是个人自拍照或单个对象,而是包含多种背景元素,例如多人照片,风景等。那么,人工智能如何允许图像分类器识别并做出分类各种图像的决策?

针对此问题,国外媒体的相关报道对相关论文的解释进行了解释,而雷锋网并未改变其编写意愿。

[图片来源:Google所有者:Google]

人们通常认为,随着AI系统的复杂性增加,其可解释性也会变差。但是,研究人员开始使用该库来挑战这一想法,例如解释深度学习神经网络框架PyTorch如何在Facebook的Captum,小发猫的AI Explainability 360工具包和Microsoft的InterpretML上做出决策。

为了使AI的决策更加透明,谷歌和斯坦福大学的研究团队最近开发了基于概念的机器学习模型自动解释(基于概念的自动解释,ACE),该模型自动提取了该模型。 “对人类有意义”的视觉概念为模型的预测提供了信息。

正如研究人员在论文中所解释的那样,大多数机器学习解释方法都会改变单个特征(例如像素,超像素,词向量)以接近每个目标模型。但是,这是一种不完善的方法,因为它容易受到某些输入更改(甚至最小的更改)的影响。

与大多数机器学习解释方法相反,ACE识别高级概念:在提取概念并确定每个概念的重要性之前,它会提取经过训练的分类器和一组类别的图像。作为输入。具体地说,ACE片段图像具有多种分辨率,可以在将相似的片段分组为同一概念并返回最重要的概念之前捕获纹理,对象部分和对象的多个级别。

为了测试ACE的鲁棒性,研究团队使用Google的Inception-V3图像分类器模型对ImageNet数据集进行了训练,并从数据集中的1000个类别中选择了100个类别。设置为应用ACE。

研究小组指出,被标记为重要的概念通常会受到人类直觉的影响。例如,在侦查警车中,对执法机构的识别比地面上的沥青更重要。但是,情况并非如此,这在某些区别不明显的情况下反映出来。例如,预测篮球图像时,打球员的球衣比打篮球更重要。

此外,研究人员表示,他们通过人体实验验证了其重要性和一致性,并进一步证实ACE确实携带了重要的预测信号。同时,研究人员还指出,他们的方法.自动将输入特征分组为高级概念;一些有意义的概念作为连贯的示例出现,这对于正确预测它们呈现的图像非常重要。

值得一提的是,研究人员还承认ACE绝不是完美的,因为很难提取异常复杂或困难的概念。但是,他们认为ACE提供的关于模型学习相关性的见解将促进机器学习的安全使用。

雷锋网络注意:本文摘自KYLE WIGGERS于Venturebeat上发表。

雷锋王原创文章,禁止擅自复制。有关详细信息,请参见重印说明。

收款报告投诉

人工智能发展到今天,使用AI对图像库进行分类也就不足为奇了。但是,图片并非全部都是个人自拍照或单个对象,而是包含多种背景元素,例如多人照片,风景等。那么,人工智能如何允许图像分类器识别并做出分类各种图像的决策?

针对此问题,国外媒体的相关报道对相关论文的解释进行了解释,而雷锋网并未改变其编写意愿。

[图片来源:Google所有者:Google]

人们通常认为,随着AI系统的复杂性增加,其可解释性也会变差。但是,研究人员开始使用该库来挑战这一想法,例如解释深度学习神经网络框架PyTorch如何在Facebook的Captum,小发猫的AI Explainability 360工具包和Microsoft的InterpretML上做出决策。

为了使AI的决策更加透明,谷歌和斯坦福大学的研究团队最近开发了基于概念的机器学习模型自动解释(基于概念的自动解释,ACE),该模型自动提取了该模型。 “对人类有意义”的视觉概念为模型的预测提供了信息。

正如研究人员在论文中所解释的那样,大多数机器学习解释方法都会改变单个特征(例如像素,超像素,词向量)以接近每个目标模型。但是,这是一种不完善的方法,因为它容易受到某些输入更改(甚至最小的更改)的影响。

与大多数机器学习解释方法相反,ACE识别高级概念:在提取概念并确定每个概念的重要性之前,它会提取经过训练的分类器和一组类别的图像。作为输入。具体地说,ACE片段图像具有多种分辨率,可以在将相似的片段分组为同一概念并返回最重要的概念之前捕获纹理,对象部分和对象的多个级别。

为了测试ACE的鲁棒性,研究团队使用Google的Inception-V3图像分类器模型对ImageNet数据集进行了训练,并从数据集中的1000个类别中选择了100个类别。设置为应用ACE。

研究小组指出,被标记为重要的概念通常会受到人类直觉的影响。例如,在侦查警车中,对执法机构的识别比地面上的沥青更重要。但是,情况并非如此,这在某些区别不明显的情况下反映出来。例如,预测篮球图像时,打球员的球衣比打篮球更重要。

此外,研究人员表示,他们通过人体实验验证了其重要性和一致性,并进一步证实ACE确实携带了重要的预测信号。同时,研究人员还指出,他们的方法.自动将输入特征分组为高级概念;一些有意义的概念作为连贯的示例出现,这对于正确预测它们呈现的图像非常重要。

值得一提的是,研究人员还承认ACE绝不是完美的,因为很难提取异常复杂或困难的概念。但是,他们相信ACE提供的关于模型学习相关性的见解将促进机器学习的安全使用。

雷锋网络注意:本文摘自KYLE WIGGERS于Venturebeat上发表。

雷锋王原创文章,禁止擅自复制。有关详细信息,请参见重印说明。