在2018年底,Google展示了一种用于开源图像数据集培训的流行模型。为了解开ai人工智能系统的内部工作,谷歌和研究公司OpenAI的科学家详细介绍了一种开源技术,该技术揭示了图像分类神经网络中的组件交互,他们称之为视觉激活图。

OpenAI和谷歌推出了ai人工智能面纱来开发可视化激活图-而后网

OpenAI技术人员Chris Olah在接受采访时表示,已对功能可视化进行了长期研究,该领域试图了解神经网络的内部结构。所谓的神经网络是由神经元或生物神经元模型组成的松散功能。这些神经元分层并连接到突触。这些突触将信号传递给附近的神经元,这些神经元将激活功能的产物从一层传递到另一层,通过调整每个连接的突触强度或重量来缓慢调整网络。随着时间的推移,网络从数据集中提取特征并识别样本之间的趋势,以便最终进行准确的预测。

最简单的ai人工智能模型可视化仅显示单个输入上的数据转换,这只是整个网络激活的一小部分,而空间激活具有其自己的一组突破交互限制。这解决了单个图像可视化的问题,但是多个场景呢?要解决这些问题,您需要一种聚合方法。研究人员从数据集的图像中收集激活,并随机选择每个图像的空间激活。然后,对于每个激活向量,它们计算属性向量,这导致更准确的结果。