深度学习和量子化学是两个看似关联很小的领域，但研究者还是找到了它们之间的共同之处。日前，耶路撒冷希伯来学院的几位研究者的一篇论文《Deepand:A》介绍了她们的发觉：深度前馈算术电路（）所实现的函数和量子多体波函数之间存在某种等价性。机器之心在本文中简略地编译介绍了这项研究。
深度前馈网路早已在许多不同的机器学习应用中取得了前所未有的成功。是哪些让这种网路这么成功？研究正在逐步揭露其中的秘密，但其中大部份依然还是有待解密的重要奥秘。归纳偏置（bias）就是其中之一，其反映了嵌入在网路构架中的先验知识（prior）。
在这项研究成果中，我们构建了量子化学学领域和深度学习领域的一种基本（）联系。我们使用这些联系断定了全新的理论观察，该观察是关于频域网路每一层的通道（）的数目在整体的归纳偏置中的作用。具体来说，我们给出了深度前馈算术电路（：）所实现的函数和量子多体波函数（many-bodywave）之间的等价性，这取决于它们共同的基础张量结构。这有助于将量子纠缠测度（）用作深度网路抒发能力（以建模其输入的复杂相关性结构）的定义良好的测度方式。最重要的是，建立张量网路（）方面的深度成为了可能。这些描述让我们可以进行一个频域网路的数论剖析（graph-），通过这些方法我们展示了一种通过深度网路的通道数目直接控制深度网路的归纳偏置的方式，这种通道是其基本图中的相关最小切割（min-cut）。对任何为特定任务设计频域网路的实践者来说，这个结果是有好处的。
我们对进行了理论上的剖析，但是在更常见的频域网路（）（涉及到ReLU激活和最大池化）上通过实验验证了我们的发觉。不仅前面描述的结果，这项工作也提出了两个跨学科的桥梁：用良好定义的数论工具对深度前馈网路的描述和与量子纠缠的方式联接。
图1：Cohenetal.(2016b)提出了先前的频域算术电路网路（）
3.量子波函数与频域网路
当描述一个由多个互相作用的粒子所构成的系统（被称为多体量子系统（many-body））的量子热学性质时，化学学家须要使用才能表示许多输入和一个输出之间的复杂关系的函数。类似地，监督学习或无监督学习等机器学习任务也须要使用才能表示许多输入（如图像的许多象素）和一个输出之间的复杂关系的函数。这一章我们将对这种类比进行公式化。在简单介绍了物理学家拿来描述多体系统的量子热学性质的符号以后，我们说明了怎样将所实现的函数（式2和式3）与N个粒子的量子波函数在物理上等价上去。通过由所带来的对深度前馈网路的张量描述，这在机器学习和量子化学这两个看似无关的领域之间建立了一种可靠的结构联系。我们遵守了(1998)中的相关推论，感兴趣的读者可参阅Hall(2013)获取对量子热学的全面物理介绍。
4.纠缠和相关性的检测
多体波函数和所实现的函数之间的方式联系（如式8所示）让我们有机会使用已有的数学看法和工具来剖析频域网路。对于表征多体波函数的粒子间的相关性结构，化学学家给与了非常的关注，由于其对被观测系统的化学性质有广泛的影响。虽然机器学习领域对这个问题的关注较少，但我们可以直观地理解：在解决一个机器学习问题时，应该考虑表征该问题的相关性，例如数据集中典型图象的象素之间的相关性。我们应当看见，对于函数的「表达力（）」的需求实际上是对该函数建模相关复杂相关性结构的需求量子物理学家丁飞，不管这个函数是频域网路实现的，还是等价的多体波函数。在这一节，我们首先介绍了化学学家量化相关性的方法，之后讨论了可以怎样将这种方式用于机器学习领域的剖析。
图2：图片为8×8大小。a)交错分区的图示，b)左右分区的图示。假如你希望建模图象（例如脚部图象）的两侧之间的复杂相关性结构，这么该网路应当支持左右分区的高纠缠检测（high）；假如你希望对毗邻象素这样做（如自然图象），这么应当选择交错分区。在第7节，我们说明了这些对频域网路的归纳偏置的控制可以怎样通过适当调整每一层的通道数目来实现。
5.张量网路和张量分解
图3：张量网路（TN/）的简单介绍。a)该张量网路中的张量用节点表示，节点的度（）对应于由其所表示的张量的阶数。b)用TN符号表示的一个矩阵乘一个张量。收缩（）指数用k表示而且相乘。开放（open）指数用d表示，它们的大小等于由整个网路所表示的张量的阶数。所有那些指数的值都在1到它们的联接维度（bond）之间。收缩（）用实线标识。c)一个愈加复杂的事例——一个网路使用在稀疏互连的低阶张量上的收缩表示一个更高阶的张量。该网路是一种分解（）的简单案例，其在张量剖析社区被称为张量训练（train，(2011)），而在汇聚态化学学界则被称为矩阵积态（state，参见Orús(2014)）。
6.一个用作张量网路的频域网路
图4：a)张量网路（TN）方式的奇特值分解。Λ节点表示一个对角矩阵、U和V节点表示正交矩阵。b)相当于CP分解的TN。
图5：相当于HT分解的TN量子物理学家丁飞，其带有对应于图1的（N=8）的估算的相同通道池化方案，详见6.2节
原文链接：