为什么神经网络难以明白生命游戏？

导语生命游戏是一种简朴的符号表现模型，却可以发生庞大的效果。我们可以发现对生命游戏显然有效的，几组神经网络的初始参数解；但随机输入初始参数和选择样本的神经网络，却极难明白生命游戏，乐成收敛到最优解需要一定“运气”。我们也可以选择，提高神经网络的庞大性，获得较优解，但这使资金和能耗水涨船高，不行连续。

这种现状要求我们探索新的学习算法。原文题目： Why neural networks struggle with the Game of Life 原文地址： https://bdtechtalks.com/2020/09/16/deep-learning-game-of-life/本文属于我们的《AI研究综述》（reviews of AI research papers）——一系列追踪、探讨人工智能领域最新发现的报道。生命游戏，是一种在科学、盘算和人工智能领域广泛应用的网格自念头，这个模型所发生的行为体现出，简朴的规则可以发生庞大的效果。只管生命游戏设定简朴，但对于人工神经网络仍是一个挑战，来自斯沃斯莫尔学院和洛斯阿拉莫斯国家实验室的AI研究人员在他们最近的一篇论文中指出了这一点。

以It's Hard for Neural Networks To Learn the Game of Life为题，他们研究了神经网络学习生命游戏的历程，以及神经网络经常错过正确解的原因。原文题目： It's Hard for Neural Networks To Learn the Game of Life 原文地址： https://arxiv.org/abs/2009.01398他们的研究效果强调了深度学习模型的一些关键问题，并对AI研究的下一步偏向，提供了一些有趣的线索。生命游戏是什么？英国数学家John Conway于1970年发现了生命游戏。

一般来说，生命游戏通过一个随时间演化的元胞网格出现，每个元胞都具有两种状态：“存活”或“死亡”。在每一个时刻，整个元胞网格，都市遵循一组简朴规则举行演化——通过确定哪些元胞下一时刻转向“存活”或保持“存活”，以及哪些元胞下一时刻转向“死亡”或保持“死亡”，即以下四条规则：1、如果一个“存活”元胞的“存活”元胞邻人少于两个，则因为种群密渡过低，该元胞转为“死亡”元胞；2、如果一个“存活”元胞的“存活”元胞邻人多于三个，则因为种群密渡过高，该元胞仍转为“死亡”元胞；3、如果一个“存活”元胞的“存活”元胞邻人恰好有两个或三个，该元胞仍保持“存活”；4、如果一个“死亡”元胞的“死亡”元胞邻人恰好有三个，该元胞转为“存活”元胞；基于这一组规则，我们可以通过设定元胞网格的初始状态，生成种种稳定的、振荡的和移动的斑图。例如，下面就是被称为“滑翔机枪”的斑图，“滑翔机枪”可以不停地发生“滑翔机”斑图，“滑翔机”斑图是一种典型的移动斑图（经由一个牢固的时间步周期，斑图变回原来的形状，且位置脱离原处），“滑翔机枪”自己则是一种振荡斑图（周期变化的斑图）。滑翔机枪我们可以用生命游戏生成很是庞大的斑图，例如下面这个：有趣的是，岂论一个元胞网格有多庞大，我们都可以用同一组规则预测，下一个时间步上每个元胞的状态。

鉴于神经网络是一种强大的预测模型，研究人员想探究深度学习模型能否学会生命游戏的内在规则。人工神经网络 vs 生命游戏生命游戏之所以被选为神经网络的实验工具，原因众多。

斯沃斯莫尔学院的盘算机科学学员，也是这篇论文的配合作者 Jacob Springer 对 TechTalk 的采访人员说：“我们已经得出了一些结论。”“我们可以人工编写一个能实现生命游戏的神经网络模型，然后再和通过训练生成生命游戏的神经网络模型举行对比。这不是问题所在。”在生命游戏中，通过控制是时间步数就可以灵活的修改深度学习模型要预测的目的斑图。

神经网络处置惩罚生命游戏的方式，与在盘算机视觉或自然语言处置惩罚这些领域的体现并纷歧样。因为，如果神经网络学会了生命游戏的规则，就可以到达百分之百的预测精度。Springer谈到：“这种预测不会有任何模糊，换句话说，神经网络的预测只要错了一次，就意味着，它没有正确地学会生命游戏的规则。

”在他们的事情中，研究人员首先生成了一个小型卷积神经网络，通过手动调参校准使神经网络可以准确预测，生命游戏元胞网格的演化。他们证明晰，存在一个最小化的神经网络能表现出生命游戏的规则。

接下来，研究人员实验，通过数据剪接的手段，能否使同一个神经网络收敛到最优解？他们随机输入初始化参数值，并使用由生命游戏随机生成的一百万个样本作为训练集。研究人员推测，神经网络唯一能到达百分之分预测精度的模型，就是收敛到先前凭借手动调参获得的参数解。

这意味着AI模型可以设法乐成使得，对生命游戏内部的演化规则，举行参数化表现。可是在绝大多数训练历程中，神经网络并未找到最优解，而且神经网络的体现随着训练步数的推进，不仅没有进步甚至还泛起了退化。

而且神经网络训练的效果，很大水平上受到了选定的训练样本集、初始参数值的影响。不幸的是，我们并不清楚，神经网络的初始权重参数应该选为什么值。绝大多数训练接纳的，是从正态漫衍中选取随机值的方法。因此选取到正确的初始权重参数，也要靠运气。

另外，对于训练数据集，在许多的一些训练情境中，我们并不清楚哪些样本是合适的，而在另外一些情境中，我们却又没得选。Springer认为，对许多问题，在数据集中我们没有几多选择余地。

“你拿着你能搜集获得的数据举行。

本文来源：welcome欢迎光临威尼斯-www.esktzc.com