不是回头看别人，是自己看自己。

        “你们在做……序列内部的自相关计算？”

        林之远的声音不自觉地提高了。

        任少卿和楼天城对视了一眼。

        “差不多。”任少卿说。

        “我们在探索一种全新的方式来让AI理解语言。不依赖传统的循环结构。就是那种必须一个词一个词按顺序处理的老方法，而是完全用注意力机制，让所有词同时互相‘看见’彼此。”

        林之远的脑子嗡了一下。

        不依赖循环结构？纯注意力？

        这个想法太疯狂了。当前全世界做语言AI的人，没有一个敢把循环网络完全扔掉。注意力机制在所有已发表的论文里，都只是辅助模块，从来不是主角。

        “你们怎么敢往这个方向想？”

  The content is not finished, continue reading on the next page