虽然他拥有来自 2035 年的跨时代技术视野，但在真正的奠基人面前，他依然保持着敬畏。

        林渊迅速调整了一下情绪，坦诚地说：“吴教授，我对这方面确实有一些自己的心得，但我的基础理论可能并不扎实，说出来怕达不到您心中的预期。”

        吴恩达听完笑了一下，摆了摆手：“你们华国人啊，什么都好，就是有时候太谦虚了。在硅谷，如果你真的有这方面的能力，就应该大胆地去展示。这样吧，我的实验室最近刚好在做一个关于机器集群分布式的课题，遇到了一个很难解决的高并发瓶颈。你过来，我们一起看一看，探讨一下。”

        林渊有些发懵，没想到这位大佬这么直接，连客套都省了，直接上黑板做题。

        他转过头，看了一眼旁边正无所事事的庾明轩，说道：“庾总，接下来的学术探讨估计要很久，你先回酒店休息吧，晚点我忙完了打你电话。”

        林渊这是在照顾庾明轩的感受。像他这种习惯了风月场所和商业谈判的花花公子，让他在实验室里干坐几个小时听代码架构，估计能把他憋死，到时候走又不好意思走，还不如提前把他支开。

        庾明轩一听笑着说：“行，那你们聊，林总我先撤了，车子我给你留在这。”

        等庾明轩离开后，吴恩达笑着带林渊穿过走廊，来到了他的课题组机房。

        机房的白板上画满了复杂的网络拓扑图。吴恩达指着白板，开始阐述问题：“林渊，你看。我们目前在尝试用多台机器并行处理庞大的神经网络参数。但在高并发状态下，所有的节点（WOrker）都要频繁地跟中央参数服务器（Parameter Server）进行数据同步。节点一多，网络带宽瞬间就被挤爆了，中央服务器成了绝对的瓶颈。这个问题，你怎么看？”

        林渊盯着白板，脑海里迅速翻阅起他从 2035 年带回来的记忆。在那个年代，这种早期的分布式训练瓶颈早就被一种叫做“环形同步”（Ring All-RedUCe）的底层算法彻底解决了。

        林渊拿起马克笔，在白板上画了一个圆圈，开口道：“吴教授，为什么一定要有一个中央服务器？如果把所有节点连成一个逻辑上的环形网络呢？”

  The content is not finished, continue reading on the next page