第116章_协同之道
  有了超参数自动优化能力,左城开始了秘密的“算法推演“。
  说是推演,实际上是在系统能力的辅助下,快速验证各种压缩策略。
  他用系统能力模擬不同的参数配置,测试对模型准確率的影响。
  这个过程別人做需要几个月,但他只需要几天。
  因为系统可以同时运行无数个模擬,每个模擬都在毫秒级完成。
  两天后,夜以继日的推演终於有了结果。左城找到了突破口。
  动態精度量化。
  简单说,就是让模型在推理时动態调整计算精度。简单任务用低精度,复杂任务用高精度。
  这样既保证了准確率,又把功耗控制在了可接受范围內。
  他把这个技术思路整理成文档,发送给沈一鸣和方泽审核。
  “一鸣,你看看这个方向可行吗?“
  沈一鸣看了半小时后,回了电话。
  “城哥,这个方向是对的。“他的声音带著兴奋,“我测试了一下,动態精度量化確实能提升准確率。“
  “能到多少?“
  “89%。“沈一鸣说,“比之前提升了將近21个百分点。“
  89%。
  距离95%的目標更近了一步。
  “功耗呢?“左城问。
  “如果用动態精度模式,mlu270的功耗可以压到4.8瓦。“方泽接过电话,“刚好达標。“
  4.8瓦。
  比目標低了0.2瓦。
  这0.2瓦的余量,让方案有了更多安全保障。
  “太好了。“左城鬆了口气,悬著的心终於放了下来。
  但他很快又提起了精神。
  89%还不够。
  评审会上,林建华那帮人不会给他们任何容错空间。
  “必须做到95%以上。“他说。
  电话那头沉默了几秒。
  沈一鸣开口:“城哥,89%到95%,差距是6个百分点。这个提升……不容易。“
  “我知道。“左城说,“但这是必须的。“
  “你有没有什么想法?“
  左城没有直接回答。
  他掛掉电话,打开系统面板。
  267分。
  这已经足够再做一次科技融合。
  如果把超参数自动优化和模型压缩优化的能力融合……
  也许能產生一个更强的新能力。
  【科技融合】
  【消耗:5积分】
  【请选择至少两枚叶片进行融合】
  左城看著面板上的叶片列表。
  超参数自动优化、模型压缩优化、边缘ai推理。
  如果把这三枚叶片融合……
  三秒后,融合完成。
  【融合成功】
  【获得新叶片:自適应神经网络编译器】
  效果:在边缘设备上自动编译和优化神经网络模型,效率提升1.5倍,准確率额外+8%。
  左城看著新叶片,心跳加速。
  89%加上8%,就是97%。
  远超95%的目標。
  但他不能直接告诉沈一鸣。
  融合是系统的能力,他没办法解释来源。
  “一鸣。“左城拨通电话,“我有一个新的优化思路,你再试试。“
  “什么思路?“
  “我把它叫做自適应编译。“左城说,“简单说,就是让编译器根据任务类型自动调整模型结构。“
  “自適应编译?“沈一鸣有些困惑,“这听起来像是编译器优化……“
  “对,就是编译器优化。“左城打断他,“但这次优化是针对ai模型的,不是通用程序。“
  沈一鸣沉默了几秒。他知道左城不会无的放矢。
  “好吧,我试试。“
  ---
  第二天早上,沈一鸣发来消息。
  “城哥,你在哪里?“
  “在公司。“左城回復。
  “来实验室。“
  左城推开门,看到沈一鸣和方泽都站在电脑前。
  他们的表情很奇怪。
  不是沮丧,也不是兴奋,而是一种难以置信。仿佛看到了不可能发生的事情。
  “怎么了?“左城问。
  沈一鸣转过头,看著他。
  “城哥。“他的声音有些发抖,“你到底是怎么做到的?“
  “做到什么?“
  “准確率。“沈一鸣指著屏幕,“97.1%。“
  左城看了一眼屏幕。
  97.1%。
  比他预期的还高了0.1个百分点。
  “不只是准確率。“方泽开口,“功耗也降了。“
  “多少?“
  “4.2瓦。“方泽说,“比目標低了0.8瓦。“
  4.2瓦。
  97.1%准確率。
  两个指標都大幅超过了目標。
  左城没有说话。
  他走到窗边,看著外面的阳光。
  成功了。
  准確率从68%提升到97.1%,功耗从30瓦降到4.2瓦。
  这个结果,足以让任何质疑他们的人闭嘴。林建华也不例外。
  “城哥。“沈一鸣走到他身边,“你是怎么做到的?“
  左城转过头,看著沈一鸣的眼睛。
  那双眼睛里满是困惑和敬佩。
  他不能告诉沈一鸣真相。
  但他可以给一个合理的解释。
  “我用的是一种新的编译器优化技术。“左城说,“叫自適应神经网络编译器。“
  “自適应神经网络编译器?“沈一鸣皱眉,“我没听说过这个技术。“
  “你当然没听说过。“左城笑了笑,“这是我根据一些前沿论文,加上自己的理解设计的。“
  “你自己的设计?“
  “对。“左城点头,“准確率97.1%,功耗4.2瓦。这两个指標足够了吗?“
  沈一鸣愣了一下,然后露出笑容。
  “足够了。“他说,“绰绰有余。“
  方泽也走过来:“城哥,这个编译器是怎么设计的?我想学习一下。“
  左城想了想。
  他可以给方泽一些表面的解释,但核心的东西没办法分享。
  “编译器的事回头再说。“他岔开话题,“现在最重要的是把方案整理出来。“
  “对。“沈一鸣点头,“后天就是评审会了。“
  后天。
  距离评审会只剩两天。
  “方案我来整理。“左城说,“你们继续完善测试数据。“
  “好。“
  沈一鸣和方泽转身回到电脑前,开始工作。
  左城站在窗边,看著两人的背影。
  97.1%的准確率,4.2瓦的功耗。
  这个结果,足以让林建华无话可说。
  但他知道,这只是开始。
  天穹四期只是第一步。
  未来还有更广阔的舞台在等著他们。
  而他,会一步一步走下去。坚定而从容。
  直到站在那个舞台的中央。