吾看书

一文看懂光模块：从“数据快递员”到ai时代的“基建核心”（第4页）

2. AI推理：需要光模块“不卡顿”

AI训练完后，要用来“干活”，比如你用AI写文案、生成图片、做语音翻译，这个过程叫“推理”。推理虽然不需要像训练那样多的GPU，但需要“实时响应”——你发出一个请求，希望几秒钟内就能收到AI的回复，这就需要光模块“快速传数据”。

比如你用AI生成一张“未来城市”的图片：你在手机上点击“生成”，请求会先传到AI数据中心的服务器，服务器里的GPU算出图片后，再通过光模块把图片数据传回到你的手机。如果光模块速度慢，比如用100G光模块，这个过程可能要5秒；用800G光模块，1秒内就能完成，你感觉不到任何延迟。

而且现在AI推理的“并发量”越来越大——比如某AI绘画工具，同时有10万人在用，每秒要处理几十万次请求，这就需要光模块能“同时传很多数据”，不能堵车。中际旭创的800G光模块支持“8通道并行传输”，就像一条8车道的高速路，能同时走8路数据，不会因为并发量高而卡顿。

3. AI集群：需要光模块“连得密”

本小章还未完，请点击下一页继续阅读后面精彩内容！

AI数据中心里的GPU不是零散分布的，而是组成“集群”——比如一个集群有1024台GPU，这些GPU要通过光模块连接成一个“网络”，才能协同工作。这个网络的“密度”（每台GPU连接的光模块数量）直接影响AI的算力。

以前的GPU集群，每台GPU可能只连1个光模块，能和几十台其他GPU通信；现在的AI集群，每台GPU要连4个甚至8个光模块，能和几千台其他GPU通信，这样才能处理更复杂的模型。比如英伟达的DGX H100集群，每台服务器装8块GPU，每块GPU连2个800G光模块，整个集群能支持几千台GPU协同工作，这背后就是光模块的“高密度连接”在支撑。

中际旭创为AI集群设计的“光模块阵列”，能把多个800G光模块集成到一个“盒子”里，每台GPU只需要插一个“盒子”，就能实现和几千台GPU的连接，大大简化了集群的布线，还提高了连接的稳定性。

五、光模块的“技术升级”：从传统到CPO，未来还能怎么进化？

光模块不是一成不变的，为了跟上数据量和AI算力的增长，它的技术也在不断升级。从早期的“可插拔光模块”到现在热门的“CPO技术”，每一次升级都在解决“速度更快、成本更低、功耗更小”的问题。

1. 传统可插拔光模块：灵活但有瓶颈

我们之前讲的100G、400G、800G光模块，大多是“可插拔式”的——就像U盘一样，能插进服务器或交换机的接口，坏了可以直接拔下来换，灵活性很高。

这种模块的优点很明显：安装方便、维护简单，比如数据中心里某个光模块坏了，工程师不用拆服务器，直接换个新的就行，不影响其他设备工作。但随着速度提升到800G、1.6T，它的瓶颈也越来越明显：

- 功耗高：可插拔模块需要独立的电源和信号接口，速度越快，功耗越高。比如800G可插拔模块的功耗约12-15瓦，1.6T可能达到20瓦以上，成千上万的模块一起工作，总功耗会非常惊人。

- 延迟略高：信号要从服务器芯片传到可插拔模块的接口，再转换成光信号，这个过程会有微小的延迟。对普通数据传输来说没问题，但AI训练需要“零延迟”，这点延迟就可能影响效率。

- 成本高：高速可插拔模块的芯片和光学组件成本高，比如1.6T可插拔模块的价格目前还是800G的2倍多，对中小企业来说负担较重。

2. CPO技术：把光模块“焊”在芯片上，突破瓶颈