手机浏览器扫描二维码访问
2. AI推理:需要光模块“不卡顿”
AI训练完后,要用来“干活”,比如你用AI写文案、生成图片、做语音翻译,这个过程叫“推理”。推理虽然不需要像训练那样多的GPU,但需要“实时响应”——你发出一个请求,希望几秒钟内就能收到AI的回复,这就需要光模块“快速传数据”。
比如你用AI生成一张“未来城市”的图片:你在手机上点击“生成”,请求会先传到AI数据中心的服务器,服务器里的GPU算出图片后,再通过光模块把图片数据传回到你的手机。如果光模块速度慢,比如用100G光模块,这个过程可能要5秒;用800G光模块,1秒内就能完成,你感觉不到任何延迟。
而且现在AI推理的“并发量”越来越大——比如某AI绘画工具,同时有10万人在用,每秒要处理几十万次请求,这就需要光模块能“同时传很多数据”,不能堵车。中际旭创的800G光模块支持“8通道并行传输”,就像一条8车道的高速路,能同时走8路数据,不会因为并发量高而卡顿。
3. AI集群:需要光模块“连得密”
本小章还未完,请点击下一页继续阅读后面精彩内容!
AI数据中心里的GPU不是零散分布的,而是组成“集群”——比如一个集群有1024台GPU,这些GPU要通过光模块连接成一个“网络”,才能协同工作。这个网络的“密度”(每台GPU连接的光模块数量)直接影响AI的算力。
以前的GPU集群,每台GPU可能只连1个光模块,能和几十台其他GPU通信;现在的AI集群,每台GPU要连4个甚至8个光模块,能和几千台其他GPU通信,这样才能处理更复杂的模型。比如英伟达的DGX H100集群,每台服务器装8块GPU,每块GPU连2个800G光模块,整个集群能支持几千台GPU协同工作,这背后就是光模块的“高密度连接”在支撑。
中际旭创为AI集群设计的“光模块阵列”,能把多个800G光模块集成到一个“盒子”里,每台GPU只需要插一个“盒子”,就能实现和几千台GPU的连接,大大简化了集群的布线,还提高了连接的稳定性。
五、光模块的“技术升级”:从传统到CPO,未来还能怎么进化?
光模块不是一成不变的,为了跟上数据量和AI算力的增长,它的技术也在不断升级。从早期的“可插拔光模块”到现在热门的“CPO技术”,每一次升级都在解决“速度更快、成本更低、功耗更小”的问题。
1. 传统可插拔光模块:灵活但有瓶颈
我们之前讲的100G、400G、800G光模块,大多是“可插拔式”的——就像U盘一样,能插进服务器或交换机的接口,坏了可以直接拔下来换,灵活性很高。
这种模块的优点很明显:安装方便、维护简单,比如数据中心里某个光模块坏了,工程师不用拆服务器,直接换个新的就行,不影响其他设备工作。但随着速度提升到800G、1.6T,它的瓶颈也越来越明显:
- 功耗高:可插拔模块需要独立的电源和信号接口,速度越快,功耗越高。比如800G可插拔模块的功耗约12-15瓦,1.6T可能达到20瓦以上,成千上万的模块一起工作,总功耗会非常惊人。
- 延迟略高:信号要从服务器芯片传到可插拔模块的接口,再转换成光信号,这个过程会有微小的延迟。对普通数据传输来说没问题,但AI训练需要“零延迟”,这点延迟就可能影响效率。
- 成本高:高速可插拔模块的芯片和光学组件成本高,比如1.6T可插拔模块的价格目前还是800G的2倍多,对中小企业来说负担较重。
2. CPO技术:把光模块“焊”在芯片上,突破瓶颈
为了解决传统可插拔模块的瓶颈,行业里出现了“CPO技术”(共封装光学,Co-packaged Optics),简单说就是“把光模块和服务器/交换机的芯片直接封装在一起”,不用再做可插拔的接口。
旋即有八个女人从人群中走了出来,踏上了厚厚的地毯,跟着她们拉开了身上的斗篷,随着那些厚重的玩意儿落到地上,之前遮遮掩掩的娇美胴体彻底暴露了出来,只剩面具、丝袜和高跟鞋。坚挺的乳房,纤细的腰肢,浑圆的臀儿,修长的双腿,尽管尺寸不一,但是整理比例非常完美,即使女人看了也忍不住心动。她们围着四个姑娘站好,接着跪了下来,笔直的跪着。“请主人降下伟大的恩赐!”当红春晚主持举起金杖感情饱满的高喊道。接下来惊人的事情发生了,就在她的旁边,一个直径半米,深度半米的,宛如放大的高脚杯,凭空从地毯上长了出来,晶莹剔透,宛如水晶制造的一般。...
末日来临,危机再现。是仓皇逃生,还是奋起抗争?贺一鸣仅有一字回应:“战!”...
闯荡江湖、闯荡江湖,闯到头儿了,也没能看清楚这江湖是个啥样……...
一 从老家度假回来的高晏,发现行李箱多出一具扔不掉的八手木制邪观音。 刚从庙里还愿出来就掉进观落阴现场,耳边听到提示音:欢迎来到神明的游戏~ ——请一定,要听从神明的话。 二 最新热帖置顶飘红——【惊!全球唯一通过主神级难度的褚神下落不明,据知情人爆料褚神追媳妇去了。对,你们没看错,那个老狗逼褚神有媳妇儿!】 三 从不干人事的高晏,碰到热衷破坏规则的褚碎璧—— 高晏:我是好人。 褚碎璧:我也是。 神明:CNM! 排雷:1、恐怖无限流。 2、规则bug攻,不干人事受。 3、文名取自于日剧《诚如神之所说(要听神明的话)》。...
闻颜作为投资人,跟着录制综艺的节目组去了一个小山村。 天气太热,山路蜿蜒,闻颜又犯了胃病,好容易到了借住的房子,他忍着疼坐在树荫下,看节目录制。 闻颜就是这样第一次见到江昊。 他的皮肤是被太阳晒出来的小麦色,很瘦,头发也剪得很短,穿一件干净普通的黑色T恤,脚上一双洗过很多次,有些褪色的帆布鞋。 有天闻颜问他:“你以后想做什么?” “不知道,”江昊说,“可能帮妈妈养养梨树。” 眼睛却好像告诉闻颜:我不能飞。 - 很多年之后,闻颜作为娱乐公司的总裁,去看他们公司一位歌手的演唱会,坐在后排的vip包厢里。 大屏幕上的少年穿着领口开了两三粒扣子的绸质衬衣,晶莹的汗水挂在脸侧、脖颈和锁骨,单耳一颗黑色耳钉,鸭舌帽也盖不住英俊眉眼。 那个说自己以后要种梨树的男生,转眼成为最红的歌手,无数闪亮灯光今夜只为他而来。 他握着麦克风,隔了人山人海望着闻颜的方向,在一首歌的高潮停顿两秒,无声地念他的名字。 下一句歌词,他唱—— 人海里如此微小几率/ 没有你我此刻又在哪里/ -年下 -外表酷酷但内心脆弱敏感的攻x内核强大成熟温柔受...
崇关险峻隔断南北,萧然离了凌睿之后,除战事之外,纵使山塌关毁,数年光阴中,再未踏过关隘一步。 北国异族攻南朝影卫受,开篇换攻,又名草原狼王的代嫁小娇妻xxx 温情宠妻,先谈恋爱后虐前任渣攻。...