来历:金十数据
二十五年前,英特尔(INTC.O)发明了前史,成为第一批归入道琼斯工业均匀指数的两家科技公司之一。现在,芯片公司英伟达(NVDA.O)在曩昔两年中股价上涨七倍,已替代英特尔成为这一蓝筹指数的新成员。这只是芯片职业革新的开端。
因为推进生成式AI技能的芯片需求依然微弱,高端AI芯片依然求过于供。这一赢利丰盛的商场中只要少量几家芯片制作商的参加,这好像确保了该职业的盈余增加和股价上升。
但是,出资芯片股票在本年却是一种危险极高的投注。英特尔的股票跌落近50%,而英伟达则上涨三倍,成为道指成分股中体现最佳的公司。
这一极点的股价差异背面是什么原因?这跟该职业面对的三个严重应战相关。
首要,大多数芯片制作商在规划和制作高性能AI芯片方面现在落后。英伟达的先进规划意味着,芯片制作商面对更高的职业标准,现在现已不是那个以智能手机和轿车制作商需求为主的芯片年代了。质量标准日益严厉,即使是这几个具有技能和资金的芯片制作商,也需求绵长的交货时刻。
其次,全球最大的两家可以制作高端AI芯片的公司现在正尽力从之前的失误中恢复过来。关于英特尔而言,2015年在工厂改造方面只是一次推迟,就导致其芯片提速的进程遭受阻止,然后使其在全球芯片制作范畴的领先地位开端不坚定。
这次推迟,加上出资缺乏,使得台积电在2017年开端出产10纳米芯片时,仅用两年就缩小了与英特尔的技能距离。尔后,这一距离进一步扩展,英特尔将其制作优势拱手让给了台积电。
英伟达将其物理芯片的制作外包,这一范畴特别有利可图。但英特尔的商场份额微缺乏道,相比之下,台积电的商场份额达62%。三星的状况也是如此。高带宽内存芯片是一切英伟达AI芯片的重要组成部分,而三星在这个范畴落后于SK海力士。依据TrendForce的数据,SK海力士估计本年将占有超越52%的商场份额,超越三星。
第三,与房地产和轿车商场相同,芯片的高端商场体现明显好于其他更低端的商场。近年来,高端芯片与通用内存芯片或用于传统电子产品的老式芯片之间的赢利距离不断扩展。
这在必定程度上是因为智能手机和个人电脑等设备需求的放缓。但最大的要素是,高性能AI芯片的均匀出售价格约为传统内存芯片的五倍。
这加重了芯片职业赢家通吃的趋势。本年全球体现最好的两家芯片制作商恰好是英伟达的两大首要供货商:台积电在最新财报中创下了净赢利记载,并上调了全年收入预期,而SK海力士则报告了最新季度创纪录的经营赢利。两家公司在第三季度的经营赢利率均超越40%,是同行的两倍多。台积电的股价本年上涨了80%,而SK海力士也上涨了三分之一。
这意味着落后的危险比以往任何时候都要高。三星在最新季度的芯片事务赢利未达预期,而英特尔为了与英伟达抗衡,也推出了自己的AI芯片,却依然创下了达166亿美元的前史最大季度亏本。英特尔还取消了其2024年Gaudi AI芯片出售5亿美元的预期。比照而言,英伟达的数据中心事务,也便是制作AI芯片的部分,在到七月的季度内,出售额到达263亿美元。
传统内存芯片日益过剩,估计将在未来几个季度进一步揉捏其价格和赢利率。高赢利的AI芯片正日益成为抵消这种疲软的仅有途径。
在一个由英伟达主导的人工智能国际里,对全球芯片制作商的信号适当清晰:假如你无法打败它,那就参加它的供应链。
IT之家 11 月 25 日音讯,音讯源 Moore's Law is Dead 在最新一期视频中,曝料称英伟达将于 2025 年 1 月下旬出售 GeForce RTX 5080 和 RTX 509...
不久前,英伟达联手老对手英特尔,出资了一家草创公司 Ayar Labs。新一轮 1.55 亿美元的融资,也让 Ayar Labs 成为芯片范畴的新一家独角兽公司。
这家公司是什么来头?为什么能让芯片三巨子打破妨碍联合出资?
Ayar Labs 主攻光学互连处理方案,其处理方案能以 AI 运作的速度移动数据,以满意客户对可扩展、经济高效的 AI 根底设备的火急需求。
对此,Ayar Labs 联合创始人兼 CEO 马克·韦德表明,「抢先的 GPU 供给商 AMD 和英伟达以及半导体代工厂格芯、英特尔代工、台积电,再加上 Advent、Light Street 和咱们其他出资者的支撑,凸显了咱们的光学 I/O 技能从头界说 AI 根底设备未来的潜力。」
「光学 I/O」是什么东西?Ayar Labs 又能处理快速开展的 AI 范畴的什么问题?
01
精英团队
Ayar Labs 在 2015 年树立,总部坐落加州圣何塞。
起先公司由四位 MIT 学生在 2015 年一起创建,其间 Mark Wade、Chen Sun 和 Vladimir Stojanovic,其时别离是 MIT 电子工程专业的博士生和访问学者,现在别离担任公司的 CTO、首席科学家和首席架构师。随后,他们约请了其时正在攻读 MIT MBA 的 Alex Wright Gladstein 参加团队,担任 CEO。
现在,团队由来自英特尔、IBM、美光、Penguin、麻省理工学院、伯克利和斯坦福的许多顶尖技能专家组成。
树立以来,Ayar Labs 一向深耕于光学互联处理方案范畴,商场战略要点是处理光电子范畴的大批量、高质量制作问题。
公司树立次年获得了 2 百万美元的种子轮融资,而最新一轮尖端芯片制作商的出资正是该公司技能走向老练的标志。新的资金将用于扩展芯片出产规划,促进生成式 AI、分化数据中心等的开展。
正如,Ayar Labs 首席执行官兼联合创始人马克·韦德,本年 10 月在采访中表明「客户现已在试用 Ayar Labs 的芯片,在曩昔的 18 个月里,出货超越 15,000 台,这为咱们在 2026 年年中至 2028 年年中的两年要点窗口期完成批量出产奠定了根底。」「咱们估计月产量将到达数十万到数百万个,到 2028 年及今后,年产量有或许超越 1 亿个。」
现在,Ayar Labs 的芯片由 GlobalFoundries(起先为 AMD 公司的制作部分,后来成为独立公司)制作,并且现已与一切一级 CMOS 制作商树立了协作关系,与 GlobalFoundries、Applied Materials、台积电、英特尔和英伟达等首要厂商树立了战略协作关系,将光 I/O 处理方案整合到其制作产品中。
对此,Ayar Labs 曾官方宣告,「咱们正在树立一个强壮的生态体系,其间包含重要的战略技能和供应链协作伙伴。咱们还积极参加多个职业和规范安排的活动,推进光学 I/O 芯片生态体系的开展。」
02
处理 AI 数据瓶颈
跟着生成式 AI 模型的复杂性和规划指数级添加,对大型核算集群的需求日益添加,这些算力设备一般需求衔接数百乃至数万个 GPU 及其他加快器,以供给 AI 所需的内存和核算资源。
但是,AI 根底设备的扩展正面对带宽、推迟和功耗的应战,这些应战首要是由传统依据铜的互连技能形成的瓶颈。在衔接超越 1.5 米间隔和 72 个 GPU 的机架时,传统电互连技能尤其会遇到功能瓶颈和约束。
数据传输瓶颈约束了 GPU 的效能,导致出资收益递减。具体来说,单个 GPU 的运转功率可达 80%,但扩展至 64 个 GPU 时或许降至 50%,进一步扩展至 256 个 GPU 时或许只要 30%。
这不只下降了全体体系功率,并且严峻阻止了数据中心功能的全面进步,约束了 AI 技能的前进。
依据高盛最近发布的陈述猜测,未来十年,AI 根底设备开销估计将超越 1 万亿美元。这凸显了对消除传统互联形成瓶颈的处理方案的火急需求。
为了应对这一应战,Ayar Labs 推出了业界首个封装内光 I/O 处理方案。
Ayar Labs 光 I/O 处理方案的立异之处在于其全体封装规划。该规划答应光学模块直接与芯片集成,完成节点的大规划直连,有用克服了 I/O 密度、数据速率扩展和互联功率功率的约束。
与传统的可插拔光学器材和电气 SerDes 互连方法比较,Ayar Labs 的光 I/O 处理方案可完成 5~10 倍的更高带宽、4~8 倍的能效,并将推迟下降至 1/10,最大极限地进步 AI 根底设备的核算功率和功能,一起下降本钱、推迟和功耗,明显进步 AI 使用的盈余目标。
不只如此,光 I/O 处理方案遵从 UCIe、CXL、CW-WDM MSA 等敞开规范,并针对 AI 练习和推理进行了优化,其强壮的生态体系使其可以顺畅地大规划集成到 AI 体系中,从而进步生成式 AI 使用的功能和功率。
Ayar Labs 的光 I/O 处理方案特别适用于下一代 AI 扩展架构,这种架构需求超高的带宽和跨数百乃至数万个 GPU 的衔接 | 图片来历:Ayar Labs 官网
03
「光 I/O」初探
Ayar Labs 的光 I/O 处理方案结合了两项职业创始技能——TeraPHY 光学 I/O Chiplet 和 SuperNova 多波长光源。
TeraPHY 光学 I/O Chiple 是业界首款封装内单片式光学 I/O 芯片。
它首要担任光电信号之间的转化和收发,是一种用于代替传统的铜背板和可插拔光学通讯的小型化、低功耗、高吞吐量的处理方案。
它初次将硅光子技能与规范的 CMOS 制作工艺结合起来,将光学互联与与电子 GPU 或 CPU 集成在同一封装内,可以无缝集成到客户的体系级封装 (SiP) 架构中,使专用集成电路(ASICs)能跨过从毫米到千米的间隔进行无缝通讯,最大极限地削减信号损失和推迟,这关于分布式 AI 体系和云核算环境分外有用。
这一立异组件包含了约 7000 万个晶体管和 10,000 多个光学器材,首要包含了以下几个模块:
Grating Coupler Fiber Coupling Array:担任光信号的输入输出。
Optical Transceiver:首要担任进行光电信号的调制转化,首要由微环调制器(Micro-ring Modulators)和微环滤波器(Micro-ring Filter)组成,前者担任调制出所需的光信号,后者担任处理承受的光信号。值得一提的是,微环调制器正是 TeraPHY 的中心优势,鉴于它成功处理了成功处理了温度敏感性和信号安稳性问题,完成了在 15-100°C 温度规模内精确输出特定波长的光信号;
AIB:担任和芯片之间的电信号互联;
Glue/Crossbar:是 Optical Transceiver 和 AIB 之间的衔接桥梁。
TeraPHY 光学 I/O Chiplet 凭仗其模块化多端口规划,可以支撑 8 个光通道,等同于一个 x8 PCIe Gen5 链路,满意生成式 AI 模型对大规划并行处理的需求。
其 4Tbps 的总双向带宽和每个端口 256Gbps 的高速传输才能,可以敏捷移动数据,加快 AI 模型的练习和推理进程。并且,每隔几年这一芯片带宽或将翻倍。
5ns 的低推迟功能有助于进步数据处理速度,优化 AI 生成式体会。此外,其低功耗特性(每比特不到 5pJ/b)有助于下降动力消耗,削减 AI 运营本钱,一起减轻对环境的影响。
Ayar Labs 致力于经过技能立异,协助客户应对未来的应战。
举例来说,为了应对移动网络边际的快速转型需求,以及 AI 驱动服务的指数级添加,Ayar Labs 将 TeraPHY 光学 I/O 芯片和康宁一起的内置光衔接的玻璃波导模块结合在一起,开发了新一代 AI 光学处理方案。爱立信也参加了该协作,以开发其电信未来无线电。
这种全新的集成光学处理方案将为 AI 架构、6G、数据中心和其他核算密集型使用供给高密度、高性价比、低推迟、高能效的衔接。
SuperNova 则是长途光源独立的激光器,担任精确地宣布多个波长的光子。
它可以被视为坐落 ASIC 封装外部某处的光电源,在实践布置中,SuperNova 与 TeraPHY 协同作业,一起发挥作用。
SuperNova 由 Ayar Labs 和 MACOM(DFB 的顶尖规划商之一)联合规划,交由 UK 闻名激光制作商 Sivers Photonics 制作。
它是首款契合 CW-WDM MSA(粗波分复用多源协议)规范的多波长、多端口光源,最多支撑将 16 种波长的光传输至 16 根光纤,完成了光 I/O 技能的又一次严重腾跃。
每根光纤最多可传输 16 个波长,因而可驱动 256 个光载波,供给 16 Tbps 的双向带宽,满意 AI 作业负载所需的带宽水平。
16 波长 SuperNova 光源封装紧凑,作业温度规模广,可为 256 个数据通道供给光源,可以处理 AI 使用大规划添加所需的更高吞吐量,为未来或许的扩展供给了足够的空间。
波长数量是 CWDM4 多波长可插拔光学器材的 64 倍,且多个波长在一个单一的阵列中简化了包装,下降了封装本钱,这关于大规划布置 AI 体系来说是一个重要的优势。
不只如此,SuperNova 契合 CW-WDM MSA 规范,满意 GR-468 关于光电设备和可插拔光学的牢靠性要求,可广泛使用于 AI 架构、高速 I/O、光核算和高密度协同封装光学器材等范畴。
可见,Ayar Labs 的光 I/O 处理方案依据规范、面向未来、可扩展,旨在优化 AI 功能。
跟着 AI 根底设备需求的日益添加,集成光 I/O 已成为进步功率和效益的要害。
芯片职业的领军企业现已聚集于光互连技能,旨在使用其光学特性来打破功能瓶颈,增强 AI 根底设备的功能和核算功率,一起削减本钱和能耗。
英伟达首席科学家兼高档研讨副总裁比尔·达利曾坦言,「光衔接关于扩展加快核算集群以满意 AI 和高功能核算作业负载快速添加的需求非常重要。Ayar Labs 具有一起的光 I/O 技能,可以满意扩展依据硅光子技能的下一代人 AI 架构的需求。」
事实上,Ayar Labs 在光互连范畴还有不少同行。
本年 10 月,瑞士光互连草创公司 Lightmatter 完成了 4 亿美元的 D 轮融资,由新出资者 T. Rowe Price 领投,公司估值到达 44 亿美元,较之前 12 月 GV 领投的 1.55 亿美元融资后的 12 亿美元估值添加了近四倍。
在同一时期,纽约的 Xscape Photonics 也经过光子技能处理了 AI 数据中心在动力、功能和可扩展性方面的应战,并获得了 4400 万美元的 A 轮融资,由 IAG Capital Partners 领投,思科出资公司和英伟达等也参加了出资。
跟着巨子的亲近重视、很多资金继续流入这一职业,光互连技能作为替代「线缆」的下一代衔接技能,成为又一个迎来革新的职业。
本文源自:极客公园
两天前,英伟达创始人黄仁勋在 CES 上发布了公司一系列 AI 新产品和处理方案,为人工智能的算力和使用落地供给更多「弹药」。在抓住出产现有架构的 AI 基建硬件时,这家巨子早现已瞄准了下一代技能。不...
机器之心报导修改:泽南、小舟RTX 50 系列的发布日期或许会在明年头。英伟达的 RTX 50 系列会整出什么新活?跟着芯片发布日期的接近,人们的猜想也越来越密布起来。最近,海外闻名爆料者 Kopit...
美东时刻周三,美股三大指数团体收涨,纳指涨2.17%,创8月16日以来最大单日涨幅;标普500指数涨1.07%,道指涨0.31%。到收盘,英伟达收涨8.15%,创最近六周最大单日涨幅,市值一夜大涨21...
近来,光学互连草创公司Ayar Labs完成了1.55亿美元的D轮融资,估值打破10亿美元。据报道,英伟达、AMD、英特尔等闻名科技公司均参加了这场融资。公司表明,最新融资将用于扩展生产能力并加强客户协作。
跟着人工智能的快速开展,传统铜线互连技能现已难以满意日益杂乱的AI模型对数据传输的需求,专家指出,这一瓶颈严峻约束了AI模型的核算功能、能耗功率和全体可扩展性——寻觅更高效的数据传输解决方案变得尤为火急。
Ayar Labs正专心于此。
成立于2015年的Ayar Labs致力于开发光学互连技能,旨在替代传统的电气I/O,打破铜线和可插拔光学元件的约束。分析师表明,Ayar Labs的光学I/O技能可以进步数据传输速度,消除了传统互连瓶颈,而且,这项技能不只能下降推迟和功耗,还可以优化AI基础设施,进步功率和本钱效益。
无疑,Ayar Labs的这一技能招引了很多职业巨子的重视。公司CEO Mark Wade表明,抢先的GPU提供商AMD、英伟达,以及半导体代工厂GlobalFoundries、英特尔、台积电等的支撑,凸显了其光学I/O技能在未来重塑AI基础设施的潜力。
现在,Ayar Labs已向部分客户交付了约1.5万套TeraPHY光学传输和SuperNova激光源产品。公司估计,到2028年,这一产品的年产量将飙升至1亿多套。
不过,也有分析师正告称,尽管Ayar Labs的开展前景尽管看起来很光亮,但不该过早下结论。TheNextPlatform指出,英伟达、AMD、英特尔的出资或许意味着这些公司有意在其核算引擎中布置Ayar Labs的技能,但也或许只是是为了获取内部信息并在未来布置时占有先机。
本文来自华尔街见识,欢迎下载APP检查更多
光学互连引领芯片互连新革新。近来,光学互连草创公司Ayar Labs完成了1.55亿美元的D轮融资,估值打破10亿美元。据报道,英伟达、AMD、英特尔等闻名科技公司均参加了这场融资。公司表明,最新融资...
来历:江苏新闻12月12日此前,有媒体报道称,近来英伟达天猫官方旗舰店被清空,页面显现“抱愧,没有相关宝物”。记者查询英伟达天猫旗舰店发现,在宝物一栏,的确显现没有相关产品,但在主页引荐页面,展现了多...