浏览位置:热点观察网 > 观察

PCIe,越来越重要

发布时间:2025-01-12 15:38   文章来源:证券之星   点击量:4399   

如果您希望可以时常见面,欢迎标星收藏哦~

PCIe 技术将成为 AI 基础设施市场的重要组成部分。

根据 ABI Research 的“ PCI Express 市场垂直机会”报告,预计到 2030 年,AI 领域 PCIe 技术的总潜在市场 将从 4.4933 亿美元增长至 27.84 亿美元,复合年增长率 (CAGR) 为 22%。AI 的一个新兴用例是生成人工智能或 GenAI。GenAI 是一种用于生成内容的 AI 技术,包括文本、图像、视频、音频等。

随着 GenAI 的发展,GenAI 应用中的一些独特挑战变得清晰起来,例如需要低功耗、低延迟的稳健技术来将这些系统连接在一起。由于大型语言模型 的复杂性和规模不断增加,最先进的生成 AI 模型无法安装在一个 GPU、一台服务器、一个机架甚至一个数据中心上。

PCIe技术为生成式 AI 应用提供了众多优势,因为其固有 DNA 非常适合实现分解系统,包括对 LLM 有价值的分布式乘法功能。在本文中,我们将讨论 PCIe 技术目前在生成式 AI 中的应用方式、PCIe 技术功能如何完美满足日益增长的 AI 需求,以及 PCIe 技术与 AI 之间的关系将如何在未来的应用中不断发展。

PCIe 技术特性满足生成式 AI 的技术需求

PCIe 技术是一种无处不在的 I/O 互连,它通过实现低延迟、低功耗连接并始终确保向后兼容性来提供将节点连接在一起的结构。PCIe 技术连接整个数据中心,创建计算、内存和存储的池化资源,以满足生成式 AI 应用程序的独特和特定需求。

随着对更高数据速率的需求不断增长,以及行业从 NRZ 信号转向 PAM4 信号,前向纠错 对于保持可靠性至关重要。PCIe 通过利用 FLIT(流量控制单元)模式解决了生成 AI 和所有低延迟应用的这一问题。FLIT 有助于保持 PCIe 技术的低延迟,同时仍提供较低的 FEC 后错误率。此外,PCIe 架构包括低功耗模式,当需要较少的数据吞吐量时可节省能源,当通过 L0p 和 L1 子状态暂时不使用链路时,可节省更多能源。

进一步探讨 PCIe 低延迟优势的重要性,硬件一致性在扩大网络以提高效率方面发挥着至关重要的作用。这不仅仅与整体带宽有关——数据交换中的延迟可能会导致 GPU 和 CPU 在等待数据时停滞。流水线算法通常依赖于分布式结果,即使是单个节点的延迟也会导致显著的减速,从而闲置宝贵的计算资源。PCIe 技术现在具有 FLIT 模式,可最大限度地减少数据传输延迟并保持一致,从而实现高效的性能。

新兴 PCIe 技术助力生成式 AI 的未来发展

PCIe 技术将有助于推动生成式 AI 的应用,因为它可扩展到 AI 运行的后端网络中的电气和光学链路。随着带宽增加和电气覆盖范围减少,CopprLinktrade; 内部和外部电缆可以扩展 PCIe 信号在生成式 AI 应用中的覆盖范围 ,CopprLink 内部电缆在单个系统内的最大覆盖范围为 1 米,而 CopprLink 外部电缆的最大覆盖范围为 2 米。此外,PCI-SIG 光学工作组目前正在研究通过光学链路实现 PCIe 技术的途径,以确保任何 PCIe 链路在未来的生成式 AI 应用中都是可行的。

半导体精品公众号推荐

专注半导体领域更多原创内容

关注全球半导体产业动向与趋势

今天是《半导体行业观察》为您分享的第4004期内容,欢迎关注。

『半导体第一垂直媒体』

实时 专业 原创 深度

公众号ID:icbank

喜欢我们的内容就点“在看”分享给小伙伴哦

免责声明:此文内容为本网站转载企业宣传资讯,仅代表作者个人观点,与本网无关。仅供读者参考,并请自行核实相关内容。

推荐内容
  • 向“新”而行 首发经济引燃消费“热力”

    在山东曹县,定制一袭精致的马面裙,不亦乐乎;前往福建泉州,沉浸于一场绚烂的簪花体验,花香袭人;奔赴河南开封,漫步非遗市集,流连忘返……这些在悠久传统文化中生长出来的“新”创意,不仅满足了消费者多样化的消费需求,也为曹县、泉州、开封等首发地带...

  • 远道而来、应接不暇、满载而归

    “四叶草”内,一片“热带海滩”热闹非凡——在第七届中国国际进口博览会的国家综合展上,科摩罗展馆凭借独特的海岛风格,吸引了许多观众拍照“打卡”。根据联合国的最新数据,截至2023年,全球共有45个最不发达国家,其中33个在非洲。今年的进博会,...

  • 科技赋能 焕新城市“烟火气”

    “有电梯、有安全扶手,布局也比以前更实用了。”来到新家的纪阿姨来回踱步,激动赞叹道。2024年5月28日,北京市首个装配式危旧楼改造项目——西城区桦皮厂胡同8号楼迎来入住的第一批居民。和纪阿姨一样惊喜的,还有楼上楼下20户老邻居们。随着各地...

  • 百舸争流千帆竞 体旅融合点燃消费活力

    桨影翻飞,百舸争流破浪。在刚刚过去的端午假期,广东、湖南、浙江、贵州、云南等多地举办龙舟竞渡,为传统佳节增添了浓厚的运动活力和竞技氛围,也吸引了大批游客“打卡”围观。中国龙舟公开赛、2024年中国皮划艇马拉松公开赛、2024博斯腾湖赛艇大师...