时间:2024-10-10 10:51:28 来源:中电网
“Super Micro Computer, Inc. (SMCI),一家为人工智能(AI)、云计算、存储和5G/终端提供全方位IT解决方案的企业,宣布推出一款全新高密度多功能基础设施平台,专为网络终端的人工智能推理进行优化。 企业在日常运营中需要应用复杂的大型语言模型(LLM),这意味着在终端位置需要新的硬件,以最小的延迟处理大量数据。
”新3U服务器支持最多18个GPU,搭载双Intel® Xeon® 6900系列P核处理器
Super Micro Computer, Inc. (SMCI),一家为人工智能(AI)、云计算、存储和5G/终端提供全方位IT解决方案的企业,宣布推出一款全新高密度多功能基础设施平台,专为网络终端的人工智能推理进行优化。 企业在日常运营中需要应用复杂的大型语言模型(LLM),这意味着在终端位置需要新的硬件,以最小的延迟处理大量数据。 Supermicro的创新系统结合了多功能性、性能和热效率,能够在传统的空气冷却环境中运行,并在单一系统中支持多达10个双宽GPU。
支持8块双宽GPU加速卡的3U终端人工智能推理系统
“凭借系统的优化热设计,Supermicro能够在高密度的3U 20 PCIe系统中提供256核的强大性能,并可部署在终端数据中心,”Supermicro总裁兼首席执行官Charles Liang表示, “随着人工智能市场的迅猛发展,客户需要一个功能强大、用途广泛的推理数据解决方案,以便在内部运行基于LLM的应用程序,同时确保与数据生成地相近。 我们的全新3U终端人工智能系统使他们能够以最小延迟运行创新解决方案。”
如需了解更多信息,请访问:https://www.supermicro.com/en/solutions/edge-ai
新款SYS-322GB-NR配备了两个强大的Intel® Xeon® 6900处理器,支持8800 MT/s MRDIMM和最多20个PCIe 5.0扩展槽。 该Supermicro系统支持多种单宽或双宽GPU,或将部分扩展槽用于高性能I/O或其他附加卡。 此外,该服务器支持最多6TB的RDIMM内存和多达14个E1.S或6个U.2 NVMe驱动器。
该系统用例之一是在制造行业,Supermicro的新系统可以部署在自动化生产环境中,在现场处理来自摄像头和传感器的数据流,而无需将数据传输到远程端口。 这种能力减少了网络需求,提高了响应速度。 另一个适合SYS-322GB-NR的环境是大型控制室,AI加速卡可以部分替换为多显示卡,支持多达64个独立显示器。
Supermicro亮相拉斯维加斯世界移动通信大会(MWC)
SYS-322GB-NR将于10月8日至10日在拉斯维加斯MWC的Supermicro#518展台进行展示。 此外,Supermicro还将展示集成NVIDIA、AMD和Intel Xeon 6处理器的系统,包括X14系列终端和电信系统,如:
SYS-222HE-FTN——Hyper-E将数据中心性能带到电信终端,采用双Intel Xeon 6处理器,2U短深度设计,具有前置I/O接口
SYS-212B-FN2T——一款用于电信和终端人工智能部署的2U短深度系统,配备单颗Intel Xeon 6700系列E核处理器,支持GPU
SYS-E403-14B-FRN2T——一款盒式PC尺寸的壁挂式终端设备,能够将Intel Xeon 6700系列E核处理器和GPU支持置于远程环境中
AS-1115S-FDWTRT——1U NEBS兼容系统,为ORAN、核心网和托管服务提供电信级性能。 该系统使用AMD EPYC 8004系列处理器,并支持1个单宽GPU加速卡以应对繁重工作负载。
除了展示Supermicro硬件系统外,Supermicro还将与NVIDIA合作,共同展示推理和人工智能解决方案,涵盖本地和终端应用场景,包括企业AI、零售、电信终端和金融服务。 我们将展示包括NVIDIA NIM、NVIDIA NeMo、NVIDIA Metropolis、远程管理、安全和网络在内的关键生成式人工智能解决方案。 对于电信行业,Supermicro和NVIDIA将展示使用NVIDIA和Supermicro解决方案的实时AI RAN策略,展示其性能、管理方式和人工智能应用场景。
此外,拉斯维加斯MWC还将展出Supermicro与Intel联合推出的全新解决方案,该方案结合了坚固的IP65室外终端系统,内置AI网络加速器和Intel®数据中心GPU Flex 170。 该解决方案可实现多种私有5G网络快速、经济的部署,以及在单一设备中运行的终端人工智能应用。 这些网络可被不同用户应用,因此提供了可扩展的解决方案,适用于工业园区、校园、赛事演出场馆和智慧城市等高密度环境。
关于Super Micro Computer, Inc.
Supermicro(纳斯达克股票代码:SMCI)是全球领先的应用优化整体IT解决方案供应商。 公司成立并在加州圣何塞进行运营,致力于为企业、云计算、AI和5G电信/终端IT基础设施提供市场首创的创新产品。 我们是一家全面的IT解决方案供应商,提供服务器、AI、存储、物联网(IoT)、交换机系统、软件和支持服务。 Supermicro在主板、电源和机箱设计方面的专业知识使我们能够自主开发和生产产品,为全球客户从云到终端的下一代创新提供支持。 我们的产品在美国、亚洲和荷兰内部设计并制造,通过全球运营实现规模化和高效率,并优化流程以提高总拥有成本(TCO)、减少环境影响(绿色计算)。 获奖的Server Building Block Solutions®产品组合让客户能够根据其具体的工作负载和应用进行优化,选择我们灵活的、可反复利用的构建模块系列系统,该系列支持广泛的外形规格、处理器、内存、GPU、存储、网络、功率和冷却解决方案(空气冷却、自由空气冷却或液冷)。
SYS-322GB-NR-ANGLE
SYS-322GB-NR后挡板
分享到:
猜你喜欢