沙利文发布报告，商汤大装置领跑中国AI开发平台市场

近日,国际知名调研机构弗若斯特沙利文(Frost & Sullivan)联合头豹研究院发布的《2023年中国AI开发平台市场报告》(以下简称“报告”)显示,商汤科技市场综合竞争表现位列国内第一。同时,在硬件基础设施兼容性、产业链合作情况、模型训练优化模块、智能标注技术能力、预训练模型技术水平5个评估项目中,商汤斩获最高分,SenseCore商汤大装置成为中国AI开发平台云计算基础设施供应商的领军者。这一成绩不仅证明了商汤科技在AI原生时代的天然优势,确立了其在MaaS(模型即服务)领域的先锋地位,更彰显了商汤大装置在智算云服务领域的领先性,短短数年便跻身中国云计算基础设施第一阵营。

报告指出,商汤科技打造的SenseCore商汤大装置搭建了完善的AI原生基础设施,包括算力基础架构、大模型生产平台、模型即服务,辅以AI专家服务和数据服务助力相关技术举措的落地。SenseCore商汤大装置拥有近30,000张GPU对外提供大模型训练与推理服务,实现大模型推理效率提升600%,大模型增量训练降低90%,单个智算中心超过6,800P算力规模。

商汤大装置增长力和创新力获得认可,综合表现位列国内第一

当前,大模型技术的突破让AI应用的潜力得到进一步释放,各行各业对大模型的训练和应用需求也在快速涌现。结合大模型开发能力的AI开发平台将在交通、医疗、教育、泛娱乐等多个行业拓宽应用场景,帮助企业更好地服务客户和推动业务增长。

报告指出,AI开发平台是一个提供整一套AI应用开发流程支持,帮助开发者降低开发门槛,并快速集成数据处理、模型搭建和应用部署的一站式服务工具平台。一方面,AI开发平台可以大幅缩短企业部署AI应用的时间,另一方面可以提高各独立环节间的合作效率。报告还指出,中国AI开发平台市场正处于快速增长阶段,业务场景聚焦在数据准备、模型搭建、模型训练评估、和模型推理四个业务层面。

然而目前行业内高效易用的AI开发平台依然十分稀缺,且不同的行业对于AI开发平台的细分业务场景有不同的侧重点。对此,报告从创新能力和增长能力两大竞争维度对各类AI开发平台进行全面评估,深入其挖掘用户特性、市场当前容量及潜在增长空间,旨在为相关企业和投资者提供决策支持,推动AI开发平台领域的繁荣发展。

其中,增长能力代表了持续增长的竞争力水平,创新能力代表了前沿创新的竞争力水平。报告显示,SenseCore商汤大装置在增长能力评估中,获得了“硬件基础设施兼容性、产业链合作情况”两项最高分,在创新能力评估中摘得“模型训练优化模块、智能标注技术能力、预训练模型技术水平”三项最高分,在AI开发平台市场处于领跑位置,综合表现位列国内第一。

为“AI原生”而生,商汤大装置打造触手可及的智算云服务

在AI原生时代,各行各业对于计算服务的需求正在从传统的云计算向“智算云”转移,人工智能技术的应用将成为各行各业增长的核心驱动力。然而,AI技术的研发仍然面临成本高昂等难题,大模型技术的产业化应用更需要超大规模的算力支撑。人工智能的基础设施化,是降低创新成本和门槛,打造高效易用的AI开发平台,为各行各业提供触手可及的“智算云服务”的有效路径。

作为专为AI原生打造的智算云服务平台,SenseCore商汤大装置能够引领AI开发平台市场,来自于商汤科技在AI基础设施领域的前瞻布局和多年持续投入形成的深厚技术积淀,已成为国内稀缺的大模型基础设施。SenseCore商汤大装置以大模型开发、生成、应用为核心,打造算力架构、MaaS 平台、数据服务和国产化适配生态,基于全国范围的智算中心网络,面向大模型、生成式 AI 场景构建产品体系,赋能人工智能生产新范式。

SenseCore商汤大装置拥有领先的AI 原生云算力基础设施架构,能够为客户带来极致的大模型开发体验。其拥有高稳定性的算力池,千卡并行训练线性加速比超过90%,30天长时间训练不间断,可实现分钟级的异常检测和断点续训,并支持公有、专有、私有、混合等多云部署模式,便捷灵活。

结合商汤自研的“SenseNova日日新”大模型体系,SenseCore商汤大装置还为客户打造了领先的MaaS平台服务,提供从大模型的训练与微调、生成式AI的开发和部署全链路工具。其不仅可以使企业客户低成本、快速地接入大模型研发体系,同时也为行业用户提供了基模型和开发者工具,实现针对业务场景、领域知识的大模型微调。

面向海量训练数据,SenseCore商汤大装置还提供开放、一站式、低成本的AI数据管理服务平台,提供覆盖全数据生命周期的图片、视频、点云等数据的管理和标注。其大规模非结构化数据的检索功能,可以秒级返回的速度,快速挖掘出新样本。同时,商汤明眸自动标注服务可覆盖1000+通用2D标注目标类别,3D标注与10+行业专用大模型深度融合,生成的图片标注可实现数百倍的成本和效率优化。

此外,SenseCore商汤大装置也有力助推AI 国产化大生态建设。目前,商汤自研深度学习训练框架已支持多家国产芯片,不仅在大模型的训练环节通过与国产化芯片进行合作适配,加速落地大模型训练标杆项目,同时在推理环节,也积极适配进而支持大模型的推理和生成式 AI 应用的发展。

推动“日日新”大模型体系不断突破,拓宽大模型应用边界

基于SenseCore商汤大装置这一强大的AI开发平台,商汤在大模型领域不断突破前沿、开拓创新。自去年4月“日日新SenseNova”大模型体系发布以来,依托商汤大装置实现了日复一日的高效迭代,为实现通用人工智能(AGI)提供了精准着力点,助力全场景、多产业实现“大模型+”,拓宽大模型应用边界。

本月初全新发布的“日日新SenseNova 4.0”大模型体系再次迎来了多维度全面升级,拥有更全面的知识覆盖、更可靠的推理能力,更优越的长文本理解力及更稳定的数字推理能力和更强的代码生成能力,并支持跨模态交互。其中,日日新·商量大语言模型-通用版本SenseChat V4支持128K语境窗口长度,综合整体评测成绩水平比肩 GPT-4,相较GPT-3.5已经实现全面超越。商汤还率先推出了支持不同模态工具调用的日日新·商量大语言模型Function call & Assistants API 版本,为先进的大模型与各类应用服务工具的连接提供便利桥梁。

如今,AI开发平台已经成为大模型走向千行百业的重要底座。依托SenseCore商汤大装置,商汤不仅致力于为各行业客户提供更强大的AI开发服务、构建高效便捷的工具链体系以加速大模型训练,还坚持通过核心技术的不断创新与突破来降低AI开发平台的边际成本,降低大模型的应用门槛,将大模型的技术价值切实转化为实际应用价值,为社会生产力的持续进步奠定不断进化的技术基础。