网站首页

产品中心

智能终端处理器 智能云服务器 软件开发环境

新闻中心

关于PG电子

公司概况 核心优势 核心团队 发展历程

联系PG电子

官方微信 官方微博
主页 > 新闻中心

AI服务终将免费?《新一代人工智能基础设施白皮书》解答AI 20时代新基建

发布时间:2024-01-03 17:59浏览次数: 来源于:网络

  原标题:AI服务终将免费?《新一代人工智能基础设施白皮书》解答AI 2.0时代新基建

  创新理论家约瑟夫·熊彼特在《经济发展理论》一书中提出“创新是推动经济增长和社会基础设施演进的关键动力。”

  纵观科技发展史,过去 100 年的电力价格持续下降带来了电力经济大爆发,过去20年移动通讯价格、云计算价格持续下降带来了移动互联网经济大爆发,同样具有信息技术属性的AI计算基础设施,通过模型软件革新、AI芯片计算架构革新不断降低成本,将带来智能经济大爆发。

  近日,商汤科技智能产业研究院与中国信息通信研究院云计算与大数据研究所、中国智能算力产业联盟、人工智能算力产业生态联盟联合发布《新一代人工智能基础设施白皮书》(以下简称《白皮书》)。《白皮书》不仅明确了“新一代AI基础设施”的定义、特点和价值,还首次提出“新一代AI基础设施评估体系”,为AI 2.0时代智算产业发展提供重要参考。

  《白皮书》最后提到,社会供给侧的成本下降引发社会需求指数级扩张,最终AI带来的商业创新价值将远超AI算力成本。“免费 AI 服务”将成为产业终局,普惠AI造福地球上的每一个人。

  数据显示,过去四年,大模型参数量以年均400%复合增长,AI算力需求增长超过15万倍,远超摩尔定律。以CPU为中心的传统计算基础设施已无法满足大模型、生成式AI的新要求。大模型训练对数据质量和效率的需求,企业应用生成式AI对于MaaS(大模型即服务)的需求,也都给AI基础设施提出了新要求。

  AI 2.0时代,需要新一代的基础设施来支撑大模型的训练与推理、生成式AI应用的规模化落地,其核心要素,如计算、存储、网络以及数据服务都要做精细化的设计和重构,而非简单的服务器或GPU堆砌。

  《白皮书》明确了新一代AI基础设施的定义:以大模型能力输出为核心平台,集成算力资源、数据服务和云服务,专门设计用于最大限度提升大模型和生成式AI应用的表现:数据准备与管理、大模型训练、推理、模型能力调用、生成式AI应用部署。企业通过新一代AI基础设施开发和运行生成式AI业务和客户应用程序,以及基模型和行业模型的训练与微调。

  《白皮书》指出,新一代AI基础设施的建设将降低大模型开发和应用门槛,在政企服务、产业和科研创新等方面创造更大社会价值。面向产业,将加快推进传统产业上下游各个环节的智能化转型,催生新业态、新模式的涌现。面向科研,可加速科学实验的自动化和智能化,激发人工智能驱动科学研究(AI for Science)的新范式。面向政务,将原本分散、碎片化的政务应用,通过“一模通办” 为政务服务提质增效。

  当前,新一代AI基础设施市场处于高速竞争的初级阶段,云计算、AI原生、硬件系统等各类厂商均有各自优势。到底什么样的AI基础设施才可靠?《白皮书》首次提出了“新一代AI基础设施评估体系”。通过产品技术、战略愿景、市场生态三大维度、十二个评估指标,对AI基础设施厂商综合能力进行定性和定量的全面评估。

  《白皮书》选取了十二家最具代表性的AI基础设施厂商。商汤科技的新一代AI基础设施 SenseCore商汤大装置,在各个评估指标的得分均超过厂商平均分,并在市场响应、市场认知、产品战略、工程化建设四个评估指标拿到满分。

  商汤超前布局了算力基础设施,SenseCore商汤大装置作为商汤的AI基础设施,总体算力规模目前已达6800P,在支持商汤自身大模型研发的同时,也支持外部客户训练大模型和应用部署。今年以来,共有超1000个参数量数十亿至上千亿的大模型在大装置上完成训练,并支持了数十款生成式AI应用。

  2023 年是人工智能产业发展的分水岭,以大模型、生成式 AI 为发展里程碑的技术革新,推动着人工智能发展进入全新的 2.0 时代,人工智能由之前点状创新应用,逐步规模化发展赋能企业业务流程各个环节,并逐步向产业深水区发展,推动产业链分化成熟,需要全新的基础设施来实现更好的支撑。

  《白皮书》以商汤基于AI大装置的多场景实践案例为例,阐述了从大型模型训练到生成式AI应用的全过程,再到区域智算中心的建设与运营,深入挖掘了这一全生命周期中的价值挖掘。

  商汤大装置为商汤自研“日日新SenseNova”大模型体系的训练迭代提供算力支撑,以及1.5万亿token和6000亿中文高质量数据,推出了商量大语言模型等大模型。

  商汤还助力某业界领先的认知智能公司打造了高性能算力平台,提高模型训练速度和效率,已成功推出了400亿参数量的大模型。

  依托商汤大装置,商汤联合中公教育发布虚拟数字讲师“小鹿老师”,相比传统人工直播,不仅降低了80%录课成本,还提高了2至3倍的课程丰富度。

  微博的“营销大模型”也在商汤大装置上生长出来的,让每位博主都能拥有自己的AI营销助手,短短数月便有超7000位微博达人采用AIGC生成69万篇文案,采用率高达95%。

  今年10月,商汤与重庆南岸区共同打造了重庆人工智能计算中心(AIDC),以国产化算力为核心,首期建设峰值算力达100 Petaflops,为西南地区的各行各业、科研机构提供AI算力、大模型训练、推理部署和应用开发等服务。

  同时,商汤还助力打造福建省大数据算力平台,第一阶段已建成125 PFLOPS算力规模,并有多家数字生态企业入驻,有望推动生成式AI技术在医疗、金融、制造等各个产业中的落地。

  正如《白皮书》最后所言,我们希望随着新一代AI基础设施的边际成本持续下降、边际效益持续增长,AI将普惠每一个人。返回搜狐,查看更多

下一篇:商汤联合发布《新一代人工智能基础设施白皮书
上一篇:中电港:公司分销产品广泛应用于消费电子、通讯、汽车电子、工业控制、计算机、人工智能等多个应用领域其中包括信创领域

咨询我们

输入您的疑问及需求发送邮箱给我们