首页
新闻详情
新闻详情信息

网心科技李浩:打造边缘算力新时代,助推产业数智化新浪潮

2024年09月25日

9月24-25日,由湖南省人民政府主办,湖南省工业和信息化厅、长沙市人民政府、中国电子信息产业发展研究院承办的2024世界计算大会在长沙召开,本次大会以“智算万物·湘约未来——算出新质生产力”为主题。现场汇聚计算领军人物中国工程院院士、浙江大学教授潘云鹤,中国科学院院士、国防科技大学教授王怀民,中国科学院外籍院士、英国皇家学会院士、深圳计算科学研究院首席科学家樊文飞,硅谷人工智能研究院创始人、院长皮埃罗·斯加鲁菲,以及中兴通讯董事长李自学,紫光股份董事长、新华三集团总裁兼首席执行官于英涛等18位中外院士专家和110余位知名企业家及学者,网心科技CEO李浩受邀出席大会,与一众嘉宾携手共话全球计算产业最新趋势,深度剖析计算产业发展脉搏。



大会召开前,湖南省委副书记、省长毛伟明会见了参加本次世界计算大会的中外院士专家及其他嘉宾,网心科技CEO李浩作为企业家代表参加了会见活动。



作为大会重要的组成,“2024世界计算大会专题展”同期举办。网心科技星域云边缘计算平台凭借在边缘计算领域的深厚积淀和卓越表现,成功入围“2024世界计算大会专题展优秀成果”之列,充分体现网心科技在战略性新兴产业赛道的卓越成就。



在9月24日举办的“算力创新应用主题研讨”会上,网心科技CEO李浩发表题为《打造边缘算力新时代,助推产业数智化新浪潮》的主题演讲。他表示,随着当前AI驱动的数字经济不断发展,算力及其延伸的边缘算力作为面向未来的核心生产力,网心科技将始终夯实业界领先的智算基础设施解决方案供应商定位,支撑客户多样化算力需求,助力千行百业实现智能化转型升级提供强劲动力。


网心科技CEO 李浩


算力版“安迪比尔定律”上演

边缘计算解锁AI无限潜力


当前在AI这一关键技术领域,中国算力产业呈现飞跃式增长态势。根据艾瑞咨询研究院测算,预计到2028年,中国AI产业规模将达到8110亿元。随着AI进入基于Transformer架构的大模型时代,算力需求陡峭攀升。根据NVIDIA资料显示,Transformer大模型的训练算力需求将以275倍/2年的速度增长。过去十年GPU 算力增长千倍,每年翻倍,根据黄仁勋的预测,未来十年随着 AGI 的到来,算力会增长一百万倍,每年翻三倍。


随着 AI 产品化的深入,推理侧的算力消耗会远高于训练。李浩指出,只有推理才能产生用户端的价值,产生收入,训练是内部成本。以OpenAI为例,作为用户量最大的大模型产品,当前推理算力已经两倍于训练算力,但预估今年收入 30 亿美金,但成本在 85 亿美金,同时仍然在加大训练端的开销,想达到最终的盈亏平衡推理还需要增长一个数量级。以足够低的成本承载巨量推理需求,是未来AI 商业化要面临的核心挑战。



对此,李浩提出“中心云训练+边缘云和终端协同推理”全场景AI训练推理框架,中心云具有强大的计算和存储能力,可承担大数据处理、大模型训练;而基于成本、时延等方面的优势,边缘侧可高效的分发核心模型、承载中大模型的推理、以及承载基于域内隐私数据的模型精调。未来的终端也都会加载小模型,实现大部分日常场景的实时推理。类比人类的大脑,终端侧做快思考,边缘侧做慢思考,云端会做沉淀形成长期记忆。通过云边端协同的方式,更高效完成训推需求。


驱动算力变革

网心算力云重新定义AI基础设施


随着AI大模型的发展重心从训练向推理转移,边缘计算已成为AI推理过程中满足低延迟和增强隐私需求的关键。作为全球边缘计算创领者,网心科技在去年正式推出网心算力云,提供一站式AI环境,轻松应对AI推理、AI精调、云渲染等各种高性能计算场景。


据李浩介绍,中小企业与开发者当前获取GPU算力的门槛和成本都还是比较高的,网心算力云比较好的承载了这部分需求,目前已经获得十万多用户的肯定。现阶段主要聚焦构建灵活、可扩展的IaaS平台,按需为客户提供算力资源,将推出Severless、API等服务,对算力资源更灵活的进行抽象,进一步降低用户使用成本。同时网心正探索基于行业的数据预处理、精调、推理、分发一站式的解决方案,依据用户选择的使用场景和算力需求构建垂直类解决方案,整合算力、平台、组件,支撑垂直行业的AI发展。



相比传统GPU云,网心算力云具有超强的并行计算能力,细粒度的按需计费,开箱即用。无论是在交付形态、机型选择、环境部署等方面,还是在模型甄选、实例计费和产品入口等维度都有显著优势,可服务于AI训练/推理、科学计算、图形图像处理、视频编解码等场景。


截止目前,网心算力云先后落地AIGC、云游戏、渲染等领域,完成了众多标杆项目,持续实现高速增长。例如,在AI融媒体领域,根据用户场景需求,协助对大模型进行定制化微调,用户无需理解复杂的模型原理和训练技术,只需提供需求和数据,即可选择部署到网心算力云平台或将模型完全保留在客户组织的基础设施内,最大限度保障用户的数据隐私诉求。在云游戏领域,网心布局了覆盖全网的边缘算力节点,结合自身的网络优势与基于QUIC构建的超低延时RTC,为用户提供大带宽、超低时延的稳定传输。


从网络传输到算力服务,李浩最后给出了网心科技更高坐标、更宽视野的思考和规划。在过去十年,网心科技通过构建超大规模边缘传输和存储网络,并实现商业化场景落地;下一个十年,网心将保持压强式研发投入,提升边缘计算网络的“算力含量”,通过构建大规模的算力网络和实时的AI服务,覆盖更多万物智联的商业场景,加速向全栈自主可控、AI就绪的下一代边缘计算网络演进,加快我国新质生产力的形成和提升。


建议反馈

业务咨询