首页
新闻详情
新闻详情信息

大模型带来大需求,算力如何降本增效?

2023年09月04日 来源:南方日报

随着首批国产大模型产品获批面向用户开放服务,像百度“文心一言”等大模型产品就迅速上升到应用商店下载榜的榜首,可见用户对大模型的体验需求相当旺盛,而这背后对算力的需求也直线上升。作为继分布式计算、网格计算、云计算之后的又一新型计算模型,边缘云计算也随着大模型的兴起而引发关注。


边缘云计算是以云计算为核心,以现代通信网络为途径,以海量智能终端为前沿,集云、网、端、智四位一体的新型计算模型。据南方+记者了解到,相对比已经是一片红海的公有云市场,边缘云计算正逐步赢得广泛的企业用户采纳和部署,成为开启云计算下一个十年新蓝海的“关键先生”。


三大价值,边缘云“C位”登场


边缘云计算和我们熟知的云计算究竟有什么区别和联系?


网心科技首席运营官马婷在接受南方+记者专访时就做了一个类比:“我们熟知的中心云计算,如同现代物流体系中处于骨干中枢的中央一号仓,吞吐量够大,辐射面广,我们的中心云机房也是如此,大存储、高算力;但要想包裹到达千家万户,也离不开深入到街道、小区的各种包裹配送点,虽然他们面积不大、形态不一,能够存放和运转的包裹数量也非常有限,但是他们离用户最近,而这些就好比我们分布广泛的边缘节点。”



网心科技首席运营官 马婷


总体来说,边缘云计算作为中心云计算的延伸,实现了将计算能力下沉到离用户最近的“最后一公里”,并且相比中心云计算,边缘云计算由于更加靠近数据产生和使用的位置,具备更多独特优势。


马婷表示,边缘云计算拥有三大显著价值,第一、就近计算。以分布式计算能力取代部分中心化计算能力,在边缘侧实现自动反馈和智能决策,满足实时或近实时的数据分析和处理需求。第二、经济节省。通过减少数据回传和不必要的数据存储,节省带宽和存储成本,同时降低突发流量对骨干网络的冲击,减少网络拥塞。第三、全域覆盖。充分利用广泛覆盖的网络和计算节点,让连接与计算无处不在。


赛道升温,吸引各方竞相入局


业内人士表示,当前随着数字经济在国民经济发展中的地位水涨船高,受到政策、产业、市场和资本等因素的叠加驱动,作为数字经济关键底座的边缘云计算行业全面进入高速发展期。


根据IDC预测,2022-2027年,中国边缘云市场预计5年年均复合增长率会达到38.7%,2027年总体市场规模预计到达407.2亿元人民币。此外,国外研究机构Grand View Research也预计到 2028 年全球边缘计算市场规模将达到 611.4 亿美元,在预测期内的复合年增长率为38.4%。


面对持续升温的边缘云计算赛道,国内各大公司纷纷摩拳擦掌,竞相布局。据南方+记者了解到,目前边缘云计算赛道参与者类型众多,可大致分为四类:第一类、大云公司,阿里、百度这些大厂基于公有云的基础优势,不断拓展下沉的边缘云计算服务,丰富云计算产品矩阵,为用户提供一站式云计算服务。第二类、传统CDN公司,过去主要提供标准CDN服务,随着越来越多的客户的降本以及对AI等新兴业务的需求,正在向边缘方向转型。第三类、运营商,像天翼云,移动云等公司,本身拥有丰富的公有云产品矩阵和资源优势,并且基于5G网络率先布局MEC移动边缘云。第四类、新兴的创业公司。类似网心科技,它们在边缘云计算领域保持足够的专注和聚焦,同时中立形象让客户无需担心供应商锁定,随着市场的快速发展,诸如网心科技等一些创业公司逐渐成为行业中坚力量。

根据IDC发布的《中国边缘云市场跟踪研究,2022H2》显示,2022年下半年,阿里云、百度智能云、网心科技、移动云、天翼云位居中国边缘公有云前五,占据市场第一梯队。其中,网心科技作为第一梯队中唯一的创业公司,2022全年以12.0%的占比稳居中国边缘公有云服务市场第三。


马婷向南方+记者表示:“网心科技是2015年自迅雷孵化而来的创新项目,属于迅雷的全资子公司,从标准CDN出发,2017年前后正值CDN价格战席卷市场,一度出现‘面粉比面包贵’的窘境,CDN市场步入红海时代。在此境况,网心开始寻求全面转型之路,并正式切入边缘云计算赛道,率先寻找云计算的蓝海领域。”


据悉,截至目前,网心科技构建了一张覆盖云边端、全球最大最下沉的边缘云计算网络,目前可覆盖边缘计算节点超过500万。在边缘分发领域已服务国内90%以上的需求用户,音视频客户接入网心的SDK数量达到6亿。


“网心科技作为一家中立的边缘云服务提供商,我们的使命是‘汇聚边缘力量,让计算触手可技’,致力于打造安全可信、经济高效、未来就绪的全栈边缘计算解决方案,以创新技术激活边缘价值。”马婷表示。


AGI时代,边缘云冲破算力桎梏


“今年以来,A800整机已经从80-90万元,涨到超过了140万元”“A100和H100都已经买不到了”“每天都有新客户来询价”……ChatGPT引领AIGC火爆的背后,支撑AI所需要的算力需求也随之暴涨,全球算力规模保持高速稳定增长态势。


对此,马婷认为:“AI的极速发展,尤其是大模型的涌现,催生了一场全新的生产力革命。但是,我们也看到了全社会对于算力资源的极度稀缺,尤其是居高不下的算力成本限制了AI技术的持续迭代。”据记者了解,以GPT3训练为例,单次训练成本高达460万美元,日常运营对应的单月运营成本更是高达千万美元。AGI时代逐渐演变成为一场“富人游戏”。


如何打破AGI时代的算力桎梏,降低算力成本开销,让AGI技术加速普惠全社会?据马婷介绍,网心科技在成熟的边缘云计算技术基础上,提出了一种全新思路,具体来说,构建基于分布式GPU节点的边缘计算平台,通过共建、合建、市场招募等多种途径,将分散、异构、多层级、闲置的各类算力资源集合起来,基于智能算力调度、云原生、资源池化等技术,高效盘活全社会海量的闲置算力资源,并赋能产业应用。据马婷透露,目前,网心科技在文生图,智能客服等AI应用场景,已经拥有成功案例实践。“基于充分利用存量的全社会闲置GPU算力资源,构建软件定义的AI算力资源池,最终可实现算力成本的大幅下降,提升全社会计算资源利用率。未来,使用算力一定会就像用水、用电一样方便。”


咨询建议

联系我们