据了解,“共绩科技”主要致力于解决弹性临时计算场景下,算力资源获取难的问题,构建了电网式算力调度网络,利用低成本的闲时算力服务高价值的灵活需求。
目前,在下游AI的刺激下,上游智算中心持续建设,算力基建 国家政策近年来接连出台。
行业数据显示,截至今年上半年,中国算力规模已达到246 EFLOPS,智能算力同比增速超过65%,其中,工业、教育、医疗、能源等多个领域算力应用项目超过1.3万个。
不过,目前智算中心的实际运营却面临着巨大痛点。“共绩科技”市场合伙人王鹏告诉36氪,主要的矛盾在于,算力的弹性和低价,鱼与熊掌不可兼得。
一方面,从需求侧来看,持续崛起算力需求中,大模型推理需求巨大。但推理的使用场景较为细碎分散,并且2C应用的推理需求由于使用者的作息规律,在时间上会存在明显的波峰波谷,往往导致部分时间算力不足(用户排队),部分时间资源浪费——且根据实际测算,此类弹性算力需求占比超过总算力需求的10%。
根据工信部预测,预计到2030年我国算力市场将达到超万亿规模,而其中弹性算力市场规模将超千亿元。
另一方面,从供给侧来看,为了规避断租停租的风险,当前新建算力中心主要以整租模式为主对外提供服务。少部分弹性灵活的服务价格往往又会是平常的数倍,部分小厂商虽然可以提供较为便宜的弹性算力服务,但实际仍是按时整租模式,受限于算力成本结构,商业上很难持续。从商业逻辑上来说,集中自建的算力中心并不适合满足短期、波动、零散的计算需求。
与此同时,全球每天有67%的算力资源因为空闲而浪费,而中国就有5.7亿台个人电脑。以网吧为例,共绩科技目前已经触达的30万台网吧电脑中,每台电脑每天平均使用不超过3h,且其中15%都是4090;以Steam平台为例,其平台上中国游戏玩家显卡算力总和,就比长三角智算中心总和还要高。
而此类分散、闲时的算力资源,十分适合用于满足临时短期的计算需求——此类资源无需担心压货、断租,它们原本就是空闲的,也正是基于此,弹性与低价才有兼得的可能。为了让分散、波动、闲时的算力资源真正能稳定为客户提供算力服务,“共绩科技”研发了“电网式算力调度网络”,以期更好地撮合算力资源方和算力需求方,尝试解决算力弹性、低价、稳定不可能三角的问题。
据介绍,在算力供应方面,“共绩科技”搭建了SLM任务调度分发平台,在闲时调用和一键接入两方面均做到了全球唯一,平台已经整合了来自大量个人设备、全国数千家网吧以及中大型集群的闲时资源。
这些分散的算力资源,在共绩高效、精准的预测和调度算法支撑下,得到了有效利用,以及经过近百次产品的版本迭代,平台兼容了不同网络环境以及不同操作系统,允许供给者一键接入、动态退出,在不影响原有业务及使用习惯的情况下保障了算力服务的稳定性。
“共绩科技”CEO付智告诉36氪,“算了么平台”真正能解决不可能三角问题的核心能力在于,通过能源工程方法在计算领域落地,实现算力负荷预测、做到供需的完美匹配调度,使得整体的资源利用率大幅提升,并且,通过核心技术让闲时或闲置的资源发挥了价值,“实现了算力供给者、需求者、“共绩科技”三方共赢”。
目前,“共绩科技”已经有了不少商业化案例落地,合作的AI厂商包括Liblib、BibiGPT、白熊数智等等。据介绍,以上公司均有了规模化营收,且收入增长迅速。另外,共绩科技在10月23日,利用分散个人电脑为清华AI课堂上的100多位同学提供了2小时以上的在线稳定算力服务,此举是全球首创,为教育行业的算力普惠提供了可靠、低价的解决方案。
典型案例介绍:
支撑AI客户波峰需求
在共绩科技的技术支持下,BibiGPT实现了成本效益和业务增长的双重飞跃。作为国内领先的AI应用,BibiGPT通过音视频智能总结服务满足了百万用户的需求。共绩科技的弹性算力服务有效应对了该场景的波动性算力需求,在确保服务连续性的同时显著优化成本。通过按量计费和灵活扩缩容模式,BibiGPT在两周内处理了50000分钟以上的音视频内容,成功响应峰值流量,并且降低了50%的算力成本。
携手个人用户,助力清华AI课堂
得益于共绩科技的算了么调度平台的坚实支持,以及众多个人电脑用户(他们的设备配备了高端的3090/4090显卡)的积极参与,共绩团队于2024年10月23日为清华大学胡事民院士开设的AI通识课上的100多名同学提供了超过2小时的稳定算力服务。平台的预部署环境功能极大地简化了操作流程,使得学生们能够轻松地在网页端的Jupyter环境中选择所需的计算环境,并流畅地执行深度学习代码,从而更高效地完成AI课程的实践任务。这次合作不仅验证了“共绩科技”在教育领域提供的算力普惠创新解决方案的有效性,更凸显了社区力量在推动AI算力普惠方面的关键作用。
此外,共绩科技基于分散算力调度的能力,首个提出“以算代储”的算电协同落地方案,通过任务分发代替电力传输,有效促进微网场景下新能源的就地消纳,并大幅降低计算的边际成本。目前,团队已经签约承建青海省级智能绿色算力调度平台。
“共绩科技”创始人付智是一位有连续创业经历的00后,清华18本22博,师从江亿院士,曾获清华大学未来学者奖学金、清华美灵科创家等荣誉。
近日,该项目还获得了中国国际大学生创新大赛全球亚军,研究生创业组冠军。此外,付智表示,公司下轮融资已经开启,预计融资额5000万以上。
投资人评价
奇绩创坛合伙人毛圣博:
共绩科技以“将算力与能源动态结合,打造信息与能源的桥梁”为愿景,精准把握了科技发展的脉搏。其团队已成功调度成千上万张闲置显卡,为AIGC企业和科研机构提供高效、弹性且低成本的算力支持。这不仅开创了算力共享的新商业模式,还为资源的优化利用探索了前沿路径。我对共绩科技的未来充满信心,坚信他们将引领普惠算力的发展,并在推动全球算力资源高效配置方面取得重要突破。
水木创投执行董事闫思宇:
共绩科技团队以其活力和创新,精准把握共享算力创新的脉搏,为行业注入了新的活力。他们对技术细节的执着追求,为AIGC和科研领域提供了切实可行的弹性、低价的算力支持方案。我非常看好这支团队,相信他们将推动共绩科技在算力服务领域实现更大的突破。(邱晓芬)
免责声明:以上内容为本网站转自其它媒体,相关信息仅为传递更多信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性。如稿件版权单位或个人不想在本网发布,可与本网联系,本网视情况可立即将其撤除。