资讯
开yun体育网商汤大安装快速改造了千卡级别的算力资源-开云·kaiyun(中国)官方网站 登录入口
“都集4周千卡不拆开检修、2个月完成模子迭代开yun体育网,先于Sora半年洞开使用……”
2024岁首,Sora的惊艳亮相,将文生视频本事推向AI界限竞争的新高地。
彼时,开荒仅一年多的智象改日,凭借在生成式AI和多模态界限的本事积贮飞速反馈,仅用短短2个月时代便推出世界首个上线洞开使用的图像和视频生成(DiT)架构模子,并飞速在vivago.ai上线向世界用户提供视频生成处事,把抓了行业发展先机。
商汤大安装也加入了这场竞赛。
Part1
检修节拍按月迭代,算力需求“既要也要”
当今,智象大模子已迭代至3.0版块,在架构和应用层面进一步打破。通过引入全新扩散自归来架构(DiT+AR),在擢升生成质地的同期裁减推理能耗。
不同于讲话等单一模态模子,多模态模子的检修愈加复杂。其不仅需要会通文本、图像、音频等多种模态信息,落幕跨模态的深度表现与交互,何况检修任务愈加各类。不仅如斯,智象多模态大模子还险些保持每月进行小版块迭代,每半年开展大版块升级的节拍,更对算力建议了高效、天真、踏实的“既要也要”的严苛条款:
一是要高效:需要飞速改造弥散算力资源,扶直模子迭代冲刺。二是要天真:不同模态信息的检修任务对算力需求各有不同,需要算力系统随时字据检修任务的具体需要,匹配最优算力决策。三是要踏实:检修过程的任何一次系统中断都可能导致检修失败和资源花消,因此算力系统必须具备7×24小时不拆开开动的统统踏实性。
Part2
天真、踏实、专科,为模子迭代踏实护航
行为“最懂大模子的AI基础相貌”,商汤大安装通过天真实算力资源改造,都集4周千卡不拆开检修和专科高效的行家处事,助力智象改日落幕了20%的资源运用率擢升,让每一份算力都泄漏到极致。
天真:千卡算力按需改造,落幕最高参加产出比
为得志智象改日的模子迭代冲刺需求,商汤大安装快速改造了千卡级别的算力资源,还落幕了弹性的算力扶直,可按需分派资源范畴,通过天真改造为智象改日提供最适配的算力决策。并针对不同检修任务可通过资源自主离别、天真任务霸占机制,按照任务优先级天真进行资源分派,保证最大资源运用率。
踏实:千卡4周不拆开,99.99%可靠性踏实护航
在基于千卡集群的模子检修任务中,筹算卡故障、通讯额外等潜在问题随时可能会导致检修中断等踏实性问题,影响检修程度。成绩于动态监控、额外检测等多种妙技,商汤大安装以分钟级的检修容错才智,助力智象改日到手落幕了都集4周千卡不拆开检修的超稳进展,为模子迭代踏实护航。
从全程动态监控到多项保险机制,商汤大安装以99.99%的可靠性落幕踏实撑持。在模子检修过程中,可及时监控开荒情状,精确定位故障节点,通过故障节点自动剔除机制,或者飞速将问题节点隔断,减少检修中断风险;另外,通过恬逸节点无缝接入机制,让检修任务或者从断点处飞速续训,幸免时代花消。
专科:全链条行家处事扶直,全程看守满满安全感
凭借在模子检修、AI Infra、模子量化推理等方面积贮的深厚教会与专科常识,商汤行家处事团队以敏捷、专科的扶直才智,协助智象改日高效精确地完成问题定位和溯源,高效完成各种故障排查,并助力优化检修经过、擢升资源运用率。
行为智象改日的坚实后援,商汤大安装为其提供了超踏实、超高效的AI基础相貌扶直,以极致的资源运用助力智象改日快速完成模子迭代冲刺,在新一轮竞争中安谧中枢竞争力、开拓应用新场景。
基于对文生视频模子研发与应用需求的深远表现,商汤大安装已酿成涵盖底层算力处事、laaS 处事以及文生视频数据处理平台的全链路文生视频科罚决策,以端到端的 Al 基础相貌才智买通从数据到价值的“终末一公里”。
改日,商汤大安装与智象改日还将进行更深脉络、更多维度的调解,比如在对视频筛选、视频编码、视频超分等数据处理,以及模子推理优化等方面伸开疏通与调解接洽,以打造更优质、更高效、更易用的文生视频处事,得志各行业客户日益增长的各类化需求。
智象改日本事总监潘滢炜博士默示:“智象改日的模子迭代节拍快、检修强度大,对算力基础相貌的反馈速率、踏实性和处事才智都有着极高需求。商汤大安装‘天真、踏实、专科’的扶直才智开yun体育网,为咱们落幕模子的多元化场景应用、买互市业闭环提供了坚实基础,是咱们值得相信的永恒调解伙伴。”
上一篇:开yun体育网每股回购价钱为2.95港元-开云·kaiyun(中国)官方网站 登录入口
下一篇:没有了