首个国产单池万卡液冷算力集群投入运营 满足万亿级大模型训练需求
2024-05-20 【 字体:大 中 小 】
天翼云上海临港国产万卡算力池正式启用。
3月22日,中国电信宣布,天翼云上海临港国产万卡算力池正式启用,同时入驻首批用户。这是国内首个投入正式运营的国产单池万卡液冷算力集群,也是业内领先的全国产化云智一体公共智算中心。
会上,人工智能研究院、稀宇科技、百川智能、思必驰科技、亿熵智能科技、澜码科技、赛陇生物科技、天壤智能科技8家合作伙伴签署入驻协议。
全球人工智能发展正在进入“深水区”。随着生成式AI的迭代和发展,大模型规模以惊人的速度扩展,万亿参数级别几乎成为通用大模型的标配,由此带来的是算力需求的急剧增长。
作为践行《新型数据中心“算力浦江”行动计划(2022-2024年)》的重要举措之一,中国电信在临港新片区成立临港算力(上海)科技有限公司,加速临港算力中心建设,为长三角提供更加优质、更加普惠的智算公共服务。2024年初,中国电信在上海临港智算园区投建15000卡公共智能算力中心,这是全国规模最大的运营商级智算中心。
经过紧张的建设,3月22日,上海临港智算园区的首个国产单池万卡液冷算力集群正式交付,并投入商业运营。
此次启用的天翼云上海临港国产单池万卡液冷算力集群创新性地采用网络中置、算力分层的“魔方”型,实现了单一集群内万卡高速互联,满足万亿级参数大模型训练所需的多机多卡并行、高吞吐无损通信等需求。同时,为了实现绿色低碳的目标,全面采用融合液冷服务和IDC基础设施的新一代智算液冷DC舱,实现了数据中心的能效和智算集群的算效双提升,为“人工智能+”提供智能、弹性的绿色算力。
据介绍,此次正式运营的公共智算中心,以中国电信天翼云自研TeleCloudOS 4.0为底座,承载天翼云算力分发网络平台“息壤”、智算基础设施平台“云骁”、一站式智算服务平台“慧聚”,构建算力聚合分发的新模式,实现全栈能力自主可控、安全可信,多项技术指标领先,可为大模型企业提供从算力供给、算力输送、算力调度到模型训练及推理应用的一站式服务。
会上,八家合作伙伴宣布将作为首批用户入驻临港国产算力池,其中既有通用语言大模型公司百川智能、稀宇科技、思必驰科技、天壤智能,也有金融领域的行业大模型金声玉亮、企业级AI-Agent平台公司澜码科技、AI创新生物制药公司赛陇生物,以及上海人工智能研究院,基本覆盖基础层、技术层、应用层等人工智能完整产业链。
思必驰科技联合创始人、首席科学家俞凯接受澎湃新闻记者采访时表示,此次国产万卡算力池解决了算力供应问题,对租用算力的企业来说主要考虑两个问题,一个是有没有算力,二个是能不能用得起。“现在算力是有了,用不用得起上海是有一系列配套政策的。”俞凯表示,这次国产万卡算力池正式商用是一个很好的开始,在模型训练过程中一些适配以及针对性调整,总体上属于先进水平的算力中心。
猜你喜欢
中特转债下跌032%,转股溢价率6979%
2024年2月11日青岛市城阳蔬菜水产品批发市场有限公司价格行情
哈尔滨机场二月份运送旅客2385万人次 再创新高
市场延续缩量探底,国企改革概念获逆势抱团,这只人气股惊现地天板
唤醒乡村IP注入振兴活力
超23万市民获“微笑广州”公益福利,216人享免费种牙
权力与背叛:马斯克与奥特曼,如何从兄弟情走向商业对决?
2024年3月28日全国主要批发市场当归片(片形大、片形好、没有掺入股子片的)价格行情
中兴通讯公布国际专利申请:“行为识别方法、电子设备及计算机可读存储介质”
今日举行新闻发布会,证监会副主席李超将出席!防风险、强监管思路将更加明晰
华南植物园研究表明,多食用这类果蔬能减轻重金属危害
又一国股市熔断
8月1日威奥股份(605001)龙虎榜数据:游资量化打板上榜
爱克股份:8月12日高管郭群涛减持股份合计49万股
官方详解小米SU7车外唤醒防御:抑制率达99% 友商仅80%
ST易购(002024SZ):部分高管、核心业务骨干已累计增持288万股
前海蝉联第一!中国自贸区制度创新最新指数发布
比亚迪公布了自己7月份的销量依旧突破34万大关,具体数据为342,3
四大亮点措施!南沙推动数据资产管理国际标准率先落地实践
国务院支持中药工业龙头全产业链布局 中药板块有望迎上涨黄金期