10 月 18 日消息，南华早报今天（10 月 18 日）发布博文，报道称在韩国首尔举办的第 31 届操作系统原理研讨会（sosp）上，阿里云发布的“aegaeon”的计算池化尊龙凯时的解决方案研究成果成功入选，可解决 ai 模型服务中普遍存在的 gpu 资源浪费问题。
sosp 是计算机操作系统领域的顶尖会议，相当于计算机操作系统界的“奥斯卡”，其录取率控制非常严格，平均每年收录的论文数量仅有数十篇，入选论文代表了操作系统和软件领域最具代表的研究成果。
博文称云服务商当前在提供 ai 模型服务时，面临着严重的资源效率低下问题。平台需要同时托管数千个 ai 模型以处理海量并发 api 调用，但用户请求往往高度集中在少数几个热门模型上，例如阿里巴巴的 qwen 系列模型。
研究人员发现，这种“长尾效应”导致了严重的资源闲置：在阿里云的模型市场中，竟有 17.7% 的 gpu 算力仅被用于处理 1.35% 的请求，造成了巨大的成本浪费。
为解决这一痛点，aegaeon 系统应运而生。它通过创新的 gpu 资源池化技术，允许单个 gpu 动态服务于多个不同的 ai 模型，打破了以往 gpu 与特定模型绑定的低效模式。
在阿里云模型市场进行的为期超过三个月的 beta 测试中，aegaeon 系统展现了卓越的效能。测试数据显示，服务数十个参数量高达 720 亿的大模型，所需的英伟达 h20 gpu 数量从 1192 个成功减少至 213 个，数量削减高达 82%。
这项由北京大学与阿里云合作的研究成果，被认为是“首个揭示并解决市场上并发大语言模型服务存在过高成本”的公开工作，为行业提供了全新的优化思路。
值得一提的是，阿里云首席技术官周靖人也是该论文的作者之一。周靖人是国际电气与电子工程师协会会士（ieee fellow），国际计算机协会会士（acm fellow），阿里巴巴集团副总裁，阿里云智能 cto、达摩院副院长。