QQ:355128452
导航菜单

新闻资讯

学画记作文600字 - 满分作文网

前脚 AMD 刚刚收购加拿大 AI 初创公司 Untether AI,后脚英伟达就斥资 4 亿美元收购了一家华人 95 后和导师联合创办的加拿大 AI 初创公司CentML[1]。这位青年名叫王尚,此前担任 CentML 的联合创始人兼 CTO。据了解,王尚出生于山东省青岛市,高中就读于青岛二中。2018 年其本科毕业于加拿大多伦多大学,后又在该校先后获得硕士学位和博士学位。他的硕博导师都是多伦多大学的根纳季·佩基门科(Gennady Pekhimenko)教授,而佩基门科教授本人则是 CentML 的联合创始人兼 CEO。值得注意的是,更早之前王尚还在谷歌、英特尔和华为加拿大分公司实习过。图 | 王尚(来源:http://www.cs.toronto.edu/~wangsh46/)在收购 CentML 之前,英伟达击败了竞标者并成为最终赢家。据介绍,CentML 开发的软件能在 AI 模型和芯片之间运行,从而利用尚未得到充分利用的硬件容量,并能采用其他技巧使系统运行得更好。CentML 通过出售软件的订阅服务来盈利,其还与云服务提供商签订了收入分成协议,进而将其技术捆绑到服务方案中,旨在帮助客户确定到底使用哪些硬件可以提高机器学习模型的性能并降低其成本,进而帮助客户从现有硬件中获得更多价值。图 | CentML 公司官网(来源:https://centml.ai/)据了解,CentML 于 2025 年 6 月 6 日终止了其加拿大联邦商业注册。一封发给 CentML 客户的电子邮件被曝光在社交媒体上,邮件显示 CentML 的运营将于 2025 年 7 月 17 日正式结束。与此同时,该公司更新了它的注册信息、董事以及通信地址。新列出的董事是三名英伟达高管,其通信地址为英伟达位于美国加利福尼亚的总部。事实上,这次收购可谓谋划已久。英伟达首次涉足 CentML 是在 2023 年 10 月,当时它为 CentML 提供了一笔 2700 万美元的种子轮融资。该轮融资由谷歌旗下专注于 AI 的 Gradient Ventures 基金领投,德勤创投、汤森路透创投和 Radical Ventures 等知名风投公司跟投。当时,这笔资金曾用于在 2024 年底前将 CentML 的 32 人团队扩大一倍。据一位消息人士告诉外媒,CentML 的出售对其投资者和股东而言价值远超 3 亿美元。但另一位消息人士表示,考虑到包括以“达到业绩目标为条件的承诺”在内的因素,该交易的总价值可能升至 4 亿美元以上,因此这笔交易可能会为 CentML 的早期投资者带来丰厚回报。图 | CentML 的四位联合创始人(来源:资料图)其实,王尚和英伟达的渊源颇深。在联合创办 CentML 之前,他曾在英伟达担任工程师,主要工作任务是帮助优化训练工作负载以便提高 GPU 性能,也就是说他第一次在英伟达负责的工作内容和后来所创立的 CentML 的业务内容大致类似。2022 年,他参与创办了 CentML,并由自己的导师佩基门科担任 CEO。佩基门科目前仍在加拿大多伦多大学担任副教授一职,并指导着将近 20 名学生。在 CentML 的四名主要创始成员中,除了佩基门科之外,其余三位创始成员中有两名都是自己的学生,而其中一名便是王尚。那么,他为何选择王尚一起创办了 CentML?王尚有着怎样的技术成果?关于此,从王尚的两篇代表论文或许可以窥斑见豹。这两篇论文分别于 2020 年和 2021 年发表在机器学习与系统会议(MLSys,Machine Learning and Systems)上。手握至少两篇顶会一作论文以及成果具有较高的应用性,可能是自己得以和导师共同创业的原因。那么,这两篇论文分别讲了什么?(来源:http://www.cs.toronto.edu/~wangsh46/)在 2020 年的一作论文中,王尚和同事旨在提高反向传播的可扩展性,为此他和同事将反向传播重新表述为一种扫描操作。扫描操作是一种原语,它按顺序对一系列值进行聚合,并返回每一步的中间结果。然后,通过改进之后的布莱洛克扫描算法(Blelloch scan algorithm),在并行系统上扩展这种反向传播的重新表述形式。研究中,他们使用合成数据集针对基础循环神经网络进行了训练评估,并使用 IRMAS 数据集针对带有门控循环单元的循环神经网络进行了训练评估,结果显示这一方法在整体训练时间上实现了高达 2.75 倍的速度提升,在反向传播上实现了 108 倍的速度提升,并证明针对剪枝后的网络进行重新训练可以作为这一方法的实际应用场景。(来源:http://www.cs.toronto.edu/~wangsh46/)在 2021 年的一作论文中,王尚等人分析了来自顶尖研究机构的 GPU 集群使用统计数据,以深入了解典型深度学习训练任务所实现的硬件效率。这一研究表明,当单加速器训练任务被重复启动时,例如当用于超参数调优时,它们可能会在集群范围内的资源消耗中占据主导地位,同时却在很大程度上并未充分利用硬件。研究中,王尚等人观察到这类工作负载具有以下独特特征:一是工作中的模型通常具有相同类型和形状的算子,二是这类算子的模型间水平融合等同于其他已经过良好优化的算子。因此,为了帮助业内人士有效提高深度学习训练工作负载的硬件利用率,王尚等人在这项研究中提出了水平融合训练阵列(HFTA,Horizontally Fused Training Array)。HFTA 是一个深度学习框架扩展库,它能够横向融合来自不同重复性任务的模型,直至算子级别,然后在共享加速器上实现同步训练。研究中,王尚等人将 HFTA 用于在当时最新 GPU 和 TPU 上训练的六个深度学习模型。结果表明,与在单独的加速器上运行每个作业的标准做法相比,HFTA 在提高硬件利用率方面非常有效,其训练吞吐量可提高高达 15.1 倍。(来源:http://www.cs.toronto.edu/~wangsh46/)由此可见,王尚在五年前就开始关注大模型,并在提高 GPU 利用率上做出了一定成果。而在 2025 年 5 月,也就是 CentML 被英伟达收购的不久之前,王尚接受一家外媒采访并介绍了 CentML 的业务进展。在上述采访中,王尚表示 CentML 的开源机器学习编译器 Hidet 可以直接对接该公司基于 vLLM 的服务引擎 CServe,进而与 CentML 的一体化 AI 基础设施方案实现顺畅集成。借助 CentML 平台,开发者能够选择 Llama、Mistral 或 DeepSeek 等任何开源模型,并将其部署在任何硬件上(从英伟达 H100、AMD MI300X 到 TPU 均可),后续的性能优化和部署工作则由该技术栈自动完成。王尚表示,通过 CentML 平台,他和同事对于经 AWQ 量化的 DeepSeek-R1 模型进行了优化和部署。在 GPU 内核层面,CentML 借助 Hidet 编译器的领域特定语言 Hexcute,为 DeepSeek -R1 的关键组成部分——混合专家层构建了一个全融合 GPU 内核。相比基于 Triton 编译器打造的同类最佳方案,这一做法将 MoE 层的速度提升了 2 到 11 倍。此外,在推理引擎层面,CentML 构建了 EAGLE 推测式解码技术,该技术利用一个更小的草稿模型来减少原始大模型的工作量并助力其实现并行化,从而能够实现 1.5 到 2 倍的速度提升。同样是在上述采访中,王尚还介绍了 CentML 团队发表在 2025 年机器学习与系统会议的一篇论文。该论文介绍了一款名为 Seesaw 的大模型推理引擎,其专门针对吞吐量导向型任务优化打造而来。Seesaw 的核心思想是动态模型重分片,该技术能够促进不同阶段间并行化策略的动态重构,从而在两个阶段均实现吞吐量最大化。为了减轻重分片开销以及优化计算效率,CentML 团队采用了分层 KV 缓存缓冲和过渡最小化调度的方法。这些方法通过协同作用能够减少因频繁的阶段转换所带来的开销,同时还能确保批处理效率的最大化。评估结果表明,与目前应用最广泛的顶尖大模型推理引擎 vLLM 相比,Seesaw 的吞吐量最高提升 1.78 倍(平均提升 1.36 倍)。(来源:https://arxiv.org/pdf/2503.06433)而此次 CentML 被英伟达收购以后,包含王尚在内的几位 CentML 创始人均已入职英伟达。原 CEO 佩基门科目前在英伟达担任 AI 软件高级总监,同时仍在多伦多大学担任教职;作为原 CTO 的王尚目前在英伟达担任 AI 软件系统经理;原首席架构师阿南德·贾亚拉詹(Anand Jayarajan)目前在英伟达担任工程经理;原 COO 阿克巴·努尔利巴耶夫(Akbar Nurlybayev)目前在英伟达担任 AI 软件高级经理。综合媒体报道和职业网站信息,英伟达此次还从 CentML 收编了十几名技术人员。总的来说,等待王尚等人的将是一个新的职业生涯。参考资料:1、https://thelogic.co/news/exclusive/nvidias-deal-centml-us400m/http://www.cs.toronto.edu/~wangsh46/https://thelogic.co/news/exclusive/centml-nvidia-acquisition-canada-ai/https://www.theglobeandmail.com/business/article-nvidia-acquires-canadian-machine-learning-company-centml/https://arxiv.org/abs/2402.16731https://arxiv.org/abs/2102.02344https://arxiv.org/abs/1907.10134https://www.linkedin.com/in/anandj91/https://www.linkedin.com/in/gpekhimenko/https://www.linkedin.com/in/akbarnurlybayev/?originalSubdomain=cahttps://www.linkedin.com/in/shang-sam-wang-52851489/https://centml.ai/
    • 🌈 中国同志色情软件 蜗牛小学作文(集合15篇)经典15篇

      无论是身处学校还是步入社会,大家总少不了接触作文吧,借助作文人们可以反映客观事物、表达思想感情、传递知识信息。相信许多人会觉得作文很难写吧,以下是小编帮大家整理的蜗牛小学作文,欢迎阅读与收藏。蜗牛小学 20250705

    • 🌈 轻熟女公公 我向往一样的人生作文 - 满分作文网

      我向往一样的人生作文,篇一:我向往,梅一样的人生流光瘦繁华,浮云吹作雪,世事煮成茶。空山人远去,回首落梅花。不流于俗、傲骨铮铮、乐于奉献,我向往,梅一样的人生。岁末归乡,庭中梅枝已含苞,院内草木皆萧条,乃取诗卷于架上,倚梅而坐。虽寒气凛冽,然寄心于诗文,以中有足乐者,故不觉衣单。一如身侧亭亭之梅,苞有清香气自华,清幽而氤 20250705

    • 🎉 综艺强奸大嫂 【必备】材料议论文作文

      在学习和工作中,许多人都写过论文吧,论文是进行各个学术领域研究和描述学术研究成果的一种说理文章。怎么写论文才能避免踩雷呢?下面是小编精心整理的材料议论文作文,希望能够帮助到大家。材料议论文作文1花开花 20250705

    • 🌟 泰国小雅 酱园弄·悬案观后感(通用12篇)

      当认真看完一部作品后,相信大家一定领会了不少东西,观后感就是看了一部影片,连续剧或参观展览等后,把具体感受和得到的启示写成的文章。在写观后感之前,可以先参考范文,下面是小编为大家整理的酱园弄·悬案观后感,欢迎大家分享。  酱园弄·悬案观后感 1  观看《酱园弄·悬案》,就像是经历了一场灵魂的洗礼,被带回到那个风雨飘摇的旧上海。影片以詹周氏杀夫案为线索,生动地描绘出时代背景下的众生相,深刻探讨了人性、社会制度以及女性命运等诸多议题。  从 20250705

    • 🍀 恶整老师游戏 北风吹雪花飘诗歌

      在生活、工作和学习中,大家都接触过很多优秀的诗歌吧,诗歌是按照一定的音节、韵律的要求,表现社会生活和人的精神世界的文学体裁。那什么样的诗歌才是大家都称赞的呢?下面是小编帮大家整理的北风吹雪花飘诗歌,欢迎阅读,希望大家能够喜欢。  北风吹雪花飘  北风吹雪花飘,  寒冷的冬天已来到。  小朋友们穿棉袄,  蹦蹦跳跳身体好。  北风吹雪花飘,  绿绿的麦苗全白了。  小麦苗盖上被,  暖暖和和睡一睡。  北风吹雪花飘,  地上屋顶全白了。  20250705

    • 🔥 港女食洋肠 寝室内使用违章电器检讨书

      导语:电器泛指所有用电的器具,从专业角度上来讲,主要指用于对电路进行接通、分断,对电路参数进行变换,以实现对电路或用电设备的控制、调节、切换、检测和保护等作用的电工装置、设备和元件;从普通民众的角度来讲,主要是指家庭常用的一些为生活提供便 20250705

    • 🍉 穿丝袜美女主播 英伟达收购95后华人青年AI创业公司,为提高GPU利用率再增新砝码

      英伟达收购95后华人青年AI创业公司,为提高GPU利用率再增新砝码,英伟达,gpu,amd,深度学习,机器学习,大语言模型,nvidia 20250705

    • 🌟 南美三级网站 学画记作文600字 - 满分作文网

      学画记作文600字,最近我的书法班停课了。妈妈给我重新找一个书法班,刚好这里也有少儿国画的课程就顺便一起报上了。没想到有心栽花花不开,无心插柳柳成荫,上了几节课,书法卡在行书上的我却一下子喜欢上了国画。第一节课老师先教我们画树。只见毛笔在老师的手里仿佛是一条神龙,在纸上游刃有余肆意游走,不一会儿,一棵神气活现的树就呈现 20250705

    • 🍉 无码巨乳二人中出 感恩实践活动日记(通用19篇)

      一天即将过去了,你有什么总结呢?这时候,最关键的日记怎么能落下。在写之前,要先考虑好内容和结构喔!下面是小编为大家收集的感恩实践活动日记,欢迎大家借鉴与参考,希望对大家有所帮助。  感恩实践活动日记 1  我和妈妈参加了牡丹晚报小记者中心举办的“感恩母亲节、亲子拓展游”活动,感触颇深!  一大早,兴奋不已的小记者与年轻热情的妈妈们齐聚菏泽日报社门口,乘坐大巴有说有笑,很快到达东明黄河森林公园。走进“君博园”,一位身穿迷彩服、青春四溢的帅 20250705

    • 🍎 对面淫妻中文字幕 励志演讲稿:我的未来不是梦

      梦,是虚幻的也是真实的;梦,是遥远的也是近在咫尺的;梦,是未来的也是现在的。我的梦是未来的,而我的未来不是梦。下文是小编整理的励志演讲稿:我的未来不是梦,欢迎阅读参考! 励志演讲稿:我的未来不是梦一 今天,我演讲的题目是:《我的未来不是梦》。 20250705