← 返回活动动态

AI创研·e起学:云边协同与分布式大模型

“AI创研·e起学”第一期聚焦云边协同与分布式大模型,邀请宋宇明、陈永麒分享研究与实践。内容从移动设备的算力、能耗和时延约束出发,讨论模型计算的动态切分;随后介绍 MoLink 平台,探索通过异构、分散的计算资源进行大模型推理。活动于2025年5月18日在蒙民伟楼302网上浙大厅举行。

活动时间
—
活动地点
蒙民伟楼302网上浙大厅
阅读公众号原文 ↗
AI创研·e起学:云边协同与分布式大模型
公众号配图 · 点击查看原图

“AI创研·e起学”第一期围绕云边协同与分布式大模型,讨论真实部署场景中的资源、延迟与带宽问题。

分享内容

  • 宋宇明:云边协同智能计算。围绕端侧设备的算力与能耗限制,讨论如何根据设备性能、网络条件选择模型计算的切分位置。
  • 陈永麒:MoLink平台。讨论如何利用分散、异构的计算资源开展大模型推理,并减少通信和流水线等待的开销。

活动信息

  • 时间:2025年5月18日14:00–15:30
  • 地点:蒙民伟楼302网上浙大厅

云边协同推理实验平台示意图云边协同推理实验平台示意图 · 点击查看原图 ↗

MoLink分布式推理平台示意图MoLink分布式推理平台示意图 · 点击查看原图 ↗

活动已结束,原文保留专题介绍与当时的活动资料。