时间:2026-11-22 02:48:41 来源:网络整理 编辑:百科
非營利組織 LMSYS Org 12 日在舊金山首屆 SGLang Summit 開幕主題演講,宣布成立「SGLang 聯盟」SGLang Consortium)。創始成員有輝達、AMD、英特爾、Go 美区ios id内购
非營利組織 LMSYS Org 12 日在舊金山首屆 SGLang Summit 開幕主題演講,立Sg聯宣布成立「SGLang 聯盟」(SGLang Consortium)。盟輝創始成員有輝達、共推AMD、開源英特爾、推論Google、立Sg聯美区ios id内购Meta、盟輝Cloudflare、共推Modal 與 RadixArk,開源共八家業者,推論一起參與開源 AI 推論引擎 SGLang 發展藍圖。立Sg聯
SGLang目前已在數十萬顆GPU運行。盟輝Meta、共推微軟、開源Google、推論apple id 日区帐号注册登录 App Store使用教程亞馬遜、Thinking Machines Lab、Cloudflare、Reflection與Modal等業者,都用它支撐正式環境的推論服務。支援的硬體包括輝達與AMD GPU、英特爾Xeon處理器及Google TPU。
依照聯盟的運作方式,每家創始成員各指派一名技術代表,每年參加兩次藍圖會議。會議之間可成立工作小組協作,並公開發表方向與進度。成員可用工程專業、部署回饋、測試資源或共同開發等方式貢獻。重點領域包括尖端模型支援、推理與多模態工作負載、分散式推論及硬體最佳化。不過,技術決策與程式碼採納仍由SGLang維護者負責,專案也持續開放給整個社群。
SGLang原始論文共同作者、RadixArk共同創辦人暨執行長Ying Sheng代表團隊表示,大規模運行SGLang的團隊,最能率先看見推論下一步的需求。輝達超大規模與高效能運算副總裁Ian Buck指出,更好的軟體能協助開發者從輝達運算資源取得更多效能。AMD人工智慧應用企業副總裁Ramine Roane則表示,開源讓開發者能進一步推進AI推論。
LMSYS Org引述Deloitte預測指出,推論的AI運算占比,預料將從2025年約一半提高至2026年約三分之二。推論需求攀升,軟體層效率改善已成為晶片商與雲端業者爭取效能的關鍵。
不過,這次公告沒有提出具體時程、功能優先順序或效能數據。聯盟能否把成員的需求轉化為實際採納的程式,仍有待觀察;使用者也需要針對自己的模型與硬體驗證效益。首屆SGLang Summit 12~13日舉行,超過百位講者參與,議程涵蓋強化學習、多模態模型與硬體平台等主題。
(首圖來源:LMSYS Org)
《面向“好房子”建设好材料选用指南》围护结构材料专篇——高分子膜基预铺防水卷材2026-11-22 02:39
2平米的卫生间装修图2026-11-22 02:32
上海展览中心(集团)有限公司原党委副书记、总裁孙小明涉嫌受贿一案,由上海市监察委员会调查终结,移送检2026-11-22 02:31
粤超总决赛延期至11月28日开赛2026-11-22 02:21
格蕾美藜麦粗粮饮料以实力加持,抢占市场前沿,代理就在当下!2026-11-22 02:01
泰康人寿风险提示|替人担保签字前,请先看清这四笔账2026-11-22 01:58
南通:江海交汇处,硬朗又温柔 “拥抱南通就是拥抱苏南、拥抱上海。”,拥抱南通也是拥抱一种“可负担的舒适”。在这里,有长三角的产业机遇,有全国领先的交通效率,有持续投入的民生温度,还有让年轻人“耐得住性子”的生活成本。 城市研究 04-14 6评论2026-11-22 01:16
厦门民立小学“风筝飞行探秘”课程获STEM教育大奖2026-11-22 01:03
“五一”假期泉州中心市区10家医疗机构门诊服务4.5万余人次2026-11-22 00:10
2平方房间装修效果图-三维家2026-11-22 00:02
在家辦公最大遺產是 AI?史丹佛經濟學家:數位溝通激增成 LLM 訓練寶庫2026-11-22 02:42
市五届人大六次会议主席团举行第四次会议2026-11-22 02:27
《人民日报》头版报眼点赞云南昭通2026-11-22 02:07
昆山杜克大学明年将面向河南招生2026-11-22 01:34
新出了院士的金发科技,何时摆脱“薄利”之痛|2025行业科创解读(十九) 科创力 2025-11-22 1评论2026-11-22 01:29
昆山杜克大学明年将面向河南招生2026-11-22 01:22
摘养NFC系列上市即卖爆,市场渠道快速形成完整产业链2026-11-22 01:19
房企为了缓解压力,全国范围内降价6%2026-11-22 00:45
山东分布式光伏涉网安全改造取得新突破2026-11-22 00:41
美國會即將變天?民主黨奪參院機率飆至 74%2026-11-22 00:17