GLM-5.3、
SemiAnalysisKimbo Chen要
AI要約
3行で- SemiAnalysis が GLM-5.3 のスパース注意を分析しました。
- 上位 k 選択には全コンテキストが必要です。
- SGLang の HiSparse が DRAM 退避で補います。
AI要約です。詳しくは出典へ。誤りを報告
典
出典
1ソースSemiAnalysisHow GLM5.3 Sparse Attention Affects HBM Memory Usagenewsletter.semianalysis.com