AI“メモリ爆食い”の救世主なるか、Googleの極限圧縮技術「TurboQuant」(4/5)

アテンションロジット計算における、最適化されたベースラインに対する処理の高速化（Speedup）を示したグラフ。入力されるデータ量（シーケンス長）が増加しても大幅なパフォーマンスの向上が確認できる