turboquant-pytorch

Name: turboquant-pytorch
Author: Aradotso

PyTorch implementation of TurboQuant for LLM KV cache compression using two-stage vector quantization (random rotation + Lloyd-Max + QJL residual correction).

ソースを表示 framework-internals

maintainer

Aradotso

更新日 3/28/2026

スター

フォーク

quick start

Installation and usage

PyTorch implementation of TurboQuant for LLM KV cache compression using two-stage vector quantization (random rotation + Lloyd-Max + QJL residual correction).

インストール

$ install --globalskills.sh

使い方

インストール後、ターミナルで以下のコマンドを実行してこのスキルを使用できます：

skills use turboquant-pytorch