コードリーディング: vLLM & LMCache
LLM推論サービングに関連するOSSのコードリーディング結果を構造化して蓄積するプロジェクト。
対象OSS
| OSS | ソースコード | 概要 | Phase |
|---|---|---|---|
| vLLM | target/vllm/ | LLM推論サービングエンジン | Phase 2 |
| LMCache | target/LMCache/ | KVキャッシュ保存・共有・再利用ライブラリ | Phase 0a |
プロジェクト横断
- 横断調査 — 複数OSSにまたがる調査報告
Press ← or → to navigate between chapters
Press S or / to search in the book
Press ? to show this help
Press Esc to hide this help