GitHub Hot Board · Archiwum repozytorium
syv-ai/hyperqwen
Serve large Qwen models fast on the GPUs you actually own. Qwen3.8-27B on a single 24 GB card with vLLM: 127 tok/s single-user (381 when the answer quotes the prompt), ~1,035 tok/s at 64 concurrent, 150k-262k context. vLLM patches, requant pipeline, benchmarks.
PythonApache-2.0Aktywnie rozwijany · Push 5 dni temu#consumer-gpu#cuda#inference-optimization#kv-cache#llm-inference#local-llm#quantization#qwen
gwiazdki
2.6k
forki
332
issues
15
Dzienny przyrost
—
dni online
3d
6-Axis Combat Radar
Combat Limits & Architectural Persona
Architectural Persona
Specialized Tactical Vanguard
Distinct edge and dedicated footprint in specialized territory
Combat Score
61
/ 100
7-Day Star Velocity
0
Fork/Star Adoption
12.7%
Skumulowane gwiazdki
Next Milestone: 5k (2.4k stars to go)+80 (3d)2026-11-08: 2.6k
Dzienny przyrost
Max: +72 / day
Podobne projekty · wspólne tematy
Studio Odznak dla Twórców
Wstaw odznakę na żywo do README na GitHubie
Umieść dynamiczne odznaki SVG w swoim pliku README, aby pokazać rankingi w czasie rzeczywistym i linki do dokumentacji.
Podgląd240 x 64 px SVG
GitHub Dark Theme
GitHub Light Theme