GitHub Hot Board · Архів репозиторію

tiiny-ai/powerinfer

High-speed Large Language Model Serving for Local Deployment

C++MITПопередження про простій · Push 182 дн. тому#large-language-models #llama #llm #llm-inference #local-inference

ДокументаціяВідкрити на GitHub

зірки

9.9k

форки

618

issues

134

Приріст за день

—

днів онлайн

6-Axis Combat Radar

Combat Limits & Architectural Persona

Compare with other repos ->

Architectural Persona

Specialized Tactical Vanguard

Distinct edge and dedicated footprint in specialized territory

Combat Score

/ 100

7-Day Star Velocity

Fork/Star Adoption

6.3%

Накоплені зірки

Next Milestone: 10k (126 stars to go)+2 (3d)

2026-11-09: 9.9k

Приріст за день

Max: +1 / day

Схожі проєкти · спільні теми

tensorflow/tensorflow201.4k ggml-org/llama.cpp133.8k react/react-native126.9k electron/electron123.8k godotengine/godot119.9k microsoft/terminal105.4k

Майстерня бейджів для розробників

Вбудувати живий бейдж у README на GitHub

Вбудовуйте динамічні SVG-значки в README, щоб відображати рейтинг у реальному часі та прямі посилання на документацію.

Попередній перегляд240 x 64 px SVG

GitHub Dark Theme

GitHub Light Theme

GitHub README <picture> (Auto Dark/Light)

<a href="https://git.zoyku.com/uk/repo/tiiny-ai/powerinfer" target="_blank" rel="noopener noreferrer">
  <picture>
    <source media="(prefers-color-scheme: dark)" srcset="https://git.zoyku.com/api/badge/card/tiiny-ai/powerinfer?theme=dark&lang=uk" />
    <img alt="GitHub Hot Rank - tiiny-ai/powerinfer" src="https://git.zoyku.com/api/badge/card/tiiny-ai/powerinfer?theme=light&lang=uk" height="64" />
  </picture>
</a>