SkillFeeder › 全部 Skill › 工程开发 › hf-mem

快速估算 Hugging Face 模型推理所需显存,无需下载权重

hf-mem

hf-mem 是 SkillFeeder 收录的Agent Skill,来自 GitHub 仓库 alvarobartt/hf-mem,★ 947。快速估算 Hugging Face 模型推理所需显存,无需下载权重。适合模型部署者、GPU 资源评估者。场景是工程开发 · 云与部署。能做的事包括支持 Safetensors 和 GGUF 格式、精确计算模型权重加 KV 缓存内存、通过 HTTP Range 请求远程分析。打开 GitHub 自行安装。

打开 GitHub

仓库
alvarobartt/hf-mem
仓库星标
★ 947
场景
工程开发 · 云与部署
适合
模型部署者、GPU 资源评估者
类型
Skill

能做什么

原文简介

Hugging Face CLI to estimate the required memory to load Safetensors or GGUF model weights for inference from the Hugging Face Hub

同场景推荐