估算 Hugging Face 模型推理所需显存，无需下载权重

hf-mem

hf-mem 是 SkillFeeder 收录的Agent Skill，来自 GitHub 仓库 huggingface/skills，★ 11,332。估算 Hugging Face 模型推理所需显存，无需下载权重。适合部署工程师、GPU选型者。场景是工程开发 · 云与部署。能做的事包括支持 Safetensors 和 GGUF 格式、精确计算模型权重+KV缓存内存、通过 HTTP Range 请求远程分析。打开 GitHub 自行安装。

打开 GitHub

仓库: huggingface/skills
仓库星标: ★ 11,332
场景: 工程开发 · 云与部署
适合: 部署工程师、GPU选型者
类型: Skill

能做什么

支持 Safetensors 和 GGUF 格式
精确计算模型权重+KV缓存内存
通过 HTTP Range 请求远程分析

原文简介

Hugging Face CLI to estimate the required memory to load Safetensors or GGUF model weights for inference from the Hugging Face Hub

同场景推荐

android-clean-architecture所在仓库 affaan-m/ECC，仓库 ★ 300,897快速搭建符合 Clean Architecture 的 Android/KMP 模块分层结构
deprecation-and-migration所在仓库 addyosmani/agent-skills，仓库 ★ 115,309安全下线旧代码、迁移用户和数据，全程零宕机
performance-optimization所在仓库 addyosmani/agent-skills，仓库 ★ 115,309定位并修复前端、后端、数据库和查询中的真实性能瓶颈
db-migrations所在仓库 lobehub/lobehub，仓库 ★ 84,924生成可重放、免冲突的 Drizzle 数据库迁移脚本
blueprint-figure所在仓库 rohitg00/ai-engineering-from-scratch，仓库 ★ 78,350用真实系统名称自动生成带蓝图风格的静态SVG示意图
penetration-testing-with-strix所在仓库 usestrix/strix，仓库 ★ 74,896自动渗透测试并生成带可复现 PoC 的漏洞报告
about-page所在仓库 thedaviddias/Front-End-Checklist，仓库 ★ 74,703生成可信的关于页面，提升网站权威性与用户信任度。
experiment-bridge所在仓库 wanshuiyin/Auto-claude-code-research-in-sleep，仓库 ★ 18,864自动读取实验计划并执行代码、部署到GPU、收集初始结果