SkillFeeder › 全部 Skill › 工程开发 › huggingface-local-models
huggingface-local-models
huggingface-local-models 是 SkillFeeder 收录的Agent Skill，来自 GitHub 仓库 huggingface/skills，★ 11,332。在本地CPU/Mac Metal/CUDA/ROCm上快速启动Hugging Face上的GGUF模型。适合本地部署LLM的开发者。场景是工程开发 · SDK/API。能做的事包括自动筛选llama.cpp兼容的GGUF模型仓库、智能推荐量化等级并确认精确.gguf文件名、一键启动命令行或OpenAI兼容API服务。打开 GitHub 自行安装。
能做什么
- 自动筛选llama.cpp兼容的GGUF模型仓库
- 智能推荐量化等级并确认精确.gguf文件名
- 一键启动命令行或OpenAI兼容API服务
原文简介
Use to select models to run locally with llama.cpp and GGUF on CPU, Mac Metal, CUDA, or ROCm. Covers finding GGUFs, quant selection, running servers, exact GGUF file lookup, conversion, and OpenAI-compatible local serving.
同场景推荐
- api-design所在仓库 affaan-m/ECC，仓库 ★ 300,897设计符合行业标准的 REST API 接口规范
- firecrawl-build所在仓库 firecrawl/firecrawl，仓库 ★ 200,624把实时网页数据接入应用代码，支持搜索、抓取和结构化提取
- firecrawl-build-interact所在仓库 firecrawl/firecrawl，仓库 ★ 200,624点击、填表、翻页、登录后持续交互并提取动态页面数据
- firecrawl-build-onboarding所在仓库 firecrawl/firecrawl，仓库 ★ 200,624一键获取 Firecrawl API 密钥并写入 .env 文件
- firecrawl-build-search所在仓库 firecrawl/firecrawl，仓库 ★ 200,624根据用户问题搜索全网，返回带摘要的优质网页列表。
- pdf所在仓库 anthropics/skills，仓库 ★ 192,542读取、编辑、合并、拆分、加密PDF，提取文字表格图像，OCR扫描件，填写表单
- api-and-interface-design所在仓库 addyosmani/agent-skills，仓库 ★ 115,309设计出难误用、易演进的稳定接口
- chat-sdk所在仓库 lobehub/lobehub，仓库 ★ 84,924一次开发，跨平台部署聊天机器人