Knowledge Distillation
orchestra-research/ai-research-skills/19-emerging-techniques/knowledge-distillation作者 orchestra-research773a52944ba4MIT13K 個星標收錄於 2026年10月8日更新於 2026年10月8日儲存庫3 個月前更新
Compress large language models using knowledge distillation from teacher to student models. Use when deploying smaller models with retained performance, transferring GPT-4 capabilities to open-source models, or reducing inference costs. Covers temperature scaling, soft targets, reverse KLD, logit distillation, and MiniLLM training strategies.
- 773a52944ba4目前提交 773a529發布於 2026年10月8日
來源與署名
來源：orchestra-research/ai-research-skills位於19-emerging-techniques/knowledge-distillation提交773a529
授權條款： MIT
內容歸原作者所有。SourceWeft 從公開儲存庫中收錄這些內容。
更多來自 orchestra-research/ai-research-skills 的技能
Speculative Decoding
orchestra-research
指導使用推測解碼、Medusa 多頭預測與前瞻解碼來加速大型語言模型推論。
Systems Paper Writing
orchestra-research
為 OSDI、SOSP、ASPLOS、NSDI 等系統會議論文寫作提供段落層級結構與篇幅分配指引。
Moe Training
orchestra-research
指導使用 DeepSpeed 或 HuggingFace 訓練與推論混合專家模型，涵蓋路由、負載平衡與專家平行。
Presenting Conference Talks
orchestra-research
Generates conference presentation slides (Beamer LaTeX PDF and editable PPTX) from a compiled paper with speaker notes and talk script. Use when preparing oral talks, spotlight presentations, or invited talks for ML and systems conferences.
Model Pruning
orchestra-research
指導使用 Wanda、SparseGPT、幅度剪枝與 N:M 方法壓縮 LLM，縮小模型體積並加速推論。
Outlines
orchestra-research
指導使用 Outlines 函式庫，透過本機模型進行受結構約束的文字生成。
更多AI & Agents技能
Ppt Template Creator
anthropics
將使用者的 PowerPoint 範本轉換為可重用的技能，用來產生品牌簡報。
Skill Development
anthropics
指導建立 Claude Code 外掛技能，涵蓋結構、描述、漸進式揭露與驗證。
Plugin Structure
anthropics
說明 Claude Code 外掛的結構、資訊清單與元件配置方式。
Command Development
anthropics
指導建立 Claude Code 斜線命令，涵蓋結構、YAML frontmatter、參數與外掛功能。
Claude Md Improver
anthropics
稽核儲存庫中的 CLAUDE.md 檔案、評估其品質，並在取得核准後套用針對性的改進。
Find Skills
vercel-labs
指導透過 npx skills 命令列工具探索、評估並安裝代理技能。