Long Context

orchestra-research/ai-research-skills/19-emerging-techniques/long-context

作者 orchestra-research773a52944ba4MIT13K 个星标收录于 2026年10月8日更新于 2026年10月8日仓库3个月前更新

Extend context windows of transformer models using RoPE, YaRN, ALiBi, and position interpolation techniques. Use when processing long documents (32k-128k+ tokens), extending pre-trained models beyond original context limits, or implementing efficient positional encodings. Covers rotary embeddings, attention biases, interpolation methods, and extrapolation strategies for LLMs.

仅含说明AI & Agents

仅公开文件列表。将技能安装到工作区后即可查看文件内容。

路径大小类型
references/extension_methods.md14.2 KBtext/markdown
references/fine_tuning.md16 KBtext/markdown
references/rope.md11.8 KBtext/markdown
SKILL.md15.2 KBtext/markdown

来源与署名

来源:orchestra-research/ai-research-skills位于19-emerging-techniques/long-context提交773a529

许可证: MIT

内容归原作者所有。SourceWeft 从公开仓库中收录这些内容。

举报或申请下架