StarCoder是什么?
BigCode 是由 Hugging Face 和 ServiceNow 共同领导的开放式科学合作项目,致力于负责任地开发代码的大型语言模型。
StarCoder 和 StarCoderBase 是针对代码的大型语言模型(代码 LLM),根据来自 GitHub 的许可数据进行训练,包括来自 80 多种编程语言、Git 提交、GitHub 问题和 Jupyter 笔记本。
他们在编程基准方面优于现有的开放代码 LLM,并且匹配或超过封闭模型(如 CoPilot)。
上下文长度超过 8,000 个标记,他们可以处理比任何其他开放式 LLM 更多的输入。他们可以充当技术助手,自动完成代码,修改代码并用自然语言解释代码。
这些模型是在改进的 OpenRAIL 许可下发布的,使公司更容易将它们集成到他们的产品中。这些模型有望成为社区使用和适应其用例和产品的坚实基础。
已使用 Python 的 HumanEval 基准对 StarCoder 进行了评估,发现其性能优于大型模型,例如 PaLM、LaMDA 和 LLaMA - 尽管更小!
如何使用?
- Paper: A technical report about StarCoder.
- GitHub: All you need to know about using or fine-tuning StarCoder.
- StarCoder: StarCoderBase further trained on Python.
- StarCoderBase: Trained on 80+ languages from The Stack.
- StarEncoder: Encoder model trained on TheStack.
- StarPii: StarEncoder based PII detector.
Tools & Demos
- StarCoder Chat: Chat with StarCoder!
- VSCode Extension: Code with StarCoder!
- StarCoder Playground: Write with StarCoder!
- StarCoder Editor: Edit with StarCoder!
©版权声明:如无特殊说明,本站所有内容均为AIHub.cn原创发布和所有。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。否则,我站将依法保留追究相关法律责任的权利。