新芒x 2月1日消息 Meta AI 推出了 Code Llama 70B,这是一个专为代码生成而设计的扩展开源 AI 模型,能够使用 Python、C++、Java 和 PHP 进行编写。
Llama 2 的增强版拥有 1750 亿个参数,在 5000 亿个 token 上进行训练,提供了 100,000 个 token 的扩展上下文窗口,用于处理复杂的代码结构。
- CodeLlama-70B-Instruct 变体在 HumanEval 上得分为 67.8,超越了之前的开放模型,可与 GPT-4 和 Gemini Pro 等封闭模型相媲美。
- CodeLlama-70B-Instruct 擅长理解自然语言指令并为排序、搜索和算法实现等任务生成代码。
- 另一种变体CodeLlama-70B-Python是专为Python设计的,利用1000亿个Python代码来增强其生成的流畅性和准确性。
- 与 Llama 2 具有相同的许可证,商业和研究用户可以免费下载 Code Llama 70B。
- 该版本将极大地影响代码生成和软件开发,为代码创建和改进提供强大的工具,并具有新应用程序的潜力。