Sky-T1-32B-Preview

Sky-T1-32B-Preview是由加州大学伯克利分校的NovaSky团队开发的推理模型。该模型在流行的推理和编程基准测试中表现出色,与o1-preview相当,且训练成本不到450美元,展示了以低成本高效复制高级推理能力的可能性。该模型完全开源,包括数据、代码和模型权重,旨在推动学术界和开源社区的发展。其主要优点是低成本、高性能和开源,为研究人员和开发者提供了宝贵的资源。

需求人群:

"目标受众包括研究人员、开发者和学术机构。该模型适合那些希望在低成本下进行高级推理模型研究和开发的团队,以及希望利用开源资源推动技术进步的社区。"

使用场景示例:

研究人员可以利用该模型的开源代码和权重,进行推理模型的进一步研究和优化。

开发者可以基于该模型开发新的应用程序,特别是在编程辅助和数学问题解决领域。

学术机构可以将其作为教学资源,让学生了解和实践高级推理模型的训练和应用。

产品特色:

在数学和编程领域均展现出强大的推理能力。

使用QwQ-32B-Preview生成训练数据,并通过拒绝采样和数据重写提高数据质量。

利用8个H100 GPU和DeepSpeed Zero-3 offload在19小时内完成训练,成本约450美元。

提供详细的开源代码和模型权重,便于社区复现和改进。

通过在不同数据集上的评估,展示了模型在数学和编程任务上的竞争力。

使用教程:

1. 访问项目GitHub页面,获取开源代码和模型权重。

2. 根据提供的技术报告和wandb日志,了解模型的训练细节和数据处理方法。

3. 使用提供的基础设施代码,构建数据、训练和评估模型。

4. 利用模型权重进行推理任务,或在模型基础上进行进一步的微调和开发。

5. 参考评估结果,了解模型在不同任务上的表现,优化模型应用。

浏览量:24

打开站点

网站流量情况

最新流量情况

月访问量

15.03k

平均访问时长

00:00:37

每次访问页数

1.49

跳出率

48.75%

流量来源

直接访问

57.72%

自然搜索

8.64%

邮件

0.63%

外链引荐

14.23%

社交媒体

18.55%

展示广告

0

截止目前所有流量趋势图

地理流量分布情况

德国

6.60%

印度

4.55%

俄罗斯

8.39%

美国

74.74%

类似产品

© 2025     AIbase    备案号:闽ICP备08105208号-14

隐私政策

用户协议

意见反馈 网站地图