产品库

Llama模型、技术和爱好者的家园

Llama Family是一个开源平台，致力于构建开放的Llama模型生态，包含多种大模型和代码模型。具有丰富的功能和优势，提供各种算力获取和模型训练合作方式。价格根据合作方式而定，包括免费和付费选项。主要功能包括模型训练、算力获取、开源生态共建等。适用于各种技术爱好者和开发者。

基于Linux环境快速部署开源大模型的教程

该项目是一个围绕开源大模型的全流程指导教程,包括环境配置、模型部署、高效微调等,简化开源大模型的使用和应用,让更多普通学习者能够使用开源大模型。项目面向对开源大模型感兴趣且想自主上手的学习者,提供详细的环境配置、模型部署和微调方法。

免费 npm 库，用 Llama 3.2 Vision 进行 OCR，输出 markdown 文本

开源 npm 库，免费使用 Llama 3.2 Vision 进行 OCR，支持本地和远程图像，计划支持 PDF，受 Zerox 启发，有免费和付费接口

AI云端一体化解决方案，提供模型API、Serverless和GPU租赁服务。

派欧算力云是一个一站式AIGC云服务平台，提供高性价比的GPU基础设施和无缝集成的最前沿AI推理技术。它全面覆盖不同业务阶段的AI需求，加速业务发展。派欧算力云的主要优点包括：高性能的云服务产品、无需管理和运维GPU基础设施、自动弹性扩缩容、全球覆盖的GPU容器实例、7X24小时客户服务。产品背景信息显示，派欧算力云旨在为AI应用开发者提供强大的算力支持，降低开发成本，提高开发效率。

秒级计费的弹性GPU租用服务

AutoDL为您提供专业的GPU租用服务,秒级计费、稳定好用,高规格机房,7×24小时服务。您可以弹性部署AI模型,实现震撼上线,同时提供算法复现社区,一键复现经典算法。

共享闲置显卡算力赚钱

算了么是一个利用用户闲置GPU算力进行科学研究和获得收益的平台。用户可以通过共享他们的闲置显卡资源，支持科研计算任务，如疾病研究和环境保护，同时获得相应的经济回报。该平台不仅促进了科技进步，还实现了资源的高效利用，为个人和科研机构提供了双赢的解决方案。

构建最好的中文Llama大模型，完全开源可商用。

Llama中文社区是一个专注于Llama模型在中文方面的优化和上层建设的技术社区。社区提供基于大规模中文数据的预训练模型，并对Llama2和Llama3模型进行持续的中文能力迭代升级。社区拥有高级工程师团队支持，丰富的社区活动，以及开放共享的合作环境，旨在推动中文自然语言处理技术的发展。

用于微调Meta Llama模型的库和示例脚本集合

llama-recipes是Meta Llama模型的配套仓库，旨在提供一个可扩展的库，用于微调Meta Llama模型，并提供一些示例脚本和笔记本，以便快速开始使用模型在各种用例中，包括领域适应的微调和构建基于LLM的应用程序。

开源 AI 语言模型

Llama 2 是我们的下一代开源大型语言模型，提供免费的研究和商业使用。它具有强大的功能和性能，通过与外部合作伙伴和内部团队的测试，不断提升安全性和性能。Llama 2 支持广泛的使用场景，是解决难题和推动创新的理想选择。

使用开源模型Llama-3.1 70b在Groq上创建类似o1的推理链

g1是一个实验性的项目，旨在通过使用Llama-3.1 70b模型在Groq硬件上创建类似于OpenAI的o1模型的推理链。这个项目展示了仅通过提示技术，就可以显著提高现有开源模型在逻辑问题解决上的能力，而无需进行复杂的训练。g1通过可视化的推理步骤，帮助模型在逻辑问题上实现更准确的推理，这对于提高人工智能的逻辑推理能力具有重要意义。

一个基于Llama模型的量化版本，用于对话和幻觉检测。

PatronusAI/Llama-3-Patronus-Lynx-8B-v1.1-Instruct-Q8-GGUF是一个基于Llama模型的量化版本，专为对话和幻觉检测设计。该模型使用了GGUF格式，拥有8.03亿参数，属于大型语言模型。它的重要性在于能够提供高质量的对话生成和幻觉检测能力，同时保持模型的高效运行。该模型是基于Transformers库和GGUF技术构建的，适用于需要高性能对话系统和内容生成的应用场景。

与您最喜爱的LLaMA LLM模型聊天

LlamaChat是一个桌面客户端，可以与LLaMA、Alpaca和GPT4All模型进行聊天。Alpaca是斯坦福大学基于OpenAI的text-davinci-003数据进行Fine-tuning后的7B参数LLaMA模型。您可以使用LlamaChat导入原始的PyTorch模型检查点文件或预转换的.ggml模型文件。LlamaChat是完全开源免费的，并且始终如一地保持开源。您可以在GitHub上找到更多信息。

最前沿的开源AI模型，支持多语言和高级功能。

Llama 3.1是Meta AI推出的最新一代大型语言模型，具有128K的上下文长度扩展、支持八种语言，并首次开源了405B参数级别的前沿AI模型。该模型在通用知识、可控性、数学、工具使用和多语言翻译方面具有最先进的能力，能够与最好的闭源模型相媲美。Llama 3.1的发布，将为开发者提供解锁新工作流程的工具，例如合成数据生成和模型蒸馏。

Stability AI 生成模型是一个开源的生成模型库。

Stability AI 生成模型是一个开源的生成模型库，提供了各种生成模型的训练、推理和应用功能。该库支持各种生成模型的训练，包括基于 PyTorch Lightning 的训练，提供了丰富的配置选项和模块化的设计。用户可以使用该库进行生成模型的训练，并通过提供的模型进行推理和应用。该库还提供了示例训练配置和数据处理的功能，方便用户进行快速上手和定制。

新一代开源大型语言模型,性能卓越

Meta Llama 3是Meta公司推出的新一代开源大型语言模型,性能卓越,在多项行业基准测试中表现出色。它可支持广泛的使用场景,包括改善推理能力等新功能。该模型将在未来支持多语种、多模态,提供更长的上下文窗口和整体性能提升。Llama 3秉承开放理念,将被部署在主要云服务、托管和硬件平台上,供开发者和社区使用。

开源AI模型，可微调、蒸馏、部署。

Llama 3.2是一系列大型语言模型（LLMs），预训练和微调在1B和3B大小的多语言文本模型，以及11B和90B大小的文本和图像输入输出文本的模型。这些模型可以用于开发高性能和高效率的应用。Llama 3.2的模型可以在移动设备和边缘设备上运行，支持多种编程语言，并且可以通过Llama Stack构建代理应用程序。

开源幻觉评估模型

Llama-3-Patronus-Lynx-8B-Instruct是由Patronus AI开发的一个基于meta-llama/Meta-Llama-3-8B-Instruct模型的微调版本，主要用于检测在RAG设置中的幻觉。该模型训练于包含CovidQA、PubmedQA、DROP、RAGTruth等多个数据集，包含人工标注和合成数据。它能够评估给定文档、问题和答案是否忠实于文档内容，不提供文档之外的新信息，也不与文档信息相矛盾。

一个用于检测幻觉的开源评估模型，基于Llama-3架构，拥有700亿参数。

PatronusAI/Llama-3-Patronus-Lynx-70B-Instruct是一个基于Llama-3架构的大型语言模型，旨在检测在RAG设置中的幻觉问题。该模型通过分析给定的文档、问题和答案，评估答案是否忠实于文档内容。其主要优点在于高精度的幻觉检测能力和强大的语言理解能力。该模型由Patronus AI开发，适用于需要高精度信息验证的场景，如金融分析、医学研究等。该模型目前为免费使用，但具体的商业应用可能需要与开发者联系。

Meta 新一代开源大型语言模型,性能卓越

Meta Llama 3是Meta公司推出的新一代开源大型语言模型,性能卓越,在多项行业基准测试中表现出色。它可支持广泛的使用场景,包括改善推理能力等新功能。该模型将在未来支持多语种、多模态,提供更长的上下文窗口和整体性能提升。Llama 3秉承开放理念,将被部署在主要云服务、托管和硬件平台上,供开发者和社区使用。

从零开始实现Llama3模型

这是一个开源项目，作者naklecha从零开始实现了Llama3模型，这是一个大型语言模型。项目提供了详细的代码实现，包括模型的各个组成部分，如注意力机制、前馈网络等。通过这个项目，开发者可以深入理解大型语言模型的工作原理，同时也可以在此基础上进行自己的实验和改进。

世界顶尖的开源大型语言模型

Reflection Llama-3.1 70B 是目前世界上顶尖的开源大型语言模型（LLM），采用名为 Reflection-Tuning 的新技术进行训练，使模型能够检测其推理中的错误并进行修正。该模型在合成数据上进行了训练，这些数据由 Glaive 生成。对于正在训练模型的用户来说，Glaive 是一个非常出色的工具。该模型使用标准的 Llama 3.1 聊天格式，通过特殊的标签来区分模型的内部思考和最终答案，从而提升用户体验。

DeepSeek-R1-Distill-Llama-8B 是一个高性能的开源语言模型，适用于文本生成和推理任务。

DeepSeek-R1-Distill-Llama-8B 是 DeepSeek 团队开发的高性能语言模型，基于 Llama 架构并经过强化学习和蒸馏优化。该模型在推理、代码生成和多语言任务中表现出色，是开源社区中首个通过纯强化学习提升推理能力的模型。它支持商业使用，允许修改和衍生作品，适合学术研究和企业应用。

AIGC 应用快速构建平台

派欧算力云大模型 API 提供易于集成的各模态 API 服务，包括大语言模型、图像、音频、视频等，旨在帮助用户轻松构建专属的 AIGC 应用。该平台拥有丰富的模型资源，支持个性化需求的模型训练和托管，同时保证用户私有模型的保密性。它以高性价比、高吞吐量和高性能推理引擎为特点，适用于多种 AI 应用场景，如聊天机器人、总结摘要、小说生成器等。

首个llama3中文版，多轮对话AI模型

llama3-Chinese-chat是首个llama3的中文对话版本，专为中文用户设计，支持高质量的多轮对话。它使用了170k+的中文对话数据进行训练，具备角色扮演、agent能力增强等特性，并提供了详细的训练和推理教程。此外，项目还计划开源浏览器插件，增加AI笔记和思维导图功能，进一步增强用户体验。

基于llama3 8B的SOTA视觉模型

llama3v是一个基于Llama3 8B和siglip-so400m的SOTA（State of the Art，即最先进技术）视觉模型。它是一个开源的VLLM（视觉语言多模态学习模型），在Huggingface上提供模型权重，支持快速本地推理，并发布了推理代码。该模型结合了图像识别和文本生成，通过添加投影层将图像特征映射到LLaMA嵌入空间，以提高模型对图像的理解能力。

利用本地Llama模型构建知识图谱，探索相关问题和答案。

Local Knowledge Graph是一个基于Flask的Web应用程序，它使用本地Llama语言模型来处理用户查询，生成逐步推理，并以交互式知识图谱的形式可视化思考过程。它还能根据语义相似性找到并显示相关问题和答案。该应用程序的主要优点包括实时显示推理过程、动态知识图谱可视化、计算并显示最强推理路径、以及基于语义相似性的相关问答。

开源视觉基础模型

InternVL通过将ViT模型扩展到60亿参数并与语言模型对齐,构建出目前最大的14B开源视觉基础模型,在视觉感知、跨模态检索、多模态对话等广泛任务上取得了32项state-of-the-art性能。

iPad和iPhone上的开源语言模型聊天应用

MLC Chat允许用户在iPad和iPhone上本地与开源语言模型进行聊天。在将模型下载到应用程序后，一切都在本地运行，无需服务器支持，而且无需互联网连接，不记录任何信息。由于模型在本地运行，它仅适用于具有足够VRAM的设备，具体取决于所使用的模型。MLC Chat是开源项目MLC LLM的一部分，允许在各种硬件后端和本机应用程序上本地部署任何语言模型。MLC Chat是在您的手机上运行不同开源模型架构的运行时。该应用旨在非商业目的。它允许您运行从互联网上下载的开源语言模型。每个模型可能受其各自的许可证约束。

开源代码生成模型

Code Llama 70B是一个大型开源代码生成语言模型,可以从自然语言提示或现有代码片段生成多种编程语言的代码。它基于175亿参数的通用语言模型Llama 2,经过专门针对代码生成任务的微调,可以高效准确地生成Python、C++、Java等语言的代码。Code Llama 70B在人工评估基准测试中取得了67.8的高分,性能超过了以往的开源模型,可与专利模型媲美。它强大的代码生成能力可以提升编程效率,降低编码门槛,启发更多创新应用。