产品库

由实践者主导的LLMs公开课

Mastering LLMs 是一个由25多位行业资深人士主讲的免费课程，涵盖了评估、检索增强生成（RAG）、微调等主题。课程内容由信息检索、机器学习、推荐系统、MLOps和数据科学等领域的专家提供，旨在将这些领域的先前技术应用于LLMs，为用户提供有意义的优势。课程面向需要指导如何改进AI产品的技术IC（包括工程师和数据科学家）。

开源的PDF到Podcast工作流构建工具

NotebookLlama是一个开源项目，旨在通过一系列教程和笔记本指导用户构建从PDF到Podcast的工作流。该项目涵盖了从文本预处理到使用文本到语音模型的整个流程，适合对大型语言模型（LLMs）、提示和音频模型零知识的用户。NotebookLlama的主要优点包括易用性、教育性和实验性，它不仅提供了一个参考实现，还鼓励用户通过实验不同的模型和提示来优化结果。

视觉语言模型高效文档检索工具

ColPali 是一种基于视觉语言模型的高效文档检索工具，它通过直接嵌入文档页面图像的方式来简化文档检索流程。ColPali 利用了最新的视觉语言模型技术，特别是 PaliGemma 模型，通过晚交互机制实现多向量检索，从而提高检索性能。这一技术不仅加快了索引速度，降低了查询延迟，而且在检索包含视觉元素的文档方面表现出色，例如图表、表格和图像。ColPali 的出现，为文档检索领域带来了一种新的“视觉空间检索”范式，有助于提高信息检索的效率和准确性。

多语言晚交互检索模型，支持嵌入和重排

Jina ColBERT v2是一个先进的晚交互检索模型，基于ColBERT架构构建，支持89种语言，并提供优越的检索性能、用户可控的输出维度和长达8192个token的文本处理能力。它在信息检索领域具有革命性的意义，通过晚交互评分近似于交叉编码器中的联合查询-文档注意力，同时保持了接近传统密集检索模型的推理效率。

革命性的检索增强生成系统技术集合。

RAG_Techniques 是一个专注于检索增强生成(Retrieval-Augmented Generation, RAG)系统的技术集合，旨在提升系统的准确性、效率和上下文丰富性。它提供了一个前沿技术的中心，通过社区贡献和协作环境，推动RAG技术的发展和创新。

一站式数据处理系统，为大型语言模型提供高质量数据。

Data-Juicer 是一个一站式的多模态数据处理系统，旨在为大型语言模型(LLMs)提供更高质量、更丰富、更易消化的数据。它提供了一个系统化和可复用的数据处理库，支持数据与模型的协同开发，通过沙盒实验室实现快速迭代，并提供基于数据和模型的反馈循环、可视化和多维度自动评估等功能，帮助用户更好地理解和改进他们的数据和模型。Data-Juicer 正在积极更新和维护，定期增强和添加更多功能、数据配方和数据集。

深度学习领域的经典教材中文翻译

《深度学习》是一本由Simon J.D. Prince所著的深度学习领域的经典教材，MIT Press于2023年12月5日出版。本书涵盖了深度学习领域的许多关键概念，适合初学者和有经验的开发者阅读。本仓库提供了该书的中文翻译，翻译基于原书的最新版本，使用ChatGPT进行机翻并进行人工审核，确保翻译的准确性。

深入理解深度学习的原理与应用

《Understanding Deep Learning》是一本深入探讨深度学习原理和应用的书籍。它提供了丰富的数学背景知识、监督学习、神经网络的构建与训练等深度学习领域的全面内容。书中提供的Python笔记本练习帮助读者通过实践来加深理解。此外，还有为教师提供的资源，包括图像、幻灯片和教辅材料。

首个多语种手语生成模型，优化手语翻译与教学。

SignLLM是首个多语种手语生成模型，它基于公共手语数据构建，包括美国手语(ASL)和其他七种手语。该模型能够从文本或提示生成手语手势，并通过强化学习加速训练过程，提高数据采样质量。SignLLM在八种手语的生产任务上都达到了最先进的性能。

统一高效的RAG检索微调和推理框架

RAG-Retrieval是一个全链路的RAG检索微调和推理框架，支持多种RAG Reranker模型的推理，包括向量模型、迟交互式模型和交互式模型。它提供了一个轻量级的Python库，使得用户能够以统一的方式调用不同的RAG排序模型，简化了排序模型的使用和部署。

一款基于生物医学数据的8亿参数大型语言模型

Llama-3[8B] Meditron V1.0是一款专为生物医学领域设计的8亿参数的大型语言模型（LLM），在Meta发布Llama-3后24小时内完成微调。该模型在MedQA和MedMCQA等标准基准测试中超越了同参数级别的所有现有开放模型，并且接近70B参数级别医学领域领先的开放模型Llama-2[70B]-Meditron的性能。该工作展示了开放基础模型的创新潜力，是确保资源匮乏地区公平参与访问该技术更大倡议的一部分。

开源的基于深度文档理解的RAG（检索增强生成）引擎

RAGFlow是一个开源的RAG（Retrieval-Augmented Generation）引擎，基于深度文档理解，提供流线型的RAG工作流程，适用于各种规模的企业。它结合了大型语言模型（LLM）提供真实的问答能力，支持从各种复杂格式数据中引用确凿的引文。

Hugging Face官方课程，提供有关使用Hugging Face产品的教程和资源

Hugging Face Course是一个由Hugging Face官方提供的教育资源，旨在帮助用户学习和掌握Hugging Face平台的各种工具和API。

探索YouTube上最新的机器学习/人工智能课程

ML-YouTube-Courses是一个开源项目,致力于整理和索引YouTube上最新的、最好的机器学习课程。项目包含各种主题的课程,如机器学习、深度学习、自然语言处理、计算机视觉等,涵盖基础知识和前沿技术。该项目帮助开发者和学习者高效地发现优质的在线教程。

基于DiT的视频生成模型，实时生成高质量视频。

LTX-Video是由Lightricks开发的首个基于DiT的视频生成模型，能够实时生成高质量的视频内容。该模型以24 FPS的速度生成768x512分辨率的视频，速度超过观看速度。模型经过大规模多样化视频数据集的训练，能够生成高分辨率且内容真实多样的视频。LTX-Video支持文本到视频(text-to-video)以及图像+文本到视频(image+text-to-video)的应用场景。

数据标注平台，助力AI项目高效管理数据标注项目。

Data Annotation Platform是一个端到端的数据标注平台，允许用户上传计算机视觉数据，选择标注类型，并下载结果，无需任何最低承诺。该平台支持多种数据标注类型，包括矩形、多边形、3D立方体、关键点、语义分割、实例分割和泛视觉分割等，服务于AI项目经理、机器学习工程师、AI初创公司和研究团队，解决他们在数据标注过程中遇到的挑战。平台以其无缝执行、成本计算器、指令生成器、免费任务、API接入和团队访问等特点，为用户提供了一个简单、高效、成本效益高的数据标注解决方案。

开放的大型推理模型，解决现实世界问题

Marco-o1是一个开放的大型推理模型，旨在通过先进的技术如Chain-of-Thought (CoT) fine-tuning、Monte Carlo Tree Search (MCTS)、反射机制和创新的推理策略，优化复杂现实世界问题的解决任务。该模型不仅关注数学、物理和编程等有标准答案的学科，还强调开放性问题的解决。Marco-o1由阿里巴巴国际数字商务的MarcoPolo团队开发，具有强大的推理能力，已在多个领域展示出卓越的性能。

在Cloudflare全球网络运行机器学习模型

Workers AI是Cloudflare推出的一款在边缘计算环境中运行机器学习模型的产品。它允许用户在全球范围内的Cloudflare网络节点上部署和运行AI应用，这些应用可以是图像分类、文本生成、目标检测等多种类型。Workers AI的推出标志着Cloudflare在全球网络中部署了GPU资源，使得开发者能够构建和部署接近用户的雄心勃勃的AI应用。该产品的主要优点包括全球分布式部署、低延迟、高性能和可靠性，同时支持免费和付费计划。

AI-based decoder for quantum computing error correction

AlphaQubit是由Google DeepMind和Quantum AI团队共同开发的人工智能系统，它能够以最先进的准确性识别量子计算机中的错误。这项技术结合了机器学习和量子纠错的专业知识，旨在推动可靠量子计算机的构建，这对于解决复杂问题、实现科学突破和探索新领域具有重要意义。AlphaQubit的主要优点包括高准确性和对大规模量子计算的适用性。

K-12教育工作者的免费AI培训课程

Common Sense Media和OpenAI联合推出的'ChatGPT Foundations for K-12 Educators'是一个免费的在线课程，旨在帮助教师理解和负责任地将人工智能的基础知识融入课堂教学。该课程为期一小时，包含九个课程单元，为教育工作者提供关于人工智能的基本知识，并介绍如何确保学生安全和隐私的方法。课程内容涵盖人工智能基础、数据隐私考量、道德使用指南以及如何将AI融入日常教学工作的想法。

利用大规模机器学习理解场景并连接全球数百万场景的地理空间模型

Niantic的Large Geospatial Model (LGM) 是一个先锋概念，旨在通过大规模机器学习理解场景并将其与全球数百万其他场景连接起来。LGM不仅使计算机能够感知和理解物理空间，还能以新的方式与它们互动，成为AR眼镜及更广泛领域（包括机器人技术、内容创作和自主系统）的关键组成部分。随着我们从手机转向与现实世界相连的可穿戴技术，空间智能将成为世界未来的操作系统。

一个完全由你掌控数据的「被动记录」项目。

Pensieve是一个隐私保护的被动记录项目，它可以自动记录屏幕内容，构建智能索引，并提供便捷的网页界面来检索历史记录。这个项目受到了Rewind和Windows Recall的启发，但与它们不同，Pensieve允许用户完全控制自己的数据，避免了数据传输到不受信任的数据中心。Pensieve的主要优点包括简单安装、完整的数据控制、全文和向量搜索支持、与Ollama集成、兼容任何OpenAI API模型、支持Mac和Windows（Linux支持正在开发中）以及通过插件扩展功能。

Qwen Turbo 1M Demo是一个由Qwen提供的Hugging Face空间。

Qwen Turbo 1M Demo是一个基于Hugging Face平台的人工智能模型演示。这个模型代表了自然语言处理技术的最新进展，特别是在中文文本理解和生成方面。它的重要性在于能够提供高效、准确的语言模型，以支持各种语言相关的应用，如机器翻译、文本摘要、问答系统等。Qwen Turbo 1M Demo以其较小的模型尺寸和快速的处理速度而受到青睐，适合需要快速部署和高效运行的场合。目前，该模型是免费试用的，具体价格和定位可能需要进一步的商业洽谈。

数据驱动的框架，增强大型语言模型的工作流编排能力

WorkflowLLM是一个以数据为中心的框架，旨在增强大型语言模型（LLMs）在工作流编排方面的能力。核心是WorkflowBench，这是一个大规模的监督式微调数据集，包含来自83个应用、28个类别的1503个API的106763个样本。WorkflowLLM通过微调Llama-3.1-8B模型，创建了专门针对工作流编排任务优化的WorkflowLlama模型。实验结果表明，WorkflowLlama在编排复杂工作流方面表现出色，并且能够很好地泛化到未见过的API。

AI技术预览纹身去除效果，辅助决策

AI Tattoo Removal是一个利用人工智能技术展示纹身去除效果的先进工具。它提供了多种可视化选项和用户友好的界面，适用于考虑纹身去除的个人和专业纹身去除专家。该平台使用尖端的机器学习算法分析并展示纹身去除进度，用户可以查看不同的去除阶段、结果和治疗方案，以更好地理解去除过程。产品的主要优点包括即时可视化、个性化体验和免费的基础功能，同时提供高级功能订阅服务。

智能搜索工具，一键检索多个社交平台

Onion AI Search是一个集成了多个社交平台搜索功能的智能搜索工具。它允许用户在一个界面上同时搜索YouTube、Instagram、Facebook、Reddit、LinkedIn、GitHub、TikTok和Netflix等多个平台的内容，极大地提高了信息检索的效率和便捷性。该产品以其简洁的用户界面和强大的搜索能力，为用户提供了一个全新的网络信息检索体验。

AI云平台，为所有人服务

Kalavai是一个AI云平台，旨在为所有人提供服务。它通过集成各种AI技术，使得用户能够构建、部署和运行AI应用。Kalavai平台的主要优点是其易用性和灵活性，用户无需深入了解复杂的AI技术，即可快速构建自己的AI应用。平台背景信息显示，它支持多种语言和框架，适合不同层次的开发者使用。目前，Kalavai提供免费试用，具体价格和定位需要进一步了解。

潮汐 AI 提供即时答案和创意灵感。

潮汐 AI 是一个基于大型语言模型的聊天平台，旨在为用户提供高效的问答服务。它的主要优点包括快速响应、丰富的知识库和用户友好的界面。该产品适合需要快速获取信息和灵感的用户，定位于教育和生产力领域。

开源的GenAI应用网关，快速构建个性化的AI应用

Arch是一个开源的网关，专为处理提示（prompts）而设计，它利用快速的大型语言模型（LLMs）来处理提示，并与后端系统无缝集成。Arch基于Envoy构建，支持任何应用程序语言，并提供快速部署和透明升级。它提供了包括流量管理、前端/边缘网关、监控和端到端追踪在内的多种功能，帮助开发者构建快速、健壮和个性化的GenAI应用。

AI模型部署和推理优化的专家

Neural Magic是一家专注于AI模型优化和部署的公司，提供领先的企业级推理解决方案，以最大化性能和提高硬件效率。公司的产品支持在GPU和CPU基础设施上运行领先的开源大型语言模型（LLMs），帮助企业在云、私有数据中心或边缘环境中安全、高效地部署AI模型。Neural Magic的产品背景信息强调了其在机器学习模型优化方面的专业知识，以及与科研机构合作开发的创新LLM压缩技术，如GPTQ和SparseGPT。产品价格和定位方面，Neural Magic提供了免费试用和付费服务，旨在帮助企业降低成本、提高效率，并保持数据隐私和安全。