产品库

首个无需注意力机制的7B大规模模型

Falcon Mamba是由阿布扎比技术创新研究所（TII）发布的首个无需注意力机制的7B大规模模型。该模型在处理大型序列时，不受序列长度增加导致的计算和存储成本增加的限制，同时保持了与现有最先进模型相当的性能。

高性能AI模型加载器，大幅减少冷启动时间。

Mystic Turbo Registry是一款由Mystic.ai开发的高性能AI模型加载器，采用Rust语言编写，专门针对减少AI模型的冷启动时间进行了优化。它通过提高容器加载效率，显著减少了模型从启动到运行所需的时间，为用户提供了更快的模型响应速度和更高的运行效率。

高性能知识图谱数据库与推理引擎

RDFox 是由牛津大学计算机科学系的三位教授基于数十年知识表示与推理（KRR）研究开发的规则驱动人工智能技术。其独特之处在于：1. 强大的AI推理能力：RDFox 能够像人类一样从数据中创建知识，基于事实进行推理，确保结果的准确性和可解释性。2. 高性能：作为唯一在内存中运行的知识图谱，RDFox 在基准测试中的表现远超其他图技术，能够处理数十亿三元组的复杂数据存储。3. 可扩展部署：RDFox 具有极高的效率和优化的占用空间，可以嵌入边缘和移动设备，作为 AI 应用的大脑独立运行。4. 企业级特性：包括高性能、高可用性、访问控制、可解释性、人类般的推理能力、数据导入和 API 支持等。5. 增量推理：RDFox 的推理功能在数据添加或删除时即时更新，不影响性能，无需重新加载。

用于 Kwai-Kolors 文本到图像模型的扩散器包装器

ComfyUI-KwaiKolorsWrapper 是一个为 Kwai-Kolors 文本到图像模型设计的 Diffusers 包装器。它使用户能够通过 Diffusers 库方便地运行 Kwai-Kolors 的文本到图像生成流程。该插件支持从 Hugging Face 直接下载模型，并提供了量化模型以减少 VRAM 使用，适用于需要高效率图像生成的开发者和设计师。

领先的LLM服务提供平台

Mooncake是Kimi的服务平台，由Moonshot AI提供，是一个领先的大型语言模型(LLM)服务。它采用了以KVCache为中心的解耦架构，通过分离预填充(prefill)和解码(decoding)集群，以及利用GPU集群中未充分利用的CPU、DRAM和SSD资源来实现KVCache的解耦缓存。Mooncake的核心是其KVCache中心调度器，它在确保满足延迟相关的服务级别目标(SLOs)要求的同时，平衡最大化整体有效吞吐量。与传统研究不同，Mooncake面对的是高度过载的场景，为此开发了基于预测的早期拒绝策略。实验表明，Mooncake在长上下文场景中表现出色，与基线方法相比，在某些模拟场景中吞吐量可提高525%，同时遵守SLOs。在实际工作负载下，Mooncake的创新架构使Kimi能够处理75%以上的请求。

下一代开源AI模型，性能卓越。

Gemma 2是谷歌DeepMind推出的下一代开源AI模型，提供9亿和27亿参数版本，具有卓越的性能和推理效率，支持在不同硬件上以全精度高效运行，大幅降低部署成本。Gemma 2在27亿参数版本中，提供了两倍于其大小模型的竞争力，并且可以在单个NVIDIA H100 Tensor Core GPU或TPU主机上实现，显著降低部署成本。

AI模型提供商，提供丰富的Hugging Face模型访问。

Featherless是一个AI模型提供商，专注于为订阅者提供持续扩展的Hugging Face模型库。它支持LLaMA-3等模型架构，提供个性化和隐私保护的服务，不记录用户聊天或提示。Featherless提供了两种定价计划，基础版每月10美元，高级版每月25美元，分别提供最大15B和72B模型的访问权限。

先进的视觉基础模型，支持多种视觉和视觉-语言任务

Florence-2是由微软开发的高级视觉基础模型，采用基于提示的方法处理广泛的视觉和视觉-语言任务。该模型能够解释简单的文本提示，执行诸如图像描述、目标检测和分割等任务。它利用FLD-5B数据集，包含54亿个注释，覆盖1.26亿张图像，精通多任务学习。其序列到序列的架构使其在零样本和微调设置中均表现出色，证明是一个有竞争力的视觉基础模型。

极速、便捷的匿名在线即时聊天室

AQChatServer是一个接入AI的极速、便捷的匿名在线即时聊天室，基于Netty和protobuf协议实现高性能，对标游戏后端开发，全程无需HTTP协议，支持文本、图片、文件、音频、视频的发送和接收。

一个定制的ComfyUI节点，用于Hallo模型。

ComfyUI-Hallo是一个为Hallo模型定制的ComfyUI插件，它允许用户在命令行中使用ffmpeg，并从Hugging Face下载模型权重，或者手动下载并放置在指定目录。它为开发者提供了一个易于使用的界面来集成Hallo模型，从而增强了开发效率和用户体验。

专为智能手机设计的高效大型语言模型推理框架

PowerInfer-2是一个为智能手机特别优化的推理框架，支持高达47B参数的MoE模型，实现了每秒11.68个token的推理速度，比其他框架快22倍。它通过异构计算和I/O-Compute流水线技术，显著减少了内存使用，并提高了推理速度。该框架适用于需要在移动设备上部署大型模型的场景，以增强数据隐私和性能。

1460亿参数的高性能混合专家模型

Skywork-MoE-Base是一个具有1460亿参数的高性能混合专家(MoE)模型，由16个专家组成，并激活了220亿参数。该模型从Skywork-13B模型的密集型检查点初始化而来，并引入了两种创新技术：门控逻辑归一化增强专家多样化，以及自适应辅助损失系数，允许针对层特定调整辅助损失系数。Skywork-MoE在各种流行基准测试中表现出与参数更多或激活参数更多的模型相当的或更优越的性能。

端侧可用的GPT-4V级多模态大模型

MiniCPM-Llama3-V 2.5 是 OpenBMB 项目中最新发布的端侧多模态大模型，具备8B参数量，支持超过30种语言的多模态交互，并在多模态综合性能上超越了多个商用闭源模型。该模型通过模型量化、CPU、NPU、编译优化等技术实现了高效的终端设备部署，具有优秀的OCR能力、可信行为以及多语言支持等特点。

开源代码库，为HuggingChat应用提供动力

chat-ui是一个开源的聊天界面，使用开源模型如OpenAssistant或Llama。它是一个SvelteKit应用程序，为hf.co/chat上的HuggingChat应用提供支持。该产品允许用户通过自定义配置来运行和部署自己的Chat UI实例，支持多种语言模型和功能，如Web搜索、自定义模型等。

AI图片生成式开发者平台

fal.ai 是一款面向开发者的生成媒体平台，提供了业界最快的推理引擎，可以让您以更低的成本运行扩散模型，创造出全新的用户体验。它拥有实时、无缝的 WebSocket 推理基础设施，为开发者带来了卓越的使用体验。fal.ai 的定价方案根据实际使用情况灵活调整，确保您只为消耗的计算资源付费，实现了最佳的可扩展性和经济性。

统一大型模型 API调用方式

支持将 openai、claude、azure openai, gemini,kimi, 智谱 AI, 通义千问，讯飞星火 API 等模型服务方的调用转为 openai 方式调用。屏蔽不同大模型 API 的差异，统一用 openai api 标准格式使用大模型。提供多种大型模型支持，包括负载均衡、路由、配置管理等功能。

以低成本实现高性能的大型语言模型

JetMoE-8B是一个开源的大型语言模型，通过使用公共数据集和优化的训练方法，以低于10万美元的成本实现了超越Meta AI LLaMA2-7B的性能。该模型在推理时仅激活22亿参数，大幅降低了计算成本，同时保持了优异的性能。

生成高质量、自然 sounding 的语音

Parler-TTS 是一个由 Hugging Face 开发的轻量级文本转语音（TTS）模型，能够以给定说话者的风格（性别、音调、说话风格等）生成高质量、自然 sounding 的语音。它是基于 Dan Lyth 和 Simon King 发表的论文《Natural language guidance of high-fidelity text-to-speech with synthetic annotations》的工作复现，两位作者分别来自 Stability AI 和爱丁堡大学。与其他TTS模型不同，Parler-TTS 完全开源发布，包括数据集、预处理、训练代码和权重。功能包括：生成高质量且自然 sounding 的语音输出、灵活的使用和部署、提供丰富的注释语音数据集。定价：免费。

开发中大规模模型系统的组织

LMSYS Org 是一个组织，旨在使大型模型及其系统基础设施的技术民主化。他们开发了 Vicuna 聊天机器人，其在 7B/13B/33B 规模下可以印象 GPT-4，实现了 90% ChatGPT 质量。同时，还提供 Chatbot Arena 以众包和 Elo 评级系统进行大规模、游戏化评估 LLMs。SGLang 提供了复杂 LLM 程序的高效接口和运行时环境。LMSYS-Chat-1M 是一个大规模真实世界 LLM 对话数据集。FastChat 是一个用于训练、提供服务和评估基于 LLM 的聊天机器人的开放平台。MT-Bench 是一个用于评估聊天机器人的一组具有挑战性、多回合、开放式问题。

突破性SSM-Transformer开放模型

Jamba是一款基于SSM-Transformer混合架构的开放语言模型,提供顶级的质量和性能表现。它融合了Transformer和SSM架构的优势,在推理基准测试中表现出色,同时在长上下文场景下提供3倍的吞吐量提升。Jamba是目前该规模下唯一可在单GPU上支持14万字符上下文的模型,成本效益极高。作为基础模型,Jamba旨在供开发者微调、训练并构建定制化解决方案。

Hugging Face官方课程，提供有关使用Hugging Face产品的教程和资源

Hugging Face Course是一个由Hugging Face官方提供的教育资源，旨在帮助用户学习和掌握Hugging Face平台的各种工具和API。

时序预测的解码器基础模型

TimesFM是一款基于大型时序数据集预训练的解码器基础模型，具有200亿参数。相较于大型语言模型，虽然规模较小，但在不同领域和时间粒度的多个未见数据集上，其零-shot性能接近最先进的监督方法。TimesFM无需额外训练即可提供出色的未见时间序列预测。

LLaVA-3b是一种基于Dolphin 2.6 Phi进行微调的模型，使用SigLIP 400M的视觉塔以LLaVA方式进行微调。模型具有多个图像标记、使用视觉编码器的最新层输出等特点。

LLaVA-3b是一种基于Dolphin 2.6 Phi进行微调的模型，使用SigLIP 400M的视觉塔以LLaVA方式进行微调。模型具有多个图像标记、使用视觉编码器的最新层输出等特点。此模型基于Phi-2，受微软研究许可证约束，禁止商业使用。感谢ML Collective提供的计算资源积分。

高性能、低成本的端到端chat-ruanyifeng向量搜索服务

Aha Vector Search是一个高性能、低成本的端到端向量搜索服务。它提供了一种快速构建端到端向量搜索的方法，帮助用户以更低的成本实现高效的搜索体验。

减少计算并提高模型准确性，轻松高效地构建您的 AI 模型

CentML 是一个高效、节约成本的 AI 模型训练和部署平台。通过使用 CentML，您可以提升 GPU 效率、降低延迟、提高吞吐量，实现计算的高性价比和强大性能。

发现和运行本地LLM

LM Studio是一个易于使用的桌面应用程序，用于在本地实验和运行本地和开源的Large Language Models (LLMs)。LM Studio跨平台桌面应用程序允许您从Hugging Face下载和运行任何ggml兼容的模型，并提供了一个简单而强大的模型配置和推理界面。该应用程序在有GPU的情况下利用您的GPU。

高质量开放数据集平台，为大型模型提供数据支持

OpenDataLab是一个开源数据平台，提供高质量的开放数据集，支持大型AI模型的训练和应用。平台容量巨大，包含5500多个数据集，涵盖1500多种任务类型，总数据量达到80TB以上，下载量超过1064500次。平台提供30多种应用场景、20多种标注类型和5种数据类型，支持数据结构、标注格式和在线可视化的统一标准，实现数据的开放共享和智能搜索，提供结构化的数据信息和可视化的注释和数据分布，方便用户阅读和筛选。平台提供快速下载服务，无需VPN即可从国内云端快速下载数据。

稳定可靠的开源Web服务器

Apache HTTP Server是一个稳定可靠的开源Web服务器，具有高度可配置性和可扩展性。它支持多种操作系统和编程语言，提供了强大的功能和性能。Apache HTTP Server被广泛用于构建和托管网站，是Web开发的首选工具。它采用了模块化的架构，可以轻松地进行功能扩展和定制。Apache HTTP Server是免费的，适用于个人和商业用途。

GPUX - 快速运行云GPU

GPUX是一个快速运行云GPU的平台。它提供了高性能的GPU实例，用于运行机器学习工作负载。GPUX支持各种常见的机器学习任务，包括稳定扩散、Blender、Jupyter Notebook等。它还提供了稳定扩散SDXL0.9、Alpaca、LLM和Whisper等功能。GPUX还具有1秒冷启动时间、Shared Instance Storage和ReBar+P2P支持等优势。定价合理，定位于提供高性能GPU实例的云平台。

高性能云服务器，轻松构建网站

云服务器提供高性能的网站托管服务，具备灵活的配置选项和可靠的稳定性。优势包括强大的计算能力、高速的网络连接、可扩展的存储空间和灵活的安全性配置。价格根据配置选项和使用时长而定，适合个人用户和中小型企业使用。定位为提供可靠稳定的网站托管解决方案。