产品库

专为智能手机设计的高效大型语言模型推理框架

PowerInfer-2是一个为智能手机特别优化的推理框架，支持高达47B参数的MoE模型，实现了每秒11.68个token的推理速度，比其他框架快22倍。它通过异构计算和I/O-Compute流水线技术，显著减少了内存使用，并提高了推理速度。该框架适用于需要在移动设备上部署大型模型的场景，以增强数据隐私和性能。

视频理解领域的先进空间-时间建模与音频理解模型。

VideoLLaMA 2 是一个针对视频理解任务优化的大规模语言模型，它通过先进的空间-时间建模和音频理解能力，提升了对视频内容的解析和理解。该模型在多选视频问答和视频字幕生成等任务上展现了卓越的性能。

146亿参数的高性能MoE模型

Skywork-MoE是一个具有146亿参数的高性能混合专家(MoE)模型，拥有16个专家和22亿激活参数。该模型从Skywork-13B模型的密集型检查点初始化而来。引入了两种创新技术：门控逻辑归一化，增强专家多样化；自适应辅助损失系数，允许层特定的辅助损失系数调整。Skywork-MoE在各种流行基准测试中，如C-Eval、MMLU、CMMLU、GSM8K、MATH和HumanEval，展现出与参数更多或激活参数更多的模型相当的或更优越的性能。

1460亿参数的高性能混合专家模型

Skywork-MoE-Base是一个具有1460亿参数的高性能混合专家(MoE)模型，由16个专家组成，并激活了220亿参数。该模型从Skywork-13B模型的密集型检查点初始化而来，并引入了两种创新技术：门控逻辑归一化增强专家多样化，以及自适应辅助损失系数，允许针对层特定调整辅助损失系数。Skywork-MoE在各种流行基准测试中表现出与参数更多或激活参数更多的模型相当的或更优越的性能。

高效的企业级人工智能模型，低成本实现高质量定制模型。

Snowflake Arctic 是一款专为企业级人工智能任务设计的大规模语言模型（LLM），它在 SQL 生成、编码以及指令遵循等基准测试中表现出色，即使与计算预算更高的开源模型相比也毫不逊色。Arctic 通过其高效的训练和推理，为 Snowflake 客户以及广大 AI 社区提供了一种成本效益极高的定制模型创建方式。此外，Arctic 采用 Apache 2.0 许可，提供无门槛的权重和代码访问，并通过开源数据配方和研究洞察，进一步推动了社区的开放性和成本效益。

开源语言模型和训练框架

OLMo是一个开源的语言模型和训练框架,由AI2研究院发布。它提供了完整的训练数据、代码、模型参数、评估代码等资源,使研究人员能够训练并实验大规模语言模型。OLMo的优势在于真正开放,用户可以访问从数据到模型的完整信息,辅以丰富的文档,便于研究人员进行开放式研究和协作。该框架降低了语言模型研究的门槛,使更多人参与进来推动语言模型技术进步。

Miqu 1-70b是一个开源的大规模语言模型

Miqu 1-70b是一个开源大规模语言模型,采用了新颖的自我监督学习方法,可以处理各种自然语言任务。该模型参数量达170亿,支持多种prompt格式,可fine-tuning生成高质量的文本。其强大的理解和生成能力,使其可广泛应用于聊天机器人、文本摘要、问答系统等领域。

基于TensorRT框架的大规模语言模型推理加速库

SwiftInfer是一个基于Nvidia TensorRT框架的大规模语言模型(LLM)推理加速库,通过GPU加速,极大提升LLM在生产环境中的推理性能。该项目针对流式语言模型提出的Attention Sink机制进行了实现,支持无限长度的文本生成。代码简洁,运行方便,支持主流的大规模语言模型。

参数高效Fine-tuning大型语言模型

Astraios是一个提供大型语言模型Fine-tuning的平台，提供了多种参数高效Fine-tuning方法，以及多种规模的模型选择。用户可以在该平台上进行大规模语言模型的Fine-tuning，并获得最佳的成本-性能平衡。平台还提供了丰富的模型、数据集和文档，方便用户进行相关研究和开发。定价灵活，适用于不同规模的用户需求。

一体化云平台，快速构建和管理AI应用

BafCloud是一个一体化云平台，简化AI开发流程。我们提供单一API访问，包含大量的AI模型和代理人。您可以轻松管理、调优和部署大规模语言模型，使用用户友好的界面。您可以快速构建适用于任何用例的定制AI代理人，确保无缝集成和协作。加入BafCloud，加速AI项目的头脑风暴、构建、集成和部署。

基于大语言模型的对话式AI

xAI Grok是一个对话式AI系统,能够理解用户的问题并给出知识性的回答。它使用了大规模语言模型来建模语言,从而实现了更人性化的交互。该系统还具有持续学习的能力,会根据用户的反馈不断改进。

AmigoAI,面向未来的AI创作助手

AmigoAI是一个基于大规模语言模型的AI创作助手,帮助用户提高工作效率,实现自动化创作。它可以根据提示文本自动生成各类内容,支持代码、文章、故事等创作,还可进行智能对话。AmigoAI采用独特的深度学习技术,支持中文输入,输出风格连贯流畅。它是提升个人和组织产出的有力工具。

为企业提供生成式AI解决方案

A2O Corpus是一款生成式AI聊天机器人解决方案，利用大规模语言模型（LLM）的强大功能，可以将您的内容（文件、网站等）与聊天机器人集成，以对话形式轻松回答用户的查询。它还提供强大的向量搜索功能，能够快速找到企业信息中的关键信息并形成答案。

快意大模型

「快意」大模型（KwaiYii）是由快手 AI 团队从零到一独立自主研发的一系列大规模语言模型（Large Language Model，LLM），包括预训练模型和对话模型。KwaiYii-13B-Base 预训练模型具备优异的通用技术底座能力，KwaiYii-13B-Chat 对话模型具备出色的语言理解和生成能力。多个权威 Benchmark 结果表明 KwaiYii-13B 模型在各领域具备领先水平。

开源 13B 大规模语言模型

百川 - 13B 是由百川智能开发的开源可商用的大规模语言模型，参数量达到 130 亿，训练数据量达到 1.4 万亿 tokens。该模型支持中英双语，具有高质量的预测和对话能力。模型支持量化部署和 CPU 推理，并在多个基准测试中取得优秀结果。可以广泛应用于自然语言处理领域的任务，如问答系统、对话系统、文本生成等。

AI代理引擎，提供个性化信息搜索体验。

Genspark是一个AI代理引擎，它通过一个多代理框架提供个性化的信息搜索体验。与传统搜索引擎不同，Genspark的AI代理能够实时生成新的、定制的Sparkpages页面，直接满足用户的查询需求，从多个相关来源综合内容，提供高质量、无偏见的信息。

提升视频理解和生成的AI模型。

ShareGPT4Video系列旨在通过密集且精确的字幕来促进大型视频-语言模型(LVLMs)的视频理解以及文本到视频模型(T2VMs)的视频生成。该系列包括：1) ShareGPT4Video，40K GPT4V注释的密集视频字幕，通过精心设计的数据过滤和注释策略开发而成。2) ShareCaptioner-Video，一个高效且功能强大的任意视频字幕模型，由其注释的4.8M高质量美学视频。3) ShareGPT4Video-8B，一个简单但卓越的LVLM，其在三个先进的视频基准测试中达到了最佳性能。

大规模图像描述数据集，提供超过16M的合成图像描述。

PixelProse是一个由tomg-group-umd创建的大规模数据集，它利用先进的视觉-语言模型Gemini 1.0 Pro Vision生成了超过1600万个详细的图像描述。这个数据集对于开发和改进图像到文本的转换技术具有重要意义，可以用于图像描述生成、视觉问答等任务。

自动化生成Git提交信息的脚本工具。

GPTCommit是一个利用OpenAI的GPT-4o模型来分析代码变更并自动生成提交信息的自动化Git提交工具。它简化了代码提交流程，通过智能分析代码变更，快速生成合适的提交信息，提高开发效率。

创意AI套件，简化TikTok内容创作。

TikTok Symphony是一个由生成性AI驱动的全新创意解决方案套件，旨在简化营销人员和创作者在TikTok上的内容创作旅程。通过将人类想象力与AI驱动的效率相结合，TikTok Symphony使各种规模的企业、创作者和代理机构能够提升内容创作水平，提高生产力，并发现有价值的洞察。

使用大型语言模型编辑大型代码库的工具。

Moatless Tools 是一个业余项目，作者在这里尝试一些关于如何使用大型语言模型(LLMs)来编辑大型现有代码库的想法。项目认为，构建好工具以插入正确的上下文到提示中并处理响应，比依赖代理推理解决方案更为关键。

创新AI技术，引领数字艺术未来。

CogiDigm利用GenAI技术革新娱乐产业的叙事方式，包括电影制片厂、后期制作和广告代理公司。我们拥有尖端技术，成为行业领跑者。我们与FBRC.ai和AILA合作，提供视频生成和操作服务，释放创造力。我们的理念是采用以人为本的集体智能方法，提供广泛的服务，包括创新的GenAI解决方案、道德的AI模型实施、专业的技术指导、战略咨询和无缝部署专业知识。

快速生成高质量图像的扩散模型

Flash Diffusion 是一种高效的图像生成模型，通过少步骤生成高质量的图像，适用于多种图像处理任务，如文本到图像、修复、超分辨率等。该模型在 COCO2014 和 COCO2017 数据集上达到了最先进的性能，同时训练时间少，参数数量少。

快速将照片转化为产品页面

Pizi是一个创新的应用程序，它允许用户通过简单的拍照将照片快速转化为产品页面，极大地节省了创建产品页面所需的时间和精力。它通过优化照片和描述，旨在提高转化率，同时无需专业设备或人员，节省成本。Pizi还具备SEO功能，能够提高产品页面的搜索引擎可见性。

快速创建SEO优化文章，提升在线业务影响力

Seio是一个SEO内容创作工具，它允许用户在几分钟内从关键词创建SEO优化的文章，帮助企业提升在线影响力。它提供了强大的自助产品和增长分析功能，以及团队共享的收件箱，以确保团队协作的高效性。Seio还提供了AI驱动的编辑器和多平台发布功能，以及与Zapier集成的自动化SEO流程。此外，Seio提供全天候的客服支持，帮助用户解决问题。

AI驱动的语音助手，提升企业客户服务效率。

Callin AI提供一系列AI语音助手，旨在通过自动化客户对话来增强企业的成长。这些助手可以处理来电和去电，提供24/7的客户服务，并且可以根据企业的具体需求进行定制。Callin AI利用最新的语音识别和自然语言处理技术，帮助企业提高客户满意度，减少等待时间，并扩大服务能力。

AI时代的命令行助手

Agent Mode是Warp AI的一个特性，它允许用户使用自然语言在终端中完成多步骤工作流程。它能够识别和解释自然语言指令，提供环境特定的指导，并引导用户完成多步骤任务。Agent Mode利用OpenAI的API，但不会存储或保留用户的输入或输出数据。

一个用于Lumina模型的Python包装器

ComfyUI-LuminaWrapper是一个开源的Python包装器，用于简化Lumina模型的加载和使用。它支持自定义节点和工作流，使得开发者能够更便捷地集成Lumina模型到自己的项目中。该插件主要面向希望在Python环境中使用Lumina模型进行深度学习或机器学习的开发者。

52B参数的开源多语言大型语言模型

Tele-FLM（亦称FLM-2）是一个52亿参数的开源多语言大型语言模型，具有稳定高效的预训练范式和增强的事实判断能力。基于解码器仅变换器架构，已在大约2T的token上进行训练。Tele-FLM在同等规模上展现出优越的性能，有时甚至超越了更大的模型。除了分享模型权重外，我们还提供了核心设计、工程实践和训练细节，期待它们对学术界和工业界社区都有所裨益。

智能聊天助手，提供高效交流体验。

ChatFLM是一款基于FLM技术的智能聊天模型，旨在为用户提供流畅且智能的对话体验。该模型通过先进的自然语言处理技术，能够理解用户意图并生成合适的回复，适用于多种交流场景。