产品库

从语言到视觉的长上下文转换模型

LongVA是一个能够处理超过2000帧或超过200K视觉标记的长上下文转换模型。它在Video-MME中的表现在7B模型中处于领先地位。该模型基于CUDA 11.8和A100-SXM-80G进行了测试，并且可以通过Hugging Face平台进行快速启动和使用。

LG AI Research开发的多语言生成模型

EXAONE-3.5-32B-Instruct-AWQ是LG AI Research开发的一系列指令调优的双语（英语和韩语）生成模型，参数从2.4B到32B不等。这些模型支持长达32K令牌的长上下文处理，在真实世界用例和长上下文理解方面展现出最先进的性能，同时在与最近发布的类似大小模型相比，在通用领域保持竞争力。该模型通过AWQ量化技术，实现了4位组级别的权重量化，优化了模型的部署效率。

LG AI Research开发的多语言生成模型

EXAONE-3.5-7.8B-Instruct是由LG AI Research开发的一系列指令调优的双语（英语和韩语）生成模型，参数范围从2.4B到32B。这些模型支持长达32K令牌的长上下文处理，并在真实世界用例和长上下文理解方面展现出最先进的性能，同时在与近期发布的类似大小模型相比，在通用领域保持竞争力。

全球最长上下文窗口大模型

Baichuan2-192K推出全球最长上下文窗口大模型Baichuan2-192K，一次可输入35万字超越Claude2。Baichuan2-192K不仅在上下文窗口长度上超越Claude2，在长窗口文本生成质量、长上下文理解以及长文本问答、摘要等方面的表现也全面领先Claude2。Baichuan2-192K通过算法和工程的极致优化，实现了窗口长度和模型性能之间的平衡，做到了窗口长度和模型性能的同步提升。Baichuan2-192K已经开放了API接口，提供给企业用户，并已经在法律、媒体、金融等行业落地应用。

多语言大型语言模型，优化对话和文本生成。

Meta Llama 3.1是一系列预训练和指令调整的多语言大型语言模型（LLMs），包含8B、70B和405B三种大小的模型，专门针对多语言对话使用案例进行了优化，并在行业基准测试中表现优异。该模型使用优化的transformer架构，并通过监督式微调（SFT）和人类反馈的强化学习（RLHF）进一步与人类偏好对齐，以确保其有用性和安全性。

多语言大型语言模型，支持多领域文本生成。

XVERSE-MoE-A36B是由深圳元象科技自主研发的多语言大型语言模型，采用混合专家模型（MoE）架构，具有2554亿的总参数规模和360亿的激活参数量。该模型支持包括中、英、俄、西等40多种语言，特别在中英双语上表现优异。模型使用8K长度的训练样本，并通过精细化的数据采样比例和动态数据切换策略，保证了模型的高质量和多样性。此外，模型还针对MoE架构进行了定制优化，提升了计算效率和整体吞吐量。

高效无限上下文语言模型的官方实现

Samba是一个简单而强大的混合模型，具有无限的上下文长度。它的架构非常简单：Samba = Mamba + MLP + 滑动窗口注意力 + 层级MLP堆叠。Samba-3.8B模型在Phi3数据集上训练了3.2万亿个token，主要基准测试（例如MMLU、GSM8K和HumanEval）上的表现大大超过了Phi3-mini。Samba还可以通过最少的指令调整实现完美的长上下文检索能力，同时保持与序列长度的线性复杂度。这使得Samba-3.8B-instruct在下游任务（如长上下文摘要）上表现出色。

扩展LLM上下文窗口

LLM Context Extender是一款旨在扩展大型语言模型（LLMs）上下文窗口的工具。它通过调整RoPE的基础频率和缩放注意力logits的方式，帮助LLMs有效适应更大的上下文窗口。该工具在精细调整性能和稳健性方面验证了其方法的优越性，并展示了在仅有100个样本和6个训练步骤的情况下，将LLaMA-2-7B-Chat的上下文窗口扩展到16,384的非凡效率。此外，还探讨了数据组成和训练课程如何影响特定下游任务的上下文窗口扩展，建议以长对话进行LLMs的精细调整作为良好的起点。

LG AI Research开发的多语言、高性能大型语言模型

EXAONE-3.5-32B-Instruct-GGUF是LG AI Research开发的一系列指令调优的双语（英语和韩语）生成模型，包含2.4B至32B参数的不同版本。这些模型支持长达32K令牌的长上下文处理，展现了在真实世界用例和长上下文理解中的最前沿性能，同时在与近期发布的类似规模模型相比，在通用领域保持竞争力。该模型系列通过技术报告、博客和GitHub提供了详细信息，并且包含了多种精度的指令调优32B语言模型，具有以下特点：参数数量（不含嵌入）为30.95B，层数为64，注意力头数为GQA，包含40个Q头和8个KV头，词汇量为102,400，上下文长度为32,768令牌，量化包括Q8_0、Q6_0、Q5_K_M、Q4_K_M、IQ4_XS等GGUF格式（也包括BF16权重）。

超长上下文模型，革新软件开发

Magic团队开发的超长上下文模型（LTM）能够处理高达100M tokens的上下文信息，这在AI领域是一个重大突破。该技术主要针对软件开发领域，通过在推理过程中提供大量代码、文档和库的上下文，极大地提升了代码合成的质量和效率。与传统的循环神经网络和状态空间模型相比，LTM模型在存储和检索大量信息方面具有明显优势，能够构建更复杂的逻辑电路。此外，Magic团队还与Google Cloud合作，利用NVIDIA GB200 NVL72构建下一代AI超级计算机，进一步推动模型的推理和训练效率。

MiniMax-Text-01是一个强大的语言模型，具有4560亿总参数，能够处理长达400万token的上下文。

MiniMax-Text-01是一个由MiniMaxAI开发的大型语言模型，拥有4560亿总参数，其中每个token激活459亿参数。它采用了混合架构，结合了闪电注意力、softmax注意力和专家混合（MoE）技术，通过先进的并行策略和创新的计算-通信重叠方法，如线性注意力序列并行主义加（LASP+）、变长环形注意力、专家张量并行（ETP）等，将训练上下文长度扩展到100万token，并能在推理时处理长达400万token的上下文。在多个学术基准测试中，MiniMax-Text-01展现出了顶级模型的性能。

大型语言模型，支持多语言和编程语言文本生成。

Nemotron-4-340B-Base是由NVIDIA开发的大型语言模型，拥有3400亿参数，支持4096个token的上下文长度，适用于生成合成数据，帮助研究人员和开发者构建自己的大型语言模型。模型经过9万亿token的预训练，涵盖50多种自然语言和40多种编程语言。NVIDIA开放模型许可允许商业使用和派生模型的创建与分发，不声明对使用模型或派生模型生成的任何输出拥有所有权。

轻量级、多语言的先进文本生成模型

Phi-3.5-mini-instruct 是微软基于高质量数据构建的轻量级、多语言的先进文本生成模型。它专注于提供高质量的推理密集型数据，支持128K的token上下文长度，经过严格的增强过程，包括监督式微调、近端策略优化和直接偏好优化，确保精确的指令遵循和强大的安全措施。

轻量级、多语言的AI模型，支持长文本生成和推理。

Phi-3.5-MoE-instruct是由微软开发的轻量级、多语言的AI模型，基于高质量、推理密集型数据构建，支持128K的上下文长度。该模型经过严格的增强过程，包括监督式微调、近端策略优化和直接偏好优化，以确保精确的指令遵循和强大的安全措施。它旨在加速语言和多模态模型的研究，作为生成性AI功能的构建模块。

先进的混合SSM-Transformer指令遵循基础模型

AI21 Jamba 1.5系列模型是市场上最强大的长上下文模型之一，提供比同类领先模型快2.5倍的推理速度。这些模型展示了卓越的长上下文处理能力、速度和质量，是首次成功将非Transformer模型扩展到市场领先模型的质量和强度。

使用智能技术为图片生成上下文相关的描述

智能图片描述生成器是一款AI驱动的在线工具，能够自动为网站图片生成准确、符合上下文的描述文本，提升搜索引擎排名，增强网站的SEO和可访问性。支持20多种语言，利用尖端AI技术生成自然、SEO优化的描述文本，帮助用户提升图片点击率，获取更多自然流量，提高网站可见度。

LG AI Research开发的双语文本生成模型

EXAONE-3.5-2.4B-Instruct-AWQ是由LG AI Research开发的一系列双语（英语和韩语）指令调优生成模型，参数范围从2.4B到32B。这些模型支持长达32K令牌的长上下文处理，并且在真实世界用例和长上下文理解方面展现出最先进的性能，同时在与近期发布的类似大小模型相比，在通用领域保持竞争力。该模型在部署到小型或资源受限设备上进行了优化，并且采用了AWQ量化技术，实现了4位群组权重量化（W4A16g128）。

70亿参数的大型多语言文本生成模型

Meta Llama 3.1是Meta公司推出的大型语言模型，拥有70亿个参数，支持8种语言的文本生成。该模型采用优化的Transformer架构，并通过监督式微调和人类反馈强化学习进一步优化，以符合人类对帮助性和安全性的偏好。模型在多语言对话使用案例中表现优异，超越了许多现有的开源和封闭聊天模型。

7B参数的多语言文本生成模型

CohereForAI/c4ai-command-r7b-12-2024是一个7B参数的多语言模型，专注于推理、总结、问答和代码生成等高级任务。该模型支持检索增强生成（RAG）和工具使用，能够使用和组合多个工具来完成更复杂的任务。它在企业相关的代码用例上表现优异，支持23种语言。

权限感知上下文提供者

ReLLM提供权限感知上下文，可用于大型语言模型（如ChatGPT）的应用中。通过将用户的长期记忆提供给ChatGPT，实现更自然的对话体验。ReLLM还处理与ChatGPT的通信和消息链管理，保证数据安全性。只提供用户可以访问的数据。数据加密存储，解密只在使用时进行。定价详见官方网站。

LG AI Research开发的双语文本生成模型

EXAONE-3.5-2.4B-Instruct-GGUF是由LG AI Research开发的一系列双语（英语和韩语）指令调优的生成型模型，参数范围从2.4B到32B。这些模型支持长达32K令牌的长上下文处理，并在真实世界用例和长上下文理解方面展现出最先进的性能，同时在与近期发布的类似大小模型相比，在通用领域保持竞争力。该模型的重要性在于其优化了在小型或资源受限设备上的部署，同时提供了强大的性能。

强大的语言模型，拥有4560亿总参数，可处理长达400万token的上下文。

MiniMax-01是一个具有4560亿总参数的强大语言模型，其中每个token激活459亿参数。它采用混合架构，结合了闪电注意力、softmax注意力和专家混合（MoE），通过先进的并行策略和创新的计算-通信重叠方法，如线性注意力序列并行主义加（LASP+）、varlen环形注意力、专家张量并行（ETP）等，将训练上下文长度扩展到100万tokens，在推理时可处理长达400万tokens的上下文。在多个学术基准测试中，MiniMax-01展现了顶级模型的性能。

多语言高质量文本转语音库

MeloTTS是由MyShell.ai开发的多语言文本转语音库，支持英语、西班牙语、法语、中文、日语和韩语。它能够实现实时CPU推理，适用于多种场景，并且对开源社区开放，欢迎贡献。

将LLM上下文窗口扩展至200万令牌的技术

LongRoPE是微软推出的技术，可以将预训练大型语言模型（LLM）的上下文窗口扩展到2048k（200万）令牌，实现从短上下文到长上下文的扩展，降低训练成本和时间，同时保持原有短上下文窗口性能。适用于提高语言模型在长文本上的理解和生成能力，提升机器阅读理解、文本摘要和长篇文章生成等任务。

最先进的视觉语言模型，支持多模态理解和文本生成。

Qwen2-VL-2B是Qwen-VL模型的最新迭代，代表了近一年的创新成果。该模型在视觉理解基准测试中取得了最先进的性能，包括MathVista、DocVQA、RealWorldQA、MTVQA等。它能够理解超过20分钟的视频，为基于视频的问题回答、对话、内容创作等提供高质量的支持。Qwen2-VL还支持多语言，除了英语和中文，还包括大多数欧洲语言、日语、韩语、阿拉伯语、越南语等。模型架构更新包括Naive Dynamic Resolution和Multimodal Rotary Position Embedding (M-ROPE)，增强了其多模态处理能力。

超级上下文定向引擎！

Neuwo是一款领先的上下文人工智能引擎，用于内容分类和品牌安全。我们的技术帮助出版商和数字资产管理者改善用户体验并提供不打扰的广告。Neuwo通过丰富您的宝贵数据，提供元标签、相关内容和IAB分类，实现上下文广告的最大化利用。我们的使命是使您的数据更有价值！

在线文本转语音工具，支持多语言和自然发音。

TTSynth.com是一个免费的在线文本转语音(TTS)生成器，它使用先进的AI技术将书面文本转换为自然发音的语音。该服务支持多种语言和口音，适用于全球用户。它提供了高质量的音频输出，并且用户可以轻松下载TTS MP3文件。TTS技术在教育、营销、无障碍解决方案等多个领域都有广泛的应用。

多语言生成语言模型

Aya模型是一个大规模的多语言生成性语言模型，能够在101种语言中遵循指令。该模型在多种自动和人类评估中优于mT0和BLOOMZ，尽管它覆盖的语言数量是后者的两倍。Aya模型使用包括xP3x、Aya数据集、Aya集合、DataProvenance集合的一个子集和ShareGPT-Command等多个数据集进行训练，并在Apache-2.0许可下发布，以推动多语言技术的发展。

Omnipilot是一款在macOS上工作的AI副驾驶员。它可以在任何应用程序中为您自动完成文本，从Apple Notes到Gmail，并且还可以使用来自您最近使用的应用程序的上下文，使用GPT-4进行更长的上下文生成。

Omnipilot是一款在macOS上工作的AI副驾驶员。它可以在任何应用程序中为您自动完成文本，从Apple Notes到Gmail，并且还可以使用来自您最近使用的应用程序的上下文，使用GPT-4进行更长的上下文生成。它的主要优点是提高工作效率，减少写作和输入的时间和努力。Omnipilot的定位是为用户提供更快速、智能的文本输入和生成体验。

多语言大型语言模型，支持23种语言

Aya Expanse 32B是由Cohere For AI开发的多语言大型语言模型，拥有32亿参数，专注于提供高性能的多语言支持。它结合了先进的数据仲裁、多语言偏好训练、安全调整和模型合并技术，以支持23种语言，包括阿拉伯语、中文（简体和繁体）、捷克语、荷兰语、英语、法语、德语、希腊语、希伯来语、印地语、印尼语、意大利语、日语、韩语、波斯语、波兰语、葡萄牙语、罗马尼亚语、俄语、西班牙语、土耳其语、乌克兰语和越南语。该模型的发布旨在使社区基础的研究工作更加易于获取，通过发布高性能的多语言模型权重，供全球研究人员使用。