产品库

使大型语言模型在长文本问答中生成细粒度引用

LongCite是一个开源的模型，它通过训练大型语言模型（LLMs）来实现在长文本问答场景中生成准确的回答和精确的句级引用。该技术的重要性在于它能够提高问答系统的准确性和可信度，使用户能够验证输出信息的来源。LongCite支持高达128K的上下文长度，并且提供了两个模型：LongCite-glm4-9b和LongCite-llama3.1-8b，分别基于GLM-4-9B和Meta-Llama-3.1-8B进行训练。

利用大型语言模型增量构建知识图谱

iText2KG是一个Python包，旨在利用大型语言模型从文本文档中提取实体和关系，增量构建一致的知识图谱。它具备零样本能力，允许在没有特定训练的情况下跨不同领域进行知识提取。该包包括文档蒸馏、实体提取和关系提取模块，确保实体和关系得到解决和唯一性。它通过Neo4j提供知识图谱的可视化表示，支持交互式探索和分析结构化数据。

世界顶尖的开源大型语言模型

Reflection Llama-3.1 70B 是目前世界上顶尖的开源大型语言模型（LLM），采用名为 Reflection-Tuning 的新技术进行训练，使模型能够检测其推理中的错误并进行修正。该模型在合成数据上进行了训练，这些数据由 Glaive 生成。对于正在训练模型的用户来说，Glaive 是一个非常出色的工具。该模型使用标准的 Llama 3.1 聊天格式，通过特殊的标签来区分模型的内部思考和最终答案，从而提升用户体验。

高效开源的大型语言模型

OLMoE-1B-7B 是一个具有1亿活跃参数和7亿总参数的专家混合型大型语言模型（LLM），于2024年9月发布。该模型在成本相似的模型中表现卓越，与更大的模型如Llama2-13B竞争。OLMoE完全开源，支持多种功能，包括文本生成、模型训练和部署等。

大型语言模型，支持多种参数规模

Meta Llama 3 是 Meta 推出的最新大型语言模型，旨在为个人、创作者、研究人员和各类企业解锁大型语言模型的能力。该模型包含从8B到70B参数的不同规模版本，支持预训练和指令调优。模型通过 GitHub 仓库提供，用户可以通过下载模型权重和分词器进行本地推理。Meta Llama 3 的发布标志着大型语言模型技术的进一步普及和应用，具有广泛的研究和商业潜力。

大型语言模型，支持多语言和代码数据

Mistral-Nemo-Instruct-2407是由Mistral AI和NVIDIA联合训练的大型语言模型（LLM），是Mistral-Nemo-Base-2407的指导微调版本。该模型在多语言和代码数据上进行了训练，显著优于大小相似或更小的现有模型。其主要特点包括：支持多语言和代码数据训练、128k上下文窗口、可替代Mistral 7B。模型架构包括40层、5120维、128头维、1436隐藏维、32个头、8个kv头（GQA）、2^17词汇量（约128k）、旋转嵌入（theta=1M）。该模型在多种基准测试中表现出色，如HellaSwag（0-shot）、Winogrande（0-shot）、OpenBookQA（0-shot）等。

52B参数的开源多语言大型语言模型

Tele-FLM（亦称FLM-2）是一个52亿参数的开源多语言大型语言模型，具有稳定高效的预训练范式和增强的事实判断能力。基于解码器仅变换器架构，已在大约2T的token上进行训练。Tele-FLM在同等规模上展现出优越的性能，有时甚至超越了更大的模型。除了分享模型权重外，我们还提供了核心设计、工程实践和训练细节，期待它们对学术界和工业界社区都有所裨益。

大型语言模型的详细列表和信息

Models Table 提供了一个包含300多个大型语言模型的列表，这些模型被所有主要的AI实验室使用，包括Amazon Olympus, OpenAI GPT-5, OpenAI GPT-6等。该列表展示了大型语言模型的发展趋势和多样性，对于AI研究者和开发者来说是一个宝贵的资源。

易用的大规模语言模型知识编辑框架

EasyEdit 是一个面向大型语言模型（LLMs）的易用知识编辑框架，旨在帮助用户高效、准确地调整预训练模型的特定行为。它提供了统一的编辑器、方法和评估框架，支持多种知识编辑技术，如ROME、MEND等，并提供了丰富的数据集和评估指标，以衡量编辑的可靠性、泛化性、局部性和可移植性。

大型语言模型，支持指令式对话和功能调用。

Mistral-7B-Instruct-v0.3是由Mistral AI Team开发的大型语言模型，它是Mistral-7B-v0.3的指令式微调版本。该模型具有扩展的词汇量、支持v3 Tokenizer和功能调用。它能够通过指令式对话和功能调用来生成文本，适合于需要交互式对话和自动化任务的场景。

一种大型语言模型，具有扩展词汇量。

Mistral-7B-v0.3是由Mistral AI团队开发的大型语言模型(Large Language Model, LLM)，它是Mistral-7B-v0.2的升级版，具有扩展到32768的词汇量。该模型支持文本生成，适合于需要文本生成能力的应用场景。目前，该模型没有内容审核机制，团队正在寻求社区合作，以实现更精细的内容审核，满足需要内容审核的部署环境。

一款具有128k有效上下文长度的70B参数的大型语言模型。

Llama-3-Giraffe-70B-Instruct是Abacus.AI推出的一款大型语言模型，它通过PoSE和动态NTK插值的训练方法，具有更长的有效上下文长度，能够处理大量的文本数据。该模型在训练中使用了约1.5B个token，并且通过适配器转换技术，将Llama-3-70B-Base模型的适配器应用到Llama-3-Giraffe-70B-Instruct上，以提高模型的性能。

一款专为生物医学领域设计的开源大型语言模型

OpenBioLLM-8B是由Saama AI Labs开发的先进开源语言模型，专为生物医学领域设计。该模型在大量高质量的生物医学数据上进行了微调，能够理解并生成具有领域特定准确性和流畅性的文字。它在生物医学基准测试中的表现超越了其他类似规模的开源生物医学语言模型，并与更大的专有和开源模型如GPT-3.5和Meditron-70B相比也展现出更好的结果。

Phi-3 Mini-128K-Instruct ONNX优化模型促进推理加速

Phi-3 Mini是一个轻量级的顶尖开源模型,建立在Phi-2使用的合成数据和过滤网站之上,专注于高质量的推理密集型数据。这个模型属于Phi-3系列,mini版本有两个变体支持4K和128K上下文长度。该模型经过了严格的增强过程,包括监督式微调和直接偏好优化,以确保精准遵循指令和强大的安全措施。这些经过ONNX优化的Phi-3 Mini模型可在CPU、GPU和移动设备上高效运行。微软还推出了ONNX Runtime Generate() API,简化了Phi-3的使用。

新模型，多种型号，AI驱动合成数据训练

WizardLM-2是WizardLM推出的新一代大型语言模型，包含三种型号：8x22B、70B和7B。该产品采用AI驱动的合成数据训练系统，通过数据分析、加权抽样、渐进式学习和AI互校AI等方法，优化模型性能。它能够自动生成高品质的指令和响应，提供多样化的对话能力，适用于多种编程和开发场景。

简化 LLM 提示管理和促进团队协作

Langtail 是一个旨在简化大型语言模型（LLM）提示管理的平台。通过Langtail，您可以增强团队协作、提高效率，并更深入地了解您的AI工作原理。尝试Langtail，以更具协作和洞察力的方式构建LLM应用。

构建为您工作的AI团队

使用BrainSoup，您可以创建自定义AI代理来处理任务并通过自然语言自动化流程。提高AI的能力与您的数据，同时保持最佳的隐私和安全性。BrainSoup支持多个大型语言模型和语义核心技术，使AI代理更加强大和个性化。

大型语言模型角色扮演框架

RoleLLM是一个角色扮演框架，用于构建和评估大型语言模型的角色扮演能力。它包括四个阶段：角色概要构建、基于上下文的指令生成、使用GPT进行角色提示和基于角色的指令调整。通过Context-Instruct和RoleGPT，我们创建了RoleBench，这是一个系统化和细粒度的角色级别基准数据集，包含168,093个样本。此外，RoCIT在RoleBench上产生了RoleLLaMA（英语）和RoleGLM（中文），显著提高了角色扮演能力，甚至与使用GPT-4的RoleGPT取得了可比较的结果。

快速构建自然语言处理应用

GradientJ是一个用于测试、部署和管理自然语言处理应用的平台。它基于大型语言模型如GPT-4，提供快速构建NLP应用的能力。用户可以使用GradientJ开发自定义的文本生成、问答系统、聊天机器人等NLP应用。GradientJ提供简单易用的接口和工具，让开发者能够快速上手并实现自己的用例。定价方案灵活，适合个人开发者和企业用户。

Andes - 大型语言模型（LLM）API市场

Andes是一个大型语言模型（LLM）API市场，连接领先的人工智能技术，提供自然语言处理、自动文本生成、翻译等功能，为您的应用增加智能能力。

加速人类科学发现的人工智能

xAI是一家专注于构建人工智能以加速人类科学发现的公司。我们由埃隆·马斯克领导，他是特斯拉和SpaceX的CEO。我们的团队贡献了一些该领域最广泛使用的方法，包括Adam优化器、批量归一化、层归一化和对抗性示例的发现。我们进一步引入了Transformer-XL、Autoformalization、记忆变换器、批量大小缩放、μTransfer和SimCLR等创新技术和分析。我们参与并领导了AlphaStar、AlphaCode、Inception、Minerva、GPT-3.5和GPT-4等该领域一些最大的突破性发展。我们的团队由AI安全中心主任Dan Hendrycks提供咨询。我们与X公司紧密合作，将我们的技术带给超过5亿X应用用户。

全面对标GPT-4 Turbo的AI大语言模型

讯飞星火是科大讯飞推出的一款全面对标GPT-4 Turbo的AI大语言模型，它通过集成多种AI技术，如语音识别、自然语言处理、机器学习等，为用户提供高效、智能的办公效率工具。该产品不仅能够处理文本信息，还能进行语音识别和生成，支持多语种，适用于企业服务、智能硬件、智慧政务、智慧金融、智慧医疗等多个领域。

多语言大型语言模型，支持多领域文本生成。

XVERSE-MoE-A36B是由深圳元象科技自主研发的多语言大型语言模型，采用混合专家模型（MoE）架构，具有2554亿的总参数规模和360亿的激活参数量。该模型支持包括中、英、俄、西等40多种语言，特别在中英双语上表现优异。模型使用8K长度的训练样本，并通过精细化的数据采样比例和动态数据切换策略，保证了模型的高质量和多样性。此外，模型还针对MoE架构进行了定制优化，提升了计算效率和整体吞吐量。

基于代理的框架，用于在复杂信息环境中进行关系抽取。

AgentRE是一个基于代理的框架，专门设计用于在复杂信息环境中进行关系抽取。它通过模拟智能代理的行为，能够高效地处理和分析大规模数据集，从而识别和提取实体之间的关系。该技术在自然语言处理和信息检索领域具有重要意义，尤其是在需要处理大量非结构化数据的场景中。AgentRE的主要优点包括其高度的可扩展性、灵活性以及对复杂数据结构的处理能力。该框架是开源的，允许研究人员和开发者自由使用和修改，以适应不同的应用需求。

先进的奖励模型，用于文本分类和偏好判断

Skywork-Reward-Llama-3.1-8B是一个基于Meta-Llama-3.1-8B-Instruct架构的先进奖励模型，使用Skywork Reward Data Collection进行训练，该数据集包含80K高质量的偏好对。模型在处理复杂场景中的偏好，包括具有挑战性的偏好对方面表现出色，覆盖数学、编程和安全性等多个领域。截至2024年9月，该模型在RewardBench排行榜上位列第三。

智能问答系统，提供深入见解和答案。

Question.ai是一个智能问答系统，能够理解并回答用户的各种问题。它使用先进的自然语言处理技术，提供准确、及时的信息。该系统的主要优点是能够处理复杂的查询，并以易于理解的方式提供答案。它适合需要快速、准确信息的用户，无论是个人还是企业。目前，该产品提供免费试用，但具体的定价信息尚未提供。

用于检索和生成结合统计数据的文本模型

DataGemma RIG是一系列微调后的Gemma 2模型，旨在帮助大型语言模型（LLMs）访问并整合来自Data Commons的可靠公共统计数据。该模型采用检索式生成方法，通过自然语言查询Data Commons的现有自然语言接口，对响应中的统计数据进行注释。DataGemma RIG在TPUv5e上使用JAX进行训练，目前是早期版本，主要用于学术和研究目的，尚未准备好用于商业或公众使用。

与文档进行自然语言对话的Python应用

Chat With Your Docs 是一个Python应用程序，允许用户与多种文档格式（如PDF、网页和YouTube视频）进行对话。用户可以使用自然语言提问，应用程序将基于文档内容提供相关回答。该应用利用语言模型生成准确答案。请注意，应用仅回应与加载的文档相关的问题。

股票经纪人人工智能助手，提供专业投资建议。

assistant-ui-stockbroker 是一个股票经纪人人工智能助手，旨在通过人机交互界面提供专业的投资建议。该产品利用先进的自然语言处理技术，结合金融数据和算法模型，为用户提供股票市场的深度分析和投资策略。它不仅能够提供实时的市场动态，还能根据用户的需求定制个性化的投资方案。产品背景信息显示，它是一个开源项目，由Yonom公司开发，采用TypeScript、CSS和JavaScript等技术构建。

AI编程智能体语言，实现LLM与IDE之间的通信以自动化编程。

the Shire是一种AI编程智能体语言，旨在实现大型语言模型（LLM）与集成开发环境（IDE）之间的通信，以支持自动化编程。它起源于AutoDev项目，旨在为开发者提供一个AI驱动的IDE，包括DevIns，Shire的前身。Shire通过提供定制化的AI代理，使用户能够构建符合个人需求的AI驱动开发环境。