MiniRAG是一个针对小型语言模型设计的检索增强生成系统，旨在简化RAG流程并提高效率。它通过语义感知的异构图索引机制和轻量级的拓扑增强检索方法，解决了小型模型在传统RAG框架中性能受限的问题。该模型在资源受限的场景下具有显著优势，如在移动设备或边缘计算环境中。MiniRAG的开源特性也使其易于被开发者社区接受和改进。
需求人群：
"目标受众主要是自然语言处理领域的研究人员、开发者以及对轻量级RAG系统感兴趣的学术界和工业界人士。对于那些希望在资源受限的环境中部署RAG系统，或者需要快速原型开发和实验的团队来说，MiniRAG是一个理想的选择。"
使用场景示例：
在移动设备上部署RAG系统，为用户提供快速准确的问答服务。
在边缘计算环境中，利用MiniRAG进行实时文本生成任务，如自动摘要、内容创作等。
学术研究中，作为轻量级RAG系统的基准模型，进行算法优化和性能评估。
产品特色：
提供异构图索引机制，结合文本块和命名实体，减少对复杂语义理解的依赖。
采用轻量级拓扑增强检索方法，利用图结构进行高效知识发现，无需高级语言能力。
在使用小型语言模型时，仍能实现与大型语言模型相当的性能。
仅需25%的存储空间，大大降低了部署成本。
提供了一个全面的基准数据集LiHua-World，用于评估轻量级RAG系统在真实设备场景下的性能。
支持从源代码安装和通过PyPI安装，方便开发者快速上手。
代码结构清晰，易于理解和扩展，便于开发者进行二次开发。
使用教程：
1. 从GitHub克隆MiniRAG仓库到本地。
2. 通过命令`pip install -e .`从源代码安装MiniRAG，或通过`pip install lightrag-hku`从PyPI安装。
3. 下载所需的LiHua-World数据集，并将其放置在`./dataset/LiHua-World/data/`目录下。
4. 使用`python ./reproduce/Step_0_index.py`命令对数据集进行索引。
5. 运行`python ./reproduce/Step_1_QA.py`进行问答任务，或使用`main.py`中的代码初始化MiniRAG。
6. 根据需要调整参数和配置，进行模型训练和优化。
浏览量：8
最新流量情况
月访问量
4.91m
平均访问时长
00:06:18
每次访问页数
5.57
跳出率
37.92%
流量来源
直接访问
51.73%
自然搜索
32.88%
邮件
0.04%
外链引荐
13.01%
社交媒体
2.27%
展示广告
0
截止目前所有流量趋势图
地理流量分布情况
中国
13.81%
德国
3.69%
印度
9.16%
俄罗斯
4.47%
美国
18.04%
一个简单的检索增强生成框架，使小型模型通过异构图索引和轻量级拓扑增强检索实现良好的RAG性能。
MiniRAG是一个针对小型语言模型设计的检索增强生成系统，旨在简化RAG流程并提高效率。它通过语义感知的异构图索引机制和轻量级的拓扑增强检索方法，解决了小型模型在传统RAG框架中性能受限的问题。该模型在资源受限的场景下具有显著优势，如在移动设备或边缘计算环境中。MiniRAG的开源特性也使其易于被开发者社区接受和改进。
一款经过优化的大型语言模型，擅长文本生成和对话。
OLMo-2-1124-13B-Instruct是由Allen AI研究所开发的一款大型语言模型，专注于文本生成和对话任务。该模型在多个任务上表现出色，包括数学问题解答、科学问题解答等。它是基于13B参数的版本，经过在特定数据集上的监督微调和强化学习训练，以提高其性能和安全性。作为一个开源模型，它允许研究人员和开发者探索和改进语言模型的科学。
高性能英文对话生成模型
OLMo-2-1124-7B-Instruct是由Allen人工智能研究所开发的一个大型语言模型，专注于对话生成任务。该模型在多种任务上进行了优化，包括数学问题解答、GSM8K、IFEval等，并在Tülu 3数据集上进行了监督微调。它是基于Transformers库构建的，可以用于研究和教育目的。该模型的主要优点包括高性能、多任务适应性和开源性，使其成为自然语言处理领域的一个重要工具。
领先的指令遵循模型家族，提供开源数据、代码和配方。
Llama-3.1-Tulu-3-70B-DPO是Tülu3模型家族的一部分，专为现代后训练技术提供全面指南。该模型家族旨在除了聊天之外的多种任务上实现最先进的性能，如MATH、GSM8K和IFEval。它是基于公开可用的、合成的和人为创建的数据集训练的模型，主要使用英语，并遵循Llama 3.1社区许可协议。
领先的指令遵循模型家族，提供开源数据、代码和指南。
Llama-3.1-Tulu-3-70B是Tülu3模型家族中的一员，专为现代后训练技术提供全面的指南。该模型不仅在聊天任务上表现出色，还在MATH、GSM8K和IFEval等多种任务上展现出了卓越的性能。作为一个开源模型，它允许研究人员和开发者访问和使用其数据和代码，以推动自然语言处理技术的发展。
简单快速的检索增强型生成模型
LightRAG是一个基于检索增强型生成模型，旨在通过结合检索和生成的优势来提升文本生成任务的性能。该模型在保持生成速度的同时，能够提供更准确和相关的信息，这对于需要快速且准确信息检索的应用场景尤为重要。LightRAG的开发背景是基于对现有文本生成模型的改进需求，特别是在需要处理大量数据和复杂查询时。该模型目前是开源的，可以免费使用，对于研究人员和开发者来说，它提供了一个强大的工具来探索和实现基于检索的文本生成任务。
小型语言模型调研、测量与洞察
SLM_Survey是一个专注于小型语言模型（SLMs）的研究项目，旨在通过调研和测量，提供对这些模型的深入了解和技术评估。该项目涵盖了基于Transformer的、仅解码器的语言模型，参数范围在100M至5B之间。通过对59个最先进的开源SLMs进行调研，分析了它们的技术创新，并在多个领域评估了它们的能力，包括常识推理、上下文学习、数学和编程。此外，还对它们的运行时成本进行了基准测试，包括推理延迟和内存占用。这些研究对于推动SLMs领域的研究具有重要价值。
构建LLM应用的框架
LlamaIndex.TS是一个为构建基于大型语言模型（LLM）的应用而设计的框架。它专注于帮助用户摄取、结构化和访问私有或特定领域的数据。这个框架提供了一个自然语言界面，用于连接人类和推断出的数据，使得开发者无需成为机器学习或自然语言处理的专家，也能通过LLM增强其软件功能。LlamaIndex.TS支持Node.js、Vercel Edge Functions和Deno等流行运行时环境。
开源的高性能语言模型，支持多端应用。
Qwen2.5系列语言模型是一系列开源的decoder-only稠密模型，参数规模从0.5B到72B不等，旨在满足不同产品对模型规模的需求。这些模型在自然语言理解、代码生成、数学推理等多个领域表现出色，特别适合需要高性能语言处理能力的应用场景。Qwen2.5系列模型的发布，标志着在大型语言模型领域的一次重要进步，为开发者和研究者提供了强大的工具。
开源大型语言模型，支持多语言和专业领域应用。
Qwen2.5是一系列基于Qwen2语言模型构建的新型语言模型，包括通用语言模型Qwen2.5，以及专门针对编程的Qwen2.5-Coder和数学的Qwen2.5-Math。这些模型在大规模数据集上进行了预训练，具备强大的知识理解能力和多语言支持，适用于各种复杂的自然语言处理任务。它们的主要优点包括更高的知识密度、增强的编程和数学能力、以及对长文本和结构化数据的更好理解。Qwen2.5的发布是开源社区的一大进步，为开发者和研究人员提供了强大的工具，以推动人工智能领域的研究和发展。
用于角色扮演、检索增强生成和功能调用的小型语言模型
Nemotron-Mini-4B-Instruct 是 NVIDIA 开发的一款小型语言模型，通过蒸馏、剪枝和量化优化，以提高速度和便于在设备上部署。它是从 Nemotron-4 15B 通过 NVIDIA 的大型语言模型压缩技术剪枝和蒸馏得到的 nvidia/Minitron-4B-Base 的微调版本。此指令模型针对角色扮演、检索增强问答（RAG QA）和功能调用进行了优化，支持 4096 个令牌的上下文长度，已准备好用于商业用途。
104B参数的多语种高级对话生成模型
C4AI Command R+ 08-2024是一个拥有104B参数的大规模研究发布模型，具备高度先进的能力，包括检索增强生成（RAG）和工具使用，以自动化复杂任务。该模型支持23种语言的训练，并在10种语言中进行评估。它优化了多种用例，包括推理、总结和问答。
基于人类长期记忆的新型RAG框架
HippoRAG是一个启发自人类长期记忆的新型检索增强生成(RAG)框架，它使得大型语言模型(LLMs)能够持续地整合跨外部文档的知识。该框架通过实验表明，HippoRAG能够以更低的计算成本提供通常需要昂贵且高延迟迭代LLM流水线的RAG系统能力。
基于7B参数的强大对话智能语言模型
360Zhinao是由奇虎360开源的一系列7B规模的智能语言模型,包括基础模型和三个不同长度上下文的对话模型。这些模型经过大规模中英文语料预训练,在自然语言理解、知识、数学、代码生成等多种任务上表现出色,并具有强大的长文本对话能力。模型可用于各种对话式应用的开发和部署。
创建和使用自定义聊天机器人，基于HuggingFace的开源模型。
HuggingChat Assistants是HuggingFace发布的聊天机器人定制平台。用户可以选择HuggingFace托管的多个开源模型，创建自定义的聊天机器人，适用于多个领域。
提供全球基础金融数据，快速整合到模型中，助力现代金融分析师高效工作。
Finbar是一个专注于提供全球基础金融数据的平台。它通过先进的OCR、机器学习和自然语言处理技术，能够快速从海量金融文档中提取结构化数据，并在数据发布后几秒内提供给用户。其主要优点是数据更新速度快、自动化程度高，能够显著减少人工处理数据的时间和成本。该产品主要面向金融机构和分析师，帮助他们快速获取和分析数据，提升工作效率。目前尚不清楚其具体价格和定位，但已获得多家顶级对冲基金的使用。
基于UI-TARS（视觉语言模型）的GUI代理应用，可使用自然语言控制电脑。
UI-TARS-desktop 是由字节跳动开发的一款桌面客户端应用，它基于 UI-TARS 视觉语言模型，允许用户通过自然语言与计算机进行交互，完成各种任务。该产品利用先进的视觉语言模型技术，能够理解用户的自然语言指令，并通过屏幕截图和视觉识别功能实现精准的鼠标和键盘操作。它支持跨平台使用（Windows 和 macOS），并提供实时反馈和状态显示，极大地提高了用户的工作效率和交互体验。目前该产品在 GitHub 上开源，用户可以免费下载和使用。
DeepSeek-R1-Distill-Qwen-1.5B 是一款高效推理的开源语言模型，适用于多种自然语言处理任务。
DeepSeek-R1-Distill-Qwen-1.5B 是由 DeepSeek 团队开发的开源语言模型，基于 Qwen2.5 系列进行蒸馏优化。该模型通过大规模强化学习和数据蒸馏技术，显著提升了推理能力和性能，同时保持了较小的模型体积。它在多项基准测试中表现出色，尤其在数学、代码生成和推理任务中具有显著优势。该模型支持商业使用，并允许用户进行修改和衍生作品开发，适合研究机构和企业用于开发高性能的自然语言处理应用。
DeepSeek-R1-Distill-Qwen-14B 是一款高性能的文本生成模型，适用于多种推理和生成任务。
DeepSeek-R1-Distill-Qwen-14B 是 DeepSeek 团队开发的一款基于 Qwen-14B 的蒸馏模型，专注于推理和文本生成任务。该模型通过大规模强化学习和数据蒸馏技术，显著提升了推理能力和生成质量，同时降低了计算资源需求。其主要优点包括高性能、低资源消耗和广泛的适用性，适用于需要高效推理和文本生成的场景。
Fey 是一款帮助用户更好地进行投资决策的产品。
Fey 是一款专注于投资领域的工具，具有实时市场数据、智能观察列表、人工智能驱动的见解和高级筛选功能。它结合了直观的界面和强大的数据分析能力，无论是新手投资者还是经验丰富的专业人士，都能从中受益。Fey 的主要优点是能够简化复杂信息，减少干扰，让用户专注于重要的投资决策。其背景信息显示，该产品由 Fey Labs Inc. 开发，旨在为用户提供高效、便捷的投资体验。目前，Fey 提供免费试用服务，具体价格尚未明确。
WebWalker是一个用于评估大型语言模型在网页遍历能力上的基准测试框架。
WebWalker是一个由阿里巴巴集团通义实验室开发的多智能体框架，用于评估大型语言模型（LLMs）在网页遍历任务中的表现。该框架通过模拟人类浏览网页的方式，通过探索和评估范式来系统地提取高质量数据。WebWalker的主要优点在于其创新的网页遍历能力，能够深入挖掘多层级信息，弥补了传统搜索引擎在处理复杂问题时的不足。该技术对于提升语言模型在开放域问答中的表现具有重要意义，尤其是在需要多步骤信息检索的场景中。WebWalker的开发旨在推动语言模型在信息检索领域的应用和发展。
InternLM3 是一个专注于文本生成的模型集合，提供多种优化版本以满足不同需求。
InternLM3 是由 InternLM 团队开发的一系列高性能语言模型，专注于文本生成任务。该模型通过多种量化技术优化，能够在不同硬件环境下高效运行，同时保持出色的生成质量。其主要优点包括高效的推理性能、多样化的应用场景以及对多种文本生成任务的优化支持。InternLM3 适用于需要高质量文本生成的开发者和研究人员，能够帮助他们在自然语言处理领域快速实现应用。
MatterGen是一个利用生成式AI进行材料设计的工具。
MatterGen是微软研究院推出的一种生成式AI工具，用于材料设计。它能够根据应用的设计要求直接生成具有特定化学、机械、电子或磁性属性的新型材料，为材料探索提供了新的范式。该工具的出现有望加速新型材料的研发进程，降低研发成本，并在电池、太阳能电池、CO2吸附剂等领域发挥重要作用。目前，MatterGen的源代码已在GitHub上开源，供公众使用和进一步开发。
强大的语言模型，拥有4560亿总参数，可处理长达400万token的上下文。
MiniMax-01是一个具有4560亿总参数的强大语言模型，其中每个token激活459亿参数。它采用混合架构，结合了闪电注意力、softmax注意力和专家混合（MoE），通过先进的并行策略和创新的计算-通信重叠方法，如线性注意力序列并行主义加（LASP+）、varlen环形注意力、专家张量并行（ETP）等，将训练上下文长度扩展到100万tokens，在推理时可处理长达400万tokens的上下文。在多个学术基准测试中，MiniMax-01展现了顶级模型的性能。
将Common Crawl转化为精细的长期预训练数据集
Nemotron-CC是一个基于Common Crawl的6.3万亿token的数据集。它通过分类器集成、合成数据改写和减少启发式过滤器的依赖，将英文Common Crawl转化为一个6.3万亿token的长期预训练数据集，包含4.4万亿全球去重的原始token和1.9万亿合成生成的token。该数据集在准确性和数据量之间取得了更好的平衡，对于训练大型语言模型具有重要意义。
一个拥有8200万参数的前沿文本到语音（TTS）模型。
Kokoro-82M是一个由hexgrad创建并托管在Hugging Face上的文本到语音（TTS）模型。它具有8200万参数，使用Apache 2.0许可证开源。该模型在2024年12月25日发布了v0.19版本，并提供了10种独特的语音包。Kokoro-82M在TTS Spaces Arena中排名第一，显示出其在参数规模和数据使用上的高效性。它支持美国英语和英国英语，可用于生成高质量的语音输出。
将自然语言查询转化为可操作的SQL，助力数据团队快速获取数据库中的洞察。
Wren AI Cloud 是一款强大的生产力工具，旨在通过自然语言处理技术，帮助非技术团队轻松访问和分析数据库中的数据。它利用先进的SQL生成算法和多智能体工作流程，减少AI幻觉，提供可靠、准确的数据查询结果。产品主要面向企业数据团队、销售和市场团队，以及开源社区，支持多种数据库和SaaS工具的集成。其价格策略灵活，提供免费试用选项，旨在推动数据驱动的文化，加速决策过程。
基于特定模型的量化大型语言模型，适用于自然语言处理等任务。
该模型是量化版大型语言模型，采用4位量化技术，降低存储与计算需求，适用于自然语言处理，参数量8.03B，免费且可用于非商业用途，适合资源受限环境下高性能语言应用需求者。
© 2025 AIbase 备案号：闽ICP备08105208号-14