产品库

Prompto是一个开源的网络应用程序，旨在使与LLM的交互简单高效。

Prompto是一个开源的网页应用程序，旨在使与大型语言模型（LLMs）的交互简单高效。它可以轻松切换不同的LLMs，通过调整温度设置来调整LLM的创造力和风险水平，提供聊天机器人界面和笔记本界面，可以创建常用提示的模板，并且在浏览器中运行，确保流畅响应的体验。所有设置和聊天记录仅存储在浏览器的本地存储中，保护用户隐私。

用于评估其他语言模型的开源工具集

Prometheus-Eval 是一个用于评估大型语言模型（LLM）在生成任务中表现的开源工具集。它提供了一个简单的接口，使用 Prometheus 模型来评估指令和响应对。Prometheus 2 模型支持直接评估（绝对评分）和成对排名（相对评分），能够模拟人类判断和专有的基于语言模型的评估，解决了公平性、可控性和可负担性的问题。

AI代码查找器，快速找到AI论文的代码实现

AI Code Finder是一个免费的浏览器插件，可以快速找到任何AI研究论文的代码实现。它能够自动在Google、ArXiv、学术搜索引擎、论坛等网站上找到与论文相关的代码链接，并提供CODE按钮供用户点击跳转到开源代码实现。用户还可以创建提醒以获取最新的代码实现、作者的最新工作和最新进展。此插件适用于从事人工智能、数据科学、计算机视觉、语音识别、深度学习和大型语言模型等领域的工程师、研究人员、开发人员和技术领导者。

下一代本地优先的大型语言模型（LLMs）

anime.gf 是由 moecorp 发起的下一代本地优先的大型语言模型（LLMs），目前正处于积极开发阶段。它代表了一种新兴的本地化和开源的人工智能技术，旨在提供更高效、更个性化的用户体验。

开源的基于深度文档理解的RAG（检索增强生成）引擎

RAGFlow是一个开源的RAG（Retrieval-Augmented Generation）引擎，基于深度文档理解，提供流线型的RAG工作流程，适用于各种规模的企业。它结合了大型语言模型（LLM）提供真实的问答能力，支持从各种复杂格式数据中引用确凿的引文。

扩展LLaVA模型，集成Phi-3和LLaMA-3，提升视觉与语言模型的交互能力。

LLaVA++是一个开源项目，旨在通过集成Phi-3和LLaMA-3模型来扩展LLaVA模型的视觉能力。该项目由Mohamed bin Zayed University of AI (MBZUAI)的研究人员开发，通过结合最新的大型语言模型，增强了模型在遵循指令和学术任务导向数据集上的表现。

结合文本提取、网络分析和大型语言模型提示与总结的端到端系统

GraphRAG (Graphs + Retrieval Augmented Generation) 是一种通过结合文本提取、网络分析以及大型语言模型（LLM）的提示和总结，来丰富理解文本数据集的技术。该技术即将在GitHub上开源，是微软研究项目的一部分，旨在通过先进的算法提升文本数据的处理和分析能力。

快速训练和微调大型语言模型

Unsloth 是一个旨在提高大型语言模型（LLMs）训练和微调速度的平台。它通过手动推导所有计算密集型数学步骤并手写GPU内核，实现了无需硬件更改即可显著加快训练速度。Unsloth 支持多种GPU，包括NVIDIA、AMD和Intel，并提供开源版本供用户在Google Colab或Kaggle Notebooks上免费试用。它还提供了不同级别的定价方案，包括免费版、Pro版和企业版，以满足不同用户的需求。

高质量英文网页数据集

FineWeb数据集包含超过15万亿个经过清洗和去重的英文网页数据，来源于CommonCrawl。该数据集专为大型语言模型预训练设计，旨在推动开源模型的发展。数据集经过精心处理和筛选，以确保高质量，适用于各种自然语言处理任务。

Meta 新一代开源大型语言模型,性能卓越

Meta Llama 3是Meta公司推出的新一代开源大型语言模型,性能卓越,在多项行业基准测试中表现出色。它可支持广泛的使用场景,包括改善推理能力等新功能。该模型将在未来支持多语种、多模态,提供更长的上下文窗口和整体性能提升。Llama 3秉承开放理念,将被部署在主要云服务、托管和硬件平台上,供开发者和社区使用。

开源的先进文本嵌入模型

Snowflake Arctic Embed是一系列基于Apache 2.0许可开源的文本嵌入模型，专为检索用例设计。这些模型在Massive Text Embedding Benchmark (MTEB)检索基准测试中提供了领先的检索性能，为组织在结合专有数据集与大型语言模型（LLMs）进行检索增强生成（RAG）或语义搜索服务时提供了新的优势。这些模型的尺寸从超小型（xs）到大型（l），具有不同的上下文窗口和参数数量，以满足不同企业的延迟、成本和检索性能需求。

以低成本实现高性能的大型语言模型

JetMoE-8B是一个开源的大型语言模型，通过使用公共数据集和优化的训练方法，以低于10万美元的成本实现了超越Meta AI LLaMA2-7B的性能。该模型在推理时仅激活22亿参数，大幅降低了计算成本，同时保持了优异的性能。

基于7B参数的强大对话智能语言模型

360Zhinao是由奇虎360开源的一系列7B规模的智能语言模型,包括基础模型和三个不同长度上下文的对话模型。这些模型经过大规模中英文语料预训练,在自然语言理解、知识、数学、代码生成等多种任务上表现出色,并具有强大的长文本对话能力。模型可用于各种对话式应用的开发和部署。

Octopus-V2-2B是一款在移动设备上运行的2B LLMs，性能优于GPT-4

Octopus-V2-2B是由斯坦福大学NexaAI开发的开源大型语言模型，具有20亿参数，专门为Android API的功能调用定制。它采用了独特的功能性标记策略，用于训练和推理阶段，使其达到与GPT-4相当的性能水平，并提高了推理速度。Octopus-V2-2B特别适合边缘计算设备，能够在设备上直接运行，支持广泛的应用场景。

一个新的高效开源大型语言模型标准

DBRX是一个由Databricks的Mosaic研究团队构建的通用大型语言模型(LLM),在标准基准测试中表现优于所有现有开源模型。它采用Mixture-of-Experts (MoE)架构,使用362亿个参数,拥有出色的语言理解、编程、数学和逻辑推理能力。DBRX旨在推动高质量开源LLM的发展,并且便于企业根据自身数据对模型进行定制。Databricks为企业用户提供了交互式使用DBRX、利用其长上下文能力构建检索增强系统,并基于自身数据构建定制DBRX模型的能力。

使用大型语言模型进行逆向工程：反编译二进制代码

LLM4Decompile是一个开源项目，旨在创建并发布第一个专门用于反编译的LLM（大型语言模型），并通过构建首个专注于可重编译性和可执行性的反编译基准测试来评估其能力。该项目通过编译大量C代码样本到汇编代码，然后使用这些数据对DeepSeek-Coder模型进行微调，构建了评估基准Decompile-Eval。

下一代开源和双语大型语言模型

Yi-9B是01.AI研发的下一代开源双语大型语言模型系列之一。训练数据量达3T,展现出强大的语言理解、常识推理、阅读理解等能力。在代码、数学、常识推理和阅读理解等方面表现卓越,是同尺寸开源模型中的佼佼者。适用于个人、学术和商业用途。

为团队协作设计的轻量级ChatGPT替代品

Joia是一个为团队协作设计的轻量级ChatGPT替代品，注重隐私保护且开源。它允许用户轻松地为组织中的每个人提供AI聊天访问权限，创建特定用途的聊天机器人并与团队共享。Joia直接与OpenAI等大型语言模型提供商通过API链接，只按实际使用的令牌付费，相比ChatGPT的定价计划可节省高达75%的订阅成本。

轻量级AI代理，基于开源模型的智能助手

AIlice是一个轻量级的AI代理，旨在创建一个类似于JARVIS的自包含人工智能助手。它通过构建一个以大型语言模型（LLM）为核心的“文本计算机”来实现这一目标。AIlice在主题研究、编码、系统管理、文献综述以及超越这些基本能力的复杂混合任务方面表现出色。AIlice利用GPT-4在日常生活中的任务中达到了近乎完美的性能，并正在利用最新的开源模型迈向实际应用。

新一代开源大型语言模型,性能卓越

Meta Llama 3是Meta公司推出的新一代开源大型语言模型,性能卓越,在多项行业基准测试中表现出色。它可支持广泛的使用场景,包括改善推理能力等新功能。该模型将在未来支持多语种、多模态,提供更长的上下文窗口和整体性能提升。Llama 3秉承开放理念,将被部署在主要云服务、托管和硬件平台上,供开发者和社区使用。

集成音乐能力的开源LLM

ChatMusician是一个开源的大型语言模型（LLM），它通过持续的预训练和微调，集成了音乐能力。该模型基于文本兼容的音乐表示法（ABC记谱法），将音乐视为第二语言。ChatMusician能够在不依赖外部多模态神经结构或分词器的情况下，理解和生成音乐。

通过自然语言指令实现智能图像编辑的开源技术。

MGIE（多模态大语言模型引导的编辑）是一项由苹果开源的技术，利用多模态大型语言模型（MLLMs）生成图像编辑指令，通过端到端训练，捕捉视觉想象力并执行图像处理操作，使图像编辑更加智能、直观。

AIWaves是一个AI软件公司,提供AI产品和服务。

AIWaves是一个总部位于杭州的AI初创公司,专注于将大型语言模型应用于互联网场景。公司以「实现AGI,让人类生活变得更美好」作为长期使命,以成为「全球第一的AI内容平台」为愿景,致力于重新定义未来内容创作和消费范式。公司主要产品有:对话机器人波形Bot、AI写作助手蛙蛙故事、开源工具包Agents等。这些产品可广泛应用于电商、游戏、医疗、教育等领域,为用户提供更优质的内容和服务。

开源双语文生图生成模型

Taiyi-Diffusion-XL是一个开源的基于Stable Diffusion训练的双语文生图生成模型,支持英文和中文的文本到图像生成,相比之前的中文文生图模型有了显著提升。它可以根据文本描述生成照片般逼真的图像,支持多种图像风格,具有较高的生成质量和多样性。该模型采用创新的训练方式,扩展了词表、位置编码以支持长文本和中文,并在大规模双语数据集上进行训练,确保了其强大的中英文生成能力。

在您的设备上运行和交互完整功能的开源LLM

Sanctum是一个桌面客户端应用程序，让您能够在本地设备上运行和交互完整功能的开源大型语言模型。通过Sanctum，您可以保证数据加密、安全，并且永远不会离开您的设备。它提供易于设置的解决方案，让您能够在Mac上立即运行大型语言模型而无需复杂的安装。您可以随时切换不同的开源模型以找到最适合您需求的模型，并且可以在安全和完全私密的环境中与PDF文件进行聊天、提问和总结。

开源的中英双语预训练语言模型

LingoWhale-8B是一个开源的大规模中英双语预训练语言模型,具有强大的自然语言理解和生成能力。它通过在海量高质量中英文数据上进行预训练,可以完成长文本的理解和多轮交互。该模型采用Transformer架构,参数量达80亿。它在多个中文和英文公开基准测试上都取得了领先的效果。LingoWhale-8B完全开放给学术研究使用,个人开发者可以免费用于商业用途。该模型可以广泛应用于聊天机器人、知识问答、文本生成等领域。

统一的语言模型评估框架

PromptBench是一个基于Pytorch的Python包,用于评估大型语言模型(LLM)。它为研究人员提供了用户友好的API,以便对LLM进行评估。主要功能包括:快速模型性能评估、提示工程、对抗提示评估以及动态评估等。优势是使用简单,可以快速上手评估已有数据集和模型,也可以轻松定制自己的数据集和模型。定位为LLM评估的统一开源库。

将LLM模型打包成一个可执行文件

llamafile是一个将LLM(大型语言模型)模型及其权重打包成一个自包含可执行文件的工具。它结合了llama.cpp和Cosmopolitan Libc,可以让复杂的LLM模型被压缩成一个llamafile,无需进行任何安装和配置就可以在大多数计算机上本地运行。主要优点是使开源的LLM模型更易于开发者和终端用户访问。

医学大型语言模型套件

Meditron 是一套开源的医学大型语言模型（LLM）套件。它通过对一份经过综合筛选的医学语料库进行持续预训练，包括选定的 PubMed 论文和摘要、一份新的国际认可的医学指南数据集以及一个通用领域语料库，将 Llama-2 适应到医学领域。Meditron-70B 在相关数据上进行了微调，性能优于 Llama-2-70B、GPT-3.5 和 Flan-PaLM。

现代客服团队的首选

Chatwoot是一款开源的AI客服平台，通过AI技术提升客户支持体验，提供自助服务工具、全球搜索接口、实时聊天SDK等功能，同时支持自托管部署，符合SOC 2 Type II标准，可无缝切换不同的大型语言模型。作为Intercom、Zendesk和Salesforce Service Cloud的替代品，Chatwoot提供共享收件箱、多渠道支持、自动化、聊天机器人等功能。