产品库

开源的GenAI应用网关，快速构建个性化的AI应用

Arch是一个开源的网关，专为处理提示（prompts）而设计，它利用快速的大型语言模型（LLMs）来处理提示，并与后端系统无缝集成。Arch基于Envoy构建，支持任何应用程序语言，并提供快速部署和透明升级。它提供了包括流量管理、前端/边缘网关、监控和端到端追踪在内的多种功能，帮助开发者构建快速、健壮和个性化的GenAI应用。

由实践者主导的LLMs公开课

Mastering LLMs 是一个由25多位行业资深人士主讲的免费课程，涵盖了评估、检索增强生成（RAG）、微调等主题。课程内容由信息检索、机器学习、推荐系统、MLOps和数据科学等领域的专家提供，旨在将这些领域的先前技术应用于LLMs，为用户提供有意义的优势。课程面向需要指导如何改进AI产品的技术IC（包括工程师和数据科学家）。

免费使用开源LLMs的AI答案引擎

Ubdroid AI Answer Engine是一款基于人工智能的工具，使用开源LLMs为用户提供答案。它通过处理用户查询并从开源LLMs中获取相关信息来工作。准确性取决于开源LLMs提供的数据。对于免费模型，请求限制为每分钟10个。如果发现某个模型不起作用，请选择另一个模型。

基于Linux环境快速部署开源大模型的教程

该项目是一个围绕开源大模型的全流程指导教程,包括环境配置、模型部署、高效微调等,简化开源大模型的使用和应用,让更多普通学习者能够使用开源大模型。项目面向对开源大模型感兴趣且想自主上手的学习者,提供详细的环境配置、模型部署和微调方法。

文件解析器，专为LLMs解析PDF、Docx、PPTx等文档。

MegaParse是一个强大的文件解析器，专为大型语言模型（LLMs）设计，以确保在解析过程中不丢失任何信息。它支持多种文件格式，包括PDF、PowerPoint、Word文档等，并且是开源的。这个工具的主要优点是速度快、效率高，且能够广泛兼容不同文件类型。MegaParse的背景信息显示，它是由QuivrHQ开发的，并且拥有活跃的社区和贡献者。产品是免费的，并且可以通过GitHub访问其源代码。

使用所有最新的llms订阅一项服务。

AllNewModels是一个网站，提供了许多最新的llms模型。该网站的主要优点是用户可以在一个订阅中使用所有最新的llms模型。它为用户提供了更多选择和灵活性，无需单独购买和使用不同的模型。AllNewModels的定位是为专业人士提供的。

用户友好的LLMs WebUI

Open WebUI是一个为LLMs（大型语言模型）设计的友好型Web用户界面，支持Ollama和OpenAI兼容的API。它提供了直观的聊天界面、响应式设计、快速响应性能、简易安装、代码语法高亮、Markdown和LaTeX支持、本地RAG集成、Web浏览能力、提示预设支持、RLHF注释、会话标记、模型下载/删除、GGUF文件模型创建、多模型支持、多模态支持、模型文件构建器、协作聊天、OpenAI API集成等功能。

生成llms.txt文件，帮助LLMs在推理时使用您的网站。

SiteSpeakAI - llms.txt Generator是一个在线工具，用于生成llms.txt文件。这个文件为大型语言模型（LLMs）提供了必要的信息，以便它们能够在推理时更有效地使用您的网站。该工具的重要性在于它能够帮助网站管理员和开发者优化他们的网站，使其更适合与人工智能语言模型的交互，提高网站的功能和用户体验。SiteSpeakAI提供了一个免费的在线生成器，用户可以快速生成所需的llms.txt文件，无需复杂的编程知识。

构建和控制你自己的LLMs

xTuring是一个开源的人工智能个性化软件。xTuring通过提供简单的界面来为您的数据和应用程序个性化LLMs提供便利。xTuring提供了以下工具：使用不同方法微调LLMs、从数据源生成数据集、评估修改后的模型。xTuring的优势在于简单易用、计算和内存效率高、灵活可定制。xTuring可通过pip进行安装。

构建、连接和部署边缘上的GenAI应用

Lamatic.ai是一个为构建、测试和部署高性能GenAI应用在边缘而设计的管理型PaaS平台，提供低代码可视化构建器、VectorDB和集成应用及模型。它通过集成多种工具和技术，帮助AI创始人和构建者快速实现复杂的AI工作流程。平台的主要优点包括减少团队间的来回沟通、自动化工作流程、提高部署速度和降低延迟。Lamatic.ai的背景信息显示，它是由一群对GenAI应用开发有着深刻理解和丰富经验的工程师和社区成员共同打造的。平台的价格定位是包含所有可用的管理集成、向量数据库、托管、边缘部署和SDK的月度订阅服务，同时提供按小时计费的专业服务。

Articul8通过其全栈GenAI平台帮助企业加速数字化转型

Articul8提供全栈GenAI平台,可以快速将企业的数据转化为可操作的洞察,从而帮助企业加速数字化转型并释放持久的业务价值。平台具有就绪的API、托管的数据层、灵活的基础设施等功能,可以进行垂直优化和大规模部署,实现快速交付和可持续的成本。

给 LLMs 提供灵活的格式化文本输出的UI Kit

LanguageGUI是一个开源的设计系统和UI Kit，为LLMs提供了将文本输出格式化为丰富图形用户界面的灵活性。它包括数十个独特的UI元素，可用于丰富对话式用户界面的不同用例。主要功能包括100个可自定义的UI组件和屏幕、10个对话式UI小部件、20个聊天气泡、30个预建屏幕、5个可自定义设置的聊天侧边栏、多个提示框、深色模式等。LanguageGUI是免费的，可以用于个人或商业项目。它由Tonki Labs团队开发，并以MIT许可证发布。

OpenLIT是用于GenAI和LLM应用可观察性的开源平台。

OpenLIT是一个开源的AI工程平台，专注于生成式AI和大型语言模型（LLM）应用的可观察性。它通过提供代码透明度、隐私保护、性能可视化等功能，帮助开发者简化AI开发流程，提高开发效率和应用性能。作为开源项目，用户可以自由查看代码或自行托管，确保数据安全和隐私。其主要优点包括易于集成、支持OpenTelemetry原生集成、提供细粒度的使用洞察等。OpenLIT面向AI开发者、数据科学家和企业，旨在帮助他们更好地构建、优化和管理AI应用。目前未明确具体价格，但从开源特性来看，可能对基础功能提供免费使用。

一键复制粘贴任何代码库到LLMs

Copy Repo是一个在线工具，它允许用户一键复制粘贴GitHub上的代码库到大型语言模型（LLMs）中。这个工具的主要优点是简化了代码迁移和管理的过程，使得开发者可以更高效地利用LLMs进行代码开发和维护。它的背后是现代软件开发中对于自动化和效率的追求，以及对LLMs在编程领域应用潜力的认可。目前，该工具是免费的，定位于为开发者提供便利。

高性能、成本效益的向量数据库，为GenAI应用打造。

Zilliz Cloud Serverless是一个为GenAI应用设计的高性能向量数据库服务，它提供了自动扩展的数据库能力，成本随着业务增长而增加。该产品使用分层存储系统，结合DRAM、SSD和对象存储自动优化数据放置，确保活跃数据快速访问的同时降低不常用信息的成本，无需手动管理。Zilliz Cloud Serverless以其成本效益、数据可移植性和自动扩展能力，为需要处理大规模向量数据的企业提供了一个强大的解决方案。

一个实时适应未见任务的自适应大型语言模型框架。

SakanaAI/self-adaptive-llms是一个名为Transformer²的自适应框架，旨在解决传统微调方法计算密集且处理多样化任务能力静态的挑战。该框架能够在推理过程中通过两步机制实时调整大型语言模型（LLMs）以适应未见任务：首先，调度系统识别任务属性；然后，使用强化学习训练的任务特定'专家'向量被动态混合，以获得针对输入提示的目标行为。主要优点包括实时任务适应性、计算效率和灵活性。该项目由SakanaAI团队开发，目前在GitHub上开源，拥有195颗星和12次分叉。

快速构建聊天机器人，无需编码。

Genai 是一个聊天机器人平台，允许用户从多种数据源收集和混合数据，以快速创建聊天机器人。这些聊天机器人能够根据提供的数据回答用户问题，无需编程知识，即可实现24/7的客户支持，提高客户满意度，并降低支持成本。此外，Genai 还提供了一种新的学习方式，通过加载用户喜爱的播客和视频，快速找到知识信息。用户还可以通过平台分享自己的知识，并通过创建聊天机器人来增长受众和建立长期关系。

使用LLMs和计算机视觉自动化基于浏览器的工作流程

Skyvern是一个自动化工具，它结合了大型语言模型（LLMs）和计算机视觉技术，用于自动化基于浏览器的工作流程。它提供了一个简单的API端点，可以完全自动化手动工作流程，替代易碎或不可靠的自动化解决方案。

一站式AI数字人系统，支持视频合成、声音合成、声音克隆。

AIGCPanel是一个简单易用的一站式AI数字人系统，小白也可使用。支持视频合成、声音合成、声音克隆，简化本地模型管理、一键导入和使用AI模型。产品背景信息显示，AIGCPanel旨在通过集成多种AI功能，提升数字人素材管理的效率，降低技术门槛，使非专业人士也能轻松管理和使用AI数字人。产品基于AGPL-3.0开源，完全免费，可以直接使用。

开源AI搜索引擎，支持本地或云LLMs。

Farfalle是一个开源的AI驱动搜索引擎，它允许用户运行本地大型语言模型(LLMs)或使用云模型。它是基于Perplexity克隆的，可以与多种技术栈集成，如Next.js前端、FastAPI后端、Tavily搜索API等。它还提供了自定义设置的文档和演示视频，以帮助用户快速开始。

开源项目，为开源社区提供服务

Zitefy是一个开源项目，旨在为开源社区提供服务。它利用先进的技术，帮助开发者和社区更高效地协作和管理项目。Zitefy的主要优点包括用户友好的界面、强大的功能以及对开源精神的支持。

AI学习平台

Generative AI Courses是一家提供AI学习课程的在线平台。通过课程学习，用户可以掌握GenAI、AI、机器学习、深度学习、chatGPT、DALLE、图像生成、视频生成、文本生成等技术，并了解2024年AI领域的最新发展。

利用大型语言模型增强扫描PDF的OCR输出。

llm_aided_ocr是一个高级系统，旨在显著提高光学字符识别（OCR）输出的质量。通过利用尖端的自然语言处理技术和大型语言模型（LLMs），该项目将原始OCR文本转化为高度准确、格式良好、易读的文档。

开源CSV导入平台

TableFlow是一个开源的数据导入平台,公司可以使用它来收集和转换客户数据。它提供了一个可定制的导入器,企业可以嵌入或链接到TableFlow,以满足数据导入的需求。

开源项目，实现无限缩放

Endless Zoom是一个开源项目，可以实现无限缩放功能。用户可以在其中添加自定义内容，进行无限缩放操作。该项目定位于为用户提供开放源代码的无限缩放工具，帮助用户实现更多创意和想法。目前该项目免费使用。

AI Builder's Program是一个由导师带领的14天冲刺项目，将大胆的AI想法转化为可投入生产的智能体—包括框架、实时构建时间、LLMs速成课程—100%免费。

AI Builder's Program是一个为AI建设者设计的导师带领的项目，致力于将有潜力的AI想法转化为成功的产品。通过提供清晰的目标、技术支持和持续改进，帮助AI建设者在短时间内将创意变为实际应用。

基于LLMs和生成式AI模型的AI产品的基础研究和技术

LMOps是一个基于LLMs和生成式AI模型的AI产品的基础研究和技术。它提供了自动提示优化、Promptist、可扩展的提示、通用提示检索、LLM检索等功能。此外，还包括结构化提示、可扩展的提示、LLM加速器、LLM定制化和理解上下文学习等基本功能。LMOps的链接包括microsoft/unilm和microsoft/torchscale等。它适用于各种场景，如文本到图像生成、长序列提示消耗和扩展提示等。LMOps是一个开源项目，遵循MIT许可证。

现代人工智能系统学习指南。

GenAI Handbook 是一个旨在为学习现代人工智能系统的关键概念提供指导的手册。它由 William Brown 编写，目的是整理互联网上分散的高质量解释资源，形成一个教科书风格的呈现，作为达到个人与人工智能相关的学习目标的路线图。该手册面向具有技术背景的人群，无论是出于好奇还是潜在的职业发展，都可以通过它来了解人工智能的最新创新。

开源AI工具目录

RightAI是一个开源的AI工具目录，每天由GPT-4o、Claude-3.5更新，提供免费提交服务以增强SEO。