开源的GenAI应用网关，快速构建个性化的AI应用
Arch是一个开源的网关，专为处理提示（prompts）而设计，它利用快速的大型语言模型（LLMs）来处理提示，并与后端系统无缝集成。Arch基于Envoy构建，支持任何应用程序语言，并提供快速部署和透明升级。它提供了包括流量管理、前端/边缘网关、监控和端到端追踪在内的多种功能，帮助开发者构建快速、健壮和个性化的GenAI应用。
多代理系统，帮助组织和撰写文档。
Kiroku是一个多代理系统，旨在帮助用户组织和撰写文档。它通过模拟博士论文写作过程中学生与导师的互动，让写作者扮演顾问的角色，而多代理系统则扮演学生的角色。这种流程的优势在于能够快速生成段落序列，通过迭代评估信息来改变沟通方式，并借助大型语言模型（LLMs）讨论复杂话题。Kiroku需要OPENAI_API_KEY和TAVILY_API_KEY来运行，支持Python 3.7至3.11版本。
探索ReAct聊天机器人的实验性项目
curiosity是一个基于ReAct框架的聊天机器人项目，旨在通过LangGraph和FastHTML技术栈探索和构建类似Perplexity的用户交互体验。项目核心是一个简单的ReAct代理，使用Tavily搜索增强文本生成。支持三种不同的LLMs（大型语言模型），包括OpenAI的gpt-4o-mini、Groq的llama3-groq-8b-8192-tool-use-preview以及Ollama的llama3.1。项目通过FastHTML构建前端，尽管在调试过程中可能遇到一些挑战，但整体上提供了快速的用户体验。
一站式数据处理系统，为大型语言模型提供高质量数据。
Data-Juicer 是一个一站式的多模态数据处理系统，旨在为大型语言模型(LLMs)提供更高质量、更丰富、更易消化的数据。它提供了一个系统化和可复用的数据处理库，支持数据与模型的协同开发，通过沙盒实验室实现快速迭代，并提供基于数据和模型的反馈循环、可视化和多维度自动评估等功能，帮助用户更好地理解和改进他们的数据和模型。Data-Juicer 正在积极更新和维护，定期增强和添加更多功能、数据配方和数据集。
利用大型语言模型增强扫描PDF的OCR输出。
llm_aided_ocr是一个高级系统，旨在显著提高光学字符识别（OCR）输出的质量。通过利用尖端的自然语言处理技术和大型语言模型（LLMs），该项目将原始OCR文本转化为高度准确、格式良好、易读的文档。
由实践者主导的LLMs公开课
Mastering LLMs 是一个由25多位行业资深人士主讲的免费课程，涵盖了评估、检索增强生成（RAG）、微调等主题。课程内容由信息检索、机器学习、推荐系统、MLOps和数据科学等领域的专家提供，旨在将这些领域的先前技术应用于LLMs，为用户提供有意义的优势。课程面向需要指导如何改进AI产品的技术IC（包括工程师和数据科学家）。
低代码构建多Agent大模型应用的开发工具
LazyLLM是一个致力于简化人工智能应用构建流程的开发工具，它通过提供低代码的解决方案，使得开发者即使不了解大模型也能轻松组装包含多个Agent的AI应用。LazyLLM支持一键部署所有模块，跨平台兼容，自动进行网格搜索参数优化，以及高效的模型微调，从而提升应用效果。
ComfyUI的节点，能够根据用户指令生成任何类型的输出。
AnyNode是一个为ComfyUI设计的插件，它利用LLMs（大型语言模型）的能力，根据用户的输入生成所需的输出。它支持使用OpenAI API或本地LLMs API，允许用户通过简单的配置和指令，实现复杂的编程任务，无需编写代码。该插件的主要优点包括易用性、灵活性和强大的功能，能够显著提高开发效率，尤其适合需要快速原型开发和自动化任务的开发者。
使用所有最新的llms订阅一项服务。
AllNewModels是一个网站，提供了许多最新的llms模型。该网站的主要优点是用户可以在一个订阅中使用所有最新的llms模型。它为用户提供了更多选择和灵活性，无需单独购买和使用不同的模型。AllNewModels的定位是为专业人士提供的。
使用LLMs和计算机视觉自动化基于浏览器的工作流程
Skyvern是一个自动化工具，它结合了大型语言模型（LLMs）和计算机视觉技术，用于自动化基于浏览器的工作流程。它提供了一个简单的API端点，可以完全自动化手动工作流程，替代易碎或不可靠的自动化解决方案。
用户友好的LLMs WebUI
Open WebUI是一个为LLMs（大型语言模型）设计的友好型Web用户界面，支持Ollama和OpenAI兼容的API。它提供了直观的聊天界面、响应式设计、快速响应性能、简易安装、代码语法高亮、Markdown和LaTeX支持、本地RAG集成、Web浏览能力、提示预设支持、RLHF注释、会话标记、模型下载/删除、GGUF文件模型创建、多模型支持、多模态支持、模型文件构建器、协作聊天、OpenAI API集成等功能。
给 LLMs 提供灵活的格式化文本输出的UI Kit
LanguageGUI是一个开源的设计系统和UI Kit，为LLMs提供了将文本输出格式化为丰富图形用户界面的灵活性。它包括数十个独特的UI元素，可用于丰富对话式用户界面的不同用例。主要功能包括100个可自定义的UI组件和屏幕、10个对话式UI小部件、20个聊天气泡、30个预建屏幕、5个可自定义设置的聊天侧边栏、多个提示框、深色模式等。LanguageGUI是免费的，可以用于个人或商业项目。它由Tonki Labs团队开发，并以MIT许可证发布。
基于LLMs和生成式AI模型的AI产品的基础研究和技术
LMOps是一个基于LLMs和生成式AI模型的AI产品的基础研究和技术。它提供了自动提示优化、Promptist、可扩展的提示、通用提示检索、LLM检索等功能。此外，还包括结构化提示、可扩展的提示、LLM加速器、LLM定制化和理解上下文学习等基本功能。LMOps的链接包括microsoft/unilm和microsoft/torchscale等。它适用于各种场景，如文本到图像生成、长序列提示消耗和扩展提示等。LMOps是一个开源项目，遵循MIT许可证。
© 2024 AIbase 备案号：闽ICP备08105208号-14