需求人群:
"Farfalle适合开发者和技术人员,特别是那些对AI驱动搜索技术感兴趣的人。它提供了一个开源的解决方案,使得个人和企业能够利用大型语言模型来增强搜索能力,无论是本地还是云端部署。"
使用场景示例:
开发者可以利用Farfalle创建个性化的AI搜索引擎。
企业可以部署Farfalle来提供内部搜索服务,提高员工的工作效率。
教育机构可以利用Farfalle作为教学工具,帮助学生更好地获取信息。
产品特色:
支持本地运行大型语言模型如llama3、gemma、mistral。
支持云模型,如Groq/Llama3、OpenAI/gpt4-o。
提供Docker部署设置,方便用户部署。
集成了Tavily搜索API,无需外部依赖。
使用Logfire进行日志记录。
使用Redis进行速率限制。
提供详细的自定义设置文档。
使用教程:
首先,确保安装了Docker和Ollama(如果运行本地模型)。
下载支持的模型之一:llama3、mistral或gemma。
启动Ollama服务器:ollama serve。
获取Tavily、OpenAI(可选)和Groq(可选)的API密钥。
克隆Farfalle仓库到本地。
在.env文件中添加必要的环境变量。
使用Docker Compose运行容器。
访问http://localhost:3000来查看应用程序。
浏览量:65
最新流量情况
月访问量
155
平均访问时长
00:00:23
每次访问页数
1.35
跳出率
70.00%
流量来源
直接访问
73.64%
自然搜索
8.21%
邮件
0.04%
外链引荐
5.13%
社交媒体
12.40%
展示广告
0
截止目前所有流量趋势图
地理流量分布情况
美国
100.00%
开源AI搜索引擎,支持本地或云LLMs。
Farfalle是一个开源的AI驱动搜索引擎,它允许用户运行本地大型语言模型(LLMs)或使用云模型。它是基于Perplexity克隆的,可以与多种技术栈集成,如Next.js前端、FastAPI后端、Tavily搜索API等。它还提供了自定义设置的文档和演示视频,以帮助用户快速开始。
使用Groq或OpenAI或Ollama创建o1类推理链
o1是一个实验性的项目,旨在通过使用大型语言模型(LLM)来创建推理链,帮助模型解决通常难以处理的逻辑问题。它支持Groq、OpenAI和Ollama后端,通过动态推理链让模型能够“思考”并解决问题。o1展示了仅通过提示就能显著提高现有模型的逻辑推理能力,而无需额外训练。
与YouTube视频进行实时聊天的Chrome插件。
YouTube AI Extension是一个Chrome浏览器插件,允许用户直接与YouTube视频进行实时聊天,提供独特的交互体验。它支持多语言和上下文感知的响应,用户可以通过它获取视频摘要、提问并接收详细解释。
一个可以本地与多个PDF文件进行对话的聊天机器人。
rag-chatbot是一个基于人工智能技术的聊天机器人模型,它能够让用户通过自然语言与多个PDF文件进行交互。该模型使用了最新的机器学习技术,如Huggingface和Ollama,来实现对PDF内容的理解和回答生成。它的重要性在于能够处理大量文档信息,为用户提供快速、准确的问答服务。产品背景信息表明,这是一个开源项目,旨在通过技术创新提升文档处理的效率。目前该项目是免费的,主要面向开发者和技术爱好者。
终端中的个人AI助手,具备本地工具。
gptme是一个运行在终端的个人AI助手,它装备了本地工具,可以编写代码、使用终端、浏览网页、视觉识别等。它是一个不受软件、互联网访问、超时或隐私问题限制的ChatGPT“代码解释器”的本地替代方案。
开源的极简AI笔记应用和强大的Markdown编辑器
Notty是一个开源的、极简的AI驱动的笔记应用和Markdown编辑器。它设计简洁,使用AI技术帮助用户更好地编写笔记和文档。内置Markdown编辑器,支持所见即所得功能。支持云同步,能够在多个设备间同步笔记。具有冲突解决能力,能够自动处理多设备间的笔记冲突。Notty以本地优先设计,数据首先存储在用户设备上,可选同步至云端。由Cloudflare KV提供支持,速度极快。
未来派的AI驱动网页爬虫工具。
CyberScraper 2077是一款基于AI的网页爬虫工具,它利用OpenAI和Ollama等大型语言模型(LLM)来智能解析网页内容,提供数据提取服务。这款工具不仅拥有用户友好的图形界面,还支持多种数据导出格式,包括JSON、CSV、HTML、SQL和Excel。此外,它还具备隐形模式,以降低被检测为机器人的风险,以及遵循robots.txt和网站政策的道德爬取特性。
开源版Anthropic的Claude Artifacts界面
AI Artifacts是一个开源的Anthropic Claude Artifacts界面版本,使用E2B的代码解释器SDK和核心SDK执行AI代码。E2B提供了一个云沙箱来安全地运行AI生成的代码,并可以处理安装库、运行shell命令、运行Python、JavaScript、R以及Nextjs应用程序等。
通过GPT等大型语言模型与你的文档对话
IncarnaMind是一个开源项目,旨在通过大型语言模型(LLMs)如GPT、Claude和本地开源LLMs,实现与个人文档(PDF、TXT)的交互对话。该项目利用滑动窗口分块机制和集成检索器,提高查询效率,增强LLMs的准确性。它支持多文档对话问答,突破了单文档限制,并兼容多种文件格式和LLM模型。
自主软件开发系统,提高编码效率。
SuperCoder是一个开源的自主软件开发系统,利用先进的AI工具和代理来简化和自动化编码、测试和部署任务,提高效率和可靠性。它支持多种编程语言和框架,以满足不同的开发需求。
构建大型语言模型支持的多智能体应用。
AgentScope是一个创新的多智能体平台,旨在赋能开发者使用大规模模型构建多智能体应用。它具有易于使用、高鲁棒性和基于Actor的分布式特性,支持自定义容错控制和重试机制,以增强应用稳定性。
集成大型语言模型的SDK
Semantic Kernel是一个集成了大型语言模型(LLMs)如OpenAI、Azure OpenAI和Hugging Face的软件开发工具包(SDK),它允许开发者通过定义可串联的插件,在几行代码内实现与AI的交互。其特色在于能够自动编排AI插件,使用户能够通过LLM生成实现特定目标的计划,并由Semantic Kernel执行该计划。
为Windows、macOS和Ubuntu提供GPT计算机助手
gpt-computer-assistant是一个为Windows、macOS和Ubuntu操作系统设计的应用程序,旨在提供一个替代的ChatGPT应用。它允许用户通过Python库轻松安装,并计划提供原生安装脚本(.exe)。该产品由Upsonic Tiger支持,是一个为大型语言模型(LLM)代理提供功能中心的平台。产品的主要优点包括跨平台兼容性、易于安装和使用,以及未来将支持本地模型。
基于 LLM 大语言模型的知识库问答系统。
MaxKB 是一款基于 LLM 大语言模型的知识库问答系统,旨在成为企业的最强大脑。支持文档上传、自动爬取在线文档,智能问答交互体验好。支持快速嵌入到第三方业务系统。技术栈包括 Vue.js、Python/Django、Langchain、PostgreSQL/pgvector。
一个快速的AI网关
Portkey的AI网关是应用程序和托管LLM之间的接口。它使用统一的API对OpenAI、Anthropic、Mistral、LLama2、Anyscale、Google Gemini等的API请求进行了优化,从而实现了流畅的路由。该网关快速、轻量,内置重试机制,支持多模型负载均衡,确保应用程序的可靠性和性能。
Visual Studio Code插件,基于GPT-4,帮助编程,提高效率。
Sidekick AI是一个Visual Studio Code的插件,它利用GPT-4的能力,为开发者提供各种支持,比如快速生成代码、检索和修改代码、提出疑问并解答、查找bug等,可以极大提高编程效率。
IBM Granite 3.0模型,高效能AI语言模型
IBM Granite 3.0模型是一系列高性能的AI语言模型,由IBM开发,并通过Ollama平台提供。这些模型在超过12万亿个token上进行训练,展示了在性能和速度上的显著提升。它们支持基于工具的用例,包括检索增强生成(RAG)、代码生成、翻译和错误修复。IBM Granite 3.0模型包括密集型模型和Mixture of Expert(MoE)模型,后者专为低延迟使用而设计,适合在设备上应用或需要即时推理的场景。
高效的大型语言模型(LLM)研究代码库
Meta Lingua 是一个轻量级、高效的大型语言模型(LLM)训练和推理库,专为研究而设计。它使用了易于修改的PyTorch组件,使得研究人员可以尝试新的架构、损失函数和数据集。该库旨在实现端到端的训练、推理和评估,并提供工具以更好地理解模型的速度和稳定性。尽管Meta Lingua目前仍在开发中,但已经提供了多个示例应用来展示如何使用这个代码库。
全球首款多模态AI代理,搭载OpenAI实时API
TEN Agent 是一款创新的多模态AI代理,它通过集成OpenAI的实时API,为用户提供了一个强大的交互平台。这款产品代表了人工智能在多模态交互领域的最新进展,它不仅能够理解文本信息,还能处理图像和声音等数据类型。TEN Agent 的主要优点在于其高度的集成性和实时性,它能够为用户提供快速、准确的反馈,极大地提高了工作效率和用户体验。产品背景信息显示,TEN Agent 旨在通过先进的AI技术,推动生产力工具的发展,目前处于Beta测试阶段。关于价格和定位,TEN Agent 可能提供免费试用,以吸引早期用户并收集反馈,以便进一步优化产品。
一个全面的Prompt Engineering技术资源库
Prompt Engineering是人工智能领域的前沿技术,它改变了我们与AI技术的交互方式。这个开源项目旨在为初学者和经验丰富的实践者提供一个学习、构建和分享Prompt Engineering技术的平台。该项目包含了从基础到高级的各种示例,旨在促进Prompt Engineering领域的学习、实验和创新。此外,它还鼓励社区成员分享自己的创新技术,共同推动Prompt Engineering技术的发展。
由NVIDIA定制的大型语言模型,提升查询回答的帮助性。
Llama-3.1-Nemotron-70B-Instruct是NVIDIA定制的大型语言模型,专注于提升大型语言模型(LLM)生成回答的帮助性。该模型在多个自动对齐基准测试中表现优异,例如Arena Hard、AlpacaEval 2 LC和GPT-4-Turbo MT-Bench。它通过使用RLHF(特别是REINFORCE算法)、Llama-3.1-Nemotron-70B-Reward和HelpSteer2-Preference提示在Llama-3.1-70B-Instruct模型上进行训练。此模型不仅展示了NVIDIA在提升通用领域指令遵循帮助性方面的技术,还提供了与HuggingFace Transformers代码库兼容的模型转换格式,并可通过NVIDIA的build平台进行免费托管推理。
TypeScript客户端,用于OpenAI的实时语音API。
openai-realtime-api是一个TypeScript客户端,用于与OpenAI的实时语音API进行交互。它提供了强类型的特性,并且是OpenAI官方JavaScript版本的完美替代品。该客户端修复了许多小错误和不一致性,并且完全兼容官方和非官方事件。它支持Node.js、浏览器、Deno、Bun、CF workers等多种环境,并且已发布到NPM。该技术的重要性在于它能够为开发者提供一种更安全、更便捷的方式来集成和使用OpenAI的实时语音功能,特别是在需要处理大量数据和请求时。
一个由Together.ai驱动的开源AI搜索引擎。
TurboSeek是一个创新的AI搜索引擎,它通过结合Bing搜索API和先进的大型语言模型(LLMs)如Mixtral 8x7B和Llama-3,为用户提供快速、准确的搜索结果。该搜索引擎的特点是能够理解和处理自然语言查询,返回更加相关和深入的信息。它的重要性在于能够提高用户获取信息的效率,尤其是在需要处理大量数据和复杂查询时。TurboSeek的开发背景是受到Perplexity等先进搜索引擎的启发,旨在为用户提供一个更智能、更高效的搜索工具。目前,该产品是免费使用的,主要面向技术爱好者和需要处理大量信息的用户。
利用OpenAI技术生成与品牌视觉一致的UI代码
Coframe是一个利用人工智能技术进行网站优化和个性化的平台。它通过与OpenAI合作,开发了一种模型,可以生成高质量、视觉上与品牌一致的UI代码。这种技术的主要优点在于能够加速网站优化过程,使网站优化变得更快速、更经济,同时允许进行以前不可能的实验和个性化方法。Coframe的背景信息显示,它已经与OpenAI合作,在其博客上也有相关介绍。产品的价格和定位信息在页面上没有明确说明。
构建LLM应用的框架
LlamaIndex.TS是一个为构建基于大型语言模型(LLM)的应用而设计的框架。它专注于帮助用户摄取、结构化和访问私有或特定领域的数据。这个框架提供了一个自然语言界面,用于连接人类和推断出的数据,使得开发者无需成为机器学习或自然语言处理的专家,也能通过LLM增强其软件功能。LlamaIndex.TS支持Node.js、Vercel Edge Functions和Deno等流行运行时环境。
使用OpenAI实时API与文档进行语音聊天
voice-chat-pdf是一个基于LlamaIndex项目,使用Next.js构建的示例,它通过简单的RAG系统,允许用户通过语音与PDF文档进行交互。这个项目需要OpenAI API密钥来访问实时API,并在项目中生成文档的嵌入向量,以便进行语音交互。它展示了如何将先进的机器学习技术应用于提高文档交互的效率和便捷性。
基于ComfyUI前端开发的LLM工作流节点集合
ComfyUI LLM Party旨在基于ComfyUI前端开发一套完整的LLM工作流节点集合,使用户能够快速便捷地构建自己的LLM工作流,并轻松地将它们集成到现有的图像工作流中。
实时API交互体验平台
realtime-playground是一个基于LiveKit Agents构建的交互式平台,允许用户在浏览器中直接体验OpenAI的实时API。该平台通过集成最新的API技术,为用户提供了一个实验和探索人工智能实时交互能力的场所。
© 2024 AIbase 备案号:闽ICP备08105208号-14