产品库

未来派的AI驱动网页爬虫工具。

CyberScraper 2077是一款基于AI的网页爬虫工具，它利用OpenAI和Ollama等大型语言模型(LLM)来智能解析网页内容，提供数据提取服务。这款工具不仅拥有用户友好的图形界面，还支持多种数据导出格式，包括JSON、CSV、HTML、SQL和Excel。此外，它还具备隐形模式，以降低被检测为机器人的风险，以及遵循robots.txt和网站政策的道德爬取特性。

一个用于LLM预训练的高效网络爬虫工具，专注于高效爬取高质量网页数据。

Crawl4LLM是一个开源的网络爬虫项目，旨在为大型语言模型（LLM）的预训练提供高效的数据爬取解决方案。它通过智能选择和爬取网页数据，帮助研究人员和开发者获取高质量的训练语料。该工具支持多种文档评分方法，能够根据配置灵活调整爬取策略，以满足不同的预训练需求。项目基于Python开发，具有良好的扩展性和易用性，适合在学术研究和工业应用中使用。

开源的、专为大型语言模型优化的网页爬虫与抓取工具。

Crawl4AI是一个强大的、免费的网页爬取服务，旨在从网页中提取有用信息，并使其对大型语言模型（LLMs）和AI应用可用。它支持高效的网页爬取，提供对LLM友好的输出格式，如JSON、清理过的HTML和Markdown，支持同时爬取多个URL，并完全免费且开源。

基于AI的Python网络爬虫库，自动化提取网页信息。

ScrapeGraphAI是一个使用LLM（大型语言模型）和直接图逻辑来为网站、文档和XML文件创建抓取管道的Python网络爬虫库。用户只需指定想要提取的信息，库就会自动完成这项工作。该库的主要优点在于简化了网络数据抓取的过程，提高了数据提取的效率和准确性。它适用于数据探索和研究目的，但不应被滥用。

高效的 Intel GPU 上的 LLM 推理解决方案

这是一种在 Intel GPU 上实现的高效的 LLM 推理解决方案。通过简化 LLM 解码器层、使用分段 KV 缓存策略和自定义的 Scaled-Dot-Product-Attention 内核，该解决方案在 Intel GPU 上相比标准的 HuggingFace 实现可实现高达 7 倍的令牌延迟降低和 27 倍的吞吐量提升。详细功能、优势、定价和定位等信息请参考官方网站。

比较各种大型语言模型（LLM）的定价信息

LLM Pricing是一个聚合并比较各种大型语言模型（LLMs）定价信息的网站，这些模型由官方AI提供商和云服务供应商提供。用户可以在这里找到最适合其项目的语言模型定价。

监控OpenAI API使用情况的工具

LLM Report是一个可以监控OpenAI API使用情况的工具。用户只需输入OpenAI API密钥，工具会直接从OpenAI API中获取数据并创建仪表板，无需安装任何软件。用户可以清楚地了解每个模型、API密钥和用户的费用情况，避免盲目消耗资源。LLM Report得到了全球2500多个用户和公司的认可。

帮助您成为LLM专家的博客。

LLM Logs是一个专注于帮助用户优化其内容以适应大型语言模型的博客。它提供全面的LLM SEO指南，帮助用户提高在AI生成的响应中的可见性。

专为LLM和RAG应用设计的高效网络爬虫

HyperCrawl是第一个为LLM（大型语言模型）和RAG（检索增强生成模型）应用设计的网络爬虫，旨在开发强大的检索引擎。它通过引入多种先进方法，显著减少了域名的爬取时间，提高了检索过程的效率。HyperCrawl是HyperLLM的一部分，致力于构建未来LLM的基础设施，这些模型需要更少的计算资源，并且性能超越现有的任何模型。

在Google Sheets中使用AI和无限网络爬虫

SheetMagic是一个在Google Sheets中使用AI和无限网络爬虫的插件。它能够生成AI内容和AI图片，实现无限的AI提示，并且能够从网站和搜索引擎结果页面获取实时数据。除此之外，它还可以进行数据分析、数据准备和其他多种功能，全部在Google Sheets内完成。

将OpenAI协议转换为Google Gemini Pro协议

Gemini-OpenAI-Proxy是一个代理软件。它旨在将OpenAI API协议调用转换为Google Gemini Pro协议,以便使用OpenAI协议的软件可以在不改变感知的情况下使用Gemini Pro模型。如果您有兴趣使用Google Gemini但不想修改软件,Gemini-OpenAI-Proxy是一个很好的选择。它允许您轻松地集成Google Gemini的强大功能,而无需进行任何复杂的开发工作。

集成Firecrawl的OpenAI实时API控制台

firecrawl-openai-realtime是一个集成了Firecrawl的OpenAI实时API控制台，旨在为开发者提供一个交互式的API参考和检查器。它包括两个实用库，openai/openai-realtime-api-beta作为参考客户端（适用于浏览器和Node.js），以及/src/lib/wavtools，后者允许在浏览器中简单管理音频。该产品是使用create-react-app创建的React项目，并通过Webpack打包。

超快速的网络爬虫与数据抓取API

UseScraper是一个超快速的网络爬虫与数据抓取API，可以快速抓取网页内容并提供多种输出格式，包括HTML、纯文本和Markdown。它支持浏览器渲染，可以爬取复杂的网站，并提供多种功能和定价选项。无需信用卡即可注册，还可以获得25美元的免费使用额度。

一键网页数据抓取浏览器插件，现在有了人工智能

Hexofy是一个一键网页数据抓取的浏览器插件,用户只需要点击按钮,就可以提取网页上的文本、表格、图片等数据,极大提高工作效率。它支持主流网站和各类网页,无需编程知识,即可轻松获取数据。

使用简单、原始的 C/CUDA 进行 LLM 训练

karpathy/llm.c 是一个使用简单的 C/CUDA 实现 LLM 训练的项目。它旨在提供一个干净、简单的参考实现,同时也包含了更优化的版本,可以接近 PyTorch 的性能,但代码和依赖大大减少。目前正在开发直接的 CUDA 实现、使用 SIMD 指令优化 CPU 版本以及支持更多现代架构如 Llama2、Gemma 等。

Lychee是最新OpenAI模型驱动的终极AI聊天机器人！

Lychee是一款由最新的OpenAI模型驱动的AI聊天机器人。它提供了多个助手供您选择，包括开发者、教师、喜剧演员，甚至朋友。无论是写求职信还是讲笑话，Lychee都能帮助您。未来将推出定制助手等功能，让您拥有无限可能。告别压力，与Lychee一起迎接AI聊天机器人的未来！

在不使用第三方工具的情况下，将Google Sheets与OpenAI API连接

这个“脚本”可以让您在不使用Zapier或Make等第三方工具的情况下，轻松连接Google Sheets和OpenAI API。该脚本可以立即访问GPT-4和GPT-3.5模型的响应。无需订阅，即可使用免费的Gmail帐户访问。最棒的是，该脚本可以在后台持续运行，无需保持文件打开。通过这个脚本，您可以将OpenAI语言模型（GPT-4和GPT-3.5）的强大功能带到Google Sheets文件中，利用它们一次性为数千行内容创建内容。您可以根据多个数据点生成产品描述，根据可用数据为数千位客人创建个性化电子邮件，通过创建超级优化的AI内容进行程序化SEO，为遵循某种模式的任何内容生成内容等等。

扩展LLM上下文窗口

LLM Context Extender是一款旨在扩展大型语言模型（LLMs）上下文窗口的工具。它通过调整RoPE的基础频率和缩放注意力logits的方式，帮助LLMs有效适应更大的上下文窗口。该工具在精细调整性能和稳健性方面验证了其方法的优越性，并展示了在仅有100个样本和6个训练步骤的情况下，将LLaMA-2-7B-Chat的上下文窗口扩展到16,384的非凡效率。此外，还探讨了数据组成和训练课程如何影响特定下游任务的上下文窗口扩展，建议以长对话进行LLMs的精细调整作为良好的起点。

一个为LLM生成Git提交信息的插件

llm-commit 是一个为 LLM（Large Language Model）设计的插件，用于生成 Git 提交信息。该插件通过分析 Git 的暂存区差异，利用 LLM 的语言生成能力，自动生成简洁且有意义的提交信息。它不仅提高了开发者的提交效率，还确保了提交信息的质量和一致性。该插件适用于任何使用 Git 和 LLM 的开发环境，免费开源，易于安装和使用。

基于 LLM 大语言模型的知识库问答系统。

MaxKB 是一款基于 LLM 大语言模型的知识库问答系统，旨在成为企业的最强大脑。支持文档上传、自动爬取在线文档，智能问答交互体验好。支持快速嵌入到第三方业务系统。技术栈包括 Vue.js、Python/Django、Langchain、PostgreSQL/pgvector。

TypeScript客户端，用于OpenAI的实时语音API。

openai-realtime-api是一个TypeScript客户端，用于与OpenAI的实时语音API进行交互。它提供了强类型的特性，并且是OpenAI官方JavaScript版本的完美替代品。该客户端修复了许多小错误和不一致性，并且完全兼容官方和非官方事件。它支持Node.js、浏览器、Deno、Bun、CF workers等多种环境，并且已发布到NPM。该技术的重要性在于它能够为开发者提供一种更安全、更便捷的方式来集成和使用OpenAI的实时语音功能，特别是在需要处理大量数据和请求时。

构建LLM应用的开发平台

LLM Spark是一个开发平台，可用于构建基于LLM的应用程序。它提供多个LLM的快速测试、版本控制、可观察性、协作、多个LLM支持等功能。LLM Spark可轻松构建AI聊天机器人、虚拟助手等智能应用程序，并通过与提供商密钥集成，实现卓越性能。它还提供了GPT驱动的模板，加速了各种AI应用程序的创建，同时支持从零开始定制项目。LLM Spark还支持无缝上传数据集，以增强AI应用程序的功能。通过LLM Spark的全面日志和分析，可以比较GPT结果、迭代和部署智能AI应用程序。它还支持多个模型同时测试，保存提示版本和历史记录，轻松协作，以及基于意义而不仅仅是关键字的强大搜索功能。此外，LLM Spark还支持将外部数据集集成到LLM中，并符合GDPR合规要求，确保数据安全和隐私保护。

无限令牌，无限制，成本效益高的LLM推理API平台。

Awan LLM是一个提供无限令牌、无限制、成本效益高的LLM（大型语言模型）推理API平台，专为高级用户和开发者设计。它允许用户无限制地发送和接收令牌，直到模型的上下文限制，并且使用LLM模型时没有任何约束或审查。用户只需按月付费，而无需按令牌付费，这大大降低了成本。Awan LLM拥有自己的数据中心和GPU，因此能够提供这种服务。此外，Awan LLM不记录任何提示或生成内容，保护用户隐私。

基于ComfyUI前端开发的LLM工作流节点集合

ComfyUI LLM Party旨在基于ComfyUI前端开发一套完整的LLM工作流节点集合，使用户能够快速便捷地构建自己的LLM工作流，并轻松地将它们集成到现有的图像工作流中。

将GitHub链接转换为适合LLM的格式

GitHub to LLM Converter是一个在线工具，旨在帮助用户将GitHub上的项目、文件或文件夹链接转换成适合大型语言模型（LLM）处理的格式。这一工具对于需要处理大量代码或文档数据的开发者和研究人员来说至关重要，因为它简化了数据准备过程，使得这些数据可以被更高效地用于机器学习或自然语言处理任务。该工具由Skirano开发，提供了一个简洁的用户界面，用户只需输入GitHub链接，即可一键转换，极大地提高了工作效率。

基于WebRTC的语音AI流应用，使用OpenAI实时API和WebRTC开发。

该项目是一个使用OpenAI实时API和WebRTC技术开发的WebRTC-based Voice AI stream application，以Next.js框架搭建，具备服务器端渲染和API路由功能，配合shadcn/ui开发的UI组件，支持实时音频对话，还加入了抽象WebRTC处理的hook，以及6个示例函数展示客户端工具与实时API结合使用。项目开源免费，主要面向开发者，可用于快速搭建具有语音AI功能的Web应用。

快速构建可靠的网络爬虫工具

Crawlee是一个用于构建可靠网络爬虫的Python库。它由专业的网络爬虫开发者构建，每天用于抓取数百万页面。Crawlee支持JavaScript渲染，无需重写代码即可轻松切换到浏览器爬虫。此外，它还提供自动扩展和代理管理功能，能够基于系统资源智能管理并轮换代理，丢弃那些经常超时或返回网络错误的代理。

利用OpenAI的GPT-4 Turbo模型进行高效OCR处理

这是一个开源的OCR API，利用OpenAI强大的语言模型和优化的性能技术（如并行处理和批处理）来实现从复杂PDF文档中提取高质量文本。非常适合寻求高效文档数字化和数据提取解决方案的企业。

你的可无限配置的爬虫伴侣

Horseman是你可无限配置的爬虫伴侣。它是一个功能强大的工具，让前端开发人员、性能分析师、数字代理机构、可访问性专家、SEO专家和JavaScript工程师可以使用自定义的代码片段在整个网站上获取专业见解。Horseman v0.3现已推出，具有GPT集成和更多功能。