产品库

AlloyDB AI助力PostgreSQL构建生成式AI应用

AlloyDB AI是Google Cloud推出的一项数据库服务,可帮助开发者在PostgreSQL数据库上构建生成式AI应用。它提供了熟悉的PostgreSQL接口,支持向量、模型管理,并可深度集成Google Vertex AI,轻松访问各种生成式AI模型。AlloyDB AI拥有企业级的可扩展性、可用性与安全性,可实现超高性能的向量运算,是构建PostgreSQL生成式AI应用的理想选择。

帮助您成为LLM专家的博客。

LLM Logs是一个专注于帮助用户优化其内容以适应大型语言模型的博客。它提供全面的LLM SEO指南，帮助用户提高在AI生成的响应中的可见性。

一个快速的AI网关

Portkey的AI网关是应用程序和托管LLM之间的接口。它使用统一的API对OpenAI、Anthropic、Mistral、LLama2、Anyscale、Google Gemini等的API请求进行了优化,从而实现了流畅的路由。该网关快速、轻量,内置重试机制,支持多模型负载均衡,确保应用程序的可靠性和性能。

比较各种大型语言模型（LLM）的定价信息

LLM Pricing是一个聚合并比较各种大型语言模型（LLMs）定价信息的网站，这些模型由官方AI提供商和云服务供应商提供。用户可以在这里找到最适合其项目的语言模型定价。

Oracle云平台的生成式AI服务

Oracle Generative AI Service是一个全托管的生成式AI服务,可以轻松地将多功能的语言模型集成到各种用例中,包括写作辅助、摘要生成和聊天机器人等。该服务基于Oracle Cloud Infrastructure,提供高性能、面向企业的模型,支持高效的微调和多个用例,安全可靠的企业级的数据管理、安全与管控。

统一接口访问多个生成式AI服务

aisuite是一个提供简单、统一接口以访问多个生成式AI服务的产品。它允许开发者通过标准化的接口使用多个大型语言模型（LLM），并比较结果。作为一个轻量级的Python客户端库包装器，aisuite使得创作者可以在不改变代码的情况下，无缝切换并测试来自不同LLM提供商的响应。目前，该库主要关注聊天完成功能，并计划在未来扩展更多用例。

通过生成式AI激活人类潜能

Stability AI是一个专注于生成式人工智能技术的公司，提供多种AI模型，包括文本到图像、视频、音频、3D和语言模型。这些模型能够处理复杂提示，生成逼真的图像和视频，以及高质量的音乐和音效。公司提供灵活的许可选项，包括自托管许可和平台API，以满足不同用户的需求。Stability AI致力于通过开放模型，为全球每个人提供高质量的AI服务。

将会话式 AI 带入 Reader 和 Acrobat

Adobe AI Assistant in Reader and Acrobat 是一款基于生成式 AI 的对话引擎，深度集成于 Reader 和 Acrobat 工作流程中，可以即时生成长篇文档的摘要和见解，回答问题并为电子邮件、报告和演示文稿格式化信息。Adobe AI Assistant 在处理大约 3 万亿 PDF 文件中的信息时，可以解锁文档智能的新能力。

利用生成式AI技术，快速将文本转化为动画。

text2motion.ai是一个利用生成式人工智能技术，将文本内容快速转化为动画的平台。它通过简化动画制作过程，降低了对专业技能和昂贵设备的需求，使得从独立开发者到专业动画师都能在短时间内将角色赋予生命。该平台提供REST APIs和多种集成方式，支持用户在自己喜欢的工具和工作流程中使用。

最大化ROI的生成式AI广告平台

AdsGency AI是一款生成式AI广告平台，提供广告的创建、分发和优化服务。通过AI技术，帮助广告主最大化广告投资回报率。我们的平台已经得到全球145个国家的10,000多家企业的信赖和使用。

使用生成式AI赋能人类创造力与生产力

HiDream.ai是一个使用生成式AI来提升人类创造力和生产力的平台。它提供了像Pixeling这样的产品,可以自动生成图像、视频、文字等创意内容,帮助用户提高工作效率,创造更多价值。平台采用自主研发的多模态基础模型,可以处理文本、图像、音频等不同形式的数据,实现多模态的生成。平台面向创意工作者、企事业单位等用户,提供基于订阅的服务模式。用户可以通过WEB页面访问该平台,体验其强大的生成能力。

高效的 Intel GPU 上的 LLM 推理解决方案

这是一种在 Intel GPU 上实现的高效的 LLM 推理解决方案。通过简化 LLM 解码器层、使用分段 KV 缓存策略和自定义的 Scaled-Dot-Product-Attention 内核，该解决方案在 Intel GPU 上相比标准的 HuggingFace 实现可实现高达 7 倍的令牌延迟降低和 27 倍的吞吐量提升。详细功能、优势、定价和定位等信息请参考官方网站。

一站式LLM模型比较与优化平台

Unify AI是一个为开发者设计的平台，它允许用户通过一个统一的API访问和比较来自不同提供商的大型语言模型(LLMs)。该平台提供了实时性能基准测试，帮助用户根据质量、速度和成本效率来选择和优化最合适的模型。Unify AI还提供了定制路由功能，允许用户根据自己的需求设置成本、延迟和输出速度的约束，并定义自定义质量指标。此外，Unify AI的系统会根据最新的基准数据，每10分钟更新一次，将查询发送到最快提供商，确保持续达到峰值性能。

支持生成式UI的AI SDK 3.0

AI SDK 3.0是Vercel推出的最新人工智能软件开发工具包，新增了生成式用户界面（UI）的支持。这意味着开发者可以利用AI SDK 3.0快速创建和迭代用户界面设计，提高开发效率。AI SDK 3.0结合了先进的机器学习技术和用户反馈，能够自动生成适应不同场景的UI元素和布局。

构建企业级生成式AI应用程序

Promptly是一款企业级生成式AI应用程序构建平台，无需编码即可快速构建生成式AI应用、代理和聊天机器人。您可以使用Promptly的模块化平台从原型到生产部署您的AI应用，无缝集成自己的数据和基于GPT的模型。

使用生成式AI进行搜索

Hai.surf是一个使用生成式AI进行搜索的产品。它可以根据用户输入的关键词生成相关的新闻和文章，并提供搜索结果。Hai.surf使用强大的人工智能算法，能够理解用户的搜索意图，并提供准确、全面的搜索结果。该产品定价合理，适合个人和企业使用。

一个为LLM生成Git提交信息的插件

llm-commit 是一个为 LLM（Large Language Model）设计的插件，用于生成 Git 提交信息。该插件通过分析 Git 的暂存区差异，利用 LLM 的语言生成能力，自动生成简洁且有意义的提交信息。它不仅提高了开发者的提交效率，还确保了提交信息的质量和一致性。该插件适用于任何使用 Git 和 LLM 的开发环境，免费开源，易于安装和使用。

个性化定制软件，由生成式AI根据你的需求设计和构建

Durable是一款由生成式AI根据用户需求定制的软件。它能够根据用户提供的信息生成可部署的定制软件，满足用户独特的需求，并赢得用户的信任。Durable团队由经验丰富的创始人领导，得到了理解构建具有技术挑战但具有变革性产品所需的风险投资支持，并得到了人工智能研究领域的领导者的指导。 为了实现我们的愿景，我们建立了一种新型人工智能，它知道自己知道什么，不知道什么，能做什么，不能做什么。它通过提问以理解用户的意图，并能明确验证自己的假设。它通过不断学习和推理建立一个无限和个性化的世界模型。它由神经符号AI驱动，结合了深度学习在处理语言方面的优势和符号AI在推理能力方面的优势。 如果您对开发这一人工智能的下一章节感到兴奋，我们非常乐意听取您的意见。我们有空缺职位，并且全年接受学术实习申请。 我们将向一小群现有和未来的朋友提供我们在私人substack上的进展。请求访问。 联系我们。

微软推出的针对初学者的生成式AI课程

该课程包含12节内容,从生成式AI和语言模型的基础知识讲起,逐步帮助学习者掌握使用OpenAI等平台进行应用开发的核心技能,如提示工程、构建聊天机器人、语义搜索等,最后还提供了一些案例用于实践检验。整个课程免费提供,适合想要快速上手生成式AI开发的初学者学习。

无代码AI平台，构建生成式AI助手

Scribo AI是一款无代码AI平台，可帮助用户构建生成式AI助手。通过三个简单步骤，用户可以创建自己的智能搜索和摘要AI助手，专门为个人或企业定制。用户可以将内部文档、销售报告、课程材料等上传到平台，让AI助手成为对所需领域专业知识的专家。此外，Scribo AI还可以与CRM系统和管理工具等数据源进行无缝集成，实现全天候信息访问。通过提供快速、准确、个性化的信息，Scribo AI可以提高员工和客户的工作效率，增加销售额，降低支持成本。

构建LLM应用的开发平台

LLM Spark是一个开发平台，可用于构建基于LLM的应用程序。它提供多个LLM的快速测试、版本控制、可观察性、协作、多个LLM支持等功能。LLM Spark可轻松构建AI聊天机器人、虚拟助手等智能应用程序，并通过与提供商密钥集成，实现卓越性能。它还提供了GPT驱动的模板，加速了各种AI应用程序的创建，同时支持从零开始定制项目。LLM Spark还支持无缝上传数据集，以增强AI应用程序的功能。通过LLM Spark的全面日志和分析，可以比较GPT结果、迭代和部署智能AI应用程序。它还支持多个模型同时测试，保存提示版本和历史记录，轻松协作，以及基于意义而不仅仅是关键字的强大搜索功能。此外，LLM Spark还支持将外部数据集集成到LLM中，并符合GDPR合规要求，确保数据安全和隐私保护。

为企业提供生成式AI解决方案

A2O Corpus是一款生成式AI聊天机器人解决方案，利用大规模语言模型（LLM）的强大功能，可以将您的内容（文件、网站等）与聊天机器人集成，以对话形式轻松回答用户的查询。它还提供强大的向量搜索功能，能够快速找到企业信息中的关键信息并形成答案。

AI技术生成实时跟进的对话式调查

Duonut AI通过AI技术生成实时跟进的对话式调查，利用人工智能代理进行和总结数百次对话，适用于概念测试、客户反馈和市场研究。产品背景信息详尽，价格合理定位适用于企业和个人用户。

设计、部署和优化LLM应用与Klu

Klu是一款全能的LLM应用平台，可以在Klu上快速构建、评估和优化基于LLM技术的应用。它提供了多种最先进的LLM模型选择，让用户可以根据自己的需求进行选择和调整。Klu还支持团队协作、版本管理、数据评估等功能，为AI团队提供了一个全面而便捷的开发平台。

省时写个性化销售邮件，使用生成式AI和行业最佳实践。

Regie.ai是一个AI辅助销售邮件的工具，可以帮助繁忙的销售代表和SDR节省时间。通过使用我们的AI，您可以将制作个性化销售邮件的时间减少90％。我们的AI可以在几秒钟内研究联系人并撰写个性化邮件，每次都提供独特的信息，让您的潜在客户感到满意。使用AI提示和基于人物的CMS内容，摒弃模板，每次生成独特的消息。使用我们内置的CMS来访问您的电子邮件中所需的完美素材，消除对昂贵的CMS平台的需求。AI可以在您喜爱的销售推广平台、电子邮件服务或社交媒体平台内发挥作用。使用Regie.ai的Chrome扩展程序，在几秒钟内起草和发送相关的销售邮件。

AI Mode 是谷歌搜索中的一项实验性生成式 AI 功能，可帮助用户解决复杂问题。

AI Mode 是谷歌搜索中的一项实验性功能，基于 Gemini 2.0 模型开发。它通过高级推理和多模态能力，为用户提供更深入、更全面的搜索结果。该功能旨在帮助用户更高效地处理复杂的多部分问题，并通过实时数据和知识图谱提供高质量的响应。AI Mode 的推出体现了谷歌在提升搜索体验方面的持续创新，同时也展示了生成式 AI 在信息检索中的应用潜力。

扩展LLM上下文窗口

LLM Context Extender是一款旨在扩展大型语言模型（LLMs）上下文窗口的工具。它通过调整RoPE的基础频率和缩放注意力logits的方式，帮助LLMs有效适应更大的上下文窗口。该工具在精细调整性能和稳健性方面验证了其方法的优越性，并展示了在仅有100个样本和6个训练步骤的情况下，将LLaMA-2-7B-Chat的上下文窗口扩展到16,384的非凡效率。此外，还探讨了数据组成和训练课程如何影响特定下游任务的上下文窗口扩展，建议以长对话进行LLMs的精细调整作为良好的起点。

Keyframer是一个基于LLM的动画生成AI原型工具

Keyframer是一个由Apple研发的基于大语言模型的动画生成工具原型。它可以通过文本描述,自动为SVG图像添加动画效果并转换为CSS代码。用户无需编程经验,就可以简单上传图像、输入文本描述,Keyframer会自动生成代码。相比其他AI生成动画方案,Keyframer更简单易用。目前还处于原型阶段,公开可用性有待观察。

使用简单、原始的 C/CUDA 进行 LLM 训练

karpathy/llm.c 是一个使用简单的 C/CUDA 实现 LLM 训练的项目。它旨在提供一个干净、简单的参考实现,同时也包含了更优化的版本,可以接近 PyTorch 的性能,但代码和依赖大大减少。目前正在开发直接的 CUDA 实现、使用 SIMD 指令优化 CPU 版本以及支持更多现代架构如 Llama2、Gemma 等。

Rufus - 专业购物助手，基于生成式AI的对话式购物体验

Rufus是一款基于生成式AI的专业购物助手，接受Amazon广泛的产品目录、顾客评价、社区问答以及网络信息的培训。它能够回答关于购物需求、产品和比较的问题，根据对话背景提供建议，并在Amazon常用的购物体验中促进产品发现。Rufus将在Amazon移动应用的小部分客户中推出beta版本，并将在未来几周逐步向更多的美国客户推出。