产品库

评估和观察生成式人工智能

Gentrace是一个团队共同评估和观察生成式人工智能的工具。通过使用人工智能和启发式评估器来连续评估质量，并观察在生产中的速度和成本。

Brainglue是一个有趣的大语言模型实验平台

Brainglue是一个大型语言模型的实验平台,让任何人都可以构建强大的提示链来解决复杂的生成式AI问题。Brainglue提供了一个直观的AI游乐场,使得制作和实现提示链变得轻而易举。用户可以通过调整上下文窗口和温度设置,来实验不同的AI配置。Brainglue支持GPT-3.5、GPT-4等多种前沿AI模型,并计划很快增加更多模型支持。用户可以定义全局变量,在提示链中动态赋值使用。Brainglue支持在提示链中使用AI的响应来告知下一个提示,实现更复杂和合理的输出。Brainglue提供了提示链的模版库,增强了AI的推理能力。

云端AI开发平台，助力高效创新。

SambaNova是一个云端AI开发平台，提供了一系列工具和资源，旨在帮助开发者和企业快速构建、测试和部署AI应用。平台通过提供高性能的计算资源、丰富的API接口和易于使用的AI Starter Kits，使得AI开发变得更加高效和便捷。

企业自定义AI工作流程的蓝图

NVIDIA NIM™ Agent Blueprints是一系列预训练的、可定制的AI工作流程，旨在为数百万企业开发者提供构建和部署生成式AI应用程序的全套软件工具。这些蓝图支持开发者使用一个或多个AI代理创建AI应用程序，包括客户服务头像、检索增强生成和药物发现虚拟筛选等典型用例。通过NIM Agent Blueprints，企业可以使用自己的业务数据修改蓝图，并在加速数据中心和云上运行生成式AI应用程序，实现数据驱动的AI飞轮效应。

智能食品与个人护理产品健康评估工具

Health Inspecta 是一款利用人工智能技术，帮助用户快速评估食品和个人护理产品的营养价值、成分安全性和环境影响的应用程序。它通过扫描产品标签或手动输入产品名称，提供综合的健康等级评分，从A到F，让用户能够超越标签，做出更明智的消费选择。

AI驱动的生成式UI工具

v0是由Vercel推出的基于AI的生成式用户界面系统，它可以根据简单的文本提示生成适用于项目的React代码。v0使用AI模型生成代码，基于shadcn/ui和Tailwind CSS，提供了易于复制和粘贴的代码。v0不使用任何Vercel客户数据或代码进行训练，保证了数据的安全性和隐私性。

高效低成本的小型语言模型

Phi-3是微软Azure推出的一系列小型语言模型（SLMs），具有突破性的性能，同时成本和延迟都很低。这些模型专为生成式AI解决方案设计，体积更小，计算需求更低。Phi-3模型遵循微软AI原则开发，包括责任、透明度、公平性、可靠性和安全性、隐私和安全性以及包容性，确保了安全性。此外，Phi-3还提供了本地部署、准确相关回答、低延迟场景部署、成本受限任务处理和定制化精度等功能。

AI辅助编程的强有力界面

Zed AI是一个集成到编程工作流中的插件，通过与大型语言模型（LLMs）的直接对话，增强了代码生成、转换和分析的能力。它提供了多种交互方式，包括助手面板、斜杠命令、内联助手和提示库，以提高开发效率。Zed AI还支持多种LLMs提供商，允许开发者根据需要选择不同的模型来提高开发效能。此外，Zed AI提供了一个全新的托管服务，第一个月免费使用，并配备了Anthropic API，专为快速转换现有文本而设计。

一个适合学习、使用、自主扩展的RAG系统。

Easy-RAG是一个检索增强生成(RAG)系统，它不仅适合学习者了解和掌握RAG技术，同时也便于开发者使用和进行自主扩展。该系统通过集成知识图谱提取解析工具、rerank重新排序机制以及faiss向量数据库等技术，提高了检索效率和生成质量。

GGUF量化支持，优化ComfyUI原生模型性能

ComfyUI-GGUF是一个为ComfyUI原生模型提供GGUF量化支持的项目。它允许模型文件以GGUF格式存储，这种格式由llama.cpp推广。尽管常规的UNET模型（conv2d）不适用于量化，但像flux这样的transformer/DiT模型似乎受量化影响较小。这使得它们可以在低端GPU上以更低的每权重变量比特率进行运行。

AI模型软件工程能力评估工具

SWE-bench Verified是OpenAI发布的一个经过人工验证的SWE-bench子集，旨在更可靠地评估AI模型解决现实世界软件问题的能力。它通过提供代码库和问题描述，挑战AI生成解决所描述问题的补丁。这个工具的开发是为了提高模型自主完成软件工程任务的能力评估的准确性，是OpenAI准备框架中中等风险级别的关键组成部分。

AI编码助手，自动化解决代码问题

Tusk是一个AI编码助手，专注于帮助软件工程师快速完成繁琐的代码任务。它通过自动化的方式生成代码，解决bug，进行UI/UX改进，从而提高开发效率，让工程师能够专注于更有创造性的工作。Tusk支持与GitHub、Jira、Linear、Notion等工具的集成，能够根据问题标签一键推送代码到仓库，并自动迭代代码以应对代码审查。此外，Tusk还提供定制化AI代理、VIP支持等高级功能，满足不同规模团队的需求。

通过Instagram帖子分析揭示个性特征。

My Insta Personality是一个利用人工智能分析用户Instagram公开帖子的网站，旨在生成用户的个性档案并提供详细洞察。它通过先进的AI技术，帮助用户探索和理解自己在社交媒体上的行为模式和个性倾向。

从文本描述生成高质量的3D室内场景。

SceneTeller是一个创新的3D场景生成平台，它利用最新的生成式人工智能技术，允许用户通过自然语言描述来设计室内3D场景。这项技术大大降低了3D设计的技术门槛，使得非专业用户也能轻松创建个性化的3D空间。产品的主要优点包括易用性、高效率和创意自由度。

新一代AI工程师在GitHub上构建

GitHub Models是GitHub推出的新一代AI模型服务，旨在帮助开发者成为AI工程师。它将行业领先的大型和小型语言模型直接集成到GitHub平台，让超过1亿用户能够直接在GitHub上访问和使用这些模型。GitHub Models提供了一个交互式的模型游乐场，用户可以在这里测试不同的提示和模型参数，无需支付费用。此外，GitHub Models与Codespaces和VS Code集成，允许开发者在开发环境中无缝使用这些模型，并通过Azure AI实现生产部署，提供企业级安全和数据隐私保护。

自动化视频面试软件，提升招聘效率。

VHire是一款面向企业的自动化视频面试软件，旨在通过AI技术帮助企业更快速、智能地筛选和评估候选人。它与传统的视频面试工具相比，如Zoom，能够节省组织的时间和金钱，更准确地招聘到最佳员工。VHire的主要优点包括节省时间、无需繁琐的面试安排、提供专业的AI驱动候选人评分系统以及众多创新功能。此外，VHire还提供灵活的定价方案，根据面试次数收费，并有折扣优惠。

图像材质属性编辑技术

Alchemist是一种利用预训练的文本到图像模型和合成数据，允许用户在图像中编辑物体的材质属性的技术。它通过微调合成数据集，实现了对物体的特定材质属性（如粗糙度、金属感、基础颜色饱和度和透明度）的参数化编辑控制。这项技术的主要优点包括在保持物体几何形状和图像光照不变的同时，能够改变物体的属性，甚至在物体透明化时，能够真实地填充背后的背景、隐藏的内部结构和折射光效果。

使用扩散模型实现时间一致性的人像动画

TCAN是一种基于扩散模型的新型人像动画框架，它能够保持时间一致性并很好地泛化到未见过的领域。该框架通过特有的模块，如外观-姿态自适应层(APPA层)、时间控制网络和姿态驱动的温度图，来确保生成的视频既保持源图像的外观，又遵循驱动视频的姿态，同时保持背景的一致性。

数学视觉指令调优模型

MAVIS是一个针对多模态大型语言模型（MLLMs）的数学视觉指令调优模型，主要通过改进视觉编码数学图表、图表-语言对齐和数学推理技能来增强MLLMs在视觉数学问题解决方面的能力。该模型包括两个新策划的数据集、一个数学视觉编码器和数学MLLM，通过三阶段训练范式在MathVerse基准测试中取得领先性能。

智能代码助手，提升开发效率

Claude Dev是一款VSCode扩展，利用Anthropic的Claude 3.5 Sonnet的代理编码能力，可以逐步处理复杂的软件开发任务。它不仅支持文件读写、创建项目和执行终端命令（在获得用户许可后），还提供了一个直观的GUI，使用户能够安全且容易地探索代理AI的潜力。

文本生成领域的先进模型

H2O Danube3 是由 h2oai 公司开发的一系列文本生成模型，这些模型专注于提供高质量的文本生成服务，广泛应用于聊天机器人、内容创作等领域。它们具备强大的语言理解和生成能力，能够根据给定的上下文生成连贯、准确的文本。

在家使用日常设备搭建自己的AI集群。

exo是一个实验性的软件项目，旨在利用家中的现有设备，如iPhone、iPad、Android、Mac、Linux等，统一成一个强大的GPU来运行AI模型。它支持多种流行的模型，如LLaMA，并具有动态模型分割功能，能够根据当前网络拓扑和设备资源来最优地分割模型。此外，exo还提供了与ChatGPT兼容的API，使得在应用程序中使用exo运行模型仅需一行代码的更改。

实时低延迟语音转换技术

StreamVC是由Google研发的实时低延迟语音转换解决方案，能够在保持源语音内容和韵律的同时，匹配目标语音的音色。该技术特别适合实时通信场景，如电话和视频会议，并且可用于语音匿名化等用例。StreamVC利用SoundStream神经音频编解码器的架构和训练策略，实现轻量级高质量的语音合成。它还展示了学习软语音单元的因果性以及提供白化基频信息以提高音高稳定性而不泄露源音色信息的有效性。

低代码工具，快速构建和协调多智能体团队

Tribe AI是一个低代码工具，它利用langgraph框架，让用户能够轻松自定义和协调智能体团队。通过将复杂任务分配给擅长不同领域的智能体，每个智能体可以专注于其最擅长的工作，从而更快更好地解决问题。

让任何人的声音听起来调皮/有趣

bleep_that_sht 是一个使用 Python 编写的应用程序，它利用 Whisper 转录模型来转录音频，然后根据用户选择的关键词，使用相应的时间戳来替换为哔声。所有处理都在本地完成，无需上传数据，保护用户隐私。

系统性调研生成式AI的提示技术

The Prompt Report 是一份系统性调研报告，专注于生成式人工智能（GenAI）的提示技术。它通过结合人类和机器的努力，从多个数据库中处理了4797条记录，提取出1565篇相关论文。报告提供了58种基于文本的技术，并补充了多模态和多语言技术的广泛集合。其目标是提供一个易于理解和实施的提示技术目录，并回顾了作为提示扩展的代理，包括评估输出和设计有助于安全性和安全性的提示的方法。此外，报告还应用提示技术在两个案例研究中进行了实践。

用于训练大型语言模型的开源合成数据生成管道。

Nemotron-4 340B是NVIDIA发布的一系列开放模型，专为生成合成数据以训练大型语言模型（LLMs）而设计。这些模型经过优化，可以与NVIDIA NeMo和NVIDIA TensorRT-LLM配合使用，以提高训练和推理的效率。Nemotron-4 340B包括基础、指令和奖励模型，形成一个生成合成数据的管道，用于训练和完善LLMs。这些模型在Hugging Face上提供下载，并很快将在ai.nvidia.com上提供，作为NVIDIA NIM微服务的一部分。

NVIDIA ACE是一套用于创建数字人类、AI非玩家角色和交互式头像的生成式AI技术套件。

NVIDIA ACE提供了一套先进的生成式AI模型和微服务，易于部署且性能优越。这些AI模型基于商业安全、负责任许可的数据进行训练，并通过微调和防护措施确保无论用户输入如何，都能提供准确、恰当、切题的结果。ACE支持灵活的部署选项，可以在云端或NVIDIA RTX AI PC上部署和运行。此外，ACE还提供了数字人类工作流程，允许开发者将ACE NIMs集成到他们的产品、工具、服务或游戏中，用于特定领域的AI工作流程，如NPC和客户服务助手。NVIDIA还与Inworld AI合作，展示了将NVIDIA ACE集成到一个端到端NPC平台中的示例，该平台在Unreal Engine 5中提供了尖端的视觉效果。

AI模型性能评估平台

Scale Leaderboard是一个专注于AI模型性能评估的平台，提供专家驱动的私有评估数据集，确保评估结果的公正性和无污染。该平台定期更新排行榜，包括新的数据集和模型，营造动态竞争环境。评估由经过严格审查的专家使用特定领域的方法进行，保证评估的高质量和可信度。

评估大型语言模型调用函数能力的排行榜

Berkeley Function-Calling Leaderboard（伯克利函数调用排行榜）是一个专门用来评估大型语言模型（LLMs）准确调用函数（或工具）能力的在线平台。该排行榜基于真实世界数据，定期更新，提供了一个衡量和比较不同模型在特定编程任务上表现的基准。它对于开发者、研究人员以及对AI编程能力有兴趣的用户来说是一个宝贵的资源。