产品库

基于重力视角坐标恢复世界定位的人体运动

GVHMR是一种创新的人体运动恢复技术，它通过重力视角坐标系统来解决从单目视频中恢复世界定位的人体运动的问题。该技术能够减少学习图像-姿态映射的歧义，并且避免了自回归方法中连续图像的累积误差。GVHMR在野外基准测试中表现出色，不仅在准确性和速度上超越了现有的最先进技术，而且其训练过程和模型权重对公众开放，具有很高的科研和实用价值。

开源计算机视觉库

OpenCV是一个跨平台的开源计算机视觉和机器学习软件库，它提供了一系列编程功能，包括但不限于图像处理、视频分析、特征检测、机器学习等。该库广泛应用于学术研究和商业项目中，因其强大的功能和灵活性而受到开发者的青睐。

专注于计算机视觉和机器学习领域的研究与创新的博客网站

Shangchen Zhou 是一位在计算机视觉和机器学习领域有着深厚研究背景的博士生，他的工作主要集中在视觉内容增强、编辑和生成AI（2D和3D）上。他的研究成果广泛应用于图像和视频的超分辨率、去模糊、低光照增强等领域，为提升视觉内容的质量和用户体验做出了重要贡献。

3D人体姿态估计技术

AvatarPose是一种用于从稀疏多视角视频中估计多个紧密互动人的3D姿态和形状的方法。该技术通过重建每个人的个性化隐式神经化身，并将其作为先验，通过颜色和轮廓渲染损失来细化姿态，显著提高了在紧密互动中估计3D姿态的鲁棒性和精确度。

4D重建模型，快速生成动画对象

L4GM是一个4D大型重建模型，能够从单视图视频输入中快速生成动画对象。它采用了一种新颖的数据集，包含多视图视频，这些视频展示了Objaverse中渲染的动画对象。该数据集包含44K种不同的对象和110K个动画，从48个视角渲染，生成了12M个视频，总共包含300M帧。L4GM基于预训练的3D大型重建模型LGM构建，该模型能够从多视图图像输入中输出3D高斯椭球。L4GM输出每帧的3D高斯Splatting表示，然后将其上采样到更高的帧率以实现时间平滑。此外，L4GM还添加了时间自注意力层，以帮助学习时间上的一致性，并使用每个时间步的多视图渲染损失来训练模型。

一种用于跨领域视频帧中对象匹配的通用模型。

MASA是一个用于视频帧中对象匹配的先进模型，它能够处理复杂场景中的多目标跟踪（MOT）。MASA不依赖于特定领域的标注视频数据集，而是通过Segment Anything Model（SAM）丰富的对象分割，学习实例级别的对应关系。MASA设计了一个通用适配器，可以与基础的分割或检测模型配合使用，实现零样本跟踪能力，即使在复杂领域中也能表现出色。

提供关于人工智能的最佳资源，学习机器学习、数据科学、自然语言处理等。

AI Online Course是一个互动学习平台，提供清晰简明的人工智能介绍，使复杂的概念易于理解。它涵盖机器学习、深度学习、计算机视觉、自动驾驶、聊天机器人等方面的知识，并强调实际应用和技术优势。

为角色动画提供直观且价格合理的动作捕捉工具。

Rokoko是一款基于传感器的动作捕捉系统，为3D数字创作者提供高质量的身体、手指和面部动画解决方案。它具有直观易用的界面和负担得起的价格，可帮助用户轻松实现逼真的角色动画。

智能视频对象分割技术

SAM是一个先进的视频对象分割模型，它结合了光学流动和RGB信息，能够发现并分割视频中的移动对象。该模型在单对象和多对象基准测试中均取得了显著的性能提升，同时保持了对象的身份一致性。

为开源世界构建高质量视频数据集的计划

Open-Sora-Plan是一个开源项目,旨在为开源社区提供高质量的视频数据集。该项目已经爬取并处理了40258个来自开源网站的高质量视频,涵盖了60%的横屏视频。同时还提供了自动生成的密集字幕,供机器学习等应用使用。该项目免费开源,欢迎大家共同参与和支持。

学习网络中的三维动物

3D Fauna是一个通过学习 2D 网络图片来构建三维动物模的方法。它通过引入语义相关的模型集合来解决模型泛化的挑战，并提供了一个新的大规模数据集。在推理过程中，给定一张任意四足动物的图片，我们的模型可以在几秒内通过前馈方式重建出一个有关联的三维网格模型。

机器人图像渲染的新发展

Wild2Avatar是一个用于渲染被遮挡的野外单目视频中的人类外观的神经渲染方法。它可以在真实场景下渲染人类,即使障碍物可能会阻挡相机视野并导致部分遮挡。该方法通过将场景分解为三部分(遮挡物、人类和背景)来实现,并使用特定的目标函数强制分离人类与遮挡物和背景,以确保人类模型的完整性。

借助 AutoML Vision 从图像中发掘有价值的信息、利用预训练的 Vision API 模型，或使用 Vertex AI Vision 创建计算机视觉应用

Vision AI 提供了三种计算机视觉产品，包括 Vertex AI Vision、自定义机器学习模型和 Vision API。您可以使用这些产品从图像中提取有价值的信息，进行图像分类和搜索，并创建各种计算机视觉应用。Vision AI 提供简单易用的界面和功能强大的预训练模型，满足不同用户需求。

洞察管理平台

Manot洞察管理平台通过准确定位改进计算机视觉模型的表现。它为产品经理和工程师提供了可操作的见解,以便他们能够确定计算机视觉模型失败的原因。

实时优化的计算机视觉库

OpenCV是一个实时优化的计算机视觉库，提供了一套功能强大的工具和硬件支持。它还支持机器学习（ML）和人工智能（AI）模型的执行。OpenCV是开源的，免费商用。

AI研究论文记忆助手

PaperClip是AI研究者的第二大脑，用于机器学习、计算机视觉和自然语言处理论文的回顾和记忆。它可以帮助您记忆来自机器学习、计算机视觉和自然语言处理论文的详细信息，包括重要发现和论文细节。您可以从任何地方记忆，无论是AI研究论文、机器学习博客文章还是新闻报道。PaperClip的AI在本地运行，不会向任何服务器发送数据。它可以将您的记忆保存在本地，并提供简单的搜索功能，让您随时找回重要发现。PaperClip支持离线搜索，即使没有互联网连接也可以进行搜索。您还可以随时清理您的数据，一键重置保存的信息。PaperClip以Svelte和Hugo Duprez为基础开发。

开源数据标注工具

Label Studio是一款灵活的开源数据标注平台，适用于各种数据类型。它可以帮助用户准备计算机视觉、自然语言处理、语音、声音和视频模型的训练数据。Label Studio提供了多种标注类型，包括图像分类、对象检测、语义分割、音频分类、说话人分割、情感识别、文本分类和命名实体识别等。它支持快速启动和使用，适用于个人和团队使用。

统一文本、音乐和动作生成模型

UniMuMo是一个多模态模型，能够将任意文本、音乐和动作数据作为输入条件，生成跨所有三种模态的输出。该模型通过将音乐、动作和文本转换为基于令牌的表示，通过统一的编码器-解码器转换器架构桥接这些模态。它通过微调现有的单模态预训练模型，显著降低了计算需求。UniMuMo在音乐、动作和文本模态的所有单向生成基准测试中都取得了有竞争力的结果。

使用OpenAI实时API与文档进行语音聊天

voice-chat-pdf是一个基于LlamaIndex项目，使用Next.js构建的示例，它通过简单的RAG系统，允许用户通过语音与PDF文档进行交互。这个项目需要OpenAI API密钥来访问实时API，并在项目中生成文档的嵌入向量，以便进行语音交互。它展示了如何将先进的机器学习技术应用于提高文档交互的效率和便捷性。

基于熵的采样技术，优化模型输出的多样性和准确性

Entropy-based sampling 是一种基于熵理论的采样技术，用于提升语言模型在生成文本时的多样性和准确性。该技术通过计算概率分布的熵和方差熵来评估模型的不确定性，从而在模型可能陷入局部最优或过度自信时调整采样策略。这种方法有助于避免模型输出的单调重复，同时在模型不确定性较高时增加输出的多样性。

利用AI技术生成高质量句子的在线工具

AI句子生成器是一个基于人工智能技术的在线工具，它能够根据用户提供的主题和类型生成连贯且上下文相关的句子。这项技术对于作家、学生和任何希望提高写作技能的人都非常有价值。它通过复杂的自然语言处理技术和机器学习模型，确保每个生成的句子都是定制化的，以满足用户的需求。AI句子生成器的主要优点包括简化写作过程、节省时间、激发创造力，并帮助用户生成多样化的句子结构和语调，提高整体写作风格。

从单张图片或文本提示生成高质量3D资产

Flex3D是一个两阶段流程，能够从单张图片或文本提示生成高质量的3D资产。该技术代表了3D重建领域的最新进展，可以显著提高3D内容的生成效率和质量。Flex3D的开发得到了Meta的支持，并且团队成员在3D重建和计算机视觉领域有着深厚的背景。

将音频流转换为面部表情，实现实时唇形同步和面部表演。

Audio-to-Face 是 NVIDIA NIM 提供的一项技术，能够将音频流实时转换为面部表情，用于唇形同步和面部表演。这项技术主要应用于数字人领域，通过先进的机器学习算法，实现高度逼真的面部动作生成。它不仅能够提升数字人物的自然度和真实感，还能够在游戏、电影制作、虚拟现实等领域提供强大的支持。

最先进的图像生成模型

FLUX1.1 [pro] 是 Black Forest Labs 发布的最新图像生成模型，它在速度和图像质量上都有显著提升。该模型提供六倍于前代的速度，同时改善了图像质量、提示遵循度和多样性。FLUX1.1 [pro] 还提供了更高级的定制化选项，以及更优的性价比，适合需要高效、高质量图像生成的开发者和企业。

先进的目标检测和跟踪模型

Ultralytics YOLO11是基于之前YOLO系列模型的进一步发展，引入了新特性和改进，以提高性能和灵活性。YOLO11旨在快速、准确、易于使用，非常适合广泛的目标检测、跟踪、实例分割、图像分类和姿态估计任务。

一种最小化均方误差的图像恢复算法

Posterior-Mean Rectified Flow（PMRF）是一种新颖的图像恢复算法，它通过优化后验均值和矫正流模型来最小化均方误差（MSE），同时保证图像的逼真度。PMRF算法简单而高效，其理论基础是将后验均值预测（最小均方误差估计）优化到与真实图像分布相匹配。该算法在图像恢复任务中表现出色，能够处理噪声、模糊等多种退化问题，并且具有较好的感知质量。

新一代生成式AI模型

Liquid Foundation Models (LFMs) 是一系列新型的生成式AI模型，它们在各种规模上都达到了最先进的性能，同时保持了更小的内存占用和更高效的推理效率。LFMs 利用动态系统理论、信号处理和数值线性代数的计算单元，可以处理包括视频、音频、文本、时间序列和信号在内的任何类型的序列数据。这些模型是通用的AI模型，旨在处理大规模的序列多模态数据，实现高级推理，并做出可靠的决策。

将Hugging Face Space或Gradio应用转化为Discord机器人

gradio-bot是一个可以将Hugging Face Space或Gradio应用转化为Discord机器人的工具。它允许开发者通过简单的命令行操作，将现有的机器学习模型或应用快速部署到Discord平台上，实现自动化交互。这不仅提高了应用的可达性，还为开发者提供了一个与用户直接交互的新渠道。

会议语音转文本并自动生成摘要的AI工具

AI-Powered Meeting Summarizer是一个基于Gradio的网站应用，能够将会议录音转换为文本，并使用whisper.cpp进行音频到文本的转换，以及Ollama服务器进行文本摘要。该工具非常适合快速提取会议中的关键点、决策和行动项目。

保护隐私的音频深度检测

SafeEar是一个创新的音频深度检测框架，它能够在不依赖于语音内容的情况下检测深度音频。这个框架通过设计一个神经音频编解码器，将语义和声学信息从音频样本中分离出来，仅使用声学信息（如韵律和音色）进行深度检测，从而保护了语音内容的隐私。SafeEar通过在真实世界中增强编解码器来提高检测器的能力，使其能够识别各种深度音频。该框架在四个基准数据集上的广泛实验表明，SafeEar在检测各种深度技术方面非常有效，其等错误率（EER）低至2.02%。同时，它还能保护五种语言的语音内容不被机器和人类听觉分析破译，通过我们的用户研究和单词错误率（WER）均高于93.93%来证明。此外，SafeEar还构建了一个用于反深度和反内容恢复评估的基准，为未来在音频隐私保护和深度检测领域的研究提供了基础。