产品库

自监督学习框架，用于音视觉语音处理

AV-HuBERT是一个自监督表示学习框架，专门用于音视觉语音处理。它在LRS3音视觉语音基准测试中实现了最先进的唇读、自动语音识别（ASR）和音视觉语音识别结果。该框架通过掩蔽多模态聚类预测来学习音视觉语音表示，并且提供了鲁棒的自监督音视觉语音识别。

DINOv2: 无监督学习的稳健视觉特征

DINOv2 是一种无监督学习的自我监督学习方法，可以生成高性能的视觉特征，适用于计算机视觉任务。它不需要微调，具有稳健性和跨领域性能。

自监督触觉表示，用于基于视觉的触觉传感。

Sparsh是一系列通过自监督算法（如MAE、DINO和JEPA）训练的通用触觉表示。它能够为DIGIT、Gelsight'17和Gelsight Mini生成有用的表示，并在TacBench提出的下游任务中大幅度超越端到端模型，同时能够为新下游任务的数据高效训练提供支持。Sparsh项目包含PyTorch实现、预训练模型和与Sparsh一起发布的数据集。

学习模型间字符串关系，检查视觉世界

这篇论文系统评估了大型语言模型（LLMs）生成和识别逐渐复杂的视觉概念的能力，并展示了如何使用文本模型训练初步的视觉表示学习系统。虽然语言模型不能直接处理像素级的视觉信息，但使用代码表示图像进行研究。LLM 生成的图像虽然不像自然图像，但在图像生成和纠正方面的结果表明，准确建模字符串可以教会语言模型许多关于视觉世界的方面。此外，利用文本模型生成的图像进行自监督视觉表示学习的实验，突出了只使用 LLMs 就能训练能够对自然图像进行语义评估的视觉模型的潜力。

一种自监督的视听特征对齐模型。

DenseAV是一种新颖的双编码器定位架构，通过观看视频学习高分辨率、语义有意义的视听对齐特征。它能够无需明确定位监督即可发现单词的“意义”和声音的“位置”，并且自动发现并区分这两种关联类型。DenseAV的定位能力来自于一种新的多头特征聚合操作符，它直接比较密集的图像和音频表示进行对比学习。此外，DenseAV在语义分割任务上显著超越了先前的艺术水平，并且在使用参数少于一半的情况下，在跨模态检索上超越了ImageBind。

一种基于潜在扩散模型的自监督层次化化妆迁移技术

SHMT是一种自监督的层次化化妆迁移技术，通过潜在扩散模型实现。该技术能够在不需要显式标注的情况下，将一种面部妆容自然地迁移到另一种面部上。其主要优点在于能够处理复杂的面部特征和表情变化，提供高质量的迁移效果。该技术在NeurIPS 2024上被接受，展示了其在图像处理领域的创新性和实用性。

构建无代码监督学习模型

Supervised AI是一个无代码AI开发平台，可帮助用户构建监督学习模型。利用OpenAI的GPT引擎，结合用户的数据，构建高准确性的AI模型。用户可以使用Supervised API将AI模型集成到任何地方。

基于强化学习技术的视觉思考模型，理科测试行业领先

Kimi视觉思考模型k1是基于强化学习技术打造的AI模型，原生支持端到端图像理解和思维链技术，并将能力扩展到数学之外的更多基础科学领域。在数学、物理、化学等基础科学学科的基准能力测试中，k1模型的表现超过了全球标杆模型。k1模型的发布标志着AI在视觉理解和思考能力上的新突破，尤其在处理图像信息和基础科学问题上展现出色的表现。

语音转文字,支持实时语音识别、录音文件识别等

腾讯云语音识别(ASR)为开发者提供语音转文字服务的最佳体验。语音识别服务具备识别准确率高、接入便捷、性能稳定等特点。腾讯云语音识别服务开放实时语音识别、一句话识别和录音文件识别三种服务形式,满足不同类型开发者需求。技术先进,性价比高,多语种支持,适用于客服、会议、法庭等多场景。

结合视觉语音处理与大型语言模型的框架

VSP-LLM是一个结合视觉语音处理（Visual Speech Processing）与大型语言模型（LLMs）的框架，旨在通过LLMs的强大能力最大化上下文建模能力。VSP-LLM设计用于执行视觉语音识别和翻译的多任务，通过自监督视觉语音模型将输入视频映射到LLM的输入潜在空间。该框架通过提出一种新颖的去重方法和低秩适配器（LoRA），可以高效地进行训练。

精准识别音视频转文本或SRT字幕

33字幕是一款桌面端精准识别音视频转文字或SRT字幕的软件,支持50多种语言识别和翻译,翻译支持DeepL和ChatGPT,可搜索和编辑字幕,支持批量处理,还可以一键剪切口播和播客。

视觉位置识别通过图像片段检索

Revisit Anything 是一个视觉位置识别系统，通过图像片段检索技术，能够识别和匹配不同图像中的位置。它结合了SAM（Spatial Attention Module）和DINO（Distributed Knowledge Distillation）技术，提高了视觉识别的准确性和效率。该技术在机器人导航、自动驾驶等领域具有重要的应用价值。

AI音视频生成工具

LuDe是一款基于人工智能的音视频生成工具，可以通过提供的音频或文本内容快速创建视频。它具有智能转写、视频背景更换和视频生成等功能。LuDe可以帮助用户轻松创建各种类型的视频，如YT Shorts和Insta Reels。它简化了视频制作的流程，节省了时间和精力。

AI音视频转录与总结工具，提升学习和工作效率。

Ai好记是一款专注于音视频内容处理的AI工具，通过先进的技术将音视频转录为文字、生成翻译、总结等内容。它能够帮助用户高效地处理和吸收音视频信息，节省时间并提升学习和工作效率。该产品适用于多种场景，如学习、工作、内容创作等，具有较高的实用性和便捷性。目前尚不清楚具体价格和详细定位信息。

AI一键总结，节省时间

BibiGPT · AI 音视频助理是一款智能插件，支持B站、油管、小红书、抖音、推特、小宇宙、苹果播客、谷歌播客、本地视频、本地音频、微信公众号等任意网页链接。通过输入链接，即可获得AI一键总结、思维导图、字幕列表、AI改写图文、AI对话追问、热门视频总结等功能。帮助用户快速获取音视频内容的核心信息。

多模态大型语言模型，优化视觉识别和图像推理。

Llama-3.2-90B-Vision是Meta公司发布的一款多模态大型语言模型（LLM），专注于视觉识别、图像推理、图片描述和回答有关图片的一般问题。该模型在常见的行业基准测试中超越了许多现有的开源和封闭的多模态模型。

学习联合视觉表示通过对齐前投影

Video-LLaVA 是一个用于学习联合视觉表示的模型，通过对齐前投影进行训练。它可以将视频和图像表示进行对齐，从而实现更好的视觉理解。该模型具有高效的学习和推理速度，适用于视频处理和视觉任务。

GPU加速AI SDK，提升实时音视频质量

NVIDIA Maxine是一套GPU加速的AI SDK，通过人工智能技术提升实时音频、视频和增强现实效果的质量。Maxine的先进模型可以在标准麦克风和摄像头设备上实现高质量的效果。Maxine可在本地、云端或边缘部署。定价请咨询官方网站。

个人语音和视觉助手

Unitor.ai是一个个人语音和视觉助手，提供自然、温暖的语音对话，适用于所有年龄段和兴趣。它能够随着每次互动变得更加智能，帮助用户组织生活、提供情感支持和建议，以及在驾驶或工作时提供免提帮助。

提取音视频内容的洞见

Steno AI是一款基于人工智能的工具，帮助专业人士获取有价值的信息，追踪品牌，研究竞争对手，了解公众意见。它具有AI生成的智能技术，能够将音频和视频内容转化为有用的洞见和摘要。使用Steno AI，您可以轻松提取各种Podcast和YouTube等内容中的关键见解。此外，Steno AI还有一个庞大的专有数据集，拥有4900万小时的内容和数十万个文本转录。Steno AI以其高效的提取和整理信息的能力，帮助用户更好地理解行业动态，追踪品牌发展，进行竞争分析等。

AI音视频聊天机器人

Context是一款AI音视频聊天机器人，通过语音和视频进行沟通，具备智能回答问题、情感识别、语音合成等功能。它可以用于在线客服、虚拟助手、教育辅助等场景。定价根据使用量计费。

Miqu 1-70b是一个开源的大规模语言模型

Miqu 1-70b是一个开源大规模语言模型,采用了新颖的自我监督学习方法,可以处理各种自然语言任务。该模型参数量达170亿,支持多种prompt格式,可fine-tuning生成高质量的文本。其强大的理解和生成能力,使其可广泛应用于聊天机器人、文本摘要、问答系统等领域。

由人工智能驱动的一站式语音翻译、音色定制、配音等音视频服务

米可智能是由人工智能驱动的一站式语音翻译、音色定制、配音等音视频服务。它通过 AI 技术将复杂操作极致简化，提高工作效率超过 90%。功能包括语音翻译，将音视频的语音翻译为其他语言的语音，全流程 AI 驱动，精准度超过 98%；音色定制，定制个性化的音色，用于语音翻译、配音等功能；语音合成，将文字转为自然生动的语音。产品定价合理，使用场景广泛，适用于跨境市场营销、教育、媒体等领域。

从合成数据中学习视觉表示模型

该代码仓库包含从合成图像数据(主要是图片)进行学习的研究,包括StableRep、Scaling和SynCLR三个项目。这些项目研究了如何利用文本到图像模型生成的合成图像数据进行视觉表示模型的训练,并取得了非常好的效果。

基于Java的全能视觉智能识别项目

JavaVision是一个基于Java开发的全能视觉智能识别项目，它不仅实现了PaddleOCR-V4、YoloV8物体识别、人脸识别、以图搜图等核心功能，还可以轻松扩展到其他领域，如语音识别、动物识别、安防检查等。项目特点包括使用SpringBoot框架、多功能性、高性能、可靠稳定、易于集成和灵活可拓展。JavaVision旨在为Java开发者提供一个全面的视觉智能识别解决方案，让他们能够以熟悉且喜爱的编程语言构建出先进、可靠且易于集成的AI应用。

先进的视觉基础模型，支持多种视觉和视觉-语言任务。

Florence-2是由微软开发的高级视觉基础模型，采用基于提示的方法处理广泛的视觉和视觉-语言任务。该模型能够解释简单的文本提示，执行如描述、目标检测和分割等任务。它利用包含54亿个注释的5.4亿张图像的FLD-5B数据集，精通多任务学习。模型的序列到序列架构使其在零样本和微调设置中都表现出色，证明其为有竞争力的视觉基础模型。

提供一站式音视频云服务平台

萤石开放平台基于萤石云智能视频技术,提供一站式音视频设备云接入、视频存储、视频处理、视频分发等服务,覆盖从设备端到应用端的全流程服务,支持多场景的音视频需求。平台支持设备云规模化接入,提供低成本、便捷、可靠的全球视频云基础设施服务;支持丰富的视频云能力开放,助力众多行业用户实现业务创新。

基于双向状态空间模型的高效视觉表示学习框架

Vision Mamba是一个高效的视觉表示学习框架,使用双向Mamba模块构建,可以克服计算和内存限制,进行高分辨率图像的Transformer风格理解。它不依赖自注意力机制,通过位置嵌入和双向状态空间模型压缩视觉表示,实现更高性能,计算和内存效率也更好。该框架在 ImageNet分类、COCO目标检测和ADE20k语义分割任务上,性能优于经典的视觉Transformers,如DeiT,但计算和内存效率提高2.8倍和86.8%。

先进的视觉基础模型，支持多种视觉和视觉-语言任务

Florence-2是由微软开发的高级视觉基础模型，采用基于提示的方法处理广泛的视觉和视觉-语言任务。该模型能够解释简单的文本提示，执行诸如图像描述、目标检测和分割等任务。它利用FLD-5B数据集，包含54亿个注释，覆盖1.26亿张图像，精通多任务学习。其序列到序列的架构使其在零样本和微调设置中均表现出色，证明是一个有竞争力的视觉基础模型。