产品库

为与人类安全共存而开发的创新双臂机器人机制

AMBIDEX是NAVER LABS开发的双臂机器人，旨在实现与人类的安全共存。该机器人具有强大的动力传递机制，同时保持轻便和灵活，满足坚韧和安全性的要求。AMBIDEX项目正在研究新的学习方式，使机器人能够学习人类的动作能力，以执行日常遇到的复杂任务。

一个人性化的多代理系统，自动化网络任务。

Magentic-UI 是一个基于多代理系统的研究原型，允许用户通过透明且可控的界面进行网络浏览和任务自动化。其主要优势在于能够提高人机交互的效率，同时为用户提供对自动化过程的控制。该产品适用于需要在网络上执行复杂任务的用户支持多种操作和自定义设置。

OmniTalker 是一个实时文本驱动的生成谈话头框架。

OmniTalker 是由阿里巴巴 Tongyi 实验室提出的一种统一框架，旨在实时生成音频和视频，提升人机交互体验。其创新之处在于解决了传统文本到语音及语音驱动的视频生成方法中常见的音视频不同步、风格不一致及系统复杂性等问题。OmniTalker 采用双分支扩散变换器架构，能够在保持高效的同时实现高保真的音视频输出。其实时推理速度可达每秒 25 帧，适用于各种交互式视频聊天应用，提升了用户体验。

下一代情感智能的对话视频界面，让AI交互更自然、更人性。

Conversational Video Interface（CVI）是Tavus推出的一种情感智能对话视频界面。它通过Phoenix-3、Raven-0和Sparrow-0三个模型协同工作，赋予AI真正的人类感知、倾听、理解和实时互动能力。CVI不仅是一个工具，更是一种全新的人机沟通方式，可应用于医疗、心理健康、销售培训、客户服务等多个领域，具有无限的使用场景。其背后的技术突破在于将人类对话的细微情感和节奏融入AI交互中，使AI不再是简单的回应，而是能思考、反应并改变我们与机器的互动方式。

大规模机器人学习数据集，推动多用途机器人策略发展。

AGIBOT WORLD是一个专为推进多用途机器人策略而设计的大规模机器人学习数据集。它包括基础模型、基准测试和一个生态系统，旨在为学术界和工业界提供高质量的机器人数据，为具身AI铺平道路。该数据集包含100多台机器人的100万条以上轨迹，覆盖100多个真实世界场景，涉及精细操控、工具使用和多机器人协作等任务。它采用尖端的多模态硬件，包括视觉触觉传感器、耐用的6自由度灵巧手和具有全身控制的移动双臂机器人，支持模仿学习、多智能体协作等研究。AGIBOT WORLD的目标是改变大规模机器人学习，推进可扩展的机器人系统生产，是一个开源平台，邀请研究人员和实践者共同塑造具身AI的未来。

探索未来人机交互的AI代理项目

Project Mariner是Google DeepMind基于Gemini 2.0模型开发的早期研究原型，旨在探索未来的人机交互方式，特别是在网络浏览器中的应用。这个项目能够理解浏览器屏幕上的信息，包括像素和网页元素，如文本、代码、图像和表单，并利用这些信息完成任务。Project Mariner在技术上实现了通过Chrome扩展程序在浏览器中直接操作，为用户提供了一种全新的代理服务体验。

一个用于GUI视觉代理的视觉-语言-行动模型。

ShowUI是一个轻量级的视觉-语言-行动模型，专为GUI代理设计。它通过结合视觉输入、语言理解和行动预测，使得计算机界面能够以更自然的方式响应用户的指令。ShowUI的重要性在于它能够提高人机交互的效率和自然性，特别是在图形用户界面自动化和自然语言处理领域。该模型由showlab实验室开发，目前已在huggingface平台发布，供研究和应用。

AI驱动的界面解决方案，引领智能新体验。

Ant Design X 是由Ant Design团队推出的AI界面解决方案，它基于RICH设计范式（角色、意图、会话和混合界面），延续Ant Design的设计语言，提供了全新的AGI混合界面（Hybrid-UI）解决方案。Ant Design X 旨在通过AI技术提升人机交互的效率和体验，它适用于多种AI场景，包括Web独立式、Web助手式和Web嵌入式等。Ant Design X 的主要优点包括易于配置、极致体验的通用图表库，以及能够快速理解和表达AI意图的能力。产品背景信息显示，Ant Design X 是在蚂蚁集团内部海量AI产品中实践和迭代的结果，它的目标是创造更美好的智能视界。

智能穿戴设备领域的创新者

Gyges Labs致力于创造AI时代的智能穿戴设备，结合了独特的先进光学技术和协作AI技术。公司利用团队在微纳米光学方面的专业知识，开发了基于视网膜投影原理的DigiWindow技术，实现了世界上最小最轻的近眼显示模块。与Birdbath和波导等光学解决方案相比，DigiWindow不仅将尺寸从厘米减少到毫米，还降低了功耗，并提供了完整的视光学兼容性。此外，基于团队在协作AI方面的累积经验，Gyges Labs开发了基于镜像神经元原理并针对可穿戴设备定制的AI引擎Mirron，以增强未来可穿戴设备的感知和交互能力，为未来的“第二大脑”设备奠定了坚实的基础。

多智能体任务规划与推理的基准测试

PARTNR是由Meta FAIR发布的一个大规模基准测试，包含100,000个自然语言任务，旨在研究多智能体推理和规划。PARTNR利用大型语言模型（LLMs）生成任务，并通过模拟循环来减少错误。它还支持与真实人类伙伴的AI代理评估，通过人类在环基础设施进行。PARTNR揭示了现有基于LLM的规划器在任务协调、跟踪和从错误中恢复方面的显著局限性，人类能解决93%的任务，而LLMs仅能解决30%。

开源机器人模拟平台，用于生成无限机器人数据和泛化AI。

ManiSkill是一个领先的开源平台，专注于机器人模拟、无限机器人数据生成和泛化机器人AI。由HillBot.ai领导，该平台支持通过状态和/或视觉输入快速训练机器人，与其它平台相比，ManiSkill/SAPIEN实现了10-100倍的视觉数据收集速度。它支持在GPU上并行模拟和渲染RGB-D，速度高达30,000+FPS。ManiSkill提供了40多种技能/任务和2000多个对象的预构建任务，拥有数百万帧的演示和密集的奖励函数，用户无需自己收集资产或设计任务，可以专注于算法开发。此外，它还支持在每个并行环境中同时模拟不同的对象和关节，训练泛化机器人策略/AI的时间从天缩短到分钟。ManiSkill易于使用，可以通过pip安装，并提供简单灵活的GUI以及所有功能的广泛文档。

Agent S：一个开放的代理框架，让计算机像人类一样使用计算机。

Agent S是一个开放的代理框架，旨在通过图形用户界面(GUI)实现与计算机的自主交互，通过自动化复杂多步骤任务来转变人机交互。它引入了经验增强的分层规划方法，利用在线网络知识和叙事记忆，从过去的交互中提取高级经验，将复杂任务分解为可管理的子任务，并使用情景记忆进行逐步指导，Agent S不断优化其行动并从经验中学习，实现适应性强且有效的任务规划。Agent S在OSWorld基准测试中的表现超过了基线9.37%的成功率（相对提高了83.6%），并在WindowsAgentArena基准测试中展示了广泛的通用性。

沟通无界，让每次对话都创造价值。

心辰Lingo语音大模型是一款先进的人工智能语音模型，专注于提供高效、准确的语音识别和处理服务。它能够理解并处理自然语言，使得人机交互更加流畅和自然。该模型背后依托西湖心辰强大的AI技术，致力于在各种场景下提供高质量的语音交互体验。

实时语音交互的人工智能对话系统。

Listening-while-Speaking Language Model (LSLM)是一款旨在提升人机交互自然度的人工智能对话模型。它通过全双工建模(FDM)技术，实现了在说话时同时监听的能力，增强了实时交互性，尤其是在生成内容不满意时能够被打断和实时响应。LSLM采用了基于token的解码器仅TTS进行语音生成，以及流式自监督学习(SSL)编码器进行实时音频输入，通过三种融合策略（早期融合、中期融合和晚期融合）探索最佳交互平衡。

全身运动生成框架，支持多模态控制

ControlMM是一个全身运动生成框架，具有即插即用的多模态控制功能，能够在文本到运动(Text-to-Motion)、语音到手势(Speech-to-Gesture)和音乐到舞蹈(Music-to-Dance)等多个领域中生成稳健的运动。该模型在可控性、序列性和运动合理性方面具有明显优势，为人工智能领域提供了一种新的运动生成解决方案。

大规模城市环境中的机器人模拟交互平台。

GRUtopia是一个为各种机器人设计的交互式3D社会模拟平台，它通过模拟到现实(Sim2Real)的范式，为机器人学习提供了一个可行的路径。平台包含100k精细标注的交互场景，可以自由组合成城市规模的环境，覆盖89种不同的场景类别，为服务导向环境中通用机器人的部署提供了基础。此外，GRUtopia还包括一个由大型语言模型(LLM)驱动的NPC系统，负责社交互动、任务生成和分配，模拟了具身AI应用的社交场景。

学习野外音频视觉数据的机器人操控

ManiWAV是一个研究项目，旨在通过野外的音频和视觉数据学习机器人操控技能。它通过收集人类演示的同步音频和视觉反馈，并通过相应的策略接口直接从演示中学习机器人操控策略。该模型展示了通过四个接触丰富的操控任务来证明其系统的能力，这些任务需要机器人被动地感知接触事件和模式，或主动地感知物体表面的材料和状态。此外，该系统还能够通过学习多样化的野外人类演示来泛化到未见过的野外环境中。

生成受控于参考图像、音频和V-Kps序列的头像视频。

V-Express是一个由腾讯AI实验室开发的头像视频生成模型，它通过一系列渐进式丢弃操作平衡不同的控制信号，使得生成的视频能够同时考虑姿态、输入图像和音频。该模型特别针对音频信号较弱的情况进行了优化，解决了在控制信号强度不同的情况下生成头像视频的挑战。

探索人工智能如何塑造我们的世界和交互模式。

The Shape of AI 是一个专注于人工智能交互模式的网站，它提供了关于如何在设计中融入人工智能的深入见解。该网站强调了用户体验的重要性，并探讨了在AI驱动的世界中，如何通过设计来优化人机交互。它包含了丰富的资源和工具，帮助设计师和开发者理解AI的新兴模式，以及如何利用这些模式来提升他们的产品和服务。

用于构建理解和模拟人类语音表情的声控人工智能接口。

Hume AI的同理心语音接口(EVI)是一种由同理心大型语言模型(eLLM)驱动的API,可以理解和模拟语音音调、词语重音等,从而优化人机交互。它基于10多年的研究成果、数百万专利数据点和30多篇发表在顶尖期刊的论文。EVI旨在为任何应用程序提供更自然、富有同情心的语音界面,让人与AI的互动更加人性化。该技术可广泛应用于销售/会议分析、健康与保健、AI研究服务、社交网络等领域。

通过表情丰富的掩蔽音频手势建模实现整体共话手势生成

EMAGE是一种统一的整体共话手势生成模型,通过表情丰富的掩蔽音频手势建模来生成自然的手势动作。它可以从音频输入中捕捉语音和韵律信息,并生成相应的身体姿势和手势动作序列。EMAGE能够生成高度动态和表现力丰富的手势,从而增强虚拟人物的互动体验。

01 Light是一款用于家用电脑的语音界面。

01 Light是一款语音控制界面,可以让你用语音控制家用电脑执行各种操作。它的优势是操作便捷、语音识别准确。定价暂未公布,定位是家用电脑的语音控制辅助工具。

创建你的多元宇宙AI

Salieri是一个多元宇宙AI平台，帮助用户创建、配置和分享无限的并行世界。它支持人机交互、机器人之间的交互，并能将用户的故事转化为小说、漫画、游戏和电影等形式。

机器人教学框架,无需在野机器人

通用操作接口(UMI)是一个数据收集和策略学习框架,允许直接将现场人类演示中的技能转移到可部署的机器人策略。UMI采用手持夹具与仔细的界面设计相结合,实现便携、低成本和信息丰富的数据收集,用于挑战性的双手和动态操作演示。为促进可部署的策略学习,UMI结合了精心设计的策略界面,具有推理时延迟匹配和相对轨迹动作表示。从而产生的学习策略与硬件无关,并且可以在多个机器人平台上部署。配备这些功能,UMI框架解锁了新的机器人操作功能,仅通过为每个任务更改训练数据,允许泛化的动态、双手、精确和长时间的行为,从而实现零次调整。我们通过全面的真实环境实验演示了UMI的通用性和有效性,其中仅通过使用各种人类演示进行训练的UMI策略,在面对新环境和对象时实现了零次调整的泛化。

多模态语言模型

SpeechGPT是一种多模态语言模型，具有内在的跨模态对话能力。它能够感知并生成多模态内容，遵循多模态人类指令。SpeechGPT-Gen是一种扩展了信息链的语音生成模型。SpeechAgents是一种具有多模态多代理系统的人类沟通模拟。SpeechTokenizer是一种统一的语音标记器，适用于语音语言模型。这些模型和数据集的发布日期和相关信息均可在官方网站上找到。

AI学习电脑应用中的人类行为

rabbit是一个研究项目，旨在开发可以理解和模拟人类在计算机应用中的行为的系统。这个系统被称为大型行动模型（LAM），采用神经符号编程技术，允许直接模拟各种应用程序和用户在其上执行的操作。LAM在精确度、可解释性和速度方面与最先进的方法相媲美。它的目标是为各种AI助手和操作系统的部署提供支持，帮助塑造下一代自然语言驱动的消费者体验。

物理模拟角色的指令驱动控制系统

InsActor是一个基于物理模拟的角色控制系统。它可以通过自然语言指令驱动角色在复杂环境中完成各种交互任务。该系统利用条件与对抗扩散模型进行多级规划,并与低级控制器相结合,实现稳定、鲁棒的控制。具有控制流畅、交互自然的优势,适用于创意内容生成、互动娱乐、人机交互等应用场景。