产品库

微软定制AI加速器，专为大规模AI工作负载设计。

Maia 100是微软为Azure设计的首款定制AI加速器，专为大规模AI工作负载而打造，通过软硬件的协同优化，实现了性能、可扩展性和灵活性的最大化。它采用了TSMC N5工艺和COWOS-S互连技术，具备高达1.8TB/s的带宽和64GB的容量，支持高达700W的热设计功耗(TDP)，但以500W运行，确保了高效的能效比。Maia 100集成了高速张量单元、向量处理器、DMA引擎和硬件信号量，支持多种数据类型和张量切分方案，并通过以太网互连支持大规模AI模型。此外，Maia SDK提供了丰富的组件，支持快速部署PyTorch和Triton模型，并通过双编程模型确保高效的数据处理和同步。

高性能AI加速器，专为AI工作负载设计。

Intel® Gaudi® 3 AI Accelerator是英特尔推出的一款高性能人工智能加速器，它基于高效的英特尔® Gaudi® 平台构建，具备出色的MLPerf基准性能，旨在处理要求苛刻的训练和推理任务。该加速器支持数据中心或云中的大型语言模型、多模态模型和企业RAG等人工智能应用程序，能够在您可能已经拥有的以太网基础设施上运行。无论您需要单个加速器还是数千个加速器，英特尔Gaudi 3都可以在您的AI成功中发挥关键作用。

大规模参数扩散变换器模型

DiT-MoE是一个使用PyTorch实现的扩散变换器模型，能够扩展到160亿参数，与密集网络竞争的同时展现出高度优化的推理能力。它代表了深度学习领域在处理大规模数据集时的前沿技术，具有重要的研究和应用价值。

开放式行业标准化的加速器间通信接口

UALink™是一个开放的行业标准化组织，旨在开发加速器间通信的技术规范，以实现直接负载、存储和原子操作。该技术专注于为数百个加速器提供低延迟、高带宽的网络，并实现简单的负载和存储语义以及软件一致性。UALink 1.0规范将利用发起成员在开发和部署各种加速器和交换机方面的经验。联盟公司代表了广泛的行业专长，包括云服务提供商、系统OEM、加速器开发者、交换机开发者和IP提供商。目前正在开发数据中心AI连接的额外使用模型。

PygmalionAI的大规模推理引擎

Aphrodite是PygmalionAI的官方后端引擎，旨在为PygmalionAI网站提供推理端点，并允许以极快的速度为大量用户提供Pygmalion模型服务。Aphrodite利用vLLM的分页注意力技术，实现了连续批处理、高效的键值管理、优化的CUDA内核等特性，支持多种量化方案，以提高推理性能。

加速科学发现，引领量子计算的未来。

Azure Quantum 是微软推出的量子计算平台，旨在通过先进的量子计算技术加速科学研究和材料科学领域的发现。它通过结合人工智能、高性能计算和量子计算，提供了一套完整的工具和资源，以帮助研究人员和开发者在量子领域取得突破。Azure Quantum 的愿景是将250年的科学进步加速到未来25年，通过量子超级计算机解决人类面临的最困难问题。

Azure AI Studio提供的语音服务

Azure AI Studio是微软Azure提供的一套人工智能服务，其中包括语音服务。这些服务可能包括语音识别、语音合成、语音翻译等功能，帮助开发者在他们的应用程序中集成语音相关的智能功能。

Whisper加速器,利用GPU加速语音识别

Whisper Turbo旨在成为OpenAI Whisper API的替代品。它由3部分组成:一个兼容层,用于输入不同格式的音频文件并转换为Whisper兼容格式;开发者友好的API,支持一次性推理和流式模式;以及Rust + WebGPU推理框架Rumble,专门用于跨平台快速推理。

大规模视觉语言模型的视觉词汇扩展

Vary 是一个用于大规模视觉语言模型的官方代码实现。它通过扩展视觉词汇来提高模型的性能。该模型具有强大的图像理解和语言生成能力，可以在多个领域进行应用。

大规模自回归图像模型预训练

这篇论文介绍了AIM，这是一组使用自回归目标进行预训练的视觉模型。这些模型受其文本对应物，即大型语言模型（LLMs）的启发，并表现出类似的扩展特性。具体来说，我们强调了两个关键发现：（1）视觉特征的性能随着模型容量和数据量的增加而提高，（2）目标函数的价值与模型在下游任务上的性能相关。我们通过在20亿张图像上对70亿参数的AIM进行预训练，实现了在ImageNet-1k上使用冻结主干达到84.0%的准确率。有趣的是，即使在这个规模上，我们观察到性能没有饱和的迹象，这表明AIM可能代表了训练大规模视觉模型的新前沿。AIM的预训练类似于LLMs的预训练，并不需要任何图像特定的策略来稳定大规模训练。

基于大规模视觉-语言模型的专家混合模型

MoE-LLaVA是一种基于大规模视觉-语言模型的专家混合模型，展现出在多模态学习中出色的性能。其具有较少的参数，但表现出较高的性能，并且可以在短时间内完成训练。该模型支持Gradio Web UI和CLI推理，并提供模型库、需求和安装、训练和验证、自定义、可视化、API等功能。

Meta自研的下一代AI训练和推理加速芯片

Meta Training and Inference Accelerator (MTIA)是Meta自研的下一代AI加速芯片。相比上一代产品, MTIA v2在计算能力和内存带宽上均有大幅提升, 可以更高效地支撑Meta的排序和推荐模型应用。这是Meta持续投资自研硬件基础设施的重要成果,将为Meta的AI产品和服务带来新的能力。

大规模合成数据集，助力个性化研究

Persona Hub 是腾讯AI实验室发布的一个大规模合成数据集，旨在促进以人物角色为驱动的数据合成研究。该数据集包含数百万不同人物角色的合成数据样本，可用于模拟真实世界用户的多样化输入，对大型语言模型（LLM）进行测试和研究。

利用 AI 解决方案推进业务成果并改善客户体验。

Azure AI是微软为开发者和数据科学家设计的人工智能服务组合,具有负责任的AI原则支持,可帮助企业以更少的花费完成更多任务,构建和部署自己的 AI解决方案。主要功能包括视觉、语音、语言和决策 AI 模型,AI超级计算基础架构,熟悉的工具和开源框架支持等。关键优势有针对不同技能级别的框架和工具、任务关键型 AI 解决方案支持、负责任地应用 AI的工具和指南等。

AI应用开发加速器

Anthropic Console是一个为AI应用开发提供支持的平台，它通过内置的提示生成器，测试案例生成器和模型响应评估工具，帮助开发者快速生成高质量的提示，测试和优化AI模型的响应。该平台利用Claude 3.5 Sonnet模型，简化了开发流程，提高了AI应用的产出质量。

AI加速器，推动人工智能的突破

Graphcore是一家专注于人工智能硬件加速器的公司，其产品主要面向需要高性能计算的人工智能领域。Graphcore的IPU（智能处理单元）技术为机器学习、深度学习等AI应用提供了强大的计算支持。公司的产品包括云端IPU、数据中心IPU以及Bow IPU处理器等，这些产品通过Poplar® Software进行优化，能够显著提升AI模型的训练和推理速度。Graphcore的产品和技术在金融、生物技术、科研等多个行业都有应用，帮助企业和研究机构加速AI项目的实验过程，提高效率。

大规模视频生成的自回归扩散模型

MarDini是Meta AI Research推出的一款视频扩散模型，它将掩码自回归（MAR）的优势整合到统一的扩散模型（DM）框架中。该模型能够根据任意数量的掩码帧在任意帧位置进行视频生成，支持视频插值、图像到视频生成以及视频扩展等多种视频生成任务。MarDini的设计高效，将大部分计算资源分配给低分辨率规划模型，使得在大规模上进行空间-时间注意力成为可能。MarDini在视频插值方面树立了新的标杆，并且在几次推理步骤内，就能高效生成与更昂贵的高级图像到视频模型相媲美的视频。

利用动态NeRF进行大规模运动和视角变化的人体视频编辑

DynVideo-E是一款利用动态NeRF技术进行大规模运动和视角变化的人体视频编辑工具。该工具将视频表示为3D前景规范化的人体空间，结合变形场和3D背景静态空间。通过利用重建损失、2D个性化扩散先验、3D扩散先验和局部部分超分辨率等技术，在多视角多姿势配置下编辑可动的规范化人体空间。同时，通过特征空间的风格转换损失将参考风格转移到3D背景模型中。用户可以在编辑后的视频-NeRF模型中根据源视频相机姿态进行相应的渲染。DynVideo-E不仅能够处理短视频，还能够处理大规模运动和视角变化的人体视频，为用户提供了更多直接可控的编辑方式。该工具在两个具有挑战性的数据集上的实验证明，相比于现有方法，DynVideo-E在人类偏好方面取得了50% ~ 95%的显著优势。DynVideo-E的代码和数据将会向社区发布。

为AI基础设施提供领导性的AI性能

AMD Instinct MI325X加速器基于AMD CDNA 3架构，专为AI任务设计，包括基础模型训练、微调和推理，提供卓越的性能和效率。这些产品使AMD的客户和合作伙伴能够在系统、机架和数据中心层面创建高性能和优化的AI解决方案。AMD Instinct MI325X加速器提供了行业领先的内存容量和带宽，支持6.0TB/s的256GB HBM3E，比H200多1.8倍的容量和1.3倍的带宽，提供了更高的FP16和FP8计算性能。

用Azure免费帐户创建定制的AI powered搜索

Azure Cognitive Search是一项基于云的搜索服务，提供功能强大的搜索引擎，支持全文搜索、自动完成、筛选、建议等功能。它还可以集成自定义的AI模型，实现知识挖掘和信息提取，并能满足各种业务需求和行业要求。Azure Cognitive Search为新客户提供12个月免费服务，并提供200美元的Azure信用额度。

一个专注于超大规模系统设计和优化的工具，提供高效解决方案。

The Ultra-Scale Playbook 是一个基于 Hugging Face Spaces 提供的模型工具，专注于超大规模系统的优化和设计。它利用先进的技术框架，帮助开发者和企业高效地构建和管理大规模系统。该工具的主要优点包括高度的可扩展性、优化的性能和易于集成的特性。它适用于需要处理复杂数据和大规模计算任务的场景，如人工智能、机器学习和大数据处理。产品目前以开源的形式提供，适合各种规模的企业和开发者使用。

大规模深度循环语言模型的预训练代码，支持在4096个AMD GPU上运行。

该产品是一个用于大规模深度循环语言模型的预训练代码库，基于Python开发。它在AMD GPU架构上进行了优化，能够在4096个AMD GPU上高效运行。该技术的核心优势在于其深度循环架构，能够有效提升模型的推理能力和效率。它主要用于研究和开发高性能的自然语言处理模型，特别是在需要大规模计算资源的场景中。该代码库开源且基于Apache-2.0许可证，适合学术研究和工业应用。

腾讯AI开放平台,开发者打造AI产品加速器

腾讯AI开放平台整合腾讯在AI技术、云计算、大数据等方面的优势资源,提供包括语音、视觉、NLP在内的各类领先AI技术能力,以及一站式机器学习平台、行业解决方案,帮助开发者快速孵化AI创意,让AI落地更多场景,实现从技术到产品的全面赋能。

Tülu 3 405B 是一个大规模开源语言模型，通过强化学习提升性能。

Tülu 3 405B 是由 Allen Institute for AI 开发的开源语言模型，具有 4050 亿参数。该模型通过创新的强化学习框架（RLVR）提升性能，尤其在数学和指令跟随任务中表现出色。它基于 Llama-405B 模型进行优化，采用监督微调、偏好优化等技术。Tülu 3 405B 的开源性质使其成为研究和开发领域的强大工具，适用于需要高性能语言模型的各种应用场景。

一键生成多语言翻译的项目工具，由Azure AI服务支持。

Co-op Translator是一个Python包，旨在使用Azure AI服务自动化您的项目中的多语言翻译。该项目通过集成先进的大型语言模型（LLM）技术和Azure AI服务，简化了将内容翻译成多种语言的过程，使开发者能够轻松地生成组织良好的翻译文件夹，并轻松翻译Markdown文件和图像。

Gemma 2B模型，支持10M序列长度，优化内存使用，适用于大规模语言模型应用。

Gemma 2B - 10M Context是一个大规模的语言模型，它通过创新的注意力机制优化，能够在内存使用低于32GB的情况下处理长达10M的序列。该模型采用了循环局部注意力技术，灵感来源于Transformer-XL论文，是处理大规模语言任务的强大工具。

AI卡路里计算器 | 食物识别

AI卡路里计算器使用AI技术识别食物图像，并生成卡路里统计数据，帮助您更好地管理饮食健康。该计算器完全免费使用，可以估算食物的卡路里含量，适用于各类用户。

AI 文本摘要器 HIX Summarizer 可即时总结文章。

HIX 总结器是一个 AI 文本摘要器，能够将冗长复杂的内容转变为简短摘要，节省时间，提高效率。其主要优点在于快速、精准地总结文章、文档和 YouTube 视频，适用于快速获取信息的生产力工具。

大规模位置分析平台

xyzt.ai是一个强大的大规模位置分析平台，帮助您查看和理解位置数据。它可以处理数据的摄入、压缩、存储、分析和可视化。您可以轻松连接数据、定义感兴趣的区域和时间段、通过可视化分析洞察力、共享报告等。它提供即时分析、无缝洞察、可视化报告和AI驱动的工作流程等优势。xyzt.ai提供可扩展、稳定和安全的技术，支持流式摄入、高效压缩、快速汇总和基于机器学习和人工智能的分析。