一款高质量的英语自动语音识别模型,支持标点符号和时间戳预测。
parakeet-tdt-0.6b-v2 是一个 600 百万参数的自动语音识别(ASR)模型,旨在实现高质量的英语转录,具有准确的时间戳预测和自动标点符号、大小写支持。该模型基于 FastConformer 架构,能够高效地处理长达 24 分钟的音频片段,适合开发者、研究人员和各行业应用。
NVIDIA Project DIGITS 是一款桌面超级计算机,专为 AI 开发者设计,提供强大的 AI 性能。
NVIDIA Project DIGITS 是一款基于 NVIDIA GB10 Grace Blackwell 超级芯片的桌面超级计算机,旨在为 AI 开发者提供强大的 AI 性能。它能够在功耗高效、紧凑的形态中提供每秒一千万亿次的 AI 性能。该产品预装了 NVIDIA AI 软件栈,并配备了 128GB 的内存,使开发者能够在本地原型设计、微调和推理高达 2000 亿参数的大型 AI 模型,并无缝部署到数据中心或云中。Project DIGITS 的推出标志着 NVIDIA 在推动 AI 开发和创新方面的又一重要里程碑,为开发者提供了一个强大的工具,以加速 AI 模型的开发和部署。
NVIDIA GPU上加速LLM推理的创新技术
ReDrafter是一种新颖的推测性解码方法,通过结合RNN草稿模型和动态树注意力机制,显著提高了大型语言模型(LLM)在NVIDIA GPU上的推理速度。这项技术通过加速LLM的token生成,减少了用户可能经历的延迟,同时减少了GPU的使用和能源消耗。ReDrafter由Apple机器学习研究团队开发,并与NVIDIA合作集成到NVIDIA TensorRT-LLM推理加速框架中,为使用NVIDIA GPU的机器学习开发者提供了更快的token生成能力。
NVIDIA推出的最经济的生成型AI超级计算机
NVIDIA Jetson Orin Nano Super Developer Kit是一款紧凑型生成型AI超级计算机,提供了更高的性能和更低的价格。它支持从商业AI开发者到业余爱好者和学生的广泛用户群体,提供了1.7倍的生成型AI推理性能提升,67 INT8 TOPS的性能提升,以及102GB/s的内存带宽提升。这款产品是开发基于检索增强生成的LLM聊天机器人、构建视觉AI代理或部署基于AI的机器人的理想选择。
高效率、高分辨率的文本到图像生成框架
Sana是一个由NVIDIA开发的文本到图像的生成框架,能够高效生成高达4096×4096分辨率的图像。Sana以其快速的速度和强大的文本图像对齐能力,可以在笔记本电脑GPU上部署,代表了图像生成技术的一个重要进步。该模型基于线性扩散变换器,使用预训练的文本编码器和空间压缩的潜在特征编码器,能够根据文本提示生成和修改图像。Sana的开源代码可在GitHub上找到,其研究和应用前景广阔,尤其在艺术创作、教育工具和模型研究等方面。
高分辨率、高效率的文本到图像生成框架
Sana是一个由NVIDIA开发的文本到图像生成框架,能够高效生成高达4096×4096分辨率的图像。Sana以其快速的速度和强大的文本图像对齐能力,使得在笔记本电脑GPU上也能部署。它是一个基于线性扩散变换器(text-to-image generative model)的模型,拥有1648M参数,专门用于生成1024px基础的多尺度高宽图像。Sana模型的主要优点包括高分辨率图像生成、快速的合成速度以及强大的文本图像对齐能力。Sana模型的背景信息显示,它是基于开源代码开发的,可以在GitHub上找到源代码,同时它也遵循特定的许可证(CC BY-NC-SA 4.0 License)。
高分辨率、多语言支持的文本到图像生成模型
Sana是一个由NVIDIA开发的文本到图像的框架,能够高效生成高达4096×4096分辨率的图像。该模型以惊人的速度合成高分辨率、高质量的图像,并保持强大的文本-图像对齐能力,可部署在笔记本电脑GPU上。Sana模型基于线性扩散变换器,使用预训练的文本编码器和空间压缩的潜在特征编码器,支持Emoji、中文和英文以及混合提示。
高分辨率、多语言文本到图像生成模型
Sana是一个由NVIDIA开发的文本到图像的框架,能够高效生成高达4096×4096分辨率的图像。Sana能够以极快的速度合成高分辨率、高质量的图像,并且具有强烈的文本-图像对齐能力,可以在笔记本电脑GPU上部署。该模型基于线性扩散变换器,使用固定预训练的文本编码器和空间压缩的潜在特征编码器,支持英文、中文和表情符号混合提示。Sana的主要优点包括高效率、高分辨率图像生成能力以及多语言支持。
高分辨率、高效率的文本到图像生成框架
Sana是一个由NVIDIA开发的文本到图像生成框架,能够高效生成高达4096×4096分辨率的高清晰度、高文本-图像一致性的图像,并且速度极快,可以在笔记本电脑GPU上部署。Sana模型基于线性扩散变换器,使用预训练的文本编码器和空间压缩的潜在特征编码器。该技术的重要性在于其能够快速生成高质量的图像,对于艺术创作、设计和其他创意领域具有革命性的影响。Sana模型遵循CC BY-NC-SA 4.0许可协议,源代码可在GitHub上找到。
高分辨率、高效率的文本到图像生成框架
Sana是一个由NVIDIA开发的文本到图像的生成框架,能够高效生成高达4096×4096分辨率的图像。Sana以其快速的速度、强大的文本图像对齐能力以及可在笔记本电脑GPU上部署的特性而著称。该模型基于线性扩散变换器,使用预训练的文本编码器和空间压缩的潜在特征编码器,代表了文本到图像生成技术的最新进展。Sana的主要优点包括高分辨率图像生成、快速合成、笔记本电脑GPU上的可部署性,以及开源的代码,使其在研究和实际应用中具有重要价值。
高分辨率图像合成的线性扩散变换器
Sana-1.6B是一个高效的高分辨率图像合成模型,它基于线性扩散变换器技术,能够生成高质量的图像。该模型由NVIDIA实验室开发,使用DC-AE技术,具有32倍的潜在空间,能够在多个GPU上运行,提供强大的图像生成能力。Sana-1.6B以其高效的图像合成能力和高质量的输出结果而闻名,是图像合成领域的重要技术。
高效长序列大型语言模型推理技术
Star-Attention是NVIDIA提出的一种新型块稀疏注意力机制,旨在提高基于Transformer的大型语言模型(LLM)在长序列上的推理效率。该技术通过两个阶段的操作显著提高了推理速度,同时保持了95-100%的准确率。它与大多数基于Transformer的LLM兼容,无需额外训练或微调即可直接使用,并且可以与其他优化方法如Flash Attention和KV缓存压缩技术结合使用,进一步提升性能。
全球最灵活的声音机器
Fugatto(全称Foundational Generative Audio Transformer Opus 1)是由NVIDIA推出的一款生成式AI声音模型,能够通过文本和音频输入生成或转换任何描述的音乐、声音和语音组合。这款模型不仅能够根据文本提示创作音乐片段,还能从现有歌曲中添加或移除乐器,改变语音的口音或情感,甚至让人们创造出前所未有的声音。Fugatto的推出标志着音频合成和转换领域的一大进步,它不仅能够理解并生成声音,还具备多种音频生成和转换任务的能力,展现出了从其训练能力中涌现的新属性。
NVIDIA H200 NVL GPU,为AI和HPC应用加速
NVIDIA H200 NVL PCIe GPU是基于NVIDIA Hopper架构的最新产品,专为低功耗、风冷企业机架设计,提供灵活的配置以加速各种规模的AI和高性能计算(HPC)工作负载。H200 NVL拥有比NVIDIA H100 NVL更高的内存和带宽,能够更快地微调大型语言模型(llm),并提供高达1.7倍的推理性能提升。此外,H200 NVL还支持NVIDIA NVLink技术,实现GPU间通信速度比第五代PCIe快7倍,满足HPC、大型语言模型推理和微调的需求。H200 NVL还附带了强大的软件工具,包括NVIDIA AI Enterprise,这是一个云原生软件平台,用于开发和部署生产AI。
利用NVIDIA AI构建视频搜索和摘要代理
NVIDIA AI Blueprint for Video Search and Summarization是一个基于NVIDIA NIM微服务和生成式AI模型的参考工作流程,用于构建能够理解自然语言提示并执行视觉问题回答的视觉AI代理。这些代理可以部署在工厂、仓库、零售店、机场、交通路口等多种场景中,帮助运营团队从自然交互中生成的丰富洞察中做出更好的决策。
由NVIDIA定制的大型语言模型,提升查询回答的帮助性。
Llama-3.1-Nemotron-70B-Instruct是NVIDIA定制的大型语言模型,专注于提升大型语言模型(LLM)生成回答的帮助性。该模型在多个自动对齐基准测试中表现优异,例如Arena Hard、AlpacaEval 2 LC和GPT-4-Turbo MT-Bench。它通过使用RLHF(特别是REINFORCE算法)、Llama-3.1-Nemotron-70B-Reward和HelpSteer2-Preference提示在Llama-3.1-70B-Instruct模型上进行训练。此模型不仅展示了NVIDIA在提升通用领域指令遵循帮助性方面的技术,还提供了与HuggingFace Transformers代码库兼容的模型转换格式,并可通过NVIDIA的build平台进行免费托管推理。
高效准确的AI语言模型
Llama-3.1-Nemotron-51B是由NVIDIA基于Meta的Llama-3.1-70B开发的新型语言模型,通过神经架构搜索(NAS)技术优化,实现了高准确率和高效率。该模型能够在单个NVIDIA H100 GPU上运行,显著降低了内存占用,减少了内存带宽和计算量,同时保持了优秀的准确性。它代表了AI语言模型在准确性和效率之间取得的新平衡,为开发者和企业提供了成本可控的高性能AI解决方案。
小型语言模型,提供高准确度的AI能力。
Mistral-NeMo-Minitron 8B是由NVIDIA发布的小型语言模型,它是Mistral NeMo 12B模型的精简版,能够在保持高准确度的同时,提供计算效率,使其能够在GPU加速的数据中心、云和工作站上运行。该模型通过NVIDIA NeMo平台进行定制开发,结合了剪枝和蒸馏两种AI优化方法,以降低计算成本的同时提供与原始模型相当的准确度。
© 2025 AIbase 备案号:闽ICP备08105208号-14