需求人群:
"LLaMA-Omni模型适合语音识别、语音合成和自然语言处理领域的研究人员和开发者。它可以帮助他们构建低延迟、高质量的语音交互系统,推动智能语音助手和相关应用的发展。"
使用场景示例:
用于开发智能语音助手,提供流畅的语音对话体验。
集成到智能家居系统中,实现语音控制家居设备。
应用于客服机器人,提供快速准确的语音服务。
产品特色:
基于Llama-3.1-8B-Instruct构建,确保高质量响应。
低延迟语音交互,延迟低至226毫秒。
同时生成文本和语音响应。
在不到3天的时间内使用4个GPU完成训练。
支持Gradio演示,方便用户交互体验。
提供本地推理脚本,方便用户进行本地测试。
使用教程:
克隆LLaMA-Omni仓库到本地。
进入LLaMA-Omni目录并安装所需的包。
安装fairseq和flash-attention。
下载Llama-3.1-8B-Omni模型和Whisper-large-v3模型。
下载基于单元的HiFi-GAN声码器。
启动Gradio演示,访问本地服务器进行交互。
对于本地推理,按照omni_speech/infer/examples目录中的格式组织语音指令文件,然后参考提供的脚本进行操作。
浏览量:15
最新流量情况
月访问量
5.04m
平均访问时长
00:06:44
每次访问页数
5.72
跳出率
37.31%
流量来源
直接访问
52.46%
自然搜索
32.55%
邮件
0.05%
外链引荐
12.51%
社交媒体
2.27%
展示广告
0
截止目前所有流量趋势图
地理流量分布情况
中国
13.03%
德国
3.56%
印度
9.44%
俄罗斯
5.59%
美国
18.14%
低延迟、高质量的端到端语音交互模型
LLaMA-Omni是一个基于Llama-3.1-8B-Instruct构建的低延迟、高质量的端到端语音交互模型,旨在实现GPT-4o级别的语音能力。该模型支持低延迟的语音交互,能够同时生成文本和语音响应。它在不到3天的时间内使用仅4个GPU完成训练,展示了其高效的训练能力。
微软轻量级、先进的多模态模型,专注于文本和视觉的高质量推理密集数据。
Phi-3 Vision是一个轻量级、最先进的开放多模态模型,基于包括合成数据和经过筛选的公开可用网站在内的数据集构建,专注于文本和视觉的非常高质量的推理密集数据。该模型属于Phi-3模型家族,多模态版本支持128K上下文长度(以token计),经过严格的增强过程,结合了监督微调和直接偏好优化,以确保精确的指令遵循和强大的安全措施。
多模态12B参数模型,结合视觉编码器处理图像和文本。
Pixtral-12B-2409是由Mistral AI团队开发的多模态模型,包含12B参数的多模态解码器和400M参数的视觉编码器。该模型在多模态任务中表现出色,支持不同尺寸的图像,并在文本基准测试中保持最前沿的性能。它适用于需要处理图像和文本数据的高级应用,如图像描述生成、视觉问答等。
首个多模态 Mistral 模型,支持图像和文本的混合任务处理。
Pixtral 12B 是 Mistral AI 团队开发的一款多模态 AI 模型,它能够理解自然图像和文档,具备出色的多模态任务处理能力,同时在文本基准测试中也保持了最先进的性能。该模型支持多种图像尺寸和宽高比,能够在长上下文窗口中处理任意数量的图像,是 Mistral Nemo 12B 的升级版,专为多模态推理而设计,不牺牲关键文本处理能力。
几行代码接入大模型
智谱AI大模型开放平台是一个提供多种AI模型服务的平台,支持开发者和企业快速接入大模型API,构建变革性AI体验。平台提供GLM-4系列大模型,包括免费模型GLM-4-Flash、全自研最新版本GLM-4-Plus、支持200万上下文的GLM-4-Long等。此外,还提供多模态大模型,如视觉能力GLM-4V-Plus、文生图CogView-3-Plus、文生视频CogVideoX。平台面向开发者提供模型API、Alltools API、批处理API等服务,面向企业服务提供医疗健康、汽车、游戏娱乐、文旅、智能终端、智能制造、消费等行业解决方案。
多模态大型语言模型,支持图像和文本理解。
Pixtral-12b-240910是由Mistral AI团队发布的多模态大型语言模型,它能够处理和理解图像以及文本信息。该模型采用了先进的神经网络架构,能够通过图像和文本的结合输入,提供更加丰富和准确的输出结果。它在图像识别、自然语言处理和多模态交互方面展现出卓越的性能,对于需要图像和文本同时处理的应用场景具有重要意义。
轻量级语言模型编程库,将提示视为函数。
ell是一个轻量级的语言模型编程库,它将提示视为函数,而不是简单的字符串。ell的设计基于在OpenAI和创业生态系统中多年构建和使用语言模型的经验。它提供了一种全新的编程方式,允许开发者通过定义函数来生成发送给语言模型的字符串提示或消息列表。这种封装方式为用户创建了一个清晰的接口,用户只需关注LMP所需的数据。ell还提供了丰富的工具,支持监控、版本控制和可视化,使得提示工程从一门黑艺术转变为一门科学。
轻量级端到端文本到语音模型
OptiSpeech是一个高效、轻量级且快速的文本到语音模型,专为设备端文本到语音转换设计。它利用了先进的深度学习技术,能够将文本转换为自然听起来的语音,适合需要在移动设备或嵌入式系统中实现语音合成的应用。OptiSpeech的开发得到了Pneuma Solutions提供的GPU资源支持,显著加速了开发进程。
情商智商俱佳的多模态大模型
西湖大模型是心辰智能云推出的一款具有高情商和智商的多模态大模型,它能够处理包括文本、图像、声音等多种数据类型,为用户提供智能对话、写作、绘画、语音等AI服务。该模型通过先进的人工智能算法,能够理解和生成自然语言,适用于多种场景,如心理咨询、内容创作、客户服务等,具有高度的定制性和灵活性。西湖大模型的推出,标志着心辰智能云在AI领域的技术实力和创新能力,为用户提供了更加丰富和高效的智能服务体验。
端到端音频驱动的人体动画框架
CyberHost是一个端到端音频驱动的人体动画框架,通过区域码本注意力机制,实现了手部完整性、身份一致性和自然运动的生成。该模型利用双U-Net架构作为基础结构,并通过运动帧策略进行时间延续,为音频驱动的人体动画建立了基线。CyberHost通过一系列以人为先导的训练策略,包括身体运动图、手部清晰度评分、姿势对齐的参考特征和局部增强监督,提高了合成结果的质量。CyberHost是首个能够在人体范围内实现零样本视频生成的音频驱动人体扩散模型。
百度旗下新搜索智能助手,提供AI搜索与创作服务。
文小言是百度推出的一款基于文心大模型的智能搜索助手APP,它通过AI技术为用户提供搜索、创作、聊天等多种服务。该产品通过记忆用户喜好和需求,提供个性化的搜索结果和创作建议,同时支持语音和拍照输入,使得用户能够更加便捷地获取信息和创作内容。
开源多模态大型语言模型,支持实时语音输入和流式音频输出。
Mini-Omni是一个开源的多模态大型语言模型,能够实现实时的语音输入和流式音频输出的对话能力。它具备实时语音到语音的对话功能,无需额外的ASR或TTS模型。此外,它还可以在思考的同时进行语音输出,支持文本和音频的同时生成。Mini-Omni通过'Audio-to-Text'和'Audio-to-Audio'的批量推理进一步增强性能。
全能型智能助手,满足多样化应用需求。
IMYAI智能助手是一款集成了多种智能功能的在线服务平台,旨在为用户提供聊天对话、文本处理、专业绘画、音乐创作、视频创作等多元化服务。它结合了先进的人工智能技术,通过对话词库、绘画词库等资源,能够满足不同用户在不同场景下的应用需求。
统一多模态理解和生成的单一变换器
Show-o是一个用于多模态理解和生成的单一变换器模型,它能够处理图像字幕、视觉问答、文本到图像生成、文本引导的修复和扩展以及混合模态生成。该模型由新加坡国立大学的Show Lab和字节跳动共同开发,采用最新的深度学习技术,能够理解和生成多种模态的数据,是人工智能领域的一大突破。
多模态大型语言模型,理解长图像序列。
mPLUG-Owl3是一个多模态大型语言模型,专注于长图像序列的理解。它能够从检索系统中学习知识,与用户进行图文交替对话,并观看长视频,记住其细节。模型的源代码和权重已在HuggingFace上发布,适用于视觉问答、多模态基准测试和视频基准测试等场景。
先进的多模态模型,支持图像和文本理解。
Phi-3.5-vision是微软开发的轻量级、最新一代的多模态模型,基于包括合成数据和经过筛选的公开可用网站在内的数据集构建,专注于文本和视觉的高质量、密集推理数据。该模型属于Phi-3模型家族,经过严格的增强过程,结合了监督微调和直接偏好优化,以确保精确的指令遵循和强大的安全措施。
与任何大型语言模型进行快速的免提语音交互。
Open-LLM-VTuber 是一个开源项目,旨在通过语音与大型语言模型(LLM)进行交互,具有实时的Live2D面部捕捉和跨平台的长期记忆功能。该项目支持macOS、Windows和Linux平台,允许用户选择不同的语音识别和语音合成后端,以及自定义的长期记忆解决方案。它特别适合希望在不同平台上实现与AI进行自然语言对话的开发者和爱好者。
数字孪生视频对话平台
Tavus Conversational Video Interface (CVI) 是一个创新的视频对话平台,它通过数字孪生技术提供面对面的互动体验。该平台具备低延迟(少于一秒)的即时响应能力,结合先进的语音识别、视觉处理和对话意识,为用户提供丰富、自然的对话体验。平台易于部署和扩展,支持自定义LLM或TTS,适用于多种行业和场景。
基于AI的智能助手App,提供个性化对话体验。
飞船App是一款基于人工智能技术的智能助手应用,专为移动端设计。它通过自然语言对话,提供有趣、有料、有用的交互体验,满足用户在娱乐、效率等方面的需求。产品支持文字与语音输入,提供多音色的TTS选择,使交互更自然、亲切。
多模态视觉任务的高效转换模型
LLaVA-OneVision是一款由字节跳动公司与多所大学合作开发的多模态大型模型(LMMs),它在单图像、多图像和视频场景中推动了开放大型多模态模型的性能边界。该模型的设计允许在不同模态/场景之间进行强大的迁移学习,展现出新的综合能力,特别是在视频理解和跨场景能力方面,通过图像到视频的任务转换进行了演示。
大规模多模态医学数据集
MedTrinity-25M是一个大规模多模态数据集,包含多粒度的医学注释。它由多位作者共同开发,旨在推动医学图像和文本处理领域的研究。数据集的构建包括数据提取、多粒度文本描述生成等步骤,支持多种医学图像分析任务,如视觉问答(VQA)、病理学图像分析等。
多模态自回归模型,擅长文本生成图像
Lumina-mGPT是一个多模态自回归模型家族,能够执行各种视觉和语言任务,特别是在从文本描述生成灵活的逼真图像方面表现突出。该模型基于xllmx模块实现,支持以LLM为中心的多模态任务,适用于深度探索和快速熟悉模型能力。
高性能多模态语言模型,适用于图像和视频理解。
MiniCPM-V 2.6是一个基于8亿参数的多模态大型语言模型,它在单图像理解、多图像理解和视频理解等多个领域展现出领先性能。该模型在OpenCompass等多个流行基准测试中取得了平均65.2分的高分,超越了广泛使用的专有模型。它还具备强大的OCR能力,支持多语言,并在效率上表现出色,能够在iPad等终端设备上实现实时视频理解。
全本地AI语音聊天工具,低延迟,高效率。
voicechat2是一个基于WebSocket的快速、完全本地化的AI语音聊天应用程序,使用户能够在本地环境中实现语音到语音的即时通讯。它利用了AMD RDNA3显卡和Faster Whisper技术,显著降低了语音通讯的延迟,提高了通讯效率。该产品适用于需要快速响应和实时通讯的开发者和技术人员。
自然语言编程,快速构建AI应用
Wordware是一个集成了自然语言编程(NLP)的在线开发环境,它允许用户通过自然语言指令来开发、迭代和部署AI代理。Wordware结合了软件的最佳特性和自然语言的强大能力,摆脱了传统无代码工具的限制,使得每个团队成员都能独立地进行迭代。它提供了一个类似Notion的界面,简单灵活,支持团队协作、管理提示(prompts)和工作流程。Wordware还具备高级技术能力,如循环、分支、结构化生成、版本控制和类型安全,同时支持自定义代码执行,连接到任何API。此外,Wordware支持多种大型语言模型(LLM)提供商,一键切换,优化工作流程。
高性能多模态AI模型
Gemini Pro是DeepMind推出的一款高性能多模态AI模型,专为广泛的任务设计,具有高达两百万token的长上下文窗口,能够处理大规模文档、代码、音频和视频等。它在多个基准测试中表现出色,包括代码生成、数学问题解决和多语言翻译等。
一万亿Token和34亿张图像的多模态数据集
MINT-1T是由Salesforce AI开源的多模态数据集,包含一万亿个文本标记和34亿张图像,规模是现有开源数据集的10倍。它不仅包含HTML文档,还包括PDF文档和ArXiv论文,丰富了数据集的多样性。MINT-1T的数据集构建涉及多种来源的数据收集、处理和过滤步骤,确保了数据的高质量和多样性。
全端到端的类人语音对话模型
SpeechGPT2是由复旦大学计算机科学学院开发的端到端语音对话语言模型,能够感知并表达情感,并根据上下文和人类指令以多种风格提供合适的语音响应。该模型采用超低比特率语音编解码器(750bps),模拟语义和声学信息,并通过多输入多输出语言模型(MIMO-LM)进行初始化。目前,SpeechGPT2还是一个基于轮次的对话系统,正在开发全双工实时版本,并已取得一些有希望的进展。尽管受限于计算和数据资源,SpeechGPT2在语音理解的噪声鲁棒性和语音生成的音质稳定性方面仍有不足,计划未来开源技术报告、代码和模型权重。
统一的代码库,用于微调大型多模态模型
lmms-finetune是一个统一的代码库,旨在简化大型多模态模型(LMMs)的微调过程。它提供了一个结构化的框架,允许用户轻松集成最新的LMMs并进行微调,支持全微调和lora等策略。代码库设计简单轻量,易于理解和修改,支持包括LLaVA-1.5、Phi-3-Vision、Qwen-VL-Chat、LLaVA-NeXT-Interleave和LLaVA-NeXT-Video等多种模型。
使用AI语音表单收集数据
Waveform.ai 是一个利用人工智能技术通过语音表单收集数据的平台。它通过自然语言交互的方式,帮助用户在客户访谈、员工调查、市场研究和潜在客户生成等方面进行数据收集。该平台的主要优点包括:1. 更全面和深入的信息收集:通过AI驱动的调查,能够收集到更全面和有洞察力的数据,从而进行更深入的分析和做出更明智的决策。2. 更高的响应率:通过AI驱动的语音表单与用户进行自然互动,提高调查的响应率和用户满意度。3. 反映品牌身份:可以个性化语音和个性,以反映品牌身份,创造一致且难忘的用户体验。4. 时间和成本效益:与传统的人工数据收集方法相比,节省时间和降低成本,同时保持准确性和可靠性。
© 2024 AIbase 备案号:闽ICP备08105208号-14