需求人群:
"目标受众为研究人员和开发者,特别是那些需要对大型多模态模型进行微调以适应特定任务或数据集的用户。lmms-finetune提供了一个简单、灵活且易于扩展的平台,使得用户可以专注于模型微调和实验,而无需过多关注底层实现细节。"
使用场景示例:
研究人员使用lmms-finetune对LLaVA-1.5进行微调,以提高在特定视频内容分析任务上的性能。
开发者利用该代码库将Phi-3-Vision模型微调到新的图像识别任务中。
教育机构采用lmms-finetune进行教学,帮助学生理解大型多模态模型的微调过程和应用。
产品特色:
提供统一结构的微调框架,简化集成和微调过程
支持全微调、lora、q-lora等多种微调策略
保持代码库的简洁性,便于理解和修改
支持多种类型的LMMs,包括单图像模型、多图像/交错图像模型和视频模型
提供详细的文档和示例,帮助用户快速上手
灵活的代码库,支持自定义和快速实验
使用教程:
克隆代码库到本地环境:`git clone https://github.com/zjysteven/lmms-finetune.git`
设置conda环境并激活:`conda create -n lmms-finetune python=3.10 -y` 后 `conda activate lmms-finetune`
安装依赖:`python -m pip install -r requirements.txt`
根据需要安装额外的库,如flash attention:`python -m pip install --no-cache-dir --no-build-isolation flash-attn`
查看支持的模型列表或运行 `python supported_models.py` 来获取支持的模型信息
根据示例或文档修改训练脚本 `example.sh`,设置目标模型、数据路径等参数
运行训练脚本:`bash example.sh` 开始微调过程
浏览量:10
最新流量情况
月访问量
5.00m
平均访问时长
00:06:52
每次访问页数
5.82
跳出率
37.31%
流量来源
直接访问
52.65%
自然搜索
32.08%
邮件
0.05%
外链引荐
12.79%
社交媒体
2.25%
展示广告
0
截止目前所有流量趋势图
地理流量分布情况
美国
18.50%
中国
13.49%
印度
9.70%
俄罗斯
3.96%
德国
3.62%
统一的代码库,用于微调大型多模态模型
lmms-finetune是一个统一的代码库,旨在简化大型多模态模型(LMMs)的微调过程。它提供了一个结构化的框架,允许用户轻松集成最新的LMMs并进行微调,支持全微调和lora等策略。代码库设计简单轻量,易于理解和修改,支持包括LLaVA-1.5、Phi-3-Vision、Qwen-VL-Chat、LLaVA-NeXT-Interleave和LLaVA-NeXT-Video等多种模型。
一站式数据处理系统,为大型语言模型提供高质量数据。
Data-Juicer 是一个一站式的多模态数据处理系统,旨在为大型语言模型(LLMs)提供更高质量、更丰富、更易消化的数据。它提供了一个系统化和可复用的数据处理库,支持数据与模型的协同开发,通过沙盒实验室实现快速迭代,并提供基于数据和模型的反馈循环、可视化和多维度自动评估等功能,帮助用户更好地理解和改进他们的数据和模型。Data-Juicer 正在积极更新和维护,定期增强和添加更多功能、数据配方和数据集。
开源多模态大型语言模型,支持实时语音输入和流式音频输出。
Mini-Omni是一个开源的多模态大型语言模型,能够实现实时的语音输入和流式音频输出的对话能力。它具备实时语音到语音的对话功能,无需额外的ASR或TTS模型。此外,它还可以在思考的同时进行语音输出,支持文本和音频的同时生成。Mini-Omni通过'Audio-to-Text'和'Audio-to-Audio'的批量推理进一步增强性能。
全能型智能助手,满足多样化应用需求。
IMYAI智能助手是一款集成了多种智能功能的在线服务平台,旨在为用户提供聊天对话、文本处理、专业绘画、音乐创作、视频创作等多元化服务。它结合了先进的人工智能技术,通过对话词库、绘画词库等资源,能够满足不同用户在不同场景下的应用需求。
统一多模态理解和生成的单一变换器
Show-o是一个用于多模态理解和生成的单一变换器模型,它能够处理图像字幕、视觉问答、文本到图像生成、文本引导的修复和扩展以及混合模态生成。该模型由新加坡国立大学的Show Lab和字节跳动共同开发,采用最新的深度学习技术,能够理解和生成多种模态的数据,是人工智能领域的一大突破。
多模态大型语言模型,理解长图像序列。
mPLUG-Owl3是一个多模态大型语言模型,专注于长图像序列的理解。它能够从检索系统中学习知识,与用户进行图文交替对话,并观看长视频,记住其细节。模型的源代码和权重已在HuggingFace上发布,适用于视觉问答、多模态基准测试和视频基准测试等场景。
先进的多模态模型,支持图像和文本理解。
Phi-3.5-vision是微软开发的轻量级、最新一代的多模态模型,基于包括合成数据和经过筛选的公开可用网站在内的数据集构建,专注于文本和视觉的高质量、密集推理数据。该模型属于Phi-3模型家族,经过严格的增强过程,结合了监督微调和直接偏好优化,以确保精确的指令遵循和强大的安全措施。
轻量级、多语言的先进文本生成模型
Phi-3.5-mini-instruct 是微软基于高质量数据构建的轻量级、多语言的先进文本生成模型。它专注于提供高质量的推理密集型数据,支持128K的token上下文长度,经过严格的增强过程,包括监督式微调、近端策略优化和直接偏好优化,确保精确的指令遵循和强大的安全措施。
多模态视觉任务的高效转换模型
LLaVA-OneVision是一款由字节跳动公司与多所大学合作开发的多模态大型模型(LMMs),它在单图像、多图像和视频场景中推动了开放大型多模态模型的性能边界。该模型的设计允许在不同模态/场景之间进行强大的迁移学习,展现出新的综合能力,特别是在视频理解和跨场景能力方面,通过图像到视频的任务转换进行了演示。
大规模多模态医学数据集
MedTrinity-25M是一个大规模多模态数据集,包含多粒度的医学注释。它由多位作者共同开发,旨在推动医学图像和文本处理领域的研究。数据集的构建包括数据提取、多粒度文本描述生成等步骤,支持多种医学图像分析任务,如视觉问答(VQA)、病理学图像分析等。
一个用于增强LLMs检索增强生成任务的框架
RAGFoundry是一个库,旨在通过在特别创建的RAG增强数据集上微调模型,提高大型语言模型(LLMs)使用外部信息的能力。该库通过参数高效微调(PEFT)帮助用户轻松训练模型,并使用RAG特定指标衡量性能提升。它具有模块化设计,工作流程可通过配置文件自定义。
多模态自回归模型,擅长文本生成图像
Lumina-mGPT是一个多模态自回归模型家族,能够执行各种视觉和语言任务,特别是在从文本描述生成灵活的逼真图像方面表现突出。该模型基于xllmx模块实现,支持以LLM为中心的多模态任务,适用于深度探索和快速熟悉模型能力。
高性能多模态语言模型,适用于图像和视频理解。
MiniCPM-V 2.6是一个基于8亿参数的多模态大型语言模型,它在单图像理解、多图像理解和视频理解等多个领域展现出领先性能。该模型在OpenCompass等多个流行基准测试中取得了平均65.2分的高分,超越了广泛使用的专有模型。它还具备强大的OCR能力,支持多语言,并在效率上表现出色,能够在iPad等终端设备上实现实时视频理解。
AI智能代理的微调平台
Finetune是一个面向开发者的AI智能代理微调平台,它通过创建反映客户特征的合成用户,让开发者的智能代理在模拟环境中进行测试和学习。平台提供会话报告和加权执行图,帮助开发者了解代理的性能并进行优化。此外,Finetune支持多种流行的AI模型和框架,使得集成和部署过程更加便捷。
自然语言编程,快速构建AI应用
Wordware是一个集成了自然语言编程(NLP)的在线开发环境,它允许用户通过自然语言指令来开发、迭代和部署AI代理。Wordware结合了软件的最佳特性和自然语言的强大能力,摆脱了传统无代码工具的限制,使得每个团队成员都能独立地进行迭代。它提供了一个类似Notion的界面,简单灵活,支持团队协作、管理提示(prompts)和工作流程。Wordware还具备高级技术能力,如循环、分支、结构化生成、版本控制和类型安全,同时支持自定义代码执行,连接到任何API。此外,Wordware支持多种大型语言模型(LLM)提供商,一键切换,优化工作流程。
高性能多模态AI模型
Gemini Pro是DeepMind推出的一款高性能多模态AI模型,专为广泛的任务设计,具有高达两百万token的长上下文窗口,能够处理大规模文档、代码、音频和视频等。它在多个基准测试中表现出色,包括代码生成、数学问题解决和多语言翻译等。
一万亿Token和34亿张图像的多模态数据集
MINT-1T是由Salesforce AI开源的多模态数据集,包含一万亿个文本标记和34亿张图像,规模是现有开源数据集的10倍。它不仅包含HTML文档,还包括PDF文档和ArXiv论文,丰富了数据集的多样性。MINT-1T的数据集构建涉及多种来源的数据收集、处理和过滤步骤,确保了数据的高质量和多样性。
由实践者主导的LLMs公开课
Mastering LLMs 是一个由25多位行业资深人士主讲的免费课程,涵盖了评估、检索增强生成(RAG)、微调等主题。课程内容由信息检索、机器学习、推荐系统、MLOps和数据科学等领域的专家提供,旨在将这些领域的先前技术应用于LLMs,为用户提供有意义的优势。课程面向需要指导如何改进AI产品的技术IC(包括工程师和数据科学家)。
多语言对话生成模型
Meta Llama 3.1是一系列预训练和指令调整的多语言大型语言模型(LLMs),支持8种语言,专为对话使用案例优化,并通过监督式微调(SFT)和人类反馈的强化学习(RLHF)来提高安全性和有用性。
70亿参数的大型多语言文本生成模型
Meta Llama 3.1是Meta公司推出的大型语言模型,拥有70亿个参数,支持8种语言的文本生成。该模型采用优化的Transformer架构,并通过监督式微调和人类反馈强化学习进一步优化,以符合人类对帮助性和安全性的偏好。模型在多语言对话使用案例中表现优异,超越了许多现有的开源和封闭聊天模型。
70B参数量的大型语言模型,专为工具使用优化
Llama-3-70B-Tool-Use是一种70B参数量的大型语言模型,专为高级工具使用和功能调用任务设计。该模型在Berkeley功能调用排行榜(BFCL)上的总体准确率达到90.76%,表现优于所有开源的70B语言模型。该模型优化了变换器架构,并通过完整的微调和直接偏好优化(DPO)在Llama 3 70B基础模型上进行了训练。输入为文本,输出为文本,增强了工具使用和功能调用的能力。尽管其主要用途是工具使用和功能调用,但在一般知识或开放式任务中,可能更适用通用语言模型。该模型可能在某些情况下产生不准确或有偏见的内容,用户应注意实现适合其特定用例的适当安全措施。该模型对温度和top_p采样配置非常敏感。
多模态长篇故事生成模型
SEED-Story是一个基于大型语言模型(MLLM)的多模态长篇故事生成模型,能够根据用户提供的图片和文本生成丰富、连贯的叙事文本和风格一致的图片。它代表了人工智能在创意写作和视觉艺术领域的前沿技术,具有生成高质量、多模态故事内容的能力,为创意产业提供了新的可能性。
大型多模态模型,处理多图像、视频和3D数据。
LLaVA-NeXT是一个大型多模态模型,它通过统一的交错数据格式处理多图像、视频、3D和单图像数据,展示了在不同视觉数据模态上的联合训练能力。该模型在多图像基准测试中取得了领先的结果,并在不同场景中通过适当的数据混合提高了之前单独任务的性能或保持了性能。
与私有自托管语言模型对话的iOS/macOS应用
Enchanted是一个开源的、兼容Ollama的macOS/iOS/visionOS应用,它允许用户与私有自托管的语言模型如Llama 2、Mistral、Vicuna等进行对话。它基本上是一个连接到私有模型的ChatGPT应用界面。Enchanted的目标是提供一个产品,允许在iOS生态系统(macOS、iOS、Watch、Vision Pro)的所有设备上提供无过滤、安全、私密和多模态的体验。
高等数学问题的智能解答助手
AMchat是一个集成了数学知识和高等数学习题及其解答的大语言模型。它基于InternLM2-Math-7B模型,通过xtuner微调,专门设计用于解答高等数学问题。该项目在2024浦源大模型系列挑战赛(春季赛)中获得Top12和创新创意奖,体现了其在高等数学领域的专业能力和创新性。
心理健康大模型,支持心理健康辅导链路。
EmoLLM是一个心理健康大模型,由LLM指令微调而来,旨在全面理解和促进个体、群体乃至整个社会的心理健康状态。它包含认知因素、情感因素、行为因素、社会环境、生理健康、心理韧性、预防和干预措施、评估和诊断工具等多个关键组成部分。EmoLLM通过微调配置,能够在心理咨询任务上提供支持,帮助用户更好地理解和应对心理问题。
多模态智能代理框架,解决复杂任务
OmAgent是一个复杂的多模态智能代理系统,致力于利用多模态大型语言模型和其他多模态算法来完成引人入胜的任务。该项目包括一个轻量级的智能代理框架omagent_core,精心设计以应对多模态挑战。OmAgent由三个核心组件构成:Video2RAG、DnCLoop和Rewinder Tool,分别负责长视频理解、复杂问题分解和信息回溯。
定制化大型语言模型的专业微调工具
Expert Specialized Fine-Tuning (ESFT) 是一种针对具有专家混合(MoE)架构的大型语言模型(LLMs)的高效定制化微调方法。它通过仅调整与任务相关的部分来优化模型性能,提高效率,同时减少资源和存储的使用。
© 2024 AIbase 备案号:闽ICP备08105208号-14