需求人群:
"目标受众为研究人员和开发者,特别是那些在视觉推理、多学科理解和数学推理领域寻求先进解决方案的专业人士。QVQ-72B-Preview提供了一个强大的工具,可以帮助他们处理复杂的视觉和文本数据,推动相关领域的研究和应用发展。"
使用场景示例:
- 使用QVQ-72B-Preview模型在MMMU基准测试中进行多学科理解和推理任务。
- 利用模型在MathVision基准测试中处理数学推理任务。
- 在OlympiadBench上应用模型解决具有挑战性的问题。
产品特色:
- 多学科理解和推理:在MMMU基准测试中得分高达70.3%,展现了强大的多学科理解和推理能力。
- 数学推理任务:在MathVision基准测试中取得显著进步,突出了模型在数学推理任务上的能力。
- 挑战性问题解决:在OlympiadBench上的表现也展示了模型解决挑战性问题的能力。
- 单轮对话支持:目前模型仅支持单轮对话和图像输出,不支持视频输入。
- 安全性和伦理考量:需要稳健的安全措施以确保可靠和安全的性能。
- 性能和基准限制:在多步视觉推理中可能会逐渐失去对图像内容的关注,导致幻觉。
- 基本识别任务:在识别人、动物或植物等基本任务上并没有显示出比Qwen2-VL-72B更显著的改进。
使用教程:
1. 安装qwen-vl-utils工具包,以便更便捷地处理各种类型的视觉输入。
2. 使用transformers库加载Qwen2VLForConditionalGeneration模型。
3. 从qwen_vl_utils导入process_vision_info函数来处理视觉信息。
4. 准备输入消息,包括系统角色的消息和用户角色的消息,用户消息中包含图像和文本。
5. 使用processor.apply_chat_template函数准备推理所需的文本。
6. 调用process_vision_info函数处理视觉信息。
7. 将文本和视觉输入传递给processor,准备模型输入。
8. 使用model.generate函数生成输出。
9. 使用processor.batch_decode函数解码生成的ID,获取最终的输出文本。
浏览量:83
最新流量情况
月访问量
25296.55k
平均访问时长
00:04:45
每次访问页数
5.83
跳出率
43.31%
流量来源
直接访问
48.39%
自然搜索
35.85%
邮件
0.03%
外链引荐
12.76%
社交媒体
2.96%
展示广告
0
截止目前所有流量趋势图
地理流量分布情况
中国
13.77%
印度
8.48%
日本
3.85%
俄罗斯
4.86%
美国
17.58%
视觉推理能力增强的实验性研究模型
QVQ-72B-Preview是由Qwen团队开发的实验性研究模型,专注于增强视觉推理能力。该模型在多学科理解和推理方面展现出强大的能力,特别是在数学推理任务上取得了显著的进步。尽管在视觉推理方面取得了进步,但QVQ并不完全取代Qwen2-VL-72B的能力,在多步视觉推理中可能会逐渐失去对图像内容的关注,导致幻觉。此外,QVQ在基本识别任务上并没有显示出比Qwen2-VL-72B更显著的改进。
数学推理LLM
MathCoder是一款基于开源语言模型的数学推理工具,通过fine-tune模型和生成高质量的数据集,实现了自然语言、代码和执行结果的交替,提高了数学推理能力。MathCoder模型在MATH和GSM8K数据集上取得了最新的最高分数,远远超过其他开源替代品。MathCoder模型不仅在GSM8K和MATH上超过了ChatGPT-3.5和PaLM-2,还在竞赛级别的MATH数据集上超过了GPT-4。
双语开源数学推理大型语言模型。
InternLM-Math-Plus 是一个最新的双语(英文和中文)开源大型语言模型(LLM),专注于数学推理,具有解决、证明、验证和增强数学问题的能力。它在非正式数学推理(如思维链和代码解释)和正式数学推理(如LEAN 4翻译和证明)方面都有显著的性能提升。
表格理解中的推理链表
Chain-of-Table是一种表格理解的推理链表框架,专门用于处理基于表格的问答和事实验证等任务。它采用了表格数据作为推理链的一部分,通过在上下文中学习的方式指导大型语言模型进行操作生成和表格更新,从而形成一个连续的推理链,展示了给定表格问题的推理过程。这种推理链包含了中间结果的结构化信息,能够实现更准确可靠的预测。Chain-of-Table在WikiTQ、FeTaQA和TabFact等多个基准测试中取得了新的最先进性能。
小型语言模型用于推理和理解任务
Orca 2 是一个用于研究目的的助手,通过提供单轮响应来帮助推理和理解任务,如数据推理、阅读理解、数学问题解决和文本摘要。该模型特别擅长推理。我们公开发布 Orca 2,以促进在开发、评估和对齐更小的语言模型方面的进一步研究。
7B规模的数学推理和科学发现模型
MathΣtral是一款为数学推理和科学发现而设计的7B规模的AI模型,拥有32k的上下文窗口,发布于Apache 2.0许可下。它在多步复杂逻辑推理的高级数学问题上展现出卓越的性能,是Mistral AI团队为科学界贡献的成果,旨在加强学术项目的支持。MathΣtral在STEM领域具有专业特长,其推理能力在同类规模模型中达到了行业标准基准的前沿水平。
DeepSeek-R1-Distill-Qwen-7B 是一个开源的推理模型,专注于数学、代码和推理任务。
DeepSeek-R1-Distill-Qwen-7B 是一个经过强化学习优化的推理模型,基于 Qwen-7B 进行了蒸馏优化。它在数学、代码和推理任务上表现出色,能够生成高质量的推理链和解决方案。该模型通过大规模强化学习和数据蒸馏技术,显著提升了推理能力和效率,适用于需要复杂推理和逻辑分析的场景。
DeepSeek-V3/R1 推理系统是一个高性能的分布式推理架构,专为大规模 AI 模型优化设计。
DeepSeek-V3/R1 推理系统是 DeepSeek 团队开发的高性能推理架构,旨在优化大规模稀疏模型的推理效率。它通过跨节点专家并行(EP)技术,显著提升 GPU 矩阵计算效率,降低延迟。该系统采用双批量重叠策略和多级负载均衡机制,确保在大规模分布式环境中高效运行。其主要优点包括高吞吐量、低延迟和优化的资源利用率,适用于高性能计算和 AI 推理场景。
视觉语言模型,能够进行逐步推理
LLaVA-o1是北京大学元组团队开发的一个视觉语言模型,它能够进行自发的、系统的推理,类似于GPT-o1。该模型在六个具有挑战性的多模态基准测试中超越了其他模型,包括Gemini-1.5-pro、GPT-4o-mini和Llama-3.2-90B-Vision-Instruct。LLaVA-o1通过逐步推理解决问题,展示了其在视觉语言模型中的独特优势。
多模态大型语言模型,优化视觉识别和图像推理。
Llama-3.2-90B-Vision是Meta公司发布的一款多模态大型语言模型(LLM),专注于视觉识别、图像推理、图片描述和回答有关图片的一般问题。该模型在常见的行业基准测试中超越了许多现有的开源和封闭的多模态模型。
给视觉语言模型赋予空间推理能力
SpatialVLM是一个由谷歌DeepMind开发的视觉语言模型,能够对空间关系进行理解和推理。它通过大规模合成数据的训练,获得了像人类一样直观地进行定量空间推理的能力。这不仅提高了其在空间VQA任务上的表现,还为链式空间推理和机器人控制等下游任务打开了新的可能。
多模态语言模型的视觉推理工具
Visual Sketchpad 是一种为多模态大型语言模型(LLMs)提供视觉草图板和绘图工具的框架。它允许模型在进行规划和推理时,根据自己绘制的视觉工件进行操作。与以往使用文本作为推理步骤的方法不同,Visual Sketchpad 使模型能够使用线条、框、标记等更接近人类绘图方式的元素进行绘图,从而更好地促进推理。此外,它还可以在绘图过程中使用专家视觉模型,例如使用目标检测模型绘制边界框,或使用分割模型绘制掩码,以进一步提高视觉感知和推理能力。
大型语言模型是视觉推理协调器
Cola是一种使用语言模型(LM)来聚合2个或更多视觉-语言模型(VLM)输出的方法。我们的模型组装方法被称为Cola(COordinative LAnguage model or visual reasoning)。Cola在LM微调(称为Cola-FT)时效果最好。Cola在零样本或少样本上下文学习(称为Cola-Zero)时也很有效。除了性能提升外,Cola还对VLM的错误更具鲁棒性。我们展示了Cola可以应用于各种VLM(包括大型多模态模型如InstructBLIP)和7个数据集(VQA v2、OK-VQA、A-OKVQA、e-SNLI-VE、VSR、CLEVR、GQA),并且它始终提高了性能。
业界首个超大规模混合 Mamba 推理模型,强推理能力。
混元T1 是腾讯推出的超大规模推理模型,基于强化学习技术,通过大量后训练显著提升推理能力。它在长文处理和上下文捕捉上表现突出,同时优化了计算资源的消耗,具备高效的推理能力。适用于各类推理任务,尤其在数学、逻辑推理等领域表现优异。该产品以深度学习为基础,结合实际反馈不断优化,适合科研、教育等多个领域的应用。
小米首个推理大模型MiMo开源,专为推理任务设计,性能卓越。
Xiaomi MiMo是小米公司开源的首个推理大模型,专为推理任务设计,具备卓越的数学推理和代码生成能力。该模型在数学推理(AIME 24-25)和代码竞赛(LiveCodeBench v5)公开测评集上表现出色,仅用7B的参数规模就超越了OpenAI的o1-mini和阿里Qwen的QwQ-32B-Preview等更大规模的模型。MiMo通过预训练和后训练阶段的多层面创新,包括数据挖掘、训练策略和强化学习算法等,显著提升了推理能力。该模型的开源为研究人员和开发者提供了强大的工具,推动了人工智能在推理领域的进一步发展。
昆仑万维开源的高性能数学代码推理模型,性能卓越
Skywork-OR1是由昆仑万维天工团队开发的高性能数学代码推理模型。该模型系列在同等参数规模下实现了业界领先的推理性能,突破了大模型在逻辑理解与复杂任务求解方面的能力瓶颈。Skywork-OR1系列包括Skywork-OR1-Math-7B、Skywork-OR1-7B-Preview和Skywork-OR1-32B-Preview三款模型,分别聚焦数学推理、通用推理和高性能推理任务。此次开源不仅涵盖模型权重,还全面开放了训练数据集和完整训练代码,所有资源均已上传至GitHub和Huggingface平台,为AI社区提供了完全可复现的实践参考。这种全方位的开源策略有助于推动整个AI社区在推理能力研究上的共同进步。
创新的多模态链式思维框架,提升视觉推理能力
Cantor是一个多模态链式思维(CoT)框架,它通过感知决策架构,将视觉上下文获取与逻辑推理相结合,解决复杂的视觉推理任务。Cantor首先作为一个决策生成器,整合视觉输入来分析图像和问题,确保与实际情境更紧密的对齐。此外,Cantor利用大型语言模型(MLLMs)的高级认知功能,作为多面专家,推导出更高层次的信息,增强CoT生成过程。Cantor在两个复杂的视觉推理数据集上进行了广泛的实验,证明了所提出框架的有效性,无需微调或真实理由,就显著提高了多模态CoT性能。
Eurus-2-7B-SFT是一个经过数学能力优化的大型语言模型,专注于推理和问题解决.
Eurus-2-7B-SFT是基于Qwen2.5-Math-7B模型进行微调的大型语言模型,专注于数学推理和问题解决能力的提升。该模型通过模仿学习(监督微调)的方式,学习推理模式,能够有效解决复杂的数学问题和编程任务。其主要优点在于强大的推理能力和对数学问题的准确处理,适用于需要复杂逻辑推理的场景。该模型由PRIME-RL团队开发,旨在通过隐式奖励的方式提升模型的推理能力。
高效的 Intel GPU 上的 LLM 推理解决方案
这是一种在 Intel GPU 上实现的高效的 LLM 推理解决方案。通过简化 LLM 解码器层、使用分段 KV 缓存策略和自定义的 Scaled-Dot-Product-Attention 内核,该解决方案在 Intel GPU 上相比标准的 HuggingFace 实现可实现高达 7 倍的令牌延迟降低和 27 倍的吞吐量提升。详细功能、优势、定价和定位等信息请参考官方网站。
QwQ是一款专注于深度推理能力的AI研究模型。
QwQ(Qwen with Questions)是一款由Qwen团队开发的实验性研究模型,旨在提升人工智能的推理能力。它以一种哲学精神,对每个问题都抱有真正的好奇和怀疑,通过自我提问和反思来寻求更深层次的真理。QwQ在数学和编程领域表现出色,尤其是在处理复杂问题时。尽管它仍在学习和成长,但它已经展现出了在技术领域深度推理的重要潜力。
一款先进的视觉推理模型,能分析图片和视频内容。
QVQ-Max 是 Qwen 团队推出的视觉推理模型,能够理解和分析图像及视频内容,提供解决方案。它不仅限于文本输入,更能够处理复杂的视觉信息。适合需要多模态信息处理的用户,如教育、工作和生活场景。该产品是基于深度学习和计算机视觉技术开发,适用于学生、职场人士和创意工作者。此版本为首发,后续将持续优化。
展示小型语言模型通过自我演化深度思考掌握数学推理能力的研究成果。
rStar-Math是一项研究,旨在证明小型语言模型(SLMs)能够在不依赖于更高级模型的情况下,与OpenAI的o1模型相媲美甚至超越其数学推理能力。该研究通过蒙特卡洛树搜索(MCTS)实现“深度思考”,其中数学策略SLM在基于SLM的流程奖励模型的指导下进行测试时搜索。rStar-Math引入了三种创新方法来应对训练两个SLM的挑战,通过4轮自我演化和数百万个合成解决方案,将SLMs的数学推理能力提升到最先进水平。该模型在MATH基准测试中显著提高了性能,并在AIME竞赛中表现优异。
评估大型语言模型的逻辑推理和上下文理解能力。
Turtle Benchmark是一款基于'Turtle Soup'游戏的新型、无法作弊的基准测试,专注于评估大型语言模型(LLMs)的逻辑推理和上下文理解能力。它通过消除对背景知识的需求,提供了客观和无偏见的测试结果,具有可量化的结果,并且通过使用真实用户生成的问题,使得模型无法被'游戏化'。
OpenThinker-32B 是一款强大的开源推理模型,专为提升开放数据推理能力而设计。
OpenThinker-32B 是由 Open Thoughts 团队开发的一款开源推理模型。它通过扩展数据规模、验证推理路径和扩展模型大小来实现强大的推理能力。该模型在数学、代码和科学等推理基准测试中表现卓越,超越了现有的开放数据推理模型。其主要优点包括开源数据、高性能和可扩展性。该模型基于 Qwen2.5-32B-Instruct 进行微调,并在大规模数据集上训练,旨在为研究人员和开发者提供强大的推理工具。
Grok-1.5带有改进的推理能力和128,000个标记的上下文长度。
Grok-1.5是一种先进的大型语言模型,具有出色的长文本理解和推理能力。它可以处理高达128,000个标记的长上下文,远超以前模型的能力。在数学和编码等任务中,Grok-1.5表现出色,在多个公认的基准测试中获得了极高的分数。该模型建立在强大的分布式训练框架之上,确保高效和可靠的训练过程。Grok-1.5旨在为用户提供强大的语言理解和生成能力,助力各种复杂的语言任务。
开源代码语言模型,提升编程和数学推理能力。
DeepSeek-Coder-V2是一个开源的专家混合模型(Mixture-of-Experts, MoE),专为代码语言设计,其性能与GPT4-Turbo相当。它在代码特定任务上表现优异,同时在通用语言任务上保持了相当的性能。与DeepSeek-Coder-33B相比,V2版本在代码相关任务和推理能力上都有显著提升。此外,它支持的编程语言从86种扩展到了338种,上下文长度也从16K扩展到了128K。
快速的本地矢量推理解决方案
Trieve Vector Inference是一个本地矢量推理解决方案,旨在解决文本嵌入服务的高延迟和高限制率问题。它允许用户在自己的云中托管专用的嵌入服务器,以实现更快的文本嵌入推理。该产品通过提供高性能的本地推理服务,帮助企业减少对外部服务的依赖,提高数据处理速度和效率。
© 2025 AIbase 备案号:闽ICP备08105208号-14