产品库

解释视频Transformer决策过程的概念发现

这篇论文研究了视频Transformer表示的概念解释问题。具体而言，我们试图解释基于高级时空概念的视频Transformer的决策过程，这些概念是自动发现的。以往关于基于概念的可解释性的研究仅集中在图像级任务上。相比之下，视频模型处理了额外的时间维度，增加了复杂性，并在识别随时间变化的动态概念方面提出了挑战。在这项工作中，我们通过引入第一个视频Transformer概念发现（VTCD）算法系统地解决了这些挑战。为此，我们提出了一种有效的无监督视频Transformer表示单元（概念）识别方法，并对它们在模型输出中的重要性进行排名。所得的概念具有很高的可解释性，揭示了非结构化视频模型中的时空推理机制和以对象为中心的表示。通过在多样的监督和自监督表示上联合进行这种分析，我们发现其中一些机制在视频Transformer中是普遍的。最后，我们证明VTCD可以用于改善精细任务的模型性能。

Meta 开发的子十亿参数语言模型，适用于设备端应用。

Meta 开发的自回归语言模型，采用优化架构，适合资源受限设备。优点多，如集成多种技术，支持零样本推理等，价格免费，面向自然语言处理研究人员和开发者。

高效优化的600M参数语言模型，专为设备端应用设计。

MobileLLM-600M是由Meta开发的自回归语言模型，采用了优化的Transformer架构，专为资源受限的设备端应用而设计。该模型集成了SwiGLU激活函数、深度薄架构、嵌入共享和分组查询注意力等关键技术。MobileLLM-600M在零样本常识推理任务上取得了显著的性能提升，与之前的125M/350M SoTA模型相比，分别提高了2.7%/4.3%的准确率。该模型的设计理念可扩展至更大模型，如MobileLLM-1B/1.5B，均取得了SoTA结果。

高效优化的子十亿参数语言模型，专为设备端应用设计

MobileLLM-350M是由Meta开发的自回归语言模型，采用优化的Transformer架构，专为设备端应用设计，以满足资源受限的环境。该模型整合了SwiGLU激活函数、深层薄架构、嵌入共享和分组查询注意力等关键技术，实现了在零样本常识推理任务上的显著准确率提升。MobileLLM-350M在保持较小模型尺寸的同时，提供了与更大模型相媲美的性能，是设备端自然语言处理应用的理想选择。

基于Transformer的实时开放世界AI模型

Oasis是由Decart AI开发的首个可玩、实时、开放世界的AI模型，它是一个互动视频游戏，由Transformer端到端生成，基于逐帧生成。Oasis能够接收用户键盘和鼠标输入，实时生成游戏玩法，内部模拟物理、游戏规则和图形。该模型通过直接观察游戏玩法学习，允许用户移动、跳跃、拾取物品、破坏方块等。Oasis被视为研究更复杂交互世界的基础模型的第一步，未来可能取代传统的游戏引擎。Oasis的实现需要模型架构的改进和模型推理技术的突破，以实现用户与模型的实时交互。Decart AI采用了最新的扩散训练和Transformer模型方法，并结合了大型语言模型（LLMs）来训练一个自回归模型，该模型可以根据用户即时动作生成视频。此外，Decart AI还开发了专有的推理框架，以提供NVIDIA H100 Tensor Core GPU的峰值利用率，并支持Etched即将推出的Sohu芯片。

教育滚动应用，用学习取代浪费时间

JustLearn是一个教育性质的滚动应用，旨在用快速、有趣且共享的学习机会替代我们在社交媒体上的无效时间消耗。开发者通过观察到许多人在社交媒体上浪费大量时间，决定创建一个平台，让人们在短短5分钟内学到新知识，就像刷TikTok一样轻松有趣。JustLearn提供选择话题、浏览验证过的视频、回答问题、进行测验和参加由顶尖教授制作的迷你课程等功能，让用户在短时间内学到超过90%的人一天所学。产品背景是创造一个让学习变得吸引人、快速且社区化的平台。

AI驱动的多语言翻译平台，支持文档、图片和视频翻译。

Transmonkey是一个AI驱动的在线翻译平台，支持超过130种语言的文档、图片和视频翻译。该平台利用大型语言模型提供高精度的翻译服务，同时保持文件原有格式和布局。Transmonkey以其高效的翻译速度、广泛的文件格式支持和用户友好的操作界面受到用户青睐。产品背景信息显示，Transmonkey致力于打破语言障碍，提升用户的数字体验。价格方面，Transmonkey提供免费试用，并有付费订阅服务。

基于多模态大语言模型的可解释图像检测与定位

FakeShield是一个多模态框架，旨在解决图像检测和定位（IFDL）领域中的两个主要挑战：检测原理的黑箱性和在不同篡改方法间的有限泛化能力。FakeShield通过利用GPT-4o增强现有的IFDL数据集，创建了多模态篡改描述数据集（MMTD-Set），用于训练FakeShield的篡改分析能力。该框架包括领域标签引导的可解释检测模块（DTE-FDM）和定位模块（MFLM），能够处理各种类型的篡改检测解释，并实现由详细文本描述引导的定位。FakeShield在检测准确性和F1分数上优于其他方法，提供了一个可解释且优越的解决方案。

小型语言模型调研、测量与洞察

SLM_Survey是一个专注于小型语言模型（SLMs）的研究项目，旨在通过调研和测量，提供对这些模型的深入了解和技术评估。该项目涵盖了基于Transformer的、仅解码器的语言模型，参数范围在100M至5B之间。通过对59个最先进的开源SLMs进行调研，分析了它们的技术创新，并在多个领域评估了它们的能力，包括常识推理、上下文学习、数学和编程。此外，还对它们的运行时成本进行了基准测试，包括推理延迟和内存占用。这些研究对于推动SLMs领域的研究具有重要价值。

全能的创造者和编辑器，通过扩散变换遵循指令

ACE是一个基于扩散变换的全能创造者和编辑器，它能够通过统一的条件格式Long-context Condition Unit (LCU)输入，实现多种视觉生成任务的联合训练。ACE通过高效的数据收集方法解决了训练数据缺乏的问题，并通过多模态大型语言模型生成准确的文本指令。ACE在视觉生成领域具有显著的性能优势，可以轻松构建响应任何图像创建请求的聊天系统，避免了视觉代理通常采用的繁琐流程。

视频面试软件，简化招聘流程

interview.co是一个专注于简化招聘流程的视频面试软件。它通过提供在线视频面试、AI问题生成器和面试管理工具，帮助企业高效地筛选和评估候选人。产品背景信息显示，interview.co旨在解决传统面试中的时间消耗、日程安排困难和成本高昂等问题。价格方面，interview.co提供试用版，具体定价信息需进一步探索。

实时语音和视频AI平台

Outspeed是一个为构建快速、实时语音和视频AI应用提供网络和推理基础设施的平台。它由Google和MIT的工程师开发，旨在为实时AI应用提供直观且强大的工具，无论是构建下一个大型应用还是扩展现有解决方案，Outspeed都能帮助用户更快、更有信心地进行创新。

多语言大型语言模型

Llama-3.2-1B是由Meta公司发布的多语言大型语言模型，专注于文本生成任务。该模型使用优化的Transformer架构，并通过监督式微调（SFT）和人类反馈的强化学习（RLHF）进行调优，以符合人类对有用性和安全性的偏好。该模型支持8种语言，包括英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语，并在多种对话使用案例中表现优异。

精选优质AI内容，遇见未来

360AI导航是一个集合了多种人工智能工具和资源的平台，旨在为用户提供一站式的AI服务体验。该平台涵盖了从AI资讯、AI搜索、AI绘画到AI写作等多个领域的工具，帮助用户更高效地利用AI技术解决实际问题。360AI导航不仅提供了丰富的AI工具，还通过360智脑等产品展示了其在AI领域的技术实力和创新能力。

开源时空基础模型，用于交通预测

OpenCity是一个开源的时空基础模型，专注于交通预测领域。该模型通过整合Transformer架构和图神经网络，有效捕捉和标准化交通数据中的复杂时空依赖关系，实现对不同城市环境的零样本泛化。它在大规模、异构的交通数据集上进行预训练，学习到丰富、可泛化的表示，能够无缝应用于多种交通预测场景。

开源云平台，实现超低延迟的语音和视频AI。

Daily Bots是一个开源云平台，专注于提供超低延迟的语音和视频人工智能服务。它支持开发者构建和托管实时的全球基础设施上的代理，并利用快速增长的开源实时框架。该平台拥有全球实时云，提供5亿终端用户的13毫秒首跳延迟，符合SOC 2、HIPAA和GDPR标准。此外，Daily Bots提供了电话和工作流程的一站式企业连接解决方案，以及完整的PSTN和SIP堆栈。

生成高质量中文方言语音的大规模文本到语音模型。

Bailing-TTS是由Giant Network的AI Lab开发的大型文本到语音(TTS)模型系列，专注于生成高质量的中文方言语音。该模型采用持续的半监督学习和特定的Transformer架构，通过多阶段训练过程，有效对齐文本和语音标记，实现中文方言的高质量语音合成。Bailing-TTS在实验中展现出接近人类自然表达的语音合成效果，对于方言语音合成领域具有重要意义。

开源AI搜索引擎框架，性能媲美Perplexity.ai Pro。

MindSearch是一个基于大型语言模型（LLM）的多智能体网络搜索引擎框架，具有与Perplexity.ai Pro相似的性能。用户可以轻松部署自己的搜索引擎，支持闭源大型语言模型（如GPT、Claude）或开源大型语言模型（如InternLM2.5-7b-chat）。它具备以下特点：能够解决生活中的任何问题，利用网络知识提供深入和广泛的知识库答案；展示详细的解决方案路径，提高最终响应的可信度和可用性；提供优化的UI体验，包括React、Gradio、Streamlit和Terminal等多种接口；动态构建图谱，将用户查询分解为图谱中的原子子问题，并根据WebSearcher的搜索结果逐步扩展图谱。

1T开源多语言大型语言模型

Tele-FLM-1T是一个开源的1T多语言大型语言模型，基于解码器仅Transformer架构，经过约2T tokens的训练。该模型在规模上展现出卓越的性能，有时甚至超越了更大的模型。除了分享模型权重外，还提供了核心设计、工程实践和训练细节，期待对学术和工业社区都有所裨益。

一站式创意平台，激发无限创意。

聚好用AI是一个集成了多种创意工具的在线平台，旨在帮助用户快速生成和编辑各种创意内容。它结合了AI技术，使得设计、绘画、音乐创作等变得更加简单和高效。平台的主要优点在于其易用性、高效性和创新性，能够满足不同用户在创意表达上的需求。聚好用AI背后的技术团队拥有丰富的行业经验，致力于通过AI技术推动创意产业的发展。目前，该平台提供免费试用，但部分高级功能可能需要付费。

7亿参数的语言模型，展示数据整理技术的有效性。

DCLM-Baseline-7B是一个7亿参数的语言模型，由DataComp for Language Models (DCLM)团队开发，主要使用英语。该模型旨在通过系统化的数据整理技术来提高语言模型的性能。模型训练使用了PyTorch与OpenLM框架，优化器为AdamW，学习率为2e-3，权重衰减为0.05，批次大小为2048序列，序列长度为2048个token，总训练token数达到了2.5T。模型训练硬件使用了H100 GPU。

高性能的开源代码模型

Mamba-Codestral-7B-v0.1 是 Mistral AI Team 开发的基于 Mamba2 架构的开源代码模型，性能与最先进的基于 Transformer 的代码模型相当。它在多个行业标准基准测试中表现出色，提供高效的代码生成和理解能力，适用于编程和软件开发领域。

快速且内存高效的精确注意力机制

FlashAttention是一个开源的注意力机制库，专为深度学习中的Transformer模型设计，以提高计算效率和内存使用效率。它通过IO感知的方法优化了注意力计算，减少了内存占用，同时保持了精确的计算结果。FlashAttention-2进一步改进了并行性和工作分配，而FlashAttention-3针对Hopper GPU进行了优化，支持FP16和BF16数据类型。

大型视频语言模型，用于视觉问答和视频字幕生成。

VideoLLaMA2-7B-16F-Base是由DAMO-NLP-SG团队开发的大型视频语言模型，专注于视频问答（Visual Question Answering）和视频字幕生成。该模型结合了先进的空间-时间建模和音频理解能力，为多模态视频内容分析提供了强大的支持。它在视觉问答和视频字幕生成任务上展现出卓越的性能，能够处理复杂的视频内容并生成准确的描述和答案。

生成高分辨率和长视频的端到端解决方案

EasyAnimate 是一个基于 transformer 架构的流水线，可以用于生成 AI 照片和视频，训练基线模型和 Lora 模型以用于 Diffusion Transformer。支持直接从预训练的 EasyAnimate 模型进行预测，生成不同分辨率、约 6 秒（24fps）的视频。用户还可以训练自己的基线模型和 Lora 模型以执行特定风格转换。

一款专业的笔记应用，助你快速掌握任何学科

Decks是一款专为学习设计的应用，它通过创新的笔记方式帮助用户更快地掌握知识。用户可以免费开始使用，并在14天后选择月度或年度订阅。Decks提供每月8美元或每年79美元的订阅选项。

Wondershare Filmora是一款简单易用的视频编辑软件，提供丰富的视频和音频编辑功能，适用于Windows和Mac平台。

Wondershare Filmora是一个简单易用的视频编辑软件，可以帮助用户创建令人印象深刻的视频。它具有丰富的特效、过渡和创意标题，可以增加视频的视觉效果。Filmora适用于Windows和Mac平台，旨在满足用户的各种视频编辑需求。

解锁ChatGPT的力量，提供从SEO、内容、视频到您最喜爱的诗歌的快速想法。

Vibn AI是一款基于AI的浏览器插件，利用ChatGPT的强大功能，为您提供从SEO、内容、视频等方面的快速想法。通过Vibn AI，您可以获得来自Google搜索、Web3和加密功能的无缝集成，彻底改变您的浏览体验。此外，Vibn AI还支持多个AI模型，如ChatGPT、Bard等，提供诸如视频摘要、网站抓取、电子邮件回复、增强社交媒体影响力等AI功能。安装Vibn AI插件，让您的浏览变得更高效。

使用AI功能来高亮、标记、注释和导出您最喜欢的YouTube时刻。

SnipTube是一个AI助力的YouTube书签工具，它能够智能地高亮、标记、注释和导出您最喜欢的YouTube视频片段。它利用AI算法生成每个片段的摘要，让您能够轻松回顾重要的内容。通过SnipTube，您可以将YouTube视频片段按照自定义标签和注释进行整理，方便您随时查找和回忆。您还可以轻松导出单个片段或整个集合，方便在其他笔记应用中使用。SnipTube适用于学生、研究人员和YouTube爱好者。

将图片和文本转换为视频的稳定视频扩散在线工具

稳定视频扩散在线是一个基于稳定性AI开发的AI视频模型，可以将图片和文本转换为视频，扩展了AI驱动的内容创作的边界。它可以将概念转化为引人入胜的电影，为媒体、娱乐、教育、营销等领域提供了广泛的视频应用。