产品库

探索大型语言和视觉语言模型的漏洞与防护

JailbreakZoo是一个专注于破解大型模型（包括大型语言模型和视觉语言模型）的资源库。该项目旨在探索这些高级AI模型的漏洞、利用方法和防御机制，目的是促进对大规模AI系统安全方面的更深入理解和认识。

WitnessAI是统一的AI安全与治理平台，保障员工、模型、应用和代理安全。

WitnessAI是一款AI安全与治理平台，其重要性在于为企业的AI应用提供全方位的安全保障，确保AI创新在安全可控的环境中进行。主要优点包括具备网络可见性，可实时监控网络状况；基于意图的控制功能，能精准管理访问权限；运行时防御机制，可有效抵御攻击。产品背景可能是随着AI技术的广泛应用，企业对AI安全和治理的需求日益增长而开发。页面未提及价格信息。定位是为各类企业提供AI安全解决方案，助力企业安全地使用和部署AI。

分析Transformer语言模型的内部工作机制

LLM Transparency Tool（LLM-TT）是一个开源的交互式工具包，用于分析基于Transformer的语言模型的内部工作机制。它允许用户选择模型、添加提示并运行推理，通过可视化的方式展示模型的注意力流动和信息传递路径。该工具旨在提高模型的透明度，帮助研究人员和开发者更好地理解和改进语言模型。

高分辨率多视角扩散模型，使用高效行注意力机制。

Era3D是一个开源的高分辨率多视角扩散模型，它通过高效的行注意力机制来生成高质量的图像。该模型能够生成多视角的颜色和法线图像，支持自定义参数以获得最佳结果。Era3D在图像生成领域具有重要性，因为它提供了一种新的方法来生成逼真的三维图像。

安全内容审核模型

ShieldGemma是由Google开发的一系列基于Gemma 2构建的安全内容审核模型，专注于四个危害类别（儿童不宜内容、危险内容、仇恨和骚扰）。它们是文本到文本的解码器仅大型语言模型，仅包含英文版本，具有开放权重，包括2B、9B和27B参数大小的模型。这些模型旨在作为负责任的生成AI工具包的一部分，提高AI应用的安全性。

一份综合性的 MCP 基础 AI 工具安全检查清单。

MCP 安全检查表是由 SlowMist 团队编制和维护的，旨在帮助开发者识别和减轻 MCP 实施过程中的安全风险。随着基于 MCP 标准的 AI 工具迅速发展，安全问题愈发重要。该检查表提供了详尽的安全指导，涵盖 MCP 服务器、客户端及多种场景的安全需求，以保护用户隐私并提升整体系统的稳定性和可控性。

AI + 安全双重赋能，助力企业数智化转型。

360 企业安全浏览器是面向企业用户的智能办公安全浏览器，通过结合 AI 技术和安全防护措施，旨在提升企业的工作效率与数据安全。该产品支持多平台使用（包括 Windows、macOS 和 Linux），并提供集中管理功能，适合各种规模的企业进行灵活部署。产品定位于提供全面的数据保护和灵活的管理策略，价格方面提供基础版、专业版和旗舰版等多种付费方案，满足不同企业需求。

该网站因触发安全机制，用户被阻止访问，可邮件联系解决。

此网站运用安全服务抵御网络攻击，能识别如特定词汇、SQL命令、格式错误数据等触发威胁的行为，保障网站安全和稳定运行。重要性在于为网站提供防护，避免遭受恶意攻击，维持正常服务。优点是能有效防范多种网络攻击，为网站提供可靠的安全保障。产品背景信息未提及，价格和定位也未给出。

HiddenLayer端到端平台检测威胁、保护模型，确保大规模安全合规采用AI。

HiddenLayer是一款专注于AI安全的端到端平台。其重要性在于应对日益增长的AI安全威胁，为企业提供全方位的安全保障。主要优点包括能够有效检测AI系统中的潜在威胁，保护模型免受攻击，确保企业的AI应用能够安全、合规地大规模使用。产品背景可能是随着AI技术的广泛应用，安全问题日益突出，该平台应运而生。价格信息未提及。定位是为企业提供AI安全解决方案，助力企业安全地开展AI业务。

快速且内存高效的精确注意力机制

FlashAttention是一个开源的注意力机制库，专为深度学习中的Transformer模型设计，以提高计算效率和内存使用效率。它通过IO感知的方法优化了注意力计算，减少了内存占用，同时保持了精确的计算结果。FlashAttention-2进一步改进了并行性和工作分配，而FlashAttention-3针对Hopper GPU进行了优化，支持FP16和BF16数据类型。

DeepMind推出的AI安全框架，旨在识别和减轻高级AI模型的未来风险。

Frontier Safety Framework是Google DeepMind提出的一套协议，用于主动识别未来AI能力可能导致严重伤害的情况，并建立机制来检测和减轻这些风险。该框架专注于模型层面的强大能力，如卓越的代理能力或复杂的网络能力。它旨在补充我们的对齐研究，即训练模型按照人类价值观和社会目标行事，以及Google现有的AI责任和安全实践。

OpenAI发布模型行为规范，指导AI模型如何安全、有益地与用户互动。

OpenAI Model Spec是OpenAI发布的AI模型行为规范，旨在指导AI模型如何与用户安全、有益地互动。该规范详细阐述了模型在不同场景下的行为准则，包括如何处理敏感内容、如何避免生成有害信息、如何在法律和道德框架内提供帮助等。它强调了AI模型的透明性、可控性和安全性，确保模型能够为用户提供可靠、有益的工具，同时避免潜在风险。OpenAI通过这一规范展示了其对AI技术负责任的态度，为开发者和用户提供了明确的指导，推动AI技术的健康发展。

基于注意力机制的运动生成和无训练编辑模型

MotionCLR是一个基于注意力机制的运动扩散模型，专注于人类动作的生成和编辑。它通过自注意力和交叉注意力机制，分别模拟模态内和模态间的交互，实现对动作序列的精细控制和编辑。该模型的主要优点包括无需训练即可进行编辑，具有较好的解释性，能够通过操作注意力图来实现多种运动编辑方法，如动作的强调或减弱、就地替换动作、基于示例的动作生成等。MotionCLR的研究背景是解决以往运动扩散模型在细粒度编辑能力上的不足，通过清晰的文本-动作对应关系，提高动作编辑的灵活性和精确性。

MoBA 是一种用于长文本上下文的混合块注意力机制，旨在提升大语言模型的效率。

MoBA（Mixture of Block Attention）是一种创新的注意力机制，专为长文本上下文的大语言模型设计。它通过将上下文划分为块，并让每个查询令牌学习关注最相关的块，从而实现高效的长序列处理。MoBA 的主要优点是能够在全注意力和稀疏注意力之间无缝切换，既保证了性能，又提高了计算效率。该技术适用于需要处理长文本的任务，如文档分析、代码生成等，能够显著降低计算成本，同时保持模型的高性能表现。MoBA 的开源实现为研究人员和开发者提供了强大的工具，推动了大语言模型在长文本处理领域的应用。

TrojAIkey AI安全平台，可识别AI应用风险并管理安全隐患

TrojAIkey AI安全平台专注于保障AI模型的安全性。在当今AI广泛应用的时代，AI模型面临着各种潜在的风险和威胁，如恶意攻击、数据泄露等，该平台的出现具有重要意义。其主要优点在于能够精准识别AI应用中的潜在风险和威胁，并提供有效的风险缓解和管理方案。目前文档未提及产品价格，从定位上看，它主要面向有AI安全需求的企业和机构，帮助它们确保AI应用的稳定运行和数据安全。

gambo AI需验证用户连接安全，需启用JavaScript和cookies继续。

从页面信息未能明确gambo AI具体功能与技术。仅知在用户访问时会进行连接安全性检查，需启用JavaScript和cookies。推测该产品可能是基于AI技术的服务平台，背景信息不明，价格未提及，定位可能是为用户提供特定的AI相关服务，其重要性或在于保障用户在使用AI服务时的连接安全与稳定。

Stability AI 生成模型是一个开源的生成模型库。

Stability AI 生成模型是一个开源的生成模型库，提供了各种生成模型的训练、推理和应用功能。该库支持各种生成模型的训练，包括基于 PyTorch Lightning 的训练，提供了丰富的配置选项和模块化的设计。用户可以使用该库进行生成模型的训练，并通过提供的模型进行推理和应用。该库还提供了示例训练配置和数据处理的功能，方便用户进行快速上手和定制。

推动人工智能安全治理，促进技术健康发展

《人工智能安全治理框架》1.0版是由全国网络安全标准化技术委员会发布的技术指南，旨在鼓励人工智能创新发展的同时，有效防范和化解人工智能安全风险。该框架提出了包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享等原则。它结合人工智能技术特性，分析风险来源和表现形式，针对模型算法安全、数据安全和系统安全等内生安全风险，以及网络域、现实域、认知域、伦理域等应用安全风险，提出了相应的技术应对和综合防治措施。

Polymer是数据安全态势管理平台，保障AI和SaaS生态数据安全。

Polymer是一款数据安全态势管理（DSPM）平台，旨在可持续地管理关键SaaS业务应用程序和AI工作流程中的敏感数据使用。它可以实时识别、分析和缓解AI和SaaS生态系统中的安全风险。其主要优点包括能够应对新的AI威胁向量，保障数据在生成或被访问时的安全；可以根据组织的独特需求和AI使用情况创建和管理上下文驱动的安全政策；支持对员工和AI的访问进行管理，确保数据交互的安全性等。该平台面向企业级用户，适合在多个行业使用，如医疗保健、金融服务和保险等。关于价格，文档中未提及，推测可能提供免费试用或付费模式。

Protex AI利用AI实现24/7不安全事件捕捉，助力EHS团队主动决策

Protex AI是一款由人工智能驱动的主动安全解决方案，为企业EHS团队提供支持。其重要性在于通过先进的AI技术，实现24/7的不安全事件捕捉，帮助企业提前发现安全隐患，做出主动的安全决策。主要优点包括无缝连接现有CCTV基础设施、可定制安全规则和仪表盘、借助Gen AI工具Copilot提供洞察、简化纠正措施流程等。产品背景是为满足企业在工业场所安全管理的需求而开发。价格信息未提及。定位是为企业EHS团队提供先进的安全决策支持。

AI安全框架，引导AI安全和负责任地构建

Google的Secure AI Framework（SAIF）是一个实践指南，旨在帮助从业者通过安全视角导航AI开发。它提供了一个框架，用于理解和应对AI开发过程中固有的安全风险，并提供了相应的控制措施来帮助解决这些问题。SAIF代表了Google在全球规模上防御AI的经验，强调了构建AI时的安全性和责任感。

createyourmusic ai因安全机制被阻拦访问，未明确其详细介绍

从页面信息可知，createyourmusic ai可能是一款与音乐创作相关的AI产品。在当前数字化音乐创作领域，人工智能技术的融入使得音乐创作更加高效和多样化。该产品借助AI算法，可能能够帮助用户快速生成音乐，降低音乐创作门槛。其重要性在于可以让更多非专业音乐人士参与到音乐创作中，为音乐产业注入新的活力。目前页面未提及产品价格和具体定位信息。

提供多种预训练模型，支持多维度筛选，助力AI模型应用与开发。

该平台是一个专注于AI预训练模型的资源平台，整合了大量不同类型、规模和应用场景的预训练模型。其重要性在于为AI开发者和研究人员提供了便捷的模型获取渠道，降低了模型开发的门槛。主要优点包括模型分类细致、多维度筛选功能强大、信息展示详细且提供智能推荐。产品背景是随着AI技术的发展，对预训练模型的需求日益增长，平台应运而生。平台主要定位为AI模型资源平台，部分模型免费商用，部分可能需要付费，具体价格因模型而异。

提供高质量 AI 接口服务，支持多种 AI 模型，安全稳定。

中宏 api 是一个提供高质量 AI 接口的服务平台，支持多种 AI 模型。其主要优点包括安全稳定、低延迟和高并发，适合企业级解决方案。该平台支持按量付费，价格透明，并提供高可用性保障，适合需要大规模使用 AI 接口的企业和开发者。

实时保护您的AI代理，阻止越狱和注入攻击，确保安全性。

grimly.ai是一款旨在保护AI代理免受越狱、注入攻击和滥用的产品。它为开发人员、安全团队和企业AI采用者量身打造，提供实时的保护。

为AI模型、应用和代理定义并部署灵活的数据安全威胁管理和治理

F5 AI Guardrails是F5公司推出的用于保护AI系统和相关数据的安全解决方案。在当前AI发展迅猛但安全威胁也不断涌现的背景下，该产品具有重要意义。它能从试点到生产全流程保障AI系统安全，防止恶意威胁、数据泄漏和有害输出。主要优点在于行业领先的防护效能和无与伦比的部署灵活性，可帮助企业应对各类AI安全挑战。关于价格，文档未提及。该产品定位为企业级AI安全保障，适用于多个行业，帮助企业建立可靠的AI安全防线。

Nightfall是一体化数据防泄漏和AI数据安全平台，防止数据泄露。

Nightfall是一款具有主动性的一体化数据防泄漏（DLP）和AI数据安全平台。它能有效防止数据泄漏，为用户提供数据流动的可见性，并阻止数据在SaaS、生成式AI应用程序、端点等多个场景下的非法外渗。其重要性在于保障企业数据安全，避免因数据泄露带来的重大损失。主要优点包括全面覆盖多场景、主动防护、提供数据流动可视性等。产品背景方面，随着数字化进程加快，数据安全需求日益增长，Nightfall应运而生。关于价格，文档未提及。其定位是为企业提供专业的数据安全解决方案。

自我提升的安全 LLM

Automorphic 是一个安全、自我提升的语言模型平台。它使用 fine-tuning 技术将知识注入语言模型，绕过上下文窗口的限制。您可以训练适配器以实现特定行为或知识，并在运行时动态组合和切换它们。同时，Automorphic 提供人机交互反馈，以快速迭代模型，并将其投入生产环境。您还可以使用 Automorphic Hub 上的公开模型进行推理。

快速检测和保护您的网站免受在线攻击

DexCheck是一款用于保护网站免受在线攻击的安全服务。它提供快速检测和防御机制，可以阻止恶意行为、SQL注入等常见攻击方式。DexCheck的优势在于其高效的反欺诈引擎和实时分析功能，可有效保护您的网站安全。定价方面根据网站规模和需求而定，定位于提供可靠的网站安全解决方案。

AI安全防护平台，全面管理AI风险

Protect AI是一个专注于AI安全的综合性平台，提供从端到端的AI安全风险管理和防护措施。它通过AI安全态势管理(AI-SPM)整合，帮助企业实现AI应用的安全性，同时保障数据安全和抵御AI特有的安全威胁。该平台能够为AI系统提供全面的可见性、修复和治理，支持企业在AI探索和创新中保持信心。