产品库

AI驱动的网络安全风险评估与审计工具

CyberRiskAI是一款由AI驱动的网络安全风险评估与审计工具，提供全面的工具、模板和清单，帮助企业识别和减轻网络安全风险，并向客户传达信任。我们基于NIST 800-171或ISO/IEC 27001提供框架，以全面的风险评估模板和清单来快速、准确、经济地完成网络安全风险审核。通过获取潜在漏洞的有价值洞察，您可以优先考虑安全工作，并与合作伙伴建立信任。

DeepMind推出的AI安全框架，旨在识别和减轻高级AI模型的未来风险。

Frontier Safety Framework是Google DeepMind提出的一套协议，用于主动识别未来AI能力可能导致严重伤害的情况，并建立机制来检测和减轻这些风险。该框架专注于模型层面的强大能力，如卓越的代理能力或复杂的网络能力。它旨在补充我们的对齐研究，即训练模型按照人类价值观和社会目标行事，以及Google现有的AI责任和安全实践。

AI安全防护平台，全面管理AI风险

Protect AI是一个专注于AI安全的综合性平台，提供从端到端的AI安全风险管理和防护措施。它通过AI安全态势管理(AI-SPM)整合，帮助企业实现AI应用的安全性，同时保障数据安全和抵御AI特有的安全威胁。该平台能够为AI系统提供全面的可见性、修复和治理，支持企业在AI探索和创新中保持信心。

AI安全框架，引导AI安全和负责任地构建

Google的Secure AI Framework（SAIF）是一个实践指南，旨在帮助从业者通过安全视角导航AI开发。它提供了一个框架，用于理解和应对AI开发过程中固有的安全风险，并提供了相应的控制措施来帮助解决这些问题。SAIF代表了Google在全球规模上防御AI的经验，强调了构建AI时的安全性和责任感。

AI 驱动的安全设计审查

Remy Security 是一款 AI 驱动的安全设计审查工具，可以帮助减少昂贵的审查会议，按照风险级别对设计进行优先排序，并以更少的工作量生成高质量的审查结果。它通过自动生成问题和反馈，为您提供发送给设计作者的具体风险方面的见解。Remy 提供建议，您做出决策。您可以在发送之前编辑、重新生成或审查建议。Remy 旨在赋予您权力，而不是取代您。

将渗透测试和风险评估报告转化为协作工作空间，分配任务，跟踪进展，利用AI洞察

Mitigated.io是一个将渗透测试和风险评估报告转化为协作工作空间的平台。用户可以导入报告，邀请团队成员，共同解决问题，并追踪进展。该平台还提供AI增强的缓解指导，易于导入报告，Kanban等功能。此外，用户还可以从平台上直接获取安全缓解服务。Mitigated.io旨在帮助用户更高效地进行安全缓解，提高安全性。

城市安全评估工具，快速了解区域安全状况

locationCheck是一款AI城市安全评估工具，用户可以通过该应用搜索并扫描城市特定区域，并通过情感分析评估该地点的总体安全性。它为用户提供实时数据支持，帮助做出关于城市不同区域安全性的明智决策。该应用免费提供基础功能，并提供付费升级以获得更高级的用户体验。

AI风险数据库与分类系统

AI Risk Repository是一个全面的生活数据库，收录了700多个AI风险，并根据其原因和风险领域进行了分类。它提供了一个易于访问的AI风险概览，是研究人员、开发者、企业、评估者、审计师、政策制定者和监管者共同参考的框架，有助于发展研究、课程、审计和政策。

AI基础设施安全评估工具，用于发现和检测AI系统中的潜在安全风险。

AI Infra Guard是一款由腾讯开发的AI基础设施安全评估工具。它专注于发现和检测AI系统中的潜在安全风险，支持28种AI框架指纹识别，覆盖200多个安全漏洞数据库。该工具轻量级、易于使用，无需复杂配置，具有灵活的匹配语法和跨平台支持。它为AI基础设施的安全性提供了高效的评估手段，帮助企业和开发者保护其AI系统免受安全威胁。

几秒内生成具有定制合规安全工作方法说明书

SWMS AI利用人工智能技术,在几秒内生成针对特定工作的安全工作方法说明书,简化安全合规工作流程。用户只需提供项目细节,SWMS AI即可快速生成安全工作顺序、识别危险因素、分配风险等级并提出适当的控制措施,从而制定符合要求的风险评估。SWMS AI可定制化以配合公司的安全标准和要求。

推动人工智能安全治理，促进技术健康发展

《人工智能安全治理框架》1.0版是由全国网络安全标准化技术委员会发布的技术指南，旨在鼓励人工智能创新发展的同时，有效防范和化解人工智能安全风险。该框架提出了包容审慎、确保安全，风险导向、敏捷治理，技管结合、协同应对，开放合作、共治共享等原则。它结合人工智能技术特性，分析风险来源和表现形式，针对模型算法安全、数据安全和系统安全等内生安全风险，以及网络域、现实域、认知域、伦理域等应用安全风险，提出了相应的技术应对和综合防治措施。

生成AI风险识别自动化框架

PyRIT是由Azure开发的Python风险识别工具，旨在帮助安全专业人员和机器学习工程师主动发现其生成AI系统中的风险。该工具自动化了AI红队任务，使操作者能够专注于更复杂和耗时的任务，同时能够识别安全和隐私危害。

一份综合性的 MCP 基础 AI 工具安全检查清单。

MCP 安全检查表是由 SlowMist 团队编制和维护的，旨在帮助开发者识别和减轻 MCP 实施过程中的安全风险。随着基于 MCP 标准的 AI 工具迅速发展，安全问题愈发重要。该检查表提供了详尽的安全指导，涵盖 MCP 服务器、客户端及多种场景的安全需求，以保护用户隐私并提升整体系统的稳定性和可控性。

AI + 安全双重赋能，助力企业数智化转型。

360 企业安全浏览器是面向企业用户的智能办公安全浏览器，通过结合 AI 技术和安全防护措施，旨在提升企业的工作效率与数据安全。该产品支持多平台使用（包括 Windows、macOS 和 Linux），并提供集中管理功能，适合各种规模的企业进行灵活部署。产品定位于提供全面的数据保护和灵活的管理策略，价格方面提供基础版、专业版和旗舰版等多种付费方案，满足不同企业需求。

基于 AI 智能学习，全面保护用户数据隐私和安全。

通付盾数信云(DCloud)是一款创新的安全体系产品，运用 AI 智能学习和风险数据分析技术，能够自主分析网络中传输的数据和流量，深入透视应用数据及安全状况，从而全面保护用户的数据隐私和安全。此产品适应数字化转型的需求，为企业提供了重要的安全保障，帮助用户在面临各种网络安全威胁时保持数据安全。该产品价格为付费，并且适用于各种规模的企业，尤其是在需要保护敏感信息的行业中具有重要的应用价值。

外部网络安全的顶级攻击面管理平台

Surfaccer是一款专注于外部网络安全的攻击面管理平台。它通过自动化扫描和监测，帮助组织发现和管理潜在的安全风险，提供实时的威胁情报和风险评估，有效保护组织的网络和数据安全。Surfaccer具有直观的用户界面和强大的功能，支持定制化报告和告警，可满足各种规模和行业的安全需求。

AI公司风险披露倡议

Right to Warn是一个由AI领域的前员工发起的倡议，旨在呼吁AI公司承诺不限制员工对风险相关问题的批评，支持匿名向董事会、监管机构和独立组织报告风险问题，并保护员工免受因公开分享风险相关信息而受到的报复。该倡议强调了AI技术在为人类带来前所未有的好处的同时，也存在风险，需要通过科学界、政策制定者和公众的充分指导来减轻这些风险。

AI内容风险识别与管理平台

CaliberAI是一个AI平台，可轻松微调LLMs以识别潜在的风险内容。使用我们的演示，并立即联系我们的销售团队。

Polymer DSPM for AI提供实时数据可见性，自适应DLP控制和自动数据消除，以阻止风险变为泄震前的突破。

Polymer DSPM for AI是一款数据安全姿态管理平台，为关键SaaS业务应用程序和AI工作流中的敏感数据使用提供可持续管理。

行业领先的精准欺诈和风险预防解决方案

Stytch Fraud & Risk Prevention 提供先进的设备指纹技术，超越了传统的CAPTCHA和WAF，能有效阻止机器人、欺诈和滥用行为。它通过高度独特的指纹技术，结合标准和专有信号，保护用户隐私的同时，确保了几乎不可能被绕过的准确性。该产品通过详细的仪表板报告，提供实时可见性，监控用户的安全姿态，并通过智能CAPTCHA技术，提高用户体验。此外，Stytch还提供了多种指纹类型和智能速率限制功能，以应对各种用例。

Generative AI 模型评估工具

Deepmark AI 是一款用于评估大型语言模型（LLM）的基准工具，可在自己的数据上对各种任务特定指标进行评估。它与 GPT-4、Anthropic、GPT-3.5 Turbo、Cohere、AI21 等领先的生成式 AI API 进行预集成。

网站优化神器，AI智能评估插件

Bolty是一款AI智能评估插件，通过使用ChatGPT提供网站内容的洞察。它简单易用：1. 扫描网站 2. 评估优化建议

像天气应用一样，预测鲨鱼袭击风险

SafeWaters.AI是一个基于人工智能的鲨鱼袭击风险预测应用。它通过深度学习算法和人工智能，根据过去的数据以83%的准确率预测和预报鲨鱼袭击风险。用户可以根据预测结果决定是否避免在高风险日进行游泳、冲浪或沙滩活动。该应用还支持海洋保护和清理工作，并提供独特的IOS和Android应用。

新型AI驱动的编码评估

Ropes AI是一种新型的编码评估工具，利用人工智能技术进行评估。它能够生成总结每个编码评估的详细信息，并给出评分卡。同时，它还提供了定制的编程挑战，让候选人有机会展示自己的技能。Ropes AI还可以根据您的业务需求定制编码挑战，并提供了防作弊功能和候选人友好的体验。

使用我们的AI评估工具，上传照片即可获得免费评估。

SnapAppraise是一个提供珠宝首饰评估的在线平台。通过上传照片，我们的AI评估工具可以快速分析珠宝首饰的价值并生成详细的评估报告。SnapAppraise提供免费的初步评估，方便用户在安排面对面评估之前获得快速的预估价值。

通过 Minecraft 评估 AI 的表现。

MC-Bench 是一个在线平台，旨在通过 Minecraft 游戏环境评估和比较不同 AI 生成的建筑。它允许用户投票并参与到 AI 评估中，促进 AI 技术的发展。该平台的主要优势在于其趣味性和互动性，为用户提供了一个简单而有趣的方式来了解 AI 的能力。

Flapico是一个用于管理和评估提示的工具。

Flapico是一个用于版本控制、测试和评估提示的LLMOps平台。它为企业提供银行级别的安全性，旨在构建和发布LLM应用程序。

实时保护您的AI代理，阻止越狱和注入攻击，确保安全性。

grimly.ai是一款旨在保护AI代理免受越狱、注入攻击和滥用的产品。它为开发人员、安全团队和企业AI采用者量身打造，提供实时的保护。

专家评估界面和数据评估脚本

OpenScholar_ExpertEval是一个用于专家评估和数据评估的界面和脚本集合，旨在支持OpenScholar项目。该项目通过检索增强型语言模型合成科学文献，对模型生成的文本进行细致的人工评估。产品背景基于AllenAI的研究项目，具有重要的学术和技术价值，能够帮助研究人员和开发者更好地理解和改进语言模型。