omni-moderation-latest

简介:

新一代多模态内容审核模型

功能:

支持文本和图像输入的多模态有害内容分类

新增两个仅文本的有害内容类别:非法和包含暴力的非法

对非英语内容的检测更准确,支持40种语言

对低资源语言(如高棉语或斯瓦希里语)的检测性能提升70%

提供校准的分数,更准确地反映内容违反相关政策的可能性

免费提供给所有开发者使用,具有不同使用层级的速率限制

需求人群:

"目标受众包括社交媒体平台、生产力工具、生成性AI平台等,他们需要构建更安全的产品以保护用户。例如,Grammarly 使用该API来确保其AI通信辅助产品的安全性和公正性;ElevenLabs 利用该API扫描其音频AI产品生成的内容,防止并标记违反政策的输出。"

浏览量:26

s1785318098921236

打开站点

构建AI去赚钱
s1785341518918206
类似产品

© 2024     AIbase    备案号:闽ICP备08105208号-14

隐私政策

用户协议

意见反馈 网站地图