omni-moderation-latest

omni-moderation-latest

omni-moderation-latest 是基于 GPT-4o 构建的新一代多模态内容审核模型,它在文本和图像内容的有害信息检测方面更加精确,帮助开发者构建更强大的审核系统。该模型支持文本和图像输入,特别在非英语语言中表现更准确。它能够评估内容是否符合诸如仇恨、暴力、自残等类别,并且提供更细致的审核决策控制。此外,它还提供概率分数来反映内容与检测类别的匹配可能性。该模型对所有开发者免费开放,旨在帮助开发者从最新的研究和安全系统投资中受益。

需求人群:

"目标受众包括社交媒体平台、生产力工具、生成性AI平台等,他们需要构建更安全的产品以保护用户。例如,Grammarly 使用该API来确保其AI通信辅助产品的安全性和公正性;ElevenLabs 利用该API扫描其音频AI产品生成的内容,防止并标记违反政策的输出。"

使用场景示例:

Grammarly 使用该API来确保其AI通信辅助产品的安全性和公正性

ElevenLabs 利用该API扫描其音频AI产品生成的内容,防止并标记违反政策的输出

其他公司使用该API来构建更安全的产品,以保护用户免受有害内容的影响

产品特色:

支持文本和图像输入的多模态有害内容分类

新增两个仅文本的有害内容类别:非法和包含暴力的非法

对非英语内容的检测更准确,支持40种语言

对低资源语言(如高棉语或斯瓦希里语)的检测性能提升70%

提供校准的分数,更准确地反映内容违反相关政策的可能性

免费提供给所有开发者使用,具有不同使用层级的速率限制

使用教程:

访问OpenAI的Moderation API指南页面

注册并获取API密钥

阅读文档了解如何发送文本或图像内容进行审核

根据API文档编写代码,调用omni-moderation-latest模型

将内容发送到API并接收审核结果

分析返回的审核结果,包括类别和概率分数

根据审核结果采取相应的内容管理措施

浏览量:29

s1785318098921236

打开站点

构建AI去赚钱
s1785341518918206
网站流量情况

最新流量情况

月访问量

5.26m

平均访问时长

00:01:38

每次访问页数

2.18

跳出率

57.10%

流量来源

直接访问

62.88%

自然搜索

26.05%

邮件

0.05%

外链引荐

10.62%

社交媒体

0.35%

展示广告

0

截止目前所有流量趋势图

地理流量分布情况

巴西

5.90%

加拿大

3.52%

英国

3.47%

印度

8.68%

美国

18.97%

类似产品

© 2024     AIbase    备案号:闽ICP备08105208号-14

隐私政策

用户协议

意见反馈 网站地图