跳到主要内容

内容审核（Moderations）

使用审核模型检测文本或多模态输入是否属于受限制内容。审核结果用于辅助安全治理，不替代应用自身的风控、申诉、日志审计和人工复核流程。

请求​

POST /v1/moderations
Content-Type: application/json
Authorization: Bearer sk-your-api-key

调用示例​

curl -X POST "https://www.walmind.cn/v1/moderations" \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $API_KEY" \
  -d '{
    "model": "your-moderation-model",
    "input": "待审核的文本内容"
  }'

请求参数​

参数类型说明
inputstring 或 array待审核内容，必填；具体结构以模型支持情况为准
modelstring审核模型 ID，可选；省略时使用平台配置的默认候选模型

响应示例​

{
  "id": "modr-example",
  "model": "your-moderation-model",
  "results": [
    {
      "flagged": false,
      "categories": {"violence": false, "hate": false},
      "category_scores": {"violence": 0.01, "hate": 0.02}
    }
  ]
}

flagged 表示是否命中至少一项审核类别；categories 给出类别判断，category_scores 给出模型分数。不同审核模型的类别集合和阈值可能不同，业务系统不应只依赖某一个类别字段。