Shieldstral 推出 3B 多模态安全分类器

Shieldstral 的核心创新在于将内容审核重新定义为二元问答任务。每个请求包含三个部分：<Instruct> 提供评估上下文和严格程度，<Query> 是一个明确的 yes/no 问题（例如“该内容是否宣扬身体暴力？”），<Document> 则是待审核的内容，可以是提示词、回复、提示词-回复对，或带可选文本的图像。

推理时，模型仅读取 yes 和 no 的 logits，并通过 softmax 归一化为连续的安全分数。这种设计统一了提示词分类、回复审核、拒绝检测和毒性检测，使政策完全存在于提示词中，一个检查点即可在部署时适应新政策，无需重新训练。