Mistral AI 刚推出了一款全新的内容审核 API，能够帮助开发者自动检测并分类不良文字内容。 该API 针对性、暴力、仇恨言论和自我伤害等 9 大类别进行分类，并可被用于多种语言情境中，比如即时通讯和对话系统。

官方强调，内容审核 API 在提升内容安全性的同时，也能够高度自定义，以应对不同应用的需求。

---

之前 Luo 的 HeyForm 就被 UGC 内容害惨了，这回这个内容审核 API 必须得安排上！