filter - 检查文本、音频和图片是否存在不当内容的解决方案

Question

我正在开展一个项目，我希望在检测到不当内容（脏话、成人内容等）时收到通知。

虽然我主要希望它用于文本数据，但我也会对音频文件感兴趣。

这显然是一个商业解决方案，但我找不到任何提供这些功能的东西。

它应该支持某种形式的集成（如果是托管的 API，或者是“引擎”sdk）。

这真的不存在吗？

Answer 1

你能写一个 Jquery 或 JS 在页面加载后过滤掉这些单词吗？这是一个简单的“ regexp”（查找/替换），您可以用星号***或其他东西替换单词，或者只是将它们变白。

如果您可以在服务器端执行此操作，例如在保存来自用户的评论时，则可以更好地在服务器端实现正则表达式。