iphone - 审查某些文字和图像

Question

我的问题是如何在我的应用程序上审查不良语言和裸露图像，是否有某种框架可以过滤用户介绍的内容？IOS 专家，你现在用什么来解决这个问题？

Answer 1

您的问题有两个部分：1）审查文本，2）审查图像。

对于文本，您可以存储字典并将用户输入与您想要审查的单词相匹配。但是，您如何定义不良语言？单词的含义取决于其上下文，而软件无法确定上下文。即是说有人喜欢吃西瓜的东西应该被审查？好吧，如果应用于某些人群，它可能会被视为种族主义。这是你的字典无法分辨的。

在图像的情况下，没有可靠的方法通过算法来辨别裸露。事实上，出于这个原因，所有进行图像审查的网站都使用人工对用户提供的图像进行分类和审查（据我所知，这并不是最好的工作）。甚至人类也会犯错。最近 FB 拒绝了一张女性洗澡的照片，因为他们误认为她的肘部是裸露的乳房。