3

我有一个数据库,我正在重建表结构是垃圾,所以我将一些数据从一个表移植到另一个表。这些数据似乎是从 MSO 产品复制粘贴的,所以当我获取数据时,我使用 htmlpurifier 和一些 str_replace 在 php 中清理它。这是清洁功能:

   function clean_html($html) {
    $config = HTMLPurifier_Config::createDefault();
    $config->set('AutoFormat','RemoveEmpty',true);
    $config->set('HTML','AllowedAttributes','href,src');
    $config->set('HTML','AllowedElements','p,em,strong,a,ul,li,ol,img');
    $purifier = new HTMLPurifier($config);

    $html = $purifier->purify($html);

    $html = str_replace(' ',' ',$html);
    $html = str_replace("\r",'',$html);
    $html = str_replace("\n",'',$html);
    $html = str_replace("\t",'',$html);
    $html = str_replace('  ',' ',$html);
    $html = str_replace('<p> </p>','',$html);
    $html = str_replace(chr(160),' ',$html);

    return trim($html);
   }

但是,当我将结果放入新表并将它们输出到 ckeditor 时,我得到了这三个字符。

然后我有一个 javascript 函数,它被调用来从 ckeditor 的内容中删除特殊字符。它也不清理它

  function remove_special(str) {
    var rExps=[ /[\xC0-\xC2]/g, /[\xE0-\xE2]/g,
    /[\xC8-\xCA]/g, /[\xE8-\xEB]/g,
    /[\xCC-\xCE]/g, /[\xEC-\xEE]/g,
    /[\xD2-\xD4]/g, /[\xF2-\xF4]/g,
    /[\xD9-\xDB]/g, /[\xF9-\xFB]/g,
    /\xD1/,/\xF1/g,
    "/[\u00a0|\u1680|[\u2000-\u2009]|u200a|\u200b|\u2028|\u2029|\u202f|\u205f|\u3000|\xa0]/g", 
    /\u000b/g,'/[\u180e|\u000c]/g',
    /\u2013/g, /\u2014/g,
    /\xa9/g,/\xae/g,/\xb7/g,/\u2018/g,/\u2019/g,/\u201c/g,/\u201d/g,/\u2026/g];
    var repChar=['A','a','E','e','I','i','O','o','U','u','N','n',' ','\t','','-','--','(c)','(r)','*',"'","'",'"','"','...'];

    for(var i=0; i<rExps.length; i++) {
        str=str.replace(rExps[i],repChar[i]);
    }

      for (var x = 0; x < str.length; x++) {
    charcode = str.charCodeAt(x);
          if ((charcode < 32 || charcode > 126) && charcode !=10 && charcode != 13) {
              str = str.replace(str.charAt(x), "");
          }
      }
      return str;
  }

有谁知道我需要做什么才能摆脱它们。我认为它们可能是某种引用。

4

2 回答 2

1

有一个类似的问题:php remove/identify this symbol �</a>

字符 � 是替换字符 (U+FFFD)。它在 UTF 代码中出现错误时使用:

FFFD � REPLACEMENT CHARACTER

 - used to replace an incoming character whose value 
   is unknown or unrepresentable in Unicode

在大多数情况下,这意味着某些数据是用 UTF 编码解释的,而数据不是用那种编码编码而是另一种编码。

我的问题是将文本从 microsoft office 产品粘贴到 html 或数据库中。最大的违规者似乎是 emdash 和 smart 引号。

于 2010-03-25T13:42:35.987 回答
1

您的字符编码完全不正常。â�� 对我来说是一个三字节的 UTF-8 编码字符。

你需要发现的一些事情

  • 旧表的编码是什么?
  • 新表的编码是什么?
  • 显示ckeditor的页面编码是什么?

看起来HTMLPurifier 的默认值是 UTF-8,所以你真的需要注意数据的编码!

于 2010-03-25T14:19:06.097 回答