由于 MySQL 的 utf8 不支持 4 字节字符,我正在寻找一种方法来检测和消除 Ruby 中字符串中的任何 4 字节 utf8 字符。我知道我可以更新我的表以使用 utf8m4 但由于几个原因这是不可能的或所需的解决方案。
简单地将字符串编码为 ASCII 将删除这些字符,但也会删除所有其他非 ASCII 字符,这是不好的。
由于 MySQL 的 utf8 不支持 4 字节字符,我正在寻找一种方法来检测和消除 Ruby 中字符串中的任何 4 字节 utf8 字符。我知道我可以更新我的表以使用 utf8m4 但由于几个原因这是不可能的或所需的解决方案。
简单地将字符串编码为 ASCII 将删除这些字符,但也会删除所有其他非 ASCII 字符,这是不好的。
以下似乎在 Ruby 1.9.3 中对我有用:
input.each_char.select{|c| c.bytes.count < 4 }.join('')
例如:
input = "hello \xF0\xA9\xB6\x98 world" # includes U+29D98
input.each_char.select{|c| c.bytes.count < 4 }.join('') # 'hello world'
另一种选择(在 ruby 2.7 中测试)是使用带有 gsub 的正则表达式:
input = "hello \xF0\xA9\xB6\x98 world" # includes U+29D98
input.gsub(/[\u{10000}-\u{10FFFF}]/, "?") # 'hello ? world'