您好,欢迎访问一九零五行业门户网

Mysql 中的 utf8

最近遇到了一个奇怪的问题,在向 ?mysql 插入一个 utf-8 字符串时,字符串被截断了。打印 执行的 sql 发现,是断在了一个无法显示的字符上。一开始怀疑是非法 utf-8 编码,但通过 hexdump 发现,它是一个合法的 utf-8 字符,编码长度是 4 个字节。然后将其解
最近遇到了一个奇怪的问题,在向 ?mysql 插入一个 utf-8 字符串时,字符串被截断了。打印 执行的 sql 发现,是断在了一个无法显示的字符上。一开始怀疑是非法 utf-8 编码,但通过 hexdump 发现,它是一个合法的 utf-8 字符,编码长度是 4 个字节。然后将其解码为 unicode 编码,google 了一下,原来是一个 emoji 表情(emoji 是一种特殊的 unicode 编码,常见于 ios 和 android 手机上)。
为什么遇到 emoji 表情会被截断呢,在我的理解中,mysql 的 utf8 应该可以接受任何合法的 utf-8 字符串的。经同事提醒,mysql 早期版本只支持最长 3 个字节的 utf-8。查了下文档,果然如此:
utf8, a utf-8 encoding of the unicode character set using one to three bytes per character.
不只是老版本的 mysql,最新版本的 mysql 仍是如此。三个字节的 utf-8 最大能编码的 unicode 字符是 0xffff,也就是 unicode 中的基本多文种平面(bmp)。也就是说,任何不在基本多文本平面的 unicode字符,都无法使用 mysql 的 utf8 字符集存储。包括上述的 emoji 表情,和很多不常用的汉字,以及任何新增的 unicode 字符等等。
此 utf8 非彼 utf-8.
utf-8 是 unicode 的一种传输编码格式(8-bit unicode transformation format)。最初的 utf-8 格式使用一至六个字节,最大能编码 31 位字符。最新的 utf-8 规范只使用一到四个字节,最大能编码21位,正好能够表示所有的 17个 unicode 平面。
utf8 是 mysql 中的一种字符集,只支持最长三个字节的 utf-8字符,也就是 unicode 中的基本多文本平面。
mysql 中的 utf8 为什么只支持持最长三个字节的 utf-8字符呢?我想了一下,可能是因为 mysql 刚开始开发那会,unicode 还没有辅助平面这一说呢。那时候,unicode 委员会还做着 “65535 个字符足够全世界用了”的美梦。mysql 中的字符串长度算的是字符数而非字节数,对于 char 数据类型来说,需要为字符串保留足够的长。当使用 utf8 字符集时,需要保留的长度就是 utf8 最长字符长度乘以字符串长度,所以这里理所当然的限制了 utf8 最大长度为 3,比如 char(100) ?mysql 会保留 300字节长度。至于后续的版本为什么不对 4 字节长度的 utf-8 字符提供支持,我想一个是为了向后兼容性的考虑,还有就是基本多文种平面之外的字符确实很少用到。
要在 mysql 中保存 4 字节长度的 utf-8 字符,需要使用 utf8mb4 字符集,但只有 5.5 版本以后的才支持。我觉得,为了获取更好的兼容性,应该总是使用 utf8mb4 而非 utf8. ?对于 char 类型数据,utf8mb4 会多消耗一些空间,根据 mysql 官方建议,使用 varchar ?替代 char。
原文地址:mysql 中的 utf8, 感谢原作者分享。
其它类似信息

推荐信息