Unicode 和 UTF-8 有什么区别?

温馨提示:

  • 看懂本文可能需要:
    • 计算机基础知识
  • 代码块过长,框框可左右滑动哦
  • 您的观看和点赞是本公众号的大力支持和鼓励~~

目录

Unicode 和 UTF-8 有什么区别?


文章内容

简单来说:

  • Unicode 是「字符集」
  • UTF-8 是「编码规则」

其中:

  • 字符集:为每一个「字符」分配一个唯一的 ID(学名为码位 / 码点 / Code Point)
  • 编码规则:将「码位」转换为字节序列的规则(编码/解码 可以理解为 加密/解密 的过程)

广义的 Unicode 是一个标准,定义了一个字符集以及一系列的编码规则,即 Unicode 字符集和 UTF-8、UTF-16、UTF-32 等等编码……

Unicode 字符集为每一个字符分配一个码位,例如「知」的码位是 30693,记作 U+77E5(30693 的十六进制为 0x77E5)。

UTF-8 顾名思义,是一套以 8 位为一个编码单位的可变长编码。会将一个码位编码为 1 到 4 个字节:

U+ 0000 ~ U+  007F0XXXXXXX
U+ 0080 ~ U+  07FF: 110XXXXX 10XXXXXX
U+ 0800 ~ U+  FFFF: 1110XXXX 10XXXXXX 10XXXXXX
U+10000 ~ U+10FFFF: 11110XXX 10XXXXXX 10XXXXXX 10XXXXXX

根据上表中的编码规则,之前的「知」字的码位 U+77E5 属于第三行的范围:

       7    7    E    5    
    0111 0111 1110 0101    二进制的 77E5
--------------------------
    0111   011111   100101 二进制的 77E5
1110XXXX 10XXXXXX 10XXXXXX 模版(上表第三行)
11100111 10011111 10100101 代入模版
   E   7    9   F    A   5

这就是将 U+77E5 按照 UTF-8 编码为字节序列 E79FA5 的过程。反之亦然。

评论区内容

例如「知」的码位是 30693 ———- 请问code point 是怎么确定的?

知字属于U+4E00–U+9FFF这个范围内的Unihan汉字,即最开始的中日韩统一表意文字区域里面。这里面的汉字基本上是按笔划数量和部首排列的

Editplus的“另存为”编码可以选择Unicode或UTF-8,怎么理解?

这是微软带的坏头。微软把 UTF-16 称作 Unicode(因为早期的 UTF-16 编码单元可以和 Code Point 一一对应,不过现在已经不行了)

unicode和utf-8互转,其实说的是utf-16和utf-8互转

「Unicode 和 UTF-8 互转」严格意义上是指码位的 UTF-8 序列化和反序列化,但一般很少有人这么说。通俗用法的话要看语境,如果是 Windows 上类似记事本的保存选项里写的 Unicode,你确实可以理解为 UTF-16(Windows记事本已经不叫Unicode,改用UTF16了)

  1. WINDOS系统中 文本文档在储存的时候 会分为 ANSI unicode大小端和UTF-8,这种分类看起来就不规范了,是什么原因呢?
  2. gb2312这种汉字规范又是如何理解的,谢谢,如果有空能更新到正文的话不胜感激

计算机是在美国发明的,人家只考虑了自己,所以只有ASCII字符集(或者说ASCII编码,早期这俩是一个概念),后来其它国家也用上了电脑却没法输入自己的文字,就各自定了自家的字符集/编码,比如简体中文是GB2312,繁体中文Big5,日文Shift_JIS,韩文是EUC_KR等。这样的话中国用户(只有GB2312)不能读写日文,日本用户(只有Shift_JIS)不能读写中文…,各个国家就把自己的编码上报到ANSI(美国国家标准协会)这个组织,于是Windows记事本在保存的时候编码方式一栏就写个「ANSI」,而实际上这里写的「ANSI」只是个代称,它在英文操作系统等同ASCII,在简体中文操作系统等同GB2312,在繁体中文操作系统等同Big5…

继续说历史,各家因不同文字制定不一样的编码不利于全球化,于是两个组织出来说要把全球所有文字纳入一个字符集,Unicode这个组织搞两个Unicode字符集,ISO这个组织搞了个UCS字符集,后来两家意识到目的一致没必要搞两份,就融合了一下叫个「Unicode」。

历史讲完,下面回答问题:

  1. 「ANSI」其实并不是具体的某一种编码方式,它是动态的;「Unicode」其实是UTF-16LE(LE指小端,大小端简单说就是编码的时候文字头朝前还是屁股朝前,你想咋样都成);「Unicode BE」其实是UTF-16BE;「UTF-8」其实是UTF-8 BOM(BOM的存在是为了区别UTF-16LE、UTF-16BE和UTF-8,因为这3种编码方式共存过)。

  2. 如上文所说,GB2312是早期中国给自己的简体中文制定的编码,后来加入繁体发展成了GBK,又后来融入日韩文字发展成GB18030(均向前兼容)。

想问问编码规则这样做的意义是什么?看起来好像就是把一个ID翻译成了另一个ID

规范存储方式(比如大小端)、一定程度的压缩

原文链接

https://www.zhihu.com/question/23374078 Unicode 和 UTF-8 有什么区别?


end

您的观看和点赞是本公众号的大力支持和鼓励~~


原文始发于微信公众号(一个调皮的bug):Unicode 和 UTF-8 有什么区别?

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

文章由极客之音整理,本文链接:https://www.bmabk.com/index.php/post/43497.html

(0)
小半的头像小半

相关推荐

发表回复

登录后才能评论
极客之音——专业性很强的中文编程技术网站,欢迎收藏到浏览器,订阅我们!