温馨提示:
-
看懂本文可能需要: -
计算机基础知识 -
代码块过长,框框可左右滑动哦 -
您的观看和点赞是本公众号的大力支持和鼓励~~
目录
文章内容
简单来说:
-
Unicode 是「字符集」 -
UTF-8 是「编码规则」
其中:
-
字符集:为每一个「字符」分配一个唯一的 ID(学名为码位 / 码点 / Code Point) -
编码规则:将「码位」转换为字节序列的规则(编码/解码 可以理解为 加密/解密 的过程)
广义的 Unicode 是一个标准,定义了一个字符集以及一系列的编码规则,即 Unicode 字符集和 UTF-8、UTF-16、UTF-32 等等编码……
Unicode 字符集为每一个字符分配一个码位,例如「知」的码位是 30693,记作 U+77E5(30693 的十六进制为 0x77E5)。
UTF-8 顾名思义,是一套以 8 位为一个编码单位的可变长编码。会将一个码位编码为 1 到 4 个字节:
U+ 0000 ~ U+ 007F: 0XXXXXXX
U+ 0080 ~ U+ 07FF: 110XXXXX 10XXXXXX
U+ 0800 ~ U+ FFFF: 1110XXXX 10XXXXXX 10XXXXXX
U+10000 ~ U+10FFFF: 11110XXX 10XXXXXX 10XXXXXX 10XXXXXX
根据上表中的编码规则,之前的「知」字的码位 U+77E5 属于第三行的范围:
7 7 E 5
0111 0111 1110 0101 二进制的 77E5
--------------------------
0111 011111 100101 二进制的 77E5
1110XXXX 10XXXXXX 10XXXXXX 模版(上表第三行)
11100111 10011111 10100101 代入模版
E 7 9 F A 5
这就是将 U+77E5 按照 UTF-8 编码为字节序列 E79FA5 的过程。反之亦然。
评论区内容
例如「知」的码位是 30693 ———- 请问code point 是怎么确定的?
知字属于U+4E00–U+9FFF这个范围内的Unihan汉字,即最开始的中日韩统一表意文字区域里面。这里面的汉字基本上是按笔划数量和部首排列的
Editplus的“另存为”编码可以选择Unicode或UTF-8,怎么理解?
这是微软带的坏头。微软把 UTF-16 称作 Unicode(因为早期的 UTF-16 编码单元可以和 Code Point 一一对应,不过现在已经不行了)
unicode和utf-8互转,其实说的是utf-16和utf-8互转
「Unicode 和 UTF-8 互转」严格意义上是指码位的 UTF-8 序列化和反序列化,但一般很少有人这么说。通俗用法的话要看语境,如果是 Windows 上类似记事本的保存选项里写的 Unicode,你确实可以理解为 UTF-16(Windows记事本已经不叫Unicode,改用UTF16了)
WINDOS系统中 文本文档在储存的时候 会分为 ANSI unicode大小端和UTF-8,这种分类看起来就不规范了,是什么原因呢? gb2312这种汉字规范又是如何理解的,谢谢,如果有空能更新到正文的话不胜感激 计算机是在美国发明的,人家只考虑了自己,所以只有ASCII字符集(或者说ASCII编码,早期这俩是一个概念),后来其它国家也用上了电脑却没法输入自己的文字,就各自定了自家的字符集/编码,比如简体中文是GB2312,繁体中文Big5,日文Shift_JIS,韩文是EUC_KR等。这样的话中国用户(只有GB2312)不能读写日文,日本用户(只有Shift_JIS)不能读写中文…,各个国家就把自己的编码上报到ANSI(美国国家标准协会)这个组织,于是Windows记事本在保存的时候编码方式一栏就写个「ANSI」,而实际上这里写的「ANSI」只是个代称,它在英文操作系统等同ASCII,在简体中文操作系统等同GB2312,在繁体中文操作系统等同Big5…
继续说历史,各家因不同文字制定不一样的编码不利于全球化,于是两个组织出来说要把全球所有文字纳入一个字符集,Unicode这个组织搞两个Unicode字符集,ISO这个组织搞了个UCS字符集,后来两家意识到目的一致没必要搞两份,就融合了一下叫个「Unicode」。
历史讲完,下面回答问题:
「ANSI」其实并不是具体的某一种编码方式,它是动态的;「Unicode」其实是UTF-16LE(LE指小端,大小端简单说就是编码的时候文字头朝前还是屁股朝前,你想咋样都成);「Unicode BE」其实是UTF-16BE;「UTF-8」其实是UTF-8 BOM(BOM的存在是为了区别UTF-16LE、UTF-16BE和UTF-8,因为这3种编码方式共存过)。
如上文所说,GB2312是早期中国给自己的简体中文制定的编码,后来加入繁体发展成了GBK,又后来融入日韩文字发展成GB18030(均向前兼容)。
想问问编码规则这样做的意义是什么?看起来好像就是把一个ID翻译成了另一个ID
规范存储方式(比如大小端)、一定程度的压缩
原文链接
https://www.zhihu.com/question/23374078 Unicode 和 UTF-8 有什么区别?
end
您的观看和点赞是本公众号的大力支持和鼓励~~
原文始发于微信公众号(一个调皮的bug):Unicode 和 UTF-8 有什么区别?
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
文章由极客之音整理,本文链接:https://www.bmabk.com/index.php/post/43497.html