字符编码-带你走出Unicode与UTF-8的误区

Ustinain
• 阅读 1512

字符编码集合

1. ASCII

ASCII(American Standard Code for Information Interchange,美国信息互换标准代码)是基于罗马字母表的一套电脑编码系统,它主要用于显示现代英语和其他西欧语言。它是现今最通用的单字节编码系统,并等同于国际标准ISO 646。

在计算机中,所有的数据在存储和运算时都要使用二进制数表示(因为计算机用高电平和低电平分别表示1和0),例如,像a、b、c、d这样的52个字母(包括大写)、以及0、1等数字还有一些常用的符号(例如、#、@等)在计算机中存*储时也要使用二进制数**来表示,而具体用哪些二进制数字表示哪个符号,当然每个人都可以约定自己的一套(这就叫编码),而大家如果要想互相通信而不造成混乱,那么大家就必须使用相同的编码规则,于是美国有关的标准化组织就出台了ASCII编码,统一规定了上述常用符号用哪些二进制数来表示。 字符编码-带你走出Unicode与UTF-8的误区

大小为一个字节,最多可代表255个符号,美国人发明的时候 对于几个简简单单的英文字母已经够用了,随着计算机普及,像中国、韩国、日本这样的象形文字,255个是远远不够的,光常用汉字都有8000个,一个字节可以代表255,不敢想,于是就有了GB-2312。

GB2312

GB2312又称为GB2312-80字符集,全称为《信息交换用汉字编码字符集·基本集》,由原中国国家标准总局发布,1981年5月1日实施,是中国国家标准的简体中文字符集。它所收录的汉字已经覆盖99.75%的使用频率,基本满足了汉字的计算机处理需要。在中国大陆和新加坡获广泛使用。

Unicode编码

九层之台,起于累土。这样世界性的标准绝不是一蹴而就,必有其坚实的基础,设计原则就是Unicode的一大基础,在《The Unicode Standard Version 6.2 - Core Specification》有提到Unicode的设计原则,

但是这样也不行,GB-2312虽然能包容绝大部分的中文汉字,这没问题,但是别的国家 比如韩国,新加坡,日本等等国家怎么办,他们有他们的专门编码 就像中国的GB-2312一样,那么问题就出现了 比如 4E 2D在GB-2312中表示一个汉字,而同样还是这个编码,却在不同的国家对应的文字不同,所以各种编码的字符互不兼容,相互之间的通信可能由于编码的不同,而导致对方看到的是乱码,这就如中国历史中的大秦统一文字和度量单位之前的华夏文明一样,语言不通、货币不通,交流困难。

时间的车轮滚滚向前,推动着历史的发展,于是Unicode(Universal Coded Character Set)出现了,它对世界上大部分的文字系统进行了整理、编码,形成了一张巨大的文字集,使得计算机能够以更简单的方式来呈现和处理字符,它的目的就是为所有的字符提供统一的编码,任何的平台、系统、设备、应用或者语言都能兼容且无风险使用。

Unicode编码的范围是:0-0xFFFF,可以容纳100多万个符号

UTF-16和UTF-8是Unicode的实现方式

Unicode只是一个符号集,只规定了符号的二进制代码,却没有规定这个二进制代码应该如何存储,于是有了UTF-16和UTF-8 并不是像大众哪有认为,Unicode就是UTF-8,这是不对了,虽然普遍形式是UTF-8,但是UTF-8和UTF-16只是Unicode集合中的一个子集而已

UTF-16

UTF-16是以16位无符号整数为单位,不表示一个字符只有16位,看字符的Unicode编码处于什么范围而定,有可能是2个字节,有可能是4个字节,现在机器上的Unicode编码一般指的就是UTF-16,如果不提UTF-16和UTF-8,只说Unicode的话不能认定是2个字节的,它只是一种符号集,存储方式有UTF-16和UTF-8规定

2个字节看一个存储单元,不满2字节也是使用2字节,超出2字节,也是按2的倍数节字存储,浪费了不少空间,导致网络传输的时候明明4个字节可以传输完的东西 硬是花费了8个字节,于是就有了UTF-8编码。

UTF-8:

Unicode编码(16进制) UTF-8字节流(二进制)
000000-00007F 0xxxxxxx
000080-0007FF 110xxxxx 10xxxxxx
000800-00FFFF 1110xxxx 10xxxxxx 10xxxxxx
01000-10FFFF 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx

比如中国的“中”编码是 E4 B8 AD,对照上面这个范围段, E4 B8 AD 在000800-00FFFF 1110xxxx 10xxxxxx 10xxxxxx范围 转二进制: 原:1110 0100 1011 1000 1010 1101 对比: 1110 (0100)10(1 1000) 10(10 1101)

在UTF-8里括号里的才是有效数据,拿出来转0100 1110 0010 1101 转16进制=4E 2D,按我的思维可以理解为一个解密,4E 2D是Unicode对中国的中唯一标识,在UTF-16中直接存4E 2D,但在UTF-8里就会变长,先看4E 2D属于哪个区间,然后按对应的二进制存储 对比: UTF-16解析方便,拿到数据直接2个字节一砍 ,然后解析就行了,解析快但是可能有3个字节的时候会站4字节的空间,虽然UTF-8也是Unicode编码,但是是变长的,可能是1字节可能是4字节,解析就会麻烦些,如果项目、网络传输的数据流字母居多,是一个字节或俩个字节能存下的,就用UTF-8,1个字节搞定,如果项目、网络传输是中文居多,就用UTF-16,使用UTF-8的话 解析会很麻烦,而且空间也没剩下,可能还会多

UTF-32

对于UTF-16更暴力,不管你是多大数据,直接以4字节为单位存储

BOM (Byte Order Mark)字节顺序标识

在你的文件头部,存储这几个字节,告诉别人是以何种方式存储 UTF-8 EF BB BF
UTF-16LE FF FE 小端存储 UTF-16BE FE FF 大端存储

点赞
收藏
评论区
推荐文章
秃头王路飞 秃头王路飞
4个月前
webpack5手撸vue2脚手架
webpack5手撸vue相信工作个12年的小伙伴们在面试的时候多多少少怕被问到关于webpack方面的知识,本菜鸟最近闲来无事,就尝试了手撸了下vue2的脚手架,第一次发帖实在是没有经验,望海涵。languageJavaScript"name":"vuecliversion2","version":"1.0.0","desc
光头强的博客 光头强的博客
4个月前
Java面向对象试题
1、请创建一个Animal动物类,要求有方法eat()方法,方法输出一条语句“吃东西”。创建一个接口A,接口里有一个抽象方法fly()。创建一个Bird类继承Animal类并实现接口A里的方法输出一条有语句“鸟儿飞翔”,重写eat()方法输出一条语句“鸟儿吃虫”。在Test类中向上转型创建b对象,调用eat方法。然后向下转型调用eat()方
刚刚好 刚刚好
4个月前
css问题
1、在IOS中图片不显示(给图片加了圆角或者img没有父级)<div<imgsrc""/</divdiv{width:20px;height:20px;borderradius:20px;overflow:h
blmius blmius
1年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
小森森 小森森
4个月前
校园表白墙微信小程序V1.0 SayLove -基于微信云开发-一键快速搭建,开箱即用
后续会继续更新,敬请期待2.0全新版本欢迎添加左边的微信一起探讨!项目地址:(https://www.aliyun.com/activity/daily/bestoffer?userCodesskuuw5n)\2.Bug修复更新日历2.情侣脸功能大家不要使用了,现在阿里云的接口已经要收费了(土豪请随意),\\和注意
晴空闲云 晴空闲云
4个月前
css中box-sizing解放盒子实际宽高计算
我们知道传统的盒子模型,如果增加内边距padding和边框border,那么会撑大整个盒子,造成盒子的宽度不好计算,在实务中特别不方便。boxsizing可以设置盒模型的方式,可以很好的设置固定宽高的盒模型。盒子宽高计算假如我们设置如下盒子:宽度和高度均为200px,那么这会这个盒子实际的宽高就都是200px。但是当我们设置这个盒子的边框和内间距的时候,那
艾木酱 艾木酱
3个月前
快速入门|使用MemFire Cloud构建React Native应用程序
MemFireCloud是一款提供云数据库,用户可以创建云数据库,并对数据库进行管理,还可以对数据库进行备份操作。它还提供后端即服务,用户可以在1分钟内新建一个应用,使用自动生成的API和SDK,访问云数据库、对象存储、用户认证与授权等功能,可专
helloworld_28799839 helloworld_28799839
4个月前
常用知识整理
Javascript判断对象是否为空jsObject.keys(myObject).length0经常使用的三元运算我们经常遇到处理表格列状态字段如status的时候可以用到vue
NVIDIA安培架构下MIG技术分析
关键词:NVIDIA、MIG、安培一什么是MIG2020年5月,NVIDIA发布了最新的GPU架构:安培,以及基于安培架构的最新的GPU:A100。安培提供了许多新的特性,MIG是其中一项非常重要的新特性。MIG的全名是MultiInstanceGPU。NVIDIA安培架构中的MIG模式可以在A100GPU上并行运行七个作业。多实
密钥管理系统-为你的天翼云资产上把“锁
本文关键词:数据安全,密码机,密钥管理一、你的云上资产真的安全么?1.2021年1月,巴西的一个数据库30TB数据被破坏,泄露的数据包含有1.04亿辆汽车和约4000万家公司的详细信息,受影响的人员数量可能有2.2亿;2.2021年2月,广受欢迎的音频聊天室应用Clubhouse的用户数据被恶意黑客或间谍窃取。据悉,一位身份不明的用户能够将Clubho