字符字节和编码
字符，字节和编码
[原创文章，转载请保留或注明出处：lab/zh/encoding.htm]
级别：中级
摘要：本文介绍了字符与编码的发展过程，相关概念的正确理解。举例说明了一些实际应用中，编码的实现方法。然后，本文讲述了通常对字符与编码的几种误解，由于这些误解而导致乱码产生的原因，以及消除乱码的办法。本文的内容涵盖了“中文问题”，“乱码问题”。
掌握编码问题的关键是正确地理解相关概念，编码所涉及的技术其实是很简单的。因此，阅读本文时需要慢读多想，多思考。
引言
“字符与编码”是一个被经常讨论的话题。即使这样，时常出现的乱码仍然困扰着大家。虽然我们有很多的办法可以用来消除乱码，但我们并不一定理解这些办法的内在原理。而有的乱码产生的原因，实际上由于底层代码本身有问题所导致的。因此，不仅是初学者会对字符编码感到模糊，有的底层开发人员同样对字符编码缺乏准确的理解。
1. 编码问题的由来，相关概念的理解
1.1 字符与编码的发展
从计算机对多国语言的支持角度看，大致可以分为三个阶段：
系统内码说明系统
阶段一ASCII
计算机刚开始只支持英语，其它语言不能够在计算机上存储和显示。英文DOS
阶段二ANSI编码
（本地化）为使计算机支持更多语言，通常使用0x80~0xFF 范围的  2 个字节来表示1 个字符。比如：汉字'中' 在中文操作系统中，使用[0xD6,0xD0] 这两个字节存储。
不同的国家和地区制定了不同的标准，由此产生了GB2312, BIG5, JIS 等各自的编码标准。这些使用2 个字节来代表一个字符的各种汉字延伸编码方式，称为ANSI 编码。在简体中文系统下，ANSI 编码代表GB2312 编码，在日文操作系统下，ANSI 编码代表JIS 编码。
不同ANSI 编码之间互不兼容，当信息在国际间交流时，无法将属于两种语言的文字，存储在同一段ANSI 编码的文本中。中文DOS，中文Windows 95/98，日文Windows 95/98
阶段三UNICODE
（国际化）为了使国际间信息交流更加方便，国际组织制定了UNICODE 字符集，为各种语言中的每一个字符设定了统一并且唯一的数字编号，以满足跨语言、跨平台进行文本转换、处理的要求。Windows NT/2000/XP，Linux，Java
字符串在内存中的存放方法：
在ASCII 阶段，单字节字符串使用一个字节存放一个字符（SBCS）。比如，"Bob123" 在内存中为：
42 6F 62 31 32 33 00
B o b 1 2 3 \0
在使用ANSI 编码支持多种语言阶段，每个字符使用一个字节或多个字节来表示（MBCS），因此，这种方式存放的字符也被称作多字节字符。比如，"中文123" 在中文Windows 95 内存中为7个字节，每个汉字占2个字节，每个英文和数字字符占1个字节：
D6 D0 CE C4 31 32 33 00
中文1 2 3 \0
在UNICODE 被采用之后，计算机存放字符串时，改为存放每个字符在UNICODE 字符集中的序号。目前计算机一般使用  2 个字节（16 位）来存放一个序号（DBCS），因此，这种方式存放的字符也被称作宽字节字符。比如，字符串"中文123" 在Windows 2000 下，内存中实际存放的是5 个序号：
2D 4E 87 65 31 00 32 00 33 00 00 00 ← 在x86 CPU 中，低字节在前
中文1 2 3 \0
一共占10 个字节。
1.2 字符，字节，字符串
理解编码的关键，是要把字符的概念和字节的概念理解准确。这两个概念容易混淆，我们在此做一下区分：
概念描述举例
字符：人们使用的记号，抽象意义上的一个符号。'1', '中', 'a', '$', '￥', ……
字节：计算机中存储数据的单元，一个8位的二进制数，是一个很具体的存储空间。0x01, 0x45, 0xFA, ……
ANSI
字符串在内存中，如果“字符”是以ANSI 编码形式存在的，一个字符可能使用一个字节或多个字节来表示，那么我们称这种字符串为ANSI 字符串或者多字节字符串。"中文123" （占7字节）
UNICODE
字符串在内存中，如果“字符”是以在UNICODE 中的序号存在的，那么我们称这种字符串为UNICODE 字符串或者宽字节字符串。L"中文123"
（占10字节）
由于不同ANSI 编码所规定的标准是不相同的，因此，对于一个给定的多字节字符串，我们必须知道它采用的是哪一种编码规则，才能够知道它包含了哪些“字符”。而对于UNICODE 字符串来说，不管在什么环境下，它所代表的“字符”内容总是不变的。
中文字符unicode查询1.3 字符集与编码
各个国家和地区所制定的不同ANSI 编码标准中，都只规定了各自语言所需的“字符”。比如：汉字标准（GB2312）中没有规定韩国语字符怎样存储。这些ANSI 编码标准所规定的内容包含两层含义：
使用哪些字符。也就是说哪些汉字，字母和符号会被收入标准中。所包含“字符”的集合就叫做“字符集”。
编码：
规定每个“字符”分别用一个字节还是多个字节存储，用哪些字节来存储，这个规定就叫做“编码”。
各个国家和地区在制定编码标准的时候，“字符的集合”和“编码”一般都是同时制定的。因此，平常我们所说的“字符集”，比如：GB2312, GBK, JIS 等，除了有“字符的集合”这层含义外，同时也包含了“编码”的含义。
“UNICODE 字符集”包含了各种语言中使用到的所有“字符”。用来给UNICODE 字符集编码的标准有很多种，比如：UTF-8, UTF-7, UTF-16, UnicodeLittle, UnicodeBig 等。
1.4 常用的编码简介
简单介绍一下常用的编码规则，为后边的章节做一个准备。在这里，我们根据编码规则的特点，把所有的编码分成三类：
分类编码标准说明
单字节字符编码ISO-8859-1 最简单的编码规则，每一个字节直接作为一个UNICODE 字符。比如，[0xD6, 0xD0] 这两个字节，通过iso-8859-1 转化为字符串时，将直接得到[0x00D6, 0x00D0] 两个UNICODE 字符，即"ÖÐ"。
反之，将UNICODE 字符串通过iso-8859-1 转化为字节串时，只能正常转化0~255 范围的字符。
ANSI 编码GB2312,
BIG5,
Shift_JIS,
ISO-8859-2 …… 把UNICODE 字符串通过ANSI 编码转化为“字节串”时，根据各自编码的规定，一个UNICODE 字符可能转化成一个字节或多个字节。
反之，将字节串转化成字符串时，也可能多个字节转化成一个字符。比如，[0xD6, 0xD0] 这两个字节，通过GB2312 转化为字符串时，将得到[0x4E2D] 一个字符，即'中' 字。
“ANSI 编码”的特点：
1. 这些“ANSI 编码标准”都只能处理各自语言范围之内的UNICODE 字符。
2. “UNICODE 字符”与“转换出来的字节”之间的关系是人为规定的。
UNICODE 编码UTF-8,
UTF-16, UnicodeBig …… 与“ANSI 编码”类似的，把字符串通过UNICODE 编码转化成“字节串”时，一个UNICODE 字符可能转化成一个字节或多个字节。
与“ANSI 编码”不同的是：
1. 这些“UNICODE 编码”能够处理所有的UNICODE 字符。
2. “UNICODE 字符”与“转换出来的字节”之间是可以通过计算得到的。
我们实际上没有必要去深究每一种编码具体把某一个字符编码成了哪几个字节，我们只需要
知道“编码”的概念就是把“字符”转化成“字节”就可以了。对于“UNICODE 编码”，由于它们是可以通过计算得到的，因此，在特殊的场合，我们可以去了解某一种“UNICODE 编码”是怎样的规则。
2. 字符与编码在程序中的实现
2.1 程序中的字符与字节
在C++ 和Java 中，用来代表“字符”和“字节”的数据类型，以及进行编码的方法：
类型或操作C++ Java
字符wchar_t char
字节char byte
ANSI 字符串char[] byte[]
UNICODE 字符串wchar_t[] String
字节串→字符串mbstowcs(), MultiByteToWideChar() string = new String(bytes, "encoding") 字符串→字节串wcstombs(), WideCharToMultiByte() bytes = Bytes("encoding")
以上需要注意几点：
Java 中的char 代表一个“UNICODE 字符（宽字节字符）”，而C++ 中的char 代表一个字节。
MultiByteToWideChar() 和WideCharToMultiByte() 是Windows API 函数。
2.2 C++ 中相关实现方法
声明一段字符串常量：
// ANSI 字符串，内容长度7 字节
char sz[20] = "中文123";
// UNICODE 字符串，内容长度5 个wchar_t（10 字节）
wchar_t wsz[20] = L"\x4E2D\x6587\x0031\x0032\x0033";
UNICODE 字符串的I/O 操作，字符与字节的转换操作：
// 运行时设定当前ANSI 编码，VC 格式
setlocale(LC_ALL, ".936");
// GCC 中格式
setlocale(LC_ALL, "zh_CN.GBK");
// Visual C++ 中使用小写%s，按照setlocale 指定编码输出到文件
// GCC 中使用大写%S
fwprintf(fp, L"%s\n", wsz);
// 把UNICODE 字符串按照setlocale 指定的编码转换成字节
wcstombs(sz, wsz, 20);
// 把字节串按照setlocale 指定的编码转换成UNICODE 字符串
mbstowcs(wsz, sz, 20);
在Visual C++ 中，UNICODE 字符串常量有更简单的表示方法。如果源程序的编码与当前默认ANSI 编码不符，则需要使用#pragma setlocale，告诉编译器源程序使用的编码：
// 如果源程序的编码与当前默认ANSI 编码不一致，
// 则需要此行，编译时用来指明当前源程序使用的编码
#pragma setlocale(".936")
// UNICODE 字符串常量，内容长度10 字节
wchar_t wsz[20] = L"中文123";
以上需要注意#pragma setlocale 与setlocale(LC_ALL, "") 的作用是不同的，#pragma setlocale 在编译时起作用，setlocale() 在运行时起作用。
2.3 Java 中相关实现方法
字符串类String 中的内容是UNICODE 字符串：
// Java 代码，直接写中文
String string = "中文123";
// 得到长度为5，因为是5 个字符
System.out.println(string.length());
字符串I/O 操作，字符与字节转换操作。在Java 包java.io.* 中，以“Stream”结尾的类一

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。