Unicode和UTF-8之间的转换
⼀、引⾔
通过这⼏天的研究，终于明⽩了Unicode和UTF-8之间编码的区别。Unicode是⼀个字符集，⽽UTF-8是Unicode的其中⼀种，Unicode是定长的都为双字节，⽽UTF-8是可变的，对于汉字来说Unicode占有的字节⽐UTF-8占⽤的字节少1个字节。Unicode为双字节，⽽UTF-8中汉字占三个字节。
注: Unicode编码⽬前规划的总空间是17个平⾯，0x0000 ⾄ 0x10FFFF。每个平⾯有 65536 个码点。因此这个总的长度也有⼀百多万个。
⼆、UTF-8
  UTF-8编码字符理论上可以最多到6个字节长，然⽽16位BMP（Basic Multilingual Plane）字符最多只⽤到3字节长。下⾯看⼀下UTF-8编码表：
1  U-00000000 - U-0000007F: 0xxxxxxx
2
3        U-00000080 - U-000007FF: 110xxxxx 10xxxxxx
4
5        U-00000800 - U-0000FFFF: 1110xxxx 10xxxxxx 10xxxxxx
6
7        U-00010000 - U-001FFFFF: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
8
9        U-00200000 - U-03FFFFFF: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
10
11        U-04000000 - U-7FFFFFFF: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
  xxx 的位置由字符编码数的⼆进制表⽰的位填⼊，越靠右的 x 具有越少的特殊意义，只⽤最短的那个⾜够表达⼀个字符编码数的多字节串。注意在多字节串中，第⼀个字节的开头"1"的数⽬就是整个串中字节的数⽬。⽽第⼀⾏中以0开头，是为了兼容ASCII编码，为⼀个字节，第⼆⾏就为双字节字符串，第三⾏为3字节，如汉字就属于这种，以此类推。(个⼈认为：其实我们可以简单的把前⾯的1的个数看成字节数)
  为了要将Unicode转换为UTF-8，当然要知道他们的区别到底在什么地⽅。下⾯来看⼀下，在Unicode中的编码是怎样转换成UTF-8的，在UTF-8中，如果⼀个字符的字节⼩于0x80（128）则为ASCII字符，占⼀个字节，可以不⽤转换，因为UTF-8兼容ASCII编码。假如在Unicode中汉字“你”的编码为“u4F60”，把它转换为⼆进制为100111101100000，然后按照UTF-8的⽅法进⾏转换。可以将Unicode⼆进制从地位往⾼位取出⼆进制数字，每次取6位，如上述的⼆进制就可以分别取出为如下所⽰的格式，前⾯按格式填补，不⾜8位⽤0填补。
1 unicode: 100111101100000 4F60
2
3 utf-8: 11100100,10111101,10100000 E4BDA0
  从上⾯就可以很直观的看出Unicode到UTF-8之间的转换，当然知道了UTF-8的格式后，就可以进⾏逆运算，就是按照格式把它在⼆进制中的相应位置上取出，然后在转换就是所得到的Unicode字符了（这个运算可以通过“位移”来完成）。
  如上述的“你”的转换，由于其值⼤于0x800⼩于0x10000，因此可以判断为三字节存储，则最⾼位需要向右移“12”位再根据三字节格式的最⾼位为11100000（0xE0）求或（|）就可以得到最⾼位的值了。
同理第⼆位则是右移“6”位，则还剩下最⾼位和第⼆位的⼆进制值，可以通过与111111（0x3F）求按位于（&）操作，再和11000000（0x80）求或（|）。第三位就不⽤移位了，只要直接取最后六位（与111111（ox3F）取&），在与11000000(0x80)求或（|）。OK了，转换成功！在
VC++中的代码如下所⽰（Unicode到UTF-8的转换）。
1const wchar_t pUnicode = L"你";
2char utf8[3+1];
3 memset(utf8,0,4);
4 utf8[0] = 0xE0|(pUnicode>>12);
5 utf8[1] = 0x80|((pUnicode>>6)&0x3F);
unicode码和ascii码区别6 utf8[2] = 0x80|(pUnicode&0x3F);
7 utf8[3] = "\0";
8//char[4]就是UTF-8的字符“你”了。
  当然在UTF-8到Unicode的转换也是通过移位等来完成的，就是把UTF-8那些格式相应的位置的⼆进制数给揪出来。在上述例⼦中“你”为三个字节，因此要每个字节进⾏处理，有⾼位到低位进⾏处理。在UTF-8中“你”为
11100100,10111101,10100000。从⾼位起即第⼀个字节11100100就是把其中的"0100"给取出来，这个很简单只要和
11111（0x1F）取与（&），由三字节可以得知最到位肯定位于12位之前，因为每次取六位。所以还要将得到的结果左移12位，最⾼位也就这样完成了0100,000000,000000。⽽第⼆位则是要把“111101”给取出来，则只需将第⼆字节10111101和111111(0x3F)取与（&）。在将所得到的结果左移6位与最⾼字节所得的结果取或（|），第⼆位就这样完成了，得到的结果为0100,111101,000000。以此类推最后⼀位直接与111111（0x3F）取与（&），再与前⾯所得的结果取或（|）即可得到结果0100,111101,100000。OK，转换成功！在VC++中的代码如下所⽰（UTF-8到Unicode的转换）。
1//UTF-8格式的字符串
2const char* utf8 = "你";
3 wchar_t unicode;
4 unicode = (utf8[0] & 0x1F) << 12;
5 unicode |= (utf8[1] & 0x3F) << 6;
6 unicode |= (utf8[2] & 0x3F);
7//unicode is ok!
  当然在编程过程中不可能只转换⼀个字符，这⾥需要注意的是字符的长度⼀定要算清楚，不然会带来...以上就是我这⼏天研究的结果，⾄于Unicode的转换为GB2312在MFC中Windows有⾃带的API（WideCharToMultiByte）可以转换。这样也就能够将UTF-8格式转换为GB2312了，这⾥就不再赘述，如果⼤家有更好的⽅法希望指教。
三、总结
Unicode是容纳世界所有⽂字符号的国际标准编码，使⽤四个字节为每个字符编码。
UTF 英⽂ Unicode Transformation Format 的缩写，意为把 Unicode 字符转换为某种格式。UTF 系列编码⽅案（UTF-8、UTF-16、UTF-32）均是由 Unicode 编码⽅案衍变⽽来，以适应不同的数据存储或传递，它们都可以完全表⽰Unicode 标准中的所有字符。⽬前，这些衍变⽅案中 UTF-8 被⼴泛使⽤，⽽ UTF-16 和 UTF-32 则很少被使⽤。
UTF-8使⽤⼀⾄四个字节为每个字符编码，其中⼤部分汉字采⽤三个字节编码，少量不常⽤汉字采⽤四个字节编码。因为UTF-8 是可变长度的编码⽅式，相对于 Unicode 编码可以减少存储占⽤的空间，所以被⼴泛使⽤。
UTF-16使⽤⼆或四个字节为每个字符编码，其中⼤部分汉字采⽤两个字节编码，少量不常⽤汉字采⽤四个字节编码。UTF-16 编码有⼤尾序和⼩尾序之别，即 UTF-16BE 和 UTF-16LE，在编码前会放置⼀个 U+FEFF 或
U+FFFE（UTF-16BE 以 FEFF 代表，UTF-16LE 以 FFFE 代表），其中 U+FEFF 字符在 Unicode 中代表的意义是 ZERO WIDTH NO-BREAK SPACE，顾名思义，它是个没有宽度也没有断字的空⽩。
UTF-32使⽤四个字节为每个字符编码，使得 UTF-32 占⽤空间通常会是其它编码的⼆到四倍。UTF-32 与 UTF-16 ⼀样有⼤尾序和⼩尾序之别，编码前会放置 U+0000FEFF 或 U+FFFE0000 以区分
四、转载于

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。