一 预备知识
1，字符：字符是抽象的最小文本单位。它没有固定的形状（可能是一个字形），而且没有值。“A”是一个字符，“�”（德国、法国和许多其他欧洲国家通用货币的标志）也是一个字符。“中”“国”这是两个汉字字符。字符仅仅代表一个符号，没有任何实际值的意义。
2，字符集：字符集是字符的集合。例如，汉字字符是中国人最先发明的字符，在中文、日文、韩文和越南文的书写中使用。这也说明了字符和字符集之间的关系，字符组成字符集（iso8859-1，GB2312/GBK，unicode）。
3，代码点：字符集中的每个字符都被分配到一个“代码点”。每个代码点都有一个特定的唯一数值，称为标值。该标量值通常用十六进制表示。
4，代码单元： 在每种编码形式中，代码点被映射到一个或多个代码单元。“代码单元”是各个编码方式中的单个单元。代码单元的大小等效于特定编码方式的位数： UTF-8 ：UTF-8 中的代码单元由 8 位组成；在 UTF-8 中，因为代码单元较小的缘故，每个代码点常常被映射到多个代码单元。代码点将被映射到一个、两个、三个或四个代码单元； UTF-16 ：UTF-16 中的代码单元由 16 位组成；UTF-16 的代码单元大小是 8 位代码单元的两倍。所以，标量值小于 U+10000 的代码点被编码到单个代码单元中； UTF-32：UTF-32 中的代码单元由 32 位组成； UTF-32 中使用的 32 位代码单元足够大，每个代码点都可编码为单个代码单元； GB18030：GB18030 中的代码单元由 8 位组成；在 GB18030 中，因为代码单元较小的缘故，每个代码点常常被映射到多个代码单元。代码点将被映射到一个、两个或四个代码单元。
5，举例： “中国北京香蕉是个大笨蛋”这是我定义的aka字符集；
各字符对应代码点为：
北 00000001
京 00000010
香 10000001
蕉 10000010
是 10000100
个 10001000
大 10010000
笨 10100000
蛋 11000000
中 00000100
国 00001000
下面是我定义的 zixia 编码方案（8位），可以看到它的编码中表示了aka字符集的所有字符对应的 代码单元；
北 10000001 京 10000010 香 00000001 蕉 00000010 是 00000100 个 00001000 大 00010000 笨 00100000 蛋 01000000 中 10000100 国 10001000
所谓文本文件 就是我们按一定编码方式将二进制数据表示为对应的文本如 00000001000000100000010000001000000100000010000001000000这样的文件。我用一个支持 zixia编码和aka字符集的记事本打开，它就按照编码方案显示为 “香蕉是个大笨蛋 ” 如果我把这些字符按照GBK另存一个文件，那么则肯定不是这个，而是 1100111111100011 1011110110110110 1100101011000111 1011100011110110 1011010011110011 1011000110111111 1011010110110000 110100001010
二，字符集
1， 常用字符集分类 ASCII及其扩展字符集 作用：表语英语及西欧语言。 位数：ASCII是用7位表示的，能表示128个字符；其扩展使用8位表示，表示256个字符。 范围：ASCII从00到7F，扩展从00到FF。 ISO-8859-1字符集 作用：扩展ASCII，表示西欧、希腊语等。 位数：8位， 范围：从00到FF，兼容ASCII字符集。 GB2312字符集 作用：国家简体中文字符集，兼容ASCII。 位数：使用2个字节表示，能表示7445个符号，包括6763个汉字，几乎覆盖所有高频率汉字。 范围：高字节从A1到F7, 低字节从A1到FE。将高字节和低字节分别加上0XA0即可得到编码。 BIG5字符集 作用：统一繁体字编码。 位数：使用2个字节表示，表示13053个汉字。 范围：高字节从A1到F9，低字节从40到7E，A1到FE。 GBK字符集 作用：它是GB2312的扩展，加入对繁体字的支持，兼容GB2312。 位数：使用2个字节表示，可表示21886个字符。 范围：高字节从81到FE，低字节从40到FE。 GB18030字符集 作用：它解决了中文、日文、朝鲜语等的编码，兼容GBK。 位数：它采用变字节表示(1 ASCII，2，4字节)。可表示27484个文字。 范围：1字节从00到7F; 2字节高字节从81到FE，低字节从40到7E和80到FE；4字节第一三字节从81到FE，第二四字节从30到39。 UCS字符集 作用：国际标准 ISO 10646 定义了通用字符集 (Universal Character Set)。它是与UNICODE同类的组织，UCS-2和UNICODE兼容。 位数：它有UCS-2和UCS-4两种格式，分别是2字节和4字节。 范围：目前，UCS-4只是在UCS-2前面加了0×0000。 UNICODE字符集 作用：为世界650种语言进行统一编码，兼容ISO-8859-1。 位数：UNICODE字符集有多个编码方式，分别是UTF-8，UTF-16和UTF-32。
2 ，按所表示的文字分类 语言 字符集 正式名称 英语、西欧语 ASCII，ISO-8859-1 MBCS 多字节 简体中文 GB2312 MBCS 多字节 繁体中文 BIG5 MBCS 多字节 简繁中文 GBK MBCS 多字节 中文、日文及朝鲜语 GB18030 MBCS 多字节 各国语言 UNICODE，UCS DBCS 宽字节三
，编码UTF-8：采用变长字节 (1 ASCII, 2 希腊字母, 3 汉字, 4 平面符号) 表示，网络传输, 即使错了一个字节，不影响其他字节，而双字节只要一个错了，其他也错了，具体如下： 如果只有一个字节则其最高二进制位为0；如果是多字节，其第一个字节从最高位开始，连续的二进制位值为1的个数决定了其编码的字节数，其余各字节均以10开头。UTF-8最多可用到6个字节。 UTF-16：采用2字节，Unicode中不同部分的字符都同样基于现有的标准。这是为了便于转换。从 0×0000到0×007F是ASCII字符，从0×0080到0×00FF是ISO-8859-1对ASCII的扩展。希腊字母表使用从0×0370到 0×03FF 的代码，斯拉夫语使用从0×0400到0×04FF的代码，美国使用从0×0530到0×058F的代码，希伯来语使用从0×0590到0×05FF的代码。中国、日本和韩国的象形文字（总称为CJK）占用了从0×3000到0×9FFF的代码；由于0×00在c语言及操作系统文件名等中有特殊意义，故很多情况下需要UTF-8编码保存文本，去掉这个0×00。举例如下： UTF-16: 0×0080 =0000 0000 1000 0000 UTF-8: 0xC280=1100 0010 1000 0000 UTF-32：采用4字节。 优缺点 UTF-8、UTF-16和UTF-32都可以表示有效编码空间 (U+000000-U+10FFFF) 内的所有Unicode字符。 使用UTF-8编码时ASCII字符只占1个字节，存储效率比较高，适用于拉丁字符较多的场合以节省空间。 对于大多数非拉丁字符（如中文和日文）来说，UTF-16所需存储空间最小，每个字符只占2个字节。 Windows NT内核是Unicode（UTF-16），采用UTF-16编码在调用系统API时无需转换，处理速度也比较快。 采用UTF-16和UTF-32会有Big Endian和Little Endian之分，而UTF-8则没有字节顺序问题，所以UTF-8适合传输和通信。 UTF-32采用4字节编码，一方面处理速度比较快，但另一方面也浪费了大量空间，影响传输速度，因而很少使用。
四，如何判断字符集1，字节序 首先说一下字节序对编码的影响，字节序分为Big Endian字节序和Little Endian字节序。不同的处理器可能不一样。所以，传输时需要告诉处理器当时的编码字节序。对于前者而言，高位字节存在低地址，低字节存于高地址；后者相反。例如，0X03AB, Big Endian字节序 0000: 0 3 0001: AB Little Endian字节序是 0000: AB 0001: 0 3 2，编码识别 UNICODE，根据前几个字节可以判断UNICODE字符集的各种编码，叫做Byte Order Mask方法BOM： UTF-8: EFBBBF (符合UTF-8格式，请看上面。但没有含义在UCS即UNICODE中) UTF-16 Big Endian：FEFF (没有含义在UCS-2中) UTF-16 Little Endian：FFFE (没有含义在UCS-2中) UTF-32 Big Endian：0000FEFF (没有含义在UCS-4中) UTF-32 Little Endian：FFFE0000 (没有含义在UCS-4中) GB2312：高字节和低字节的第1位都是1。 BIG5，GBK&GB18030：高字节的第1位为1。操作系统有默认的编码，常为GBK，可以下载别的并升级。 通过判断高字节的第1位从而知道是ASCII或者汉字编码。
#includeKarlson,2009-07-25 13:39:57
1 class CChineseCode 2 3 { 4 5 public: 6 7 static void UTF_8ToUnicode(wchar_t* pOut,char *pText); // 把UTF-8转换成Unicode 8 9 static void UnicodeToUTF_8(char* pOut,wchar_t* pText); //Unicode 转换成UTF-8 10 11 static void UnicodeToGB2312(char* pOut,wchar_t uData); // 把Unicode 转换成 GB2312 12 13 static void Gb2312ToUnicode(wchar_t* pOut,char *gbBuffer);// GB2312 转换成 Unicode 14 15 static void GB2312ToUTF_8(string& pOut,char *pText, int pLen);//GB2312 转为 UTF-8 16 17 static void UTF_8ToGB2312(string &pOut, char *pText, int pLen);//UTF-8 转为 GB2312 18 19 }; 20 21 类实现 22 23 void CChineseCode::UTF_8ToUnicode(wchar_t* pOut,char *pText) 24 25 { 26 27 char* uchar=(char *)pOut; 28 29 uchar[1]=((pText[0] & 0x0F)<< 4) + ((pText[1] >>2) & 0x0F); 30 31 uchar[0]=((pText[1] & 0x03)<< 6) + (pText[2] & 0x3F); 32 33 return; 34 35 } 36 37 void CChineseCode::UnicodeToUTF_8(char* pOut,wchar_t* pText) 38 39 { 40 41 // 注意 WCHAR高低字的顺序,低字节在前，高字节在后 42 43 char* pchar=(char *)pText; 44 45 pOut[0]=(0xE0 | ((pchar[1] & 0xF0) >>4)); 46 47 pOut[1]=(0x80 | ((pchar[1] & 0x0F)<< 2)) + ((pchar[0] & 0xC0) >>6); 48 49 pOut[2]=(0x80 | (pchar[0] & 0x3F)); 50 51 return; 52 53 } 54 55 void CChineseCode::UnicodeToGB2312(char* pOut,wchar_t uData) 56 57 { 58 59 WideCharToMultiByte(CP_ACP,NULL,&uData,1,pOut,sizeof(wchar_t),NULL,NULL); 60 61 return; 62 63 } 64 65 void CChineseCode::Gb2312ToUnicode(wchar_t* pOut,char *gbBuffer) 66 67 { 68 69 ::MultiByteToWideChar(CP_ACP,MB_PRECOMPOSED,gbBuffer,2,pOut,1); 70 71 return ; 72 73 } 74 75 void CChineseCode::GB2312ToUTF_8(string& pOut,char *pText, int pLen) 76 77 { 78 79 char buf[4]; 80 81 int nLength=pLen* 3; 82 83 char* rst=new char[nLength]; 84 85 memset(buf,0,4); 86 87 memset(rst,0,nLength); 88 89 int i=0; 90 91 int j=0; 92 93 while(i< pLen) 94 95 { 96 97 //如果是英文直接复制就可以 98 99 if( *(pText + i) >=0) 100 101 { 102 103 rst[j++]=pText[i++]; 104 105 } 106 107 else 108 109 { 110 111 wchar_t pbuffer; 112 113 Gb2312ToUnicode(&pbuffer,pText+i); 114 115 UnicodeToUTF_8(buf,&pbuffer); 116 117 unsigned short int tmp=0; 118 119 tmp=rst[j]=buf[0]; 120 121 tmp=rst[j+1]=buf[1]; 122 123 tmp=rst[j+2]=buf[2]; 124 125 j +=3; 126 127 i +=2; 128 129 } 130 131 } 132 133 rst[j]="'; 134 135 //返回结果 136 137 pOut= rst; 138 139 delete []rst; 140 141 return; 142 143 } 144 145 void CChineseCode::UTF_8ToGB2312(string &pOut, char *pText, int pLen) 146 147 { 148 149 char * newBuf=new char[pLen]; 150 151 char Ctemp[4]; 152 153 memset(Ctemp,0,4); 154 155 int i=0; 156 157 int j=0; 158 159 while(i< pLen) 160 161 { 162 163 if(pText >0) 164 165 { 166 167 newBuf[j++]=pText[i++]; 168 169 } 170 171 else 172 173 { 174 175 WCHAR Wtemp; 176 177 UTF_8ToUnicode(&Wtemp,pText + i); 178 179 UnicodeToGB2312(Ctemp,Wtemp); 180 181 newBuf[j]=Ctemp[0]; 182 183 newBuf[j + 1]=Ctemp[1]; 184 185 i +=3; 186 187 j +=2; 188 189 } 190 191 } 192 193 newBuf[j]="'; 194 195 pOut= newBuf; 196 197 delete []newBuf; 198 199 return; 200 201 }