posts - 262,  comments - 221,  trackbacks - 0

【GBK转UTF-8】


在很多论坛、网上经常有网友问“ 为什么我使用 new String(tmp.getBytes("ISO-8859-1"), "UTF-8") 或者 new String(tmp.getBytes("ISO-8859-1"), "GBK")可以得到正确的中文,但是使用 new String(tmp.getBytes("GBK"), "UTF-8") 却不能将GBK转换成UTF-8呢?”

参考前面的
【Java基础专题】编码与乱码(03)----String的toCharArray()方法测试 一文,我们就知道原因了。因为如果客户端使用GBK、UTF-8编码,编码后的字节经过ISO-8859-1传输,再用原来相同的编码方式进行解码,这个过程是“无损的转换”---- 因为原始和最终的编码方式相同。

但是如果客户端使用GBK编码,到了服务器端要转换成UTF-8,或者相反的过程。想一想,字节还是那些字节,但是编码的规则变了。原来GBK编码后的4个字节要用UTF-8的每个字符3个字节的规则编码,怎么能不乱码呢?

所以从现在开始,不要再犯这种错误了。new String(tmp.getBytes("GBK"), "UTF-8") 这个过程,JVM内部是不会帮你自动对字节进行扩展以适应UTF-8的编码的。正确的方法应该是根据UTF-8的编码规则进行字节的扩充,即手动从2个字节变成3个字节,然后再转换成十六进制的UTF-8编码。

在这个专题的第一篇文章
【Java基础专题】编码与乱码(01)---编码基础 开头,我们就已经介绍了这个规则:
 ①得到每个字符的2进制GBK编码
 ②将该16进制的GBK编码转换成2进制的字符串(2个字节)
 ③分别在字符串的首位插入110,在第9位插入10,在第17位插入10三个字符串,得到3个字节
 ④将这3个字节分别转换成16进制编码,得到最终的UTF-8编码。




下面给出一个从网络上得到的Java转码方法,原文链接见:
http://jspengxue.javaeye.com/blog/40781。下面的代码做了小小的修改

package example.encoding;

/**
 * The Class CharacterEncodeConverter.
 
*/

public class CharacterEncodeConverter {

    
/**
     * The main method.
     * 
     * 
@param args the arguments
     
*/

    
public static void main(String[] args) {

        
try {
            CharacterEncodeConverter convert 
= new CharacterEncodeConverter();
            
byte[] fullByte = convert.gbk2utf8("中文");
            String fullStr 
= new String(fullByte, "UTF-8");
            System.out.println(
"string from GBK to UTF-8 byte:  " + fullStr);

        }
 catch (Exception e) {
            e.printStackTrace();
        }

    }


    
/**
     * Gbk2utf8.
     * 
     * 
@param chenese the chenese
     * 
     * 
@return the byte[]
     
*/

    
public byte[] gbk2utf8(String chenese) {
        
        
// Step 1: 得到GBK编码下的字符数组,一个中文字符对应这里的一个c[i]
        char c[] = chenese.toCharArray();
        
        
// Step 2: UTF-8使用3个字节存放一个中文字符,所以长度必须为字符的3倍
        byte[] fullByte = new byte[3 * c.length];
        
        
// Step 3: 循环将字符的GBK编码转换成UTF-8编码
        for (int i = 0; i < c.length; i++{
            
            
// Step 3-1:将字符的ASCII编码转换成2进制值
            int m = (int) c[i];
            String word 
= Integer.toBinaryString(m);
            System.out.println(word);

            
// Step 3-2:将2进制值补足16位(2个字节的长度) 
            StringBuffer sb = new StringBuffer();
            
int len = 16 - word.length();
            
for (int j = 0; j < len; j++{
                sb.append(
"0");
            }

            
// Step 3-3:得到该字符最终的2进制GBK编码
            
// 形似:1000 0010 0111 1010
            sb.append(word);
            
            
// Step 3-4:最关键的步骤,根据UTF-8的汉字编码规则,首字节
            
// 以1110开头,次字节以10开头,第3字节以10开头。在原始的2进制
            
// 字符串中插入标志位。最终的长度从16--->16+3+2+2=24。
            sb.insert(0"1110");
            sb.insert(
8"10");
            sb.insert(
16"10");
            System.out.println(sb.toString());

            
// Step 3-5:将新的字符串进行分段截取,截为3个字节
            String s1 = sb.substring(08);
            String s2 
= sb.substring(816);
            String s3 
= sb.substring(16);

            
// Step 3-6:最后的步骤,把代表3个字节的字符串按2进制的方式
            
// 进行转换,变成2进制的整数,再转换成16进制值
            byte b0 = Integer.valueOf(s1, 2).byteValue();
            
byte b1 = Integer.valueOf(s2, 2).byteValue();
            
byte b2 = Integer.valueOf(s3, 2).byteValue();
            
            
// Step 3-7:把转换后的3个字节按顺序存放到字节数组的对应位置
            byte[] bf = new byte[3];
            bf[
0= b0;
            bf[
1= b1;
            bf[
2= b2;
            
            fullByte[i 
* 3= bf[0];            
            fullByte[i 
* 3 + 1= bf[1];            
            fullByte[i 
* 3 + 2= bf[2];
            
            
// Step 3-8:返回继续解析下一个中文字符
        }

        
return fullByte;
    }

}

最终的测试结果是正确的:string from GBK to UTF-8 byte:  中文。

但是这个方法并不是完美的!要知道这个规则只对中文起作用,如果传入的字符串中包含有单字节字符,如a+3中文,那么解析的结果就变成:string from GBK to UTF-8 byte:  ?????????中文了。为什么呢?道理很简单,这个方法对原本在UTF-8中应该用单字节表示的数字、英文字符、符号都变成3个字节了,所以这里有9个?,代表被转换后的a、+、3字符。

所以要让这个方法更加完美,最好的方法就是加入对字符Unicode区间的判断

UCS-2编码(16进制) UTF-8 字节流(二进制)
0000 - 007F 0xxxxxxx
0080 - 07FF 110xxxxx 10xxxxxx
0800 - FFFF 1110xxxx 10xxxxxx 10xxxxxx






汉字的Unicode编码范围为\u4E00-\u9FA5 \uF900-\uFA2D,如果不在这个范围内就不是汉字了。

【UTF-8转GBK】

道理和上面的相同,只是一个逆转的过程,不多说了


但是最终的建议还是:能够统一编码就统一编码吧!要知道编码的转换是相当的耗时的工作



-------------------------------------------------------------
生活就像打牌,不是要抓一手好牌,而是要尽力打好一手烂牌。
posted on 2010-02-22 23:00 Paul Lin 阅读(36803) 评论(11)  编辑  收藏 所属分类: J2SE


FeedBack:
# re: 【Java基础专题】编码与乱码(05)---GBK与UTF-8之间的转换
2010-02-24 05:25 | tbw
学习了。  回复  更多评论
  
# re: 【Java基础专题】编码与乱码(05)---GBK与UTF-8之间的转换
2010-02-24 11:07 | 没有脑和不高兴
tmp.getBytes("UTF-8")不就得了?  回复  更多评论
  
# re: 【Java基础专题】编码与乱码(05)---GBK与UTF-8之间的转换
2010-02-24 14:38 | Paul Lin
@没有脑和不高兴

你所说的tmp.getBytes("UTF-8");是直接从内存中取出Unicode,然后转换成UTF-8编码的字符,再得到该字符的字节数组。这个时候的编码转换流程是:

Unicode字符 ---> encode字符 ---> encode byte[]

而我文章中的内容是针对“原始数据以GBK格式传输,在目的端要转换成UTF-8的格式保存”,从时机上说比你这个要早了一步,这个时候的编码转换流程是:

GBK字符 ---> GBK字节---> 以ISO-8859-1 单字节传输 ---> 【转换为UTF-8字节】---> UTF-8字符 ---> Unicode字符

带方括号的就是我文章中讲的内容,请注意中间并没有生成GBK字符。而是直接在字节级就进行转换了。如果先解码成GBK字符,再用UTF-8编码,那就是你说的这种情况了。但是这样就太繁琐而且浪费内存空间了  回复  更多评论
  
# re: 【Java基础专题】编码与乱码(05)---GBK与UTF-8之间的转换
2010-02-25 22:12 | bat
有的网站上说 UTF-8不能包括所有汉字 提倡用GBK 这个影响大吗?  回复  更多评论
  
# re: 【Java基础专题】编码与乱码(05)---GBK与UTF-8之间的转换
2010-03-01 15:29 | 没头脑和不高兴
GBK字符 ---> GBK字节---> 以ISO-8859-1 单字节传输 ---> 【转换为UTF-8字节】---> UTF-8字符 ---> Unicode字符

GBK和UTF-8都是交换码,只是字节,所谓的GBK字符是指误将GBK当做ISO-8859-1转换成的字符吧?
那么还是new String(tmp.getBytes("ISO-8859-1"), "GBK").getBytes("UTF-8")  回复  更多评论
  
# re: 【Java基础专题】编码与乱码(05)---GBK与UTF-8之间的转换
2010-03-01 15:31 | 没头脑和不高兴
@bat
UTF-8字汇和GB18030是兼容的,GB18030基本上是GBK的超集,仅规范了个别码位。所以belabela
  回复  更多评论
  
# re: 【Java基础专题】编码与乱码(05)---GBK与UTF-8之间的转换[未登录]
2010-03-02 09:35 | Paul Lin
@没头脑和不高兴

GBK和UTF-8都是交换码,只是字节,所谓的GBK字符是指误将GBK当做ISO-8859-1转换成的字符吧?
==================================================
准确说不是误传,而是HTTP协议只支持使用ISO-8859-1的协议传递,客户端的浏览器是按照GBK的编码转换成4个字节发出的。字节的内容和顺序还是正确的。

其次你说的交换码是什么意思?请指教


那么还是new String(tmp.getBytes("ISO-8859-1"), "GBK").getBytes("UTF-8")
==================================================
你这个做法没错,最终得到的就是从Unicode--->UTF-8编码,再用这个就可以构造出UTF-8的字符串了。

但是我个人比较懒(^_^),其次我想节省内存空间(不生成临时的GBK字符),所以就直接从字节开始转了

  回复  更多评论
  
# re: 【Java基础专题】编码与乱码(05)---GBK与UTF-8之间的转换[未登录]
2010-03-02 09:38 | Paul Lin
@没头脑和不高兴

@bat
UTF-8字汇和GB18030是兼容的,GB18030基本上是GBK的超集,仅规范了个别码位。所以belabela
====================================================

我的印象中,UTF-8是使用3个字节来表示中文的,GB18030是使用2个字节,他们对同一个汉字的编码各自不同,你说的兼容是指那方面的呢?

GB18030 》GB2312 》GBK 这个我就记得是兼容的  回复  更多评论
  
# re: 【Java基础专题】编码与乱码(05)---GBK与UTF-8之间的转换
2013-10-28 17:05 | 杨建群
谁告诉你们utf8的汉字编码就一定是3个字符啊??  回复  更多评论
  
# re: 【Java基础专题】编码与乱码(05)---GBK与UTF-8之间的转换
2014-01-07 17:31 | blues
@杨建群
是的,也有很多两个的, 只是一部分超出的集合才用3个字节进行扩充的  回复  更多评论
  
# re: 【Java基础专题】编码与乱码(05)---GBK与UTF-8之间的转换
2014-06-18 18:09 | karl
正常情况下,从外部来的数据都是二进制流。不是以String形式存在。最直观的就是:从文件流读取byte[]到java,然后进行编码转化。

byte[] bytes = {FileInputStream从文件读取二进制bytes};
byte[] targetBytes = new String(bytes, sourceCharset).getBytes(targetCharset)

这样targetBytes就直接保存的就是目标charset的byte流。  回复  更多评论
  

只有注册用户登录后才能发表评论。


网站导航:
 
<2014年6月>
25262728293031
1234567
891011121314
15161718192021
22232425262728
293012345

常用链接

留言簿(21)

随笔分类

随笔档案

BlogJava热点博客

好友博客

搜索

  •  

最新评论

阅读排行榜

评论排行榜