博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
java编码 unicode
阅读量:5838 次
发布时间:2019-06-18

本文共 2800 字,大约阅读时间需要 9 分钟。

hot3.png

编码问题存在两个方面:JVM之内和JVM之外。 1、Java文件编译后形成class 这里Java文件的编码可能有多种多样,但Java编译器会自动将这些编码按照Java文件的编码格式正确读取后产生class文件,这里的class文件编码是Unicode编码(具体说是UTF-16编码)。 因此,在Java代码中定义一个字符串: String s="汉字"; 不管在编译前java文件使用何种编码,在编译后成class后,他们都是一样的----Unicode编码表示。 2、JVM中的编码 JVM加载class文件读取时候使用Unicode编码方式正确读取class文件,那么原来定义的String s="汉字";在内存中的表现形式是Unicode编码。 Java与Unicode:

Java的class文件采用utf8的编码方式,JVM运行时采用utf16。

Java的字符串是unicode编码的。

总之,Java采用了unicode字符集,使之易于国际化。

Java支持哪些字符集:

即Java能识别哪些字符集并对它进行正确地处理?

查看Charset 类,最新的JDK支持160种字符集。可以通过static方法availableCharsets拿到所有Java支持的字符集。

Java代码 收藏代码 assertEquals(160, Charset.availableCharsets().size());

Set<String> charsetNames = Charset.availableCharsets().keySet();

assertTrue(charsetNames.contains("utf-8"));

assertTrue(charsetNames.contains("utf-16"));
assertTrue(charsetNames.contains("gb2312"));

assertTrue(Charset.isSupported("utf-8"));

需要在哪些时候注意编码问题?

  1. 从外部资源读取数据:

这跟外部资源采取的编码方式有关,我们需要使用外部资源采用的字符集来读取外部数据:

Java代码 收藏代码 InputStream is = new FileInputStream("res/input2.data");

InputStreamReader streamReader = new InputStreamReader(is, "GB18030");

这里可以看到,我们采用了GB18030编码读取外部数据,通过查看streamReader的encoding可以印证:

Java代码 收藏代码 assertEquals("GB18030", streamReader.getEncoding());

正是由于上面我们为外部资源指定了正确的编码,当它转成char数组时才能正确地进行解码(GB18030 -> unicode):

Java代码 收藏代码 char[] chars = new char[is.available()];

streamReader.read(chars, 0, is.available());

但我们经常写的代码就像下面这样:

Java代码 收藏代码 InputStream is = new FileInputStream("res/input2.data");

InputStreamReader streamReader = new InputStreamReader(is);

这时候InputStreamReader采用什么编码方式读取外部资源呢?Unicode?不是,这时候采用的编码方式是JVM的默认字符集,这个默认字符集在虚拟机启动时决定,通常根据语言环境和底层操作系统的 charset 来确定。可以通过以下方式得到JVM的默认字符集:

Java代码 收藏代码 Charset.defaultCharset();

为什么要这样?因为我们从外部资源读取数据,而外部资源的编码方式通常跟操作系统所使用的字符集一样,所以采用这种默认方式是可以理解的。

好吧,那么我通过我的IDE Ideas创建了一个文件,并以JVM默认的编码方式从这个文件读取数据,但读出来的数据竟然是乱码。为何?呵呵,其实是因为通过Ideas创建的文件是以utf-8编码的。要得到一个JVM默认编码的文件,通过手工创建一个txt文件试试吧。

  1. 字符串和字节数组的相互转换

我们通常通过以下代码把字符串转换成字节数组:

Java代码 收藏代码 "string".getBytes();

但你是否注意过这个转换采用的编码呢?其实上面这句代码跟下面这句是等价的:

Java代码 收藏代码 "string".getBytes(Charset.defaultCharset());

也就是说它根据JVM的默认编码(而不是你可能以为的unicode)把字符串转换成一个字节数组。

反之,如何从字节数组创建一个字符串呢?

Java代码 收藏代码 new String("string".getBytes());

同样,这个方法使用平台的默认字符集解码字节的指定数组(这里的解码指从一种字符集到unicode)。

字符串编码迷思:

Java代码 收藏代码 new String(input.getBytes("ISO-8859-1"), "GB18030")

上面这段代码代表什么?有人会说: “把input字符串从ISO-8859-1编码方式转换成GB18030编码方式”。如果这种说法正确,那么又如何解释我们刚提到的java字符串都采用unicode编码呢?

这种说法不仅是欠妥的,而且是大错特错的,让我们一一来分析,其实事实是这样的:我们本应该用GB18030的编码来读取数据并解码成字符串,但结果却采用了ISO-8859-1的编码,导致生成一个错误的字符串。要恢复,就要先把字符串恢复成原始字节数组,然后通过正确的编码GB18030再次解码成字符串(即把以GB18030编码的数据转成unicode的字符串)。注意,字符串永远都是unicode编码的。

但编码转换并不是负负得正那么简单,这里我们之所以可以正确地转换回来,是因为 ISO8859-1 是单字节编码,所以每个字节被按照原样 转换为 String ,也就是说,虽然这是一个错误的转换,但编码没有改变,所以我们仍然有机会把编码转换回来!

总结:

所以,我们在处理java的编码问题时,要分清楚三个概念:Java采用的编码:unicode,JVM平台默认字符集和外部资源的编码。

转载于:https://my.oschina.net/selfdesign/blog/683836

你可能感兴趣的文章
es6 模板字符串
查看>>
PyEcharts
查看>>
RecyclerView 缓存机制详解
查看>>
简单十招提高jQuery执行效率
查看>>
disruptor调研报告
查看>>
maven-surefire-plugin总结
查看>>
干货|BERT fine-tune 终极实践教程
查看>>
阿里开源项目最佳实践在线峰会免费报名!丨InfoQ读者福利
查看>>
「DTCC 2018」为云而生!解密华为 Cloud Native 分布式数据库
查看>>
“长安蔚来”落户南京:李斌任董事长 杨放任CEO
查看>>
蒙古族传统圣火祭祀点燃新年祈福之旅
查看>>
在湘留学生舞龙欢度中国农历小年:中国是第二个家
查看>>
新疆、内蒙、青海三省区骆驼齐聚柴达木上演“激情与速度”
查看>>
“咫尺之境——成都武侯祠馆藏扇面精品展”在成都开展
查看>>
python面试几大重点,BAT公司都很重视!
查看>>
第二届亚太应用经济学会博硕士论文研讨会长沙落幕
查看>>
中信也做云——传统行业的数字化转型是这么玩的
查看>>
刘强东“不给快递员发社会保险和福利的公司都是毒瘤”
查看>>
阿里巴巴达摩院又一技术大牛获选ACM杰出科学家
查看>>
RocketMQ源码解析:Message拉取&消费(下)
查看>>