最新消息:20210917 已从crifan.com换到crifan.org

【总结】Python 2.x中的和编码相关的常见问题和注意事项

StringEncoding crifan 2147浏览 0评论

声明:

1.本文不再更新。

2.本人内容,已合并到:

【总结】Python中常见字符编码和解码方面的错误及其解决办法

新帖子总结的更加全面,并且分析了原因,和总结了解决办法,还给出了示例代码。

3.这方面的内容,如有更新,也只会更新到上述新帖子中。


Python 2.x中,的确是,经常性地,容易出现字符编码相关的错误。

即便像我这样的,算是在字符编码折腾了很长时间的,也自认为比较了解字符编码方面的情况了,结果也还是偶尔再次遇到类似的问题。

 

所以,在此特地总结一下,一些常见,Python 2.x中的编码的问题:

注:Python 3.x中的编码,进行了重新设计,相对来说,会很少出现这类编码问题。

关于Python 2.x和Python 3.x,不了解的可以去参考:

【整理】总结Python2(Python 2.x版本)和Python3(Python 3.x版本)之间的区别

 

1.字符(变量)本身是对的,但是(打印)输出时出错或乱码

有时候,虽然已经获得了正常的字符,但是却由于输出过程中,由于输出目标(终端,文件等)中不支持该编码,而导致出现字符显示方面的错误

 

已获得的正常的字符包括两类:

  • Unicode
  • 某种编码的字符:比如UTF-8等

 

要输出的目标,也包括几种:

  • windows的cmd:最最常见的,是Windows XP/Win7中的命令行cmd,多数的默认编码为GBK
  • 文件:但是该文件已经是某种编码的,比如通过codecs模块设置为UTF-8编码了

 

相关演示代码为:

#!/usr/bin/python
# -*- coding: utf-8 -*-
"""
Function:
【总结】Python 2.x中的和编码相关的常见问题和注意事项
【总结】Python 2.x中的和编码相关的常见问题和注意事项
Version: 2012-11-22 Author: Crifan """ #测试1:将UTF-8字符,在GBK编码中的cmd中显示 utf8Str = "crifan 在路上"; print "try show UTF-8 string in (GBK encoding) cmd, utf8Str=",utf8Str; #此处虽然能显示,但是却是乱码: #try show UTF-8 string in (GBK encoding) cmd, utf8Str= crifan 鍦ㄨ矾涓 #测试2:已获得正确的Unicode字符,将其显示在GBK编码的cmd中 #任何字符,都可以在: #http://unicodelookup.com/ #中,查找到对应的unicode的值 #can found at: #http://zhidao.baidu.com/question/500133781.html slashUStr = "\\u3232\\u6674"; #(有) 晴 decodedUniChars = slashUStr.decode("unicode-escape"); #此处已经可以正常获得对应的两个Unicode字符了 print "decodedUniChars=",decodedUniChars; #此处在cmd中输出的话,会出现错误的: #UnicodeEncodeError: 'gbk' codec can't encode character u'\u3232' in position 0: illegal multibyte sequence #那是因为,Unicode字符:0x3232,是个特殊字符,而此字符,在GBK编码中没有,所以当然无法显示 #所以,当此处,要将值为0x3232的Unicode字符,去尝试编码为GBK,尝试在cmd中输出显示的时候,就出现了UnicodeEncodeError #即,此种UnicodeEncodeError,是由于输出目标所用字符编码中,没有包含此(特殊)字符而导致的

 

2.

转载请注明:在路上 » 【总结】Python 2.x中的和编码相关的常见问题和注意事项

发表我的评论
取消评论

表情

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址
91 queries in 0.194 seconds, using 20.17MB memory