对python字符串编码的理解

vulcan — Fri, 16 Nov 2007 04:59:00 GMT

用python处理html entity时,python编码时出现一些问题,见下面的代码

import re
message = '密码修改成功'
regex = '(&#(\\d{5});)'
entities = re.findall(regex, message)
for entity in entities:
message = message.replace(entity[0], unichr(int(entity[1])))
#print message #在pythonwin中执行没有问题,在pydev中执行报错
print message.encode('gbk') #正常

为了搞清除为什么会出错,下面是我做的一些测试.
下面是对'密码'两个字的一些测试,在pythonwin交互窗口中执行,虽然知道了要得到正确的中文该怎么在程序中处理,并且使得程序在pydev和pythonwin
两个环境中执行都不出错,但是却还是搞不清为什么会这个样子.先记下罢.有能解释底层机制的朋友,也请留言帮个忙吧.

>>> s = '密码'
>>> s
'\xc3\xdc\xc2\xeb'
>>> su = u'密码'
>>> su
u'\xc3\xdc\xc2\xeb'
#u前缀表示是unicode编码,但是里面实际存储的是密码两个字的gbk编码
>>> print s
密码
>>> print su #在pydev和SciTE中报错,不能打印
?ü??
>>> char1 = unichr(23494)
>>> char2 = unichr(30721)
>>> char1
u'\u5bc6'
>>> char2
u'\u7801'
>>> print char1
密
>>> print char2
码
>>> char = char1 + char2
>>> char
u'\u5bc6\u7801'
>>> print char #在pydev和SciTE中会报错为什么
密码
>>> s.decode('gbk') #变成了unicode编码16进制
u'\u5bc6\u7801'
>>> print s.decode('gbk') #在pydev和SciTE中不能正常打印输出
密码
>>> char.encode('gbk')
'\xc3\xdc\xc2\xeb'
>>> s
'\xc3\xdc\xc2\xeb'
>>> su
u'\xc3\xdc\xc2\xeb'
>>> char
u'\u5bc6\u7801'
>>> char.encode('gbk')
'\xc3\xdc\xc2\xeb'
>>> print s
密码
>>> print char.encode('gbk')
密码

Update 1:
sys.setdefaultencoding()可以设置默认编码供转换时使用,但是Python启动之后这个方法会被site.py删除,因此必须reload(sys)然后调用sys.setdefaultencoding
下面是我的测试方法,根据这里的结果,估计是pythonwin内启动的交互环境对参数应该有了设置,不过sys.getdefaultencoding()的返回还是默认的ascii:
'修改密码成功的html entity是' "密码修改成功",在下面的python代码中在这个网页上显示不对.把&要换成&符号

#python 2.4 windows, execute in SciTe or Eclipse pydev
#Note: if you execute this script in pythonwin, the result may be different!
import sys
import re
reload(sys)
#should do this to setdefault encoding of sys,
#this method is deleted in site.py [/PYTHON_HOME/Lib] by default

#try to set default encoding other than default encoding
#default ascii # Error: out 1, out 3, out 6
#sys.setdefaultencoding('gbk')  #all right, but a warning raised
#sys.setdefaultencoding('utf-8')  #out 1, out 3, out 6: unreadable in outputwindow, may be right if change the console encoding
message = '密码修改成功'
regex = '(&#(\\d{5});)'
entities = re.findall(regex, message)
for entity in entities:
    message = message.replace(entity[0], unichr(int(entity[1])))
#message : u'\u5bc6\u7801\u4fee\u6539\u6210\u529f'
print message #out 1
#message.encode('gbk') : '\xc3\xdc\xc2\xeb\xd0\xde\xb8\xc4\xb3\xc9\xb9\xa6'
print message.encode('gbk') #out 2
char1 = unichr(23494)
char2 = unichr(30721)
char = char1 + char2
#char : u'\u5bc6\u7801'
print char #out 3
#char.encode('gbk') : '\xc3\xdc\xc2\xeb'
print char.encode('gbk') #out 4
s='密码'
#s : '\xc3\xdc\xc2\xeb'
print s #out 5
#s.decode('gbk') : u'\u5bc6\u7801'
print s.decode('gbk') #out 6

vulcan 2007-11-16 12:59 发表评论

自己写的一个对svn元数据文件夹进行转换的Python脚本

vulcan — Wed, 14 Nov 2007 10:43:00 GMT

给Asp.Net项目应用SVN版本控制时,需要把SVN元数据文件夹由.svn改名为_svn,该了SVN客户端的设置之后,原有工程不会自动转换.如果工程特别大,而且文件夹嵌套特别多那么,可以考虑用下面的python进行转换:

1#Author : Vulcan Alva.yi@gmail.com
2import os
3import sys
4from os.path import join
5'''
6A script for svn meta directory convert from .svn to _svn
7'''
8def convert ():
9    os.chdir("d:\\workbench\\csx_webframe") #change to your own work directory which need convert
10    for root, dirnames, files in os.walk("."):
11        print "Current Directory:" + root
12        if "_svn" in dirnames:
13            print "Don't need convert for this directory."
14            break
15            #dirnames.remove("_svn")
16            #continue
17        if ".svn" in dirnames:  #don't go to this directory
18            dirnames.remove(".svn")
19            newname = join(root, '_svn')
20            oldname = join(root, '.svn')
21            print "Change meta dir to :" + newname
22            os.rename(oldname, newname)
23
24if __name__ == "__main__":
25    convert()

vulcan 2007-11-14 18:43 发表评论

BlogJava-vulcan-文章分类-Python编程

对python字符串编码的理解

自己写的一个对svn元数据文件夹进行转换的Python脚本