需求:將utf-8格式的文件轉(zhuǎn)換成gbk格式的文件
實現(xiàn)代碼如下:
def ReadFile(filePath,encoding="utf-8"):
with codecs.open(filePath,"r",encoding) as f:
return f.read()
def WriteFile(filePath,u,encoding="gbk"):
with codecs.open(filePath,"w",encoding) as f:
f.write(u)
def UTF8_2_GBK(src,dst):
content = ReadFile(src,encoding="utf-8")
WriteFile(dst,content,encoding="gbk")
代碼講解:
函數(shù)ReadFile的第二個參數(shù)指定以utf-8格式的編碼方式讀取文件,返回的結(jié)果content為Unicode然后,在將Unicode以gbk格式寫入文件中。
這樣就能實現(xiàn)需求。
但是,如果要轉(zhuǎn)換格式的文件中包含有一些字符并不包含在gbk字符集中的話,就會報錯,類似如下:
UnicodeEncodeError: 'gbk' codec can't encode character u'\xa0' in position 4813: illegal multibyte sequence
以上的報錯信息的意思是:在將Unicode編碼成gbk的時候,不能將Unicode u'\xa0'編碼成gbk。
這里,我們需要弄清楚gb2312、gbk和gb18030三者之間的關(guān)系
GB2312:6763個漢字
GBK:21003個漢字
GB18030-2000:27533個漢字
GB18030-2005:70244個漢字
所以,GBK是GB2312的超集,GB18030是GBK的超集。
理清了關(guān)系之后,我們進(jìn)一步改進(jìn)下代碼:
def UTF8_2_GBK(src,dst):
content = ReadFile(src,encoding="utf-8")
WriteFile(dst,content,encoding="gb18030")
運行后,發(fā)現(xiàn)沒有報錯,可以正常運行。
因為,在GB18030字符集中,可以找到u'\xa0'對應(yīng)的字符。
此外,還有另外一種實現(xiàn)方案:
需要修改下WriteFile方法
def WriteFile(filePath,u,encoding="gbk"):
with codecs.open(filePath,"w") as f:
f.write(u.encode(encoding,errors="ignore"))
這里,我們將Unicode編碼(encode)成gbk格式,但是注意encode函數(shù)的第二個參數(shù),我們賦值"ignore",表示在編碼的時候,忽略掉那些無法編碼的字符,解碼同理。
但是,當(dāng)我們執(zhí)行后,發(fā)現(xiàn)可以成功的將utf-8格式的文件修改成了ansi格式。但,另外發(fā)現(xiàn)生成的文件中,每個一行都有一行空行。
這里,可以指定以二進(jìn)制流的形式寫文件,修改后的代碼如下:
def WriteFile(filePath,u,encoding="gbk"):
with codecs.open(filePath,"wb") as f:
f.write(u.encode(encoding,errors="ignore"))