中文繁体、简体的差异,在NPL中类似英文中的大小写,但又比大小写更为复杂,比如同样为繁体字,大陆、香港和台湾又不一样。先前写过一篇中文繁简转换的文章,感觉写的不太详细,今天就针对Python下如何使用做进一步的记录。
OpenCC(Open Chinese Convert)
OpenCC是一个开源的中文繁简转化项目,支持词汇级别的转换、异体字转换和地区习惯用词转换(中国大陆、台湾、香港)。主要特点为:
- 严格区分「一简对多繁」和「一简对多异」。
- 完全兼容异体字,可以实现动态替换。
- 严格审校一简对多繁词条,原则为「能分则不合」。
- 支持中国大陆、台湾、香港异体字和地区习惯用词转换,如「裏」「裡」、「鼠標」「滑鼠」。
- 词库和函数库完全分离,可以自由修改、导入、扩展。
- 支持C、C++、Python、PHP、Java、Ruby、js and Android。
- 兼容Windows、Linux、Mac平台。
opencc-python是用纯Python所写的OpenCC实现。需要注意的是使用pip安装时正确的命令是pip install opencc-python-reimplemented,如果使用pip install opencc-python会出现如下错误:
Complete output from command python setup.py egg_info:
Traceback (most recent call last):
File "", line 1, in
File "C:UsersqwAppDataLocalTemppip-install-rvsnpo_dopencc-pythonsetup.py", line 1, in
from distribute_setup import use_setuptools
ModuleNotFoundError: No module named 'distribute_setup'
opencc-pytho的使用:
from opencc import OpenCC cc = OpenCC('t2s') # hk2s: Traditional Chinese (Hong Kong standard) to Simplified Chinese # s2hk: Simplified Chinese to Traditional Chinese (Hong Kong standard) # s2t: Simplified Chinese to Traditional Chinese # s2tw: Simplified Chinese to Traditional Chinese (Taiwan standard) # s2twp: Simplified Chinese to Traditional Chinese (Taiwan standard, with phrases) # t2hk: Traditional Chinese to Traditional Chinese (Hong Kong standard) # t2s: Traditional Chinese to Simplified Chinese # t2tw: Traditional Chinese to Traditional Chinese (Taiwan standard) # tw2s: Traditional Chinese (Taiwan standard) to Simplified Chinese # tw2sp: Traditional Chinese (Taiwan standard) to Simplified Chinese (with phrases) to_convert = '開放中文轉換(Pure Python)' converted = cc.convert(to_convert) print(converted)
opencc-python命令行调用:
usage: python -m opencc [-h] [-i] [-o ] [-c ] [--in-enc ] [--out-enc ] optional arguments: -h, --help show this help message and exit -i , --input Read original text from . (default: None = STDIN) -o , --output Write converted text to . (default: None = STDOUT) -c , --config Conversion (default: None) --in-enc Encoding for input (default: UTF-8) --out-enc Encoding for output (default: UTF-8) example with UTF-8 encoded file: python -m opencc -c s2t -i my_simplified_input_file.txt -o my_traditional_output_file.txt See https://docs.python.org/3/library/codecs.html#standard-encodings for list of encodings.
总结:OpenCC精度非常的高,另外也包含了习惯用词转换,比较适合放置在网站上进行自动的语言翻译。
参考链接:
https://github.com/BYVoid/OpenCC
https://github.com/yichen0831/opencc-python
zhconv
zhconv 提供基于 MediaWiki 和 OpenCC 词汇表的最大正向匹配简繁转换,支持地区词转换:zh-cn, zh-tw, zh-hk, zh-sg, zh-hans, zh-hant。Python 2、3通用。
安装方式:pip install zhconv
使用示例:
from zhconv import convert print(convert(u'我幹什麼不干你事。', 'zh-cn')) print(convert(u'人体内存在很多微生物', 'zh-tw'))
命令行工具:
python -mzhconv [-w] {zh-cn|zh-tw|zh-hk|zh-sg|zh-hans|zh-hant|zh} < input > output
参考链接:
https://github.com/gumblex/zhconv
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持考高分网。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)