海安零距离 海安论坛 海安新闻 海安

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 2002|回复: 0

没提供编码格式,读文件时要怎么推测文件具体的编码

[复制链接]

6234

主题

6234

帖子

1万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
18716
发表于 2019-12-27 14:48 | 显示全部楼层 |阅读模式
引子

我们知道从一个文件流中读取内容时是要指定具体的编码格式的,否则读出来的内容会是乱码。好比我们的代码写成下面这个样子:
  1. private static void m1(){    try(FileInputStream fileInputStream = new FileInputStream("D:\\逐日摘录.txt")) {        byte[] bytes = FileCopyUtils.copyToByteArray(fileInputStream);        System.out.println(new String(bytes));    } catch (FileNotFoundException e) {        e.printStackTrace();    } catch (IOException e) {        e.printStackTrace();    }}
复制代码
执行上面的代码,偶然我们能“荣幸”得到正确的执行结果。因为new String(byte[])这个方法会指定默认的编码格式,以是如果我们读取的文件的编码格式恰恰是UTF8的话,那上面的代码就一点题目没有。但是如果我们读取的是一个编码格式是GBK的文件,那么得到的内容将是一坨乱码。
上面的题目办理起来很简朴,只要指定下字符编码就可以了。
  1. new String(bytes,"GBK");
复制代码
在告知文件编码格式的条件下,办理上面的题目是很简朴。如果如今没告知文件具体的编码格式,我们必要怎么正确的读取文件呢?一个可行的办法是推测文件编码方式。
推测文件编码的方式

网上有多种方式可以“推测”出一个文件的可用编码,但是必要留意的是:全部的方法都不能包管推测出来的结果是绝对正确的,有的方法推测的正确率较高,而有的方法推测出来的正确率较低。重要的推测方法有以下几种:

  • 通过文件的前三个字节来判断:因为有些编码格式会存在文件的前面3个字节中,好比UTF-8编码格式的文本文件,其前3个字节的值就是-17、-69、-65。但是很显着,这种方式的范围性比较大,推测出来的正确率也比较低,因此不保举这种方式。
  • 通过特殊字符来判断:通过某些编码格式编码的文件中会出现一些特殊的字节值,因此可以通过判断文件中是否有这些特殊值来推测文件编码格式。此方正确率也不高,不保举利用。
  • 通过工具库cpdetector来判断:cpdector 是一款开源的文档编码检测工具,可以检测 xml,html文档编码范例。是基于统计学原理来推测文件编码的,但是也不包管推测结果的正确性。
  • 通过ICU4J库来判断:ICU的推测逻辑基于IBM已往几十年网络的字符集数据,理论上也是基于统计学的。这种方式统计的结果正确性也较高保举利用。
下面就来具体先容下怎么利用cpdector和ICU4J推测文件编码。
cpdector

利用Cpdetector jar包,提供两种方式检测文件编码,至于选择哪种 必要根据个人需求,文档有解释。依赖antlr-2.7.4.jar,chardet-1.0.jar,jargs-1.0.jar三个jar包。 可以再官网下载 http://cpdetector.sourceforge.net/。
  1. import info.monitorenter.cpdetector.io.ASCIIDetector;import info.monitorenter.cpdetector.io.ByteOrderMarkDetector;import info.monitorenter.cpdetector.io.CodepageDetectorProxy;import info.monitorenter.cpdetector.io.JChardetFacade;import info.monitorenter.cpdetector.io.ParsingDetector;import info.monitorenter.cpdetector.io.UnicodeDetector;import java.io.BufferedInputStream;import java.io.ByteArrayInputStream;import java.io.IOException;import java.io.InputStream;import java.nio.charset.Charset;import org.apache.log4j.Logger;/** *  *  获取流编码,不包管完全正确,设置检测策略 isFast为true为快速检测策略,false为正常检测 *  InputStream 支持mark,则会在检测后调用reset,外部可重新利用。 *  InputStream 流没有关闭。 *
  2. *  *  *  如果采用快速检测编码方式,最多会扫描8个字节,依次采用的{@link UnicodeDetector},{@link byteOrderMarkDetector}, *  {@link JChardetFacade}, {@link ASCIIDetector}检测。对于一些标准的unicode编码,得当这个方式大概对耗时敏感的。 *
  3. *  *  *  采用正常检测,读取指定字节数,如果没有指定,默认读取全部字节检测,依次采用的{@link byteOrderMarkDetector},{@link parsingDetector},{@link JChardetFacade}, {@link ASCIIDetector}检测。 *  字节越多检测时间越长,正确率较高。 *
  4. * @author WuKong * */public class CpdetectorEncoding {        private static final Logger logger = Logger.getLogger(CpdetectorEncoding.class);        /**     *      * 获取流编码,不包管完全正确,设置检测策略 isFast为true为快速检测策略,false为正常检测     * InputStream 支持mark,则会在检测后调用reset,外部可重新利用。     * InputStream 流没有关闭。     *
  5.      *      *      * 如果采用快速检测编码方式,最多会扫描8个字节,依次采用的{@link UnicodeDetector},{@link byteOrderMarkDetector},     * {@link JChardetFacade}, {@link ASCIIDetector}检测。对于一些标准的unicode编码,得当这个方式大概对耗时敏感的。     *
  6.      *      *      *  采用正常检测,读取指定字节数,如果没有指定,默认读取全部字节检测,依次采用的{@link byteOrderMarkDetector},{@link parsingDetector},{@link JChardetFacade}, {@link ASCIIDetector}检测。     *  字节越多检测时间越长,正确率较高。     *
  7.      *     * @param in 输入流  isFast 是否采用快速检测编码方式     * @return Charset The character are now - hopefully - correct。如果为null,没有检测出来。     * @throws IOException      */    public Charset getEncoding(InputStream buffIn,boolean isFast) throws IOException{                return getEncoding(buffIn,buffIn.available(),isFast);    }        public Charset getFastEncoding(InputStream buffIn) throws IOException{        return getEncoding(buffIn,MAX_READBYTE_FAST,DEFALUT_DETECT_STRATEGY);    }                public Charset getEncoding(InputStream in, int size, boolean isFast) throws IOException {                try {                        java.nio.charset.Charset charset = null;                        int tmpSize = in.available();            size = size >tmpSize?tmpSize:size;            //if in support mark method,             if(in.markSupported()){                                if(isFast){                                        size = size>MAX_READBYTE_FAST?MAX_READBYTE_FAST:size;                    in.mark(size++);                    charset = getFastDetector().detectCodepage(in, size);                }else{                                        in.mark(size++);                    charset = getDetector().detectCodepage(in, size);                }                in.reset();                            }else{                                if(isFast){                                        size = size>MAX_READBYTE_FAST?MAX_READBYTE_FAST:size;                    charset = getFastDetector().detectCodepage(in, size);                }else{                    charset = getDetector().detectCodepage(in, size);                }            }                                    return charset;        }catch(IllegalArgumentException e){                        logger.error(e.getMessage(),e);            throw e;        } catch (IOException e) {                        logger.error(e.getMessage(),e);            throw e;        }            }            public Charset getEncoding(byte[] byteArr,boolean isFast) throws IOException{                return getEncoding(byteArr, byteArr.length, isFast);    }            public Charset getFastEncoding(byte[] byteArr) throws IOException{                return getEncoding(byteArr, MAX_READBYTE_FAST, DEFALUT_DETECT_STRATEGY);    }            public Charset getEncoding(byte[] byteArr, int size,boolean isFast) throws IOException {                size = byteArr.length>size?size:byteArr.length;        if(isFast){            size = size>MAX_READBYTE_FAST?MAX_READBYTE_FAST:size;        }                ByteArrayInputStream byteArrIn = new ByteArrayInputStream(byteArr,0,size);        BufferedInputStream in = new BufferedInputStream(byteArrIn);                try {                        Charset charset = null;            if(isFast){                                charset = getFastDetector().detectCodepage(in, size);            }else{                                charset = getDetector().detectCodepage(in, size);            }                        return charset;        } catch (IllegalArgumentException e) {                        logger.error(e.getMessage(),e);            throw e;        } catch (IOException e) {                        logger.error(e.getMessage(),e);            throw e;        }           }        private static CodepageDetectorProxy detector =null;    private static CodepageDetectorProxy fastDtector =null;    private static ParsingDetector parsingDetector =  new ParsingDetector(false);    private static ByteOrderMarkDetector byteOrderMarkDetector = new ByteOrderMarkDetector();        //default strategy use fastDtector    private static final boolean DEFALUT_DETECT_STRATEGY = true;        private static final int MAX_READBYTE_FAST = 8;         private static CodepageDetectorProxy getDetector(){                if(detector==null){                        detector = CodepageDetectorProxy.getInstance();             // Add the implementations of info.monitorenter.cpdetector.io.ICodepageDetector:             // This one is quick if we deal with unicode codepages:            detector.add(byteOrderMarkDetector);            // The first instance delegated to tries to detect the meta charset attribut in html pages.            detector.add(parsingDetector);            // This one does the tricks of exclusion and frequency detection, if first implementation is             // unsuccessful:            detector.add(JChardetFacade.getInstance());            detector.add(ASCIIDetector.getInstance());        }                return detector;    }            private static CodepageDetectorProxy getFastDetector(){                if(fastDtector==null){                        fastDtector = CodepageDetectorProxy.getInstance();            fastDtector.add(UnicodeDetector.getInstance());            fastDtector.add(byteOrderMarkDetector);             fastDtector.add(JChardetFacade.getInstance());            fastDtector.add(ASCIIDetector.getInstance());        }                return fastDtector;    }    }
复制代码
ICU4J

ICU (International Components for Unicode)是为软件应用提供Unicode和举世化支持的一套成熟、广泛利用的C/C++和Java类库集,可在全部平台的C/C++和Java软件上得到同等的结果。
ICU起首是由Taligent公司开发的,Taligent公司被合并为IBM公司举世化认证中央的Unicode研究组后,ICU由IBM和开源组织互助继承开发。开始ICU只有Java平台的版本,厥后这个平台下的ICU类被吸纳入SUN公司开发的JDK1.1,并在JDK以后的版本中不停改进。C++和C平台下的ICU是由JAVA平台下的ICU移植过来的,移植过的版本被称为ICU4C,来支持这C/C++两个平台下的国际化应用。ICU4J和ICU4C区别不大,但由于ICU4C是开源的,并且精密跟进Unicode标准,ICU4C支持的Unicode标准总是最新的;同时,因为JAVA平台的ICU4J的发布必要和JDK绑定,ICU4C支持Unicode标准改变的速率要比ICU4J快的多。
ICU的功能重要有:

  • 代码页转换: 对文本数据进行Unicode、险些任何其他字符集或编码的相互转换。ICU的转化表基于IBM已往几十年网络的字符集数据,活着界各地都是最完备的。
  • 排序规则(Collation): 根据特定语言、地区或国家的管理和标准比较字数串。ICU的排序规则基于Unicode排序规则算法加上来自公共地区性数据堆栈(Common locale data repository)的地区特定比较规则。
  • 格式化: 根据所选地区设置的惯例,实现对数字、货币、时间、日期、和利率的格式化。包罗将月和日名称转换成所选语言、选择得当缩写、正确对字段进行排序等。这些数据也取自公共地区性数据堆栈。
  • 时间盘算: 在传统格里历基础上提供多种历法。提供一整套时区盘算API。
  • Unicode支持: ICU精密跟进Unicode标准,通过它可以很容易地访问Unicode标准订定的许多Unicode字符属性、Unicode规范化、巨细写转换和其他基础利用。
  • 正则表达式: ICU的正则表达式全面支持Unicode并且性能极具竞争力。
  • Bidi: 支持差异笔墨书写顺序混淆笔墨(比方从左到右书写的英语,大概从右到左书写的阿拉伯文和希伯来文)的处置惩罚。
  • 文本边界: 在一段文本内定位词、句或段落位置、或标识最得当表现文本的主动换行位置。
代码示例:
  1. public class FileEncodingDetector {    public static void main(String[] args) {        File file = new File("D:\\xx1.log");        System.out.println(getFileCharsetByICU4J(file));    }    public static String getFileCharsetByICU4J(File file) {        String encoding = null;        try {            Path path = Paths.get(file.getPath());            byte[] data = Files.readAllBytes(path);            CharsetDetector detector = new CharsetDetector();            detector.setText(data);            //这个方法推测首选的文件编码格式            CharsetMatch match = detector.detect();            //这个方法可以推测出全部大概的编码方式            CharsetMatch[] charsetMatches = detector.detectAll();            if (match == null) {                return encoding;            }            encoding = match.getName();        } catch (IOException var6) {            System.out.println(var6.getStackTrace());        }        return encoding;    }}
复制代码
留意点


  • ICU4J和cpdector推测出来的文件编码都不能包管百分百正确,只能包管大概率正确;
  • ICU4J和cpdector推测出来的编码不肯定是文件原始的编码。好比我的一个文本文件中只有简朴的英笔墨符,然后我将这个文件存为GBK编码格式。这时你利用这两个工具推测出来的文件编码大概是ASCII编码。但是利用ASCII编码也能正确打开这个文件,因为GBK是兼容ASCII的。以是能看出,这两个工具都是以能正确解码文件为原则来推测编码的,不肯定要推测出原始编码。
参考


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|深圳论坛-深圳人的网上家园  

GMT+8, 2020-5-31 20:36 , Processed in 0.116226 second(s), 29 queries .

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表