海安零距离 海安论坛 海安新闻 海安

 找回密码
 立即注册
搜索
热搜: 活动 交友 discuz
查看: 1989|回复: 0

没提供编码格式,读文件时要怎么推测文件具体的编码

[复制链接]

6234

主题

6234

帖子

1万

积分

管理员

Rank: 9Rank: 9Rank: 9

积分
18716
发表于 2019-12-27 13:17 | 显示全部楼层 |阅读模式
引子

我们知道从一个文件流中读取内容时是要指定具体的编码格式的,否则读出来的内容会是乱码。比如我们的代码写成下面这个样子:
  1. private static void m1(){    try(FileInputStream fileInputStream = new FileInputStream("D:\\逐日摘录.txt")) {        byte[] bytes = FileCopyUtils.copyToByteArray(fileInputStream);        System.out.println(new String(bytes));    } catch (FileNotFoundException e) {        e.printStackTrace();    } catch (IOException e) {        e.printStackTrace();    }}
复制代码
实行上面的代码,有时我们能“侥幸”得到准确的实行效果。由于new String(byte[])这个方法会指定默认的编码格式,以是假如我们读取的文件的编码格式正好是UTF8的话,那上面的代码就一点题目没有。但是假如我们读取的是一个编码格式是GBK的文件,那么得到的内容将是一坨乱码。
上面的题目办理起来很简朴,只要指定下字符编码就可以了。
  1. new String(bytes,"GBK");
复制代码
在告知文件编码格式的条件下,办理上面的题目是很简朴。假如现在没告知文件具体的编码格式,我们须要怎么准确的读取文件呢?一个可行的办法是推测文件编码方式。
推测文件编码的方式

网上有多种方式可以“推测”出一个文件的可用编码,但是须要注意的是:全部的方法都不能包管推测出来的效果是绝对准确的,有的方法推测的准确率较高,而有的方法推测出来的准确率较低。告急的推测方法有以下几种:

  • 通过文件的前三个字节来判断:由于有些编码格式会存在文件的前面3个字节中,比如UTF-8编码格式的文本文件,其前3个字节的值就是-17、-69、-65。但是很显着,这种方式的范围性比较大,推测出来的准确率也比较低,因此不保举这种方式。
  • 通过特殊字符来判断:通过某些编码格式编码的文件中会出现一些特殊的字节值,因此可以通过判断文件中是否有这些特殊值来推测文件编码格式。此方准确率也不高,不保举利用。
  • 通过工具库cpdetector来判断:cpdector 是一款开源的文档编码检测工具,可以检测 xml,html文档编码范例。是基于统计学原理来推测文件编码的,但是也不包管推测效果的准确性。
  • 通过ICU4J库来判断:ICU的推测逻辑基于IBM已往几十年网络的字符集数据,理论上也是基于统计学的。这种方式统计的效果准确性也较高保举利用。
下面就来具体先容下怎么利用cpdector和ICU4J推测文件编码。
cpdector

利用Cpdetector jar包,提供两种方式检测文件编码,至于选择哪种 须要根据个人需求,文档有解释。依靠antlr-2.7.4.jar,chardet-1.0.jar,jargs-1.0.jar三个jar包。 可以再官网下载 http://cpdetector.sourceforge.net/。
  1. import info.monitorenter.cpdetector.io.ASCIIDetector;import info.monitorenter.cpdetector.io.ByteOrderMarkDetector;import info.monitorenter.cpdetector.io.CodepageDetectorProxy;import info.monitorenter.cpdetector.io.JChardetFacade;import info.monitorenter.cpdetector.io.ParsingDetector;import info.monitorenter.cpdetector.io.UnicodeDetector;import java.io.BufferedInputStream;import java.io.ByteArrayInputStream;import java.io.IOException;import java.io.InputStream;import java.nio.charset.Charset;import org.apache.log4j.Logger;/** *  *  获取流编码,不包管完全准确,设置检测战略 isFast为true为快速检测战略,false为正常检测 *  InputStream 支持mark,则会在检测后调用reset,外部可重新利用。 *  InputStream 流没有关闭。 *
  2. *  *  *  假如采取快速检测编码方式,最多会扫描8个字节,依次采取的{@link UnicodeDetector},{@link byteOrderMarkDetector}, *  {@link JChardetFacade}, {@link ASCIIDetector}检测。对于一些尺度的unicode编码,恰当这个方式或者对耗时敏感的。 *
  3. *  *  *  采取正常检测,读取指定字节数,假如没有指定,默认读取全部字节检测,依次采取的{@link byteOrderMarkDetector},{@link parsingDetector},{@link JChardetFacade}, {@link ASCIIDetector}检测。 *  字节越多检测时间越长,准确率较高。 *
  4. * @author WuKong * */public class CpdetectorEncoding {        private static final Logger logger = Logger.getLogger(CpdetectorEncoding.class);        /**     *      * 获取流编码,不包管完全准确,设置检测战略 isFast为true为快速检测战略,false为正常检测     * InputStream 支持mark,则会在检测后调用reset,外部可重新利用。     * InputStream 流没有关闭。     *
  5.      *      *      * 假如采取快速检测编码方式,最多会扫描8个字节,依次采取的{@link UnicodeDetector},{@link byteOrderMarkDetector},     * {@link JChardetFacade}, {@link ASCIIDetector}检测。对于一些尺度的unicode编码,恰当这个方式或者对耗时敏感的。     *
  6.      *      *      *  采取正常检测,读取指定字节数,假如没有指定,默认读取全部字节检测,依次采取的{@link byteOrderMarkDetector},{@link parsingDetector},{@link JChardetFacade}, {@link ASCIIDetector}检测。     *  字节越多检测时间越长,准确率较高。     *
  7.      *     * @param in 输入流  isFast 是否采取快速检测编码方式     * @return Charset The character are now - hopefully - correct。假如为null,没有检测出来。     * @throws IOException      */    public Charset getEncoding(InputStream buffIn,boolean isFast) throws IOException{                return getEncoding(buffIn,buffIn.available(),isFast);    }        public Charset getFastEncoding(InputStream buffIn) throws IOException{        return getEncoding(buffIn,MAX_READBYTE_FAST,DEFALUT_DETECT_STRATEGY);    }                public Charset getEncoding(InputStream in, int size, boolean isFast) throws IOException {                try {                        java.nio.charset.Charset charset = null;                        int tmpSize = in.available();            size = size >tmpSize?tmpSize:size;            //if in support mark method,             if(in.markSupported()){                                if(isFast){                                        size = size>MAX_READBYTE_FAST?MAX_READBYTE_FAST:size;                    in.mark(size++);                    charset = getFastDetector().detectCodepage(in, size);                }else{                                        in.mark(size++);                    charset = getDetector().detectCodepage(in, size);                }                in.reset();                            }else{                                if(isFast){                                        size = size>MAX_READBYTE_FAST?MAX_READBYTE_FAST:size;                    charset = getFastDetector().detectCodepage(in, size);                }else{                    charset = getDetector().detectCodepage(in, size);                }            }                                    return charset;        }catch(IllegalArgumentException e){                        logger.error(e.getMessage(),e);            throw e;        } catch (IOException e) {                        logger.error(e.getMessage(),e);            throw e;        }            }            public Charset getEncoding(byte[] byteArr,boolean isFast) throws IOException{                return getEncoding(byteArr, byteArr.length, isFast);    }            public Charset getFastEncoding(byte[] byteArr) throws IOException{                return getEncoding(byteArr, MAX_READBYTE_FAST, DEFALUT_DETECT_STRATEGY);    }            public Charset getEncoding(byte[] byteArr, int size,boolean isFast) throws IOException {                size = byteArr.length>size?size:byteArr.length;        if(isFast){            size = size>MAX_READBYTE_FAST?MAX_READBYTE_FAST:size;        }                ByteArrayInputStream byteArrIn = new ByteArrayInputStream(byteArr,0,size);        BufferedInputStream in = new BufferedInputStream(byteArrIn);                try {                        Charset charset = null;            if(isFast){                                charset = getFastDetector().detectCodepage(in, size);            }else{                                charset = getDetector().detectCodepage(in, size);            }                        return charset;        } catch (IllegalArgumentException e) {                        logger.error(e.getMessage(),e);            throw e;        } catch (IOException e) {                        logger.error(e.getMessage(),e);            throw e;        }           }        private static CodepageDetectorProxy detector =null;    private static CodepageDetectorProxy fastDtector =null;    private static ParsingDetector parsingDetector =  new ParsingDetector(false);    private static ByteOrderMarkDetector byteOrderMarkDetector = new ByteOrderMarkDetector();        //default strategy use fastDtector    private static final boolean DEFALUT_DETECT_STRATEGY = true;        private static final int MAX_READBYTE_FAST = 8;         private static CodepageDetectorProxy getDetector(){                if(detector==null){                        detector = CodepageDetectorProxy.getInstance();             // Add the implementations of info.monitorenter.cpdetector.io.ICodepageDetector:             // This one is quick if we deal with unicode codepages:            detector.add(byteOrderMarkDetector);            // The first instance delegated to tries to detect the meta charset attribut in html pages.            detector.add(parsingDetector);            // This one does the tricks of exclusion and frequency detection, if first implementation is             // unsuccessful:            detector.add(JChardetFacade.getInstance());            detector.add(ASCIIDetector.getInstance());        }                return detector;    }            private static CodepageDetectorProxy getFastDetector(){                if(fastDtector==null){                        fastDtector = CodepageDetectorProxy.getInstance();            fastDtector.add(UnicodeDetector.getInstance());            fastDtector.add(byteOrderMarkDetector);             fastDtector.add(JChardetFacade.getInstance());            fastDtector.add(ASCIIDetector.getInstance());        }                return fastDtector;    }    }
复制代码
ICU4J

ICU (International Components for Unicode)是为软件应用提供Unicode和举世化支持的一套成熟、广泛利用的C/C++和Java类库集,可在全部平台的C/C++和Java软件上得到一致的效果。
ICU起首是由Taligent公司开发的,Taligent公司被归并为IBM公司举世化认证中央的Unicode研究组后,ICU由IBM和开源构造互助继续开发。开始ICU只有Java平台的版本,厥后这个平台下的ICU类被吸纳入SUN公司开发的JDK1.1,并在JDK以后的版本中不停改进。C++和C平台下的ICU是由JAVA平台下的ICU移植过来的,移植过的版本被称为ICU4C,来支持这C/C++两个平台下的国际化应用。ICU4J和ICU4C区别不大,但由于ICU4C是开源的,而且精密跟进Unicode尺度,ICU4C支持的Unicode尺度总是最新的;同时,由于JAVA平台的ICU4J的发布须要和JDK绑定,ICU4C支持Unicode尺度改变的速率要比ICU4J快的多。
ICU的功能告急有:

  • 代码页转换: 对文本数据举行Unicode、险些任何其他字符集或编码的相互转换。ICU的转化表基于IBM已往几十年网络的字符集数据,在天下各地都是最完备的。
  • 排序规则(Collation): 根据特定语言、地区或国家的管理和尺度比较字数串。ICU的排序规则基于Unicode排序规则算法加上来自公共地区性数据堆栈(Common locale data repository)的地区特定比较规则。
  • 格式化: 根据所选地区设置的惯例,实现对数字、货币、时间、日期、和利率的格式化。包罗将月和日名称转换成所选语言、选择得当缩写、准确对字段举行排序等。这些数据也取自公共地区性数据堆栈。
  • 时间盘算: 在传统格里历根本上提供多种历法。提供一整套时区盘算API。
  • Unicode支持: ICU精密跟进Unicode尺度,通过它可以很容易地访问Unicode尺度订定的许多Unicode字符属性、Unicode规范化、巨细写转换和其他根本操纵。
  • 正则表达式: ICU的正则表达式全面支持Unicode而且性能极具竞争力。
  • Bidi: 支持不同笔墨誊写次序肴杂笔墨(比方从左到右誊写的英语,或者从右到左誊写的阿拉伯文和希伯来文)的处理。
  • 文本界限: 在一段文本内定位词、句或段落位置、或标识最恰当体现文本的主动换行位置。
代码示例:
  1. public class FileEncodingDetector {    public static void main(String[] args) {        File file = new File("D:\\xx1.log");        System.out.println(getFileCharsetByICU4J(file));    }    public static String getFileCharsetByICU4J(File file) {        String encoding = null;        try {            Path path = Paths.get(file.getPath());            byte[] data = Files.readAllBytes(path);            CharsetDetector detector = new CharsetDetector();            detector.setText(data);            //这个方法推测首选的文件编码格式            CharsetMatch match = detector.detect();            //这个方法可以推测出全部大概的编码方式            CharsetMatch[] charsetMatches = detector.detectAll();            if (match == null) {                return encoding;            }            encoding = match.getName();        } catch (IOException var6) {            System.out.println(var6.getStackTrace());        }        return encoding;    }}
复制代码
注意点


  • ICU4J和cpdector推测出来的文件编码都不能包管百分百准确,只能包管大概率准确;
  • ICU4J和cpdector推测出来的编码不肯定是文件原始的编码。比如我的一个文本文件中只有简朴的英笔墨符,然后我将这个文件存为GBK编码格式。这时你利用这两个工具推测出来的文件编码大概是ASCII编码。但是利用ASCII编码也能准确打开这个文件,由于GBK是兼容ASCII的。以是能看出,这两个工具都是以能准确解码文件为原则来推测编码的,不肯定要推测出原始编码。
参考


免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|深圳论坛-深圳人的网上家园  

GMT+8, 2020-5-30 05:50 , Processed in 0.121152 second(s), 29 queries .

Powered by Discuz! X3.2

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表