C#如何自动识别文件的编码

前言

C#中识别文件的编码是一个头疼的问题,最近在做导入微信商户后台退款数据时,无论怎么设置编码导出来都是乱码,后来在网上找了这个识别文件编码的代码,感觉不错。最后识别出来是gb2312,看来我还是太渣了,只能吃土了,竟然忘记了这个编码。

下面话不多说,上代码。

/// <summary>
 /// 用于取得一个文本文件的编码方式(Encoding)。
 /// </summary>
 public class TxtFileEncoder
 {
  public TxtFileEncoder()
  {
   //
   // TODO: 在此处添加构造函数逻辑
   //
  }
  /// <summary>
  /// 取得一个文本文件的编码方式。如果无法在文件头部找到有效的前导符,Encoding.Default将被返回。
  /// </summary>
  /// <param name="fileName">文件名。</param>
  /// <returns></returns>
  public static Encoding GetEncoding(string fileName)
  {
   return GetEncoding(fileName, Encoding.Default);
  }
  /// <summary>
  /// 取得一个文本文件流的编码方式。
  /// </summary>
  /// <param name="stream">文本文件流。</param>
  /// <returns></returns>
  public static Encoding GetEncoding(FileStream stream)
  {
   return GetEncoding(stream, Encoding.Default);
  }
  /// <summary>
  /// 取得一个文本文件的编码方式。
  /// </summary>
  /// <param name="fileName">文件名。</param>
  /// <param name="defaultEncoding">默认编码方式。当该方法无法从文件的头部取得有效的前导符时,将返回该编码方式。</param>
  /// <returns></returns>
  public static Encoding GetEncoding(string fileName, Encoding defaultEncoding)
  {
   FileStream fs = new FileStream(fileName, FileMode.Open);
   Encoding targetEncoding = GetEncoding(fs, defaultEncoding);
   fs.Close();
   return targetEncoding;
  }
  /// <summary>
  /// 取得一个文本文件流的编码方式。
  /// </summary>
  /// <param name="stream">文本文件流。</param>
  /// <param name="defaultEncoding">默认编码方式。当该方法无法从文件的头部取得有效的前导符时,将返回该编码方式。</param>
  /// <returns></returns>
  public static Encoding GetEncoding(FileStream stream, Encoding defaultEncoding)
  {
   Encoding targetEncoding = defaultEncoding;
   if (stream != null && stream.Length >= 2)
   {
    //保存文件流的前4个字节
    byte byte1 = 0;
    byte byte2 = 0;
    byte byte3 = 0;
    byte byte4 = 0;
    //保存当前Seek位置
    long origPos = stream.Seek(0, SeekOrigin.Begin);
    stream.Seek(0, SeekOrigin.Begin);

    int nByte = stream.ReadByte();
    byte1 = Convert.ToByte(nByte);
    byte2 = Convert.ToByte(stream.ReadByte());
    if (stream.Length >= 3)
    {
     byte3 = Convert.ToByte(stream.ReadByte());
    }
    if (stream.Length >= 4)
    {
     byte4 = Convert.ToByte(stream.ReadByte());
    }
    //根据文件流的前4个字节判断Encoding
    //Unicode {0xFF, 0xFE};
    //BE-Unicode {0xFE, 0xFF};
    //UTF8 = {0xEF, 0xBB, 0xBF};
    if (byte1 == 0xFE && byte2 == 0xFF)//UnicodeBe
    {
     targetEncoding = Encoding.BigEndianUnicode;
    }
    if (byte1 == 0xFF && byte2 == 0xFE && byte3 != 0xFF)//Unicode
    {
     targetEncoding = Encoding.Unicode;
    }
    if (byte1 == 0xEF && byte2 == 0xBB && byte3 == 0xBF)//UTF8
    {
     targetEncoding = Encoding.UTF8;
    }
    //恢复Seek位置
    stream.Seek(origPos, SeekOrigin.Begin);
   }
   return targetEncoding;
  }

  // 新增加一个方法,解决了不带BOM的 UTF8 编码问题 

  /// <summary>
  /// 通过给定的文件流,判断文件的编码类型
  /// </summary>
  /// <param name="fs">文件流</param>
  /// <returns>文件的编码类型</returns>
  public static System.Text.Encoding GetEncoding(Stream fs)
  {
   byte[] Unicode = new byte[] { 0xFF, 0xFE, 0x41 };
   byte[] UnicodeBIG = new byte[] { 0xFE, 0xFF, 0x00 };
   byte[] UTF8 = new byte[] { 0xEF, 0xBB, 0xBF }; //带BOM
   Encoding reVal = Encoding.Default;

   BinaryReader r = new BinaryReader(fs, System.Text.Encoding.Default);
   byte[] ss = r.ReadBytes(4);
   if (ss[0] == 0xFE && ss[1] == 0xFF && ss[2] == 0x00)
   {
    reVal = Encoding.BigEndianUnicode;
   }
   else if (ss[0] == 0xFF && ss[1] == 0xFE && ss[2] == 0x41)
   {
    reVal = Encoding.Unicode;
   }
   else
   {
    if (ss[0] == 0xEF && ss[1] == 0xBB && ss[2] == 0xBF)
    {
     reVal = Encoding.UTF8;
    }
    else
    {
     int i;
     int.TryParse(fs.Length.ToString(), out i);
     ss = r.ReadBytes(i);

     if (IsUTF8Bytes(ss))
      reVal = Encoding.UTF8;
    }
   }
   r.Close();
   return reVal;

  }

  /// <summary>
  /// 判断是否是不带 BOM 的 UTF8 格式
  /// </summary>
  /// <param name="data"></param>
  /// <returns></returns>
  private static bool IsUTF8Bytes(byte[] data)
  {
   int charByteCounter = 1;  //计算当前正分析的字符应还有的字节数
   byte curByte; //当前分析的字节.
   for (int i = 0; i < data.Length; i++)
   {
    curByte = data[i];
    if (charByteCounter == 1)
    {
     if (curByte >= 0x80)
     {
      //判断当前
      while (((curByte <<= 1) & 0x80) != 0)
      {
       charByteCounter++;
      }
      //标记位首位若为非0 则至少以2个1开始 如:110XXXXX...........1111110X 
      if (charByteCounter == 1 || charByteCounter > 6)
      {
       return false;
      }
     }
    }
    else
    {
     //若是UTF-8 此时第一位必须为1
     if ((curByte & 0xC0) != 0x80)
     {
      return false;
     }
     charByteCounter--;
    }
   }
   if (charByteCounter > 1)
   {
    throw new Exception("非预期的byte格式!");
   }
   return true;
  }
 }

总结

以上就是C#自动识别文件编码的全部内容了,希望本文的内容对大家的学习或者工作能带来一定的帮助,如果有疑问大家可以留言交流。

(0)

相关推荐

  • c# Base64编码和图片的互相转换代码

    事出有因 我们已经做了一个编辑器,这个编辑器可以以xml格式存储一些信息.在存储图片信息时我们碰到了一些问题.我们本来在xml信息中存储的是图片的路径,然而一旦客户把这个信息copy到其他电脑上而没有同时copy相关的图片时,就会出现一些问题.          后来,我们把图片数据转换为Base64编码,替代了原先存储图片路径的方式. 转换流程 将图片转化为Base64字符串的流程是:首先使用BinaryFormatter将图片文件序列化为二进制数据,然后使用Convert类的ToBase64

  • asp.C#实现图片文件与base64string编码解码

    图片当然是存在那个js文件里面,于是我就打开了flashblocker.js,然后浏览一下,找到下面一句: var flash = 'data:image/png;base64,iVBORw0KGgoAAAANSUhEUgAAAIAAAACACAYAA......' (小白)<SPAN style="FONT-SIZE: small">这是我第一次认识到base64的用场,记得以前保存网页的时候,总习惯保存为.mht格式,因为这样会把网页中的图片也保存下来,但是一直奇怪为何

  • C#读写指定编码格式的文本文件

    在工作中经常读写文本文件,在读文件时,需要按开头的两个字节判断文件格式,然后按该格式读文件中的内容.  写文件时,也要按目标文件指定的格式来写入,只有这样才能让后续的环境正确读入. 1 查看格式     在vs2010开发环境打开某个文件,然后从菜单上, 文件--高级保存选项,就可看到当前文件的编码格式.   比如,xx.cs,xx.cshtml文件看到的是[简体中文(GB2312)-代码页936],就是GB2312.   xx.xml文件看到的是[Unicode(UTF-8带签名)-代码页65

  • c#字符串编码编码(encoding)使用方法示例

    Unicode有四种编码格式,UTF-8, UTF-16,UTF-32,UTF-7. 字符编码类,ASCIIEncoding ,UTF7Encoding,UnicodeEncoding,UTF32Encoding. 复制代码 代码如下: using System.Collections.Generic;using System.Text; namespace AsciiEncodingDemo{    class Program    {        static void Main(stri

  • c#检测文本文件编码的方法

    C#如何检测文本文件的编码,本文为大家分享了示例代码,具体内容如下 using System; using System.Text; using System.Text.RegularExpressions; using System.IO; namespace KlerksSoft { public static class TextFileEncodingDetector { /* * Simple class to handle text file encoding woes (in a

  • C#实现获取文本文件的编码的一个类(区分GB2312和UTF8)

    以下是获取文件编码的一个类: using System; using System.IO; using System.Text; /// <summary> /// FileEncoding 的摘要说明 /// </summary> namespace FileEncoding { /// <summary> /// 获取文件的编码格式 /// </summary> public class EncodingType { /// <summary>

  • C# Base64编码函数

    一. Base64的编码规则        Base64编码的思想是是采用64个基本的ASCII码字符对数据进行重新编码.它将需要编码的数据拆分成字节数组.以3个字节为一组.按顺序排列24 位数据,再把这24位数据分成4组,即每组6位.再在每组的的最高位前补两个0凑足一个字节.这样就把一个3字节为一组的数据重新编码成了4个字节.当所要编码的数据的字节数不是3的整倍数,也就是说在分组时最后一组不够3个字节.这时在最后一组填充1到2个0字节.并在最后编码完成后在结尾添加1到2个 "=".

  • C#中字符串编码处理

    GB2312是简体中文系统的标准编码 用"区" 跟"位"的概念表示 称之为区位码 区指代大的范围 位相当于偏移量.每个汉字占两个字节高位字节"的范围是0xB0-0xF7,"低位字节"的范围是0xA1-0xFE.它的规律好像是按拼音a到z的顺序排列的"啊"字是GB2312之中的第一个汉字,它的区位码就是1601为此我们现在用代码的方式输出一个汉字c#下是little字节序 b0跑后面去了. 复制代码 代码如下: ush

  • JS与C#编码解码

    escape不编码字符有69个:*,+,-,.,/,@,_,0-9,a-z,A-Z encodeURI不编码字符有82个:!,#,$,&,',(,),*,+,,,-,.,/,:,;,=,?,@,_,~,0-9,a-z,A-Z encodeURIComponent不编码字符有71个:!, ',(,),*,-,.,_,~,0-9,a-z,A-Z 1. JS: escape : js使用数据时可以使用escape    例如:搜藏中history纪录.    0-255以外的unicode值进行编码时

  • C#解码base64编码二进制数据的方法

    本文实例讲述了C#解码base64编码二进制数据的方法.分享给大家供大家参考.具体如下: 通过在Convert类的静态方法Convert.FromBase64String,可以讲base64编码的字符串解码为等效的byte []数组. using System; static class MyModClass { public static byte[] Base64DecodeString(this string inputStr) { byte[] decodedByteArray = Co

随机推荐