欧美成人精品手机在线观看_69视频国产_动漫精品第一页_日韩中文字幕网 - 日本欧美一区二区

LOGO OA教程 ERP教程 模切知識交流 PMS教程 CRM教程 開發文檔 其他文檔  
 
網站管理員

C#無BOM文件頭,按文件內容識別編碼

freeflydom
2023年8月23日 11:9 本文熱度 672

 一)需求
很多情況下我們需要知道字節流的編碼,比如
1) 使用編輯器打開文本文件的時候,編輯器需要識別文本文件的各種編碼
2) 上傳文件后,分析上傳文件字節流需要知道它的編碼

 

二)探討
不過C#目前還沒有現成的函數能夠獲取,經過和同事的探討,發現UTF8文件都有一個3字節的頭,為“EF BB BF”(稱為BOM--Byte Order Mark),判斷這個頭信息不就可以解決了嗎?代碼如下:

//判斷上傳的文件的編碼是否是UTF8,buff為上傳文件的字節流
    enc     = Encoding.UTF8;
    testencbuff   = enc.GetPreamble();
    if(fileLength>testencbuff.Length && testencbuff[0] == buff[0] && testencbuff[1]==buff[1] && testencbuff[2]==buff[2])
    {
        // 是 UTF8編碼
        string buffString  = enc.GetString(buff);
    }
不過后來發現,不是所有的UTF8編碼的文件都有BOM信息,那如何解決呢?

 

三)最終的方案
沒有BOM信息只有通過逐個字節比較的方式才能解決。
這里判斷所有的編碼,基本上都是通過字節比較的方式。java代碼很容易移植到.NET上,下面是UTF8判斷部分的C#代碼:

  

int utf8_probability(byte[] rawtext)

  {

   int score = 0;

   int i, rawtextlen = 0;

   int goodbytes = 0, asciibytes = 0;


   // Maybe also use UTF8 Byte Order Mark:  EF BB BF


   // Check to see if characters fit into acceptable ranges

   rawtextlen = rawtext.Length;

   for (i = 0; i < rawtextlen; i++)

   {

    if ((rawtext[i] & (byte)0x7F) == rawtext[i])

    {  // One byte

     asciibytes++;

     // Ignore ASCII, can throw off count

    }

    else

    {

     int m_rawInt0 = Convert.ToInt16(rawtext[i]);

     int m_rawInt1 = Convert.ToInt16(rawtext[i+1]);

     int m_rawInt2 = Convert.ToInt16(rawtext[i+2]);


     if (256-64 <= m_rawInt0 && m_rawInt0 <= 256-33 && // Two bytes

      i+1 < rawtextlen &&

      256-128 <= m_rawInt1 && m_rawInt1 <= 256-65)

     {

      goodbytes += 2;

      i++;

     }

     else if (256-32 <= m_rawInt0 && m_rawInt0 <= 256-17 && // Three bytes

      i+2 < rawtextlen &&

      256-128 <= m_rawInt1 && m_rawInt1 <= 256-65 &&

      256-128 <= m_rawInt2 && m_rawInt2 <= 256-65)

     {

      goodbytes += 3;

      i+=2;

     }

    }

   }


   if (asciibytes == rawtextlen) { return 0; }


   score = (int)(100 * ((float)goodbytes/(float)(rawtextlen-asciibytes)));


   // If not above 98, reduce to zero to prevent coincidental matches

   // Allows for some (few) bad formed sequences

   if (score > 98)

   {

    return score;

   }

   else if (score > 95 && goodbytes > 30)

   {

    return score;

   }

   else

   {

    return 0;

   }


  }

Encoding encode;  

StreamReader srtest = new StreamReader(file.FullName,Encoding.Default);  

int p = utf8_probability(Encoding.Default.GetBytes(srtest.ReadToEnd()));  

if( p>80 )  

    encode = Encoding.GetEncoding(65001);//utf8  

else  

    encode = Encoding.Default;  

srtest.Close(); 

 



該文章在 2023/8/23 11:10:02 編輯過
關鍵字查詢
相關文章
正在查詢...
點晴ERP是一款針對中小制造業的專業生產管理軟件系統,系統成熟度和易用性得到了國內大量中小企業的青睞。
點晴PMS碼頭管理系統主要針對港口碼頭集裝箱與散貨日常運作、調度、堆場、車隊、財務費用、相關報表等業務管理,結合碼頭的業務特點,圍繞調度、堆場作業而開發的。集技術的先進性、管理的有效性于一體,是物流碼頭及其他港口類企業的高效ERP管理信息系統。
點晴WMS倉儲管理系統提供了貨物產品管理,銷售管理,采購管理,倉儲管理,倉庫管理,保質期管理,貨位管理,庫位管理,生產管理,WMS管理系統,標簽打印,條形碼,二維碼管理,批號管理軟件。
點晴免費OA是一款軟件和通用服務都免費,不限功能、不限時間、不限用戶的免費OA協同辦公管理系統。
Copyright 2010-2025 ClickSun All Rights Reserved