你的位置:首页 > ASP.net教程

[ASP.net教程]使用C#处理基于比特流的数据


使用C#处理基于比特流的数据

 

0x00 起因

最近需要处理一些基于比特流的数据,计算机处理数据一般都是以byte(8bit)为单位的,使用BinaryReader读取的数据也是如此,即使读取bool型也是一个byte。不过借助于C#基础类库中提供的一些方法,也实现了对基于比特的数据的读取。任务完成后觉得基于比特的数据挺有意思,自己试了下用7比特和6比特编码常用ASCII字符。最后把一点新的写成博客,一方面做个记录,另一方面希望对有类似需求的园友有所帮助。

0x01 比特流数据的读取

假设我们有一个byte b = 35,而我们需要把其中的前4bit和后4bit分别读取为两个数字,那么应该怎么做呢。虽然没有在基础类库中找到现成的方法,但用二进制字符串中转一下,分两步也可以做到。

1、先把b表示为二进制字符串00100011

2、分别取其前后4bit转为数字,核心方法就是:

Convert.ToInt32("0010");

这样就实现了基于比特的数据读取了。

关于第一步中把byte转化为二进制字符串有很多种方法,

1、最简单的Convert.ToString(b,2)。不够8位就在高位用0补足。

2、也可以把byte分别与1,2,4,8 … 128做与运算,由低到高取出各位。

3、也可以把byte和32做与运算,然后把byte左移再次与128做与运算。

其中第一种方法会产生大量的字符串对象,在第2、3种方法没有找到太大区别,我选择的3,纯靠感觉。代码如下:

public static char[] ByteToBinString(byte b){  var result = new char[8];  for (int i = 0; i < 8; i++)  {    var temp = b & 128;    result[i] = temp == 0 ? '0' : '1';    b = (byte)(b << 1);  }
  return result;}

为了能将byte[]转化为二进制字符串,可以

Public string BitReader(byte[] data){  BinString = new StringBuilder(data.Length * 8);  for (int i = 0; i < data.Length;   {     BinString.Append(ByteToBinString(data[i]));  }  return BinString.ToString();}  

这样一来当拿到byte[]数据时,可以转换为二进制字符串保存起来,根据偏移的bit位置和bit长度从中读取二进制字符串,并保转换为bool,Int16,Int32等。基于这个思路,可以写一个BitReader类,其中用StringBuilder存储二进制字符串,并提供Read方法从二进制字符串中读取数据。为了能够更好的处理数据流,在此基础上添加一个Position记录当前偏移,当使用某些Read方法读取数据时,Position也会相应移动。例如使用ReadInt16读取数据,BitReader会从Position当前位置,读取16bit并转换为Int16返回,同时Position向后移动16bit。区分方式就是当读取数据时需要指定起始的偏移位置时,Position不移动,直接从当前Position读取时Position移动,BitReader类部分代码如下:

 1 public class BitReader 2 { 3   public readonly StringBuilder BinString; 4   public int Position { get; set; } 5  6   public BitReader(byte[] data) 7   { 8     BinString = new StringBuilder(data.Length * 8); 9     for (int i = 0; i < data.Length; i++)10     {11       BinString.Append(ByteToBinString(data[i]));12     }13     Position = 0;14   }15 16   public byte ReadByte(int offset)17   {18     var bin = BinString.ToString(offset, 8);19     return Convert.ToByte(bin, 2);20   }21 22   public byte ReadByte()23   {24     var result = ReadByte(Position);25     Position += 8;26     return result;27   }28 29   public int ReadInt(int offset, int bitLength)30   {31     var bin = BinString.ToString(offset, bitLength);32     return Convert.ToInt32(bin, 2);33   }34 35   public int ReadInt(int bitLength)36   {37     var result = ReadInt(Position, bitLength);38     Position += bitLength;39     return result;40   }41 42   public static char[] ByteToBinString(byte b)43   {44     var result = new char[8];45     for (int i = 0; i < 8; i++)46     {47       var temp = b & 128;48       result[i] = temp == 0 ? '0' : '1';49       b = (byte)(b << 1);50     }51     return result;52    }53 }

View Code

使用BitReader按照4bit从byte[] buff= {35,12};中读取数据可以这样:

var reader = new BitReader(buff); //二进制字符串为0010001100001100var num1 = reader.ReadInt(4);  //从当前Position读取4bit为int,Position移动4bit,结果为2,当前Position=4var num2 = reader.ReadInt(5,6); //从偏移为5bit的位置读取6bit为int,Position不移动,结果为48,当前Position=4var b = reader.ReadBool(); //从当前Position读取1bit为bool,Position移动1bit,结果为False,当前Position=5

0x02 比特流数据的写入

把数据写入比特流就是一个相反的过程,我们用BitWriter类实现,在其中存储StringBuilder保存二进制字符串,当写入数据时,需要传入数据并指定保存这个数据所需要的bit数。当写入完毕后可以将StringBuilder中保存的二进制字符串按照8bit转换为byte[]并返回。BitWriter的核心部分如下:

 1 public class BitWriter 2 { 3   public readonly StringBuilder BinString; 4  5   public BitWriter() 6   { 7     BinString = new StringBuilder(); 8   } 9 10   public BitWriter(int bitLength)11   {12     var add = 8 - bitLength % 8;13     BinString = new StringBuilder(bitLength + add);14   }15 16   public void WriteByte(byte b, int bitLength=8)17   {18     var bin = Convert.ToString(b, 2);19     AppendBinString(bin, bitLength);20   }21 22   public void WriteInt(int i, int bitLength)23   {24     var bin = Convert.ToString(i, 2);25     AppendBinString(bin, bitLength);26   }27 28   public void WriteChar7(char c)29   {30     var b = Convert.ToByte(c);31     var bin = Convert.ToString(b, 2);32     AppendBinString(bin, 7);33   }34 35   public byte[] GetBytes()36   {37     Check8();38     var len = BinString.Length / 8;39     var result = new byte[len];40 41     for (int i = 0; i < len; i++)42     {43       var bits = BinString.ToString(i * 8, 8);44       result[i] = Convert.ToByte(bits, 2);45     }46 47     return result;48   }49 50   public string GetBinString()51   {52     Check8();53     return BinString.ToString();54   }55 56 57   private void AppendBinString(string bin, int bitLength)58   {59     if (bin.Length > bitLength)60       throw new Exception("len is too short");61     var add = bitLength - bin.Length;62     for (int i = 0; i < add; i++)63     {64       BinString.Append('0');65     }66     BinString.Append(bin);67   }68 69   private void Check8()70   {71     var add = 8 - BinString.Length % 8;72     for (int i = 0; i < add; i++)73     {74       BinString.Append("0");75     }76   }77 }

View Code

下面举个简单的例子:

var writer = new BitWriter();writer.Write(12,5); //把12用5bit写入,此时二进制字符串为:01100writer.Write(8,16); //把8用16bit写入,此时二进制字符串为:011000000000000001000var result = writer.GetBytes(); //8bit对齐为011000000000000001000000                //返回结果为[96,0,64]

0x03 7比特字符编码

我们常用的ASCII字符是使用8bit编码的,但其中真正常用的那些字符只有7bit,最高位为0,所以对于一篇英文文章,我们可以使用7bit重新编码而不损失信息。编码的过程就是把文章字符依次取出,并用BitWriter按照7bit写入,最后获取新编码的byte[]。为了能够正确读取,我们规定当读到8bit数据为2时代表数据开始,接下来16bit数据为后面字符个数。代码如下:

  public byte[] Encode(string text)  {    var len = text.Length * 7 + 24;    var writer = new BitWriter(len);    writer.WriteByte(2);    writer.WriteInt(text.Length, 16);    for (int i = 0; i < text.Length; i++)    {      var b = Convert.ToByte(text[i]);      writer.WriteByte(b, 7);    }    return writer.GetBytes();  }

同样读取数据的时候,我们先寻找开始标识符,然后读出字符个数,根据字符个数依次读取字符,代码如下:

  public string Decode(byte[] data)  {    var reader = new BitReader(data);    while (reader.Remain > 8)    {      var start = reader.ReadByte();      if (start == 2)        break;    }    var len = reader.ReadInt(16);    var result = new StringBuilder(len);    for (int i = 0; i < len; i++)    {      var b = reader.ReadInt(7);      var ch = Convert.ToChar(b);      result.Append(ch);    }    return result.ToString();  }

由于数据头的存在,当编码几个字符时编码后数据反而更长了

 

不过随着字符越多,编码后节省的越多。

 

0x04 6比特字符编码

从节省数据量的角度,如果允许损失部分信息,例如损失掉字母大小写,是可以进一步减少编码所需比特数的。26个字母+10个数字+符号,可以用6bit(64)进行编码。不过使用这种编码方式就不能用ASCII的映射方式了,我们可以自定义映射,例如0-10映射为十个数字等等,也可以使用自定义的字典,也就是传说中的密码本。经常看国产谍战片的应该都知道密码本吧,密码本就是一个字典,把字符进行重新映射获取明文,算是简单的单码替代,加密强度很小,在获取足量数据样本后基于统计很容易就能破解。下面我们就尝试基于自定义字典用6bit重新编码。

编码过程:

仍然像7bit编码那样写入消息头,然后依次取出文本中的字符,从字典中找到对应的数字,把数字按照6bit长度写入到BitWriter

  public byte[] Encode(string text)  {    text = text.ToUpper();    var len = text.Length * 6 + 24;    var writer = new BitWriter(len);    writer.WriteByte(2);    writer.WriteInt(text.Length, 16);    for (int i = 0; i < text.Length; i++)    {      var index = GetChar6Index(text[i]);      writer.WriteInt(index, 6);    }    return writer.GetBytes();  }  private int GetChar6Index(char c)  {    for (int i = 0; i < 64; i++)    {      if (Dict.Custom[i] == c)        return i;    }    return 10; //return *  }

解码过程:

解码也很简单,找到消息头,依次按照6bit读取数据,并从字典中找到对应的字符:

public string Decode(byte[] data){  var reader = new BitReader(data);  while(reader.Remain > 8)  {    var start = reader.ReadByte();    if (start == 2)      break;  }  var len = reader.ReadInt(16);  var result = new StringBuilder(len);  for (int i = 0; i < len; i++)  {    var index = reader.ReadInt(6);    var ch = Dict.Custom[index];    result.Append(ch);  }  return result.ToString();}

同样一段文本用6bit自定义字典编码后数据长度更短了,不过损失了大小写和换行等格式。

如果从加密的角度考虑,可以设置N个自定义字典(假设10个),在消息头中用M bit(例如4bit)表示所用的字典。这样在每次编码时随机选择一个字典编码,解码时根据4bit数据选择相应字典解码,并且定时更换字典可以增大破解难度。感兴趣的园友可以自行尝试。

0x05 写在最后

以上是我处理比特流数据的一点心得,仅仅是我自己能想到的一种方法,满足了我的需求。如果有更效率的更合理的方法,希望赐教。另外编码和解码的两个例子是出于有趣写着玩的,在实际中估计也用不到。毕竟现在带宽这么富裕,数据加密也有N种可靠的多的方式。

示例代码:https://github.com/durow/TestArea/tree/master/BitStream