3

我可以做这个; 我只是不知道为什么它有效。使用我从http://yann.lecun.com/exdb/mnist/下载的 MNIST 数据库以及该页面底部的指南，我编写了（尚未完成的）方法

// TRAINING SET IMAGE FILE (train-images-idx3-ubyte):
// [offset] [type]          [value]          [description] 
// 0000     32 bit integer  0x00000803(2051) magic number 
// 0004     32 bit integer  60000            number of images 
// 0008     32 bit integer  28               number of rows 
// 0012     32 bit integer  28               number of columns 
// 0016     unsigned byte   ??               pixel 
// 0017     unsigned byte   ??               pixel 
// ........ 
// xxxx     unsigned byte   ??               pixel

// TEST SET IMAGE FILE (t10k-images-idx3-ubyte):
// [offset] [type]          [value]          [description] 
// 0000     32 bit integer  0x00000803(2051) magic number 
// 0004     32 bit integer  10000            number of images 
// 0008     32 bit integer  28               number of rows 
// 0012     32 bit integer  28               number of columns 
// 0016     unsigned byte   ??               pixel 
// 0017     unsigned byte   ??               pixel 
// ........ 
// xxxx     unsigned byte   ??               pixel
let loadMnistImage file =
    use stream = File.Open(file, FileMode.Open)
    use reader = new BinaryReader(stream)
    let magicNumber = readInt(reader)
    let nImages = readInt(reader)
    let nRows = readInt(reader)
    let nColumns = readInt(reader)
    (magicNumber, nImages, nRows, nColumns);;

那是容易的部分。困难的部分是readInt函数的形式。我不能只使用BitConverter.ToInt(); 我在此页面中找到了答案：https : //code.google.com/p/aguaviva-libs/source/browse/c%23/NeuronalNetwork/sets/HandWriting.cs?spec=svn9ffdf444c6317be049572cea59170602c8f28bea&r=9ffdf444c6317be049572cea59170602c8f8f

翻译方法

int Read(BinaryReader b, int i)
{
   int res = 0;

   while (i-- > 0)
   {
      res <<= 8;
      res |= b.ReadByte()
   }
   return res;
}

进入 F# 给出

let readInt (b : BinaryReader) =
    [1..4] |> List.fold (fun res item -> (res <<< 8) ||| (int)(b.ReadByte())) 0

（假设i = 4）。这有效：在 F# 交互中，线条

loadMnistImage @"Data\t10k-images.idx3-ubyte"
loadMnistImage @"Data\train-images.idx3-ubyte"

分别给出(2051, 10000, 28, 28)和的结果(2051, 60000, 28, 28)，它们与第一个代码片段的注释中的值一致。

我不明白它为什么起作用。按位或运算符上的所有这些位移和折叠是怎么回事？为什么我不能直接使用BitConverter.ToInt()？

4

2 回答 2

3

标准库方法IPAddress.NetworkToHostOrder(Int32)int在转换网络顺序时考虑了执行平台的字节序。后者按照标准约定是大端。由于 MNIST 文件遵循约定并且是 big-endian，因此以下一对标准库方法将作为readInt函数的 endian-agnostic 替代品：

let readInt (reader: System.IO.BinaryReader) =
    reader.ReadInt32() |> System.Net.IPAddress.NetworkToHostOrder

一个等效但更详细的变体BitConverter涉及

let readInt (reader: System.IO.BinaryReader) =
    (reader.ReadBytes(4),0)
    |> System.BitCoverter.ToInt32
    |> System.Net.IPAddress.NetworkToHostOrder
于 2013-10-15T10:54:20.423 回答
2

发表我的评论作为答案

如所写，无论运行代码的机器的字节顺序如何，该方法都将起作用。

标准库方法都将根据运行代码的机器的字节顺序返回结果。这可能会产生与您预期不同的结果（相对字节顺序相反）。

于 2013-10-15T01:49:40.573 回答