C# 中具有 1000 条记录的二进制文件格式

Question

我希望将数组模型对象序列化为二进制流。模型类主要具有字符串和整数属性。

我相信我可以将类标记为 [Serialized] 并使用二进制格式化程序，但是我有兴趣知道您是否认为这是最好的方法，记住我的首要任务是传输尽可能小的文件通过低带宽连接（我也可以压缩/解压缩文件）。

该文件可能有 1000 条记录，因此理想情况下，我希望能够附加到磁盘并逐条记录地从磁盘读取，而不必立即将整个文件放入内存中。

所以我的优先事项是：小文件大小和高效的内存使用。

也许有一个预先编写的框架？使用 XML 和 CSV 文件似乎很容易做到！希望它也具有自定义二进制格式。

谢谢

Answer 1

我建议使用 protobuf.net，它非常高效。

话虽如此，这将无法处理集合中的单个对象的序列化/反序列化。这部分你需要自己实现。

• 一种解决方案是： 将对象作为单独的文件存储在文件夹中。文件名将包含一个引用，以便根据名称，您可以找到所需的对象。

• 另一种方法是拥有一个文件，但保留一个索引文件，该文件保留所有对象及其在文件中的位置的列表。这要复杂得多，因为当您保存位于文件中间的对象时，您必须移动所有其他地址，也许 B 树更有效。

Answer 2

另一种选择是仅序列化为固定宽度的文本文件格式并让 ZIP 处理压缩。固定宽度意味着您可以轻松使用 MemoryMappedFile 遍历每条记录，而不需要将整个文件加载到内存中。

Answer 3

我建议使用 Sql Server Compact 将对象存储为对象而无需序列化，它非常轻量且速度极快，我在高负载下使用它来处理服务器上的大量请求。

我也不建议以二进制格式（序列化）存储数据，因为当涉及到更改要存储的对象时，这将是一个非常痛苦的事情。如果您必须查看存储的内容，这也会很痛苦，因为您必须反序列化整个集合。

至于发送，如果需要，我更喜欢使用带有 zip 压缩的 XML 序列化。如果您需要查看发送的内容或进行一些测试，XML 格式会使调试变得更加容易。

Answer 4

您可以使用 BinaryFormatter 。对于需要小文件的情况来说，这是一个很好的解决方案，但只有您知道它是否是您域的最佳解决方案。不过，我认为您不能一次读取一张记录。

我目前拥有的唯一示例代码是 DataSet。这些扩展方法将（反）序列化自定义 DataSet，如果我没记错的话，这是拥有可以使用 BinaryFormatter 的类型的最简单方法。

public static TDataSet LoadBinary<TDataSet>(Stream stream) where TDataSet : DataSet
{
    var formatter = new BinaryFormatter();
    return (TDataSet)formatter.Deserialize(stream);
}

public static void WriteBinary<TDataSet>(this TDataSet dataSet, Stream stream) where TDataSet : DataSet
{
    dataSet.RemotingFormat = SerializationFormat.Binary;
    var formatter = new BinaryFormatter();
    formatter.Serialize(stream, dataSet);
}

您还可以查看 DataContractSerializer ，这是 .NET 处理序列化的新“标准”方式（根据 C# 4.0 In A Nutshell、Albarhari 和 Albahari）。在这种情况下，您还需要阅读最佳实践：数据合同版本控制。下面是如何在 XML 和 JSON 中进行序列化（反序列化）的示例，尽管它们不能直接适用于您的情况（因为您需要小文件）。但您可以压缩文件。

/// <summary>
/// Converts this instance to XML using the <see cref="DataContractSerializer"/>.
/// </summary>
/// <typeparam name="TSerializable">
/// A type that is serializable using the <see cref="DataContractSerializer"/>.
/// </typeparam>
/// <param name="value">
/// The object to be serialized to XML.
/// </param>
/// <returns>
/// Formatted XML representing this instance. Does not include the XML declaration.
/// </returns>
public static string ToXml<TSerializable>(this TSerializable value)
{
    var serializer = new DataContractSerializer(typeof(TSerializable));
    var output = new StringWriter();
    using (var writer = new XmlTextWriter(output) { Formatting = Formatting.Indented })
    {
        serializer.WriteObject(writer, value);
    }
    return output.GetStringBuilder().ToString();
}

/// <summary>
/// Converts this instance to XML using the <see cref="DataContractSerializer"/> and writes it to the specified file.
/// </summary>
/// <typeparam name="TSerializable">
/// A type that is serializable using the <see cref="DataContractSerializer"/>.
/// </typeparam>
/// <param name="value">
/// The object to be serialized to XML.
/// </param>
/// <param name="filePath">Path of the file to write to.</param>
public static void WriteXml<TSerializable>(this TSerializable value, string filePath)
{
    var serializer = new DataContractSerializer(typeof(TSerializable));
    using (var writer = XmlWriter.Create(filePath, new XmlWriterSettings { Indent = true }))
    {
        serializer.WriteObject(writer, value);
    }
}

/// <summary>
/// Creates from an instance of the specified class from XML.
/// </summary>
/// <typeparam name="TSerializable">The type of the serializable object.</typeparam>
/// <param name="xml">The XML representation of the instance.</param>
/// <returns>An instance created from the XML input.</returns>
public static TSerializable CreateFromXml<TSerializable>(string xml)
{
    var serializer = new DataContractSerializer(typeof(TSerializable));

    using (var stringReader = new StringReader(xml))
    using (var reader = XmlReader.Create(stringReader))
    {
        return (TSerializable)serializer.ReadObject(reader);
    }
}

/// <summary>
/// Creates from an instance of the specified class from the specified XML file.
/// </summary>
/// <param name="filePath">
/// Path to the XML file.
/// </param>
/// <typeparam name="TSerializable">
/// The type of the serializable object.
/// </typeparam>
/// <returns>
/// An instance created from the XML input.
/// </returns>
public static TSerializable CreateFromXmlFile<TSerializable>(string filePath)
{
    var serializer = new DataContractSerializer(typeof(TSerializable));

    using (var reader = XmlReader.Create(filePath))
    {
        return (TSerializable)serializer.ReadObject(reader);
    }
}

public static T LoadJson<T>(Stream stream) where T : class
{
    var serializer = new DataContractJsonSerializer(typeof(T));
    object readObject = serializer.ReadObject(stream);
    return (T)readObject;
}

public static void WriteJson<T>(this T value, Stream stream) where T : class
{
    var serializer = new DataContractJsonSerializer(typeof(T));
    serializer.WriteObject(stream, value);
}

Answer 5

如果你想让它小一点，就自己做吧。确保只存储您需要的数据。例如，如果只有 255 个不同的值，则使用一个字节。

http://msdn.microsoft.com/en-us/library/system .bitconverter.aspx

我几乎总是使用像这样的简单结构来存储数据

id (ushort)

data_size (uint)

大小为 data_size 的数据

仅存储您必须拥有的信息，而不考虑它是如何的会习惯的。当您加载它时，您会考虑如何使用数据。

Answer 6

我很想坚持使用 BinaryFormatter 来处理对象本身，或者像其他地方建议的那样使用 protobuf.net 。

如果随机访问方面非常重要（按记录读取和附加记录），您可能需要创建一个包含索引文件的 zip 文件（或类似文件），并将每个对象序列化为 zip 中自己的文件（或者可能在小集合中）。

这样，您就可以有效地拥有一个经过压缩的迷你文件系统，并允许您单独访问您的记录。