Question

背景

TensorFlow 框架经常用于多进程和多机环境，比如谷歌数据中心，谷歌机器学习云，亚马逊网络服务（AWS）以及现场分布式集群。为了分享和保存 TensorFlow 生成的某些类型的状态，该框架假定存在一个可靠的、共享的文件系统。这个共享文件系统有诸多用途，比如：

• 状态检查点通常保存到一个分布式文件系统以获得可靠性和容错性。
• 训练进程通过将事件文件写入一个由 TensorBoard 监听的目录与 TensorBoard 进行通信。即使 TensorBoard 运行在不同的进程和机器上，共享的文件系统也能使通信正常进行。

在现实世界中，共享或分布式文件系统有许多不同的实现，所以 TensorFlow 提供了一种功能，可以让用户实现定制的文件系统插件，该插件可以在 TensorFlow 运行时注册。当 TensorFlow 运行时尝试通过 FileSystem 接口写入一个文件，它使用路径名的一部分来动态选择用于文件系统操作的实现。因此，为了支持定制的文件系统需要实现一个 FileSystem 接口，构建一个包含实现的共享对象，并在运行时将该对象加载到该文件系统所需的任何进程中。

注意 TensorFlow 已经包含很多文件系统的实现，例如：

• 标准 POSIX 文件系统

  注意：NFS 文件系统通常作为 POSIX 接口挂载，所以标准 TensorFlow 能够运行在挂载了 NFS 的远程文件系统上。

• HDFS — Hadoop 文件系统
• GCS — 谷歌云存储文件系统
• S3 — 亚马逊基础存储文件系统
• “内存映射文件”文件系统

接下来讲如何实现一个定制的文件系统。

实现一个定制的文件系统插件

为了实现一个定制的文件系统插件，必须执行如下操作：

• 实现 RandomAccessFile 、 WriteableFile 、 AppendableFile 和 ReadOnlyMemoryRegion 子类。
• 作为一个子类实现 FileSystem 接口。
• 使用适当的前缀模式注册 FileSystem 实现。
• 在想要写入文件系统的进程中加载文件系统插件。

FileSystem 接口

FileSystem 接口是在 file_system.h 中定义的一个抽象 C++ 接口。一个 FileSystem 接口的实现应该实现所有在接口中定义的方法。实现接口需要定义操作，如创建 RandomAccessFile 、 WritableFile 和实现标准的文件系统操作，如 FileExists 、 IsDirectory 、 GetMatchingPaths 、 DeleteFile 等等。这些接口的实现通常涉及将函数的输入参数委托给一个已经存在的库函数，该函数在定制文件系统中实现了对应功能。

例如， PosixFileSystem 使用 POSIX unlink() 函数实现了 DeleteFile ； CreateDir 只是简单地调用 mkdir() ； GetFileSize 对文件调用 stat() 然后返回文件大小。类似地，对于 HDFSFileSystem 实现，这些调用只是简单地委托给有着相似功能的 libHDFS 实现，例如用于 DeleteFile 的 hdfsDelete 。

我们建议阅读这些代码示例，以了解不同的文件系统实现如何调用已经存在的库。示例包括：

• POSIX 插件
• HDFS 插件
• GCS 插件
• S3 插件

文件接口

除了在文件系统中允许查询、操作文件和目录外， FileSystem 接口还要求实现一些工厂方法，这些工厂方法返回抽象对象的实现，如 RandomAccessFile 、 WritableFile ，从而 TensorFlow 可以在 FileSystem 实现中编码、读取和写入文件。

为了实现 RandomAccessFile ，你必须实现一个名为 Read() 的接口，其实现必须提供一种从指定文件偏移量读取的方法。

例如，下面是针对 POSIX 文件系统的 RandomAccessFile 实现，读取通过 pread() 随机访问 POSIX 函数实现。请注意，特定的实现必须知道如何重试或传播来自底层文件系统的错误。

    class PosixRandomAccessFile : public RandomAccessFile {
     public:
      PosixRandomAccessFile(const string& fname, int fd)
          : filename_(fname), fd_(fd) {}
      ~PosixRandomAccessFile() override { close(fd_); }

      Status Read(uint64 offset, size_t n, StringPiece* result,
                  char* scratch) const override {
        Status s;
        char* dst = scratch;
        while (n > 0 && s.ok()) {
          ssize_t r = pread(fd_, dst, n, static_cast<off_t>(offset));
          if (r > 0) {
            dst += r;
            n -= r;
            offset += r;
          } else if (r == 0) {
            s = Status(error::OUT_OF_RANGE, "Read less bytes than requested");
          } else if (errno == EINTR || errno == EAGAIN) {
            // Retry
          } else {
            s = IOError(filename_, errno);
          }
        }
        *result = StringPiece(scratch, dst - scratch);
        return s;
      }

     private:
      string filename_;
      int fd_;
    };

要实现 WritableFile 顺序写入抽象，必须实现一些接口，如 Append() 、 Flush() 、 Sync() 和 Close() 。

例如，下面是 POSIX 文件系统的 WritableFile 实现，构造函数内接受 FILE 对象，并在对象上使用标准 POSIX 函数来实现接口。

    class PosixWritableFile : public WritableFile {
     public:
      PosixWritableFile(const string& fname, FILE* f)
          : filename_(fname), file_(f) {}

      ~PosixWritableFile() override {
        if (file_ != NULL) {
          fclose(file_);
        }
      }

      Status Append(const StringPiece& data) override {
        size_t r = fwrite(data.data(), 1, data.size(), file_);
        if (r != data.size()) {
          return IOError(filename_, errno);
        }
        return Status::OK();
      }

      Status Close() override {
        Status result;
        if (fclose(file_) != 0) {
          result = IOError(filename_, errno);
        }
        file_ = NULL;
        return result;
      }

      Status Flush() override {
        if (fflush(file_) != 0) {
          return IOError(filename_, errno);
        }
        return Status::OK();
      }

      Status Sync() override {
        Status s;
        if (fflush(file_) != 0) {
          s = IOError(filename_, errno);
        }
        return s;
      }

     private:
      string filename_;
      FILE* file_;
    };

想要了解更多细节，可以查看接口文档，并查看示例实现以获得灵感。

注册和加载文件系统

一旦你已经为你定制的文件系统实现了 FileSystem ，你需要在一个 scheme 下注册它，从而以那个 scheme 为前缀的路径会被导向你的实现。为此，调用 REGISTER_FILE_SYSTEM ：

    REGISTER_FILE_SYSTEM("foobar", FooBarFileSystem);

当 TensorFlow 尝试对以 foobar:// 开始的文件进行操作时，它将使用 FooBarFileSystem 实现。

    string filename = "foobar://path/to/file.txt";
    std::unique_ptr<WritableFile> file;

    // Calls FooBarFileSystem::NewWritableFile to return
    // a WritableFile class, which happens to be the FooBarFileSystem's
    // WritableFile implementation.
    TF_RETURN_IF_ERROR(env->NewWritableFile(filename, &file));

添加一个新操作（Op）

构建的结果是一个 .so 共享对象文件。

最后，你必须在进程中动态加载这个实现。Python 中，你可以调用 tf.load_file_system_library(file_system_library) 函数，向共享对象传入路径。在客户端程序中调用这个方法加载进程中的共享对象并注册实现，以用于任意经过 FileSystem 接口的文件操作。示例可以查看 test_file_system.py 。

什么会经过接口？

TensorFlow 中几乎所有核心 C++ 文件操作都使用 FileSystem 接口，例如 CheckpointWriter 、 EventsWriter 以及许多其他功能。这意味着实现一个 FileSystem 实现可以让大多数 TensorFlow 程序写入你的共享文件系统。

Python 中， gfile 和 file_io 类通过 SWIG 绑定到 FileSystem 实现，这意味着一旦你加载了这个文件系统库，你可以执行：

with gfile.Open("foobar://path/to/file.txt") as w:

  w.write("hi")

在执行这个之后，一个包含 "hi" 的文件会出现在共享文件系统的 "/path/to/file.txt" 中。

如果您发现本页面存在错误或可以改进，请 点击此处 帮助我们改进。