Question

为实现ClassificationService：：Service，需要加载导出模型并对其调用推断方法。这可通过一个SessionBundle对象来实现，该对象是从导出的模型创建的，它包含了一个带有完全加载的数据流图的TF会话对象，以及带有定义在导出工具上的分类签名的元数据。

为了从导出的文件路径创建SessionBundle对象，可定义一个便捷函数，以处理这个样板文件：

在这段代码中，我们利用了一个SessionBundleFactory类创建了SessionBundle对象，并将其配置为从pathToExportFiles指定的路径中加载导出的模型。最后返回一个指向所创建的SessionBundle实例的unique指针。

接下来需要定义服务的实现——ClassificationServiceImpl，该类将接收SessionBundle实例作为参数，以在推断中使用：

classify方法的实现包含了4个步骤：

利用GetClassificationSignature函数加载存储在模型导出元数据中的Classification-Signature。这个签名指定了输入张量的（逻辑）名称到所接收的图像的真实名称以及数据流图中输出张量的（逻辑）名称到对其获得推断结果的映射。

将JPEG编码的图像字符串从request参数复制到将被进行推断的张量。

运行推断。它从sessionBundle获得TF会话对象，并运行一次，同时传入输入和输出张量的推断。

从输出张量将结果复制到由ClassificationResponse消息指定的形状中的response输出参数并格式化。

最后一段代码是设置gRPC服务器并创建ClassificationServiceImpl实例（用Session-Bundle对象进行配置）的样板代码。

为了编译这段代码，需要在BUILD文件中为其定义一条规则：

借助这段代码，便可通过命令bazel run：server 9999/tmp/inception-v3/export/{timestamp}从容器中运行推断服务器。