2

我希望能够使用 tensorflowsharp 在 IIS 之上使用 dnnclassifier（估计器）。该模型之前已在 python 中进行过训练。到目前为止，我现在可以生成 PB 文件，知道正确的输入/输出，但是我被困在使用字符串输入的 tensorflowsharp 中。

我可以创建一个有效的 .pb 虹膜数据集文件。它使用以下fete_spec：

{'SepalLength': FixedLenFeature(shape=(1,), dtype=tf.float32, default_value=None), 'SepalWidth': FixedLenFeature(shape=(1,), dtype=tf.float32, default_value=None), 'PetalLength': FixedLenFeature(shape=(1,), dtype=tf.float32, default_value=None), 'PetalWidth': FixedLenFeature(shape=(1,), dtype=tf.float32, default_value=None)}

我创建了一个简单的 c# 控制台来尝试启动它。输入应该是“input_example_tensor”，输出位于“dnn/head/predictions/probabilities”中。这是我在 alex_zu 在此处使用 saved_model_cli 命令提供帮助后发现的。

据我所知，所有 tensorflow 估计器 API 的工作都是这样的。

问题来了： input_example_tensor 应该是一个字符串格式，它将由 ParseExample 函数在内部解析。现在我被困住了。我找到了 TFTensor.CreateString，但这并不能解决问题。

using System;
using TensorFlow;

namespace repository
{
    class Program
    {
        static void Main(string[] args)
        {
            using (TFGraph tfGraph = new TFGraph()){
                using (var tmpSess = new TFSession(tfGraph)){
                    using (var tfSessionOptions = new TFSessionOptions()){
                        using (var metaGraphUnused = new TFBuffer()){

                            //generating a new session based on the pb folder location with the tag serve
                            TFSession tfSession = tmpSess.FromSavedModel(
                                tfSessionOptions,
                                null,
                                @"path/to/model/pb", 
                                new[] { "serve" }, 
                                tfGraph, 
                                metaGraphUnused
                            );

                            //generating a new runner, which will fetch the tensorflow results later
                            var runner = tfSession.GetRunner();

                            //this is in the actual tensorflow documentation, how to implement this???
                            string fromTensorflowPythonExample = "{'SepalLength': [5.1, 5.9, 6.9],'SepalWidth': [3.3, 3.0, 3.1],'PetalLength': [1.7, 4.2, 5.4],'PetalWidth': [0.5, 1.5, 2.1],}";

                            //this is the problem, it's not working...
                            TFTensor rawInput = new TFTensor(new float[4]{5.1f,3.3f,1.7f,0.5f});
                            byte[] serializedTensor = System.Text.Encoding.ASCII.GetBytes(rawInput.ToString());
                            TFTensor inputTensor = TensorFlow.TFTensor.CreateString (serializedTensor);

                            runner.AddInput(tfGraph["input_example_tensor"][0], inputTensor);
                            runner.Fetch("dnn/head/predictions/probabilities", 0);

                            //start the run and get the results of the iris example
                            var output = runner.Run();
                            TFTensor result = output[0];

                            //printing response to the client
                            Console.WriteLine(result.ToString());
                            Console.ReadLine();
                        } 
                    }
                }
            }
        }
    }
}

此示例将给出以下错误：

An unhandled exception of type 'TensorFlow.TFException' occurred in TensorFlowSharp.dll: 'Expected serialized to be a vector, got shape: []
 [[Node: ParseExample/ParseExample = ParseExample[Ndense=4, Nsparse=0, Tdense=[DT_FLOAT, DT_FLOAT, DT_FLOAT, DT_FLOAT], dense_shapes=[[1], [1], [1], [1]], sparse_types=[], _device="/job:localhost/replica:0/task:0/device:CPU:0"](_arg_input_example_tensor_0_0, ParseExample/ParseExample/names, ParseExample/ParseExample/dense_keys_0, ParseExample/ParseExample/dense_keys_1, ParseExample/ParseExample/dense_keys_2, ParseExample/ParseExample/dense_keys_3, ParseExample/Const, ParseExample/Const, ParseExample/Const, ParseExample/Const)]]'

如何以可以正确使用 pb 文件的方式序列化张量？

我还在github上发布了这个问题，在这里你可以找到 iris 示例 python 文件、pb 文件和控制台应用程序。在我看来，解决这个问题为所有拥有古老生产环境的 tensorflow 用户（比如我）创造了一个简洁的解决方案。

4

1 回答 1

0

该Expected serialized to be a vector, got shape: []错误可以通过使用TFTensor.CreateString函数的重载来修复：该模型显然不需要一个包含单个字符串的向量，而不是直接获取一个字符串：

TFTensor inputTensor = TFTensor.CreateString(new byte[][] { bytes }, new TFShape(1));

在input_example_tensor您的情况下，现在需要一个序列化的Exampleprotobuf 消息（另请参阅文档和example.proto文件）。

使用 protobuf 编译器，我生成了一个包含Example该类的 C# 文件。你可以从这里下载它：https ://pastebin.com/iLT8MUdR 。具体来说，我使用了这个在线工具，并用该文件中定义的消息CSharpProtoc替换了该行。import "tensorflow/core/example/feature.proto";

将文件添加到项目后，您将需要对Google.Protobuf. 然后，您可以将序列化的示例传递给模型，如下所示：

Func<float, Tensorflow.Feature> makeFeature = (float x) => {
    var floatList = new Tensorflow.FloatList();
    floatList.Value.Add(x);
    return new Tensorflow.Feature { FloatList = floatList };
};

var example = new Tensorflow.Example { Features = new Tensorflow.Features() };
example.Features.Feature.Add("SepalLength", makeFeature(5.1f));
example.Features.Feature.Add("SepalWidth",  makeFeature(3.3f));
example.Features.Feature.Add("PetalLength", makeFeature(1.7f));
example.Features.Feature.Add("PetalWidth",  makeFeature(0.5f));

TFTensor inputTensor = TFTensor.CreateString(
    new [] { example.ToByteArray() }, new TFShape(1));

runner.AddInput(tfGraph["input_example_tensor"][0], inputTensor);
runner.Fetch("dnn/head/predictions/probabilities", 0);

//start the run and get the results of the iris example
var output = runner.Run();
TFTensor result = output[0];
于 2020-08-03T10:31:52.743 回答