代码之家 › 专栏 › 技术社区 › pingze

tensorflow_model_服务器如何在0.0.0.0(默认本地主机)上绑定其HTTP/REST?

tensorflow-serving tensorflow

pingze · 技术社区 · 6 年前

tensorflow_model_server 启动服务器。所以我把它放在一个码头集装箱里手动启动服务器。

我的命令:

tensorflow_model_server --model_base_path=/root/serving/my_image_classifier/ --rest_api_port=8501 --model_name=ImageClassifier

此命令使用日志启动服务器:

2018-11-27 03:56:43.302391: I tensorflow_serving/core/loader_harness.cc:86] Successfully loaded servable version {name: ImageClassifier version: 2}

2018-11-27 03:56:43.304439: I tensorflow_serving/model_servers/server.cc:286] Running gRPC ModelServer at 0.0.0.0:8500 ...

[warn] getaddrinfo: address family for nodename not supported

2018-11-27 03:56:43.306009: I tensorflow_serving/model_servers/server.cc:302] Exporting HTTP/REST API at:localhost:8501

正如它所说,HTTP/restapi被导出为localhost。这是不对的,因为如果一个服务器绑定在docker的本地主机上,它就不能从外部附加。

那么,如何让它绑定到0.0.0.0上呢?

TensorFlow ModelServer版本:

TensorFlow ModelServer: 1.12.0-rc0+dev.sha.87470f0
TensorFlow Library: 1.12.0

1 回复 | 直到 6 年前

pingze 6 年前

事实上,即使是日志也显示HTTP/restapi绑定在“localhost”上,实际上 可附加 在docker容器外。

为什么我不能附加这是另一个奇怪的问题(whitch automatic在机器重启后失效)。

但是,我仍然认为tensorflow_模型服务器在日志中使用“localhost”是不对的,尤其是当它告诉RPC bind on“0.0.0.0”时。

我应该公开一个问题。

-1

Tensorflow Support 5 年前

在下面的命令中 rest_api_port=8501 ,它正在绑定它 localhost (默认值)。

tensorflow_model_server --model_base_path=/root/serving/my_image_classifier/ --rest_api_port=8501 --model_name=ImageClassifier

0.0.0.0 ,可以尝试将其值传递为

rest_api_port=0.0.0.0:8501

推荐文章

clstl · Tensorflow服务:大模型,protobuf错误

7 年前

hirsl · 分类列的Tensorflow Java API集占位符

7 年前

gagan malhotra · 使用估计器在java中加载/服务tensorflow模型时的问题

7 年前

Mikael Rousson · Tensorflow为aws新p3实例提供CUDA 9编译服务

7 年前

Thermodynamix · 并行张量流平均小批量梯度

7 年前

Y. Reznichenko · tensorflow服务客户端的最小工作示例

7 年前

Chandan · 在inception-v3中未找到检查点文件

7 年前

Origin Jing · tensorflow_服务分类、预测和回归SignatureDefs之间有什么区别

7 年前

kz28 · 图同步训练之间Tensorflow中创建的梯度队列和令牌队列在哪里

8 年前