Вопросы по теме 'tensorflow-serving'
После передачи изображения в модель в Tensorflow классификация не выполняется.
Я пытаюсь передать изображение модели, которую я создал, следуя заданию udacity 2_fullconnected.ipynb.
Код, в котором я создал модель, показан ниже.
# In[1]:
from __future__ import print_function
import numpy as np
import tensorflow as tf
from...
298 просмотров
schedule
09.06.2023
Почему трассировка временной шкалы распределенного тензорного потока помечает операцию QueueDequeue как операцию PS?
Я запускаю распределенную начальную модель tensorflow на кластере машин AWS ubuntu и вывожу трассировку временной шкалы через
# Track statistics of the run using Timeline
run_options = tf.RunOptions(trace_level=tf.RunOptions.FULL_TRACE)...
521 просмотров
schedule
29.10.2023
Как делать прогнозы по моделям TensorFlow Wide и Deep, загруженным в TensorFlow Servings model_server
Может ли кто-нибудь помочь мне сделать прогнозы по модели широкого и глубокого обучения TensorFlow, загруженной в model_server TensorFlow Serving?
Если бы кто-нибудь мог указать мне на ресурс или документацию для того же, было бы очень полезно.
1423 просмотров
schedule
15.05.2024
Ошибка модели нагрузки Tenorflow
Я пытаюсь загрузить предыдущую сохраненную модель TENSOFLOW (как график, так и переменные).
Вот как я экспортировал модель во время тренировки
tf.global_variables_initializer().run()
y = tf.matmul(x, W) + b
cross_entropy = tf.reduce_mean(...
1037 просмотров
schedule
20.03.2023
TensorFlow: как делать прогнозы по SavedModel?
Я экспортировал SavedModel , и теперь мне нужно загрузить его обратно и сделать прогноз. Он был обучен со следующими функциями и метками:
F1 : FLOAT32
F2 : FLOAT32
F3 : FLOAT32
L1 : FLOAT32
Итак, скажем, я хочу передать значения 20.9, 1.8,...
20853 просмотров
schedule
04.08.2022
Поддерживает ли tensorflow-serving многопоточность?
У меня есть некоторые проблемы с использованием обслуживания тензорного потока.
Я развернул свою модель тензорного потока как RESTful API, используя обслуживание тензорного потока. Но я сомневаюсь, что сервер tf-server поддерживает...
3267 просмотров
schedule
23.02.2024
Tensorflow при ошибке Raspberry Pi
У меня есть скрипт python, который работает без ошибок на моем рабочем столе. Когда я пытаюсь запустить его на своем Raspberry Pi, я получаю сообщение об ошибке.
Чтобы установить tensorflow на raspberry pi для python 3.5, я следовал этому...
674 просмотров
schedule
25.04.2023
Как мне изменить экспорт модели keras, чтобы принять строку b64 в RESTful API/Google cloud ML
Полный код для экспорта модели: (я уже обучил его и теперь загружаю из файла весов)
def cnn_layers(inputs):
conv_base= keras.applications.mobilenetv2.MobileNetV2(input_shape=(224,224,3), input_tensor=inputs, include_top=False,...
867 просмотров
schedule
18.09.2023
Как загрузить файл изображения в клиент обслуживания Tensorflow, чтобы input_tensor 'DecodeJpeg / contents: 0' получил скаляр вместо формы [1]
Я успешно обучился, экспортировал модель классификации изображений в retrained_graph.pb. Моя функция экспорта выглядит так:
def export_model(sess, keys, architecture, saved_model_dir):
if architecture == 'inception_v3':
input_tensor =...
465 просмотров
schedule
31.12.2023
API обнаружения объектов Tensorflow: как игнорировать регионы во время обучения?
Я использую API обнаружения объектов из репозитория Python для моделей / исследований в Ubuntu 16.04, и я хотел настроить предварительно обученную модель (на данный момент меня интересуют SSD с магистралями MobileNet или Inception) на UA -DETRAC...
658 просмотров
schedule
09.05.2022
Обслуживание Tensorflow: Rest API возвращает ошибку неверного запроса
Обслуживающий сервер Tensorflow (запускаемый с докером) отвечает на мои запросы GET (и POST) следующим образом:
{ "error": "Malformed request: POST /v1/models/saved_model/" }
Точно такая же проблема уже сообщалась, но так и не была решена...
3800 просмотров
schedule
15.01.2023
Экспорт графика тензорного потока с помощью export_saved_model
Я пытаюсь обучить и развернуть упрощенный Quick, Draw! классификатор из здесь в Google Cloud. Мне удалось обучить модель в GC, теперь я застрял на ее развертывании, точнее на создание обслуживающих функций ввода .
Я следую инструкциям из...
435 просмотров
schedule
14.03.2024
Обслуживание Tensorflow на предварительно обученной модели Keras ResNet50, всегда возвращающее одни и те же прогнозы
Я использую следующий код для экспорта предварительно обученной модели Keras ResNet50 в тензорный поток для обслуживания тензорного потока:
import tensorflow as tf
sess = tf.Session()
from keras import backend as K
K.set_session(sess)...
1254 просмотров
schedule
09.01.2024
TensorFlow Serving отправляет данные как b64 вместо массива Numpy
У меня есть контейнер TensorFlow Serving в конечной точке SageMaker. Я могу взять пакет изображений в виде массива Numpy и получить такие прогнозы:
import numpy as np
import sagemaker
from sagemaker.predictor import json_serializer,...
655 просмотров
schedule
28.06.2023
Обслуживание TensorFlow: обновление model_config (добавление дополнительных моделей) во время выполнения
Я занят настройкой клиента обслуживания TensorFlow, который запрашивает сервер обслуживания TensorFlow для создания прогнозов для данного входного изображения для данной модели.
Если запрошенная модель еще не обслуживалась, она загружается с...
3646 просмотров
schedule
14.06.2023
Обслуживание Tensorflow с XLA
Можно ли включить компиляцию XLA при выводе с помощью Tensorflow Serving?
(Я надеюсь, что это просто вопрос недокументированных конфигураций и что я смогу избежать реализации собственного Servable).
805 просмотров
schedule
17.09.2023
Клиент обслуживания Tensorflow только для gRPC на C ++
Кажется, есть немного информации для создания клиента только для gRPC на Python (и даже на нескольких других языках), и я смог успешно получить рабочий клиент, который использует только gRPC в Python, который работает для нашей реализации.
Чего...
2007 просмотров
schedule
05.07.2023
Горячая загрузка моделей в обслуживающий контейнер tenorflow
Я знаю, как загрузить модель в контейнер, а также знаю, что мы можем создать статический файл конфигурации, и когда мы запускаем контейнер, обслуживающий тензорный поток, передаем его в контейнер, а затем используем одну из моделей внутри этих файлов...
992 просмотров
schedule
19.04.2023
TensorflowServing на обученной собственной модели Keras с функцией предварительной обработки для ввода
Моя конечная цель - использовать инструмент What-If-Tool на тензорной доске. Для этого мне нужно обслуживать мою модель Keras на TensorflowServing и данные в TFRecordFile. Поэтому данные необходимо преобразовать в tf.Examples. Предполагается, что...
268 просмотров
schedule
06.02.2022
Сохранение и выполнение логического вывода с моделью BERT Tensorflow
Я создал двоичный классификатор с языковой моделью Tensorflow BERT. Вот ссылка . После обучения модель сохраняет модель и создает следующие файлы.
Код прогноза.
from tensorflow.contrib import predictor
#MODEL_FILE = 'graph.pbtxt'...
3602 просмотров
schedule
02.09.2023
