Я использую TensorRT 2.1 и хочу реализовать простой пользовательский слой. (Цель состоит в том, чтобы запустить Single Shot Detector с помощью TensorRT в системе встраивания.) Для практики я хотел создать слой Inc (просто добавив 1.0 к...

Я установил tensorrt 3.0.4, но когда я пытаюсь установить tenorflow с помощью tensorrt 3.0.4, я получил следующее: uff 0.2.0 requires argparse>=1.4.0, which is not installed. tensorrt 3.0.4 requires argparse>=1.4.0, which is not installed....

Я разбираю модель кафе MobileNet-SSD из https://github.com/chuanqi305/MobileNet-SSD с помощью парсера TensorRT caffe. Я использую Jetpack 3.3 в Jetson TX2 в качестве платформы. Как исправить эту ошибку из библиотеки nvinfer? В API есть даже класс...

Мне нужно вручную добавить сверточный слой, так как у меня есть специальная операция, которая не поддерживается парсером Tensorflow. Какого порядка весов TensorRT ожидает читать из файла .wts? Например, тензор веса conv2d Tensorflow обычно имеет...

Я делаю калибровку Int8 с помощью TensorRT. После завершения калибровки проверьте вывод. У меня есть ошибка в stream.synchronize() в следующей функции. На двигателях FP32 и FP16 проблем нет. Ошибка работает только на движке Int8. Что может...

Я использую TensorRT режим точности FP16 для оптимизации моей модели глубокого обучения. И я использую эту оптимизированную модель на Jetson TX2 . Во время тестирования модели я заметил, что механизм вывода TensorRT недетерминирован . Другими...

В Tensorflow формат Tensor - NxWxHxC и проходит по сети. Когда модель Tensorflow преобразуется в движок TensorRT, как обрабатываются данные Tensor. Такая же форма, как у Thensoflow, или уплощенная. Сглаженный означает, например, Тензор 1x3x4x3...

Я запускаю nvprof для профилирования использования графического процессора модели сервер-клиент TensorRT. Вот что я делаю: Запустите nvprof на терминале 1 в док-контейнере с включенным TensorRT, nvprof --profile-all-processes -o results%p.nvvp...

Я установил tenorrt, но получил: ImportError: нет модуля с именем tenorrt

Я попытался установить pycuda, используя https://github.com/jkjung-avt/tensorrt_demos/blob/master/ssd/install_pycuda.sh , так как использую python3. Итак, при установке я столкнулся с ошибкой: Использование: configure.py [параметры]...

Я использую TensorFlow 1.14, и для загрузки TensorFlow SavedModel в оценщик у меня работает следующий код: estimator = tf.contrib.estimator.SavedModelEstimator(saved_model_dir) prediction_results = estimator.predict(input_fn) Однако, когда я...