Как TensorRT обрабатывает данные?

В Tensorflow формат Tensor - NxWxHxC и проходит по сети.

Когда модель Tensorflow преобразуется в движок TensorRT, как обрабатываются данные Tensor. Такая же форма, как у Thensoflow, или уплощенная.

Сглаженный означает, например, Тензор 1x3x4x3

[[[1,2,3],[4,5,6],[7,8,9],[10,11,12]],
     [[1,2,3],[4,5,6],[7,8,9],[10,11,12]],
     [[1,2,3],[4,5,6],[7,8,9],[10,11,12]]]

сплющен в

[1,2,3,4,5,6,7,8,9,10,11,12,1,2,3,4,5,6,7,8,9,10,11,12,1,2,3,4,5,6,7,8,9,10,11,12]

единый массив и обработанный.


person batuman    schedule 29.08.2019    source источник


Ответы (1)


TensorRT обрабатывает данные в формате NCHW. Когда данные сглаживаются, они имеют формат NCHW. Это означает, что данные сглаживаются как

1,4,7,10,1,4,7,10,1,4,7,10,2,5,8,11,2,5,8,11,2,5,8,11,3,6,9,12,3,6,9,12,3,6,9,12
person batuman    schedule 04.09.2019