ソースコードはここ↓ github.com 背景とか TensorRTを使おうとしてモデルの一部をONNXのカスタムオペレータにすることがある。（TensorRTのプラグインを使うケース） ただカスタムオペレータを含むモデルはそのままではONNXRuntimeで推論できない。というこ…

AutoML版EfficientDetをTensorRT化しようとして色々あってTensorRTのビルド環境と一緒に環境作りたくなったのでDockerfileとscriptを作ってgitにpushしてみた。 github.com はまったことや注意点を列挙したい。 pycudaより前にnumpyのインストールが必要 set…

とあるディープラーニングモデルをONNXに変換してTensorRTで動かそうとしたらInternal Errorが出るのでNVIDIAさんのフォーラムに凸ってみた。 該当スレッドはここ。 モデルに関する簡単な説明 まずはONNXのResizeオペレータとSliceオペレータについて。 Resi…