Axial-DeepLab (ECCV 2020, Spotlight、arXiv:2003.07853)の論文1を読んでいて、Axial-Attentionが具体的にどんなものなのかよく分からなかったので、色々調べたり著者実装2を自分で実行してみたりして「こんな感じかなぁ」という認識に至ったので内容をメモ…

自分用のメモ OpenCV公式のIssue1にある通り、cv::fisheye::initUndistortRectifyMap()の実装にバグがあるような気がする。x、yの値が0〜size.width、0〜size.heightになっているが、uvの計算式は-1.0〜+1.0？の範囲を想定しているように見える。 for( int i…

普段適当にfloat32やfloat16使ってるけど、適当すぎてたまに困るので勉強のために机上での考察とプログラムを動かして検証してみた。 オーバーフロー、アンダーフロー 指数部が表現可能な範囲外を超えるケース float32なら指数が+127を超えるとオーバーフロ…

忘れないように自分用のメモ。 やりたいこと ONNXモデルを使って推論をする時に最終出力ではなく中間ノードの出力がほしい アイデア ２フェーズに分けて処理する 第一フェーズでは中間ノードの出力にShapeノード＋出力ノードを接続する make_node('Shape', i…

CUDAとOpenCLでスレッド同士の通信でどうするんだっけ？と思って調べたことを自分用にメモ。 AMD(OpenCL)はshuffleがなさそう retval = sub_group_broadcast(value, thread_id)がある 特定の１つのthread_idからWavefront全体に値をわたせる 隣のスレッドと…