AI

Vitis AIのPytorchのモデル(.xmodel)をコンパイルしてみました。 練習を兼ねて、複数の物体検出(YOLOX、PointPillars)のモデルでテストしています。

Vitis AIのFPGA向けの量子化で精度ロスを防ぐFast Finetuningという機能があります。 但しPCのメモリが有る程度必要でした。(今回だと28GB程度) 低スペックPCには難しく、普通の量子化をした旨を紹介します。

自動車のLIDAR点群データを使った3D物体検出の学習を試してみました。 ただ、Xilinxからサンプルで提供されている学習済のモデル(重み)には勝てず…。 色々と試して失敗した内容含めて紹介します。 LIDAR点群の...

nuScenes形式のデータセットの学習前の前処理をしてみました。 ３D物体検出をするために、LIDAR点群を処理しています。 データセットの入れ方から、プログラムの実行まで紹介します。

nuScenesのデータセットは数百Gbyteと莫大です。 nuScenes miniならば数Gbyteのため、テストレベルなら簡単に使えます。 ダウンロードして、Vitis AI環境下で簡単に評価まで実施してみました。

Pytorchで機械学習を回しているときにGPUメモリ不足でエラーになりました。 一番簡単な対策として、バッチサイズ(batchsize)の変更をしました。 CUDA out of memoryになったときに対応したメモを紹介します

Vitis-AIのサンプル・ライブラリにないFPGAの量子化(Quantizer)を試してみました。 ただ3D物体検出(pointpainting)の対応はとても難しく失敗に終わりました。 忘備録として一連の流れを紹介します。

Vitis AIでKITTIとPointPillarsの機械学習を試してみました。 データセットの用意からFPGAへの量子化までの動作確認をしています。 その際にエラー出た内容含めて紹介します。 KITTIとPoint...

3D物体検出でspconvのライブラリを使っていたところエラーが出ました。 元々参照していたのが古いVer1.xのライブラリでした。 何とか環境維持しつつ、エラー消すために再度ビルドした内容を紹介します。

Vitis AI でPytorchの量子化(vai_q_pytorch)する場面があります。 Ver2.5でnvccの並列計算を使うには、環境のセットアップが必要です。 vai_q_pytorchをインストールする方法を紹介します。