2023-01

Vitis AIのPytorchのモデル(.xmodel)をコンパイルしてみました。練習を兼ねて、複数の物体検出(YOLOX、PointPillars)のモデルでテストしています。

Vitis AIのFPGA向けの量子化で精度ロスを防ぐFast Finetuningという機能があります。但しPCのメモリが有る程度必要でした。(今回だと28GB程度)低スペックPCには難しく、普通の量子化をした旨を紹介します。

自動車のLIDAR点群データを使った3D物体検出の学習を試してみました。ただ、Xilinxからサンプルで提供されている学習済のモデル(重み)には勝てず…。色々と試して失敗した内容含めて紹介します。LIDAR点群の3D物体検出の学習に失敗した...

nuScenes形式のデータセットの学習前の前処理をしてみました。３D物体検出をするために、LIDAR点群を処理しています。データセットの入れ方から、プログラムの実行まで紹介します。

nuScenesのデータセットは数百Gbyteと莫大です。nuScenes miniならば数Gbyteのため、テストレベルなら簡単に使えます。ダウンロードして、Vitis AI環境下で簡単に評価まで実施してみました。

Pytorchで機械学習を回しているときにGPUメモリ不足でエラーになりました。一番簡単な対策として、バッチサイズ(batchsize)の変更をしました。CUDA out of memoryになったときに対応したメモを紹介します

Vitis-AIのサンプル・ライブラリにないFPGAの量子化(Quantizer)を試してみました。ただ3D物体検出(pointpainting)の対応はとても難しく失敗に終わりました。忘備録として一連の流れを紹介します。

Vitis AIでKITTIとPointPillarsの機械学習を試してみました。データセットの用意からFPGAへの量子化までの動作確認をしています。その際にエラー出た内容含めて紹介します。KITTIとPointPillarsをVitis ...

3D物体検出でspconvのライブラリを使っていたところエラーが出ました。元々参照していたのが古いVer1.xのライブラリでした。何とか環境維持しつつ、エラー消すために再度ビルドした内容を紹介します。

Vitis AI でPytorchの量子化(vai_q_pytorch)する場面があります。Ver2.5でnvccの並列計算を使うには、環境のセットアップが必要です。vai_q_pytorchをインストールする方法を紹介します。

CMAKEよりも高速にビルドできると言われるninjaがあります。機械学習などのライブラリを使うときにもninjaを求められる場合がありますUbuntuでインストールしてみましたので紹介します。

Vitis AIでPytorchのConda環境を立ち上げてみました。量子化(vai_q_pytorch)する上でgpuとnvccを使うには、環境のセットアップが必要です。FPGAに向けてPytorchのモデルを量子化する内容を紹介します。

XilinxのFPGAのAI開発環境である、Vitis-AI 2.5のGPU版を立ち上げてみました。dockerやCUDAなど多くのものを事前にインストールする必要があります。実際にGPU dockerの環境構築をした手順を紹介します。