AI LIDAR点群の3D物体検出の学習に失敗したメモ
自動車のLIDAR点群データを使った3D物体検出の学習を試してみました。
ただ、Xilinxからサンプルで提供されている学習済のモデル(重み)には勝てず…。
色々と試して失敗した内容含めて紹介します。
LIDAR点群の3D物体検出の...
AI 
AI nuScenes formatのLidar点群の前処理をしてみたメモ
nuScenes形式のデータセットの学習前の前処理をしてみました。
３D物体検出をするために、LIDAR点群を処理しています。
データセットの入れ方から、プログラムの実行まで紹介します。
AI nuScenes miniのdatasetを試してみる
nuScenesのデータセットは数百Gbyteと莫大です。
nuScenes miniならば数Gbyteのため、テストレベルなら簡単に使えます。
ダウンロードして、Vitis AI環境下で簡単に評価まで実施してみました。
AI 機械学習でgpuメモリ不足のためバッチサイズを変更したメモ
Pytorchで機械学習を回しているときにGPUメモリ不足でエラーになりました。
一番簡単な対策として、バッチサイズ(batchsize)の変更をしました。
CUDA out of memoryになったときに対応したメモを紹介します
エンジニア GTX1650 GDDR6の消費電力を測定してみた
GTX1650のGDDR6に負荷を掛けて、どれほどの消費電力になるか確認しました。
機械学習を行い、GPUに100%の負荷を掛けた状態を測定しています。
GTX1650の起動時、Idel時、100%の負荷時の消費電力を紹介します。
AI Vitis-AI Quantizer(量子化)の3D物体検出に失敗したメモ
Vitis-AIのサンプル・ライブラリにないFPGAの量子化(Quantizer)を試してみました。
ただ3D物体検出(pointpainting)の対応はとても難しく失敗に終わりました。
忘備録として一連の流れを紹介します。
AI KITTIとPointPillarsのVitis AIのサンプルを調べたメモ
Vitis AIでKITTIとPointPillarsの機械学習を試してみました。
データセットの用意からFPGAへの量子化までの動作確認をしています。
その際にエラー出た内容含めて紹介します。
KITTIとPointPillars...
AI spconvの古いVer1.2.1のインストールが苦労したメモ
3D物体検出でspconvのライブラリを使っていたところエラーが出ました。
元々参照していたのが古いVer1.xのライブラリでした。
何とか環境維持しつつ、エラー消すために再度ビルドした内容を紹介します。
AI Vitis AIでvai_q_pytorchをインストールしてみたメモ
Vitis AI でPytorchの量子化(vai_q_pytorch)する場面があります。
Ver2.5でnvccの並列計算を使うには、環境のセットアップが必要です。
vai_q_pytorchをインストールする方法を紹介します。
AI Ubuntuでninja-buildをインストールしてみた
CMAKEよりも高速にビルドできると言われるninjaがあります。
機械学習などのライブラリを使うときにもninjaを求められる場合があります
Ubuntuでインストールしてみましたので紹介します。