2023-01

AI

Vitis AIでPytorchのcompileをしてみたメモ

Vitis AIのPytorchのモデル(.xmodel)をコンパイルしてみました。 練習を兼ねて、複数の物体検出(YOLOX、PointPillars)のモデルでテストしています。
AI

量子化のFast Finetuningをメモリ不足で諦めたメモ

Vitis AIのFPGA向けの量子化で精度ロスを防ぐFast Finetuningという機能があります。 但しPCのメモリが有る程度必要でした。(今回だと28GB程度) 低スペックPCには難しく、普通の量子化をした旨を紹介します。
AI

LIDAR点群の3D物体検出の学習に失敗したメモ

自動車のLIDAR点群データを使った3D物体検出の学習を試してみました。 ただ、Xilinxからサンプルで提供されている学習済のモデル(重み)には勝てず…。 色々と試して失敗した内容含めて紹介します。 LIDAR点群の...
AI

nuScenes formatのLidar点群の前処理をしてみたメモ

nuScenes形式のデータセットの学習前の前処理をしてみました。 3D物体検出をするために、LIDAR点群を処理しています。 データセットの入れ方から、プログラムの実行まで紹介します。
AI

nuScenes miniのdatasetを試してみる

nuScenesのデータセットは数百Gbyteと莫大です。 nuScenes miniならば数Gbyteのため、テストレベルなら簡単に使えます。 ダウンロードして、Vitis AI環境下で簡単に評価まで実施してみました。
AI

機械学習でgpuメモリ不足のためバッチサイズを変更したメモ

Pytorchで機械学習を回しているときにGPUメモリ不足でエラーになりました。 一番簡単な対策として、バッチサイズ(batchsize)の変更をしました。 CUDA out of memoryになったときに対応したメモを紹介します
エンジニア

GTX1650 GDDR6の消費電力を測定してみた

GTX1650のGDDR6に負荷を掛けて、どれほどの消費電力になるか確認しました。 機械学習を行い、GPUに100%の負荷を掛けた状態を測定しています。 GTX1650の起動時、Idel時、100%の負荷時の消費電力を紹介します。
AI

Vitis-AI Quantizer(量子化)の3D物体検出に失敗したメモ

Vitis-AIのサンプル・ライブラリにないFPGAの量子化(Quantizer)を試してみました。 ただ3D物体検出(pointpainting)の対応はとても難しく失敗に終わりました。 忘備録として一連の流れを紹介します。
AI

KITTIとPointPillarsのVitis AIのサンプルを調べたメモ

Vitis AIでKITTIとPointPillarsの機械学習を試してみました。 データセットの用意からFPGAへの量子化までの動作確認をしています。 その際にエラー出た内容含めて紹介します。 KITTIとPoint...
AI

spconvの古いVer1.2.1のインストールが苦労したメモ

3D物体検出でspconvのライブラリを使っていたところエラーが出ました。 元々参照していたのが古いVer1.xのライブラリでした。 何とか環境維持しつつ、エラー消すために再度ビルドした内容を紹介します。