2023-01

AI

Vitis AIでPytorchのcompileをしてみたメモ

Vitis AIのPytorchのモデル(.xmodel)をコンパイルしてみました。 練習を兼ねて、複数の物体検出(YOLOX、PointPillars)のモデルでテストしています。
AI

量子化のFast Finetuningをメモリ不足で諦めたメモ

Vitis AIのFPGA向けの量子化で精度ロスを防ぐFast Finetuningという機能があります。 但しPCのメモリが有る程度必要でした。(今回だと28GB程度) 低スペックPCには難しく、普通の量子化をした旨を紹介します。
AI

LIDAR点群の3D物体検出の学習に失敗したメモ

自動車のLIDAR点群データを使った3D物体検出の学習を試してみました。ただ、Xilinxからサンプルで提供されている学習済のモデル(重み)には勝てず…。色々と試して失敗した内容含めて紹介します。LIDAR点群の3D物体検出の学習に失敗した...
AI

nuScenes formatのLidar点群の前処理をしてみたメモ

nuScenes形式のデータセットの学習前の前処理をしてみました。 3D物体検出をするために、LIDAR点群を処理しています。 データセットの入れ方から、プログラムの実行まで紹介します。
AI

nuScenes miniのdatasetを試してみる

nuScenesのデータセットは数百Gbyteと莫大です。 nuScenes miniならば数Gbyteのため、テストレベルなら簡単に使えます。 ダウンロードして、Vitis AI環境下で簡単に評価まで実施してみました。
AI

機械学習でgpuメモリ不足のためバッチサイズを変更したメモ

Pytorchで機械学習を回しているときにGPUメモリ不足でエラーになりました。 一番簡単な対策として、バッチサイズ(batchsize)の変更をしました。 CUDA out of memoryになったときに対応したメモを紹介します
エンジニア

GTX1650 GDDR6の消費電力を測定してみた

GTX1650のGDDR6に負荷を掛けて、どれほどの消費電力になるか確認しました。 機械学習を行い、GPUに100%の負荷を掛けた状態を測定しています。 GTX1650の起動時、Idel時、100%の負荷時の消費電力を紹介します。
AI

Vitis-AI Quantizer(量子化)の3D物体検出に失敗したメモ

Vitis-AIのサンプル・ライブラリにないFPGAの量子化(Quantizer)を試してみました。 ただ3D物体検出(pointpainting)の対応はとても難しく失敗に終わりました。 忘備録として一連の流れを紹介します。
AI

KITTIとPointPillarsのVitis AIのサンプルを調べたメモ

VitisAIでKITTIとPointPillarsの機械学習を試してみました。データセットの用意からFPGAへの量子化までの動作確認をしています。その際にエラー出た内容含めて紹介します。KITTIとPointPillarsをVitisAI...
AI

spconvの古いVer1.2.1のインストールが苦労したメモ

3D物体検出でspconvのライブラリを使っていたところエラーが出ました。 元々参照していたのが古いVer1.xのライブラリでした。 何とか環境維持しつつ、エラー消すために再度ビルドした内容を紹介します。