AI Vitis AI 3.0でPyTorchのCPUとGPUの環境を構築したメモ
Ubuntu 20.04の環境でVitis AI 3.0をインストールしました。 ※追記_Vitis AI 3.5でも同様にインストールできることを確認しています PyTorch版のCPUとGPUの両方のdocker環境を整えています。 d...
FPGA
AI 
AI 第6回AIエッジコンテストが凄く難しいけど勉強になった感想
第6回AIエッジコンテストに参加していました。
RISC-Vを使って、画像とLIDAR点群からの3D物体検出が課題でした。
ただ貴重な勉強の機会になりましたし、自身への忘備録としても内容を紹介します。
AI nuScenes形式の3D物体検出をKV260(FPGA)で試したメモ
nuScenes形式の3D物体検出(PointPillars)をFPGAでテストしてみました。
使用した評価ボードはKV260です。
第6回AIエッジコンテストのデータセットでも確認しています。
AI KITTI形式の3D物体検出をKV260(FPGA)で試したメモ
KITTIの3D物体検出(PointPillars)をFPGAでテストしてみました。
使用した評価ボードはKV260です。
Vitis AIのライブラリを使って、簡単にテストしてみた内容を紹介します。
AI KV260でYOLOX+DPUの物体検出をしてみたメモ
FPGAでYOLOXの物体検出をしてみました。
使用したFPGAの評価ボードはKV260です。
Vitis AIのサンプルを使って簡単にテストした内容を紹介します。
AI Vitis AIでPytorchのcompileをしてみたメモ
Vitis AIのPytorchのモデル(.xmodel)をコンパイルしてみました。
練習を兼ねて、複数の物体検出(YOLOX、PointPillars)のモデルでテストしています。
AI 量子化のFast Finetuningをメモリ不足で諦めたメモ
Vitis AIのFPGA向けの量子化で精度ロスを防ぐFast Finetuningという機能があります。
但しPCのメモリが有る程度必要でした。(今回だと28GB程度)
低スペックPCには難しく、普通の量子化をした旨を紹介します。
AI LIDAR点群の3D物体検出の学習に失敗したメモ
自動車のLIDAR点群データを使った3D物体検出の学習を試してみました。 ただ、Xilinxからサンプルで提供されている学習済のモデル(重み)には勝てず…。 色々と試して失敗した内容含めて紹介します。 LIDAR点群の3D物体検出の学習に失...
AI nuScenes formatのLidar点群の前処理をしてみたメモ
nuScenes形式のデータセットの学習前の前処理をしてみました。
３D物体検出をするために、LIDAR点群を処理しています。
データセットの入れ方から、プログラムの実行まで紹介します。
AI nuScenes miniのdatasetを試してみる
nuScenesのデータセットは数百Gbyteと莫大です。
nuScenes miniならば数Gbyteのため、テストレベルなら簡単に使えます。
ダウンロードして、Vitis AI環境下で簡単に評価まで実施してみました。
AI 機械学習でgpuメモリ不足のためバッチサイズを変更したメモ
Pytorchで機械学習を回しているときにGPUメモリ不足でエラーになりました。
一番簡単な対策として、バッチサイズ(batchsize)の変更をしました。
CUDA out of memoryになったときに対応したメモを紹介します
AI Vitis-AI Quantizer(量子化)の3D物体検出に失敗したメモ
Vitis-AIのサンプル・ライブラリにないFPGAの量子化(Quantizer)を試してみました。
ただ3D物体検出(pointpainting)の対応はとても難しく失敗に終わりました。
忘備録として一連の流れを紹介します。
AI KITTIとPointPillarsのVitis AIのサンプルを調べたメモ
Vitis AIでKITTIとPointPillarsの機械学習を試してみました。 データセットの用意からFPGAへの量子化までの動作確認をしています。 その際にエラー出た内容含めて紹介します。 KITTIとPointPillarsをVit...
AI spconvの古いVer1.2.1のインストールが苦労したメモ
3D物体検出でspconvのライブラリを使っていたところエラーが出ました。
元々参照していたのが古いVer1.xのライブラリでした。
何とか環境維持しつつ、エラー消すために再度ビルドした内容を紹介します。
AI Vitis AIでvai_q_pytorchをインストールしてみたメモ
Vitis AI でPytorchの量子化(vai_q_pytorch)する場面があります。
Ver2.5でnvccの並列計算を使うには、環境のセットアップが必要です。
vai_q_pytorchをインストールする方法を紹介します。
AI Ubuntuでninja-buildをインストールしてみた
CMAKEよりも高速にビルドできると言われるninjaがあります。
機械学習などのライブラリを使うときにもninjaを求められる場合があります
Ubuntuでインストールしてみましたので紹介します。
AI Vitis AIでPytorchのConda環境を新しく構築してみた
Vitis AIでPytorchのConda環境を立ち上げてみました。
量子化(vai_q_pytorch)する上でgpuとnvccを使うには、環境のセットアップが必要です。
FPGAに向けてPytorchのモデルを量子化する内容を紹介します。
AI Vitis AI GPU dockerの環境構築をしたメモ
XilinxのFPGAのAI開発環境である、Vitis-AI 2.5のGPU版を立ち上げてみました。
dockerやCUDAなど多くのものを事前にインストールする必要があります。
実際にGPU dockerの環境構築をした手順を紹介します。
AI Vitis AIでdocker_build_gpu.shが失敗するメモ
VItis AIでGPU版のDockerをビルドすると失敗しました。
エラーの症状とメッセージ、ログをメモしておきます。
また原因を調べてみました。
AI VItis AI 2.5やPetaLinuxなどインストールしてみたメモ
Vitis AIの最新版2.5やPetaLinuxインストールしてみました。
ダウンロードからの一連の流れを簡単に紹介します。