AI Vitis AIでPytorchのcompileをしてみたメモ
Vitis AIのPytorchのモデル(.xmodel)をコンパイルしてみました。練習を兼ねて、複数の物体検出(YOLOX、PointPillars)のモデルでテストしています。
AI 
AI 量子化のFast Finetuningをメモリ不足で諦めたメモ
Vitis AIのFPGA向けの量子化で精度ロスを防ぐFast Finetuningという機能があります。但しPCのメモリが有る程度必要でした。(今回だと28GB程度)低スペックPCには難しく、普通の量子化をした旨を紹介します。
AI LIDAR点群の3D物体検出の学習に失敗したメモ
自動車のLIDAR点群データを使った3D物体検出の学習を試してみました。ただ、Xilinxからサンプルで提供されている学習済のモデル(重み)には勝てず…。色々と試して失敗した内容含めて紹介します。LIDAR点群の3D物体検出の学習に失敗した...
AI nuScenes formatのLidar点群の前処理をしてみたメモ
nuScenes形式のデータセットの学習前の前処理をしてみました。３D物体検出をするために、LIDAR点群を処理しています。データセットの入れ方から、プログラムの実行まで紹介します。
AI nuScenes miniのdatasetを試してみる
nuScenesのデータセットは数百Gbyteと莫大です。nuScenes miniならば数Gbyteのため、テストレベルなら簡単に使えます。ダウンロードして、Vitis AI環境下で簡単に評価まで実施してみました。
AI 機械学習でgpuメモリ不足のためバッチサイズを変更したメモ
Pytorchで機械学習を回しているときにGPUメモリ不足でエラーになりました。一番簡単な対策として、バッチサイズ(batchsize)の変更をしました。CUDA out of memoryになったときに対応したメモを紹介します
エンジニア GTX1650 GDDR6の消費電力を測定してみた
GTX1650のGDDR6に負荷を掛けて、どれほどの消費電力になるか確認しました。機械学習を行い、GPUに100%の負荷を掛けた状態を測定しています。GTX1650の起動時、Idel時、100%の負荷時の消費電力を紹介します。
AI Vitis-AI Quantizer(量子化)の3D物体検出に失敗したメモ
Vitis-AIのサンプル・ライブラリにないFPGAの量子化(Quantizer)を試してみました。ただ3D物体検出(pointpainting)の対応はとても難しく失敗に終わりました。忘備録として一連の流れを紹介します。
AI KITTIとPointPillarsのVitis AIのサンプルを調べたメモ
Vitis AIでKITTIとPointPillarsの機械学習を試してみました。データセットの用意からFPGAへの量子化までの動作確認をしています。その際にエラー出た内容含めて紹介します。KITTIとPointPillarsをVitis ...
AI spconvの古いVer1.2.1のインストールが苦労したメモ
3D物体検出でspconvのライブラリを使っていたところエラーが出ました。元々参照していたのが古いVer1.xのライブラリでした。何とか環境維持しつつ、エラー消すために再度ビルドした内容を紹介します。
AI Vitis AIでvai_q_pytorchをインストールしてみたメモ
Vitis AI でPytorchの量子化(vai_q_pytorch)する場面があります。Ver2.5でnvccの並列計算を使うには、環境のセットアップが必要です。vai_q_pytorchをインストールする方法を紹介します。
AI Ubuntuでninja-buildをインストールしてみた
CMAKEよりも高速にビルドできると言われるninjaがあります。機械学習などのライブラリを使うときにもninjaを求められる場合がありますUbuntuでインストールしてみましたので紹介します。
AI Vitis AIでPytorchのConda環境を新しく構築してみた
Vitis AIでPytorchのConda環境を立ち上げてみました。量子化(vai_q_pytorch)する上でgpuとnvccを使うには、環境のセットアップが必要です。FPGAに向けてPytorchのモデルを量子化する内容を紹介します。
AI Vitis AI GPU dockerの環境構築をしたメモ
XilinxのFPGAのAI開発環境である、Vitis-AI 2.5のGPU版を立ち上げてみました。dockerやCUDAなど多くのものを事前にインストールする必要があります。実際にGPU dockerの環境構築をした手順を紹介します。
エンジニア UbuntuでCUDAの削除から再インストールまでのメモ
CUDAのインストールに失敗した場合、またバージョンを変更したい場合は多々あります。UbuntuでCUDAの削除から再インストールまで実施しました。自身への覚書含めて、ブログ記事として紹介します。
エンジニア グラボの補助電源なしのメリット！玄人志向のGTX1650編
玄人志向のGTX1650を購入して、市販のデスクトップPCに取り付けてみました。補助電源無しのタイプですので、グラフィックボードを挿し込むだけで動作可能です。購入から取り付け、ドライバのインストールまでの流れを紹介します。
エンジニア Linuxでクローン！ddコマンドからパーティション拡張までしてみた
Linux(Ubuntu)でCドライブの容量が足りなくなり、SSDを交換しました。ddコマンドでのクローン、またパーティション拡張まで対応しました。無事500GB→1TBにSSDの容量アップできた旨を紹介します。
AI Vitis AIでdocker_build_gpu.shが失敗するメモ
VItis AIでGPU版のDockerをビルドすると失敗しました。エラーの症状とメッセージ、ログをメモしておきます。また原因を調べてみました。
AI VItis AI 2.5やPetaLinuxなどインストールしてみたメモ
Vitis AIの最新版2.5やPetaLinuxインストールしてみました。ダウンロードからの一連の流れを簡単に紹介します。
AI ColabでMMDetectionとOpera Datasetを動かしてみた
Opera Datasetの2DサンプルをColabでテストしてみました。Google Driveに学習データを入れて、実際に学習・デモまで実施しています。手順を一から紹介します。