AI Netronをインストール(Ubuntu と Windows)
UbuntuとWindowsの両方でNetronをインストールしました。PyTorch, TensorFlow(機械学習)などの「重み」を可視化してくれる、便利なソフトです。インストール方法・簡単な使い方を紹介します。
AI
AI 
AI 第6回AIエッジコンテストが凄く難しいけど勉強になった感想
第6回AIエッジコンテストに参加していました。RISC-Vを使って、画像とLIDAR点群からの3D物体検出が課題でした。ただ貴重な勉強の機会になりましたし、自身への忘備録としても内容を紹介します。
AI nuScenes形式の3D物体検出をKV260(FPGA)で試したメモ
nuScenes形式の3D物体検出(PointPillars)をFPGAでテストしてみました。使用した評価ボードはKV260です。第6回AIエッジコンテストのデータセットでも確認しています。
AI KITTI形式の3D物体検出をKV260(FPGA)で試したメモ
KITTIの3D物体検出(PointPillars)をFPGAでテストしてみました。使用した評価ボードはKV260です。Vitis AIのライブラリを使って、簡単にテストしてみた内容を紹介します。
AI KV260でYOLOX+DPUの物体検出をしてみたメモ
FPGAでYOLOXの物体検出をしてみました。使用したFPGAの評価ボードはKV260です。Vitis AIのサンプルを使って簡単にテストした内容を紹介します。
AI Vitis AIでPytorchのcompileをしてみたメモ
Vitis AIのPytorchのモデル(.xmodel)をコンパイルしてみました。練習を兼ねて、複数の物体検出(YOLOX、PointPillars)のモデルでテストしています。
AI 量子化のFast Finetuningをメモリ不足で諦めたメモ
Vitis AIのFPGA向けの量子化で精度ロスを防ぐFast Finetuningという機能があります。但しPCのメモリが有る程度必要でした。(今回だと28GB程度)低スペックPCには難しく、普通の量子化をした旨を紹介します。
AI LIDAR点群の3D物体検出の学習に失敗したメモ
自動車のLIDAR点群データを使った3D物体検出の学習を試してみました。ただ、Xilinxからサンプルで提供されている学習済のモデル(重み)には勝てず…。色々と試して失敗した内容含めて紹介します。LIDAR点群の3D物体検出の学習に失敗した...
AI nuScenes formatのLidar点群の前処理をしてみたメモ
nuScenes形式のデータセットの学習前の前処理をしてみました。３D物体検出をするために、LIDAR点群を処理しています。データセットの入れ方から、プログラムの実行まで紹介します。
AI nuScenes miniのdatasetを試してみる
nuScenesのデータセットは数百Gbyteと莫大です。nuScenes miniならば数Gbyteのため、テストレベルなら簡単に使えます。ダウンロードして、Vitis AI環境下で簡単に評価まで実施してみました。
AI 機械学習でgpuメモリ不足のためバッチサイズを変更したメモ
Pytorchで機械学習を回しているときにGPUメモリ不足でエラーになりました。一番簡単な対策として、バッチサイズ(batchsize)の変更をしました。CUDA out of memoryになったときに対応したメモを紹介します
AI Vitis-AI Quantizer(量子化)の3D物体検出に失敗したメモ
Vitis-AIのサンプル・ライブラリにないFPGAの量子化(Quantizer)を試してみました。ただ3D物体検出(pointpainting)の対応はとても難しく失敗に終わりました。忘備録として一連の流れを紹介します。
AI KITTIとPointPillarsのVitis AIのサンプルを調べたメモ
Vitis AIでKITTIとPointPillarsの機械学習を試してみました。データセットの用意からFPGAへの量子化までの動作確認をしています。その際にエラー出た内容含めて紹介します。KITTIとPointPillarsをVitis ...
AI spconvの古いVer1.2.1のインストールが苦労したメモ
3D物体検出でspconvのライブラリを使っていたところエラーが出ました。元々参照していたのが古いVer1.xのライブラリでした。何とか環境維持しつつ、エラー消すために再度ビルドした内容を紹介します。
AI Vitis AIでvai_q_pytorchをインストールしてみたメモ
Vitis AI でPytorchの量子化(vai_q_pytorch)する場面があります。Ver2.5でnvccの並列計算を使うには、環境のセットアップが必要です。vai_q_pytorchをインストールする方法を紹介します。
AI Ubuntuでninja-buildをインストールしてみた
CMAKEよりも高速にビルドできると言われるninjaがあります。機械学習などのライブラリを使うときにもninjaを求められる場合がありますUbuntuでインストールしてみましたので紹介します。
AI Vitis AIでPytorchのConda環境を新しく構築してみた
Vitis AIでPytorchのConda環境を立ち上げてみました。量子化(vai_q_pytorch)する上でgpuとnvccを使うには、環境のセットアップが必要です。FPGAに向けてPytorchのモデルを量子化する内容を紹介します。
AI Vitis AI GPU dockerの環境構築をしたメモ
XilinxのFPGAのAI開発環境である、Vitis-AI 2.5のGPU版を立ち上げてみました。dockerやCUDAなど多くのものを事前にインストールする必要があります。実際にGPU dockerの環境構築をした手順を紹介します。
AI Vitis AIでdocker_build_gpu.shが失敗するメモ
VItis AIでGPU版のDockerをビルドすると失敗しました。エラーの症状とメッセージ、ログをメモしておきます。また原因を調べてみました。
AI VItis AI 2.5やPetaLinuxなどインストールしてみたメモ
Vitis AIの最新版2.5やPetaLinuxインストールしてみました。ダウンロードからの一連の流れを簡単に紹介します。