AI 量子化のFast Finetuningをメモリ不足で諦めたメモ
Vitis AIのFPGA向けの量子化で精度ロスを防ぐFast Finetuningという機能があります。但しPCのメモリが有る程度必要でした。(今回だと28GB程度)低スペックPCには難しく、普通の量子化をした旨を紹介します。
AI
AI
AI
AI
AI
エンジニア
AI
AI
AI
AI
AI
AI
AI
エンジニア
エンジニア
エンジニア
AI
AI
AI
FPGA
FPGA
FPGA
FPGA
FPGA
FPGA
FPGA
AI
AI
エンジニア
エンジニア