GPU | ブログ | 鈴木商店

GPU

「GPU」タグの記事（2件）

ノートPC搭載のRTX 3060（6GB VRAM）でELYZA 8Bモデルのファインチューニングに挑戦し、VRAM不足で断念するまでの過程と、そこから得た教訓を記録します。

LLMファインチューニングに不可欠な軽量化技術であるLoRA、量子化、QLoRAの仕組みを解説し、架空の事実をモデルに学習させる「富士山実験」で技術の有効性を実証します。