LoRA

えるおーあーるえー

「Low-Rank Adaptation」の略語 既存のモデル(CHECKPOINT)に追加学習をさせる手法

大規模モデルを高速かつ低消費メモリでfine-tuningする新たな手法

LoRAでは、重みの差分を学習させる。