ローカルLLM に自分の情報を覚えさせたい人向け

AIに覚えさせる
4つのやり方と、その違い

「ダイエットの情報を、自分のパソコンで動くAIに教えたい」——この一つの目的に対して、やり方は4つある。どれも「覚えさせる」と呼ばれるが、データがどこを通るかが全く違う。流れを1ステップずつ動かして見比べる。

まず言葉の整理。 このページで出てくる言葉は、その場で全部言い換える。
LLM(=たくさんの文章を読んで覚えて、人間みたいに言葉を作れるようになったAIの仕組み)/ ローカルLLM(=インターネットの向こうの会社のAIではなく、自分のパソコンの中だけで動くAI)/ プロンプト(=AIに送る指示や質問の文章そのもの)/ モデル(=AIの本体。中身は膨大な数字のかたまり)。

013行でいうと

4つを並べる。上から順に「手軽・その場かぎり」→「重い・作り込み」。

やり方 1 プロンプトに
そのまま入れる
= 毎回、資料を手渡す テスト勉強に例えると、教科書を開いたまま解く。閉じたら何も残らない。
やり方 2 RAG に
入れておく
= 本棚を作り、必要な頁だけ渡す 付箋を貼った資料室。質問のたびに司書が関係する頁だけ抜いてくる。
やり方 3 ファイン
チューニング
= AIの中身を書き換える 体に覚えさせる反復練習。答え方の癖はつくが、事実の丸暗記は苦手。
やり方 4 転移学習
(土台を借りる)
= 賢い土台+自分用の部品 やり方3を含む、もっと大きい考え方。今の主流は小さな差分だけ作るLoRA。

02全体地図:AIが答えを出すまでの流れの、どこをいじるか

4つの違いは、たった1つの問いに集約される——この5つの箱のうち、どこに手を入れるか

① 手元の資料
ダイエットの指導書・症例・自分のノート
② 探す仕組み
資料の中から必要な部分を選ぶ役
③ 渡す文章
AIに実際に送られる文字の束
④ AI本体
中身の数字(重み)のかたまり
⑤ 答え
画面に返ってくる文章

↑ ボタンを押すと、その方式が触る場所が光る。

031ステップずつ動かして見る

題材は共通。「30代女性、食事は守れているのに2週間体重が落ちない。どうすれば?」という質問に、あなたのダイエット指導の知識で答えさせたい。

044つを横に並べる

同じ項目で比べる。数字は目安であって、機材と資料の量で変わる。

1. プロンプト2. RAG3. ファインチューニング4. 転移学習 / LoRA
何をいじる送る文章だけ資料の置き場と探し方AI本体の中身(数字)AI本体に足す小さな部品
準備の重さゼロ。コピペで済む半日〜数日。仕組みを組む数日〜。教材づくりが本番3と同じだが機材は軽い
情報を更新したい貼り直すだけファイルを差し替えるだけ。即反映学習をやり直し学習をやり直し(ただし短時間)
事実の正確さ目の前にあるので正確出典つきで答えられるうろ覚えになる。作り話が増えることも同左
答え方の型・口調毎回指示すれば従う同左指示しなくても身につく同左
1回あたりの重さ資料の分だけ毎回重い・遅い必要な分だけ。中くらい質問だけ。軽い・速いほぼ同左(わずかに増える)
必要な機材なし保管庫用のソフト(無料でよい)学習用の高性能GPU家庭用GPUでも届く場合がある
秘密は守れるかローカルなら全部手元ローカルなら全部手元全部手元全部手元
できあがるものなし(その場かぎり)資料の保管庫丸ごと1つの新しいモデル数十MBの差分ファイル1個
向く仕事お試し・一度きり社内資料Q&A・マニュアル回答決まった形式で出力・専門の言い回し3と同じ目的を安く実現

05で、どれを選ぶか

順番を飛ばさないのが一番の近道。上から順にやる。

1まず全部プロンプトで試す
資料を丸ごと貼って、10問ほど質問する。ここで満足いく答えが出るなら、他は要らない。
2資料が多すぎて入りきらない/毎回貼るのが面倒/情報が更新される
RAGここが9割の人の答え。「覚えさせたい」の中身は、たいてい事実の参照であってAI本体の改造ではない。
3中身は合っているが、答え方・口調・出力の形が毎回バラつく
ファインチューニングLoRA指示文を長々と書かなくても、いつも同じ型で返させたい時。
4両方ほしい
RAGLoRAこれが実務での定番。事実はRAGに、話し方はLoRAに。役割を分ける。

06よくある3つの誤解

覚えさせる = ファインチューニング
事実の暗記は、ファインチューニングが一番苦手な領域。学習すると「それっぽく」答えるようになるが、細かい数字や固有名詞は崩れる。知識を足したいならRAGが先。
ファインチューニングと転移学習は別物
転移学習が大きな箱で、ファインチューニングはその中の1つのやり方。「すでに賢いAIを土台にして、自分の仕事に流用する」考え方すべてが転移学習。LoRAもその一種。
学習させれば嘘をつかなくなる
むしろ逆に増えることがある。教えていない事まで「教わった口調」で自信満々に答えるようになるため。出典を示させたいなら、答えの材料を手渡すRAG型しかない。
ローカルだから何でもできる
ローカルLLM(=自分のパソコンの中だけで動くAI)の制約はGPU(=計算を大量に並行してこなす部品)の性能。動かすだけなら軽いが、学習させるには桁違いの余力が要る。だからLoRAが生まれた。

07言葉の辞書

このページに出てきた言葉を、全部ひとことで。

LLM
たくさんの文章を読んで覚えて、人間みたいに言葉を作れるようになったAIの仕組み。
ローカルLLM
会社のサーバー(=インターネット越しにデータを渡してくれる、常に動いているコンピュータ)ではなく、自分のパソコンの中だけで動かすAI。情報が外に出ない。
プロンプト
AIに送る指示や質問の文章そのもの。
トークン
AIが文章を数えるときの単位。日本語だとだいたい1文字〜2文字で1個。送る量も、答える量もこれで数える。
コンテキストウィンドウ
AIが一度に読み込める文章の上限。ここを超えた分は見えない。「資料が入りきらない」はこれのこと。
RAG
質問に関係のある資料だけを先に探して、AIに手渡してから答えさせる仕組み。日本語だと「検索してから答えさせる方式」。
チャンク
長い資料を、検索しやすいように数百字ずつの小さなかたまりに切り分けたもの。
エンベディング
文章を、意味が近いほど近い場所に並ぶ「数字の列」に変換したもの。これで「言葉が違っても意味が似ている文」を探せる。
ベクトルデータベース
その数字の列を大量にしまっておき、「似ているもの」を一瞬で取り出せる保管庫。
ファインチューニング
すでにできあがっているAIに追加の練習をさせて、中身の数字を少しだけ変えること。
転移学習
すでに大量に学んだAIの土台を、別の仕事に流用する考え方の全体。ファインチューニングもLoRAもこの中に入る。
重み
AIの中身にある膨大な数字。これが「覚えていること」の正体で、学習とはこの数字を動かす作業。
LoRA
本体の数字は凍らせたまま、小さな追加部品だけを学習させる方法。できるのは数十MB程度の差分ファイルで、外せば元通り。
アダプター
その差分ファイルのこと。用途ごとに作り分けて、付け替えて使える。
GPU
計算を大量に並行してこなす部品。学習にはこれの余力(VRAM=GPU用のメモリ)が要る。
推論
学習ではなく、実際に質問を投げて答えを出させる方の動作。
量子化
中身の数字を少し粗くして、軽くする工夫。手元のパソコンで大きなAIを動かすために使う。
過学習
教材を丸暗記しすぎて、初めて見る質問に弱くなること。学習のやりすぎで起きる。