まず言葉の整理。 このページで出てくる言葉は、その場で全部言い換える。
LLM(=たくさんの文章を読んで覚えて、人間みたいに言葉を作れるようになったAIの仕組み)/
ローカルLLM(=インターネットの向こうの会社のAIではなく、自分のパソコンの中だけで動くAI)/
プロンプト(=AIに送る指示や質問の文章そのもの)/
モデル(=AIの本体。中身は膨大な数字のかたまり)。
013行でいうと
4つを並べる。上から順に「手軽・その場かぎり」→「重い・作り込み」。
やり方 1
プロンプトに
そのまま入れる
= 毎回、資料を手渡す
テスト勉強に例えると、教科書を開いたまま解く。閉じたら何も残らない。
やり方 2
RAG に
入れておく
= 本棚を作り、必要な頁だけ渡す
付箋を貼った資料室。質問のたびに司書が関係する頁だけ抜いてくる。
やり方 3
ファイン
チューニング
= AIの中身を書き換える
体に覚えさせる反復練習。答え方の癖はつくが、事実の丸暗記は苦手。
やり方 4
転移学習
(土台を借りる)
= 賢い土台+自分用の部品
やり方3を含む、もっと大きい考え方。今の主流は小さな差分だけ作るLoRA。
02全体地図:AIが答えを出すまでの流れの、どこをいじるか
4つの違いは、たった1つの問いに集約される——この5つの箱のうち、どこに手を入れるか。
① 手元の資料
ダイエットの指導書・症例・自分のノート
↑ ボタンを押すと、その方式が触る場所が光る。
031ステップずつ動かして見る
題材は共通。「30代女性、食事は守れているのに2週間体重が落ちない。どうすれば?」という質問に、あなたのダイエット指導の知識で答えさせたい。
044つを横に並べる
同じ項目で比べる。数字は目安であって、機材と資料の量で変わる。
| 1. プロンプト | 2. RAG | 3. ファインチューニング | 4. 転移学習 / LoRA |
| 何をいじる | 送る文章だけ | 資料の置き場と探し方 | AI本体の中身(数字) | AI本体に足す小さな部品 |
| 準備の重さ | ゼロ。コピペで済む | 半日〜数日。仕組みを組む | 数日〜。教材づくりが本番 | 3と同じだが機材は軽い |
| 情報を更新したい | 貼り直すだけ | ファイルを差し替えるだけ。即反映 | 学習をやり直し | 学習をやり直し(ただし短時間) |
| 事実の正確さ | 目の前にあるので正確 | 出典つきで答えられる | うろ覚えになる。作り話が増えることも | 同左 |
| 答え方の型・口調 | 毎回指示すれば従う | 同左 | 指示しなくても身につく | 同左 |
| 1回あたりの重さ | 資料の分だけ毎回重い・遅い | 必要な分だけ。中くらい | 質問だけ。軽い・速い | ほぼ同左(わずかに増える) |
| 必要な機材 | なし | 保管庫用のソフト(無料でよい) | 学習用の高性能GPU | 家庭用GPUでも届く場合がある |
| 秘密は守れるか | ローカルなら全部手元 | ローカルなら全部手元 | 全部手元 | 全部手元 |
| できあがるもの | なし(その場かぎり) | 資料の保管庫 | 丸ごと1つの新しいモデル | 数十MBの差分ファイル1個 |
| 向く仕事 | お試し・一度きり | 社内資料Q&A・マニュアル回答 | 決まった形式で出力・専門の言い回し | 3と同じ目的を安く実現 |
05で、どれを選ぶか
順番を飛ばさないのが一番の近道。上から順にやる。
1まず全部プロンプトで試す
資料を丸ごと貼って、10問ほど質問する。ここで満足いく答えが出るなら、他は要らない。
2資料が多すぎて入りきらない/毎回貼るのが面倒/情報が更新される
RAGここが9割の人の答え。「覚えさせたい」の中身は、たいてい事実の参照であってAI本体の改造ではない。
3中身は合っているが、答え方・口調・出力の形が毎回バラつく
ファインチューニングLoRA指示文を長々と書かなくても、いつも同じ型で返させたい時。
4両方ほしい
RAG+LoRAこれが実務での定番。事実はRAGに、話し方はLoRAに。役割を分ける。
06よくある3つの誤解
覚えさせる = ファインチューニング
事実の暗記は、ファインチューニングが一番苦手な領域。学習すると「それっぽく」答えるようになるが、細かい数字や固有名詞は崩れる。知識を足したいならRAGが先。
ファインチューニングと転移学習は別物
転移学習が大きな箱で、ファインチューニングはその中の1つのやり方。「すでに賢いAIを土台にして、自分の仕事に流用する」考え方すべてが転移学習。LoRAもその一種。
学習させれば嘘をつかなくなる
むしろ逆に増えることがある。教えていない事まで「教わった口調」で自信満々に答えるようになるため。出典を示させたいなら、答えの材料を手渡すRAG型しかない。
ローカルだから何でもできる
ローカルLLM(=自分のパソコンの中だけで動くAI)の制約はGPU(=計算を大量に並行してこなす部品)の性能。動かすだけなら軽いが、学習させるには桁違いの余力が要る。だからLoRAが生まれた。
07言葉の辞書
このページに出てきた言葉を、全部ひとことで。
- LLM
- たくさんの文章を読んで覚えて、人間みたいに言葉を作れるようになったAIの仕組み。
- ローカルLLM
- 会社のサーバー(=インターネット越しにデータを渡してくれる、常に動いているコンピュータ)ではなく、自分のパソコンの中だけで動かすAI。情報が外に出ない。
- プロンプト
- AIに送る指示や質問の文章そのもの。
- トークン
- AIが文章を数えるときの単位。日本語だとだいたい1文字〜2文字で1個。送る量も、答える量もこれで数える。
- コンテキストウィンドウ
- AIが一度に読み込める文章の上限。ここを超えた分は見えない。「資料が入りきらない」はこれのこと。
- RAG
- 質問に関係のある資料だけを先に探して、AIに手渡してから答えさせる仕組み。日本語だと「検索してから答えさせる方式」。
- チャンク
- 長い資料を、検索しやすいように数百字ずつの小さなかたまりに切り分けたもの。
- エンベディング
- 文章を、意味が近いほど近い場所に並ぶ「数字の列」に変換したもの。これで「言葉が違っても意味が似ている文」を探せる。
- ベクトルデータベース
- その数字の列を大量にしまっておき、「似ているもの」を一瞬で取り出せる保管庫。
- ファインチューニング
- すでにできあがっているAIに追加の練習をさせて、中身の数字を少しだけ変えること。
- 転移学習
- すでに大量に学んだAIの土台を、別の仕事に流用する考え方の全体。ファインチューニングもLoRAもこの中に入る。
- 重み
- AIの中身にある膨大な数字。これが「覚えていること」の正体で、学習とはこの数字を動かす作業。
- LoRA
- 本体の数字は凍らせたまま、小さな追加部品だけを学習させる方法。できるのは数十MB程度の差分ファイルで、外せば元通り。
- アダプター
- その差分ファイルのこと。用途ごとに作り分けて、付け替えて使える。
- GPU
- 計算を大量に並行してこなす部品。学習にはこれの余力(VRAM=GPU用のメモリ)が要る。
- 推論
- 学習ではなく、実際に質問を投げて答えを出させる方の動作。
- 量子化
- 中身の数字を少し粗くして、軽くする工夫。手元のパソコンで大きなAIを動かすために使う。
- 過学習
- 教材を丸暗記しすぎて、初めて見る質問に弱くなること。学習のやりすぎで起きる。