https://debimate.jp/tags/generative-ai/Recent content in Generative-Ai on Debimatehttps://debimate.jp/images/default-ogp.webphttps://debimate.jp/images/default-ogp.webpHugo -- 0.166.0ja-JPWed, 11 Nov 2026 00:36:36 +0900https://debimate.jp/notes/generative-ai/diffusion-model/Wed, 11 Nov 2026 00:00:00 +0000https://debimate.jp/notes/generative-ai/diffusion-model/<p>拡散モデル（diffusion model）は、画像に少しずつノイズを足していく過程を、逆向きにたどるように学習したモデルです。生成の時は、ノイズだけの状態から少しずつノイズを取り除いて画像を作ります。<a href="https://arxiv.org/abs/2006.11239">DDPM の論文</a>（Denoising Diffusion Probabilistic Models、2020 年）がこの方法で高い品質の画像を示し、<a href="https://arxiv.org/abs/2307.01952">SDXL</a>（Stable Diffusion XL）もこの仕組みで動いています。</p>https://debimate.jp/notes/generative-ai/structured-output/Tue, 10 Nov 2026 00:00:00 +0000https://debimate.jp/notes/generative-ai/structured-output/<div class="highlight"><pre tabindex="0" style="color:#f8f8f2;background-color:#272822;-moz-tab-size:4;-o-tab-size:4;tab-size:4;-webkit-text-size-adjust:none;"><code class="language-text" data-lang="text"><span style="display:flex;"><span>```json </span></span><span style="display:flex;"><span>{ </span></span><span style="display:flex;"><span> &#34;person&#34;: &#34;松本彩&#34;, </span></span><span style="display:flex;"><span> &#34;date&#34;: &#34;2024-03-19&#34;, </span></span><span style="display:flex;"><span> &#34;amount_yen&#34;: 120000 </span></span><span style="display:flex;"><span>} </span></span><span style="display:flex;"><span>``` </span></span></code></pre></div><p>上記は、文章から人物・日付・金額を取り出して「出力は JSON だけにしてください」と頼んだ時の、qwen3:1.7b の応答です。中身は正しいのですが、<a href="https://daringfireball.net/projects/markdown/">Markdown</a>（見出しやコードを記号で書く文書の記法）のコードブロックの囲み（<code>```</code>）が付いているので、Python の <a href="https://docs.python.org/3/library/json.html#json.loads"><code>json.loads()</code></a> は 1 文字目で失敗します。手元の 40 件の入力では、25 件がこの形でした。</p>https://debimate.jp/notes/generative-ai/tool-calling/Tue, 10 Nov 2026 00:00:00 +0000https://debimate.jp/notes/generative-ai/tool-calling/<p>ツール呼び出し（tool calling、function calling とも呼ぶ）は、LLM（Large Language Model、大規模言語モデル）に関数の名前・説明・引数の形を渡しておき、モデルに「この関数をこの引数で呼んでほしい」という要求を JSON で返させる仕組みです。</p>https://debimate.jp/notes/generative-ai/rag/Tue, 10 Nov 2026 00:00:00 +0000https://debimate.jp/notes/generative-ai/rag/<p>RAG（Retrieval-Augmented Generation、検索拡張生成）は、質問に答える前に手元の文書を検索し、見つけた文章を質問と一緒に LLM（Large Language Model、大規模言語モデル）に渡して答えさせる仕組みです。</p>https://debimate.jp/notes/generative-ai/sampling/Tue, 10 Nov 2026 00:00:00 +0000https://debimate.jp/notes/generative-ai/sampling/<p>サンプリング（sampling）は、LLM（Large Language Model、大規模言語モデル）が次のトークンの候補ごとに出した確率から、実際に出力するトークンを 1 つ選ぶ処理です。temperature と top-p は、その選び方を調整するパラメータです。</p>https://debimate.jp/notes/generative-ai/quantization/Tue, 10 Nov 2026 00:00:00 +0000https://debimate.jp/notes/generative-ai/quantization/<p>量子化（quantization）は、モデルの重みを FP16 などの浮動小数点数から、8 bit や 4 bit の小さな整数に丸めて保存する手法です。丸めた整数と、整数を元の大きさに戻すための係数（スケール）だけを持つので、ファイルもメモリも小さくなります。その代わり、元の値との間に丸めの誤差が入ります。</p>https://debimate.jp/notes/generative-ai/kv-cache/Tue, 10 Nov 2026 00:00:00 +0000https://debimate.jp/notes/generative-ai/kv-cache/<p>KV キャッシュ（key-value cache）は、LLM（Large Language Model、大規模言語モデル）が文章を生成する時に、既に読んだトークンの計算結果（K と V と呼ばれるベクトル）をメモリに取っておく仕組みです。LLM は 1 トークンずつ文章を生成し、次のトークンを選ぶたびに、それまでの全てのトークンを参照します。KV キャッシュがあれば、過去のトークンを毎回計算し直さずに済みます。</p>https://debimate.jp/notes/generative-ai/tokenizer/Tue, 10 Nov 2026 00:00:00 +0000https://debimate.jp/notes/generative-ai/tokenizer/<p>トークナイザー（tokenizer）は、テキストを LLM（Large Language Model、大規模言語モデル）が扱える断片の列に分けるプログラムです。この断片をトークン（token）と呼び、LLM はテキストを文字ではなくトークンの列として読み書きします。API の料金、一度に入力できる量、生成の速さも、文字数ではなくトークン数で計算されます。</p>https://debimate.jp/notes/generative-ai/attribute-binding/Tue, 10 Nov 2026 00:00:00 +0000https://debimate.jp/notes/generative-ai/attribute-binding/<p><code>black hair, aqua eyes</code> と書けば、青緑（aqua）は目にだけ付くと思うかもしれません。英語の文法でも、<code>aqua</code> は隣の <code>eyes</code> に掛かります。しかし、手元の画像生成モデルで seed だけを 12 通りに変えて生成すると、12 枚全てで髪の光沢や毛先まで青緑になりました。</p>https://debimate.jp/notes/generative-ai/image-linting/Tue, 10 Nov 2026 00:00:00 +0000https://debimate.jp/notes/generative-ai/image-linting/<p>生成した画像を自動で検品する時、検査の段を足すほど、人の所に届く絵の品質は上がると考えがちです。しかし、どの検査も一定の割合で正しい絵を誤って落とします。段を重ねると、この誤りは掛け算で積み上がります。以下は、正しい絵を 5% だけ誤って落とす検査を 5 段重ねた時に、正しい絵がどれだけ残るかを描いた図です。</p>https://debimate.jp/notes/generative-ai/img2img-denoise/Tue, 10 Nov 2026 00:00:00 +0000https://debimate.jp/notes/generative-ai/img2img-denoise/<p><a href="https://github.com/CompVis/stable-diffusion/blob/21f890f9da3cfbeaba8e2ac3c425ee9e998d5229/README.md#image-modification-with-stable-diffusion">img2img</a>（image-to-image）は、文字のプロンプトだけでなく、下絵の画像も入力にして絵を描かせる画像生成の使い方です。下絵にノイズを足してから取り除く仕組みは、<a href="https://arxiv.org/abs/2108.01073">SDEdit の論文</a>が示した手法に基づいています。下絵をどれだけ描き直すかを 0〜1 の値で指定し、この値を denoise（ノイズ除去の強さ、<a href="https://github.com/AUTOMATIC1111/stable-diffusion-webui">Stable Diffusion web UI</a> では denoising strength）と呼びます。0 に近いほど下絵のまま、1 に近いほど下絵から離れた絵になります。</p>https://debimate.jp/notes/generative-ai/prompt-weighting/Tue, 10 Nov 2026 00:00:00 +0000https://debimate.jp/notes/generative-ai/prompt-weighting/<div class="highlight"><pre tabindex="0" style="color:#f8f8f2;background-color:#272822;-moz-tab-size:4;-o-tab-size:4;tab-size:4;-webkit-text-size-adjust:none;"><code class="language-text" data-lang="text"><span style="display:flex;"><span>masterpiece, best quality, no humans, still life, (blue ceramic teapot:1.4), lemons, glass bottle </span></span></code></pre></div><p>上記は、画像生成のプロンプトの 1 行です。<code>(blue ceramic teapot:1.4)</code> の括弧と数字が、Prompt Weighting（プロンプトの重み付け）の書式で、括弧で囲んだ語の効き具合を 1.4 倍に強める、という意味で書きます。描きたくないものを並べる打ち消し（ネガティブプロンプト）にも、同じ書式で重みを付けられます。</p>https://debimate.jp/notes/generative-ai/lora/Tue, 10 Nov 2026 00:00:00 +0000https://debimate.jp/notes/generative-ai/lora/<p>LoRA（Low-Rank Adaptation）は、学習済みモデルの重み行列 <code>W</code> を書き換えずに、<code>W</code> に足す差分だけを 2 つの細長い行列 <code>B</code> と <code>A</code> の積として学習する手法です。<a href="https://arxiv.org/abs/2106.09685">Hu 氏らの論文</a>（2021 年）は大規模言語モデルの追加学習を対象にしていましたが、現在は画像生成モデルに画風やキャラクターを足すファイルの形式としても広く使われています。</p>