AIの仕組みと用語

モデルの数値を粗くして、容量と計算量を減らす手法です。手元のPCで動かせるかどうかを分ける技術でもあります。仕組みと、どこまで落としてよいかを整理します。

文章を大量に読ませただけでは、使いやすい応答にはなりません。人が出力を比べて良し悪しを示し、その傾向を学ばせる工程があります。仕組みと副作用を整理します。

AIは文字をそのまま読んでいません。まず細かい単位に切り分けて、番号に変えています。この工程が、料金と精度の両方に効いています。

既存のモデルに自社のデータを追加で学習させる手法です。何ができて何ができないのか、RAGとどちらを選ぶべきかを、論文と公式ドキュメントから整理します。

同じモデルなのに、評価する団体によって順位が違う。指標の作り方が変わると順位も動きます。実際に起きた入れ替わりの例と、採点方法そのものが持つ偏りを踏まえて、ベンチマークの数字をどう受け取るかを整理します。

「オープンソースのAIモデル」と紹介されているものの多くは、正確にはオープンウェイトです。重みが公開されていることと、オープンソースであることは違います。Open Source Initiativeが定めた定義をもとに、どこで線が引かれているのかを整理します。

MCP（Model Context Protocol）は、AIアプリと外部のデータやツールをつなぐためのオープンな規格です。Anthropicが公開し、現在はLinux Foundation傘下の財団が管理しています。仕組みと登場人物を、公式仕様の記述に沿って整理します。

生成AIは何をしている装置なのか。次の語を確率で選んでいるだけ、という説明はよく聞きますが、それだけでは足りません。この技術を形づくった3本の論文をたどると、できることとできないことの輪郭が見えてきます。

AIには、モデルを作る段階と、できたモデルを使う段階があります。前者は数百億円規模、後者は1回数円。この違いを押さえておくと、料金の仕組みも、モデルが古い知識しか持っていない理由も見えてきます。

AIエージェントに仕事を任せるとき、どこまで権限を渡すか。OWASPは「過剰な権限」を危険の一つに挙げ、原因を機能・権限・自律性の3つに分けています。何をどう絞ればよいのかを、公開されている対策から整理します。

システムプロンプトの中身は、聞き出されると考えたほうがいい。OWASPは、これをセキュリティの仕組みとして使うこと自体を誤りとしています。何を書いてはいけないのか、そして本当の危険はどこにあるのかを整理します。

写真を見せて「これは何」と聞くと答えが返る。文章から画像を作らせることもできる。画像と言葉を同じ場所に置く考え方は、2021年の論文で大きく前に進みました。仕組みと、実務での注意点を整理します。

AIに渡した資料の中に、AI宛ての指示が仕込まれている。プロンプトインジェクションは、OWASPがLLMアプリの危険の1位に挙げているものです。直接型と間接型の違い、実際の攻撃の形、そして公開されている対策を整理します。

ChatGPTの画面で試したとおりに動くと思ってAPIを叩くと、出力が違って戸惑います。同じモデルでも入口が違えば前提が違うからです。何が違うのか、どちらをいつ使えばよいのかを整理します。

画像生成AIは、絵を描いているのではありません。砂嵐のようなノイズから、少しずつノイズを取り除いて絵を浮かび上がらせています。拡散モデルの考え方と、それが手元のパソコンで動くようになった転機を整理します。

「有給の申請方法」で検索して「休暇取得の手続き」という文書が見つかる。キーワードが一致していないのに探せるのは、文章を数値の並びに変換しているからです。エンベディングとベクトル検索の考え方と、つまずきどころを整理します。

蒸留は、大きなモデルが持っている判断のしかたを、小さなモデルに写し取る技術です。2015年にHintonらが提案した考え方が、いまの軽量モデルの土台になっています。何をどう受け渡しているのか、そして利用者から見て何が変わるのかを整理します。

同じ質問を二度投げると、違う答えが返ってきます。これは不具合ではなく、次の単語を確率で選んでいるからです。最も確率の高い語だけを選ばせると文章が壊れることも論文で示されています。仕組みと、揺れを抑える方法を整理します。

モデルを大きくすれば賢くなる。その常識が2022年の論文で修正されました。同じ計算資源なら、小さいモデルに多くのデータを読ませたほうが強い。400を超えるモデルを訓練して確かめた結果と、それがいまの状況にどう効いているかを整理します。

AIエージェントという言葉は、決められた手順を実行するだけの仕組みにも使われています。Anthropicが公開している整理では、両者は明確に分けられています。違いと、5つの設計パターン、そしてエージェントにすべきでない場面を整理します。