AIの仕組みと用語

AIがもっともらしい嘘をつく現象は、技術の未熟さだけが原因ではありません。OpenAIの研究者らは、モデルの採点のしかたが「分からない」と答えることを不利にしていると指摘しています。論文の主張と、使う側にできる対処を整理します。

答えだけを求めると間違えるのに、途中の考えを書かせると正解する。この現象は2022年の論文で報告され、いまの推論モデルの土台になりました。何が起きているのか、そして自分の使い方にどう効くのかを整理します。

いま使われている生成AIは、ほぼすべて同じ土台の上に建っています。2017年に発表されたTransformerという構造です。何を置き換えたのか、なぜそれで一気に進んだのかを、原論文の記述から整理します。

RAGは、AIに答えさせる前に必要な資料を探してきて渡す仕組みです。モデルを訓練し直さずに社内の情報を扱えるようになり、答えの根拠も示せます。2020年の原論文が何を問題視していたのかから、実際の組み立て方までを整理します。

コンテキストウィンドウは、AIが一度に受け取れる文章の量です。ただし入れられる量と、ちゃんと使ってくれる量は別です。長い入力の真ん中に置いた情報が読み飛ばされる現象は論文で確かめられています。仕組みと、渡し方の工夫を整理します。

AIの料金は文字数ではなくトークンで数えられています。同じ内容を書いても、日本語は英語の約1.46倍のトークンを消費します。トークンが何なのか、なぜ日本語が不利になるのかを、実際に数えた結果とあわせて整理します。