何かを調べたいとき、検索エンジンを使うかわりに、AIに直接たずねて答えを受け取る。そんな調べ方が、すでに珍しくなくなってきました。
便利に使っている方も多い一方で、生成AIが中で何をしているのか、なぜときに平然と間違えるのかは、改めて聞かれると説明しづらいものです。
この記事では、生成AIとは何かを、その仕組みから整理していきます。検索エンジンとの違いを補助線に、得意なことと、その仕組みゆえの限界までを見ていきましょう。
生成AIとは何か
生成AIとは、与えられた指示に対して、新しいコンテンツをその場で作り出すAIのことです。
検索エンジンと並べてみると、その性格がはっきりします。検索エンジンは、すでにあるWebページの中から関連するものを探し出し、順番に並べて見せてくれる仕組みです。返ってくるのは、ページへの入り口となるリンクの一覧でした。これに対して生成AIは、たずねられた内容にその場で文章を組み立てて答えます。返ってくるのは、リンクではなく、文章そのものです。
すでにあるものを探して並べるのが検索エンジン、その場で作って答えるのが生成AI。この違いが、生成AIを理解するうえでの出発点になります。
| 検索エンジン | 生成AI | |
|---|---|---|
| すること | すでにあるページを探して並べる | その場で文章を作って答える |
| 返ってくるもの | ページへのリンクの一覧 | 文章そのもの |
| 答えがないとき | 「見つかりません」と示せる | それらしい答えを作ってしまう |
ひとくちに生成AIといっても、その範囲は広がっています。何を生み出すかによって、たとえば次のような種類に分けられます。
- 文章を作るもの
- 画像を作るもの
- 動画や音声を作るもの
種類は違っても、根っこにある考え方は共通しています。大量のデータを学習し、それらしいものを作り出す、という発想です。
この記事では、その中でも最も身近で、検索との関わりも深い文章を作る生成AIに絞って見ていきます。その代表がChatGPTです。
生成AIは次に来る言葉を予測している
文章を作る生成AIの中心にあるのは、大規模言語モデルと呼ばれる技術です。少し噛み砕くと、その核にあるのは驚くほど素朴な仕組みです。ある言葉の次に、どんな言葉が来るのが最もそれらしいかを予測している。これが土台です。
たとえば「今日はいい」という入力に対して、次には「天気」が来やすい。こうした次に来る言葉の予測を、前後の文脈を踏まえながら、膨大な規模で行っています。私たちには文章を理解して考えているように見えますが、根っこでは最もそれらしい言葉を選び、続けていくという動きを繰り返しているのです。
では、なぜそんな単純な仕組みで、まるで意味を分かっているかのような文章が出てくるのでしょうか。鍵は、学習に使われるデータの量にあります。
大量のテキストから言葉の続き方を学ぶ
生成AIが学習しているのは、インターネット上の膨大なテキストです。Web上のさまざまなページ、百科事典、書籍など、桁違いの量の文章を読み込み、どんな言葉のあとにどんな言葉が続きやすいかを学んでいきます。
この次に来る言葉を当てる練習を、天文学的な回数くり返すうちに、副産物としてさまざまなものが身についていきます。文法のルール、言葉どうしの意味のつながり、ある程度の世界の知識。誰かが文法とはこういうものだと教え込んだわけではありません。ただひたすら続きを予測し続けるうちに、それらを内側に獲得していく。ここが、生成AIの不思議で面白いところです。
ただし、ここで知っておきたいことが1つあります。この学習は、ある時点で区切られているということです。生成AIは最新の情報を取り込み続けているわけではなく、ある時期までのデータをまとめて学習しています。そのため、学習した時点よりあとに起きた出来事については、原理的に知りません。この性質は、のちほど限界のところで効いてきます。
予測するだけから受け答えへ
ここまでの説明だと、1つ疑問が残るかもしれません。次に来る言葉を予測するだけなら、文章が延々と続いてしまうだけではないか、と。実はその通りで、学習を終えたばかりの状態は、まだ私たちが知っているChatGPTではありません。
大量のテキストで学習しただけのモデルは、それらしい続きを書くことしかできません。たとえば「日本の首都は？」と入力すると、答えるのではなく「日本の人口は？ 面積は？」と質問の続きを書いてしまったりします。Web上には質問が並んだ文章もたくさんあるので、それをもっともらしい続きとして再現してしまうのです。賢いけれど、人の問いに答える姿勢がまだない状態だといえます。
そこで、もう一段の仕上げが加えられます。このように聞かれたらこのように答える、という良質なやり取りの例を学ばせ、さらに人間がどちらの答えのほうが良いかを評価して方向づけをしていきます。これによって、質問に質問で返すのではなく、きちんと答えるようになっていきます。私たちが普段使っているChatGPTは、この仕上げまで経たものです。
ここで押さえておきたいことがあります。受け答えができるようにしたあとも、土台が次に来る言葉の予測であること自体は変わっていない、という点です。答える姿勢を上から重ねただけで、根っこでそれらしさを選び続けている構造はそのままです。このことが、次に見る限界に直結します。
生成AIの限界を理解する
生成AIは強力な道具ですが、仕組みゆえの限界を知っておくことが、正しく付き合うための土台になります。
もっともらしい嘘をつくことがある
最も重要な限界が、これです。生成AIは、事実でないことを、いかにも本当らしく答えてしまうことがあります。これはハルシネーション（幻覚）と呼ばれます。
なぜこれが起きるのか。理由は、ここまで見てきた仕組みにあります。生成AIの土台は、正しさを判断する仕組みではなく、それらしさを選び続ける仕組みだからです。知らないことをたずねられても、知りませんと止まるのではなく、学習したパターンから、それらしい答えを作り出してしまう。しかも、正しいことを答えるときと同じ自信に満ちた口調で。だからこそ、間違いが見抜きにくいのです。
これは特定の製品の不具合ではなく、この種のAIが構造的に抱える課題です。ChatGPTを開発するOpenAI自身も、ハルシネーションはあらゆる大規模言語モデルに共通する根本的な課題であり、最新のモデルでも完全にはなくなっていないと認めています。
出典：OpenAI『Why Language Models Hallucinate』
知らないことは知らない
先ほど触れた、学習はある時点で区切られているという性質も、限界の1つです。学習した時点よりあとの出来事について、生成AIは原理的に知りません。
ここで厄介なのは、知らないときに知らないと正直に答えるとは限らないことです。さきほどのハルシネーションと重なりますが、学習していない最近の出来事についても、それらしい答えをでっち上げてしまうことがあります。
なお、近年のサービスの多くは、この弱点を補うために、裏側でWeb検索を行い、最新の情報を参照したうえで答える仕組みを備えています。これによって精度は上がります。ただし、参照する材料が手元に増えるだけで、土台がそれらしい言葉を選ぶ仕組みであること自体は変わりません。だから、検索を組み合わせても間違いがゼロになるわけではなく、大事なことは別途確かめるという姿勢は、変わらず必要になります。
答えがないと言えない
もう1つ、検索エンジンと並べると見えてくる、生成AIならではの性質があります。
検索エンジンは、該当する情報が見つからなければ、見つかりませんでしたと返すことができます。そこにないものは、ないと示せる。一方で生成AIは、その仕組み上、入力に対して必ず何かしらの答えを出力します。該当なしという状態が、もともと存在しないのです。
これは便利さの裏返しでもあります。何をたずねても答えが返ってくるのは心強いことですが、それは裏を返せば、答えが実際にあるかどうかとは無関係に、答えがあるかのような体裁が返ってくるということでもあります。返ってきた答えに中身が伴っているかは、受け取る側が見極める必要があります。
おわりに
この記事では、生成AIとは何かを、その仕組みから整理してきました。最後に要点を振り返ります。
- 生成AIは、その場で答えを作り出す
- 土台は、次に来る言葉を確率で予測する
- 学習の副産物として、言語や知識を獲得する
- 受け答えの仕上げが加わり、いまのChatGPTになった
- 仕組み上、嘘をつき、最近を知らず、答えがないと言えない
生成AIは、仕組みを知らずに使うと、なんでも答えてくれる万能の道具に見えてしまいます。しかしその正体は、最もそれらしい言葉を作り続ける仕組みです。この成り立ちを理解しておくことが、返ってきた答えを鵜呑みにせず、生成AIを道具として正しく使いこなすための、確かな土台になります。