フレーム問題とは？ロボットと爆弾のたとえ話や身近な例で分かりやすく解説！
目次
ウマたん当サイト【スタビジ】の本記事では、AIの世界でとても重要な「フレーム問題」について分かりやすく解説していきます！身近な例や、有名な「ロボットと爆弾」のたとえ話、今のAIとの関係まで見ていきましょう！
こんにちは！ウマたんです！
「ちょっとコンビニで牛乳を買ってきて」と頼まれたとき、あなたは何を考えますか？
財布を持ったか、お店は開いているか、くらいですよね。
「歩いているうちに家の壁の色が変わらないか」「月の位置がずれないか」なんて、いちいち考えたりしません。
人間は、関係のないことを、考えるまでもなく自然に無視できるんです。
ところが、AIにとっては、この「関係のないことを無視する」のが、とても難しいことなんです。
これが、今回のテーマ「フレーム問題」です！
フレーム問題って、G検定の勉強で出てきたけど、いまいちピンとこない……
こんなに賢いAIが増えているのに、まだ解決していない問題なの？
本記事では、次の4つを順番に解説していきます。
以下のYouTube動画でも解説していますので、あわせてチェックしてみてください！
フレーム問題とは？
まずは、フレーム問題の「フレーム」とは何かから見ていきましょう！
「フレーム」は考えるべきことの「枠」
フレームとは、考えるべきことの「枠」という意味です。
つまり、何を考えて、何は考えなくていいのかという境界線のことなんです。
でも実は、「どこまで考えればいいのか」を決めるのが、とても難しいんです。
それが、フレーム問題につながります。
関係のあることだけを選んで考えるのが難しい
フレーム問題とは、ある行動をするときに、世の中に無数にある事がらの中から、その行動に関係のあることだけを選び出して考えることが、AIにはとても難しいという問題です。
世の中には、考えようと思えば、考えられることが無限にあります。
そのすべてを考えていたら、いつまでたっても行動できません。
かといって、大事なことまで考えなかったら、失敗してしまいます。
「考えるべきこと」と「考えなくていいこと」の枠（フレーム）を、どう決めるか。これがフレーム問題の核心なんです。
1969年に生まれた、AIの有名な難問
フレーム問題は、1969年に、AI研究者のジョン・マッカーシー氏とパトリック・ヘイズ氏が書いた論文で初めて示されました。
もともとは、「ある行動をしたときに、変わらないことをどうやってAIに表させるか」という、論理学の問題でした。
それがのちに、哲学者たちも巻き込んで、「関係のあることをどう選ぶか」という、もっと広い意味の問題として議論されるようになったんです。
今では、AIの歴史を学ぶと必ず出てくる、とても有名な難問になっています。
G検定でもおなじみの用語なので、G検定を受ける方はぜひおさえておきましょう！
【初心者向け】G検定の勉強方法を現役データサイエンティストが徹底的に解説！当サイト【スタビジ】の本記事では、G検定の勉強法をまとめています！おすすめの学習サイトや本を紹介しているので、この記事を読んで、G検定の勉強を始めていきましょう！
フレーム問題の身近な例
続いて、フレーム問題の身近な例を見ていきましょう！
家事ロボットが食器を運ぶ
たとえば、家事ロボットが、テーブルの上のお皿を運ぶケースを考えてみましょう。
ロボットは「お皿を持ち上げる」という動作を選ぶ前に、いろいろなことを考え始めてしまいます。
| 考えるべきこと（関係あり） | 考えなくていいこと（関係なし） |
|---|---|
| 上に重なったほかの食器が、バランスを崩して落ちないか | 壁の色 |
| お皿を持っている間は、ドアが開けにくくなるのではないか | 照明の明るさ |
| お皿が熱くないか、割れていないか | テレビがついているかどうか |
| 床に物が落ちていて、つまずかないか | 窓の外の天気 |
「お皿を持ち上げる」という動作ひとつとっても、考えるべきことがたくさんあります。
さらに、ロボットにとって影響のない壁の色や照明の明るさ、テレビの状態など、考えなくていいことを、毎回毎回「関係ない」と判断して、考えから外す必要があるんです。
人間は、こうしたことを経験から自然に判断して、すぐに必要な動作だけにしぼって考えられます。
でもAIにとっては、これがかなり難しい領域なんです。
自動運転の車が交差点を進む
自動運転も、フレーム問題がとても問われる領域です。
信号が青に変わったので、車が進もうとしたとします。
ふだんは無視してもいいけれど、時には影響がある。そんな要素が、道路には無数にあります。
何が重要で、何が関係ないかを、一瞬で枠（フレーム）にしぼることが、とても大事な領域であることが分かると思います。
有名な「ロボットと爆弾」のたとえ話
フレーム問題を説明するときに、必ずと言っていいほど登場するたとえ話があります。
もとは、アメリカの哲学者ダニエル・デネット氏が、1984年の論文でフレーム問題を説明するために示した話です。
日本では「洞窟の中のバッテリー」の話として紹介されることが多いので、ここでもその形で見ていきましょう。
状況：爆弾の下にあるバッテリー
洞窟の中に、ロボットを動かすための大事なバッテリーがあります。
ところが、そのバッテリーの上には、時限爆弾がしかけられています。
このままでは爆弾が爆発して、バッテリーがこわれ、ロボットはバッテリーを交換できなくなってしまいます。
そこで、洞窟の中からバッテリーを取り出してくる必要があります。
1号機：爆弾ごと運び出してしまう
最初の1号機のロボットは、「洞窟からバッテリーを取り出してくること」という指示どおり、洞窟に入って、無事にバッテリーを取り出すことができました。
ところが、バッテリーの上に乗っていた爆弾も一緒に運び出してしまったため、爆発してしまいました。
「バッテリーを動かすと、上に乗った爆弾も一緒に動く」という、行動にともなって起きること（副次的なこと）を考えていなかったのが失敗の原因です。
2号機：考えすぎて動けなくなる
そこで、副次的に起きることもちゃんと考えるように改良した、2号機を作りました。
ところが2号機は、洞窟に入って、バッテリーの前まで来たところで、動かなくなってしまいました。
起こるかもしれないあらゆることを考え始めて、いつまでも考え続けてしまったんです。
そのまま時限爆弾が作動して、吹き飛んでしまいました。
行動にともなって起こりうることは無限にあって、そのすべてを考えるには、無限の計算時間が必要になるからです。
3号機：関係ないことを探し続けて動けなくなる
とはいえ、「壁の色が変わらないか」なんて、ふつうは考える必要がありませんよね。
そこで、目的に関係のないことは考えないように改良した、3号機を作りました。
ところが3号機は、今度は洞窟に入る前に、動かなくなってしまいました。
目的に関係のないことを、すべて洗い出そうとして、いつまでも考え続けてしまったんです。
目的に関係のないことも、また無限にあるからです。
| ロボット | 改良したこと | 結果 |
|---|---|---|
| 1号機 | 指示どおりに動く | 爆弾も一緒に運び出して、爆発 |
| 2号機 | 起こりうることを、すべて考える | 考え続けて動けず、爆発 |
| 3号機 | 関係ないことを考えないように、関係ないことを洗い出す | 洗い出しが終わらず、洞窟に入る前に爆発 |
これが、フレーム問題なんです！
考える事がらが増えると、組み合わせが爆発する
「コンピュータは計算が速いんだから、全部考えればいいのでは？」と思うかもしれません。
でも、考える事がらが増えると、確かめるべきパターンは、とんでもない勢いで増えていきます。
たとえば、ひとつひとつの事がらについて「変わる」「変わらない」の2通りがあるとすると、組み合わせは、事がらが10個なら約1,000通り、30個なら約10億通り、60個なら約115京通りにもなります。
60個の組み合わせを、1秒に1億通りのペースで調べたとしても、約365年かかってしまう計算です。
そして現実の世界には、60個どころではない、数えきれないほどの事がらがあります。
計算が速いだけでは、すべてを考えることはできないんです。
人間はどうしてフレーム問題に悩まないの？
ここで、ふと疑問に思いませんか？
「人間だって世の中のすべてを考えているわけじゃないのに、どうして動けるの？」と。
実は、人間も本当の意味でフレーム問題を解いているわけではない、という見方もあります。
人間は、これまでの経験から「だいたいこのくらい考えておけば大丈夫」という枠を、一瞬で決めています。
そして、その枠の外で想定外のことが起きると、人間もうっかり失敗します。
傘を持って出かけたのに、カギを忘れてしまう。いつもの道を通ったら、工事中で通れなかった。
人間は、完璧に考えるのではなく、「ほどほどに考えて、まちがえたら直す」ことで、うまくやり過ごしているんです。
この「ほどほど」の加減を、AIにどう身につけさせるか。そこに、フレーム問題の難しさがあるとも言えます。
今のAIとフレーム問題
では、今のAIは、フレーム問題とどう向き合っているのでしょうか？
扱う世界をしぼって、フレーム問題を避ける
今のAIの世界では、フレーム問題を避けるために、あらかじめAIが扱う状況を限定して、限られた世界の中で考えさせることが多くなっています。
たとえば、チェスや将棋をするAIは、盤の上のことだけを考えれば十分です。
部屋の壁の色も、窓の外の天気も、勝ち負けには関係ありません。
扱う世界が最初からしぼられているので、フレーム問題にぶつからずにすむんです。
| 扱う世界 | フレーム問題 | |
|---|---|---|
| チェス・将棋のAI | 盤の上だけ（ルールが決まっている） | ぶつかりにくい |
| 工場の決まった作業を最適化するAI | 決まった作業の範囲だけ | ぶつかりにくい |
| いろいろな家事をこなす万能ロボット | 家の中のあらゆること | 大きな壁になる |
| 公道を走る自動運転の車 | 道路で起こりうるあらゆること | 大きな壁になる |
もちろん、いろんな家事をこなす万能ロボットや、自動運転の車の開発・実用化も進んではいます。
でも、そこに立ちはだかる大きな問題が、フレーム問題なんです。
ディープラーニングでできること・できないことについては、以下の記事も参考にしてみてください。
ディープラーニングでできることとできないこと！Pythonでの実装例とともに見ていこう！当サイト【スタビジ】の本記事では、ディープラーニングができることとできないことについて適宜Pythonでの実装例をはさみながら解説していきます。何でも出来ると思われがちなディープラーニングについてちゃんと理解しておきましょう！
生成AIの登場で、フレーム問題は解けたの？
ChatGPT のような大規模言語モデル（LLM）は、大量の文章から、「ふつうはこう考える」という常識のようなものを、ある程度身につけています。
実際に「お皿を運ぶときに気をつけることは？」と聞けば、もっともらしい答えを返してくれますよね。
そのため、LLMの登場で、フレーム問題がやわらいだという見方もあります。
ただし、それでフレーム問題が完全に解けたわけではない、というのが一般的な見方です。
LLMも、ときに大事なことを見落としたり、関係のないことにこだわったりします。
さらに、現実の世界で体を動かすロボットは、一瞬ごとに変わる状況の中で、すぐに判断しなければなりません。文章で答えるのと、現実の世界で正しく行動するのとでは、難しさがまったくちがうんです。
LLMの仕組みについては、以下の記事で解説しています。
大規模言語モデル（LLM）の仕組みや種類について分かりやすく解説！当サイト【スタビジ】の本記事では、大規模言語モデル（LLM）の仕組みや種類について分かりやすく解説していきます。ChatGPTなどの大規模言語モデルの基本を理解してこのAI時代の流れに乗り遅れないようにしましょう！
次の革命の壁になるフレーム問題
最後に、フレーム問題がこれからのAIにとってどんな意味を持つのかを考えてみましょう。
これまでの技術の革命を、「頭を使うか、体を使うか」「単純か、複雑か」で整理すると、こんなふうに見えてきます。
| 革命 | 機械に置きかわった作業 |
|---|---|
| 産業革命 | 体を使う、単純な作業 |
| IT革命 | 頭を使う、単純な作業 |
| AI革命（今） | 頭を使う、複雑な作業 |
| 次の革命？ | 体を使う、複雑な作業 |
産業革命で、体を使う単純な作業は、機械に置きかえられました。
IT革命で、頭を使う単純な作業は、機械に置きかえられました。
そして今のAI革命で、頭を使う複雑な作業も、機械に置きかえられるようになってきています。
次の革命は、体を使う、複雑な作業。
家事や介護、街の中での配達のように、現実の世界で、いろいろな状況に合わせて体を動かす仕事です。
しかし、ここにこそ、フレーム問題という大きな課題が待ちかまえているんです。
フレーム問題のまとめ
最後に、今回のポイントをおさらいしましょう！
ウマたん要は、フレーム問題とは「何を考えて、何を考えなくていいのか」を決めることの難しさなんです！人間が当たり前にやっていることのすごさにも、あらためて気づかされますよね！
AIの歴史や仕組みから、生成AIやデータサイエンスを体系的に学びたいのであれば、当メディアが運営するスクール「スタアカ」がオススメです！
大学院は理系の統計科学研究室で、ベイズ統計学・時系列分析・異常検知を研究。日系・外資の消費財メーカーのデータサイエンティストを経て、現在は会社を経営しながらデータサイエンティストとして働いています。
読んだ内容を、手を動かして身につける
データサイエンス・AIを、動画と課題で体系的に学べるオンラインスクール。
スタアカを見てみる
