1969年、ジョン・マッカーシーとパトリック・ヘイズが提唱。
人工知能における重要な難問のひとつ。
いまだに本質的な解決はされていない。
人工知能は情報処理能力に限りがあるため、現実に起こりうる問題のすべてに対処することができないことを指す。
哲学者ダニエル・デネットによる「ロボットと爆弾」の論文が著名。
洞窟の中にロボットを動作させるバッテリーがあり、その上に時限爆弾が載っている。
放っておいたら爆弾が爆発して、バッテリーが壊れてしまう。
バッテリーが壊れたら、ロボットはバッテリー交換ができなくなってしまうので、洞窟からバッテリーを持ってこなければならない。
ロボットに「洞窟からバッテリーを取ってこい」と指示した。
ロボット1号は、洞窟に入ってバッテリーを取り出すことができた。
1号は、バッテリーの上に爆弾がついていることに気づいてはいたが、バッテリーを運ぶと爆弾も一緒に運び出してしまうことに気づかなかった。
1号が洞窟から出た後、爆弾が爆発してしまった。
1号は「バッテリーを取り出す」という目的を理解していたが、「バッテリーを取り出す」ことによって副次的に発生する事柄(バッテリーを取り出すと、上に載っている爆弾も一緒に運んでしまうこと)について理解していなかった。
放っておいたら爆弾が爆発して、バッテリーが壊れてしまう。
バッテリーが壊れたら、ロボットはバッテリー交換ができなくなってしまうので、洞窟からバッテリーを持ってこなければならない。
ロボットに「洞窟からバッテリーを取ってこい」と指示した。
ロボット1号は、洞窟に入ってバッテリーを取り出すことができた。
1号は、バッテリーの上に爆弾がついていることに気づいてはいたが、バッテリーを運ぶと爆弾も一緒に運び出してしまうことに気づかなかった。
1号が洞窟から出た後、爆弾が爆発してしまった。
1号は「バッテリーを取り出す」という目的を理解していたが、「バッテリーを取り出す」ことによって副次的に発生する事柄(バッテリーを取り出すと、上に載っている爆弾も一緒に運んでしまうこと)について理解していなかった。
そこで、副次的に発生する事柄も考慮するロボット2号を開発した。
しかし2号は、洞窟に入ってバッテリーの前まで来たところで動作しなくなった。
そのまま時間が経過し、時限爆弾が作動して爆発してしまった。
2号はバッテリーの前で「このバッテリーを動かしたら、上に載っている爆弾は爆発しないだろうか?」「バッテリーを動かす前に、爆弾を移動させるべきか?」「爆弾を動かそうとしたら、天井が落ちてくることはないか?」「爆弾に近づくと壁の色が変化しないか?」など、副次的に発生しうるあらゆる事柄を、無限に考え続けてしまったのである。
副次的に発生しうる事柄は無限にある。
それらすべてを考慮するには、無限の計算時間を必要とするのだ。
しかし副次的に発生する事柄といっても、通常、「壁の色が変化しないか」などというのは、考慮する必要がない。
しかし2号は、洞窟に入ってバッテリーの前まで来たところで動作しなくなった。
そのまま時間が経過し、時限爆弾が作動して爆発してしまった。
2号はバッテリーの前で「このバッテリーを動かしたら、上に載っている爆弾は爆発しないだろうか?」「バッテリーを動かす前に、爆弾を移動させるべきか?」「爆弾を動かそうとしたら、天井が落ちてくることはないか?」「爆弾に近づくと壁の色が変化しないか?」など、副次的に発生しうるあらゆる事柄を、無限に考え続けてしまったのである。
副次的に発生しうる事柄は無限にある。
それらすべてを考慮するには、無限の計算時間を必要とするのだ。
しかし副次的に発生する事柄といっても、通常、「壁の色が変化しないか」などというのは、考慮する必要がない。
そこで、無関係な事柄は考えないように改良したロボット3号を開発。
しかし3号は、洞窟に入る前に動作しなくなった。
3号は洞窟に入る前に、目的とは関係のない事柄をすべて洗い出そうとして、無限に考え続けてしまったのである。
目的と無関係な事柄というのも無限にある。
それらすべてを考慮するには、やはり無限の計算時間を必要とするからである。
このように、人間みたいな判断をすることができるロボットの開発は難しいのである。
機械の組み立てや移動など、目的が限定されている人工知能なら、フレーム問題は起きない。
しかし、いろいろな状況に対応する人工知能を開発するなら、無視できない問題である。
人間にもフレーム問題は起きうるが、あらゆる状況について無限に考え続けてしまいフリーズすることはない。
しかし3号は、洞窟に入る前に動作しなくなった。
3号は洞窟に入る前に、目的とは関係のない事柄をすべて洗い出そうとして、無限に考え続けてしまったのである。
目的と無関係な事柄というのも無限にある。
それらすべてを考慮するには、やはり無限の計算時間を必要とするからである。
このように、人間みたいな判断をすることができるロボットの開発は難しいのである。
機械の組み立てや移動など、目的が限定されている人工知能なら、フレーム問題は起きない。
しかし、いろいろな状況に対応する人工知能を開発するなら、無視できない問題である。
人間にもフレーム問題は起きうるが、あらゆる状況について無限に考え続けてしまいフリーズすることはない。