コラム

人工知能の難題「フレーム問題」

更新日:

人工知能の難題「フレーム問題」

人工知能の難題を表すのによく使用される例として1969年、ジョン・マッカーシーとパトリック・ヘイズの論文で述べられたフレーム問題というのがあります。限られた処理能力しかない人工知能は、現実に起こりうる問題全てに対処することができないことを示すものです。このフレーム問題は第一次・第二次AIブームの壁となった問題です。

フレーム問題でのシチュエーション

・洞窟の中にロボットを動かすバッテリーがあり、その上に時限爆弾が仕掛けられている
・爆弾が爆発してバッテリーが破壊された場合、ロボットはバッテリー交換ができなくなってしまう
・ロボットは洞窟の中からバッテリーを取り出してこなくてはならない

ここで、ロボットに対し洞窟からバッテリーを取り出してくるように命令しました。

人工知能ロボット1号機の行動

ロボットは指示された命令通り、洞窟からバッテリーを取りだして運び出す動作を行いました。しかしながら、バッテリーとともに仕掛けられていた時限爆弾も一緒に運び出したため、洞窟を出た瞬間に爆弾が爆発してしまいました。

ロボットは忠実に命令を守ったものの、バッテリーを運び出すにあたり発生する副次的な内容(ここではバッテリーを運び出すと時限爆弾も一緒に運び出してしまう)を理解していなかったために発生した問題でした。

 

人工知能ロボット1号機の問題点と次への改善点

問題点副次的に発生する事項について理解していない。(バッテリーを取り出すと爆弾も同時に運んでしまうこと)
改善点副次的に発生する事項を考慮するロボットを作成する

人工知能ロボット2号機の行動

次に副次的に発生する事項も考慮する人工知能ロボット2号機 を開発し、人工知能ロボット1号機と同じ命令をおこないました。人工知能ロボット2号機は1号機と比べて賢くなっているはずですが、洞窟に入ってバッテリーの前に来たところで動作しなくなりました。そのままバッテリーの前で立ち止まってしまい、時間だけが経過し時限爆弾が作動してロボットは吹き飛んでしまいました。

なぜ、人工知能ロボット2号機はバッテリーの前で立ち止まっていたのでしょうか?実は人工知能ロボット2号機はたた単にバッテリーの前で立ち止まっていたのではなく、副次的な思考を無限にしていたために、立ち止まっているように見えているだけでした。

「バッテリーを動かすと上にのった爆弾は爆発しないか?」、「爆弾を動かそうとすると、天井が落ちてこないか?」など副次的な思考を考えたために、無限に思考してしまったことが原因です。それらの副次的な思考には「爆弾に近づくと壁の色が変わったりしないか?」など本来の目的とは関係ない副次的な思考もたくさんありました。

 

人工知能ロボット2号機の問題点と次への改善点

問題点本来の目的に無関係な副次的な事項をまでも考慮してしまう
改善点本来の目的に無関係な考慮は行わないロボットを作成する

 人工知能ロボット3号機の行動

人工知能ロボット3号機は2号機の反省点をふまえて本来の目的に無関係な考慮を行わないようにする必要がありました。そのため洞窟に入る前に目的とは無関係なことをすべて洗い出すような仕組みに設計されました。その結果、改良されたはずの3号機は洞窟の目の前で立ち止まってしまいました。その後は2号機とおなじように時間が経過したことで時限爆弾が作動してしまいロボットは吹き飛んでしまいました。

なぜ、3号機は洞窟の目の前で立ち止まっていたのでしょうか?それは目的とは無関係なことをすべて洗い出そうとしたためです。目的とは無関係というのは無限にあります。すべてを考慮するためには無限の計算時間も必要となるからでした。

 

人工知能ロボット3号機の問題点

問題点無関係のものと関係あるものを分類しようとした結果、無限に考慮してしまう

フレーム問題での問題提起内容

人工知能ロボット1号機、2号機、3号機を比較すると、3号機が一番性能がいいはずなのに、性能が良くなればなるほどロボットが動作していません。これは現実世界の問題を解決するためには無限の可能性があるため、枠(フレーム)を当てはめて関係ないことを除外する必要がありますが、どこがフレームの中(関係ある事柄)でどこがフレームの外(関係ない事柄)かを判断することができないので、関係ないことを除外できないという一種のパラドックスになっています。

この問題を解決しない限り人工知能は完成しないというのがこのフレーム問題での結論です。

-コラム
-

Copyright© AI人工知能テクノロジー , 2020 All Rights Reserved.