人工共感:AI・ロボットとの共生の未来社会のカギ

開催日 2016年6月17日
スピーカー 浅田 稔 (大阪大学大学院工学研究科教授)
モデレータ 中馬 宏之 (RIETIファカルティフェロー/成城大学社会イノベーション学部教授)
ダウンロード/関連リンク
開催案内

現在、空前のAI・ロボットの大ブームである。人工システムが人間の能力を凌駕し、職を奪う時代がそこまでやってきているのだろうか?

本講演では、現在のAI・ロボットの興隆を研究者のサイドから眺め、人工物との共生が未来社会構築のひとつのキーポイントであることを指摘する。そして、人工物が人間に共感できる要素としてロボットのココロのあり方を人間の心の成り立ちを通じて考える。赤ちゃんや子どもがどのようにして共感能力を発達させていくのか? 人間はロボットに対してどのような印象を持つか?これらの課題を通じて、共感設計への道筋を探る。

議事録

ダ・ヴィンチアンドロイドとロボカップ

浅田稔写真私は大阪大学で教鞭を執っていますが、趣味的にNPOダ・ヴィンチミュージアムネットワークの理事長を務めています。ネットワークでは昨年、レオナルド・ダ・ヴィンチのアンドロイドを造りました。アンドロイドはまだテレオペレーション(遠隔操作)ですが、オペレーターのヘッドセットの中にジャイロ(物体の角度(姿勢)や角速度あるいは角加速度を検出する計測器ないし装置)が入っていて、コマンドが自動的に生成されてオペレーターの姿勢や動きがすぐさまアンドロイドにコピーされます。また、声から唇の動きを再生するリップシンクのプログラムを使って、リアルタイムに近い形でテレオペレーターの音声を再現できます。

ほかにも、私は2008年まで、ロボカップ国際委員会のプレジデントも務めていました。会では国際ロボット競技大会(ロボカップ)を毎年開催していて、来年の第21回大会は名古屋で開かれる予定です。人工知能国際会議と同時に名古屋で開催された第1回から20年を経て、技術の進化を見極めようと意図しています。

ロボカップは、標準問題を決めて知能ロボット研究を皆で進めることを目的に開催しているもので、参加チーム数は当初の40チームから、最近は350〜400チームに増えています。

中心となる競技は、ロボカップサッカーです。サッカーができるほどの能力を持ったロボットであれば、その技術はいろいろなところに応用できるに違いありません。また、ロボカップレスキューでは、実際と同規模の災害現場を再現して、被災状況を調べたり、ダミー人形を発見したりする技術を競います。ロボカップホームでは、実際の日常生活を想定して、ロボットがいかに人間をアシストしてくれるかを競います。技術がどのような形で応用されているかを示す、1つの形だと思います。

実際、既に産業応用も始まっています。ロボカップ出身のラファエロ・アンドレアは、キバ・システムという非常に高速で正確な自動走行システムを開発して、動的再配置可能な倉庫システムに応用し、今年5月にストックホルムで開かれたICRA(ロボット工学とオートメーションに関する国際会議)で賞を取りました。この技術は既にアマゾンが買収し、彼はドローンの制御などの別の研究に移っています。

弱者への支援が強者を上回るか

5月のICRAでもう1つ面白いと思ったのが、人間の日常生活のアシストです。マサチューセッツ工科大学の浅田春彦教授のグループは、人間の四肢に加えてさらにロボットの二肢を付けて人間の機能を拡張する研究を発表しました。人工四肢の開発における考え方は、1つは人間の低下した機能を補うこと、もう1つはオーグメンテーション(機能の拡張)といって、通常の人が義足を使うことで早く走れるようにすることです。

ただ、昨今はパラリンピックの記録がオリンピックの記録を上回る可能性が生じ、それを問題視する人も出てきています。人工物がわれわれの世界に入ってきて、人間と機械のさらなる融合が進んでいく中で、必要とされるのは新たな人間観です。義足を着けた6本足の人を、われわれはどう受け止めていくかを本気で考えなければならないということです。

人工知能は人間を超えるか

もう1つ、人工知能(AI)は人間を超えるかという問題も非常に話題になっています。マーティン・フォードは、著書『ロボットの脅威』で、ロボットが人間の仕事を全て奪うのではないかと言っています。

フォードは6年前にも同じような本を出していて、そのときには75%の仕事がなくなると言っていましたが、昨年出した本ではホワイトカラーも含めて100%なくなると言っています。彼は基本的に、処理速度や大容量記憶装置といった技術の進展に対して非常に楽観的であり、それがもたらす仕事のない社会に悲観的です。つまり、今の時代は量の勝負だという考え方です。

しかし、私は彼とは逆で、ロボットが人間の仕事を全て奪うなどということはあり得ないと考えています。ポイントは質的変化をもたらすかどうかで、未来の技術に関して悲観的というよりも、量の変化を質の変化にするのがわれわれ研究者の仕事だと思っているのです。

それが可能かどうかは五分五分ですが、量の変化が質の変化に自然に変わるかもしれませんし、私は現在の量の変化を質の変化にするためのいろいろなアイデアが、もう少し出てくるだろうと思っています。そして、人間の仕事がなくなるという懸念は、ロボットとの共生という概念で乗り切れるのではないかと楽観視しています。

ロボットのココロ

心の理論とは、他人の心の状態を推測できる能力のことを指します。霊長類学者がチンパンジーの生活を見て、そうした能力を持っているのではないかと考えたことに端を発したもので、人間の場合、4歳ぐらいまでは他人の心の状態を推測できないといわれています。

心とは何かを考えるときに、私は漢字の「心」を定型発達の大人の心、ひらがなの「こころ」を未熟もしくは心らしきものがある動物などの非定型発達の心、カタカナの「ココロ」を人工物の心もどきと使い分けています。

そして、ココロを創る試みを通して、人に癒やしや同情感を醸し出す人工システムのあり方を検討し、サービスロボットの方向性を探りたいと考えています。

心の問題を考えるときには、脳の問題が結構重要です。アメリカのニューロサイエンスの本によると、受精から24日ほどで脳の神経系が出来上がり、このあたりは遺伝子情報が支配的と思われます。感覚運動に関しては、10週ぐらいで触覚、20週ぐらいで聴覚、視覚が出てきます。

誕生後5カ月ごろには、自分の手をじっと見るハンドリガードという行動が出ます。これはロボットでいえば、どうやって手の運動を制御するかという順・逆モデルの学習です。そして、10カ月で動作模倣、12カ月でふり遊びが始まります。ロボットでいえば内的シミュレーションの始まりです。

新生児はこれらをたった1年で学習してしまいますが、われわれロボット研究者は、1年でこれらを全て学習できるロボットを設計することはできません。なぜなら、新生児はなぜこういったことを学習できるのか分からないからです。遺伝子に書いてあるといっても、どうやって遺伝子に書くのかという話です。

認知発達ロボティクス

もちろん「氏か育ちか」という論争はありますが、最近はそうした二元論ではなく、遺伝子と環境の両方がいろいろなレベルで密に関連していると考えられています。それでも、われわれ設計側としては、どこまで埋め込んで、どこまで学習に期待するかはとてもシリアスな問題であり、こうした問題を扱うためにも認知発達ロボティクスの研究を進めているわけです。

認知発達ロボティクスは、人間の認知発達過程を、構成的手法(コンピュータやシミュレーションなど)を用いて理解することを目的としています。そして、核となるアイデアとして、身体性や社会的相互作用を掲げています。

身体性は、ロボットに必ずしも備わっているわけではありません。グラスピング(把持)のモデル化は、骨格の周りに柔らかい皮膚があって初めて可能になります。シンプルにしてしまうと、身体が持つダイナミクスが活かされないわけです。本当の身体性には、筋骨格系だけでなく、心の問題や内分泌系、自律神経系なども全て入ってくるので、ロボットではそのあたりの研究を進めなければならないと思っています。

また、社会的相互作用とは、1体の人間もしくはロボットだけでは心は生まれず、人間と人間、人間とロボット、ロボットとロボットの相互作用があって初めて生まれるということです。われわれは、相互作用するための基を設計しなければなりません。われわれの設計をベースとした工学的アプローチと、従来の説明原理を主体とした科学的アプローチが相互にフィードバックしあい、ロボットを通じて人間を知ることで、新たな理解が生まれるのです。

共感の発達

さらに、ロボットは自己を持てるかという大きな問題があります。自己を認知していく段階には、大きく分けて環境との相互作用で知覚したことに基づく生態学的自己(自己の萌芽)、養育者が同調してくれることによる対人的自己(自他の同一視)、養育者から脱同調して社会的コンテキストになる社会的自己(自他の分離)があります。

ロボットが自己を持つには、人工的に共感構造を設計することが必要ですが、共感(empathy)と同情(sympathy)はよく混同されます。たとえば、医者は患者の痛みなどを推察(empathy)することで適切な処置を施すことができますが、患者が自分の子どもだった場合、同情(sympathy)してしまって処置に困難さを感じます。

共感が情動伝染から始まって発達していくと同時に、運動系も発達していきます。ポイントは、身体的なものと精神的なものが最初から同じ発生を持っていて、しかも自他認知のレベルが上がっていることです。

2匹のネズミの片方には餌を食べさせ、もう一方には電気ショックを与えると、餌を与えられているネズミは隣のネズミに電気ショックが与えられると食べるのをやめます。同じゲージで育ったネズミだと、その確率が高いです。これは情動伝染の一例で、ネズミに自我の概念があるわけではありませんが、抽象的な意味での「におい」を感じているのではないかといわれています。

ミラーニューロンシステムでは、行動を起こすプログラムそのものが相手の行動を観察し、相手の行動を理解できる可能性があります。そのため、マインドリーディングにつながるといわれています。共感発達モデルでは、情動伝染に自己発見が加わるとemotional empathy、cognitive empathyになって、最後には他人の不幸は蜜の味ということになります。ロボットがそこまでいくと困るので、次世代のロボット研究者はこの段階で悩むかもしれません。

共感構造を設計する上で必要なこととして、構成的手法を用いて認知的な課題にアプローチすること、事前に付与するのではなく、可能な限り学習や発達で獲得すること、人間の行動や心の研究のためのロボットを道具や刺激として用いる、つまりロボットを使った実験をすることが挙げられます。

人間の場合、心が形成されるには直感的親行動が必要だといわれています。親は子の表情から想像される情動状態に対応して、まねをしたり、強調したりします。実際に母親の顔のパターンをモデル化すると、笑い、驚き、悲しみなどに細分化されます。子は、その母親の表情を見て、自分の内部状態を学んでいくのです。

一方、コンピュータ内の赤ちゃんのエージェントとインタラクション(交流)して学習が終わったロボットは、共感しかしません。相手の顔をコピーしているだけではなく、自分の内部状態をコントロールして、共感するロボットを作ったことになります。

実際に脳の中を調べてみると、同じような機能の部分があるといわれています。たとえば、カップルの男性側を針で刺激すると、女性側が痛みを感じる場合があります。フィジカルな痛みとメンタルな痛みは、場所はやや異なりますが、大まかには一緒なのです。社会的な痛みの伝染が起きているわけで、フィジカルな痛みとメンタルな痛みは最初から何かを共有している可能性があるといわれています。

社会的相互作用バイアスが心のあり方に与える影響

ロボットを使って、心の印象がどう変わるかという実験もしました。結論から言うと、人間の心のありようには「心」持ち(マインドホルダー)と「心」読み(マインドリーダー)があって、その2つが混じりあっていることを示しています。

人間、アンドロイド、メカニカルなヒューマノイド、言葉を話せない縫いぐるみロボットの「keepon」、普通のコンピュータの5種類を相手にゲームをすると、人は相手によって戦略を変えます。コンピュータの場合は簡単なことしかしないだろうと考え、人間の場合にはものすごく戦略を複雑にするのです。

人間やアンドロイドやヒューマノイドが相手だと「心」持ちと「心」読みが正の相関を示しますが、コンピュータと「keepon」が相手になるとそうはなっていません。社会的相互作用というバイアスが効くことによって、相手の印象が変わるわけです。

ココロを創るに当たって

私は、サービスロボットの「ココロ」を創る試みを通じて、「心」や「こころ」の新たな理解を深め、未来社会で人間と共生するロボットの設計論に生かしたいと考えています。多様な心のあり方を社会が受け入れ、許容することで、ロボットが対峙する相手ではなく、共生するパートナーになればと願っています。

質疑応答

Q:

ロボットとの共生社会を目指すと、かえって人間と人間の共生関係が損なわれたり、人間がロボットに信頼や愛着を持ったりするようなことが起こるのではないでしょうか。

A:

私はそれを避けたくて、ロボットを道具として使えないかと考えています。ネット社会で実際に人と会わなくなる中で、ロボットという存在を通じてコミュニケーションを取る機会をつくらなければならないと思っています。

具体的なアイデアの1つはアバターのように人工システムがコミュニケーション相手の代理になること、もう1つは代理ではなく、つなぐ道具になることです。仮想的なロボットがコミュニケーションを助ける道具として存在できると思います。

今の若者世代は、リアルコミュニケーションではない方向に重きを置いている感じがします。ネット上では相手が見えないので暴走しがちですが、相手がいれば抑制できます。つまり、コミュニケーションの中で相手の存在を肌で感じながら応答していく過程が、共生だと考えているのです。人工システムがそれを壊す可能性もありますが、それを回避して逆に共生を助ける道具にならなければならないと思っています。

実は、人間に触れることは大切だという意識を喚起してもらう意味でも、人工物を使えないかと考えています。おっしゃられる危惧は完全には払拭できないと思いますが、コミュニケーションのバリエーションの重きが変わることはあると思います。ただ、最終的には物理的な痛みがあるので、それによって実際の存在の大切さをどこかで感じてくれれば、人工物の役割は果たせると思っています。

Q:

AIの意思決定の問題についてお聞かせください。

A:

人工システムの意識・無意識は、人間の意識・無意識のあり方とは同じでないにしても、それらしき形態が出てくる可能性が生じて不思議はないと思います。その中で意思の問題を考えたとき、一般的に生物はホメオスタシス(恒常性)を維持するためのシステムのバランスが崩れたときに情動が表出するといわれています。

私は、最終的に人工意識には自己認識の問題があると思っています。そう言うと必ず、ロボットは人間に逆らうという話をされるのですが、そうではなくて、鉄腕アトムやドラえもんに代表されるように、共生することを考えなければなりません。

Q:

人間は死に直面することで生の意味を学習していきますが、ロボットのように死なないものが増えると、ある種の死生という感触を覚えることが遅くなってしまうのではないでしょうか。

A:

そのとおりだと思います。もちろん死というものをスイッチのオン・オフで捉える考え方もありますが、そういった生死観も共有できるロボットを作りたいと思っています。

何が共有でき、共感できるかというのはなかなか難しい課題ですが、実際のものに触ってみて、それが存在しているという感覚を失わない。その存在感が人間と異なるものであるにしても、そこを何とかクリアしたいと思っています。ネットのオン・オフの世界ではない捉え方を学ぶために実際のロボットに触ってもらい、痛みを感じてもらうことによって、ロボットという存在と人間という存在の際を見極めながら、それによって人間との付き合いもリッチになることを目指したい、そこが逆にならないようにしたいと思っています。

Q:

科学技術が進むと、開発する人と活用する人の意識や価値観にギャップが生まれ、変な方向に行く可能性もあると思いますが、対策は何か進んでいるのでしょうか。

A:

技術の進化に対する法整備などが完全に遅れているので、何とかしなければなりません。AI関係では、東大の松尾准教授が人工知能学会にAI関係技術の倫理問題を扱う委員会をつくり、法整備に向けて動いています。ロボット学会でもロボットに対する倫理観の話をしていますが、まだあまり表に出ていません。

自動車や携帯電話は犯罪によく使われますが、それ以上に社会的メリットがあるため、なくそうと言う人は誰もいません。ロボットもそういう存在にならなければいけません。

私は、一般の人たちがロボットとどう付き合うかを検証し、ロボットを作る側と使う側が同時体験しながら問題を改善していく場を作りたくて、10年ほど前から「ロボシティ・コア」構想を掲げています。単に法を作ったからそのとおりにやれというものではなくて、使い手と作り手が経験を共有しながら議論を交わす場があることが必要だと思っています。

テクノロジーが進化して、法整備が遅れているから法を作るのではなくて、一緒に作っていくための場を作って、そこからどんどん変えていくシステムにしなければ、定着しないと思います。ロボットは、ネットとは逆に、実際にそこに来て触れてコミュニケーションする体験に意味があると思うので、そういう場所があれば、普通の人工物とは違う方法でいろいろなところを改良できます。一般の商品でも、一度使われることで改良されたものはありますが、ロボットの場合はもっとそれが激しいと思いますので、そういう形で法整備できればと考えています。

モデレータ:

インテリジェンスとはIQで測るようなものではなく、非常に多次元なものだと思います。そうだとすると、人間とAIやロボットは、どういうところで持ちつ持たれつになり、共生することができるのでしょうか。

A:

AIというと、日本人はその宗教観から唯一無比の絶対神のようなものをイメージする人も多いのですが、それは間違っています。AIには多様な形態、機能、楽しみも含めていろいろな価値観があって、その中で使われなくなって淘汰されていくものと、改良されて残っていくものがあるのです。

技術を制御して社会を作っていくプロセスは、多分、人間の意思決定次第です。私は、つまりは多様な価値が存在する方が、意味があるという世界にしてしまえばいいのだと思っています。

この議事録はRIETI編集部の責任でまとめたものです。