第13回RIETIハイライトセミナー

AIと経済社会の未来(議事概要)

イベント概要

  • 日時:2015年9月28日(月)14:00-16:00
  • 会場:RIETI国際セミナー室(東京都千代田区霞が関1丁目3番1号 経済産業省別館11階1121)

AI(人工知能)は技術革新を遂げる一方、人間社会にもたらす影響など懸念材料も多い。AIが人間を超えて危険なものになるという極端なシンギュラリティの論調に対して、人工知能研究センターの辻井潤一センター長は、AIが自律的に動かない限り危険ではなく、人間の知能とAIを融合させることが重要であると主張した。しかし、日本はそのためのシーズ、ニーズ、データがそろっていないために立ち遅れているとの懸念も示された。経済産業研究所(RIETI)の藤田昌久所長は、人間の知能とAIが融合していく上で、個人情報保護やサイバーテロなど人間自身の倫理が現実的な問題だとし、AIが人間を征服する前に、人間自身による人類の自滅を防ぐことが重要だと説いた。

議事概要

理事長挨拶

中島 厚志 (RIETI理事長)

このハイライトセミナーは、タイムリーな経済課題について、RIETIの研究成果も含めた幅広い研究分野を横断的に俯瞰する趣旨で始めたものである。今回は「AIと経済社会の未来」をテーマとした。AIの技術革新は著しく、AIがもたらす可能性はますます広がっている。他方で、AIが経済社会にもたらす変化は大きいとみられている。その社会に対する影響を見通し、政策的な方向付けも活用しつつ、AIと人間が協働する好ましい経済社会をどうつくっていくかを今から考えていくことは不可欠である。

本日のセミナーでは、AIの技術革新がどのように進んでいるのか、あるいは進んでいくのか、それがどのような成果や方向をもたらしていくのか、その上でAIの発展が今後の経済社会にどのような変化をもたらし、どういう経済社会を展望するのかといった点について考えたい。深い知見を持つお2人の先生による講演とパネルディスカッションを通じて議論を深めていければと考えている。

講演1「人工知能革命、ロボット革命」

辻井 潤一 (国立研究開発法人産業技術総合研究所人工知能研究センター センター長)

1. 第2の産業革命

人工知能革命やロボット革命は第2の産業革命であり、雇用や労働の在り方、社会の動き方に大きな変革をもたらすといわれている。日本や米国などロボット化が進む国では、2025年までに生産コストが18~30%低下し、安価な労働力を求めて国外に出てしまった企業の国内回帰が図られるという議論もある。

ところが、第1次産業革命がエネルギー革命であったのに対し、人工知能革命は知的労働や情報の革命であるために、従来、良い教育を受けて良い職業に就いていた人たちの職が奪われていくという議論もある。つまり、一部の資本家がコストダウンのメリットを享受する一方で、高所得者層と低所得者層の格差が広がり、中間層が消えていくというのである。

イギリスのBBCでは、「AIによって生活が大きく変わり、仕事がなくなる」という見解に対し、賛同派と否定派に分かれて討論を行った。いずれもAIが人間を超えて超知能になり人類を滅ぼすという極端なシンギュラリティ(技術的特異点)が到来するという議論にはくみしないように見受けられたが、賛同派は、知的労働に従事する中間層の消滅をかなり強く主張していた。また、第1次産業革命のとき、児童労働や環境汚染などの社会影響に対して政府が法律の整備などを行ったことを挙げ、政府の介入の必要性を論じていた。それに対して否定派は、今のAPP(アプリケーションソフトウエア)産業の興隆に見るように、どんどん新しい産業が出てくるので心配する必要はないと主張していた。

2. AIをめぐるさまざまな論調

AIに関してネガティブな側面を強調する意見の背景には、AIに対する漠然とした不安がある。その1つが、オーバーフィルタリングである。現在、グーグルやマイクロソフトは、あるキーワードが入力されると、その人の興味がある分野を予測し、それに合わせたページや広告を出している。これを一種の情報操作ではないかと感じている人もいる。さらに、その一歩先ではセンサリングも行われている。実際に、ドイツ政府はサーチ会社に依頼して、ネオナチなどの情報が出ないように策を講じている。

もう1つは、情報の氾濫と社会の断片化への不安である。いろいろなwebサイトがあり、たくさんの情報が流通しているように見えるが、昔のマスメディアのような共通基盤がなくなったために、見たい情報しか見なくなってしまい、実際にはある種の極端なフラグメンテーション(断片化)が起こっているのではないかという不安もある。

いろいろな論調の中で私の立場に近いと思ったのは、この9月にアメリカの国防総省で行われた Wait, What Conference で、アメリカ人工知能学会(AAAI)のTom Dietterich会長が述べた見解である。「AI自体が問題なのではない。危険なのは自律的に動くAIである」というものだ。つまり、AIが自分で判断し、自分で行動するオートノミーを持つことが問題であり、機械にどこまでコントロールを渡すのかという社会的な議論が必要だということである。私どものセンターでは、AIにオートノミーを持たせるのではなく、人間の知能とAIが協力していくことが将来の道筋であると考えている。

3. AIの技術開発

研究が始まった当初のAIは、人間にどんどん近づこうとしていたが、今はもう1つのAIが登場している。巨大IT産業はすでに膨大なデータを持っているが、IoT(Internet of Things)の時代になると、あらゆるものにセンサーが付いて、計算機によって多くのデータが入ってくる。しかし、そうした膨大なデータの背後にある規則性を捉え、モデル化するという点では、計算機が人間を凌駕している。つまり、人間ができないことをしてくれる人工知能が出てきているのである。今、AIが非常に大きなインパクトを持ち始めているのは、人間に迫る方のAIと、人間を超えるAIが融合し始めているからである。

ところが、日本はこの点で大きく後れを取っている。それは、データと研究者、技術者が分断されているために、大学などで開発された技術と、社会における現実的な問題とがうまくつながっていないからだ。米国では、AIの技術開発におけるシーズ、ニーズ、データが巨大IT産業という1カ所に集中している。こうした企業は、莫大な資金と膨大なデータ、大勢の技術者・開発者を持って、急速に技術を開発・発展させている。さらに、そこで開発されたAI技術が他の分野へと進出していっている。たとえば、グーグルは検索だけでは産業として飽和してきているため、アルファベットという持ち株会社をつくり、自動車産業(自動運転技術)や、医療分野(センシングによる病気診断)に進出している。こうした企業が他の産業に参入したことで、産業の競争力が従来の製造技術から知能化技術に移ってきている。すなわち、人工知能技術があらゆる産業の競争力に影響を与えているのである。

4. 人間の知能とAIの融合

従来のデータサイエンスでは、集積したビッグデータの解析は計算機が行うが、得られた結果の解釈はデータサイエンティストが行っていた。ところが、オートノマスなAIは、データの規則性をモデル化した上で、そのモデルを使ってデータを分類したり、新たに観測されたデータについて予測を行ったりする。さらに進むと、予測した結果から、自分の思う方向に事態を動かすことができる。つまり、データの解析からコントロールまでを全て計算機の中で行うのである。

今、本当に必要なのは、その部分を人間と機械の協働で行うことである。物事を操作するときには、私たちの社会や価値観をどうしていくべきかという意思決定が入る。それを全てオートノマスに行うというのは無理があるし、危険な方向に行く可能性がある。しかし、人間の知能と機械の知能を融合することで、今まで単独では解けなかった複雑な問題が解けるようになることも確かである。したがって、人間の知能を排除するのではなく、むしろそれをエンハンスする形でAIが使われていくというのが、これからの問題解決のスキームになっていくだろう。

講演2「AIと人間の協働によるBrain Power Societyの未来」

藤田 昌久 (RIETI所長・CRO / 甲南大学特別客員教授 / 京都大学経済研究所特任教授)

1. AIとは

人工知能(AI)とは、人間の「学習し、考える」能力の実現を目的として創られたソフトウェアを指す。そしてロボットとは、脳に相当するAIとメカ(ハードウェア)が一体になったものをいう。AIの研究は、音声認識、文字認識、自然言語処理、ゲームや検索エンジンなどさまざまなものを生み出してきた。これらはかつてAIと呼ばれていたが、実用化されて1つの分野を構成すると、AIとは呼ばれなくなる。これはAI効果と呼ばれる現象で、多くの人はその原理が分かってしまうと、それは知能ではないと思う傾向がある。たとえばグーグルの検索サービスを毎日使っていても、必ずしもAIを使っているとは思わないのではないだろうか。このAI効果によって、AIの貢献は過小評価される傾向にある。

『ロボットは東大に入れるか』で有名な新井紀子教授の著書に『コンピュータが仕事を奪う』がある。また、アメリカの経済学者Tyler Cowenは自著『Average is Over』で、機械の知能が所得と仕事をどう変えるかを分析している。両者は労働市場の将来予測として、従来の中間ボリュームゾーンが中抜きにされ、二極分化が起こると述べている。また、松尾豊先生は『人工知能は人間を超えるか』で、一般的な知識の面ではAIの知識は非常に拡大しているが、人間のように考える本当の意味でのAIはまだできていないと指摘した。

2. シンギュラリティ

シンギュラリティという言葉を有名にしたのはRay Kruzweilである。『The Singularity is near』に書かれた彼の予想では、2020年代までに人間の脳のリバースエンジニアリング(分解・解析)が完了し、脳がどう機能しているかが完全に分かるという。それを基にして2040年代には、AIが人間の脳を超え、AIと融合した人間が生物的な限界を越えて創造力を加速的に高めるだろうと予測している。

もう1つは2014年に出たNick Bostromの『Superintelligence』である。彼はこの本で将来を、1頭はAIの技術的な開発を目指して疾走する技術の馬、もう1頭はAIの安全性のコントロールを目指す馬による競走にたとえ、AIの技術の急速な発展と、AIによる危険性のバランスを本気で考え、安全性のコントロールの研究をもっと本気で進めなければならないと言っている。

シンギュラリティにはさまざまな定義があるが、以下では「人工知能の知的能力が、人類の知的能力を超えること」と理解しておく。神戸大学の松田卓也名誉教授が人工知能学会で実施したアンケートでは、シンギュラリティの到来を2020年前半と答えた人が10%、2040年~2050年が40%、21世紀中が40%だった。最近のグーグル本社での人工汎用知能(AGI)コンファレンスにおける同様のアンケート調査でも、ほぼ同じ結果が出ている。AIの進化については、スティーブン・ホーキングやイーロン・マスクなどさまざまな専門家が強い懸念を示しているが、松尾先生は、生命があってこそ自己目的を持って相手を征服するといったことが起こるのであって、今は全くその可能性はないと言っている。

Hans MoravecというアメリカのAI研究の専門家が1998年に「When will Computer Hardware Match the Human Brain?」という面白い論文を書いている。この一節に「コンピュータの進化は大地がゆっくり浸水していくのに似ている」とある。50年ほど前に低地から沈み始め、人間の会計係や記録係を追いだし、この調子ではあと50年で頂上も水没してしまうだろうというのである。ただ、AIの知能が着実に上がっているとしても、人間の能力が一定のままで止まっていることはない。したがって、重要なのはどのように融合してお互いの能力を上げていくかであろう。

3. AIと労働市場

ロボットやAIは人間の仕事を奪うとよくいわれる。1993~2010年のEU16カ国について、各国の仕事を賃金で低中高の3つに分け、それぞれの割合が各国でどう変化したかを見た調査がある。アイルランドにおいては、低賃金が4%増加し、中間層が15%減り、高賃金が11%増えていた。こういう中抜きの現象があらゆる国で起こっている。また、オックスフォード大学の研究者は、現在の米国の全仕事のうち、47%近くが今後10~20年で消えるリスクが高いと予測している。

しかし、このような分析は非常に短期的で静学的である。実際、近代における大きな技術変革により、旧来の仕事はほとんどなくなるが、究極的には全く新しい産業が生まれて仕事もどんどん生まれる。また、旧来の仕事の多くも、新しい技術を融合して内容や姿を変えて新しく生まれ変わる。したがって、前もっていろいろな準備をすれば、それほど恐れる必要はないと私は考える。

では、ロボットと人間はどういう関係を築いていけばいいのか。変わるのは職業ではなく、仕事の内容なので、システムに応じて新しいプラットフォームを前もって作っておく必要があるだろう。ただし、今後、日本が伸びていくには、いろいろなリスクの予測と、リスクの許容についての社会的合意形成を急ぐ必要がある。

教育については、世界共通の翻訳機械が発達すれば、若い人は語学を学ばなくてもよくなるのかという質問がよくある。しかし、言葉は明示的な共通の意味があると同時に、独自の個性・歴史・文化を体現している。この暗黙知については機械ではなかなか同時通訳できないだろう。

もう1つの質問は、たとえば東京オリンピックのとき、誰でも簡単に使える翻訳機が欲しいか、外国語の効率的な習得を可能にする学びのAIシステムが欲しいかというものである。学びにはさまざまな次元がある。知識や専門を学ぶにはオープン化、ネットワーク化、ロボットが役に立つと思うが、根本的な学びの要素はなかなかロボットには置き換えられない。要するに、ロボットを開発して生かすのは、シンギュラリティが起こるまでは全部人間であり、AI・ロボットの技術開発と人間の人材育成をバランスの取れた形で伸ばしていかなければならない。車が自動運転できるようになったとしても、人間が運転の仕方や原理を学ばなくていいわけではないように、両者共通の基盤を伸ばしていく必要がある。そうでないと、対立的になって、人類が滅ぼされる可能性もある。

4. AI・ロボットと倫理

倫理の問題を最初に取り上げたのは、『フランケンシュタイン、あるいは現代のプロメテウス』という本である。理想の人間をつくっても、これを人間と認めない限り、悲劇が起こる。これに関して、「ロボット三原則」を打ち出したのが、アシモフの『堂々めぐり』という短編であった。(1)人間に危害を加えてはならない、(2)人間の命令に従わなければならない、(3)自らの存在を守らなければならない、ただし、(1)(2)に違反しない場合に限るというものである。たとえばフォルクスワーゲンの排ガス規制を逃れるAIは優れものであるが、三原則の(1)は満たしていない。

さらに、AIと融合した人間はロボットか人間かという倫理上の問題が起こるが、実際には人間自身の倫理の方がはるかに現実的な問題となっている。個人情報の漏洩、情報プラットフォームの独占、産業独占、サイバーテロ、AI・ロボットを用いた兵器や戦争などである。たとえば原子力発電所にサイバーテロを行うと、検知するのに1年、完全に修復するのに3年かかるといわれる。最大の課題はAI・ロボットが人間を征服する前に、人間による人類の自滅をいかに防ぐかではないだろうか。

パネルディスカッション

中島理事長(RIETI):今の報告で、47%の仕事が置き換わっていくが、対人関係に重点のある仕事は置き換わりにくいということだった。AIの発展に理論上、限界はあるのだろうか。あるとすれば、どういうことが考えられるのか。

辻井センター長(人工知能研究センター):人間が存在しているのだから、知能をつくり出すことも可能だという議論があるが、私はこれには懐疑的である。知能とは情報処理であり、情報は物質から切り離されているという議論が成り立って、物質的基盤があまりないのであれば、知能をつくり出せる可能性はあると思うが、実際はそうではない。

人間を超える・超えないというのは、比較できないものを比較している。言葉が使えるようになった、将棋を指せるようになったといっても、AIという1つの人格が人間の知能的機能を全てその場の状況に応じてやりこなしているわけではない。ある特定の機能を取り出して、その機能の場面で人間に勝つか勝てないかという議論はできるが、知能一般で勝つか勝てないかという議論はほとんどナンセンスである。

たとえばAIは物理の問題を解くことができても、現実の場面における問題が物理の問題であると抽象化し、数式を立てて解き、現実を操作するということは全くできない。したがって、AIを1つの実体であるかのように議論するのは、かなりミスリードすることになるので注意した方がいいと思う。

中島理事長:AIと教育がらみの質問をしたい。AIのさらなる進歩で、今後産業構造あるいは就業構造は変わっていくことになるだろう。藤田所長は、今ある700の職業のうちAIに代替されていかないものとして、独創性や芸術的能力が必要な職業があると紹介された。そうなると、今は理数的な教育の強化が叫ばれているが、むしろひらめきを強化する文科・芸術系の学問を重視した方がいいのではないかとも思うが、どうか。

藤田所長(REITI):たとえば人間の集団が何か大きなプロジェクトをやるときの最適な人材構成は、3分の1が技術系、3分の1が経済学者または経営学者、3分の1がアート系だといわれている。これはロボットができようとできまいと、全く同じことだと思う。

辻井センター長:いわゆる科学技術や数理モデルは計算機でできるのだから、そういう部分は機械に任せて、人間は文化的・芸術的な教育をした方がいいというのは、間違った議論だと思う。基本的にデータサイエンスで分かったことは、いろいろな数理モデルを使ってデータを解析するのは計算機でできるが、それを評価しようと思うと、人間の方にも数学に関する基礎的な素養が必要であり、それがないとだまされてしまうということである。したがって、文化的素養の重要性が増すというのは確かで、その部分がないと、次にどういう方向に行くかという戦略は立てられない。むしろそういう人たちが数理的な素養も身に付けるように、バランスの取れた教育をしないといけないということだろう。

Q&A

Q1:辻井先生のセンターは、30年前の第5世代のときは並列推論マシンを作って世界の注目を浴びたが、今回はどういう技術要素を使って、アメリカのIT企業に対抗するのか。

辻井:今は日本が独自の技術で勝つという時代ではない。日本でアメリカ的シナジーをつくるためには、どういう組織が必要かという組織論がまずあると思う。グループや研究者個人の独自性はあると思うが、日本発の独自の技術という問題の立て方はあまりしたくない。また、アメリカに対して日本が優位性があるのは、いろいろなところからデータを取る技術である。さらに、製造業もまだ健在なので、その中にどうAIを入れていくかは解くべき問題だろうと考えている。

Q2:トヨタは、自動運転でマサチューセッツ工科大学(MIT)と組むそうだが、日本がこの研究に税金を投じるのはなぜか。

辻井:トヨタの場合も、日本の技術でやりたいという意欲はある。ただ、日本の大学に大きな研究者集団を集めて研究できる力があるかという問題がある。さらに、アメリカのモデルがこれから成功する保証はない。製造業や医療などのデータを持っている部分が巨大IT産業の外にあるのだから、日本がそこをうまく結び付けることができれば、日本発のものができる可能性はあると思う。

Q3:大きな技術体系・研究体系を架橋・融合して1つの大きなチャレンジをするのは難しいことだが、米国国防高等研究計画局(DARPA)はやっている。そのためには文科系の話も理工系の話も消化できるグループを集める必要があるが、多分野の人が話せば話すほどまとまりにくくなるものである。DARPAはなぜそこまでできるのか。また、日本でコラボレーションを考えるとすると、どんな仕組みが必要か。

辻井:バイオの分野は今、比較的フラグメンテーションが少なくなりつつあり、パスウェイコモンズなどの世界的なデータベースも作られている。また、バイオ分野では読み切れないほど多くの論文が出ているので、各研究者がこの論文に関して自分は違うことを思っていると、直接そこに注釈を付与していく動きがある。その上、巨大な知識とデータをぶつけることで何が分かるかを探究したい気持ちも生まれている。それがエコロジーやファイナンスなど、次の科学のモデルになるだろうと彼らは予測している。

Q4:私がAIという言葉を初めて聞いたのは溶鉱炉の技術の話だった。温度管理や、希少金属をどのタイミングでどう入れるかは、データ化されていない匠の技術だったが、コンピュータに多くのケースを覚えさせて、ソフトウェアとして中国などに移転可能にするのがAIであるという説明だった。今は、AIで進歩しているのはデータサイエンスの部分であり、膨大なデータを分類・推論する機能に着目しているという理解でいいのか。

辻井:昔のAIには知識習得障害(knowledge acquisition bottleneck)があり、本当に知識を入れていこうと思うと、専門家が書き下さないと駄目だった。今そこが膨大になっており、非常に矛盾する規則も多く出てきている。どこかである種の確率論的なものを入れないと駄目なのは、昔のAIのころからあったと思う。今は、データを取りあえず多く集めて、こうなっていると変なことが起こる、こうであれば正常な方向に行っているというルールに相当するものが確率モデルとして学習されるようになった。

融合とは、規則の技術とデータの技術をもう一回合わせることである。自動運転の場合も、状況に応じて運転するわけだから、ある種の抽象化が必要になる。そうしたデータと人間のつなぎ目がまだ技術としてかなり残っていて、そこをきっちりとやらなければならない。そういう意味では第5世代でやったことと、その後の時代にリアルワールド・コンピューティング・プロジェクトでやったことが集約される時代になってきたのかもしれない。