グローバル・インテリジェンス・シリーズ

相対化する知性-人工知能が世界の見方をどう変えるのか

開催日 2020年12月10日
スピーカー 松尾 豊(東京大学大学院工学系研究科 人工物工学研究センター・技術経営戦略学専攻 教授)
スピーカー 西山 圭太(東京大学未来ビジョン研究センター客員教授 / 前・経済産業省商務情報政策局長)
モデレータ 渡辺 哲也(RIETI副所長)
ダウンロード/関連リンク
開催案内/講演概要

人工知能(AI)の出現と社会実装は、人類に巨大なインパクトをもたらしつつある。人工知能の中核にあるディープラーニングはどこまで発達しているのか、人工知能の世界で起こりつつある大転換の本質とは何か、さらに、このデジタル全面化の時代に人間はどのように生き、ビジネスをどう考えたらよいのか。今回のセミナーでは、『相対化する知性-人工知能が世界の見方をどう変えるのか』(日本評論社:2020年)の著者である東京大学の松尾豊教授、西山圭太客員教授が、AI時代のわれわれの世界がどこに向かうのかを解説を行った。

議事録

ディープラーニングの今後の展望

松尾:
ディープラーニングは、一言でいうと「深い階層をもった関数を使った最小二乗法」で、関数が幾重にも重なった合成関数のような形で使われます。この深い関数構成が画像認識などを可能としており、この途中の関数として「特徴量」(対象の特徴が数値化されたもの)が学習されることから、表現学習とも呼ばれています。

従来の多変量解析のパラメータは多くても数十個程度なのに対して、ディープラーニングの場合は1万、1億、最近の一番大きいモデルでは1,750億といった桁数になっており、パラメータ数が非常に多いのが特筆すべき点です。

ディープラーニングは深いことが重要で、例えば料理でいえば「1回だけ加工する」という条件では大したものはできませんが、2回、3回、4回と加工数を増やせば、非常に多くのものが作れます。これは関数の場合も同じで、1層の場合はどうしても表現力が限られますが、多層にすることで表現力の高い、柔軟なものが生成できます。

これまで計算が大変でなかなかできなかったこの「階層化」が、ようやくできるようになってきました。これは非常に重要な概念を含んでいます。われわれの世界は階層的で、複数の部分から新たな集合が構成されるという「構成性」(compositionality)を持っています。

現状の自然言語処理はまだ完璧とは言えず、今のAIで足りていない部分はたくさんあります。例えば「あなたの名前はX」という文の意味をAI側は理解できません。多くのデータからパターンを学習して質問への回答の精度は高くなっているものの、実際に「あなた」や「名前」が何を意味するかを理解できません。

人間は、学習によって現実空間で何をすると何が起こるのかという未来を予測する力(=知能)を身に付けていきますが、今のAIはそれを獲得する仕組みが十分にできていません。

現在、世界をシミュレートする「世界モデル」の研究が、さまざまな形で進んでおり、これによりAIに完全に言語の意味が理解ができるようになる、あるいは人間の脳がどのような仕組みによって動いているのかが明確に理解できるようになるのではないかと思います。

ディープラーニングは多数のパラメータを使うことで実世界を正確に表現して予測精度を向上させました。これは、少数変数で表現できるものほど美しいとされてきた今までの科学技術が、ある種の思い込みなのではないかということも示唆しています。

人間の知能は、その仕組みを理解することができるようになったとき、それがあり得るべき知能全体の集合のごく一部に過ぎないことが分かり、人間の知能がある種相対化されるのではないかと考えています。

起こりつつある大転換

西山:
今われわれが生きている時代は何か今までとは異なる「決定的なこと」が起こりつつあり、コロナ危機はその流れを加速させる可能性が高いといえます。その「決定的なこと」をとらえるためには、思考の奥底にある従来の常識を根本から見直す必要があると考えています。

世の中には、「人間とは/ 知能とは」「人間と自然」「人間と社会」の3つの領域があります。社会が安定している時代は、自然は物理学・生物学、社会は経済学・法学、知能は情報理論というように、専門分野に分けた議論が生産的でした。しかし、転換期においては新しいとらえ方が必要です。ディープラーニングによって「人間とは/ 知能とは」と「人間と自然」をまとめて説明できるのではないかという点を今回の本(『相対化する知性』)で述べています。そう考えると「人間と社会」にも拡張でき、社会や経済の在り方、ガバナンス対応のヒントになるはずだと考えました。

そこでキーワードとなるのが、カール・フリストン氏が唱えるマルコフ・ブランケットです。彼は生命の一番基礎にあるものは局所的な作用、つまり身の周りの作用を中心に構成されると述べています。皆さんは家や職場で起きる事柄には影響されますが、銀河系の果てで起こることに直接的には作用されませんよね。そのメカニズムをマルコフ・ブランケットといいます。

マルコフ・ブランケットは予測をする行為と自分の存在は裏表になっていると唱えています。つまり「知る」と「ある」は区別できないことになります。もう1つの重要な点は、このマルコフ・ブランケットの中にマルコフ・ブランケットがあるという階層的な構造です。幾度もの加工を通じて生命体が非常に複雑、かつ階層的な構造が生命体の本当の秘密ではないかとフリストン氏は述べています。

ここまで来ると、ディープラーニング、量子力学、生命体をまとめて説明することが可能になるというのが私の意見です。ディープラーニングの威力は「ある」というメカニズムを、存在を知る側、パターン認識をする側に応用したからだと思います。

今決定的な変化が起きている要因はサイバーフィジカル融合です。サイバー空間とリアル空間が完全に一体になってくることで人工物が自己改良するシステムが生まれています。

ディープラーニングを通じ、知能、自然界、社会をまたいだ発想方法には、来るべき社会Society5.0に対するヒントが含まれている、想像力の源泉になると考えます。第4次産業革命の本質は、社会がレイヤーの積み重なる階層構造の世界になっていくことだと思います。

階層構造の対語はピラミッド構造です。ピラミッド構造は明確な中心、会社でいえば社長がいて、部長や課長は社長に従うという構造になっています。一方、階層構造は、レイヤーができることで発明が起き、料理の幅が広がっていくものです。プラットフォーマーが強いのは、社長を筆頭に特定の目的を掲げて会社を作るのではなく、レイヤーを積み重ねてビジネスとしてビルトインして、そのメカニズムを取り込んでいるからです。

ディープラーニングは多数のパラメータを作りながら、次々と新しいパターンを切り取っていきます。これは1つの原則の中で全てが位置付けられるのではなく、新しいパターンが次々と生まれ、そのインタラクションの中から秩序が出来上がるということです。私はそれが新しい社会のイメージだと思います。従来のピラミッド構造のやり方ではSociety5.0や第4次産業革命に対応できない組織になると思います。そのようなシステムや組織を表現するにはアーキテクチャのような発想が必要です。

Q&A質疑応答

Q:

松尾先生は、高専ディープラーニングコンテストを主催しておられますが、今後高専から大学に社会実装のプラットフォームを広げていくお考えはありますか。

松尾:

高専にプロフェッショナルが集い、チーミングして起業に仕立てていくというのは高専の持つハードウェアの技術がディープラーニングと相性が良いので、機能する可能性があります。大学は大学でまた違った形でスタートアップを多く生み出し、業界バーティカルなSaaSと組み合わせたAIという戦略でやっていく感じかと思います。

Q:

EBPM(Evidence-Based Policy Making:証拠に基づく政策立案)をどのように考えておられますか。

西山:

データを使って検証すること自身は大事ですが、決まった制約条件の中で最適解を探るやり方だけをやっているようでは政策にはならないと思います。これからは組織もビジネスサービスも政策も、環境の変化に対応して作り替えるような要素をビルトインする必要があります。

自由でクリエイティブにやっていただきたいと思います。従来の手法は領域を限ることで解を得ようとしていました。それは今までは正しい戦略でしたが、今の世の中は領域の壁を取り払って、新しいパターンを見いだすことが正しい戦略だと思っています。世界のさまざまなことがつながって見えるようになれば、数多くの気付きが得られます。仕事に役立つだけでなく、人生も非常に豊かになるでしょう。ぜひそういう日本になってほしいと願います。

この議事録はRIETI編集部の責任でまとめたものです。