人工知能に「他者理解」は実装できるか 大山匠×三宅陽一郎×山本貴光「変わる社会と変わる人工知能」イベントレポート

ゲンロンα 2020年9月14日配信

 「傷つく」経験を重ねることで、人工知能は人間という「他者」とわかりあえる──?
 ゲームAI開発者・三宅陽一郎と哲学研究者・大山匠の共著『人工知能のための哲学塾 未来社会篇』の刊行記念イベントがゲンロンカフェで行われた。本書は三宅が主宰する「人工知能のための哲学塾」の書籍化第3弾にあたる。司会役を務めたのは、ゲンロンカフェではおなじみの山本貴光。「人工知能のための哲学塾」の企画全体のスーパーバイザーも務めたジェネラリストが、丁寧な進行に鋭い質問や指摘を織り交ぜ、異なるバックグラウンドを持つふたりから刺激的なトークを引き出した。
 第1部の三宅と大山によるそれぞれのプレゼン、第2部のディスカッションと、縦横無尽にさまざまなトピックが語られたが、そのなかでも議論の核であり続けたのが「人工知能による他者理解」の問題だ。ここではその話題を中心に、イベントの模様をレポートする。(ゲンロン編集部)


人工知能と哲学?


 この記事の読者のなかには、「そもそも人工知能(AI)と哲学って関係あるの?」と疑問を抱くひともいるかもしれない。

 現在のAI開発の流行は「第3次AIブーム」と呼ばれ、それを実現したのは「機械学習」の技術である。ざっくり言ってしまえば、「大量のデータ取り込みによるパターン化で多くのことが解決できちゃうからそれでOK」というのが現在のAI観の主流だ。じっさいそれでうまくいっていることがあるからこそ目下のブームがあるとも言えるが、大山と三宅のふたりはあくまでこのAI観は「狭い」と考えている。

 大山は、現在の機械学習ブームはAIのブラックボックス化を推し進めるものであり、本来のAI開発にあるべき「知能とはなにか」「人間とはなにか」という問いや理解を遮断してしまっていると言う。

 三宅は、AIをシンプルに定義するところから始める。すなわち、「感覚による認識」「思考」「環境に対するアクション」の3つがそろった工物でさえあればどんなものでもAIだ。そのうえで、個々のAIはその開発者の思想を如実に反映するものだと三宅は語る。「知能=規則」と考える開発者はそのようなAIを作り、「知能=ニューラルネットワーク」だと考える開発者はそのようなAIを作る。三宅が目指すのはその先だ。

 

AIと人間はどうすればわかりあえるのか


 『人工知能のための哲学塾 未来社会篇』の特徴は、「理解」「社会」「文化」「愛」「幸福」という5つの同じテーマについて、三宅が担当する第1部の議論と大山が担当する第2部の議論がそれぞれ独立して完結する構成を持つこと。巻末の対談パートでも触れられているように、AI開発者として「人工知能から哲学へ」と迫る三宅と、哲学研究者(兼機械学習エンジニア)として「哲学から人工知能へ」と迫る大山のコントラストが印象的だ。その対比は、本イベント第1部のプレゼンにも見てとれた。「人間とAIは理解しあうことができるのか」という問題についてのそれぞれの回答を見てみよう。

 

 前提として、人間とAIの根本的な違いは「身体」の有無にあると三宅は言う。三宅によると、人間の身体は「超高速計算機」であり、それが世界に存在する無限の情報から有限な問題設定=「フレーム」をつねに切り取っている。そして、この情報の縮減によって、より上位の階層にある知能や言語による情報処理が可能となる。一方でAIはこの身体の階層を欠いている。そのため、AIは自らが解くべき問題の設定を行うことができない(「フレーム問題」)。つまり、AIは自らの力で世界に分割線を入れることができないのだ。

 では、どのようにすればAIは「他者」(=自分のコントロールの外にあるもの)を認識することができるのか。そこで三宅が注目するのが、「発達」の観点だ。精神分析の見方によると、人間は生まれたときには自他の区別がなく全知全能の感覚に満たされている。しかし、ルールを破って怒られるなど、自分の思い通りにいかない経験を重ねていくことで、「他者」を知り精神を発達させていく。三宅は、それと同じ道筋をAIにも辿らせることができるのではないかと言う。まず、初期段階のAIに全知全能の感覚を持たせる。そこにさまざまな思い通りにいかないものを与えて「傷づく」経験を積ませる。そのことで、AIにも「他者」の感覚を徐々に身につけさせていくことができるのではないか──。工学的な「やってみてから考える」発想を地で行く三宅らしい回答だ(三宅のスライドは、イベントで割愛されたものも含め、Slideshareで公開されている。興味のある方はそちらもぜひご覧いただきたい)。

 一方で大山は哲学研究者らしく、「そもそも理解とはなにか?」という問いから出発する。大山によると、「理解」を可能にするのは、「相手が自分と同じようなことを感じている/考えている」という「同一性」の想定だ。しかし、このような「理解」のあり方は、自分の感じ方や考え方を相手にそのまま押しつける身勝手なものにもなりがちである。

 

 そこで大山が注目するのが、「解釈学」である。もともとは聖書や古典文献の解釈法をめぐる学問だが、これを現代的に構築し直した20世紀の哲学者ガダマーは、「理解」を「同一性」とは違う角度から捉える。ガダマーによると、「理解」とはそれぞれ異なる自分の文脈と相手の文脈を持ち寄って「対話」を深めることである。それをヒントに、人間とAIも相手の内面を理解しようとするのではなく、それぞれ異なった存在のまま相互作用を深めていくことを目指すべきなのではないか、と大山は言う。

「記憶」と「記録」の違い


 ここまで、一見すこし抽象的でむずかしい話題が続いたイベントのように見えるかもしれない。しかし、そもそも三宅の出発点は「ゲームに出てくるモンスター(キャラクターAI)にそれぞれ異なる固有の精神のかたちや世界の感じ方を持ってほしい」と素朴に言い換えることもできる(現象学的なAIの制作)。第2部では、ゲームやSFの例も交えつつさまざまな問題が議論された。そのなかでもとくに印象的だったのは、「記憶」と「記録」の違いをめぐる問題だ。

 この問題を投げかけたのは山本である。人間の「記憶」は、「なにかを見たときにそれに関連する記憶がおのずから蘇る」という仕方で非意志的に呼び起こされることも多い。そして、人間の記憶には多くの場合ある種の感情が伴う。これに対してAIが持つのは、プロトコルによって意志的に取り出すことのできるプレーンな情報の集積、つまり「記録」だ。山本は、この両者の区別をきちんとつけることが重要なのではないかと述べる。

 

 この区別は、AIの「他者理解」の問題にも深く関わるものだ。山本はわかりやすい例として、テッド・チャンのSF短編「偽りのない事実、偽りのない気持ち」(『息吹』所収)を挙げた。この短編の舞台は、個々人の体験がすべてライフログによって「記録」され、いつでも完璧に取り出せるようになった未来だ。この短編の面白みは、「人間は過去を正確に記憶していないからこそ、嫌なことを忘れたり他人を許したりすることができる」ということを描き出したことにあると山本は言う。

 この議論は、現代社会ですでに起こっている問題に引きつけて考えることもできるかもしれない、と筆者は感じた。たとえば、インターネット上で検索できる犯罪歴などの消去を求める「忘れられる権利」の議論や、SNSで見られる「過去の失言の掘り返し」の問題が、それと近いものとして挙げられるのではないか。「AIと人間がわかりあう未来とはなにか」を考えることは、「より良い人間社会とはなにか」を考えることでもある。そんなことも考えさせられるイベントだった。


 以上で紹介した内容は、ひとつの視点からイベントのほんの一部を切り取ったものにすぎない。イベントではこのほかにも、『人工知能のための哲学塾』シリーズの前2作を振り返る内容、人間特有の文化的な場所感覚の集積(=「場の歪み」)について、人間とAIが協働する未来社会の展望、三宅の今後の活動予定(「人工知能のための運動会」、「人工知能のための哲学塾 日本思想篇」など……?)などの話題が触れられた。全容はぜひ動画でチェックしていただきたい。(住本賢一)

 

 ゲンロン中継チャンネルでは、番組をタイムシフト公開中(9月16日まで)。都度課金1000円で、期間中は何度でも視聴できます。
 URL=https://live.nicovideo.jp/watch/lv327731466

大山匠×三宅陽一郎×山本貴光「変わる社会と変わる人工知能──『人工知能のための哲学塾 未来社会篇』刊行記念イベント」
(番組URL=https://genron-cafe.jp/event/20200909/

NEWS

連載

ゲンロンβ