データが主食

データ系エンジニアのぽえむ。分析だったり、読んだ本のメモだったり。

「人類の未来、AI、経済、民主主義」のつまみ食い(ノーム・チョムスキー)

はじめに

今日はこの本「人類の未来、AI、経済、民主主義」読んでみました。

人類の未来―AI、経済、民主主義 (NHK出版新書 513)

人類の未来―AI、経済、民主主義 (NHK出版新書 513)

  • 作者: ノーム・チョムスキー,レイ・カーツワイル,マーティン・ウルフ,ビャルケ・インゲルス,フリーマン・ダイソン,吉成真由美
  • 出版社/メーカー: NHK出版
  • 発売日: 2017/04/11
  • メディア: 新書
  • この商品を含むブログ (2件) を見る

あまり大げさななタイトルの本は読まないようにしているのですが、著者が著名すぎるので読んでみました。 本書は、著者(吉成 真由美)が4人の知識人・文化人にインタビューをした内容をまとめた本です。

4人の中で、特に親しみがあるのが、ノーム・チョムスキーとレイ・カーツワイルです。 特に、ノーム・チョムスキーはMITの有名な言語学の教授で、現在生きている人間の中でもっとも博識とも言われています。 一方、レイ・カーツワイルはシンギュラリティで有名ですね。

─ ─ これからは3Dプリントされた大きなレゴブロックのようなものを積み上げることで、手軽に最新のビルが建てられるようになるとするカーツワイル氏に対して、最も新しいテクノロジーが一番早く古くなるのであって、むしろ古い家が最もハイテクになりうると言うインゲルス氏。複雑系を対象にすると、彼らのような英知 でさえ、これほどの違いが出てくる。

この考え方はすごい面白いと思います。複雑系のポイントは初期値鋭敏性による未来予測の難しさです。 難しい未来に対して、いわゆる知識人・文化人がどのように考えているか、興味があります。

本書では、宗教の話や、戦争の話、政治の話などが多く語られているのですが、個人ブログで宗教や政治の話をするのは好きではないので、技術の未来の話をメインにご紹介したいと思います。

ノームチョムスキーがポストヒューマンについて語る

──イスラエルの歴史家ユヴァル・ノア・ハラリによると、われわれはおそらく最後のホモ・サピエンスであり、あと一〇〇年ないし二〇〇年しないうちに、われわれは自らを滅ぼすか、あるいは、テクノロジーを使って無機的なポスト・ヒューマンに発展していくだろう、と。 過去四〇億年、生物は「自然選択」によって進化してきて、生命は有機的(オーガニック)な存在にとどまっていたけれども、今後は初めて、インテリジェント・デザイン(創造説が説くような「万能な存在」というものになった人類が、自らをデザインすること)によって進化していくことになり、ホモ・サピエンスとポスト・ヒューマンとの間には、超えることのかなわぬ差が生じていって、約五〇%にも上る人間が職を失い、役立たずになるだろう、と彼は予測しています。これについてはどのようにお考えですか。

というインタビューに対して、ノーム・チョムスキーが以下のように答えています。

空想です。完全なるファンタジー。信ずるべき何ものにも基づいていません。確かに現代ではロボット化が進んでいます。それはいいことでしょう。なぜ人間が退屈で危険な仕事をしなければならないのか。人間はもっとクリエイティブで満足できるような仕事に就くほうがいいでしょう。しかしロボット化は労働市場にそれほど影響をもたらしてはいません。低スキルの仕事はまだ山ほどあります。 また、テクノロジーによる変化というものも確かにあります。生産性が上がるとか、低スキルの仕事を減らして高スキルの仕事を増やすとか。しかし、AIが人間の知能を超えるというアイディアは、今のところ完全なる夢です。どのようにしてそれを実現するかというコンセプトはまだないですし、その夢を支えるような証拠もない。世間で騒がれているAIの業績というのは、膨大なデータとコンピュータの高速な計算力に頼ったもので、それらは、何を求めるべきかを知っている人間がデザインしたプログラムによって、ガイドされているのです。

これは、現時点ではすごい納得です。 現在、AI関連のプロジェクトはたくさんありますが、問題の定義自体は人間が定める必要があります。 問題の定義自体をAIがやってくれそうな未来は、見えません。 しかし、未来永劫そうなのか?という所は私にはわかりません。 AIによる問題設定ができないと否定する必要もないかなと思います。

加えて、チョムスキーは以下のように語ります。

彼らが素敵なレストランでコーヒーを飲みながら会話として楽しむにはいいでしょう。しかしその主張には何の証拠もないですね。 私が研究してきた自然言語分野について言えば、われわれは五〇年前に、もし自動翻訳をするなら力任せにやるしかない、巨大なデータを集め、コンピュータの計算力が高速になるから、より多くのデータを蓄積して対応するのだと言っていました。実際三〇年後に、このやり方が実践されたわけです。 例えばカナダの国会議事録はフランス語と英語で表記されているのですが、両者を比べてみれば、両言語がだいたいどのように対応しているのかがわかります。この方法で、グーグル翻訳のように、ある程度役に立つものができる。ただしこの場合、科学的あるいはインテレクチュアルな意味はまったくゼロです。 人間についての話になると、途端に、なぜか人々は惑わされてしまう。昆虫について話をする場合はそうじゃないですね。ハチやアリといった昆虫は、大変優れた飛行ないし運行能力と、ミツバチのダンスに見られるようなコミュニケーション能力を備えています。この実験はあまりにばかげているので誰もまだやったことはありませんが、何百万という数のハチやアリの行動をビデオにとって学習すれば、あるハチが巣を出た後、次にどのような行動をとるのか、かなり高い確率で予測することができるようになるでしょう。 ただし、なぜこういった行動が起こるのか、ということを突き止めるのは科学の大きなテーマですが、単にハチの行動を真似することにはまったく意味がない。他の生物にたとえて考えてみれば、よく理解できることです。もしこのような、ハチの飛行をただ真似るためだけの研究費を申請したら、グーグルならお金を出すかもしれないけれども、科学機関では相手にされないでしょう。

近年のディープラーニング関連の論文は既存技術を適用した内容の論文が多く、論文としての体をなしていないというような話を耳にします。 科学機関でも止められている純粋科学とお金になる研究の違いなのかもしれません。

ただ、このインタビューは少し論点がずれているように感じました。 シンギュラリティという文脈では、圧倒的な速度で進化するAIが人間の雇用を奪うのではないか?さらには、人間を支配する存在になるのではないか? といった恐怖が大事なポイントかと思います。 一方で、チョムスキーが言っているのは研究としての価値の有無です。研究の末に、そう言った事態がありうるのか?という点にしぼって議論をしてほしいと思いました。 インタビュー関連本はこういうのが多く残念です。

人類の未来―AI、経済、民主主義 (NHK出版新書 513)

人類の未来―AI、経済、民主主義 (NHK出版新書 513)

  • 作者: ノーム・チョムスキー,レイ・カーツワイル,マーティン・ウルフ,ビャルケ・インゲルス,フリーマン・ダイソン,吉成真由美
  • 出版社/メーカー: NHK出版
  • 発売日: 2017/04/11
  • メディア: 新書
  • この商品を含むブログ (2件) を見る