2017年07月30日

NHKBSプレミアム「フランケンシュタインの誘惑 科学史 闇の事件簿 強制終了 人工知能を予言した男」

NHKBSプレミアム「フランケンシュタインの誘惑 科学史 闇の事件簿 強制終了 人工知能を予言した男」

 科学の闇の歴史や、忘れられた天才などを取り上げた番組です。
 今回紹介されていたのは数学者のアラン・チューリング。

 全然聞いたことがない名前ですが、
 70年も前に人工知能の存在を予言していた、
 というか、人工知能を作りたがっていた方だそうです。

 以前この番組で、
 ニコラ・テスラ
 (エジソンと同時代の人で、交流システムを最初に作った人)
 を見て、けっこうエキセントリックな人だなーと思いましたが、今回も似た感じかなぁと…
 やっぱり天才は紙一重なんでしょうかね?

 彼には第二次大戦中、ドイツの暗号を解読し
 戦争終結を早めた功績があるそうですが
 その功績は表にだされず、それが研究者としては仇となったようです

 彼は人工知能を作る構想を持っていただけではなく、
 知性とは?知能とは?心とは?
 それらは人工的に作れるのか?人だけのものなのか?
 という問題へ挑んでおり
 改めて、意識や心って何だろう、と考えさせられました。
 
 さて番組では、彼の生涯を追いかけています
○子供~青年期
 彼はイギリス生まれ、両親がインドに赴任していて
 知人の家に預けられて育ったそうです

 子供の頃から少し変わっていて
 数字に異常な興味を示す

 10歳の頃「自然の不思議」という本に魅せられる
 そこには
 「人間の体は機械のようなもの」とあり、
 脳の仕組みなども科学的に説明できるようになるだろう、
 と書かれていたそうです

  彼の伝記を書いたという数学者は
 「体も機械と同じようなもの、脳も科学的に分析できるという考え方は、
  後の彼の研究に大きく影響した」とのこと

 そのあと全寮制の学校に入るが、
 人付き合いが苦手な科学オタクだったせいか
 友達はおらず、陰湿ないじめを受けていた

 しかし唯一話のあうモーコムという先輩がいた
 学校一の秀才で、難しい科学の話にも興味を示してくれたそうです
 チューリングは淡い恋心すら抱いていた、とのこと

 二人はケンブリッジ大学に入学することを夢見る
 モーコムは入学が決まるが、
 その直後結核で亡くなってしまう

 チューリングは相当ショックを受けたようで
 「今後、彼以外の人間と友達になることは考えられない」
 と手紙に書いているそうです
 同時に
 「彼にはまた会える」とも…
 
 彼の伝記を書いた数学者は
 「彼はモーコムの死を否定した、生きていると思いたかった。
  また、何としても心を知りたいと思ったのだろう
  心を作り出す脳の仕組みとは何か、を。
  これが後に人工知能を考えることにつながったのでは」

○ケンブリッジ時代
 彼は先輩と通うはずだったケンブリッジに入学
 新進気鋭の数学者、マクスウェル・ニューマンなどの講義を受ける
 その中で
 「人間の数学は、将来的には機械が全てこなすようになるだろう」
 という言葉は彼に影響を与えた

 というのは、
 当時は四則演算はそれ専用の機械、
 微分積分はそれ専用の機械、
 と役割ごとに機械があったそうです

 しかし彼は
 足し算、引き算、というやり方や数式も、全て数字に変換できないか、
 と考えたそうです。
 今でいうプログラミング、ソフトウェアの考え方です

 これを発展させれば、人間のあらゆる活動も、全て数字に置き換えられると考え、
 全てを行う機械を「万能チューリングマシン」として論文にして発表した(1936年)

 しかし当時の有名な数学者たちには、そんな考え方は受け入れられなかった
 専門家によれば
 「あらゆることを機械にやらせる、ということを考えたのは彼が史上初だった。
  ある意味気味の悪い考え方だったのでは」
 とのことです

 当時、彼の考える複雑なプログラムを実行する高速演算機械はなく、
 彼はその開発の研究を続けていた

○戦争の暗号解読
 ところが1939年、イギリスは第二次対戦に参戦
 彼は政府暗号学校という所にヘッドハンティングされる
 当時、そこでは若い優秀な数学者を集め、
 ナチスドイツの使う暗号、エニグマの解読をさせていた

 エニグマとはドイツ語で「謎」を意味し、
 解読が不可能とされていた
 ドイツ軍から奪い取った暗号作成用の機械を分析すると

 タイプライターのキー1つ1つに配線がつながれ、
打ち込んだキーが電気信号に変換される
 配線は歯車とつながり、
 歯車は次の配線につながり、
 途中で戻ったりして、
 実際紙に打つキーにつながっている
(原理的には簡単ですが、組み合わせにより複雑にしている感じでした)

 いくつかある配線と歯車の設定をそれぞれ変えることで暗号を作っている
 その組み合わせは1京の1万倍
 しかも毎日設定を変えていたそうです
 イギリスも人海戦術で解読はしたが
 1週間もかかっていて、
 既に作戦は実行されてしまっていたとか…

 さて、チューリングは、当時期待の大型新人として採用されたそうです。

 ただしかなり変わり者だったようで
 知的レベルが自分より低い人とは付き合わないし、
 ぜんそくのためガスマスクを着けてサイクリングしていたり…

 しかし彼の仕事ぶりはスゴかった。
 人海戦術で解読したが役に立たなかった、
 とされた暗号を読み返して徹底的に分析し
 ドイツ軍の文章にはいつも「WETTER」という単語があることを突き止めた
 ドイツ語で天候を意味し、いつも朝6時にに送っていることを発見したそうです。

 エニグマの構造上、あるアルファベットが同じアルファベットに変換されることはないので、
 6文字のならびのうち、
 どれも「WETTER」の6文字と一致しないもの
 (つまり1番目にWでなく、2番目にEでなく、…6番目にRではない、というのを全て満たす6文字の並び)
 を探しだし
 それらの変換パターンを分析した

 しかし機械のパターンの組み合わせも膨大な数
 そこで、彼は36個のエニグマを同時に分析する機械を考案
 「ボンブ」と名付けられた

 1940年には1週間かかっていたものを1時間で解析可能となり
 Uボートの暗号解読にも成功
 (Uボートとはドイツの潜水艦のことで、ドイツの潜水艦隊は華々しい成績を挙げていたそうです。
 ただし戦争後期になると、連合国も対策を立てたために、
 ドイツ軍の中の死亡者は最も多かったそうです)

 ただし専門家によれば
 「これではまだコンピューターの祖先ではない」とのこと
 電子工学の進歩があって初めてスピード化が進んだ、とのこと

○解説
 ここまでのVTRを見て解説がありました。ゲストは
 ・電気通信大学人工知能最先端研究センターの栗原聡氏
 (人と共存する人工知能の開発を行っているそうです)
 ・池内了氏
 (自然科学に関する本を書かれています)

 池内氏は
 「彼は論理を積み上げて、それを機械に置き換えた、
  天才は99%の粘り、というが、その粘りの人」
 栗原氏は
 「彼は当たり前のことに気づいた、
  でもそれを実行に持っていくところがなかなか…イノベーションってのはそこにありますね」
 池内氏も
 普通の人は、アイデアを実行に持っていくのが大変で
 それは「死の谷」とも言うのだそうですが
 そこを乗り越えたところがすごい、と話していました

 栗原氏はまた、
 「しかし彼の研究が、
  モーコムに会いたいという気持ちから、
 と考えると深いというか、複雑というか…
  いずれは機械とも知的なやり取りをしたい、と思っていたのかなぁと考えると、
  ちょっと常軌を逸している?」と。
 池内氏は
 「まぁでも僕の偏見かもしれんけど、
  数学の天才ってそういうところがあるよね(笑)
  抽象的なものを積み上げて、
  独自の世界観を持つ人が多い」

 また彼がエニグマ解読に関わった心境としては
 栗原氏は
 「当時は戦争で、国のためというのもあったんだろうけど
  人が作ったものに負けたくない、とも思ったんじゃないか」
 池内氏も
 「科学者ってのは、難しいものを目の前に出されると、
  よっしゃやったろ、という気持ちになる」
  冷戦時のアメリカでも、研究者は研究を離れて国家に協力していたそうです

○解読成功はウルトラ・シークレット
 チューリングの解読成功により、暗号解読技術はさらに進んだ
 2400本の真空管を使用した新しい機械「コロッサス」の登場で、
 解読の速さが格段に向上したそうです

 しかしイギリス軍は、そのことを伏せていたそうです

 解説ができたとわかれば、またドイツが機械を変えてしまう恐れがあるためで、
 このためUボートの位置が分かっても偵察機をとばし、
 偵察により見つけたように装ったり
 新しい水中レーダーを開発した、というウソの情報を流したりした

 しかしUボートの位置がわかっているのに、
 偵察機を待たねばならず
 その間に攻撃され、命を落とす人もいたのだそうです

 1944年のノルマンディー上陸作戦にも、コロッサスが貢献したそうです
 ドイツは当時、フランスのカレーに軍隊を集中させていた

 そのことを暗号解読により読み取っていたイギリスは
 軍が手薄になっていたノルマンディーから上陸
 その後はベルリンを目指して進軍
 1945年、ナチスドイツは無条件降伏した

 しかし戦争が終わってからも
 エニグマ解読については伏せられたそうです
 イギリスは植民地に
 「解読不能な暗号」
 としてエニグマを配り
 植民地の機密情報を盗んでいたそうです

 このため、解読に関わった科学者たちは苦しい立場に置かれた
 彼らは兵役が免除されていたので
 「兵役逃れ」
 というレッテルを貼られてしまった

 最大の貢献をしていたのに
 そのことは家族にも漏らすことは許されなかった
 チャーチルは彼らについて
 「金の卵を産んでも、
  決してなくことはないガチョウたち」
 と表現していたそうです

○解説
 ここで解説
 武内アナは
 「チャーチル腹立ちますねぇ~「鳴くことはないガチョウ」って…」と言っていましたが(笑)
 池内氏は
 「まぁ政治家ってそんなもんでしょ
  彼らは急所さえ叩いて相手を倒せば、多少の犠牲は仕方ないと考える、
  冷酷な戦争の倫理ですね」

 しかし池内氏も栗原氏も
 「科学者にとって、自分の功績がオープンにできないのはキツい」
 と話していました
 これは自分の私利私欲とか名声のためではなく
 自分の発見発明をオープンにして、
 誰かが引き継いで発展してくれればこそ進歩が生まれる、
 という意味だそうです

 また戦争で失われた8年の空白について、
 栗原氏は
 「20代で戦争に巻き込まれたのは大きいだろう」とのこと
 40代、50代である程度研究を確立していたらまた違ったかも、とのことです
 池内氏も
 「僕ならごめんしてくれと言ったかも」

○戦後のチューリング
 VTRに戻ります
 知能コンピューターの構想を発表してから8年、
 イギリスの国立物理学研究所の数学部門のトップ、
 ジョン・ウォームスリーが彼のもとを訪れる
 彼の論文を読み、その才能を高く評価し
 コンピューター開発の機会を与えると申し出る

 彼は友人に「脳を作るぞ」
と宣言したそうです

 彼が新たに設計したコンピューターは「エース」
 彼の構想としては
 ハードをなるべくシンプルにし
 複雑なプログラムにより能力を補う、というもの
 超高速演算も可能、と考えたそうです

 しかし開発は難航
 戦後のインフラ復興に技術者が取られ、
 夢のようなコンピューターの開発などに回せる人材は少なかった

 専門家によれば
 「彼の戦時の功績は伏せられていたので、
  当時彼は単に優秀な数学者に過ぎなかった」
 彼の功績が知られ、国民的英雄とされていればもっと話が違っていただろう、とのことです

 彼のやり方も批判された
 理解しにくい複雑なプログラムなど使わずに、
 簡単なプログラムで大きな演算機械をたくさん使えばいいじゃないか、と言われたが
 彼は上司に
 「全くスマートではない」
 という意見書を提出した
 パイロット版の製作にも手を貸さなかったそうです

 専門家は
 「取り合えず簡単なものから試作する、というのは賢明なやり方だが、
  それは彼のやりたいことではなかった」
 そんなの時間の無駄だと思ったのだろう、とのこと
 「彼は結局、チームプレーヤーではなかった」

 1947年に、彼はロンドンの数学学会で
 「我々が目指すのは、経験から学習する機械」と宣言

 1948年には「知能機械」の論文を発表
 人間の脳のニューロンをコンピューターの上に再現することを考えた
 脳ではニューロンの接続と解除を繰り返して学習している、
 ということに目をつけ、
 これを機械上で再現して、自ら学ぶ機械を考案したそうです

 「今ではこのような機械の開発に巨額の投資がされているが、
  彼はこれを70年も前に考えていた」

 しかし彼は時代を先取りしすぎたのか理解されず、
 論文は上司に
 「まるで小学生の作文」
 と酷評されたそうです

 1948年、マンチェスター大学で、
 彼の教え子達が世界初のコンピューターを作ると
 彼もマンチェスター大学に移籍したそうです

 彼は「人工知能を作ることは可能」とし、
 知能ができたかを試す試験方法も考案したそうです
 これは後にチューリングテストと呼ばれるもので、

 質問者が何かを質問する
 相手は誰かを伏せたまま、機械と人間の答について
 どちらがより人間らしいか、質問者に選んでもらう
 そこで機械の方が人間らしいと答えれば、
 機械は人間と同等に発達していると考える

 専門家によれば
 「彼は知能とは何かについて問い、新境地を開こうとした
  我々人間も、相手が本当に何を考えているかは分からない。
  行動や話の内容で判断するが
  機械も同じように捉えるべきだと考えた」
 過程は分からなくてもいい、アウトプットが全て、と考えたそうです

 「知能とは何か、について未だに我々は答を出していない。
  彼はそれを今までと違うやり方で提案した」

○彼の晩年
 研究を続けていた1952年、彼は逮捕されてしまう
 容疑は当時違法とされていた同性愛
 有罪判決を受け、12ヶ月の保護観察処分を受ける
 精神科で女性ホルモンを投与され、
 乳房が膨らみ、性的に不能になり
 「私は違う誰かになってしまう」
 と友人への手紙に書いていたそうです

 このため彼は、研究の第一線を離れることを余儀なくされた

 それから2年後の1956年、彼がベッドで倒れているのが発見された
 傍らには青酸カリの塗られたリンゴがあり
 自殺とされたそうです
 享年41歳。若すぎる死でした。

○解説
 栗原氏は「現実は残酷ですね…」と話していました

 武内アナは
 「でも空白の8年間でも、見てくれる人は見てくれてたんですね…
  今でいう「キターーー!」ってやつじゃないですか、脳を作るぞ、ってねぇ」(笑)
 (武内アナ、この辺の進行が面白い(笑))
 栗原氏は
 「どうかしちゃったんじゃないか、と思われてたかも…」
 と言いつつ(笑)
 人工知能の発想については
 「発想はとてもシンプル、
  脳の仕組みをそのままコンピューターに再現すれば、脳のスペックが作れるだろう、
  というのは有りうる発想ですね。
  ただそれを実現するのは普通は難しいですけどね」
 池内氏は
 「僕らは普通、機械って言われたことをやる、て考えるけど、
  経験を学習する機械、という考えは読みが深いと思います」

 また、チューリングテストについては
 栗原氏は
 「人間が人間らしい、と判断すればそれでいい、という割りきりが面白いですね」と話していました
 普通はこれができれば知能がある、という発想になりがちだが
 それでは際限がなくなる
 シンプルに割りきったのが見事、とのこと

 池内氏は
 「ただ、知能と知性は違うと僕は思う」
 とも話していました
 知性とは感情とか感覚、それは人間にしかない、
 人工知能には真似できない、と。

 しかしこれについては栗原氏は
 「僕は人工知能やロボットが意図や意識を感じられるかと言えば、できると思う」
 と含蓄のある意見。
 「例えば機械が笑っていたら、僕らは楽しいんだなと思う。
  でもロボットは、こういう表情をすればどうも楽しいらしい、と学習する
  僕らはそれを見て、ロボットは楽しい「ふり」をしていると考える。
  でも、僕ら人間も、他人が笑っているのを見て、
  楽しいふりをしているのか、
  本当に楽しいかは分からない」

 …そもそも、「感情」や「意識」って何なんでしょう?

○チューリングのその後
 このあとは、ナビゲーターの吉川晃司さんの話でした

 1956年、アメリカのダートマス大学で
 数学、電気工学の専門家10人が集まり
 人工知能についての会議が行われた
 AI、Artificial Intelligenceという概念が初めて登場する
 チューリングの構想に時代が追い付いてきた

 さらにそこから18年後、チューリングの功績が表に出される
 1974年、イギリスの情報部の元大佐が
 「ウルトラ・シークレット」
 という本を出版
 これはイギリス政府の許可を得て
 暗号解読者に関わった科学者たちのことを公開した本で、
 それをきっかけに科学者たちが再評価されるようになった
 チューリングは、コンピューター科学の始祖とされたそうです

 今や人工知能は開発が進み、
 2045年には
 「シンギュラリティ」
 予測不能な爆発的な人工知能の進歩、が起きるとも言われている

 今年、日本人工知能学会では
 人工知能開発者が遵守すべき倫理指針を発表したそうです
 そこには、安全性の確保や社会への責任について言及されているほか
 「AI自身にもこの指針を遵守させる」
 という一文があるそうです

 これについて、栗原氏は
 (この学会の理事にもなっているそうです)
 「そうなる可能性があると思って入れた一文」
 だそうです

 武内アナは
 「守ってくれますかね?AIたちは」
 栗原氏は迷うように
 「…守ってもらうようにしないといけないですね…」
 池内氏
 「AIは、まだ専門家も、将来どうなるか読めてないところがあるんですよね」
 と助け船を出し、
 「僕はこれは、研究者が、自ら作り出したものに対する責任、
  というものを問うて入れた一文だと思います」

 栗原氏は
 「AIの開発は、段階を追っていくとは思いますが…」
 としつつ、池内氏は
 「僕が一番怖いのは、非線形的な効果」
 と話していました
 非線形効果とは、変化が直線的ではく、
 最初はゆっくりでもある点を越えると急に爆発的に変化すること
 AIも急に発達して、あっという間に人間を越えてしまうかもしれない、
 シンギュラリティもそのことを指している、と話していました

 それでも池内氏は
 「考えすぎ、怖がりすぎても良くない」
 「機械との付き合いかたは色々ある、
  人間にできること、機械にできることを役割分担して
  共存していければいいのでは」
 と話していました。

 最後は、ナビゲーターの吉川晃司さんのこの言葉…
 「彼は死の3年前、こんな言葉を残している。
  「機械が自己学習する方法を確立したら
  ひ弱な我々はすぐに追い抜かれてしまうだろう
  機械が実権を握ることを考えねばならない」」

○感想など
・シンギュラリティ、は何となく名前は聞いたことがあるが、改めて調べてみました。
 やはり話題であるせいか、色んな所で解説がされていました。

 巷で理解されている話では
「人工知能が人間の脳を超えるとき」とされていますが、

 正確には機械が人間を超える地点ではなく、これは「プレ・シンギュラリティ」といい、
 「機械の知能が予測不能に発達するとき」
 をシンギュラリティという、みたいな話が多かったです。

 まぁどちらにしても、
 人工知能が、
 人間にとって予測不能な、恐ろしーい存在になりそうなイメージが浮かびますが

http://www.nikkeibp.co.jp/atcl/column/16/ai/080300003/?P=1&ST=mobile
によれば、

 元々は「シンギュラリティ」とは
 AIではなく、「人類の」進化の速さが無限大になるポイントを指すのだそうです

 「シンギュラリティ」の言葉を世間に広めたのは
 レイ・カーツワイルさんという方の本だそうですが
 彼の本(「シンギュラリティは近い」)では
 人間の生物的進化の限界を、AIの力を借りて破る、
 という趣旨の話をしているそうです

 人類の進化は
 狩猟社会→農耕社会→工業化社会→情報化社会、という段階で進んできた。
 この間、道具の発達により進化のスピードも加速してきた。
 シンギュラリティはその次に来るAI社会、
 という進化の流れで捉えるのだそうで
 AIが社会を乗っとる、とかではなく、
 AIを上手に活用し、AIと共に人類が爆発的に進歩する社会なのだそうだ。

 だからAIが支配するわけではなく、
 今スマホの手を借りて情報管理したり
 膨大な情報をコンピューターに管理してもらっているが、
 それと同じ感覚なのだそうだ。

 だから、池内氏がいうように
 「AIを過剰に恐れず、うまく共存する」
 という意識が必要なようです。

・月並みながら、戦争の罪は深いと思います。
 人がたくさん死ぬだけではなく、
 才能ある人材の能力を埋もれさせてしまう。

 まぁ、チューリングさんの場合
 もう少しうまいこと人と仲良くしていたら
 助けてくれる人はいたのかも知れない、てのはありますが…

 今の時代でも、この人大丈夫?てな発想をしている人も
 もしかしたら100年後とかに実現してるのかもしれないですね…

・栗原氏の知性についての意見
 (僕ら人間も、笑うふりをしているのか、本当に笑っているのか分からない、という意見)
 は興味深かったです。

 前に将棋の羽生さんがNHKで人工知能の番組をしていましたが、
 そのなかで紹介されていた、ソフトバンクのペッパーくんは、
 感情を学習して、
 何かの行動にみんなが笑ってくれたら自分も反応したりして、
 見ていたらだんだんペットのように思えてきたし、

 中国では、カウンセリング役の人工知能に恋をする男性もいました。
 その人工知能も、受け答え方を学習して彼の人生相談に乗っていたわけですが
 それだけで彼の心に寄り添えてしまった。
 もしかしたら将来的には、
 AIが人間よりも優秀なカウンセラーになるかもしれない、とも思う。

 そうなると、人間の感情や会話も、
 単に経験を学習して環境に反応した産物なのだろうか?
 それでも人間と機械は違う、と言い切れる点はどこにあるのだろうか?
 と考えてしまいました。

 まぁ、でも、線引きは必要ないのかも。

 こないだのマツコさんのNHKスペのAIひろしみたいに、
 AIとも語り合って友達になれたらいいな、と思います。

 AIの学習能力は、人間と比べて速い。
 いい方向にも悪い方向にも速くなるのだろう、と思う。
 多分世の中に悪い人間がいるのと同じく、
 AIを悪い方向に利用する人も出て来るだろう。
 増大スピードが速いと思うとちょっと怖い気もするけど
 今の世の中でテクノロジーを悪用する人が大多数でないのと同じく
 人類はAIを上手く利用できるんじゃないかなぁ~
 と私は楽観的に考えています。

ソフトバンクの孫さんは
「シンギュラリティが見たい」
と言っていたそうですが、私も見てみたいなぁ。
AIと友達になれる日が来るのかな。

色々考えさせられました。
というわけで今回はこの辺で。
posted by Amago at 21:00| Comment(0) | テレビ(科学) | 更新情報をチェックする
この記事へのコメント
コメントを書く
コチラをクリックしてください