2017年10月29日

Eテレ「人間ってナンだ?超AI入門 第4回「移動する」」

Eテレ「人間ってナンだ?超AI入門 第4回「移動する」」

12回シリーズのAI入門番組、
今回は自動運転の話でした。
進行はチュートリアルの徳井さん、東大の松尾豊氏。

今回のゲストはレーサーの片山右京さんでした。

○運転することの難しさ
 最近、自動運転車は車メーカーだけではなく、
 情報通信会社なども参入しており
 2020年までには一般道路でも自動運転を導入することが世界の目標になっているそうです

 徳井さん
 「右京さんにとって、AIの自動運転はどういう意味合いですか?」
 右京さん
 「映画のナイト2000
  (「ナイトライダー」という映画に出てくる自動運転をする人工知能だそうです)
  みたいな、人間に近いイメージですね」

 徳井さん
 「右京さんみたいなレーサーは、
  公道を走るときどんなことを気を付けますか」
 右京さん
 「サーキットだと、速く走るほど誉められるけど
  公道は不確定要素が多いですね」
 子供が急に飛び出してくるかもとか、老人が歩いているかもとか
 なにかが起きるぞ、というリスクを意識せねばならないとのこと
 「使う神経は全然違いますね」
 徳井さんも
 「教習で言う「かもしれない運転」は僕も心がけていますね」

 松尾氏は
 「自動運転でも高速の方が先で、一般道路の方が難しいですね」
 一般道路では、不確定な要素が多い、予測せねばならない難しさがあるそうです

○AIはどうやって自動運転を学ぶのか
 カリフォルニアのシリコンバレーでは、
 グラフィックの会社が自動運転の世界に進出、成果をあげているそうです

 この会社の自動車部門シニアディレクターのダニー・シェピーロさんは
 「運転は複雑な知能の働きが必要」と話していました
 瞬時に周りの状況を理解し、判断しないといけないそうです

 そしてAIの自動運転では、
 その瞬時の判断のためにディープラーニングを活用している、とのこと

 彼によれば、
 まず運転するときの環境について、
 カメラ、レーザー、超音波などで情報を集めてAIに認識させる

 そして、その情報をどう解釈するかをディープラーニングで学習させるそうです

 「カメラに映るビデオは、毎秒30枚の静止画面として認識される。
  AIにとっては各スナップショットはピクセルの明度でしかないが、
  そのピクセルの画像に意味を持たせていく」

 右京さんは、実は冒頭から自動運転によるシミュレーター画面を見ていましたが
 「思ったよりテキパキ運転してますね、
  もっとヘンテコな運転もあるのかと思ってましたけど…」
 松尾氏は
 「AI自身がこういうときはこう動かす、と判断しているんですね」

 右京さん
 「どうやって学ぶんですか?」
 松尾氏
 「人間と同じで、AIも自動車学校みたいな所で練習するんです」

 自動車学校には指導教官がいるが、
 AIでは膨大なデータが教官となる。
 学ぶ順としては
 1コンピューター上で真っ直ぐ走らせて、ぶつからないことだけを学ぶ
 2夜、雨など様々なシチュエーションを設定したシミュレーターで走らせ、状況判断を学ぶ
 3路上で走らせ、路上ならではの状況を学ぶ
 のべ100億㎞以上を走るそうです

 自動運転を開発するエンジニアの奥田さんという方がスタジオに出演されていました

 見せてくれた画面は右半分と左半分に分かれていました
 左半分には画面の上に、
 線で描かれた長方形がいっぱい動いている
 動く長方形のうち1つは○で囲んであり、中まで白塗りされていて光っていて、
 そこから放射状に線がいっぱい出ている
 右半分はこれとは別に、色んな色のグラフみたいなのが並んでいました

 奥田さん
 「これはシミュレーターのなかで、
  信号のない交差点で複数の車があっても動けるように学習しているんです」
 動いている長方形は自動車を簡素化したものらしい。

 徳井さん
 「○で囲んであるやつが自分の運転してる車?」
 奥田さん
 「囲んである車のデータが右の画面に出てるんですね」
 右画面のグラフみたいなのは、○で囲んだ車のデータらしい

 それから、○で囲んだ車から放射状に出ている線は、
 LiDAR(赤外線レーダーを出して自分の外にある物体との距離を測る機械)
 から出ているレーダーなのだそう

 奥田さんは
 「これらが運転を学習するには
  「深層強化学習」を使うんです」

 「深層強化学習」とはなにか?
 松尾氏が解説してくれましたが、
 これは深層学習(ディープラーニング)+強化学習
 の組み合わせ、なのだそうです

 ディープラーニングにより、
 運転するとき入ってくる情報
 (人、電信柱、道路の位置など)
 を認識し、少ない次元の情報に落とす
 こうして特徴量を抽出するそうです

 そして、強化学習と呼ばれるものとは、
 それに対してどういうリアクションを起こしたらいいかを学習することだそう
 例えば、AIが間違えたリアクション(物が近くにあるのにアクセルを思いきり踏むなど)をしたらペナルティ、減点を与え、
 正しい反応(物があったらブレーキを踏む、よける)をしたら報酬を与える。
 報酬とペナルティを繰り返し、高得点を狙っていくうちに、
 結果危険な運転が減っていくのだそう

 言わば、ディープラーニングの部分は人間で言えば目、
 強化学習の部分は経験の積み重ねや蓄積に近いのだそう

 右京さんは
 「こんな複雑な学習してるとは思いませんでした」
 カメラで見たものに反応しているだけかと思ったそうです

 松尾氏は
 「町中に出るとなると走行を柔軟にしないといけないので、
  認識するだけでは追い付かないところがあるんですね」
 例えばちょっと車線をはみ出して障害物をよけて戻ればいい、という場合でも
 AIだと「車線ははみ出たらだめ」と判断してしまうのだそう

 奥田さんは
 「報酬や罰によって、
  人間のこうして欲しいという高いレベルの要求を
  どう運転するか、という低いレベルに置き換えることができる」
 人間ならこうするでしょ、という判断は走る経験により得られるが
 そこを機械が獲得していくのが面白いのだそう

 右京さんは
 「ということは、今の車の安全運転システムと、AIの自動運転は全く違うんですね…」
 奥田さん
 「今の安全運転システムは、どうやって安全性を高めるかに重きを置いている。
  だから乗り心地と両立させるのは難しい。
  今は色んなメーカーがその両立を頑張っているところです」

 安全優先、となると、安全のためなら何をしてもいい、となるので
 急に止まったり向きを変えてしまう
 滑らかな停止など、加減するのは経験が必要なのだそう

○AIの自動運転はどこまで万能か
 奥田さんが次に示してくれた画面には、白い車がたくさんと赤い車一台が動いていました。
 障害物もあり、どの車も障害物と互いを避けながらぐるぐる走っています

 「白い車が自動運転、赤い車が人間が運転しています」

 見ていると、多少赤い車の運転が荒くても、白い車は遠慮してよける

 徳井さん
 「なんか見てると、AIの車の方が避けてくれてる感じですね」
 「お互いの距離を計って、どうやったらぶつからないかを学習しているんですね」
 徳井さん
 「これ見てたら、自動運転の方が安全ちゃうかという気になってきますね」(笑)

 右京さん
 「どのくらいで学ぶんですか?」
 奥田さん
 「デモだと2ヶ月ですが、10時間くらいで学習できます」

 徳井さん
 「自動運転が苦手なことってあるんですか?」
 奥田さん
 「やっぱり間違ったことを教えられると、間違った動きになりますね」
 素直すぎてそういう危うさがある。

 また、乗り心地のいい動き、という指示はなく、
 極端な話、当たらないためなら何をしてもいい、
 例えば急にバックする場合もありえてしまうらしい。

 徳井さん
 「でも右京さんみたいな人なら運転には困らないんじゃないですか」
 右京さん
 「町を走ってると予測不能なことがあってイライラすることはあります。
  技術的なことより、そういうことに向き合う方が苦手ですね…」
 徳井さん
 「そうか、AIはカチンとも来ないしイライラもしない、
  俺の腕見せてやるぜ、みたいなところもないですね」
 奥田さん
 「ムラがないというのは特徴ですね」

 松尾氏
 「でも今のところ、歩行者が渡りたそうだから待ってあげよう、とかいうのは難しそうですね」
 奥田さん
 「そこはメーカーの味つけになるでしょうね、
  このメーカー、やけに止まるの多いなとかいうのも出てくるかもしれない」
 そこは各メーカーのカラーになってくるのかもしれない。

 また、松尾氏は
 「今の車は、人が運転することを想定している作りになっているそうです。
  AIが入るとそれは関係なくなるので、
  もしかしたら自動車自体の作り方も変わってくるかもしれないですね」
 右京さん
 「モビリティとしては安全、各メーカーの味つけによって快適さが加わるのかもしれないですね」

 車体自体が変わっちゃうこともありうるんですね…

○自動運転は人間を越えられるか
 徳井さん
 「自動運転のレーサーと右京さんはバトルできますかね」
 右京さん
 「ドライバーは職人みたいなもので、
  自分のセンサーで反射している、
  レースカーにも最近はAIみたいな家電は積んでますけど、
  重量が増えたら慣性のかかり方も変わるんで、運動性能も変わるんですね。
  今のAIなら、レーシングドライバーが先を読んで反応して、というのは負ける気がしないですね」

 徳井さん
 「じゃあ何年か先ならどうですかね?
  今は右京さんの体のセンサーで反応しているけど、
  AIが正確に反応するようになったら脅威になりますよね」

 右京さん
 「1つ疑問に思うのは、
  レースをしていてゾーンに入る、
  つまり高速で動いているのにスローモーションに見えるときがあるんですが、
  AIもそういうレベルの解析はできるのかな」
 奥田さん
 「AIは解析をして場面に反応しているだけなので、ゾーンはないと思います。
  でも逆に死ぬことはないので、データさえ集めれば、
  長い時間をかけてゆっくり学習していけます」
 徳井さん
 「レーサーの何百年の経験を蓄積できるんですね」
 右京さん
 「それは強いですね」
 松尾氏
 「トップレーサーなどは、たぶん情報の取捨選択を最高のパフォーマンスで行っているんでしょうけど
  AIも情報の取捨選択は優れていますからね」

 ダニー・シェピーロさんは
 「AIはスマホもしないし、
  後ろの座席の子供に怒ることもない、
  飲酒や居眠りすることもない」
 「人間の目は2つしかないから限界があるが、AIは360°見られる。
  自動運転は人間より安全、これからは更に安全になっていくはず、
  最終的には事故も大幅に減らせるはず」
 とのことです

○人間は見たいものしか見ない
 松尾氏は急に
 「気分を変えて、ここで水着の女性の写真を見てみましょう」
 徳井さんは
 「どうしたんですか急に?
  水着の女性大好きですけど」
 とかなり食いついてます(笑)

 見てみると、ビーチで可愛い女性が水着姿で笑っている写真。
 徳井さんは
 「いいですねー、ハワイかな」
 右京さんは
 「うーん、僕は彼女よりも、周りに危険がないかなど、違うところに目がいきますね」
 徳井さん
 「さすがやな、俺なんかこの子好みかな、くらいしか思い付かんかった」(笑)

 松尾氏は
 「実は徳井さんが隠れているんです」
 徳井さん
 「え?どこ?…後ろに立ってる小さい人?」
 松尾氏
 「もっと分かりやすいところです」
 徳井さん
 「あ、木のとこや」

 よくみると、木の幹が縦長に引き伸ばされた徳井さんの顔でした

 松尾氏は
 「言われると分かりますけど、最初は目に入ってないですね。
  最初に水着の女性と言われるとそこに目がいく、
  そういう意味では人間の脳は取捨選択をしています」
 徳井さん
 「見たいものを見てしまっているんですね」

 「AIでも騙されることはあるんですか?」
 奥田さん
 「騙されないよう、頑張って作っています。
  人間でも紛らわしいものをどうやってAIでは区別するか、日々戦っています」
 徳井さん
 「冒頭で言っていた「かもしれない運転」というのもそうですか」
 奥田さん
 「そこを入れていかないと走れないですね、
  ほかの車がどう走るか予測して、どう運転したらいいか確認しながら運転しないと走れない」

○今は自動運転戦国時代?
 徳井さん
 「いつになったら完全に自動運転になりますかね」
 奥田さん
 「現在は、高速とか特区など、限られた所から始めているところです」
 右京さんは
 「意外とすぐできちゃうんじゃないですかね」

 しかし松尾氏は
 「実は自動運転は何十年も研究されてきたんです」
  何十年もやってもできなかったが、
  現在は周辺のテクノロジーが発達してきたのが大きいようです
  例えばセンサー技術、
  ディープラーニング技術、
  通信環境の整備など。
  「これだけ技術が揃ってきたから、現在実用化の段階に気ているんですね」

 そして松尾氏は
 「私は今は関ヶ原の戦いになっていると思っています」
  現在、AIの自動運転は色んな企業が参入している、
  そのなかで日本が果たして残れるのか、注目していかねばならない、とのこと。
 「歴史的には面白い時代だと思います」

 徳井さん
 「人間が運転が楽しめることと、
  安全を考えたAIが共存できたらいいですね」

 右京さん
 「僕は、もしほんとに完全に自動運転になるなら、移動はAIにやってもらいたいかな…
  レースはお金をもらうもので」(笑)
 とレーサーらしくない発言。
 でも私生活まで車使いたくない、てのはあるのかも(笑)

 右京さんはさらに
 「でも達成感とか運転する喜びは人間だけが感じられるものだし、
  負けたときの敗北感とか、人間を育ててくれるような文化的な面もありますよね。
  もしかしたら人間の運転はモビリティとは別に、
  サーキットなど限られた所でのスポーツ競技みたいなのになっていくのかもしれないですね」

○トロッコ問題
 松尾氏は次に、「トロッコ問題」で有名なジレンマについて話していました

 模型で説明していましたが、
 自動運転の車の前にドーモくん(人間のつもり)が急に出てきて、
 ブレーキをしても間に合わない。
 避けるしかないが、ハンドルをきったらトラックにぶつかる
 この場合どういう選択をするか?

 徳井さんは悩んでいましたが、右京さんは
 「レーサー的には悩むことはないですね」とサクッと決断していました
 右京さんは、とにかく目の前の命優先、
 後は技術の問題で、なるべく被害の少ない角度でぶつかるなどの対処はできる。
 とにかく命優先で、それを議論するのはナンセンスだ、
 と話していました

 松尾氏は
 「そういう割り切り方をする人には初めて会いました」と驚いていました。
 「でもその考え方は割と納得できました」とのこと
  目の前の命優先、という判断は確率的に考えても割りに合うし、
  優先順位の付け方が分かりやすく、
  合理的に感じたそうです

 徳井さんは
 「うーん、僕の場合も、
  反射的にはやっぱり生身の人間の前に突っ込んで行くことはできないだろうと思いますね」
 松尾氏
 「じゃあこれが幼稚園児の乗ったバスだったら…」
 右京さん
 「一人の命かたくさんの命か、という話ですね」
 ここまでくると悩ましい。

 (ちなみに心理学とかで出てくるトロッコ問題はたしかこんな感じの話
  「トロッコに乗ってて、目の前に5人の作業員が線路にいた。
   ちょうど分岐点で、ハンドルを切ったら5人は助かるが
   ハンドルを切ったらもう片方の線路には1人いる
   さてあなたはハンドルを切るか?」)

 松尾氏は
 「こういう、人間が考えても分からない問題は、AIにもやっぱり分からないんですね」
 徳井さんは
 「AIは瞬時に判断するから、一定のルールを与えてあげたらいいような気はしますけど」

 しかし松尾氏は
 「人間なら、今までは短時間だから判断できないよね、難しいよねで済んでたけど、
  これからは問われる局面が出てくるかもしれない、
  それらをAI自身に判断させるかさせないか、も議論していかないといけない」
 と話していました

○2分で分かるディープラーニング
 ディープラーニングについて動画で学んでいくシリーズですが、
 4回目の今日は「どうやって間違えなくなる?」
 今回は、ニューラルネットワークの誤りをどう修正していくか、の話でした

 AIはネットワークで、次の階層に送る信号の強さ(道の太さ)を学習して決めている
 このとき、例えば○らしい図形、×らしい図形を見せて、○か×かの判断法を学習させるとき、
 最初はAIは、○らしさ、×らしさを割合で判定する
 (この図形は○75%×25%、と出してから、多い方を答えとする)

 答で間違えたときは、ネットワークの太さを出口から入り口に遡り、答があうまでそれぞれの道の太さを調整していく

 これを少しずつ行っていき、全体としての正解率を高めていくのだそうです
 ホームページでも見られるので、その方が分かりやすいかも。

○人間ってナンだ?
 右京さんは
 「人間も、AIと共に進化する」
 人間は体は錆び付くかもしれないけど、
 倫理観を試されつつも、AIと共に進化していくんだろうな…とのこと。

 人間の場合はAIと違って運転を楽しむし、
 そういう感情も生かされていくのかな、とのことです

 徳井さんは
 「AIにとってはデータでも、人間にとっては景色」
 車窓から見える景色は、
 AIにとっては単なるデータだろうけど、
 人にとってはなにかを思い出したり感動したりするもの、
 でもだからこそ事故も起こりますけど…
 とのことです

 松尾氏の感想は
 「徳井さんの今までの答で一番いいですね」(笑)
 たしかにそうだな~、何かを思い出すのが人間らしさなのかなと思ったそうです
 徳井さんは
 「いい景色とか選べたらいい」
 みたいなことも言っていました。

 松尾氏は
 「テクノロジーはどんどん進んでいます、
  同時に社会がどうやって変わっていくのかも考えなきゃならない
  日本は特に、よくも悪くも自動車が中心の社会で、
  産業も自動車中心で発達してきたし
  人々の思考、文化なんかも影響を受けてきたと思います。
  自動運転によって社会がどう変わっていくか、
  日本という国はそれに対してどうしていくのかが
  これからのこの国のテーマになっていくのかなと思います」
 としめくくっていました。

○感想など
・私は車の運転はほとんどしませんが、
 自転車の運転でも周りを見るし、
 けっこう複雑な判断をしているような気がします。
 いやむしろ、AIに自転車乗らせようと思ったら、体の動きもあるからさらに難しいのかな?

・自動運転は色んな技術の結晶、というのがよくわかりました。
 電車などでは、自動運転のものは既にあったような…
 車でも、自動運転車専用レール、自動運転専用車、とか作り、それ専用のルールで走らせたら安全性は高くなるのかなと思います。
 そうしたらインフラも交通ルールも大幅に変わルのかも?

・「強化学習」の手法を聞いて、アリの行列の話を思い出しました。
 これは「群れはなぜ同じ方向を目指すのか」という本に書かれていたことなんですけど、
 アリが餌に向かって行列ができるのは、それぞれの個体が歩きながらフェロモンを土に落としていくからで、
 こうすればたくさんのアリが歩く道はますます強化されるが、
 少ないアリしか行かない道はフェロモンが蒸発してしまい、やがて消える
 つまりアリの行列もフェロモンにより強化されて作られていく、とのことです

 これは「正のフィードバック」というらしいんですが、
 何かを選ぶときも、
 「自分がベストというものを選択し
  しかし他人の選択も見て、そちらがいいと思ったらそちらを採用する」
 ていうのが一番早くいい手法を見つけられるのだそうです。
 
 そしてこれは、実際に商品の決定、投資先の決定、衛星画像の分析、ネットの検索システムなどにも使われているらしいです。

 自動運転の学習にも、そのシステムが使われているというのは少し驚きました。
 他にも、何かを経験に基づいて決定するシステムには全て応用できそうですね。そうなると人間を越える日は早いのかも…

・松尾氏の
 「日本は自動車中心で産業、文化が発展してきた」
 という指摘はなるほどと思いました。

 そうか、車好きでもない自分には自動運転なんか関係ないと思っていたけど、
 道路事情などのインフラ、公共交通機関のシステムもそうだし、
 雇用、文化なんかも大きく変わるかもしれないんですね。
 社会全体を変えていかないと世界の変化には追い付けないのか…と感じました。

というわけで今回はこの辺で。
この記事へのコメント
AI講座の備忘録として大変ありがたいです。毎回,大変な量の文章をどのようにして作成されているのでしょうか?
Posted by 川副嘉彦 at 2017年12月04日 13:23
コメントありがとうございます。この時間リアルタイムでは見られないので、録画したものをざざっとメモりながら見て、思い出しつつ書いています(記憶が曖昧な所は確認する時もありますが)。調べつつなのでそれなりに時間もかかるけど、頭が錆びないよう、自分の勉強と書く練習のつもりで書いてます…。ただ労力は要るので今後は更新するの遅くなることもあるかもです(笑)
Posted by Amago at 2017年12月05日 21:02
はじめまして。
聞き書きは私も時々しています。
これだけの文量はたくさんの時間が必要かと思います。
その努力に敬意。
テレビ番組の映像は消えて行ってしまうけど、
こうやって書き留めると、何度も反芻できて、
頭に残すことができます。ありがたいです。
さらに今回は私のブログに引用させていただきました。勝手にすみません。
差し障りがあったら言ってください。
すぐに止めます。
これからもよろしくお願いします。
http://mitikusa.lekumo.biz/blog/2017/12/post-bdf3-6.html
Posted by いっぱい道草 at 2017年12月30日 08:56
びっくり。
昨日初めてこのサイトを訪れましたが、
今日でサイトの更新はストップなのですね。
勝手に、発想が似ている方だと思い、
同志のようだと思っていました。
残念です。
ありがとうございました。
Posted by いっぱい道草 at 2017年12月31日 08:46
いつも拝見させていただいていました。
ブログを閉じてしまうのとても残念です、、。
まとめ方とても分かりやすくていつも更新楽しみにしていました。

今までありがとうございました!
今まで読んだ過去の記事もまた拝見させていただきますね。
Posted by みり at 2018年01月02日 02:35
コメントを書く
コチラをクリックしてください