AIのブラックボックスを開き自動運転のメカニズムを解明、信頼できる完全自動運転車の研究が進む

我々はAIを信用していいのかという大きな命題に直面している。AI Carは車載カメラの画像から特徴量を高精度で検出し、人間のドライバーよりはるかに安全に走行する。しかし、AIの中身はブラックボックスで、運転テクニックは開発者ではなくAI Carだけが知っている。我々はなぜAI Carが安全に走行できるのかが分からない。この問題を解決するため、AIのブラックボックスを開きそのロジックを解明する研究が進んでいる。

出典: Nvidia

NvidiaのAI Car

AI Carとは入力 (カメラ画像の読み込み) から出力 (ステアリング操作) まですべてAIで実行する完全自動運転車を指す。NvidiaがAI Carの開発に力を注いでおり、そのプロトタイプ「BB8」 (上の写真) を開発し市街地で走行試験を実施した。クルマはハイウェーや一般道路を完全自動で運転する。クルマは道路というコンセプトを理解でき、車線が無くても人間のように運転できる。

AIが人間の運転を見て学ぶ

BB8は人間の運転を見てドライブテクニックを学ぶ。BB8はニューラルネットワーク「PilotNet」を搭載し、車載カメラの画像とそれに対応する運転手のハンドル操作を読み込み、ネットワークが運転技術を学習する。学習したPilotNetはカメラの画像を見るだけでステアリング操作ができるようになる。エンジニアが自動運転のためのルールをプログラムする必要はなく、PilotNetが人間のように運転テクニックを短時間で学ぶ。

AIが学習した内容を出力する研究

しかし、問題はPilotNetが学習したドライブテクニックを人間が理解できないことだ。なぜBB8は車線が描かれていない道路を安全に走れるのかそのロジックが分からない。このためNvidiaはPilotNetが学習した内容を出力するシステムの研究を始めた。AIが学習したことを可視化する研究である。具体的には、PilotNetはどこに着目して運転しているのかを出力する技術を開発した。この研究成果は「Explaining How a Deep Neural Network Trained with End-to-End Learning Steers a Car」として公開された。

BB8が着目している部分

研究ではBB8が運転する際に着目している部分を実際のカメラ画像にオーバーレイして表示した (下の写真、緑色で表示されている部分)。これを見るとPilotNetは他のクルマの下半分に着目していることが分かる (下の写真、上段)。更に、路面に描かれている実線(路肩)や破線(車線)にも着目している。一方、横方向に引かれている線(横断歩道)には注意を払っていない。

出典: Urs Muller et al.

AIが人間のように学習する

車線が描かれていない道路ではPilotNetは駐車しているクルマの側面に着目している (上の写真、中段)。AIはこれを道路の端と理解していることが伺える。砂利道の場合ではPilotNetは道路と草地の境界部分に着目している (上の写真、下段)。人間と同じ考え方で道路の部分を把握していることが読み取れる。これらはエンジニアが運転ルールとしてコーディングしたのではなく、PilotNetが運転の練習を通じで独自で学んだものである。

アルゴリズムを人間が視覚的に理解

PilotNetが着目している部分を見ることでブラックボックスであったアルゴリズムを人間が視覚的に理解できるようになった。PilotNetは何を規準に運転しているかが分かり、システム開発が大きく進むことになる。また、問題が発生すればその原因を表示できトラブルシューティングの効率も上がる。

研究は緒に就いたばかり

しかし、研究はこれで完成というわけではない。この研究はPilotNetの各レイヤの情報を出力したもので、ネットワークが判断基準を説明したわけではない。人間のドライバーであれば、例えば急ハンドルをきるとその理由を言葉で説明するが、PilotNetはまだその段階までには到達していない。更に、これから自動運転車の運転倫理など様々な規約が制定されることになる。AI Carは定められた運行規約にどういう方式で準拠するのかも問われる。AI Carのブラックボックスを解明する研究は緒に就いたばかりである。

Leave a Reply

You must be logged in to post a comment.