Archive for the ‘医療’ Category

FacebookのBrain-Typing研究、脳から直接コンピュータに文字を入力

Friday, June 16th, 2017

Facebookは脳の情報を出力する研究を進めている。これは「Brain-Typing」と呼ばれ、頭で思うだけで文字を出力する。今はデバイスを操作する時に音声で指示するが、この技術が完成すると声に出さなくても頭で思うだけで操作できる。究極のインターフェイスでデバイスと意思疎通ができ生活が劇的に変わる。

出典: Facebook

ブレインインターフェイスを開発

Facebookは開発者会議「F8」でブレインインターフェイスを開発していることを発表し、このプロジェクトの存在を明らかにした (上の写真)。これはRegina Duganが主導するプロジェクトで、脳の情報を出力する技術や皮膚経由で情報を入力する技術を公開した。DuganはDARPA (アメリカ国防高等研究計画局) で長官を務め先進技術の開発に寄与してきた。その後、Googleに移りATAP (Advanced Technology and Projects、社内インキュベータ) 部門を創設した。ここでTango (拡張現実技術) やProject Ara (モジュール方式スマホ) が生まれた。

毎分100語の早さで出力する

ブレインインターフェイスには様々な方式があり多くの研究機関が取り組んでいる。医療分野ではデバイスを脳にインプラントし会話を実現する方式が研究されている。Facebookは一般消費者を対象にしており、非侵襲性 (Non-Invasive) のデバイスで脳の情報を出力する方式を目指す。頭で思ったことを毎分100語の早さで出力する性能を目標とする。これは一般にBrain-Typingと呼ばれ光学的な手法で実現する。研究チームは60人体制で、Optical Neuroimaging (脳のニューロンの構造を光学的に解明する技法) 研究者を中心に構成されている。

Optical Neuroimagingとは

Optical NeuroimagingとはLEDやレーザーを使い大脳皮質 (cerebral cortex) から発信されるシグナルを受信して解析する手法を指す。具体的には近赤外線を頭皮表面に照射し、その反射波を測定し脳機能をマッピングする。頭皮上に光源とセンサーをあてて、CTスキャンのように脳内構造を3Dで把握する。

脳内のヘモグロビン量を測定

これ以上の説明は無かったがOptical Neuroimagingは脳内のヘモグロビン (血液) の量を測定することでニューロンの活動量を把握する。ヘモグロビン (Oxy-HbとDeoxy-Hb) と脳の活動はニューロンの酸素消費量を通し相関関係があることが分かっている。近赤外線を頭皮表面に照射すると光は頭皮を通過し脳に届く。脳内のヘモグロビンがPhoton (光子) の束を吸収し、その反射波をセンサーで読み取るとニューロンの活動状態が分かる。明るい光源に手をかざすと血液が近赤外線を吸収し指が赤く見える原理を応用している。

現行技術からの大きな飛躍

Optical NeuroimagingをALSなど運動系に障害がある患者に適用し意思疎通を行う研究が進められている。最新の事例ではALS患者がYes/Noの意思表示ができたとの報告がある。この技法は医療分野での研究が先行している。Facebookはこの手法を消費者向けのインターフェイスとして利用する。Yes/Noのバイナリーなシグナルを読み取る技術から、毎分100語の早さで出力する技術にジャンプすることになる。このためにはニューロンの状態を毎秒数百回サンプリングする必要があるといわれ、極めて高度な技術を必要とする。

出典: Facebook

仮想現実や拡張現実などで利用する

Facebookはこの技術をタイピングだけでなく、メッセージを伝える手段として開発している。仮想現実や拡張現実などで利用することを想定している。例えば、スマートグラスを使った拡張現実では、利用者はデバイスに語り掛けるのではなく思うだけで情報を入力できる。スマートグラスがアイスクリームを認識し「ランニング距離を2マイル伸ばしますか?」と問いかけると (上の写真)、これに対して利用者は頭で思うだけで声を出さないで返答を入力できる。満員電車の中でも周りを気兼ねすることなくスマートグラスを操作できることになる。Facebookはこのシステムを数年のうちに実現するとしている。

多くの疑問が未回答のまま

Brain-Typingは理想のインターフェイスであるが、Duganの説明に対して医学界から疑問の声が上がっているのも事実。Optical Neuroimaging手法について具体的な説明はなく、多くの疑問が未回答のままとなっている。現在はデバイスを脳にインプラントする方式が主流であるが、それでも出力精度は40-50%に留まる。これに対して頭皮からシグナルを読み取る方式は精度が悪く、Facebookのブレークスルー技術は何なのか疑問の声が寄せられている。

Building 8

FacebookはMoonshotと呼ばれる先進技術を「Building 8」で開発している(下の写真)。これはGoogle Xに相当する先進技術研究所でコミュニケーションを促進するハードウェアデバイスの開発が進められている。Brain-Typingプロジェクトは2016年10月頃から始まり二年間の研究期間が与えられている。二年後に研究結果をレビューしプロジェクトを継続するかどうかが決まる。

出典: Facebook

人とマシンの関係が根本から変わる

消費者向け製品では頭皮から電気シグナル (Electroencephalography、脳波) を読み取り利用者の意図を把握する方式が中心となっている。大量のノイズの中から対象シグナルを検知するのが課題で、単純な操作に限定して使われている。多くの企業から製品が出荷され、ゲームやリラクゼーションなどで利用されている。Facebookの方式はヘモグロビン量からニューロンの活動を読み解くもので現行技術から大きな飛躍になる。これが本当に実現できれば恩恵は計り知れない。健常者と非健常者ともに人とマシンの関係が根本から変わる。

Apple WatchをAIで機能強化、スマートウォッチで心臓の異常を検知

Friday, May 26th, 2017

Apple Watchは健康管理のウエアラブルとして人気が高い。ただ、センサーの機能には限界があり心拍数計測精度が不安定といわれる。このため、Apple Watchで収集する心拍数データをAIで解析し心臓の異常を検知する研究が進んでいる。病院でECG検査を受けなくても、Apple Watchで24時間連続して心臓の健康状態をモニターできる。

出典: Cardiogram

Cardiogramというベンチャー企業

この技術を開発したのはサンフランシスコに拠点を置くCardiogramというベンチャー企業だ。同名のCardiogramというアプリがApple Watchで測定した身体データを解析し心臓の動きを把握する (上の写真)。デバイスと連動し心拍数がエクササイズにどう反応するかを把握する。また、平常時の心拍数をモニターし、身体がストレスや食事などにどう反応するかも理解する。更に、心拍数を解析し心臓疾患を検知する研究が進められている。

Apple HealthKitと連動

Cardiogramは健康管理のアプリとしてiOS向けに開発された。Cardiogramの特徴は身体情報をApple Watchで収集することにある。Appleは健康管理アプリ開発基盤「HealthKit」を展開している。Apple Watchで計測した身体データは利用者の了解のもとHealthKitに集約される。CardiogramはHealthKit経由で利用者の身体情報にアクセスし、これらデータを解析し健康に関する知見を得る。具体的には、Apple Watch利用者の心拍数、立っていた時間、消費カロリー量、エクササイズ時間、歩数などを可視化して分かりやすく示す (下の写真)。

出典: VentureClef

Evidence-Based Behavior

Cardiogramは「Evidence-Based Behavior」という手法を使って心臓の挙動を把握する技術を開発している。この手法は日々の行動やエクササイズがバイオマーカーにどう影響するかを検証する。例えば14日間ジョギングをすると、これが心拍数にどう影響するかを解析する。これで心拍数が7%低下すると、この行動は健康に効果があると判定する。Cardiogramは健康管理に役立つエビデンスを特定して利用者に示す。ジョギングの他に自転車、瞑想、ヨガ、睡眠時間などのプログラムが揃っている。また、スマホを絶つと健康にプラスに作用するのかを検証するメニューもある。

Apple Watchで不整脈を検知する研究

CardiogramはApple Watchを使って心臓の状態をモニターし、AIで異常を検知する研究を進めている。これはUC San Francisco (カリフォルニア大学サンフランシスコ校) との共同研究で「mRhythm Study」と呼ばれている。6185人を対象にApple Watchで収集した心拍データを解析し不整脈の一種である心房細動 (Atrial Fibrillation) を検出する。臨床試験の結果、判定精度は高く97%の確率で心房細動を検知できたと報告している。

心房細動を検知するアルゴリズム

Apple Watchで収集したシグナルから心房細動を検知するアルゴリズムにAIが使われた。アルゴリズムはConvolutional LayerとLSTM Layerを組み合わせた四階層の構造を取る (下のダイアグラム)。アルゴリズムに心拍数を入力するとタイムステップ毎にスコアを出力する。スコアは心房細動が発生している確率で、これを各時間ごとに見ることができる。つまり、Apple Watchを着装しているあいだ、いつ心房細動が起こったかを把握できる。病院のECGを使わなくても市販のウエアラブルにAIを組み合わせることで心臓疾患を把握できることが証明され、その成果に注目が集まっている。

出典: Cardiogram

データ収集が課題

同時にこの研究で課題も明らかになった。アルゴリズムを教育するためにはタグ付きのデータが数多く必要となる。このケースではApple Watchで収集した心拍シグナルとECGで計測した心電図のデータを大量に必要とする。特に、患者が心房細動を発症した時の両者のシグナルの紐づけがカギとなる。しかし、これらのデータは病院における心臓疾患患者のECG検査で得られ、その数は限られている。このため、この研究ではモバイル形式のECG測定デバイス「Kardia Mobile」が使われた。

Kardio Mobileとは

Kardia Mobileとはスマートフォンと連動して機能する心電図計測デバイスである。Kardia Mobileには電極が二点あり、被験者はここに指をあててて心電図を計測する (下の写真下段)。測定時間は30秒で、結果はスマートフォンのディスプレイに表示される (下の写真上段)。ガジェットのように見えるが既にFDA (米国食品医薬品局) の認可を受けており、医療システムとして病院や家庭で使われている。研究ではこのKardio Mobileが使われ、6,338件のデータを収取し、これらが教育データとして使われた。因みにKardio MobileがFDA認可を受けた最初のモバイルECGで小さなデバイでも心電図を高精度に測定できる。デバイスの価格は99ドルで、簡単に心電図を測定できるため米国の家庭で普及が始まった。

出典: AliveCor

GoogleのBaseline Project

Googleもウエアラブルを使って心臓の状態をモニターする研究を進めている。Alphabet配下のデジタルヘルス部門Verilyは人体のバイオデータを解析し、健康状態を把握することを目標にしている。これは「Baseline Project」と呼ばれ健康な人体を定義し、ここから逸脱すると「未病」と判定し、利用者に警告メッセージを発信する。Verilyは2017年4月、リストバンド型のバイオセンサー「Study Watch」を発表した (下の写真)。ECG、心拍数、活動状態をモニターでき、Study Watchを使った大規模なフィールド試験が始まった。

出典: Verily

健康管理に役立つウエアラブル

実はここ最近Apple WatchやFitbitなど健康管理のウエアラブルは販売が低迷している。Fitbitは大規模なレイオフを実施し事業を再構築している。消費者は健康管理のためにウエアラブルを買うが、センサーの機能と精度は限定的で思ったほど役立たないというのが共通した声だ。市場は高精度・高機能のウエアラブルを求めており、Apple Watchなどは対応を迫られている。その一つの解がAIで、既存センサーをアルゴリズムで補完することで機能を強化する。Cardiogramがその実例で健康管理に役立つことが証明された。本当に健康管理に役立つウエアラブルが求められておりAIの果たす役割が広がってきた。

AIが医師より正確に皮膚ガンを判定、ガン検診はスマホアプリで

Friday, May 12th, 2017

Googleが開発したイメージ認識アルゴリズム「Google Inception」は世界でトップレベルの性能を持つ。このソフトウェアは公開されており誰でも自由に利用できる。これを皮膚ガンの判定に応用すると専門医より正確に病気を判定できることが分かった。特殊なアルゴリズムは不要でガン検知システム開発の敷居が下がった。市場では皮膚ガンを判定するスマホアプリが登場しており医療分野でイノベーションが相次いでいる。

出典: Stanford Health Care

皮膚ガン検出の研究

この研究はスタンフォード大学AI研究所「Stanford Artificial Intelligence Laboratory」で実施され、その結果が科学雑誌Natureに掲載された。これによると、Deep Learningアルゴリズムが皮膚ガンの判定において専門医より優れた結果を達成した。具体的には、Convolutional Neural Networks (CNN、イメージを判定するアルゴリズム) が使われ、AIの判定精度は21人の医師を上回った。

皮膚ガンの検出方法

一般に皮膚ガンを診察する時は、皮膚科専門医 (dermatologist) は肉眼や拡大鏡(dermatoscope) でその部位 (lesion) を観察する。悪性腫瘍であると診断した場合は生体から組織片を採取して調べるバイオプシー (Biopsy、生体組織診断) に進む。また、判定がつかない場合にもバイオプシーを実施し臨床検査で判定する。このバイオプシーがガン診断の最終根拠 (Ground Truth) になる。

アルゴリズムが上回る

診断結果はアルゴリズムが皮膚科専門医の判定精度を上回った。条件を変えて三つのケースで試験が行われたが、いずれの場合もアルゴリズムが好成績を上げた。下のグラフはその一つのケースで、赤丸が医師の判定結果を青色グラフがアルゴリズムの判定結果を示す。右上隅に近づくほど判定精度が高いことを表している。アルゴリズムが殆どの医師の技量を上回っている。

出典: Sebastian Thrun et al.

横軸は陽性判定 (正しくガンと判定) の精度で縦軸は陰性判定 (正しくガンでないと判定) の精度を示す。緑色の+が医師の判定精度の平均で、アルゴリズムがこれを上回る。対象はMelanoma (悪性黒色腫) とCarcinoma (癌腫) で判定件数は111、130、135件。上のケースはMelanomaで130枚のイメージを使用。

Googleが開発したソフトウェア

この研究ではガンを判定するアルゴリズムにConvolutional Neural Networksが使われた。具体的には、Googleが開発した「Inception  v3 CNN」を利用。Inceptionはイメージデータベース「ImageNet」を使ってすでに教育されている。写真に写っているオブジェクトを高精度で認識でき、犬や猫の種類まで判定できる。この研究で同一のアルゴリズムがガンを正確に判定できることが証明された。

皮膚ガンのデータベース

研究チームはこのInceptionを変更することなくそのまま利用した。Inceptionが皮膚ガンを判定できるようにするため、ガンの写真イメージとその属性データを入力し教育した。スタンフォード大学病院 (先頭の写真) は皮膚ガンに関する大規模なデータベースを整備した。129,450件の皮膚ガンイメージ (Skin Lesion) とそれに対応する2,032種類の病気を対応付けたデータベースを保有している。このデータベースは病気の区分け (Taxonomy) とそれに対応するサンプルイメージから構成される。このデータを使ってInceptionを教育した。

システム構成

教育されたInceptionは1,942枚の写真で試験された。一方、専門医は375枚の写真に対して診断を下した。下の写真がアルゴリズムの概要で、写真 (左端) をInception (中央部、薄茶色の分部、CNNネットワークを示す) に入力すると757種類の皮膚疾病に分類し、これが良性であるか悪性であるかを判定する。

出典: Sebastian Thrun et al.

Google Inceptionとは

この研究で使われたアルゴリズム「Inception  v3 CNN」は公開されており、誰でも自由にTensorFlowで使うことができる。TensorFlowとはGoogleが開発したMachine Learning開発プラットフォームで、この基盤上でライブラリやツールを使ってAIアプリを開発できる。因みにInception  v3 CNNは2015年のイメージコンテスト「ImageNet Challenge」で二位の成績を収め世界トップの性能を持つ (一位はマイクロソフト)。GoogleとしてはTensorFlowやInceptionを公開することで開発者を囲い込む狙いがある。

教育データの整備

Googleが開発したInceptionは身の回りのオブジェクトの判定ができるだけでなく、皮膚ガンの判定でも使えることが分かった。システム構成を変更することなくガン細胞の判定で威力を発揮した。ただ、開発には大規模な教育データが必要となり、データベース整備が大きな課題となる。同時に、このことは臨床データを所有している医療機関は高精度なガン診断システムを構築できることを意味している。

メディカルイメージング技術が急伸

実際の有効性を確認するためには臨床試験を通しFDA (米国食品医薬品局) の認可が必要となる。製品化までの道のりは長いが、アルゴリズムをそのまま利用できるため多くのベンチャーがメディカルイメージング技術開発に乗り出している。スタンフォード大学研究チームはこのアルゴリズムをスマホアプリに実装することを計画している。研究成果をスマホで提供すると消費者は病院に行かなくても手軽に皮膚ガンを検知できる。

スマホでガン検診

実際、市場には皮膚ガンを判定するスマホアプリが数多く登場している。スマホカメラで皮膚の黒点を撮影するとアプリはそれが皮膚ガンの疑いがあるかどうかを判定する。米国ではまだFDAの認可を受けたアプリはないが、多くの企業が参入を目論んでいる。(下の写真はオランダに拠点を置くSkinVision社が開発した皮膚ガンを判定するアプリ。ドイツとイギリスで臨床試験が実施され効用が確認された。FDAに認可を申請しており米国市場参入を目指している。)

出典: SkinVision

未公認アプリは数多い

一方、FDAの認可を受けていない未公認簡易アプリは既に市場で流通している。注意書きを読むと「ガン検知精度を保証しない」と書かれているが、殆どの利用者は気にしないで使っている。あたかもスマホで皮膚ガンを判定できる印象を受けるがその効用は保障されていない。これらを使って拙速に判定するよりFDAなど政府機関から認定されたアプリの登場を待ったほうが賢明なのかもしれない。

トランプ新大統領はシリコンバレーの追い風となる、ハイテク企業経営者の新政権評価に変化の兆し

Wednesday, January 4th, 2017

シリコンバレーの企業経営者はトランプ氏の発言に強い抵抗感を示し、その考え方を批判してきた。しかし、トランプ氏が政策を示し始めると、シリコンバレートップの態度が変わってきた。選挙戦での過激な発言とは異なり、トランプ氏はテクノロジーの重要性を認識し、これを経済政策に活用する動きを示している。一方、ハイテク企業社員はこの動きに敏感に反応し、会社トップがトランプ氏にすり寄っていると嫌悪感を表している。

出典: Chance Miller

トランプ氏に警戒感を示してきた

トランプ次期大統領は選挙期間中、シリコンバレーのハイテク企業を批判してきた。FBI捜査に協力しないAppleの姿勢を問題視し、トランプ氏は国民にApple製品を購買しないよう呼び掛けた。また、Amazon CEOのJeff Bezosに対して、Amazonは独占禁止法に抵触する可能性があると警告した。これは同氏が経営するWashington Postがトランプ氏に批判的な記事を掲載するための対抗措置とされる。シリコンバレーの経営者はトランプ氏の発言は民主主義への挑戦と受け止め、危機感を募らせてきた。

シリコンバレー経営者の姿勢が変わった

しかし、トランプ氏が政権移行の過程で政策概要を示し始めるにつれ、シリコンバレーの企業経営者たちの姿勢が変わってきた。トランプ氏が打ち出す政策はIT企業にとって不合理ではなく、むしろ事業拡大のチャンスとなりそうだ。シリコンバレーの経営者たちは新政権に危機感を抱いていたが、それが期待に変わり始めた。

サミットミーティングが切っ掛け

その切っ掛けはシリコンバレートップとのサミットミーティングであった。Trump Towerに米国を代表する経営者が招かれ、トランプ氏との意見交換の場が設けられた (上の写真)。会議の内容は非公開であるが、その一端が漏れてきた。トランプ氏はテクノロジーに耳を傾け、興味を示したとも伝えられる。また、トランプ氏に批判的だった経営者が招かれ、反対者からも意見を聞くというトランプ氏の寛容な態度も評価されている。更に、政権移行チームも胸襟を開き幅広く意見を求めており、オープンな姿勢が好感を呼んでいる。

規制緩和が進むか

企業経営者たちがトランプ氏に期待しているのは税制改定や規制緩和である。トランプ氏は規制緩和に向け大きく舵を切ることを表明している。金融やエネルギー産業を対象とすると述べており、関連企業の株価が上昇している。ハイテク産業については言及していないが、トランプ新政権はシリコンバレーと関わりの深いFDA (連邦食品医薬品局) やFAA (連邦航空局) の規制緩和に動くといわれている。

出典: VentureClef

新薬認可のプロセスを緩和

FDAはHHS (米国保健福祉省) の組織で食品や医療に関する行政を司る。FDAは国民の健康を守るため強い指導力を発揮することでも有名。FDAは新薬の認可で厳しいルールを設けているが、トランプ新政権はこれを緩和するとの見方が広がっている。医薬品企業にとっては承認プロセスが緩和されると事業を進めやすくなる。

遺伝子解析事業が大きく前進するか

FDAの規制緩和はシリコンバレーのベンチャー企業に大きな影響を及ぼす。Google配下の23andMe (上の写真) は個人向け遺伝子解析事業を進めてきたが、FDAの命令で事業停止に追い込まれた。23andMeは収集した遺伝子をAIで解析することで、遺伝子変異と病気の関係を紐づける技術を開発している。遺伝子データから知見を引き出す技術が新薬開発に大きき寄与すると期待されている。トランプ新政権になると遺伝子解析事業が大きく前進する可能性を秘めている。

ドローン飛行に関する厳格なルール

FAAはDOT (米国運輸省) の機関で民間航空機の運航を管轄する。航空機の管制業務やドローン運行ルールの設定などが主な任務となる。FAAはドローン飛行に関して厳格なルールを打ち出し、個人所有のドローンが航空機や住民に危害を与えないよう定めている。同時に、企業がドローンを商用飛行するためにも厳しい条件が定められている。

出典: Amazon

米国内でドローン産業を育成

このため、ドローン開発企業は米国を離れて試験飛行を展開することが多い。Amazonはドローン配送システムPrime Airを開発しているが、米国を離れ英国で配送試験を進めている (上の写真、Cambridgeshire (英国) での実証実験)。Googleは高速で飛行するドローンProject Wingの開発をオーストラリアで展開していた。トランプ氏はFAAの規制を緩和して米国でドローン産業を育てる意向を示している。ただ、FAAは厳しい規制を保持する姿勢を示しており、トランプ新政権との衝突は不可避だ。ドローン規制がどこまで緩和されるのか見通せないなか、産業界からはトランプ氏の指導力に期待が集まっている。

新政権が自動運転車運行ルールを策定

DOTは米国内の運輸を管轄する機関で自動運転車の運行ルールはここで制定される。DOT長官にはElaine Chao氏が就任したが、自動運転車についての運行指針は示されていない。オバマ政権で自動運転車に関する運行指針の策定を進めてきたが、トランプ新政権がこれを受け継ぐこととなる。

トランプ氏は次世代交通網に関心を示す

トランプ氏自身も自動運転車についてはポジションを示していないが、新政権の意向を反映した規制をゼロから策定することとなる。トランプ氏のアドバイザーにUber CEOのTravis KalanickとTesla及びSpaceX CEOのElon Muskが任命された。これはトランプ氏が次世代交通網に強い関心を示していることを示唆している。新政権のもとでライドシェアや自動運転車の規制緩和が進み、技術開発が加速する環境が整うのか関心が集まっている。

(下の写真はSelf-Driving Uber。Uberはカリフォルニア州政府からサンフランシスコでの試験営業の停止命令を受けた。トランプ政権になると再び試験営業できるのか、それともカリフォルニア州は立場を変えないのか、せめぎ合いが続く。)

出典: Uber

インフラ整備に1兆ドル投資

トランプ氏はインフラを整備するために1兆ドルの投資を実施するとしている。道路整備を中心に交通ネットワークを近代化する。インフラ整備にはスマートシティや自動運転車も含まれるとみられる。既に、スマートグリッドなどネットワーク企業の株価が上昇している。インフラ整備には情報通信技術は必須でハイテク企業との関連が注目される。DOTはスマートシティ構築でGoogleや主要都市と連携し都市の近代化を進めている。

支出と予算のバランスが議会で審議される

一方、トランプ氏は就任100日以内に議会にインフラ整備の法案を提出するとしていたが、ここにきてトーンダウンしている。連邦議会が招集されたがオバマケア (医療保険制度改革法) 撤廃に向けた決議案や税制改正法案が先に審議されることとなる。インフラ整備に関しては1兆ドルの支出と予算のバランスが議会で審議されることになり紆余曲折が予想される。

諮問委員会から幅広く意見を聞く

トランプ氏は業界著名人から構成される諮問委員会「Strategic and Policy Forum」を設立した。トランプ氏は経済政策立案のため委員会から幅広く意見を聞く。委員会は18名で構成され会長は大手投資会社Blackstone CEOのSchwarzman。諮問委員会に上述のKalanickとMuskが加わった。次世代交通、自動運転技術、再生可能エネルギー、宇宙開発などについて助言するものと思われる。この他に、IT企業からはIBM CEOのGinni Romettyがメンバーに加わっている。

既成勢力を破壊するという共通点

シリコンバレーはクリントン氏を支持し、トランプ氏の信条や政策とは相いれないものがあった。しかし、トランプ新政権の輪郭が見え始めると両者の共通点も明らかになってきた。トランプ氏や主要閣僚の多くは政治家ではなく、いわゆる部外者である。門外漢がワシントンに新しい風を送り、政治を変えようとしている。シリコンバレーがディスラプターとして既成産業を破壊しているように、トランプ氏がワシントンの古い政治を破壊し、新しい価値を生み出すとの期待が高まる。創造的破壊がシリコンバレーとトランプ氏を結ぶ共通項となる。

シリコンバレーのエンジニアは失望

この一方で、シリコンバレーのエンジニアからは企業経営者はトランプ新大統領に投降したと失望の声が聞かれる。選挙期間中にトランプ氏を激しく非難しておきながら、サミットミーティングではトランプ氏に論戦を挑むものはいなかった。トップの変節ぶりに多くのエンジニアは失望している。同時に、新政権の下で企業は事業を拡大できるチャンスであることも社員たちは理解している。現実と理想の祖語に苦悶しているのがシリコンバレーの今の空気かもしれない。

最悪の事態は回避されそう

トランプ氏に対する根強い不信感があるものの、シリコンバレーは選挙直後の深い失望感から回復しつつある。トランプ新大統領の誕生でイノベーションが途絶えると危惧されたが、最悪の事態は回避されそうだ。むしろ、トランプ大統領がシリコンバレーの追い風となる勢いだ。米国企業だけでなく、日本企業にとっても新政権誕生はプラスに作用する流れとなってきた。ただ、トランプ新政権が発足し経済政策が示されるまでは予断は許されない。トランプ氏が打ち出す変化の激しい政策に臨機応変に対応することが求められる。

人工知能は信用できるのか、AIのブラックボックスを開きそのロジックを解明する

Friday, December 2nd, 2016

AIの実力が高く評価されDeep Learningを応用したシステムが社会に広がっている。同時に、AIの問題点が顕著になってきた。AIは統計学の手法で入力されたデータから特徴量を高精度で検出する。メディカルイメージからガンの兆候を医師より正確に検知する。しかし、AIはなぜ癌細胞と判断したのか、その理由を語らない。

自動運転車は人間より遥かに安全に走行するが、その運転テクニックは開発者ではなくAIだけが知っている。我々はAIを信用できるのかという大きな課題に直面している。AIに生命を託すことができるのかの議論が起こっている。疑問に対する答えはAIの内部にある。AIのブラックボックスを開けて、そのロジックを解明しようとする研究が始まった。

出典: Xiaolin Wu, Xi Zhang

顔の特徴で犯罪者を特定

AIが抱える本質的な課題が様々な形で露呈している。中国のAI研究者は顔の特徴で犯罪者を特定する技法を発表した。これはShanghai Jiao Tong University (上海交通大学) で研究されたもので、「Automated Inference on Criminality using Face Images」として公開された。この論文によるとアルゴリズムは89%の精度で犯罪者を特定できる。つまり、顔写真をこのアルゴリズムに入力すると、この人物は犯罪者かどうかが分かる。

犯罪者には三つの特徴がある

この研究ではDeep Learningなど顔を認識するAI技術が使われた。アルゴリズムを教育するために、男性の顔写真1856人分が使われ、そのうち730人は犯罪者である。また、この論文は犯罪者の顔の特性についても言及している (上の写真)。犯罪者には三つの特徴があり、一つは上唇のカーブが普通の人に比べ急なこと (上の写真右側、ρの分部)。また、両目の間隔が狭く、鼻と口元でつくられる角度が狭いことをあげている (上の写真右側、dとθの分部)。但し、この論文は公開されたばかりでピアレビュー (専門家による評価) は終わっていない。

背後にロジックがない

いまこの論文が議論を呼んでいる。人物の挙動から犯罪者を特定する手法は監視カメラなどで使われている。しかし、顔の特性から犯罪者を特定するAIは信頼できるのかという疑問が寄せられている。AIは学習データをもとに統計処理するが、顔の形状と犯罪者を結び付けるロジックはない。仮にこのAIが犯罪捜査で使われると、一般市民は理由が分からないまま容疑者とされる恐れもある。Deep Learningが社会問題となる火種が随所で生まれている。

GoogleのAIが女性を差別

世界の最先端のAI技術を持つGoogleだが、AIに起因する問題点を指摘されている。YouTubeは聴覚障害者のためにキャプションを表示する機能がある (下の写真)。キャプションは発言を文字に置き換えるたもので、Googleの音声認識技術が使われる。その際に、男性が話す言葉と女性が話す言葉でキャプションの精度は異なるのか、調査が実施された。(National Science Foundation (アメリカ国立科学財団) のRachael Tatmanによる研究。)

出典: YouTube

YouTubeは女性の声を正しく認識しない

その結果、YouTubeは男性の声を女性の声より正しく認識することが判明した。具体的には、音声認識精度は男性の声だと60%で、女性だと47%に下がる。つまり、女性は音声認識精度において差別を受けていることが分かった。この差がなぜ生まれるかについては、システムを詳しく検証する必要がある。しかし、Tatmanは教育データセットが男性にバイアスしているのではと推測する。音声サンプルは均等ではなく男性に偏っていることを意味する。AIの性能は教育データの品質に敏感に左右される。AIによる女性差別や人種差別が顕在化しているが、学習データが公正であることが問われている。

AIが乳がんを判定する

AIの中心技法であるDeep Learningは乳がん検査の判定で成果を上げている。検体のイメージをDeep Learningのネットワークに入力すると、AIはがんを発症する組織を高精度に検出する。今ではAIの検知精度が人間を上回り、多くの病院でこのシステムの採用が始まった。同時に、健康に見える組織がAIによりがん発症の可能性が高いと判定されたとき、医師と被験者はどう対応すべきかが議論になっている。AIの判定を信頼し、手術を行うかどうかの判断を迫られる。

AIはその理由を説明できない

遺伝子検査でも同様な問題が議論されている。乳がん発症を促進する遺伝子変異「BRCA」が検出されたとき、手術に踏み切るかどうかが問題となる。女優Angelina Jolieは「BRCA1」キャリアで手術を受けたことを公表した。しかし、AI検診のケースはこれとは異なる。AIは統計的手法で乳がんと判断するが、その組織が何故がんを発症するのかは説明できない。AIは時に人工無能と揶揄されるが、科学的根拠のない判定をどう解釈すべきか医学的な検証が始まっている。

銀行は与信審査でAIを使う

銀行やフィンテックベンチャーはローン審査でDeep Learningを使い始めた。ローン応募者のデータをアルゴリズムに入力すると瞬時にリスクを査定できる。高精度に短時間でローン審査ができることから、この手法が注目を集めている。一方、米国では州政府の多くは銀行にローン申し込みで不合格になった人にその理由を説明をすることを義務付けている。

応募者に十分な説明ができない

しかし、Deep Learningはブラックボックスで、銀行は応募者に十分な説明ができない。更に、ローン審査の基準を変えるときは、学習データを使ってアルゴリズムを再教育することとなる。ソフトウェアのロジックを変更するようにはいかず、大量のデータを読み込んでDeep Learningのパラメータを再設定する。金融業界でAIを導入することの是非が議論されている。

出典: Mahmood Sharif et al.

AIは眼鏡で騙される

Carnegie Mellon UniversityのMahmood Sharifらは、眼鏡で顔認証システムが誤作動することを突き止めた。これは「Accessorize to a Crime: Real and Stealthy Attacks on State-of-the-Art Face Recognition」として公開された。フレームの幅が少し広い眼鏡 (上の写真(a)の列) をかけると、システムはこれらの写真を顔として認識できない。つまり、街中に設置されている防犯カメラの監視システムをかいくぐることができる。

眼鏡で別人に成りすます

また、フレームのプリントパターンを変えると、顔認識システムは別の人物と間違って認識する。上の写真(b)から(d)の列がその事例で、上段の人物が眼鏡をかけることで、顔認識システムは下段の人物と誤認識する。(b)のケースでは、上段の男性が眼鏡をかけるとシステムは米国の女優Milla Jovovichと誤認した。顔認識システムはDeep Learningの手法で顔の特徴を把握するが、この事例から、目元のイメージが判定で使われていると推定できる。しかし、AIが実際にどういうロジックで顔認証をしているかは謎のままである。これが解明されない限り、顔認証システムを不正にすり抜ける犯罪を防ぐことはできない。

ニューラルネットワークと脳の類似性

AIの基礎をなすNeural Network (下の写真) でイメージを判定する時は、写真とそのタグ (名前などの種別) をネットワークに入力し、出力が正しく種別を判定できるよう教育する。教育過程ではネットワーク各層 (下の写真、縦方向の円の並び) 間の接続強度 (Weight) を調整する。この教育過程は脳が学習するとき、ニューロンの接続強度を調整する動きに似ているといわれる。

出典: Neural Networks and Deep Learning

ネットワークの中に分散して情報を格納

学習で得た接続強度は各ニューロン (上の写真の白丸の分部) に格納される。つまり、Neural Networkが学習するメカニズムの特徴はネットワークの中に分散して学習データを格納することにある。プログラムのようにデータを一か所に纏めて格納する訳ではない。人間の脳も同じメカニズムである。脳が電話番号を覚えるときには、最初の番号は多数のシナプスの中に散在して格納される。二番目の番号も同様に散在して格納されるが、一番目の番号と近い位置に格納されるといわれる。人間の脳を模したNeural Networkはデータ格納でも同じ方式となる。

知識がネットワークに焼き付いている

問題はこの格納メカニズムが解明されていないことにある。脳の構造を模したNeural Networkも同様に、情報が格納されるメカニズムの解明が進んでいない。Deep Learningの問題点を凝縮すると、知識がネットワークに焼き付いていることに起因する。ニューロンの数は数千万個に及び、ここに知識が散在して格納されている。知識はシステムを開発した人間ではなく、ネットワークが習得することが問題の本質となる。

自動運転車のアルゴリズム

Carnegie Mellon Universityは1990年代から自動運転技術の基礎研究を進めていた (下の写真はその当時の自動運転車)。当時、研究員であったDean Pomerleauは、カメラで捉えた映像で自動運転アルゴリズムを教育した。走行試験では、数分間アルゴリズムを教育し、その後でクルマを自動走行させる試験を繰り返した。試験はうまく進んだが、橋に近づいたときクルマは道路からそれる動きをした。しかし、アルゴリズムはブラックボックスでPomerleauはその原因が分からなかった。

出典: Dean Pomerleau et al.

試験を繰り返し問題点を特定

ソフトウェアをデバッグする要領でロジックを修正することができない。このためPomerleauは路上試験を繰り返すことで問題点を解明した。様々な状況で自動運転を繰り返し、経験的に問題点を突き止めた。それによると、クルマは路肩の外側に生えている草の部分を基準にして走行路を判定していることが分かった。橋に近づくと草の部分がなくなり、クルマは判断基準を失い、正常に走行できなくなる。自動運転技術をAIで実装するとクルマが正しく動くのか確信が持てなくなる。

大規模な走行試験で安全性確認

現在でも同じ問題を抱えている。自動運転車は無人で公道を走ることになるが、我々はAI技術を信用していいのかが問われている。AIの運転ロジックが分からない中、どう安全基準を作ればいいのか試行錯誤が続いている。その一つに、定められた距離を無事故で走行できれば安全とみなすという考え方がある。シンクタンクRand Corpによると、人間がクルマを1億マイル運転すると死亡事故は1.09回発生する。自動運転車が人間と同じくらい安全であることを証明するためには2.75億マイルを無事故で走る必要がある。人間レベルの安全性を証明するためには大規模な走行試験が必要となる。自動運転車の安全基準を設定する作業は難航している。

Deep Learningを使った運転技術

この問題を技術的に解明しようとする動きも始まった。NvidiaはDeep Learningを使った運転技術を開発している。自動運転システムは「DAVE-2」と呼ばれ、Neural Networkで構成される。人間がアルゴリズムに走行ルールを教えるのではなく、システムはNeural Networkで画像を処理し安全な経路を把握する。システムはカーブしている道路のイメージを読むと、そこから運転に必要な道路の特徴を把握する。

AIがルールを学習する

NvidiaはAIがどういう基準で意思決定しているのかの研究を進めている。今までブラックボックスであったAIの中身を解明する試みだ。下の写真が研究成果の一端で、AIが道路をどう理解しているかを示している。上段はカメラが捉えた画像で、下段はCNN (画像認識するNeural Network) がこれを読み込み、そこから道路の特徴を示している。特徴量は曲線が殆どで、CNNは道路の境界部分を目安に運転していることが分かる。この画面からAIが習得したドライブテクニックを人間がビジュアルに理解できる。

出典: Nvidia

2017年はAIロジックの解明が進む年

自動運転車を含む自立系システムはDeep Reinforcement Learning (深層強化学習) という手法を使い、アルゴリズムが試行錯誤を繰り返してポリシーを学習する。この技法は囲碁チャンピオンを破ったGoogle AlphaGoでも使われている。Deep Reinforcement Learningの中身もブラックボックスで、これからこの解明も進むことになる。AIは目覚ましい成果を上げ世界を変え続けるが、2017年はAIのブラックボックスを開けそのロジックの解明が進む年となる。