岡山大学の松井鉄平准教授、立教大学の瀧雅人准教授、慶應義塾大学の地村弘二准教授らの共同研究グループは22日、脳活動を解読する深層神経回路の動作を直感的に説明する新しい手法を開発したと発表した。
同研究成果は、認知症や精神神経疾患の脳画像診断に深層学習を応用していく際に、医師や患者がAIの動作を理解しつつ使用するための基礎技術として役立つものと期待される。
なお、これらの研究成果は3月16日、スイスの神経科学雑誌「Frontiers in Neuroinformatics」のResearch Articleとして掲載された。
MRIや脳波により計測した脳活動データから、その人が何をやっていたのかを推定する脳活動解読は、BMIへの応用を見据えて広く研究されている技術である。最近では、脳活動解読に深層学習を用いた研究が活発に行われている。
だが、深層神経回路によるデータの処理は非常に複雑で、「与えられたデータに対して解読器が何故その回答をするのか」の直感的説明は困難であった。
今回の研究では、この問題に対する新しいアプローチとして、深層生成モデルという深層学習のもう一つの技術と反実仮想説明という手法を組み合わせた手法が考案された。
同研究成果は、認知症や精神神経疾患の脳画像診断に深層学習を応用していく際に、医師や患者がAIの動作を理解しつつ使用するための基礎技術として役立つものと期待される。
MRIや脳波により計測した脳活動データから、その人が何をやっていたのかを推定する脳活動解読は、BMIへの応用をはじめ広く研究されている技術である。
最近では、脳活動解読に深層学習を用いた研究が活発に行われ高い精度が報告されている。深層神経回路はコンピューター上で動くものなので、入力したデータが解読結果に至るまでの変換過程は全て記録されている。
だが、沢山の素子が複雑に絡み合っている深層神経回路の動作は非常に複雑で、「与えられたデータに対して解読器が何故その回答をするのか」という疑問に答えるのは難しいことが知られている。
例えば、解読器が間違った答えを返してきたときに、何故そのような間違いが起きたのかを説明することが出来ないということを意味している。
こうした欠点を克服し、複雑な深層神経回路の動作を説明可能にする技術の開発は、脳活動解読のみならず広く人工知能分野での重要なトピックとしても近年着目されている。
今回の研究では、脳活動解読器の動作を直感的に説明するアプローチとして、反実仮想説明という手法が選択された。反実仮想説明では、実際のデータと少しだけ異なる仮想的なデータを作成して解読器に適用し、「もしデータが（実際とは異なり）Xのようであったら、解読器は（実際に出てきた判断Yと異なり）Zという判断をしていた」という分析を通して、直感的な説明を行う。
この手法を脳活動解読器の説明に応用する上での難しい点は、脳活動のような複雑なデータに対して本物とそっくりな仮想的データを作るという部分であった。
松井氏らは、敵対的学習による深層生成モデルという深層学習のもう一つのテクニックを使うことで、本物そっくりな脳活動データの作成に成功し、反実仮想説明を脳解読器に適用できることを実証した。
図１では、脳活動解読器の誤作動を説明した例を示している。同提案手法では、実際の脳活動データと、それを元に生成した仮想的脳活動データを比較することで、解読器の誤作動の原因になった脳部位を絵として表示し、直感的な説明を与えることができる。
また、この生成器の面白い応用として、特定の認知課題に向けて脳活動を「誇張」することで、その認知課題を特徴づけるパターンを取り出すことに成功した。このパターンを、別の認知課題をしている時の脳活動に貼り付けて再び脳活動解読を行うと、解読の結果は元の脳活動ではなく貼り付けたパターンに対応するものとなり、脳活動生成器によって取り出したパターンが、実際に解読器によって使われていることが示されている。
こういったパターン抽出は、今回の提案手法に特有の応用で、解読器の動作を基に新しい科学的な仮説を立てることなどに応用できると考えている。
図1. 提案手法によって脳活動解読器の動作の説明を与えた例。A）運動課題を遂行中の脳活動データに対して、深層神経回路の解読器は「記憶課題」と間違えた答えを出した。複雑な解読器が何故誤作動したのかを説明することは、このままでは難しい。B）解読器が間違えた脳活動データを生成器に入力し、それを元に仮想的な脳活動データを生成する。解読器はこの仮想的脳活動データを「運動課題」と正しく判断する。C）仮想的脳活動データと実際の脳活動データを比較することにより解読器の「説明」が得られる。赤い脳部位が弱かったことや、青い脳部位がより強かったことが、解読器が回答を間違えた理由と考えられる。
同研究成果は、認知症や精神神経疾患の脳画像診断に深層学習を応用していく際に、医師や患者がAIの動作を理解しつつ使用するための基礎技術として期待されている。
◆松井准教授のコメント
ずっと人間や動物の脳を研究してきた神経科学者として、最近の深層学習の爆発的な発展には、とても刺激を受けている。
今回は、深層学習の技術を神経科学に応用してみましたが、生物の脳と深層学習を比較することで知性の本質を明らかにすることにもチャレンジしていきたいと思っている。
