人工知能(AI)を活用した医療機器を、薬事承認などにおいてどのような基準で審査するのか――。AIの医療応用に向けた開発が盛り上がりを見せる中、その審査基準については難しい課題も多い。AIが何らかの判断を下す際、その判断基準は人間にとってはブラックボックスだからだ。医薬品医療機器総合機構(PMDA)の担当者が、こうした点を踏まえた審査の基本的考え方を語った。

 PMDA 医療機器審査第一部 審査専門員の加藤健太郎氏は、2017年10月27日に開催された「NEXT医療機器開発シンポジウム」(主催:国立がん研究センター東病院 NEXT医療機器開発センター)に登壇。「AIを活用した医療機器の審査における課題」と題して講演した。

登壇したPMDAの加藤健太郎氏
登壇したPMDAの加藤健太郎氏
[画像のクリックで拡大表示]

 加藤氏はまず、AIの医療応用というテーマは行政においても“話題沸騰中”だと表現。「我々のところにもAIの話が数多く寄せられている。どのように審査をしていけばよいか、悩んでいるところだ」とした。

 議論の前提として、医療機器の審査において承認が拒否されるパターンは大きく3つある。第1に、効果または性能を持つと認められないとき。第2に、効果または性能に比べて著しく有害な作用を持つために、使用価値がないと認められるとき。第3に、医療機器として不適当と厚生労働大臣が定めたものに該当するとき、である。総じて、メリットとデメリットのバランスが重視され、このことはAIを活用した医療機器の審査でも基本となる考え方だ。

 そのうえで、“審査の目から見たAI機器の特徴”として加藤氏が挙げた点に、次の3つがある。(1)ブラックボックス性、(2)性能の継続的な変化、(3)データセットの信頼性、である。

 (1)のブラックボックス性とは、AIの挙動の根拠が機器の開発者にとっても未知数なこと。「従来の医療機器では開発者が機器の得意・不得意を理解し、それを基にしたリスクマネジメントができた。これに対しAIを活用した医療機器では、未知のデータに対する振る舞いは開発者でも予想が困難」(加藤氏)。

 そのため、致命的な出力エラーがないかや、出力結果をどのように解釈するかなどに対する配慮が必要になる。「AIが何に反応してその結果を出しているのか、出力結果がどのくらい妥当であるかなどの評価が難しい。そこで、(これらの点について開発者側が)どのような情報提供ができるかが、審査においても大切になる」と加藤氏は話す。