AIが権威化したときの怖さを考えておくべき
武藤 最後に、AIについてお聞かせください。先生は、AIが医学をどう変えていくと思われますか。
黒田 「一昔前のAIはAIではない」という面白い議論があって。なぜなら、我々の予想を超える知性が存在しないからです。だから今騒がれているAIも、あるタイミングでインテリジェンスを失ってAIではなくなってしまう気がします。
武藤 AIの概念そのものが進化する、ということでしょうか。例えば、もう少し限定してディープラーニングなどはどうでしょう。
黒田 ディープラーニングの世界観は、数学的な世界の中で今まで私たちが見つけることのできなかったパターンを見出してくれることだと思います。我々が知らなかった答えをビッグデータから引っ張り出してくれる可能性があります。
それによって将来はもしかしたら、医師が担ってきた“知識をたくさん溜め込む”仕事の一部はなくなるのかもしれない。ただそれが社会に実装されるときに、不確実性を社会がどこまで許せるかという別の問題が生まれるような予感がします。その不確実を確実にするための仕事が医師の役割だとするなら、医師の仕事は今よりよほど厳しくなるのではないでしょうか。
武藤 どのように医師の仕事は変化していくとお考えですか。
黒田 つまりAIの弾き出した答えが正しいか正しくないか見定める能力が求められるわけです。AIが言った通りに治療をやって失敗したら、それは医師の責任なのか、はたまたAIの責任なのか。逆にAIが言っていたことを無視して、医師がある治療を正しいと思って失敗したらどうなのか。いっそのこと判断を預けてしまうことによって、AIが責任を取ってくれるなら医師は楽になるでしょうが、社会はそこまで不確実性を許さないでしょう。
今のようにAIにも不確実性があることを認識して、ある意味半信半疑で使っている間はいい。しかし、ある時点で「AIってすごいぞ」と権威化したときの怖さをよく考えておくべきだと思います。
武藤 現代では、すべてを暗記しなくてもコンピュータやスマホで検索したら知りたいことがすぐわかりますが、そもそも知識がないのに思考をすることは難しいですね。もしも、「検索すればいいや」という調子で自分で知識を持とうと思わなくなった時に、深い思考ができなくなる。そうなると、AIの出した答えを徹底的に評価する能力が欠けてしまう可能性があるのではないかと危惧しています。
黒田 その怖さがすごくあるんです。現在の社会の構成員の多くは、そもそもデータに間違いがあるかもしれないということをきちんと学んでいません。データがすべて正しいと盲目的に信じ始めると、今まで持っていた知識の体系が壊れ始めてしまう。まさに先生がおっしゃる通りで、結果的には騙されていることもよう分からんという世界になるわけです。
これまでも医療ミスを引き起こさないことを目指して、さまざまなシステムが作られてきたわけですけど、機械だってミスをすることがあるんです。AIにしろ機械にしろ、人との関わり方を真面目に考えて、使う人々もちゃんと教育して、一つの大きな社会システムとして世の中に実装する――。そうしないと、「そろそろ危ないかもしれないぞ」と思い始めています。
