自動車の高度な運転支援システムをはじめ、家の中でも機器にコンピュータが内蔵され、いわゆる“賢い機械”が身の回りの至る所に存在するようになりました。これまでは人間中心で、機械は言われた通りのことだけをするのが望ましいとされてきました。それは機械の行動に人が振り回されないようにするためです。
ですが、自動車の衝突回避機能のような場合、人が判断していては間に合わないため、機械に最終的な決定権を与えるようになっています。今後の高齢化を考えると、高齢者の運転が増えますが、視覚や聴覚の能力が弱くなった高齢者に「運転を注意してください」と言っているだけでは問題は解決しません。身体的負担が少なく自動車を運転できるように、代替できるところは機械に依存せざるを得ないでしょう。
そうなると、最終的な判断を人と機械のどちらが行使するのかという権限の問題が今後ますます顕在化してきます。
一方、賢い機械が出てきたことで、さまざまな場面で信頼がおけるようになってきました。例えば自動車の場合、運転者はある場面でブレーキをかけてくれたのであれば、この場合でもブレーキをかけてくれるだろうと思ってしまいます。正確な理解があって機械に依存するのは正しいことですが、中途半端な知識で理解してしまうと、あたかも機械に限界がないかのように感じてしまいます。これは過度の依存となります。
システムの自動化は航空機の分野で先行して進んでいますが、訓練を受けた操縦士でも人間と機械との間で意図の対立が起こり、予期しない状況が生じています。自動車や家の中の機器などでは、訓練どころか説明書も読まずに利用するユーザーが多数いるわけです。
システムが賢いほど、利用した人間は行動を変えてしまいます。こうした行動の変化が我々に悪影響を及ぼさないようにシステムをデザインすることが今後、非常に重要になるでしょう。人と機械が共存するシステムをいかにデザインするかは、世界各国で非常に重要なテーマです。日本人がどのように人と機械の協調と調和の問題を考えているのか、世界に示す良い機会です。システム概念をデザインする設計者やエンジニアの方々に本書が貢献できれば幸いです。(談、聞き手は日経エレクトロニクス)
Amazonで購入