説明可能な人工知能

XAI(eXplainable Artificial Intelligence）というのをご存知でしょうか？
説明可能な人工知能という意味です。

AIもそうですが、基本的にシステムというのは判断の過程が見えるようには作られていません。
例えば、人の採用にAIを用いて書類選考の合否をさせた時、合否の結果は出しても合否の理由は基本的にブラックボックスとなっていてわかりません。
（参考：採用選考に「AI」を導入しようとしたが、断念した会社の話が面白かった。）

正解が導かれて提示されても根拠がないと人を納得させるのは難しいですよね。
だからこそそれを解消するために、その正解や結果までのルートを人に説明できるような人工知能の開発が進められています。
ホワイトボックス型AIとは何ぞや “What Explainable AI really is”


もちろんそんなものいるのかという意見もあって、この辺りは今後の議論が待たれるところです。人間も合理的にばかり判断するわけではないから、結局意味ないのでは？という議題の提示ですね。
Googleのリサーチ責任者、「説明可能なAI」の価値に疑問符



個人的には説明可能になっていってほしいなと思ってます。
理解とか納得とかとは別の話として、人と人が接するように人とAIが接する時代が来るのであると仮定するならば、ただ答えや結果を言うだけではなく、相手が何でそんな風に考えたのか知りたいというのは不思議ではないと思うからです。

そうしてお互いに補い合って何か成し遂げていける世界が来れば素晴らしいなと思います。