「AIは使いたい。でも何かあったら誰が責任取るの?」を解決。AIの考えを見える化する新技術

  • 5,829

  • Mugendai
  • author 渡邊徹則
「AIは使いたい。でも何かあったら誰が責任取るの?」を解決。AIの考えを見える化する新技術
Image: Shutterstock

もう言い訳できません。

AIという言葉が定着して久しい昨今。今や、家電や日用品といった生活の近くにも進出しています。その一方、ビジネスの現場では「便利なのだろうけど、どうも手が出ない」といった状況が多いのも事実。

IBMのWebメディアMugendai(無限大)では、ビジネスの現場がAI導入を躊躇する「責任問題」と、その画期的な解決法が提示されていました。

「だってAIが言ったから」ではすまされない、ビジネスマンの現場

IBMビジネス・バリュー・インスティテュートが世界5,000人の経営幹部に実施した調査によると、82%の企業がAIの導入を検討している一方で、60%が万が一トラブルが起こった際の責任問題を懸念していると答えたそうです。

AIの世界では、ディープラーニングの登場などにより高度な分析が可能となったわけですが、その高度さゆえに、AIによる学習過程はあまり可視化できていませんでした。

そのため、せっかく答えが出ても「なぜ、そうなったか」を説明できる人がおらず、「AIが言ったからです」としか言えない状況が発生します。AIを利用したシステム全体がブラックボックス状態となり、トラブル時の責任の所在が不明確になるというわけですね。

それを解決しようというのが、IBMが開発した「AI OpenScale」というソフト。これは、さまざまな業務アプリ内で使われるAIを統合して管理・監視することができるツールで、AIのパフォーマンス測定に加え、誤った学習データを元に不適切な決定を行ってしまうバイアス(偏り)に対するアラートも検出してくれるとのこと。

その上でAIのプロセスを見える化し、何がどう影響したのかをわかりやすいグラフィックで表示してくれるそうですよ。

IBMのWatsonはもちろん、TensorFlow、Azure MLなど他社のAI環境にも対応しているそうなので、そろそろ「でも責任がね」なんて言い訳はできなくなりそうです。

「導入したいのに、上司がAIを疑ってる」なんて状況のビジネスマンは、ぜひMugendai(無限大)の記事を見せつけてあげましょう。

Source: Mugendai(無限大)

    あわせて読みたい

    powered by