「ミスを犯すのは人間です」。映画「2001年宇宙の旅」※１の人工知能を搭載した宇宙船管理コンピューターHAL900（以下、HAL）と宇宙飛行士デイブとのやりとりでのHAL の言葉だ。
宇宙飛行士とHAL との会話は、機知に富んでいて興味深いのであるが、そのやりとりは次第に、張り詰めた緊張感あるものとなる。この緊張感はHAL の、あたかも人の心を覗くかのような言葉、コントロールしようとするかのようなやりとりから感じられる。HAL の言葉は時に不気味だ。この不気味さは何か。あるシーンで、デイブが「HAL に本物の感情があるか」と聞かれるくだりがあるが、デイブの回答は「実際にあるかどうか、誰にも真実は分かりません」であった。不気味さの根源は、人とは違った思考、わからない点に思える。
AIの世界には『黒魔術』という言葉がある。ディープラーニングの結果、AI が導いた回答、その効果がなぜ出るのか、魔女の黒魔術のごとく、行為と結果について論理的に説明できない技術の総称として語られる。
株式会社ASAHI Accounting Robot 研究所※２でも２つのAI-OCR サービスを展開している。手書き文字に対応したサービスと任意の表形式データを認識するサービスであるが、これらのサービスもどの程度文字認識精度が出るかは、実走させてみないとわからないというのが実情だ。
サンプル資料でやってみて、思ったより読めないことや、逆に高い精度で読めて驚くこともある。もちろん、ディープラーニングにより、AI での識字率は回数を増やすごとに向上していき、学習成果があることは実感としてある。識字率は、学習すればするほどあがっていくのは間違いない。しかし、時に以前は認識できた同じ電子書類の同じ文字が認識できないという事態も起き、不思議に思うことがある。
黒魔術はリスクでもある。パンダの画像に人に識別できないほどのノイズを載せると、人には依然パンダのままだが、ディープラーニング型AI は別の動物（テナガザル、雄羊）と識別したという話は有名であり、これはノイズの敵対的利用に対する警鐘でもあるが、その防御方法は確立されていない。
現在、ディープラーニング型AI のホワイトボックス化（根拠の見える化）が進められている。AI は、人が間違わないようなミスを時に起こすことがある。ホワイトボックス化で黒魔術が解明出来れば、よりクリティカルな利用の段階に変わるであろう。
人もミスをする。AI もミスをする。主役は人であり、人もAI も大きなミスを起こさないことが重要だ。機械学習型AI、自己成長型AI、ホワイトボックス化、AI の進化は止まらない。
2021／06
**********************************************************************
※１ スタンリー・キューブリック監督 1968 年製作
宇宙船ディスカバリー号での木星探査への旅を描くSF 作品
※２ 中小企業向けRPA 導入支援、DX 化支援を行っている。
Microsoft partner 企業であり、Microsoft365、Power Automate等
販売代理店。AI-OCRサービスAISpect（月額5千円）に加え、
株式会社Cogent Labs 及びMicrosoft 社との業務提携による
手書き資料に対応したAI-OCR サービスも展開している。