「ＡＩ化」の進展は目覚ましいものがあります。「単純作業」はもちろん「かなり複雑な作業」についても、人間に取って代わりロボットが仕事を行うような時代になりました。
しかし、「ＡＩ」を信用し過ぎるのは危険ではないかと思います。「ＡＩ」は「神の手（God Hand）」や「全能（Almighty）」ではありません。今回は、「ＡＩ」のそんな危険性や限界について考えて見たいと思います。
１．「自動運転車」の事故
アメリカのカリフォルニア州で、2018年3月にテスラ社の電気自動車「Model X」の運転手が自動運転機能「オートパイロット」を使用中に衝突し、死亡した事故があります。
また同じく2018年3月にアリゾナ州では、運転者がハンドルを握っていたものの、ウーバーテクノロジー社の「自動運転車」が「自動運転モード」中に歩行者をはねて死亡させています。
私は以前から素朴な疑問として、「自動運転車同士が危険を察知した場合、上手に危険回避できるのか？」「自動運転車と普通の自動車が危険な状況に直面した場合、どう動くか正しく予測できるのか？」「事故の場合、責任の所在はどこに求めるのか？」という問題があると思っていました。
二人の人間が反対方向から歩いて来て、どちらに避けるかで、同じ方向に何回も避けてしまうことがたまにありますね。
クルマの場合、正面衝突事故はあまり考えられませんが、信号のない場所で直角方向で接近した場合どちらが止まるかの判断が真逆だった場合、衝突事故が起きる恐れがあります。
また道路上の複雑な自動車の錯綜に対して、「自動運転車」がどこまで正しく反応・判断できるのかも疑問が残ります。高速道路上の場合は、普通の自動車でもそうですが、ちょっとした判断ミスが大事故を招くことがあります。
そして「自動運転」と一口に言っても、「自動運転車」メーカーによって「危険回避の対処方法の設定基準」が異なっていれば、事故が起きる危険性が増えるように思います。
２．「医療ロボット」の誤診
アメリカのインテュイティヴ・サージカル社の内視鏡手術用ロボット「ダ・ヴィンチ」は、なかなか優れものだそうです。
しかし一方、手ごたえ等の触感を感知する機能がないため、縫合糸の操作の手加減が難しく糸を引きちぎってしまうケースもあるようです。
2016年8月にＩＢＭ社の人工知能「ワトソン」が、特殊な白血病患者の病名を10分ほどで見抜き、その生命を救ったと東京医科学研究所が発表しました。患者は当初、医師に急性骨髄性白血病と診断され抗がん剤治療を受けていたものの全く効果がなかったそうです。東京医科学研究所によれば「ＡＩが命を救った国内初の事例ではないか」とのことです。
一方でＩＢＭ社のＡＩ「ワトソン」をがん患者の診断に使ったところ、「危険で不正確な治療を推奨するケース」が続出したという報告もあります。
私も高校受験の直前に、経験の浅い若い医師の「とんでもない誤診」で大変な目に遭ったことがあります。
いくら「医療ロボット」と言っても、ピンからキリまであると思いますし、たとえ高性能の「医療ロボット」でも、「正しい診断」はなかなか難しいのではないかと思います。いろいろな診断の実証実験を重ねて、たくさんの失敗を学習効果で克服させてからでないと任せられないような気がします。
「医療ロボット」によって「誤診連発」では、本末転倒で目も当てられません。
人間の医師でも、「能力」や「経験」の差があり、その結果「誤診」や「医療ミス」が発生しており、今後も無くなることはないと思います。しかし、「医療ロボット」は今のところ「セカンドオピニオン」か「サードオピニオン」と位置づけておく方が無難だと私は思います。
やはり、「新薬」が「臨床試験」を十分重ねた上で初めて承認されるように、ＡＩのような「新技術」も「危険性」と「限界」を十分認識したうえで、いろいろなケースをテストし、安全性を十分確認した上で使用するべきだと思います。
それに加えてバックアップとして「人間のコントロール」も常に置いておくようにする必要があると思います。そういう意味で「ＡＩ車で（限定条件付きながら）スマホＯＫ」というのは危険この上ない道路交通法の改悪だと思います。
３．ＡＩに頼りすぎると「プロの人間」がいなくなる？
最近、銀行の窓口を見ると、現金の勘定を全て機械にかけて数えています。昔は1万円札をきれいに扇形に開いて鮮やかな手付きで「横読み」で数えていました。また、「縦読み」でも目にもとまらぬような速さで数えていました。今の窓口担当者は、機械が故障したり大災害で機械が使えなくなった時に、大量の紙幣をうまく数えられるのか、他人事ながら心配です。
また、銀行の融資担当者がＡＩ分析に頼りすぎると、独力で手作業による決算書などの企業分析ができない、あるいは粉飾決算が見抜けない人が増えるのではないかと心配です。
一方医師の世界でも、「ダ・ヴィンチ」などの「医療ロボット」に頼りすぎると、手作業による外科手術ができる外科医がいなくなるのではないかと心配です。これが「杞憂」であればよいのですが・・・