AI、人工知能の進歩はすばらしく、人間の仕事の大半を奪うとか、AIが自動的に発達していくとか、バラ色？の未来予想が出てきます。
ただし、どうやらそういった予想をしているのは、AI関係者といっても経済的に関係のある人々のようで、AI技術を直接担当している人たちからは全く違う見方がされているようです。
この本もAI技術開発を研究している著者が、その実態を綴っています。
まず、相当な勘違いをしていた（そして世の中の大多数の人もそうでしょうが）ことが、AIは自らどんどんと改良を重ね、成長しているかのように進歩しているかのように感じていたのが、まだ全くそうではないということです。
AIに対してどのようにトレーニングしていくか、そのデータをどのように与えるかということは人間がやらなければならないことであり、その人間のやり方（たいていマズイやり方）によってAIも不自然かつ不適当な進歩をしています。
事実上、まだまだAIが自律的に発展するなどと言うのはAI関係者がわざと流している幻想のようで、かつてのように人間がプログラムを書いてコンピュータに実行させている状態と本質的には変わっていないようです。
AIは結局、言われたとおりのことをしているだけです。
ただし、人間が出す「指示」には多くの場合抜けたところがあり、（人間であればわざわざ言わなくても常識）それをAIは思いもよらぬ方法で近道をしてしまうために、とんでもない結果が出ることがしばしばだとか。
AIを使って自動車の自動運転をさせようという取り組みが行われています。
しかし慎重すぎる日本では起きていませんが、かなり乱暴なアメリカなどではすでに公道上で実験されているもののとんでもない事故が起きています。
２０１６年、少し前の実験ですが、高速道路上で使用することが想定されていた自動運転機能を一般道路で使ったところ、前を横切るトラックが認識されず突っ込んだそうです。
「高速道路ではトラックが前を横切ることはあり得ない」からだとか。
コンピュータゲームをAIにさせるといったこともあちこちで行われています。
しかしAIはゲームのプログラミングの隙を探し回り、とんでもない解決策を見出します。
人間であればそのような変なことはしないという暗黙の了解があるのですが、AIにはそれがありません。
「だって、ダメって言われなかったもん」というのがAIの言い訳のようです。
そんなわけで、現在でも「AIがやっています」と称されているものの実際には何かあったら人間が対応というのが大部分だそうです。
FacebookMというプロジェクトではAIが顧客からの問い合わせに答えるという触れ込みでしたが、実際には厄介な質問がきた場合にはすぐにベテランの人間に質問が回るようにできていたそうです。
AIによる自動運転のテストの場合もまだまだ人間の運転手が緊急事態に備えて運転席に座っている場合がほとんどです。
AIは混乱すると何をするか分かりません。
２０１９年、AI関連企業とされているヨーロッパのスタートアップ企業のうち、４割はAIを全く使用していなかったことが判明しています。
どうやら「ＡＩすごい、何でもできる」というのはかなり意図的なプロパガンダに過ぎないようです。
まだまだ「ＡＩにやらせて良いこと、やらせてはいけないこと」ということをきちんと考えておくべきなのでしょう。
