賀茂川耕助さんのブログ、今度は「AIの進歩と人類の終焉」と題されています。
AIの進歩の人間への影響といった場合、いくつかの懸念があげられるでしょう。
賀茂川さんもそれを示していますが、まずは「雇用への不安」、そして「AIの反乱」ですが、それよりも緊急の懸念として「AIの悪用」となります。
前2者のうち、雇用の不安は現実のものとなりつつありますが、それ以上に経済自体の瓦解が始まっていますので、それと切り離して考えるほどではないでしょう。
「AI自身が進化して反乱する」と言うことは将来はあり得る危機でしょうが、まだしばらくは猶予がありそうです。
やはり一番の不安は、AIを使ったテロや戦争、破壊工作といった悪用でしょう。
自動運転の自動車をハッキングして事故を起こさせると言った事例もすでに出現しているかもしれませんし、ロボットを使った要人暗殺もすぐにでもできそうです。
さらに、水道や電力、交通といったインフラに対する攻撃は既に現実のものとなりつつあり、もしもこれが実行されれば経済活動や生活の破壊だけでなく、直接生命にも関わるような影響も出る危険性があります。
先日亡くなったスティーブン・ホーキング博士がこの件についての警告を発していたそうです。彼には行末が見えていたのでしょう。
一刻も早く生命や経済中枢、国の根幹の安全といった方面へのAI攻撃に対する防御を進めるべきですが、便利だからとか、経済活性化といった目先の利益で安全をAIに売り渡すような行為が横行しています。