INASOFT 管理人のひとこと

記事では、自動運転のテクノロジの進展にブレーキが掛かるようなことが書いてありました。

実際、自動運転のテストは大変やりづらくなるでしょう。

テストには人間が同乗(?)するわけで、その人間にとっても、大変やりづらい仕事になるかと思います。

一説には突然の飛び出しによるものであったため、例え人間が運転していたとしても事故は起きていたかもしれないし、どんな高技術のテクノロジがあったとしても、回避は極めて困難だったかもしれないとも言われています。

この事件でテクノロジの進展にブレーキがかかってしまう可能性があるのは残念ではありますが、この事象から拾い上げられる情報をできる限り活用してほしいところです。制度上・法律上・責任の取り方など、幅広い議論も呼び起こされることでしょう。

ただ、Twitter上で意見を見ていたら「人が死んだら技術進歩が萎縮するような世の中はおかしい」というような意見も見受けられ、ちょっと違うんじゃないかなとも思いました。これは技術者倫理というものでしょう。クローン技術やゲノム編集を人間に適用するか云々みたいな話にも通ずるものがあるかもしれません。やはり技術者は、人間の領域に踏み込むにあたっては、極めて慎重な判断と、幅広いコンセンサスを得ながら進めていかないといけないでしょう。

昔は、技術の進歩と引き替えに、踏みにじられる人権が大きかった時代もあったのだと思います。その時代は、技術の進歩の速度が速かったのでしょう。そんな世の中が良いのかどうかは、慎重に判断したいところです。

というのも、自動機械による被害というと、やっぱり僕の場合、2012年の連続誤検知騒動を思い出してしまいますので。

プログラムが修正され、完了が報告されるまで、足かけ3年に及んだあの事件により失ったものは大きかったです。

そういったことから考えて、自分の立場では、技術者倫理をないがしろにして機械判断技術をどんどん推し進めよとは言いづらい。

今回の場合、技術的な面では、回避は非常に難しいことだったかと思います。実運用が始まった後も、これくらい回避が難しくなる事象は発生するでしょう。というか、AI自動車を狙った当たり屋が登場する日も来るかもしれません。

つまり、自動運転車による事故があることを前提に、法律などの制度設計をしなければならないです。

技術の進歩と同時に、制度設計の進歩も必要です。

そういった場合、責任は誰がどう負うのか？法律はどう解釈するのか？保険屋は誰にどう保険を下ろすのか。

同乗者の責任率、メーカーの責任率は？

今朝のラジオのニュースで言及されていましたが、例えば自動運転車がハッキングされた場合、ハッカーにも責任は及ぶが、そんな脆弱性のあるプログラムを開発したメーカーの責任は問われるのか？

2012年の連続誤検知騒動も、最終的には機械判断が間違って、被害が生じたものになります。

関わっていたウイルス対策企業が１社だけだったので、責任はその1社にあるのは間違いなかったです。

ただ、ベンダーと運営業者が分かれていたいた場合とか。

セキュリティではなく、別の機械判断的分野で、人に被害をもたらしたり、人名が脅かされたりするような場合、どうするか。そういった事態が起きることを想定して、どこまで制度設計されるのか。

ふと思い出すのが、細田監督の「サマーウォーズ」ですね。

あれも、社会インフラとも繋がるシステムが、悪質な意思を持つBOTに乗っ取られてしまう映画でした。

悪質な意思を持つBOTを開発した人も、悪意を持って開発したわけでは無さそうです。

しかしながら、結果として、社会的混乱の中で開発者自身の祖母が死んでしまうきっかけも作ってしまった。

そんな映画でした。

話を戻しまして。

2012年の事例を考えると、結局のところ、機械による判断が誤っていたときに、それを食い止められないことであるとか、窓口担当者が状況を見誤って、とりあえず口八丁手八丁で穏便に済ませようとして、結果的に感情論にもつれ込んで泥沼化したとか。

最後に食い止めるのはやはり、人間の力であることは間違いありません。

人権が踏みにじられる、生命が脅かされるほど超高速にテクノロジが進化しすぎて制御不能になることまで良しとするのは、結局は多くの不幸を招く結果になりそうです。

技術の進歩に、人間がついていけるほどの余裕を儲けることはもちろんのこと、不幸な事故が発生した場合に備えた制度設計、保険制度、法整備なども十分に整えていかなければいけませんね。