INASOFT 管理人のひとこと

■「うちのプログラムがすいません」と謝るのは誰になるか／安物自動運転車と被害者の関係はどうなるか

昨日、ポッドキャスト番組の「そんない理科の時間」の第161回を聴いていたところ、ロボット・自動運転についての話題が採り上げられており、大変興味深く拝聴しておりました。

その際、ロボットや自動運転車が実用化された未来に発生するかもしれないこととして、事件・事故が起きた場合の責任の所在について語られていました。

例えばロボットが暴走して他人の家の壁に穴を開けた場合、責任は誰が取り、誰が罰を受けることになるのか？

ロボットの所有者が責任を取ることになるのか？ロボットの製造元が責任を取ることになるのか？

壁に穴を開けたのが、ネズミを見て暴走したドラえもんだったと仮定するならば、ロボット自身が責任を取り、ロボット自身が罰を受けることもあり得る。しかし暴走の原因を調べるため、製造元、特にプログラマには、事故の調査をするための責任は生じるのではないか？

ドラえもんのようなロボットを考えるとだいぶ未来の話になりそうだが、自動運転車だったら、わりと近い未来になるかと思います。

この場合、自動運転車が交通事故を起こしたら、誰が責任を取り、誰が罰を受けるのか？

現実には、自動運転車のドライバーは緊急時に停車する義務があるので、酒に酔って乗った場合は、例え自動運転車であったとしても、飲酒運転となり逮捕されます。

（そういえば、映画『STAND BY ME ドラえもん 2』では、結婚式前夜に同級生たちと酒を飲み、酔ったのび太が自動運転車に乗って帰宅するシーンが描かれていましたが、これはもっともっと先の未来なんでしょうね）

このため、自動運転車であっても責任を持ち、かつ、罰を受けるのは、車のドライバーということになります。ただ、事故の原因を探るためのログやプログラム解析などで、製造元、特にプログラマには、事故の調査をするための責任・義務は生じるのでしょう。製造物責任という概念もあります（PL法）。場合によってはリコールとなります。

また、事故が起こる可能性があるなら、公道を自動運転車が走ることを認めてはいけないのではないか？という議論もありました。

これについては、例えば現存の自動車であっても、事故がある程度起きることを許容しながら運転を認めているわけで、この例に倣うならば、自動運転車についても、事故がある程度起きることを許容しながら運転を認めることになるのでしょう。

これは、自動運転タクシーが生まれ、酒酔い客が乗車する場合も同じなのでしょう。

ここまで聞いたとき、そういえば昨日まで書いていた、セキュリティソフトの誤検知についても、全く同じことが言えそうな気がしてきました。

セキュリティソフトは、利用者のPCの中で自動運転されています。これが誤検知…というか誤動作をした場合、どうなるでしょうか。

PCの所有者(セキュリティソフトの利用者)は責任を負うのか？ セキュリティソフトのメーカーは責任を負うのか？

前者はなんだか違うような気がしなくもないですが、最終的にPCの環境保全というか、どのソフトを採用し、どのソフトを採用しないかを決めるのはPCの利用者(管理者)ですから、最終責任は負うのかもしれません。例えばPCが重くて買い替えたいと思うとき、金を払うのはPC利用者です。

でも、直接的な意味で責任を負うのは、やはりセキュリティソフトのメーカーなのでしょう。セキュリティソフトのメーカーなりサポート担当者なりは、「うちのプログラムがすいません」と、プログラム(ロボット)に成り代わり謝罪します。謝罪というのは人間に与えられた重要な仕事のうちの一つです。ドラえもんくらいAIが発達したら、ロボットによる謝罪も意味を持つのかもしれませんが。そして、プログラム改修のための責任をメーカーなりエンジニアなりが負います。

そういえば、安物セキュリティソフトを買ってしまった場合、その責任はPCの所有者(ソフト購入者)にあるのか？ 安い対価しか得ていないメーカーはどこまで責任を追及されるのか？という問題もあります。

安かろう悪かろうを認識して買ったのならば、その責任はPCの所有者(ソフト購入者)にも帰すべきという考えです。これもまた一理ありそう。

長くなりそうなので、今日のところはここまで。
明日は、これに第三者として「誤検知による冤罪被害者／作者」「安物自動運転車に轢かれた被害者」が加わったらどうなるか？を考えたいと思います。

➡2022年5月8日 「安物のセキュリティソフトのやることだから、誤検知は仕方ない」論は通じるのかどうか