INASOFT 管理人のひとこと

先日、NHKのニュースかなんかで、最近ネット上を騒がせている残酷画像・残酷動画をフィルタリングする需要が高まっていることから、フィルタリングソフトを開発する会社の処理が増えているという話が出ていました。

となれば、処理の増加は将来は自動化という道を辿り、将来の自動化により、普通のメーカーロゴとか、何でも無い解説記事の図解画像とかが残酷画像として誤フィルタリングされ、それを解除するしないでメーカー側怠慢で一悶着する未来が見える感じがしますね。

メーカーが増えているということは、そういう不心得なメーカーも少なからず混ざるでしょう。業界としての取り組みに期待したいところ。

将来的にこういうのは、フィルタリング会社の作業コストの過度な軽減により、半自動化とか、全自動化とかしちゃうんだろうからね。そういったところに、不正報告のリスクとか、判断プログラムへのバグ混入のリスクが大きく出てくるのだが、メーカーにそれに対応する体制が十分に敷かれていないと、以前にウイルス対策ソフトの誤判定であったような、悲しい事態に陥ることは目に見えているわけです。

こういうのって、勘違いしてはいけないのは、問題の中心として据えるべきは自動化割合が高くなりすぎたときに、それに関わるトラブルがメーカー側に発生した際、不利益を被るのは誤フィルタリングを受けたサイト運営者であったり、閲覧不可能となった利用者だったりするんだが、メーカー側ではそれに対応する要因が十分に確保されておらず（何せ、コスト削減されていますからね）、しかも対応者の対応レベルが低かったりとかして、事なかれ主義だったり、表面的な対応だけに終始するとかして、本来あるべき解決の姿に一向にたどり着かない、みたいなことが発生することなんですよね。別にフィルタリング行為をすべきとかしないべきとか、残虐な画像でも誰に目にも届けるようにすべきとか、そういう論点は議論していない。そこんところを誤解なさらぬようにお願いします。

自動化後の誤フィルタリングに対する「人間的」な体制が正しく敷かれていなければ、以前にうちのサイトが被害を受けたような、トレンドマイクロ社のウイルスバスターみたいな、あんな感じの事態になることは想像に難くないわけだし、誤フィルタリングを下したソフトの奥深くにバグが潜んでいるとかで、メーカー側のオペレータによるフィルタリング解除が行われた後も、定期的に誤フィルタリングの対象に逆戻りするとかいう事態が起きたり、根本解決に１年半かかったりする、みたいなことが起きたりします。

こういう、フィルタリングみたいなやつは、メーカー側の権限により、インターネットの一部を強制的に切り離す状況を作り上げてしまうことになる。一民間企業が警察権のようなものを持って、インターネット上で振る舞うようになってしまう危機感があるわけです。しかも誤フィルタリング冤罪で。

冤罪を本気で解こうとするやる気が、メーカー側の体制に反映されていないと、後々不幸なことになることは間違いないでしょう。

で、さらに利用者側についても、フィルタリングメーカーを信者的なレベルで信じてしまい、誤フィルタリング冤罪被害者を過度に非難する輩が現れるとか、あるいは風評被害を広めたがる輩がいるとか、そういった周辺的な事情も出てくるでしょう。

ウイルス対策ソフトメーカーによる冤罪については、一般企業のシステム担当者の「事なかれ主義」が、冤罪被害を広めるのに（悪い意味で）一役買ったわけだが、こういう誤フィルタリングの場合は、企業というよりは、学校や親などが該当するでしょうか。

学校や親が、インターネットの専門知識のような物を持っていなかったりとかして、（信者的というよりは、能力的にそれしか出来ず、）誤フィルタリングを受け入れるしかないみたいな状況になるのが怖い。誤フィルタリングを受けたサイト運営者も不幸になるが、気づかないところで利用者も不幸になります。

利用者は不幸になっていることに気づかないから、誤フィルタリングしたメーカーに報告が上がったり、あるいはメーカーの質について評価する機会が無くなっちゃって、不幸は見えないところで長続きしたりします。

もしかすると、誤フィルタリングを受けているサイトも、自身で誤フィルタリングソフトを使うこともないだろうから、誤フィルタリングされていることに気づかないまま何年も放置されるって事もあるかも知れません。

誤フィルタリングソフトのメーカーの怠慢により、利用者・サイト運営者共に、お互いが気づかないまま不幸に鳴り続けるエンドレスになるってのが怖い。

サイト運営者からの苦情受付窓口みたいなのも、きちんと準備しておかないとダメですね。きちんと、例え相手が個人だろうと、紳士的にすばやく動いてくれるような。
ネット上で警察的な振る舞いをするんであれば、当然それくらいをする義務はあるでしょう。

サイト運営者は誤フィルタリングソフトのシリアル番号みたいなのを持っているわけではないのだから、シリアル番号がなかろうと、紳士的に苦情を処理してくれるようしてくださいね。