INASOFT 管理人のひとこと


フリーソフトダウンロードサイト「INASOFT」の管理人 矢吹拓也 が日々の「ひとこと」を語るページです。
2021年1月1日より、旧ブログ(blog.inasoft.org)からお引越ししました。
・INASOFT Webサイト: https://www.inasoft.org/
・管理人のふたこと(長文記事/寄稿文): https://www.inasoft.org/talk/
本業の方のお仕事が再び忙しくなりつつあるので、断続的にしばらく更新が止まることがあります。

目次 | ←前へ / 2020-05-21 00:00 / 次へ→ / 最新へ⇒

■Googleが、YouTubeが、巨大IT企業が、GAFAが、AIが支配する世界。すでに支配されている人々とは

2020/ 5/21 0:00:00


RSSRSS配信中

https://www.inasoft.org/








先日、YouTubeを見ていたら、何人かのユーチューバーさんが次のようなことを言っていました。

  • ある日突然、収益化が動画単位、あるいは、アカウント単位で停止されることがある。事例は次の通り。
  • COVID-19に関連した単語が登場すると(表示すると、口にすると)、動画単位、または、アカウント単位で収益化が停止される。
  • ASMR関連の動画をアップすると、ある基準に基づいて、動画単位、または、アカウント単位で収益化が停止される。基準は不明確である。
  • そういうことがあるので、自身のASMR関連の動画はすべて削除した。
  • 「ゆっくり」な顔の画像を使った動画をアップロードすると、「似たような著作物がコピーされた」と見なされて、収益化が停止されるらしい。
  • 自身のYouTube動画の使用をテレビ局に許可したところ、テレビ放送されたとたんに、自分の動画が「著作権法違反の訴えがあった」と止められてしまう。
特に怖いのは3番目の、明確な基準なしに、理由もわからず動画単位、または、アカウント単位で収益化が停止されてしまうところですね。

不明な基準におびえながら、不当に収益化停止されてしまうことを恐れながら、ユーチューバーさんたちはクリエイティブな動画創作活動をせねばならず、大変なストレスを感じていると思います。

このあたりは、YouTubeの運営プログラムが、一定のアルゴリズムに基づいて自動的に停止してしまうらしいので、「なぜ自分の動画の収益化が停止させられたのか?」と聞いても「ガイドラインをよく読んで自分で判断してください」としか答えてくれないんだとか。

おそらく、何らかの基準を設けるのは人間でも、結局はプログラムが、アルゴリズムが自動判断するので、その判断過程がどうだったかを人間が把握するのは難しいのかもしれません。あるいは、1件1件を判断するのは不可能ではないのかもしれませんが、その問合せが一気に数万件も寄せられたりなどすると、大変だから、一律「人間は判断しない」としているのかもしれません。

まぁ、こういうのを聞くと、2012年に発生した連続誤検知問題のことを思い出してしまいます。これもまた、(人間が誤って準備した)アルゴリズムが自動的に、不正確な判断をしてしまっていた/人間が行って修正の結果を自動的に定期的に(誤って)上書きする仕組みになってしまっていたことがわかっており、似たような問題だと言えます。


が、今回、自分のところにも似たような問題が起きていました。

昨日(2020/5/20)の未明ごろ、Googleから次のようなメールが来ていました。

20200520_google_ai_error1.png

なにやら、INASOFTのサイト上に違反があって、違反のあったページ単位で収益化が停止させられているとのこと。

慌てて飛び起きて、調べてみると、次のような警告が出ていました。

20200520_google_ai_error2.png

kamionovelsは、葦葉製作所のWeb小説を掲載しているページですが、このページについて、2020/4/18時点において「悪質なソフトウェアまたは望ましくないソフトウェア」を載せている、とのこと。

2020/4/18時点のステータスとして、広告表示を停止しているとのことでした。

なんで小説ページに、悪質なソフトウェアまたは望ましくないソフトウェア?

明らかに誤判断だと思います。

そして、慌てて該当ページを見てみると、普通に広告は表示されておりました。

20200520_google_ai_error3_s.jpg

(ちなみに現時点でも、普通に広告は表示されています。そして警告は消えています)

どうやら、2020年4月18日のある時点では、(誤った)アルゴリズムの自動判断により、小説ページのHTMLに「悪質なソフトウェアまたは望ましくないソフトウェア」が載っていると判断され、広告表示が停止されていたようだが、アルゴリズムに修正が入ったかなんかで、やっぱり「悪質なソフトウェアまたは望ましくないソフトウェアは載っていない」と自動判断され、広告表示が再開したということであると思われます。

というわけで、この警告メールが届いた時点では、すでにGoogle側で誤ったアルゴリズムは撤回されていたということみたいですね。

なんでしたっけ?昔、肌色が多いとポルノ画像と判断するというアルゴリズムを仕込んだら、砂漠の画像が削除された、みたいな話がありましたけど、そんな感じですかね。

ちなみに仮に、誤ったアルゴリズムが撤回されていなくて、Googleに異議申し立てをしようとしても、「Googleの判断が間違っているから見直せ」という申し立てはできなくて、「サイト管理者の側で何らかの対処を行って再審査を要求せよ、再審査はいつになるかわからないが。何もしないで再審査をすると、悪質な管理者としてマークされる」みたいな感じなんだとか。

まるでさっきの、YouTubeの収益化停止の件と同じですね。

さっきは、「不明な基準におびえながら、不当に収益化停止されてしまうことを恐れながら、ユーチューバーさんたちはクリエイティブな動画創作活動をせねばならず、大変なストレスを感じていると思います。」などと、ユーチューバーさんたちを他人事のように見ていましたけど、実は自分自身のこととして見なければならなかったようで。

現在のYouTubeはGoogleが運営していますので、どっちもGoogleが作った自動アルゴリズムの不明さ、というか、それに対して人間が責任を負わない体制のようなものが見えてきているわけですけど、今後、様々なことが自動化されていったとき、ユーチューバーさんたちのようなクリエイターの方々や、自分のようなサイト運営者だけでなく、Googleのサービスを用いて活動するすべての人々……会社員であっても、公務員であっても、学生であっても……が、Googleの誤判断に怯えながら生活をする必要が出てくるかもしれません。

Googleだけとも限りません。

AppleやAmazonやMicrosoftだって、そういう自動判断をプログラムにやらせているでしょう。GAFAのFはなんでしたっけ。まぁいいや。

さっき話に出てきた、ウイルス対策ソフトのメーカーもそうでしょう。

最近は、人々はこういうのを指して「AIの判断だ」みたいに言ってしまうことがあって、「AI」という言葉の示す範囲の曖昧さに辟易するんですけど、まぁ今回はそれに乗っかることにしましょう。

AIの判断なので異議申し立ては受け付けない、誤っていてもそれに従っとけ」みたいな時代は、未来のSFの話ではなくて、すでに現在進行形の話になっています。

ユーチューバーや、サイト管理者は、すでに、「AIの判断」にビクビクしながら日々を過ごす日常に突入しています。

このブログも、こうやって「AIの悪口」を書いているので、仮に「AI」が善悪を判断できるようになった際には、潰されてしまうんでしょうね。

普通の人が思い浮かべる「AI」というと、ドラえもんとか鉄腕アトムみたいなロボットを想像しそうです。彼らならば、人間の異議申し立てを真摯に検討してくれるんでしょうけど、現在の現実に存在するとされている「AI」は、そんなことしてくれないようです。

結局のところ、「(コンピュータの)上に立つ人間」が、「AIの誤判断」に対してきちんと責任を取り、「AI」をコントロールしてくれる体制がないと、人間に訪れる未来はディストピアです。かつてのトレンドマイクロ社にしても、(残念ながら)現在のGoogleにしても、人間不在の体制が(仕方ないとされる体制が)、ディストピアな社会に人類を向かわせています。

AIが一部の都市の市政までをも担うようになった、新世紀エヴァンゲリオンの「MAGI」システムのように、将来、政治も「AI」が担うようになった場合、何が起きるのでしょう。使徒によるハッキング以前に、バグはないでしょうか。異議申し立ては正しくタイムリーに行われるのでしょうか。

星新一氏のショート・ショートに、政治を担うようになったコンピュータが、ある事件をきっかけに国民の絶対的な信頼を得るようになったが、小さな故障が入り込んだことをきっかけに「人間は四つん這いであるくべきである」という誤判断を下してしまって、人間がそれに盲目的に従う、という話がありましたけど、そんな話を思い出してしまいます。

他者・他社の利益を侵害するかもしれない最終判断を機会にやらせて人間が未チェックでよいのかについては、もうちょっと議論あるいは技術力向上が必要な気がします。



目次 | ←前へ / 2020-05-21 00:00 / 次へ→ / 最新へ⇒


目次の表示:


ブログではないので、コメント機能とトラックバック機能は提供していません。ご質問・ご意見等はメールフィードバックまたはTwitter等からお願いします。いただいたご質問・ご意見などは、この「管理人のひとこと」の記事に追加、あるいは新規の記事にする形で一部または全文をそのまま、あるいは加工させていただいた上で、ご紹介させていただく場合があります。
当サイトでは掲載内容による不具合等に関する責任を持ちません。また、内容の正確性についての保証もありませんので、情報をご利用の際は、利用者の自己責任で確認をお願いします。本ページは公開から1年半後の任意のタイミングで削除される予定です。




2511897 (+0065)[+0536]

Copyright© 2010-2021 INASOFT