20.06.02
ヤフーがネット上の投稿が不適切かどうかをAIを使って判断する技術をSNSの事業者などに提供
今知っておくべき注目のトレンドをネットメディアを発信する内側の人物、現代の情報のプロフェッショナルたちが日替わりで解説します!!
今日、お話を伺うのは、ジャーナリストでメディアコラボ代表の古田大輔さんです。
古田さんに伺うニュースはこちら!
『ヤフーがネット上の投稿が不適切かどうかをAIを使って判断する技術をSNSの事業者などに提供』
ヤフーは昨日、6月1日、『Yahoo!ニュース』コメント欄の健全化に向けて使用しているAIを外部の事業者に提供する方針を明らかにしました。
現在、ヤフーでは、ディープラーニングを使った自然言語処理モデルで、個人への誹謗中傷などの悪質コメントを検知し、1日に平均2万件あまりを削除しているということで、この技術を提供し、他社を含めた投稿型のサービスの健全化を図るとしています。
鈴村:ヤフコメといわれるものですよね。ヤフコメは、けっこう荒れるコメントをすることで有名といわれてたりしますけど、これは1つの試みとしていいのではないですか?
古田さん:そうですね、いろんな論点があると思います。ところで、鈴村さんは最近、ヤフコメは見てますか?
鈴村:僕は、あんまり見ないようにしているんですよね。自分の身は自分で守る方針なので。はっきり言って、あそこから得る情報は、僕にとって有益だったことはないので見ないようにしています。
古田さん:ヤフコメ欄は、人種差別とか人権侵害がむちゃくちゃ激しいことで有名だったんですよね。ただ、それに対してヤフーは、ずっと対策は取り続けていてですね、実は、何年も前から24時間監視をして削除するとか、今回みたいなAIを用いたような対策をやっていたんですよ。なので、そういったコメントは徐々に減っていったんですよね。
鈴村:あっ、そうなんですね!?
古田さん:ただ、今回の宣言で僕が注目したのはですね、『誹謗中傷などの他人を傷つける表現行為は許されない』というかなり強いメッセージを打ち出しているんですよね。例えば、人種差別、で言うと、「○○人は叩き出せ!」とかですね、人権侵害だと、「アイツは馬鹿でどうしようもない!」みたいな明らかな物ではなくて、この“他人を傷つける表現行為”というのは、実は、とても見極めるのが難しいですよね。「あれはちょっと好きではない」みたいな言い方を誹謗中傷と言うのか?でも、それが100万人に言われたら…。例えば、自分が声優として参加している作品がそう言われたら辛いですよね。
鈴村:そうですよね。
古田さん:でも、全くそういうのがないのも、不自然といえば不自然ですよね。
鈴村:うん、うん、そうですよね。
古田さん:人それぞれ好き嫌いがあるので、そこをAIがどこまで判別できるのだろうか?と。これはとても難しい議論になってくると思います。
鈴村:そうですよね。何が傷つくかって人それぞれじゃないですか?僕は、本当にあんまり見ないようにしているというのもあって、“自分が何に傷つくのか?というガイドライン”が自分でもなくて、ふとした拍子に傷つくことがいっぱいあるんですよ。例えば、「太りやがったなコイツ」みたいなことが書いてあったりすると、「そうそう、確かにちょっと太ったよ!」とか思うんですけど、やっぱり傷つくんですよ。何の気もなく書いていると思うんですけど、ああ人として思ってないなと思うんですよ。本当に身近な人、親戚、家族だったら、「太った?きみ」とか言うかもしれないんですけど、本当に親しい人じゃないと、そういうこととか言わないじゃないですか。でも、会ったこともない人に「太ったな」と言うのは、“傷つくよ”ということに気付いた方がいいよと思いますね。
古田さん:街中ですれ違いざまにその言葉を言いますか?って言いたいんですよね。
鈴村:そうですよね!本当にそう!でも、そういうのをAIが判断するのは難しいですよね。
古田さん:はい。なので、それを外部提供までするということなので、この動きに関しては、今後も注目しています。
鈴村:今の話で言うと、SNSなどでも誹謗中傷がいろいろと出ているわけですけれども、法的処置を検討しているという話も増えてきましたよね?これについてはどう思われますか?
古田さん:攻撃を受けたと感じた人たちが訴訟をするという権利は、もちろんあるんですよね。そして、そういうことを宣言することによって、誹謗中傷をする人たちに対して抑止効果もあると思います。なので、それ自体はいいことだと思うんですよね。それに対して、表現の自由が侵されるという人たちがいますけども、そういう人は、もし、表現の自由に基づいて、信念に基づいてやっているのであれば、裁判所でそう主張すればいいと思います。
ただ、問題が2つあってですね、1つは、とは言え、長い間、裁判で戦うのは大変なんですよね。なので、そうしなくてもいいように、今まさに、政府も検討を進めている、発信者情報の開示を簡素化すると。匿名でやっていても、一体誰がやっているのかをわかりやすくするというのが1つ。あともう1つがですね、逆に、正当な批判に対してもバンバン裁判をするようになったらですね、これは、やっぱり、本当に表現の自由が侵される可能性があると。いわゆる、スラップ訴訟というんですけど、誹謗中傷をする人を黙らせるために裁判をバンバンやるみたいなことが起こらないような、何らかの対策を考えないといけないと思います。
鈴村:そうですね、そこってね、表現の自由と常に隣り合わせだと思いますもんね。でも、最近思うのが、“カテゴライズしたがる人”が多い。発言したら、「きみは右だね」、「きみは左だね」みたいなことが多いじゃないですか。カテゴライズして物事を考えてしまうというのは、すごくもったいないなって思いますよね。
古田さん:そうですね。ポジティブに物事の議論を進めることができなくなるんですよね。相手を敵認定して、相手の言うことはみんな聞かないみたいな、それはやめた方がいいと思いますね。
そして、今日の #スズコメ はこちら。
"リポビタンD TREND NET” #スズコメ ? #ワンモ
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) June 2, 2020
今朝は【ヤフーがネット上の投稿が不適切かどうかをAIを使って判断する技術をSNSの事業者などに提供すると明らかにしたニュース】について
SNS含め誰もが発信できる時代に出てきた問題ですよね。誹謗中傷がたくさん世の中にある状況です。
#スズコメ ? #ワンモ
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) June 2, 2020
これは色んな観点で見ていかなければいけない話で、
表現の自由、SNSは匿名性だから伸びてきたという部分は確実にあるけど、そこに議論がいくとどうしても何をやってもいいという話になってしまうのではないかと思います。
#スズコメ ? #ワンモ
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) June 2, 2020
人として人と付き合うことを考えた時に「そんなひどいことが言えるのかな?」と思いました。
面と向かって会えた人に死ねなんて言えませんし、番組でも例えで出しましたが「あいつ太ったな」というような事がTwitterに書かれていたりするとタレントの人は傷付くんですよね。
#スズコメ ? #ワンモ
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) June 2, 2020
僕も傷つきます。実はそれは人と思われていないんだと思っています。でも僕は人ですし皆さんも当然人で、人と人のコミュニケーションを繋いでくれる素敵なツールがSNSだったりしたはずが、人間の関係として当たり前のことがSNSを通すだけで一気に崩壊している感じがします。
#スズコメ ? #ワンモ
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) June 2, 2020
それ以外にも何かを否定する事が表現だという風潮もすごく感じます。
面白いなと思ったのはONE MORNINGをやっていても
SNSですべてを否定する人は一定数いて、何をやっても否定する事がアイデンティティだったり、否定するためだけのアカウントを作っている人もいるみたいで。
#スズコメ ? #ワンモ
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) June 2, 2020
逆に僕が微笑ましく思ったのは、アイスをもらえるキャンペーンがあった時に「アイスクリームとか甘い物は自分が汗水たらしてお金を稼いで買ってこそ美味しいものだと思います」という書き込みがあった時。
そこまでして否定しなくていいよ!って思いました。
#スズコメ ? #ワンモ
— TOKYOFM/JFN『ONE MORNING』 (@ONEMORNING_1) June 2, 2020
そういう目線でしか物事を見られない事は物凄く人生損してるな残念だな。ちょっと可哀想とすら思いました。人と人が付き合うことは否定ではなく、でも肯定一本鎗でもない。人とコミュニケーションを取っているんだという事だけ忘れない。これを覚えておいてほしいと思いました。