ネット炎上、フェイクニュース、生成AIの世論操作…「誰もが当事者に」なりうるSNSで、必要な心構えとは

仕事から日常生活まで、あらゆるシーンで欠かせない存在となっているインターネット。インタビューシリーズ「今と未来のインターネット」では、インターネットにさまざまな形で関わる企業や自治体、学校関係等に話を聞き、活動や思いを通して、読者に多様な視点や新たな知見をお届けします。

今回お話を伺ったのは、国際大学グローバル・コミュニケーション・センター准教授の山口真一氏。ネット炎上やフェイクニュースなどに対しエビデンスに基づいた対策を講じるため、計量経済学の立場からデータ分析の手法を用いて研究しています。

調査研究で浮き彫りになった炎上やフェイクニュースの実態、SNSを利用する上で気を付けるべきこと、研究の背景にある想いなどについて、お話しいただきました。（本文中：敬称略）

「表現の萎縮を招く」ネット炎上、エビデンスに基づく対策に向け研究

川上

現在の先生の研究テーマについて教えてください。

山口真一氏（以下敬称略）

私は経済学博士で、特に専門としているのは計量経済学というデータ分析手法です。現在はその手法を使って、SNS上のフェイクニュースや誹謗中傷、ネット炎上といった諸課題、それから情報社会における新しいビジネスモデルやソーシャルメディアマーケティングなどを研究しています。

川上

経済分野の研究者として、どのような理由からSNSを研究テーマに選んだのでしょうか。

山口

：SNSに関する研究は博士課程在学中の2014年にスタートし、現在メインのテーマになっています。研究を始めたきっかけは「ネット炎上」というキーワードです。

2014年当時は、一般の方の発信でもネット炎上が頻発し、ニュースなどでたびたび取り上げられるようになった頃でした。

一方で、社会的な問題となっているにも関わらず、炎上したらまず謝罪を、仕返しはNG…など、対処法ばかりが情報として出回り、実証的な炎上の研究はほとんどなかったんです。エビデンスがない状態でいろいろなことを好きに言っていても、本来必要な予防や対策はできません。

自分は計量経済学でデータ分析を専門にしていて、これはどんな分野にも応用できる手法です。ネット炎上の解決策を探り、炎上による大きな社会的コストを軽減するためには、エビデンスベースで考える必要があると考え、自分の専門をいかし実証研究を始めたというのが最初の出発点です。

川上

ネット炎上の社会的コストについて、具体的にはどのようなマイナスがあるとお考えでしょうか。

山口

ネット炎上によるネガティブな影響は、二つあると思っています。

一つは、当然ながら対象となる人や団体が被る被害です。巻き込まれた人は深く傷つき、場合によっては仕事や学業などにも支障をきたします。企業でも株価の下落や倒産などが考えられます。

もう一つ、個々への直接的な悪影響だけではなく、広く社会的にもマイナスがあります。それは、表現の萎縮が起こるということです。

例えば、ネット上で政治やジェンダーなどのセンシティブなテーマについて意見を言うと、自分と異なる意見を持つ人たちから、ものすごい勢いで攻撃をされてしまいます。そこと一つ一つやりとりするのは労力がかかりますし、放置したとしても普通の方は心身ともにダメージを受けるでしょう。すると、そういう経験をした人の多くは、議論をやめ、SNS上で表現をしなくなってしまいます。

炎上の結果として表現が萎縮する…これが、ネット上では今、当たり前に起こっています。ネット炎上から完全に逃れるためには、発信しないことが最も簡単な方法です。表現としての発信をやめることが一番の予防策になってしまっているんです。

誰もが自由に表現できる時代だからこそ、その表現が他人の表現によって萎縮してしまう。ある意味矛盾であり、社会にとっても大きな損失です。

川上

なるほど。対象となった人や組織だけではなく、社会全体にも悪影響があるんですね。

山口

SNSの研究と経済学の接点についてもう一つ、私がいつも考えているのは、経済学の根底に何があるのかということです。諸説ありますが、私の解釈では、経済学というのは「社会的厚生」を最大にする施策を考える学問だと思っています。

社会全体の厚生、あるいは満足感と表現しても良いかもしれませんが、人々の幸福感とか満足感を全部足し合わせ、その足し合わせた合計値をより高くするというのが、経済学の根底にある考え方だと私は理解しているんです。

これが経営学との最大の違いで、経営学は企業の利益を最優先するのに対して、経済学は、企業だけではなくさらに消費者や社会の全ての人々の幸福にアクセスするんです。SNSはこれだけ社会に普及しているので、当然社会的厚生にも大きな影響力を持っています。SNSの研究を通して何か気づきを得ることができて、そしてその知見を社会に還元し、人々の行動変容を起こすことができれば、社会的厚生を高めるのに寄与できるのではないでしょうか。

「偏った正義を振りかざす」、ネット炎上加担の背景にあるものとは

川上

SNS上の炎上や誹謗中傷はどのような動機、感情から投稿されるのでしょうか。

山口

例えば他人を悪く言いそしる「誹謗」は、調査によると、書き込む方は誹謗だと思っていないケースが非常に多いんです。もちろん意図的に攻撃しようと考えている人もいると思いますが、多くの場合、投稿者は正当な批判であると思っていて、故意に傷つけようとはあまり考えてないという実態があります。

根拠のないことを言って名誉を傷つける「中傷」も、多くの場合は、意図的にデマを投稿しようと思っているわけではないと私は思います。

実際に起きた事例でいくと、あるコスプレイベントがSNSでデマを流され、中止に追い込まれるということがありました。そのコスプレイベントについて投稿された「無許可です」「通報された場合、コスプレしたまま事情聴取される可能性が高い」などの内容が拡散し、「ルールを守らない団体」と炎上してしまったんです。

実際は場所や人数規模から法令上の許可を取る必要はなく、主催者がその説明をしたもののキャンセルが相次いでしまったそうです。この事例は、イベント主催者が投稿者らを名誉毀損で訴え、損害賠償を命じる判決が確定しています（参照：弁護士ドットコム『「無許可です」SNS投稿でコスプレイベント中止、暴走した女性レイヤーの”歪んだ正義感”』）。

判決では、「イベント実施には何らかの許可が必要であるとの思い込み」があったとされています。故意に嘘を流して迷惑をかけてやろうというものではなく、自分の投稿は正しいと思い込んでいたのではと思います。

川上

投稿者は、正しいことをしていると思っているケースが多いんですね。

山口

私が研究でネット炎上において投稿の動機を尋ねたところ、「許せなかったから」とか「失望したから」という理由が多く、投稿者のうち六割から七割の人はその人の中での正義感に基づいて他者を攻撃しているということがわかっています。

ただしここでいう正義感は社会的正義ではなく、あくまでもその人の中の正義感、個人的な正義感です。1億人いれば1億通りの何が悪い、何が正しいという価値観がありますが、ネット炎上はそうした多様性を認めない、偏った正義を振りかざした一つの姿かなと思います。

脳科学の分野では、悪者を見つけて正義感をもとにバッシングすると、快楽物質のドーパミンが出ると言われています。端的に言うと、気持ちいいわけです。ネット上でその人にとっての悪者を攻撃し、気持ちよくなる…その味をしめた人が次から次へといろいろな人を攻撃する、いわゆる「正義中毒」とも言える状態なのではないでしょうか。

川上

そのように偏った正義を振りかざしてしまう投稿者は、SNSを使っている人たちの中でも多いのでしょうか。

山口

私が以前、炎上事例についてX（旧Twitter）の分析をしたところ、多くの炎上において、X上にネガティブなコメントをしている人はネットユーザー全体の約0.00025%しかいないことがわかりました。40万人に1人の声ということです。また、炎上1件に対して大量に書き込みをしている人もおり、一部の人が繰り返し投稿しているという状況もあります。（参考：『ソーシャルメディア解体全書: フェイクニュース・ネット炎上・情報の偏り』、勁草書房）。

しかしネガティブな投稿の方が目立ち、見た人の印象に残りやすいため、例えば何かの言動に関して炎上してしまった人がいると、あたかも社会全体から批判されていると我々は錯覚してしまうのです。

さらに、何か炎上している事案を見たときに、批判されている言動について「そのぐらい別にいいんじゃないの」と思っている人は、その意見を多くの場合書き込みません。なぜなら、擁護した瞬間に自分が攻撃されてしまうリスクがあるからです。中庸な意見を持っている人は、積極的に投稿せず、極端な意見を持っている人ほど、投稿しやすいというバイアスがあるんです。

川上

実際の意見の割合と、投稿された意見の割合にずれがある可能性があるんですね。

山口

そうですね。以前、私が行った実証実験の内容をご紹介します。その実験では、約3000人ぐらいを対象に憲法改正について「非常に賛成」から「絶対に反対」まで7段階で回答してもらい、その回答の意見分布と、それぞれの人がSNSに投稿した回数の分布を見たんですね。

その結果、回答の意見分布では「非常に賛成」とか「絶対に反対」の回答をした人は非常に少なくて、「どちらかといえば賛成」とか「どちらかといえば反対」という中庸な人が多い、山形の意見分布を描いていました。一方で、憲法改正についてその人たちにSNS上での投稿回数を聞いたところ、最も投稿数が多かったのは、「非常に賛成」の意見だった人で、次に多かったのが、「絶対に反対」の意見だった人です。この人たちは、回答者の中では7%ずつ、合計14%しかいなかったにもかかわらず、SNSの投稿数では46%、約半分なんです。この結果から、極端な意見が表出しやすいのが、SNSだと言えると思います（参考：『正義を振りかざす「極端な人」の正体』、光文社新書）。

例えば世論調査であれば、無作為抽出で選ばれた人が、聞かれたから答えるという型式のため、より社会の意見に近いと考えられます。しかしながら、SNSというのは聞かれたから答えるのではなく、自ら投稿するという能動的な発信です。そうすると、強い思いを持っている人は大量に書き込むのですが、どちらでもいいかとか、どちらかといえば賛成・反対ぐらいの人は、そもそもどちらでも良いので、書き込む動機があまりないんです。ただでさえ投稿するインセンティブが小さいのに、さらに攻撃が怖くて表現が萎縮しているので、ネット上には極端な意見ばかりが目立ってしまう状況になっています。

私たちは、ネット意見を世論と思ってしまいがちです。しかし、その背景にはバイアスがあり、極端な意見や批判的、攻撃的な内容がより見えやすくなっています。その前提を踏まえて情報に接する必要があります。

誰でも当事者になる得る—SNS利用に求められる心構え

川上

昨年10月にプロバイダ責任制限法改正されました。改正による誹謗中傷対策としての効果について、先生はどのようにお考えでしょうか？

山口

被害者の救済という意味では、一定の効果はあると考えています。ネット上の発信から投稿者を特定して裁判をおこすのは、とても大変な作業です。今回の改正で、匿名の投稿者を特定しやすくなったという点は、一歩前進だと思います。

もう一つ、抑止力という面でも、少し限定的かもしれませんが、効果があるといえるのではないでしょうか。

プロバイダ責任制限法の改正が報じられ、さらに被害を受けた芸能人や著名人が投稿者を訴える事案がニュースでもたびたび取り上げられるようになりました。匿名で投稿しても特定される、SNSの誹謗中傷で訴えられることがあると認知されることで、一定の抑止効果があるのではないかと思います。

川上

先生が最初におっしゃったような社会の厚生を高めるために、SNSを発信する際に気をつけること、注意すべきことは何かあるでしょうか？

山口

私がよく言ってるのは、投稿する前に読み返してほしいということです。現代は、「人類総メディア」ともいえる時代です。誰でも気軽に投稿できるというのは良いことでもありますが、見方を変えると過剰な情報発信力を個人が持ってしまったとも言えます。例えば、私が今この瞬間に、バイデン大統領にX上でヘイトスピーチを送ることもできてしまうんです。そんな力を誰もが当たり前に持っているのは、ある意味異常なことですよね。

テレビや新聞などのメディアしか発信力を持たない時代であれば、二重三重のチェックが入り、世の中に出して良いか吟味された情報が我々の目に触れていました。そうしたチェックを経た情報でさえ、間違ったり、問題になったりするケースがあるわけです。

今は、何のチェックもされていない情報を簡単に世の中に出せてしまうため、発信内容について考える時間が猛烈に減っているのではないでしょうか。例えばテレビを見ていて、出演者の発言で何か気に食わないことがあると、すぐにその場でヘイトを書いてしまう。こういうことを防ぐためには、やはり投稿する前に冷静になり、1回自分で読み返す癖をつけることが大事だと思います。

川上

確かに、一度読み返すだけでも、自分の投稿が他人にどう見えるのか、冷静に判断できるかもしれないですね。

山口

そうですね。もう一つは、当たり前のことですが他者を尊重する気持ちを忘れないということです。自分が言われて嫌なこと、自分がやられて嫌なことを相手にしない、小学生でも知っている当たり前のことを全員が大切にしたら、誹謗中傷問題はぐっと減るのではないでしょうか。

そして、心に留めてほしいのは、炎上につながる攻撃や誹謗中傷は、誰でもやってしまう可能性があるということです。先ほどお伝えしたように、投稿した人は、それが誹謗中傷だと思わずに投稿していることが多々あります。関心のない話題や他人の投稿は冷静に見ることができても、思い入れの深いテーマで自分と異なる考えを見つけたら、許せない、間違っていると感じ、それがエスカレートして相手を傷つけるような発信をしてしまうかもしれません。「自分は絶対大丈夫」と過信せず、誰でもやってしまう可能性があると謙虚に考え、注意することが大切ですね。

川上

他人事だと思わず、常に発信に気を付けることが大事なんですね。情報を受信する場合はどうでしょうか。情報の受け手としてSNS上を見る上で、必要な心構えや注意するポイントはありますか。

山口

まず心にとどめて欲しいのは、「全ての情報は偏っている」ということです。これは何も、一般の方のSNSの発信に限らず、ネットのニュースや、もっと言うとテレビや新聞といった大手メディアの発信も同じです。情報には発信する側の何らかの意図が入り、また、発信内容だけではなく、どの情報を発信するか、発信しないか、という時点で方針や考えがあって判断されているわけです。

全部の情報は偏っていて、感想も意見も入っていると常に頭に入れて、情報の海に接してほしいですね。

偏りという観点で言うと、先ほどお伝えしたように、何かの言動が批判され炎上していても、目に見えているのは社会全体の意見とは限らないと認識することも必要です。見えているのは、実はごく一部の人が何度も発信している内容かもしれない…そういったことを知った上で情報に接しないと、「みんながあの人を悪く思っている」、「あいつは悪いやつだ」と思いこんでしまうという懸念があります。

川上

情報の受け手として、フェイクニュースやデマに関して注意すべきことはあるでしょうか。

山口

フェイクニュースについても分析をしたことがあるのですが、実際のフェイクニュース9件を使って調査した結果、フェイクニュースを見聞きした人の77.5%はそれを嘘だと気づかないという結果でした。年齢に関係なく、若い人も年齢の高い人もフェイクニュースに騙されていたんです。（参考：Yahoo!ニュース エキスパート「嘘・デマ、自信ある人ほど騙される：77.5%が嘘だと気づけない」）

情報を発信する際も受信する際も、自分は大丈夫、自分には関係ないと思わずに、炎上や誹謗中傷、フェイクニュースに巻き込まれる可能性が常にあるということを自覚することがすごく大事だと思います。

生成AIの登場で、ネットの言論空間はどう変わるのか

川上

最近の動きとしてチャットGPTが話題になってますが、生成AIは、SNSやネット上の情報にどのような影響を与えるとお考えでしょうか？

山口

このテーマは非常に重要です。私は内閣府の有識者会議である「AI戦略会議」の構成員を務めているのですが、エンジニアや会社経営者、AI専門家の方々の中に私が呼ばれたということは、政府もこの生成AIとネット言論ーとりわけフェイクニュースーについて議論が必要だと考えている現れだと思います。

一つ言えることとして、ネットの中は早晩、生成AIによるコンテンツの量が人間によるコンテンツの量を上回ると思います。おそらく、圧倒的なスピードで、あらゆる分野で、それが起こります。音楽、イラスト、映像、そしてもちろんテキストも。

私の専門分野に関して懸念しているのは、やはり生成AIによるフェイクニュースの増産です。例えば生成AIでまず写真にしか見えないような人間のアバターを作る、そしてそれを使ってSNSのアカウントを開設し、そのアカウントを使って生成AIによって作られた大量のテキストで世論工作をする…そんな動きがもう既に始まっています。政治的意図を持ってやっている場合もあれば、ビジネス、商売としてやっているものもあります。こうしたことが、ごく簡単に誰でもできるようになっているんです。

世論工作のためのテキストや画像、映像のフェイク制作が大衆化した、と私はとらえていて、今後、情報空間は間違いなく生成AIによって作られたコンテンツばかりになっていくと思います。

川上

やろうと思えば、選挙結果を変えたり、何か大きなイシューがあるときに、議論を意図する方向に持っていったりすることが理論的にはできてしまうわけですね。

山口

結果が意図した方向に行くかどうかは別として、そうした目的で生成AIによってコンテンツを生み出すことは、もう既に始まっています。そういう時代がもう既に到来しており、そして今後さらに加速していくんじゃないかなと思います。

川上

インターネットはある意味自由で、その自由が愛されて広がってきた側面もあるのではないかと思いますが、先生がおっしゃるような問題を考えたときに、生成AIなどに対する規制はどうあるべきだと思いますか。

山口

難しいですね。ただ、使用を禁止するのは私は反対です。よく言われているようにイノベーションを阻害してしまうという理由ももちろんありますが、それだけではなく、禁止すると、結局みんなが隠れて使うようになり、問題の把握ができなくなってしまうからです。

ただ一方で、どういう規制があるべきかというのは、正直、現段階ではまだ私自身答えが出ておらず、AI戦略会議でもまさにそういう議論をしています。

いずれ何かしらの方向性は出ると思いますが、例えばAIで作られたコンテンツかどうか判断する技術をより拡充するのも一つの方法だと思います。AIで作られた確率を出す技術が実は既にあり、いろいろな民間企業や大学などアカデミックな団体がそれぞれ研究をしています。

そうしたものを活用して、みんなが簡単に生成AIによるコンテンツかどうかを検証できるようになれば、ある程度、生成AIによる世論操作やデマの拡散などは防ぐことができるのではないでしょうか。

川上

今後の研究において、先生が深掘りしたいテーマがありましたら、教えてください。

山口

私は、研究とは、社会に貢献するためにあると考えています。そうした意識を軸として持っているので、そのときに人々にとって重要な課題について、データ分析という手法を使って解き明かし、そして社会に還元していきたいと思っています。そういう意味で、深堀したいテーマというものも、その時代によって変化してくのではないでしょうか。もう一つ大事にしているのは、自分の関心のあるテーマについて研究するということですね。その観点で言うと、おそらくITという分野から大きく外れることはないと思います。

川上

ありがとうございます。最後に、ご自身にとってインターネットとは一言で言うと、どんな存在でしょうか。

山口

私にとってインターネットとは、「優れた道具」ですね。インターネットはあくまでも道具であり、上手く使って社会を豊かにするも、不適切に使って社会を悪くするも、使う人次第だと思います。