オンラインチャットでは、会話の内容が本来のトピックから逸脱し、個人攻撃に発展することがあります。本研究では、このような会話脱線現象を予測する手法として、大規模言語モデルとゼロショット予測を用い、プラットフォームごとに学習を行わなくても十分な精度で予測可能なことを示しました。

　SNSや電子掲示板で行われるオンラインチャット上の会話には、ユーザーの有害なふるまいがしばしば観察されます。そこで、オンラインチャット上の会話が本来の会話トピックの内容から逸脱し、個人攻撃へと発展する「会話脱線現象」について、会話脱線を検出し、モデレーションするための予測アルゴリズムの開発が行われてきました。しかし、これまでの研究は、特定のプラットフォームのデータに依存して進められおり、他のプラットフォームへの応用には新しいデータセットの構築にコストがかかることが課題でした。

　本研究では、大規模言語モデルを用い、学習データセットがなくてもデータを予測できる「ゼロショット予測」の手法を会話脱線現象の予測に適用しました。多様な大規模言語モデルを検証し、従来整備されたデータセットに対して、大規模言語モデルごとのゼロショット予測の精度の平均値と、学習データにより調整された深層学習アルゴリズムの精度を比較しました。

　その結果、特定プラットフォームの学習を行っていない大規模言語モデルでも、従来開発されたアルゴリズムと同等以上の精度を達成することを示しました。これにより、プラットフォーム運営者が、会話脱線予測を低コストで実行できるようになり、さまざまなプラットフォームにおいて、会話モデレーションによるコミュニティの健全な発展が促されることが期待されます。

PDF資料

プレスリリース

研究代表者

365体育投注ビジネスサイエンス系
吉田 光男　准教授
野中 賢也　リスク?レジリエンス工学学位プログラム（博士後期課程）1年次

掲載論文

【題名】

Zero-Shot Prediction of Conversational Derailment With Large Language Models
（大規模言語モデルによる会話脱線のゼロショット予測）

【掲載誌】

IEEE Access

【DOI】

10.1109/ACCESS.2025.3554548

関連リンク

ビジネスサイエンス系
リスク?レジリエンス工学学位プログラム