AIと専門家の知識を組み合わせ、大規模な有害コンテンツ対策に取り組む方法

AIと専門家の知識を組み合わせ、大規模な有害コンテンツ対策に取り組む方法

目次

1. イントロダクション
2. ロジカリーについて
3. 人工知能と専門家の知識の組み合わせによる有害コンテンツの対策
4. ロジカリーの業務内容
5. ロジカリーの公共セクターとソーシャルメディアプラットフォームとのパートナーシップ
6. ロジカリーが解決する問題
7. オンライン上の有害ナラティブとミス情報の特徴
8. 公衆のファクトチェックとメディア・テクノロジーに対する態度
9. ファクトチェックの消費者の期待
10. バイアスのあるAIと責任あるコンテンツモデレーションとファクトチェックに対する懸念
11. 結論

【イントロダクション】

NASDAQトレードトークスへようこそ。私はNASDAQの国際マーケットレポーターであるジル・マランドリノです。このセグメントでは、ロジカリーの創設者兼CEOであるリリック・ジェーンとロジカリー・ファクトチェックのバイスプレジデントであるババーズ・オークが参加します。人工知能と専門家の知識を組み合わせて、大規模な有害コンテンツに取り組む方法について話していただきます。

【ロジカリーについて】

ロジカリーは、世界の公共セクター機関やソーシャルメディアプラットフォームと協力して、オンライン上の神話やディスインフォメーションによる被害を軽減するための取り組みを行っています。データサイエンティストやエンジニアなどの計算専門家とオープンソースインテリジェンスチームの知識を組み合わせてAIを構築し、バイオロジーの初期段階でのミスインフォメーションの検出と対応、さらには国家安全保障、選挙の透明性、公衆衛生、公共安全などの分野での活動を予測し、防止するために活用しています。ロジカリーでは幅広いパートナーと協力し、ロジカリーファクトチェックはミス情報を特定して検証し、速やかに公衆に対して提供する独立した取り組みとして、ミス情報の対策を行っています。

【人工知能と専門家の知識の組み合わせによる有害コンテンツの対策】

有害コンテンツの特定には、一般的なコンテンツモデレーション問題とは異なるニュアンスが求められます。ヘイトスピーチや児童の安全性など、他の領域の知識は非常にゆっくりと成長しますが、ミス情報の特定には、ドメインや国、言語などにわたる繊細なニュアンスや複雑な知識工学が必要です。ロジカリーが提供するソリューションは、ユーザーが潜在的な被害を特定し、それに対して適切な対応を取るために、必要なコンテキストとともに情報を提供します。また、単一のコンテンツ内だけでなく、アカウントやアクティビティなどの集合体やナラティブなど、異なるレベルでのミス情報も特定することができます。ロジカリーのパートナーは、これらの複雑な問題に取り組む際に支援され、スピードとスケールの両方を兼ね備えたソリューションを提供しています。

【ロジカリーの業務内容】

ロジカリーは世界中の政府機関と連携し、イギリスを拠点とする政府部門やアメリカ、インドなどと協力しています。また、ソーシャルメディアプラットフォームとも協力し、FacebookやInstagramを含むメタを通じて、ヨーロッパの複数の市場でTikTokなどの最大手プラットフォームと提携しています。

【ロジカリーが解決する問題】

ロジカリーが解決する問題は非常に深いものです。ミス情報の特定は従来のコンテンツモデレーションの問題とは異なります。ヘイトスピーチや児童の安全性などは、少しの新しいスワップワードを追加することで十分な対応が可能です。しかし、ミス情報の特定には、ドメインや国、言語、テキスト、オーディオ、ビデオなど様々な要素にわたるニュアンスと複雑な知識工学が必要です。ロジカリーはユーザーに対して、潜在的な被害の特定とそれに関連するコンテキストを提供し、効果的な対応をサポートしています。他の分野とは異なり、単一のコンテンツだけでなく、アカウントやアクティビティ、コミュニティなどの集合体としてのミス情報も特定する必要があります。これらは、パートナーが取り組む際の複雑さの一部ですが、根本的な解決策はスピードとスケールの両方にあります。