Metaは木曜日、コンテンツ執行を処理するためのより高度なAIシステムの導入を開始すると発表した。これは、第三者ベンダーへの依存を削減する計画の一環である。コンテンツ執行に関連するタスクには、テロ、児童搾取、薬物、詐欺、および詐欺行為に関するコンテンツの発見と削除が含まれる。
同社によると、これらのより高度なAIシステムは、現在のコンテンツ執行方法を一貫して上回る性能を発揮するようになれば、同社のアプリ全体に展開される予定だ。同時に、コンテンツ執行における第三者ベンダーへの依存度も低下させる。
Metaはブログ投稿で、「コンテンツをレビューする人々は引き続きいますが、これらのシステムは、露骨なコンテンツの繰り返しレビューや、違法薬物の販売や詐欺のように敵対的なアクターが常に戦術を変更している分野など、テクノロジーにより適した作業を引き受けることができるでしょう」と説明した。
Metaは、これらのAIシステムがより高い精度でより多くの違反を検出し、詐欺をより効果的に防ぎ、現実世界での出来事により迅速に対応し、過剰執行を減らすことができると信じている。
同社によると、AIシステムの初期テストは有望な結果を示しており、レビューチームの2倍の成人向け性的勧誘コンテンツを検出し、エラー率も60%以上削減したという。また、これらのシステムは、有名人やその他の著名人に関わるなりすましアカウントをより多く特定・防止できるほか、新しい場所からのログイン、パスワード変更、プロフィールの編集などの兆候を検出することで、アカウント乗っ取りの阻止にも役立つと述べている。
さらに、Metaは、詐欺師が人々にログイン詳細を教えさせようとする1日あたり約5,000件の詐欺試行をシステムが特定し、軽減できると述べている。
Metaはブログ投稿で、「専門家が当社のAIシステムを設計、トレーニング、監督、評価し、性能を測定し、最も複雑で影響の大きい意思決定を行います」と書いている。「例えば、アカウントの無効化に対する異議申し立てや法執行機関への報告など、最もリスクが高く重要な意思決定においては、引き続き人間が重要な役割を担います。」
この動きは、過去1年ほどの間、ドナルド・トランプ大統領が2期目を務めたことでMetaがコンテンツモデレーションのルールを緩和してきたことと時期を同じくしている。昨年、同社は第三者によるファクトチェックプログラムを終了し、Xのようなコミュニティノートモデルを支持した。また、「主流の議論の一部であるトピック」に関する制限も解除し、ユーザーには政治的コンテンツに対して「パーソナライズされた」アプローチを取るよう奨励すると述べた。
これはまた、Metaや他の大手テクノロジー企業が現在、ソーシャルメディア大手が子供や若いユーザーに害を与えたとして責任を問う複数の訴訟に直面していることとも関連している。
Metaは木曜日、ユーザーが24時間年中無休のサポートを受けられるMeta AIサポートアシスタントを開始するとも発表した。このアシスタントは、iOSおよびAndroid版のFacebookおよびInstagramアプリ、ならびにデスクトップ版のFacebookおよびInstagramのヘルプセンター内でグローバルに展開される。
ソース: 原文へ
※本記事はAI自動翻訳です。正確な情報は原文をご確認ください。
コメント