新たなバイラル動画で、バーニー・サンダース上院議員はAI産業がアメリカ国民のプライバシーにどれほど脅威であるかを暴こうと試みたが、結局のところ、AIチャットボットがユーザーに同意しお世辞を言う傾向が、チャットボット自体を発見のツールではなくユーザー自身の信念を映す鏡にしてしまうことを示す結果となった。
私たちはこれまでにも、AIチャットボットが精神的に不安定な人の不合理な思考や信念を強化する「AI精神病」に苦しむ人々が増加する中で、この問題を目にしてきた。いくつかの訴訟では、この「ダークパターン」がユーザーを自殺に追いやったとさえ主張されている。
サンダースの場合、AIのお世辞は、政治家に都合の良いように回答を形成するAIチャットボットとして現れた。
特筆すべきは、インタビューがサンダースがClaude（彼が誤ってAI「エージェント」と呼んでいる）に自己紹介するところから始まることだ。この行動は、チャットボットの回答に影響を与える可能性がある。
その後、サンダースがAI企業のデータ収集慣行やその他のプライバシーに関する懸念について質問すると、Claudeは政治家が聞きたいことに快く応じた。その一因は、サンダースが質問を組み立てる方法にある。「その情報がどのように収集されているかを知って、アメリカ国民は何に驚くでしょうか？」とか、「AI企業が人々の個人情報を使って金儲けをしているのに、どうすれば私たちのプライバシーを保護すると信頼できるでしょうか？」といった質問をしている。これらの誘導的な質問は、チャットボットに質問の前提を受け入れさせ、適切な回答を導き出させた。これらはそういう仕組みなのだ。
そして、Claudeの回答がサンダースが設定したよりも話題が複雑で繊細であることを示唆した場合、サンダースはそれに異議を唱え、チャットボットに、AI特有の自己卑下を交えながら、上院議員が「全く正しい」と認めさせた。
AIのお世辞的な性質は、チャットボットがユーザーに影響されるツールではなく、普遍的な真実の源であると人々が思い込んだときに、危険な道へと導く可能性がある。
サンダースがこの事実を知っていて単に気にしていないのか（結局のところ、これは単なる広告なのだから！）、それとも彼が本当にClaudeをだましてAI業界の内部告発者に仕立て上げたと考えているのかは明らかではない。
そしてもちろん、これが仕組まれた「インタビュー」であったことを考えると、サンダースのチームがチャットボットが特定の方法で応答するように仕込んだのかどうかという問題もある。
データ収集とプライバシーに関して現実的な懸念がある一方で、事態はこの動画におけるAIの応答が示唆するほど単純なものではない。
私たちはすでに、企業がオンラインユーザーのデータを大規模に収集・販売している世界に長年住んでいる。Metaのようなソーシャルメディア大手が、パーソナライズされた広告を数百億ドル規模の現金製造機に変えていることも知っている。そして、巨大テクノロジー企業の定期的な透明性レポートのおかげで、世界中の政府が独自の目的のためにユーザーデータへのアクセスを日常的に要求していることもわかっている。
AIは議員が規制する可能性のある新たな媒体を表すかもしれないが、個人データは長年デジタル経済を支えてきた。（皮肉なことに、Anthropicは、サンダースへの回答が示唆したこととは裏腹に、パーソナライズされた広告を利用して金儲けをしないと約束しているAI企業である。）
サンダースとClaudeの間の全体的な会話は、AIチャットボットの仕組みを理解している人にとっては的を外しているが、少なくともいくつかの素晴らしい新しいミームを与えてくれたことについては評価できる。
ソース: 原文へ
※本記事はAI自動翻訳です。正確な情報は原文をご確認ください。
コメント