サンフランシスコにある OpenAI のオフィスの 1 つにあるカフェテリアの近くにある小さな会議室では、十数人からなるチームが、今年の中間選挙を混乱させるために誰かが ChatGPT を使用するのを防ぐために 24 時間体制で取り組んでいます。
このオペレーション センターは、2024 年の大統領選挙に向けた同社の初期の取り組みの大幅な拡大を表しています。当時の人工知能ツールははるかに強力ではなく、チャットボットのユーザー数は現在 10 億人のユーザーのうち 5 分の 1 でした。
「2024 年当時、最も利用可能なテクノロジーはテキストでした」と、OpenAI の市民および戦略リスク責任者であり、オペレーション センターを率いるジョシュ ローソン氏は述べています。 「私たちはもはやテキストを監視するだけではありません。」
現在、潜在的な脅威には、ディープフェイク、サイバー攻撃、一連のプロンプトで作成および開始できる国内外の影響力活動が含まれます。
会社だけではありません。 Claude チャットボットを運用する Anthropic は、初めて独自の「作戦室」を設置し、サンフランシスコ、ニューヨーク、ワシントンの監房にアナリストのチームを集めました。グーグルとメタはまた、民主的プロセスへの信頼を損なうために自社のAIツールを使用する取り組みを阻止するための強力な取り組みを約束した。
AI がオンラインでの社会的および政治的生活にますます統合されるにつれて、企業はいずれも、悪意のあるコンテンツを制限するために十分な措置を講じていないとして批判に直面しています。
ニューヨーク大学ロースクールの投票権と民主主義のグループであるブレナン・センター・フォー・ジャスティスは、最も人気のあるチャットボットが総じて選挙関連の陰謀論に関する質問を拒否していることを発見した。同時に同センターは、AIツールが選挙の信頼を損なう目的で使用される可能性のあるテキスト、画像、ビデオを定期的に作成していることを発見した。
両社の作戦会議室の設置は、2016年大統領選挙中のフェイスブック上でのロシアによる介入キャンペーンをめぐる騒動を受けて、メタ社が2018年の中間選挙に向けて作戦会議室を設置したことを思い出させる。
それ以来、メタや他のソーシャルメディアプラットフォームは、選挙関連の偽情報を取り締まる取り組みなど、信頼・安全チームを縮小した。彼らは共和党、そして2025年以降は保守的な見解を検閲しているとしてトランプ政権からの圧力を受けてそうした。
この後退は AI の普及と同時に起こり、選挙への影響に対する懸念が高まっています。専門家や元政府高官らは、トランプ政権がこれまで投票を妨害する取り組みと闘ってきた政府チームを解体したにもかかわらず、テクノロジーが選挙プロセスにおける国民の信頼を損なう強力な新たな方法を生み出していると警告している。
ジョセフ・R・バイデン・ジュニア元大統領の下で国家安全保障会議に対する外国の悪影響を監督した元政府高官ローレン・プロテンティス氏は、「脅威は消滅し、テクノロジーによって脅威がより強力で信じられるものになっているわけではないと考えるのは愚かだと思う」と語った。
OpenAIは先週の木曜日に選挙センターを立ち上げ、世界で最も人気のあるチャットボットの悪用監視に専念する従業員チームを編成した。同社関係者によると、サンフランシスコのチームはワシントンのサテライトセンターと協力しており、多数の人員が関わっているという。
彼らは、選挙に関する虚偽のテキストや画像を作成しようとして自動的にフラグが付けられた ChatGPT 上のプロンプトを検査します。これには、チャットボットに、偽のアカウントを使用してソーシャル メディア プラットフォーム上で拡散するための影響力キャンペーン (投票用紙の詰め込みなど) を設計するよう促すことが含まれる可能性があります。同社は、サイトでの使用を目的とした悪意のある活動を特定した場合、プラットフォームに通知します。
OpenAIはすでに、ロシア、中国、イランがChatGPTを使用して外国影響力作戦を実行する取り組みを明らかにしており、その中には先月妨害した2つのキャンペーンも含まれる。中間選挙における具体的な取り組みについてはまだ明らかにしていない。
OpenAIの主任調査官ベン・ニモ氏はインタビューで、「われわれは作戦を捕まえようとしてきた」と述べ、「彼らが勢いを増す前に」と語った。
Leave a Reply