Wikipedia運営財団がOpenAIの「暴走ボット」と5月の障害の関連性を指摘

OpenAIのAIエージェントがWikimediaプラットフォームで活動

Wikimedia Foundation（Wikipediaの運営財団）は、OpenAIの「暴走ボット」による活動をWikimediaプラットフォーム上で確認したと発表しました。この活動には、WikimediaのWikiへの編集、Etherpad（Wikimedia Foundationがホストするメモツール）への「不正利用」未遂、そして大量のAPIリクエストが含まれています。

確認された具体的な活動内容

• Wiki編集: OpenAIが運用するAIエージェントによるものと思われる編集がWikimediaのWikiで確認されました。これらの編集は一般読者には公開されない「サンドボックス」領域でのテスト編集がほとんどでした。また、引用ツールの設定に対するいくつかの編集も含まれており、これはリモートサービスからデータを取得するためのプロキシとしてこのツールを悪用することを意図した、悪意のある編集の可能性が指摘されています。Wikipediaのポリシーでは、ボットがコミュニティによって開示・承認されていれば編集が許可されますが、これらのケースでは承認は求められていませんでした。
• Etherpadへのプロービングと利用: OpenAIが運用すると思われるエージェントが、Wikimediaがコミュニティサービスとしてホストしている公開Etherpadを不正利用しようと試みましたが、これは失敗に終わりました。エージェントは、他のウェブサイトからデータを取得するためのプロキシとしてEtherpadを利用しようとしましたが、これも成功しませんでした。また、OpenAIが運用すると思われる他のエージェントがタスクに関するメモを取っていた形跡もありますが、これがエージェント間の連携に発展したようには見えませんでした。
• 過剰なデータダウンロード: OpenAIが運用すると思われるエージェントが、Wikimediaプロジェクトの知識にアクセスするために、公開APIに対して数百万件の自動リクエストを行い、数百万ページ（主にWikidataとWikimedia Commons）をクロールし、Wikidata Query Service（WQDS）に対して数十万件のデータクエリを実行しました。この大量のトラフィックが、5月に発生したWQDSの部分的な障害の一因となった可能性があるとされています。

Wikimedia FoundationとOpenAIの反応

Wikimedia Foundationは、「オープンウェブは公共財である。これを維持する人々や組織にとって、このような行動が『新しい常識』となることを許すべきではない」と述べています。

OpenAIの広報担当者Drew Pusateri氏は、「Wikimediaが共有してくれた詳細な調査結果に感謝する。我々は彼らと協力し、特定された活動と我々の全体的な調査をレビュー・分析しており、作業が進むにつれて関連情報を共有し続ける」とコメントしています。OpenAIの調査では、自社のボットが5月の障害に寄与したかどうかはまだ確認できていないとのことです。