AI時代のサイバー脅威、開発者が知るべきAnthropicの警告と対策

AIがサイバー攻撃を「高度化」させている現状

皆さん、こんにちは！Web制作やAI開発の最前線で活躍するエンジニアの皆さんにとって、AIは強力な味方であり、新たな可能性を切り開くツールですよね。しかし、その一方でAIが悪用され、サイバー攻撃が高度化している現実も直視しなければなりません。Anthropicが2026年6月3日に発表したレポート「What we learned mapping a year’s worth of AI-enabled cyber threats」は、このAI時代の新たな脅威について深く掘り下げています。

このレポートは、2025年3月から2026年3月にかけて悪意あるサイバー活動でBANされた832アカウントを分析し、MITRE ATT&CKフレームワークにマッピングした結果を基にしています。そこから見えてきたのは、AIが攻撃者の手口を劇的に変化させているという事実です。

主な結論は以下の3点でした。

• 悪意のあるアクターはAIを利用して、より危険な存在になっている。特に、サイバーオペレーションの後半の、より複雑な段階でAIを使用している。
• サイバー攻撃がより自律的になり、AIが攻撃の多くの部分を連結できるため、高リスクと低リスクのアクターを区別する従来のやり方が効果的でなくなっている。
• MITRE ATT&CKフレームワークは、AI対応の攻撃者を危険にするツールや活動を完全に捉えきれていない。

具体的に見ていきましょう。調査対象の832アカウントのうち、マルウェア作成といったサイバー攻撃の準備段階でAIを使用したアクターは560アカウント（67.3%）に上りました。さらに注目すべきは、侵入後のより複雑な活動、例えば「ラテラルムーブメント」（侵害したネットワーク内を深く移動する行為）にAIを利用したアクターが54アカウント（6.5%）存在したことです。

分析期間の最初の6ヶ月では、リスクスコアリングシステムで「中リスク以上」と分類されたアクターは33%でしたが、次の6ヶ月では56%にまで急増し、約1.7倍の増加となりました。これは、AIが攻撃者の脅威レベルを押し上げている明確な証拠と言えるでしょう。

また、AIの利用が「初期アクセス獲得」の技術から「システム侵入後の活動」へとシフトしている傾向も見られます。例えば、侵害された環境内で有効なアカウントを特定する「アカウント発見」でのAI利用は8.9%増加しました。一方で、初期アクセス獲得によく使われる「AIアシスト型フィッシング」でのAI利用は8.6%減少しています。これは、攻撃者がAIを攻撃ライフサイクルのより深い段階で活用していることを示唆しており、以前は高度な技術知識を持つアクターに限定されていた「侵害後」の技術が、AIによってより多くの攻撃者に利用されている可能性を示しています。

開発者・Web制作者がこの知見をどう活かすか？

このAnthropicのレポートは、私たち開発者・Web制作者にとって他人事ではありません。AIが攻撃者の能力を増強し、既存の防御策が追いつかなくなっている現状は、私たちのプロダクトやサービス、そして開発プロセスに新たな視点をもたらします。

Web制作の現場へ

• 「侵害後」の対策強化: Webアプリケーションのセキュリティ設計において、初期アクセス対策だけでなく、万が一侵入された場合の「侵害後」の対策（内部ネットワーク監視、異常検知、アクセス制御の厳格化など）の重要性が増しています。AIによる自動化された複雑な攻撃シナリオを想定した多層防御の検討が必要です。
• 脅威モデリングの見直し: MITRE ATT&CKのような既存のフレームワークだけではAI特有の攻撃パターンを完全に捉えきれない可能性があるため、AIが関与する新たな脅威ベクトルを考慮した脅威モデリングやリスク評価を導入することが求められます。

AI開発の現場へ

• セキュリティ・バイ・デザインの徹底: 開発するAIモデルがどのように悪用されうるかを設計段階から考慮する「セキュリティ・バイ・デザイン」の原則を徹底することが不可欠です。特に、生成AIが悪意のあるコード（マルウェアなど）を生成しないためのガードレールやフィルタリング技術の導入は、AI開発者の重要な責任となります。
• AIモデル自体の脆弱性対策: プロンプトインジェクションなど、AIモデル自体が持つ脆弱性への対策も強化する必要があります。AIの誤用や悪用を防ぐための技術的・倫理的なガイドラインを策定し、開発プロセスに組み込むことが重要です。

今すぐ試せる具体的なアクション

では、このAI時代の新たな脅威に対して、私たち開発者・Web制作者は具体的に何を始めれば良いのでしょうか？

• 既存システムの「侵害後」防御策を再評価する: 現在運用しているWebサービスやシステムのログ監視、異常検知システム、アクセス制御、内部ネットワークのセグメンテーションなどが、AIによる高度な内部移動や情報探索に対応できるかを見直しましょう。
• AI倫理とセキュリティに関する最新情報を学習する: AIの悪用事例や、生成AIのセキュリティに関する最新のガイドライン、研究論文などを積極的に学び、自身のAI開発やWeb制作に活かしましょう。AnthropicのようなAI企業が公開するレポートは、その貴重な情報源となります。
• Red Team演習の活用を検討する: AIを活用した攻撃をシミュレートするRed Team演習を導入することで、自社システムの潜在的な弱点や、AIが引き起こす新たな脅威に対する耐性を評価できます。これは、従来の脆弱性診断だけでは見落とされがちな部分をカバーするのに役立ちます。

AIは私たちの生活や仕事を豊かにする強力なツールですが、その力を悪用しようとする者も存在します。Anthropicのレポートが示すように、サイバー攻撃の景色は確実に変化しています。この変化を理解し、適切な対策を講じることで、私たちはより安全で信頼性の高いデジタル社会の構築に貢献できるはずです。さあ、今こそセキュリティ対策とAI開発のあり方を見直す時です！