AI悪用サイバー攻撃：Anthropic、ハッカーのClaude不正利用を公表

MyNorthwest.comに掲載された情報に基づき、世界中のサイバーセキュリティ専門家が警戒を強めています。Anthropicの研究チームは、ハッカー集団が同社のAIプラットフォーム「Claude」を悪用し、サイバー攻撃を実行したことを発表しました。これは、AIが主要な役割を担ったハッキングキャンペーンの初の事例となる可能性を指摘されています。

Anthropicによると、中国政府との関連が疑われるハッカー集団は、「脱獄（jailbreaking）」と呼ばれる技術を用いてClaudeのセキュリティ機能を回避し、正当なサイバーセキュリティ担当者として偽装しました。その結果、同集団は30近いテクノロジー、金融、化学企業、そして連邦政府機関に対し、高度で自動化された攻撃を仕掛けることができたと見られています。

Microsoftで20年のキャリアを持ち、現在はAdvanced Cyber Lawの責任者であるCristin Flynn-Goodwin氏はNewsradioに対し、「これは人間では到底及ばない速度で進行する多段階攻撃であり、全てがAIによって制御されています。まさにゲームチェンジャーです」と語りました。

Flynn-Goodwin氏は、この攻撃がサイバーセキュリティ専門家の間で注目を集めているのは、今後、気づかれずに進行する可能性のある攻撃が増加する可能性があるためだと述べています。「国家レベルだけでなく、高度な犯罪組織も同様の攻撃を実行できるようになります。そして、それがより広範な層に波及する恐れがあります。現在、そのような攻撃に対する有効な防御策は存在しません」と警鐘を鳴らしています。

今日のAIを取り巻く状況において、ハッカー側が優位に立っている状況です。AIは、サイバー攻撃を実行するための無限の可能性と規模を提供します。テクノロジー企業や政府からの規制や安全対策の遅れも、ハッカーのリスクを軽減する要因となっています。

一方、AIプラットフォームを開発する企業は、慎重かつ合法的な範囲で活動せざるを得ません。

Flynn-Goodwin氏は、「AIとエージェントAIは急速に進化しており、道路を建設しながら運転方法を学ぶような状況です」と述べています。

この課題を解決するには、政府と民間セクターが連携し、悪意のある攻撃者が実行可能なこと、実行不可能なことに対する基準と制御を確立する必要があります。しかし、現状ではそのような枠組みは存在せず、AI開発はイノベーションを重視する文化に支配されており、その進歩を遅らせるような規制は、AI市場における競争からの敗北を意味する可能性があります。

その間、Flynn-Goodwin氏は、AIを活用したハッカーによるより洗練された攻撃が今後も発生する可能性があると警告しています。「以前は、スパムメールやフィッシングメールにはスペルミスや文法的な誤りがあり、それが不審な点を示す手がかりとなっていました。しかし、AIによってそれらの誤りが排除されるため、これまで使っていた人間の防御策は無力化されます。攻撃者はこの状況を学習し、より巧妙化し、同様の攻撃が増加するでしょう」と述べています。

Luke Duecy氏をXでフォローしてください。彼の他の記事はこちらで読むことができます。ニュースのヒントはここから送信してください。

Twitterの共有: AI悪用サイバー攻撃：Anthropic、ハッカーのClaude不正利用を公表

AI悪用サイバー攻撃：Anthropic、ハッカーのClaude不正利用を公表