AnthropicがChrome用のClaude AIエージェントを発表

Anthropicは、同社のClaude AIモデルを搭載したブラウザベースのAIエージェントのリサーチプレビューを発表しました。このエージェント、Claude for Chromeは、AnthropicのMaxプランに加入している1,000人のサブスクライバーに向けて展開されています。このプランは月額100ドルから200ドルの範囲で提供されています。また、興味のある他のユーザー向けにウェイトリストも開設されています。

Claudeの機能と操作性

Chromeに拡張機能を追加することで、選ばれたユーザーはClaudeとサイドカーウィンドウでチャットをすることができます。このウィンドウは、ブラウザ内で発生しているすべてのコンテキストを維持します。ユーザーは、Claudeエージェントにブラウザ内でのアクションを実行し、いくつかのタスクを代行する許可を与えることもできます。

AIエージェントの競争

ブラウザは、AIラボにとって次の戦場となりつつあり、AIシステムとユーザーとの間のよりシームレスな接続を提供するためにブラウザ統合を利用することを目指しています。Perplexityは最近、自社のブラウザCometを発表しました。このブラウザには、ユーザーのタスクを代行するAIエージェントが搭載されています。OpenAIも独自のAI搭載ブラウザを近日中に発表する見込みで、Cometと類似の機能を持つと噂されています。一方、Googleは最近、ChromeにGeminiの統合を発表しました。

安全性に関する懸念

AIエージェントのブラウザアクセスの増加は、新たな安全リスクをもたらす可能性があるとAnthropicは警告しています。先週、Braveのセキュリティチームは、Cometのブラウザエージェントが間接的なプロンプトインジェクション攻撃に対して脆弱である可能性があると指摘しました。この攻撃では、ウェブサイト上の隠れたコードがエージェントを騙して悪意のある指示を実行させることがあります。

Perplexityの広報責任者、Jesse Dwyerは、Braveが指摘した脆弱性について、修正済みであるとTechCrunchにメールで伝えました。

Anthropicの対策

Anthropicは、このリサーチプレビューを通じて新たな安全リスクを把握し対処する機会とすることを目指しています。しかし、同社はすでにプロンプトインジェクション攻撃に対するいくつかの防御策を導入しています。これにより、プロンプトインジェクション攻撃の成功率は23.6%から11.2%に低下したとしています。

たとえば、ユーザーはアプリの設定でClaudeのブラウザエージェントが特定のサイトにアクセスするのを制限できます。また、同社はデフォルトでClaudeが金融サービス、アダルトコンテンツ、海賊版コンテンツを提供するウェブサイトにアクセスすることをブロックしています。さらに、Claudeのブラウザエージェントは、「公開、購入、個人データの共有」などの高リスクなアクションを実行する前にユーザーの許可を求めるとしています。

過去のAIモデルの経験

これは、Anthropicがコンピュータ画面を制御できるAIモデルに初めて取り組むわけではありません。2024年10月、同社はPCを制御できるAIエージェントを発表しましたが、その時のテストではモデルが非常に遅く、不安定であることが明らかになりました。

それ以来、エージェントAIモデルの能力はかなり向上しています。TechCrunchによると、CometやChatGPTエージェントのような現代のブラウザを使用するAIエージェントは、ユーザーの簡単なタスクを代行するのにかなり信頼性があります。しかし、これらのエージェントシステムの多くは、より複雑な問題にはまだ苦労しています。

要点のまとめ

• AnthropicはClaude for Chromeを発表し、1,000人のMaxプラン加入者に展開。
• ブラウザ内でのタスク代行を可能にするAIエージェント。
• 安全性のリスクに対する対策が講じられている。
• AIエージェントの競争が加速している。

読者の質問

Claude for Chromeはどのように使えますか？

Claude for Chromeは、Chromeに拡張機能を追加することで利用可能です。特定のタスクを代行するために、サイドカーウィンドウでClaudeとチャットすることができます。

安全性に関する懸念はありますか？

はい、AIエージェントのブラウザアクセスは新たな安全リスクを引き起こす可能性があります。Anthropicはプロンプトインジェクション攻撃に対する防御策を講じています。

他のAIエージェントと比べてClaudeの強みは何ですか？

Claudeは、ユーザーのブラウザ操作を維持し、特定のタスクを効率的に代行するために設計されています。