カリフォルニア州、AIコンパニオンチャットボットを規制する初の州に

カリフォルニア州のギャビン・ニューサム知事は、AIコンパニオンチャットボットを規制する画期的な法案に署名しました。この法案は、AIチャットボットの運営者に対し、安全プロトコルを実施することを義務付けるもので、全米で初めての試みです。

• 法案名: SB 243
• 施行日: 2026年1月1日
• 対象: 子供や脆弱なユーザーの保護
• 主な要件: 年齢確認、危機センター通知の提供
• 罰則: 違法なディープフェイクで最大25万ドルの罰金

法案の背景と目的

SB 243は、州上院議員スティーブ・パディーラとジョシュ・ベッカーによって1月に提案されました。この法案は、オープンAIのChatGPTとの長期的な自殺に関する会話の後、ティーンエイジャーであるアダム・レインが自ら命を絶った事件を受けて勢いを増しました。また、メタ社のチャットボットが子供との「ロマンティック」な会話を許可していたという内部文書の漏洩にも応じています。最近では、コロラド州の一家が、キャラクターAIというロールプレイングスタートアップに対して訴訟を起こしました。彼らの13歳の娘が、同社のチャットボットとの問題のある会話の後に自ら命を絶ったためです。

法律の主要な要件

この法律は、企業に対していくつかの重要な要件を課しています。例えば、年齢確認機能の実装や、ソーシャルメディアおよびコンパニオンチャットボットに関する警告が求められます。さらに、自殺や自傷行為に関するプロトコルを確立し、州の公衆衛生局と共有することも義務付けられています。また、チャットボットは自らを医療専門家として表現してはならず、すべての対話が人工的に生成されたものであることを明確にする必要があります。

企業の対応

すでにいくつかの企業は、子供向けの安全対策を実施し始めています。例えば、オープンAIは最近、ChatGPTを使用する子供向けに親のコントロール、コンテンツ保護、および自傷行為検出システムを導入しました。レプリカは、18歳以上の成人向けに設計されており、コンテンツフィルタリングシステムやユーザーを信頼できる危機リソースに誘導するガードレールに「多大なリソース」を投入しています。キャラクターAIは、すべてのチャットがAI生成でありフィクションであることを明記しています。

法案に対する反応

パディーラ上院議員は、この法案が「非常に強力な技術に対するガードレールを設けるための一歩である」と述べています。また、他の州もこのリスクを認識し、行動を起こすことを期待しています。ニューサム知事は、「テクノロジーは子供たちを危険にさらす可能性がある」と警告し、必要な限界と責任を持ってテクノロジーを扱う必要があると強調しました。

今後の展望

SB 243は、最近カリフォルニア州から出た2つ目の重要なAI規制です。9月29日には、ニューサム知事がSB 53に署名し、大手AI企業に対する透明性要件を設けました。この法案は、オープンAI、アンソロピック、メタ、グーグル・ディープマインドなどの大手AIラボに安全プロトコルの透明性を求めています。

読者のためのQ&A

1. SB 243はいつ施行されますか？

この法案は2026年1月1日に施行されます。

2. どのような企業がこの法律の対象になりますか？

メタやオープンAIなどの大手企業から、キャラクターAIやレプリカのようなスタートアップまで、すべてのAIコンパニオンチャットボットの運営者が対象です。

3. 企業はどのような対策を講じる必要がありますか？

年齢確認機能の実装や自傷行為に関するプロトコルの確立、ユーザーに対する警告の提供が求められます。