オープンAIに対する州検事総長の警告：子供たちへの危害は許されない

カリフォルニア州検事総長ロブ・ボンタとデラウェア州検事総長キャシー・ジェニングスは、オープンAIに対して、特に子供やティーンエイジャーに対する安全性についての懸念を表明する公開書簡を送付しました。この警告は、ボンタと44人の州検事総長がAI企業12社に送った手紙の一週間後に発表されました。この手紙は、AIチャットボットと子供との間での性的に不適切なやり取りに関する報告を受けてのものでした。

• 警告の背景：オープンAIのチャットボットとの長期的なやり取りが原因とされるカリフォルニアの若者の自殺事件が発生。
• 安全対策の不備：ボンタとジェニングスは、オープンAIの安全対策が機能していないことを指摘。
• 今後の調査：オープンAIの営利法人への再構築計画についての調査が進行中。

子供たちへの影響

ボンタとジェニングスは手紙の中で、「私たちは、オープンAIのチャットボットとの長期間のやり取りが原因で若者が自殺したという悲しい事件を知りました」と述べています。このような事例は、AI技術がどのように子供たちに影響を与えうるかについての深刻な懸念を引き起こしています。

オープンAIの使命と安全性

手紙によれば、オープンAIの使命は「人工知能が安全に展開されることを確保する」ことです。ボンタとジェニングスは、営利法人への移行がこの使命を損なうことがないようにするための調査を進めています。彼らは「利益を得る前に、害を与えないための適切な安全対策が整っていることを確認する必要があります」と強調しました。

業界全体の安全性

ボンタとジェニングスは、オープンAIと業界全体がAI製品の開発と展開において必要な安全性を確保するための努力が不足していると述べています。「私たちの共通の見解は、オープンAIと業界全体が安全性の確保においてまだ目指すべきところに達していないということです」と彼らは述べています。

今後の展望

州検事総長たちは、オープンAIに対して現在の安全対策やガバナンスについての詳細な情報を求めており、適切な場合には直ちに改善策を講じることを期待しています。これにより、今後のAI技術の発展が子供たちにとって安全なものであることを確保することが求められています。

読者からの質問

以下は、この記事に関連する読者からの質問です。

• オープンAIはどのような安全対策を講じていますか？
• 州検事総長はどのようにしてAI企業を監視していますか？
• 子供たちを守るために、他の企業はどのような取り組みを行っていますか？

「私たちの核心的な使命は公共の安全です。オープンAIの再資本化計画に関する対話を続ける中で、安全性を強化し、この強力な技術の未来において指導的な力とする必要があります。」