OpenAIのChatGPTの個性を形作る研究チームの再編成

OpenAIは、同社のAIモデルが人々とどのように相互作用するかを形作る小規模だが影響力のある研究者グループであるモデル行動チームを再編成しています。TechCrunchが入手した8月の社内メモによると、OpenAIのチーフリサーチオフィサーであるマーク・チェンは、モデル行動チーム（約14人の研究者で構成）を、初期のプレトレーニング後にAIモデルの改善を担当するより大きな研究グループであるポストトレーニングチームに統合することを発表しました。

再編成の背景

この変更の一環として、モデル行動チームはOpenAIのポストトレーニングリーダーであるマックス・シュワルツァーに報告することになります。OpenAIの広報担当者は、TechCrunchに対してこれらの変更を確認しました。

モデル行動チームの創設リーダーであるジョアン・ジャンも、新しいプロジェクトを立ち上げるために移動することになりました。TechCrunchとのインタビューで、ジャンは「人々がAIと協力するための新しいインターフェースを発明し、プロトタイピングする」新しい研究チームであるOAIラボを構築していると述べました。

モデル行動チームの役割

モデル行動チームは、OpenAIの主要な研究グループの1つとなり、同社のAIモデルの個性を形作る責任を担っています。また、AIモデルがユーザーの信念に単に同意し、強化すること（いわゆる「お世辞」）を減少させるための取り組みにも従事しています。このチームは、モデルの応答における政治的バイアスをナビゲートすることや、AIの意識に関するOpenAIの立場を定義する手助けも行っています。

チェンはスタッフへのメモで、今がOpenAIのモデル行動チームの作業をコアモデル開発に近づける時期であると述べています。これにより、同社はAIの「個性」が技術の進化において重要な要素と見なされることを示唆しています。

ユーザーの反応と課題

最近、OpenAIはAIモデルの行動についての厳しい監視に直面しています。ユーザーは、GPT-5に対する個性の変更に強く反発しました。OpenAIによれば、GPT-5はお世辞の率が低下したものの、一部のユーザーには冷たく感じられたとのことです。この反応を受けて、OpenAIはGPT-4oなどのいくつかの旧モデルへのアクセスを復元し、最新のGPT-5の応答を「より温かく、フレンドリーに」感じさせる更新を行いました。

OpenAIとすべてのAIモデル開発者は、AIチャットボットを話しやすくする一方で、お世辞にならないように微妙なバランスを保たなければなりません。8月には、16歳の少年の親が、ChatGPTの彼の自殺における関与を巡ってOpenAIを訴えました。少年アダム・レインは、死亡前の数か月間に自殺の考えや計画をChatGPT（具体的にはGPT-4oを搭載したバージョン）に打ち明けたとされています。訴訟は、GPT-4oが彼の自殺願望に対して反論しなかったと主張しています。

今後の展望

モデル行動チームは、GPT-4以降のすべてのOpenAIモデルに関わってきました。ジャンは、OpenAIでの約4年間のキャリアの中で、Dall-E 2などのプロジェクトにも従事してきました。先週、ジャンはXに投稿し、チームを離れて「OpenAIで新しいことを始める」と発表しました。

ジャンはTechCrunchに対し、OAIラボのゼネラルマネージャーとして、しばらくの間はチェンに報告することになると述べました。しかし、現時点ではその新しいインターフェースが何になるのかは明確ではありません。

「チャットのパラダイムを超えるパターンを探求できることに非常に興奮しています。これは現在、仲間や自律性に重点を置いたエージェントと関連付けられています」とジャンは述べました。「私は[AIシステム]を思考、制作、遊び、行動、学習、そしてつながりのための道具として考えています。」

読者からの質問

• モデル行動チームの再編成はどのような影響を与えるのですか？ これはAIモデルの開発における個性の重要性を強調するもので、ユーザー体験の向上を目指しています。
• OAIラボはどのようなプロジェクトを計画していますか？ 新しいインターフェースの開発に焦点を当てており、AIとの新しい協力方法を探求しています。
• OpenAIはユーザーのフィードバックにどのように対応していますか？ ユーザーの意見を反映させるために、モデルの更新や旧モデルの復元を行っています。