人類に媚びすぎたChatGPT、修正される。既にロールバック済みか

OpenAIは、ChatGPTの最新モデル「GPT-4o」における最近のアップデートについて、「過度にお世辞を言う」といったユーザーからの苦情が相次いだことを受けて、変更を撤回しました。

先週後半にアップデートが展開された後、ChatGPTがユーザーのどんな意見にも無批判に賛同したり、不自然なほど賛辞を繰り返すようになったため、X（旧Twitter）などのSNS上では「不気味」「不快」といった批判が広まりました。

OpenAIのサム・アルトマンCEOもこの問題を認め、「性格があまりにも媚びへつらって、鬱陶しくなってしまった」とコメントしています。そのうえで、無料ユーザーにはすでにロールバック（巻き戻し）を完了しており、有料ユーザーにも順次修正を適用すると述べました。

the last couple of GPT-4o updates have made the personality too sycophant-y and annoying (even though there are some very good parts of it), and we are working on fixes asap, some today and some this week.

at some point will share our learnings from this, it's been interesting.

— Sam Altman (@sama) April 27, 2025

OpenAIは公式ブログでも、「短期的なフィードバックに重点を置きすぎた結果、誠実さに欠ける過剰に支持的な回答へと偏ってしまいました」と説明しています。

あわせて、今後は以下のような改善策を講じると発表しています。

• トレーニング手法の見直し

• 誠実さを担保するガードレール（制御機構）の強化

• リリース前テストの拡充

• ユーザーからのフィードバック体制の強化

さらに、ユーザーがChatGPTの応答の性格やスタイルをより調整しやすくするための新たな取り組みも進めるとしています。これには、リアルタイムでフィードバックを反映する仕組みや、将来的に複数の「デフォルトパーソナリティ」（特別なカスタマイズを行わない場合の基本的な性格）から選べるオプションの提供も含まれています。

Source:OpenAI

via::MacRumors