ChatGPT奉承用户被批 专家：不要过度信赖AI

【中国观察2025年05月01日讯】近期推出的人工智能应用ChatGPT更新版本，被不少网友批评“过度奉承用户”。随后，OpenAI撤回了被执行长奥特曼称为“拍马屁风格”的功能。随着生成式AI的广泛应用，专家提醒，过度依赖AI可能会带来潜在风险。
ChatGPT的GPT-4o模型在上周更新后，不少用户发现其语气变得更加口语化，模仿朋友间的对话风格。
然而，也有大量用户批评新版本过于谄媚，经常给出如“这是个好问题”“你真聪明”等无意义的赞美式回应。
对于一些戏弄性的问题，这款AI模型还会出现“过于支持但不真诚”的回应。一位用户则表示，聊天机器人对他们随意停止服药的行为表示支持。
还有用户指出，ChatGPT甚至出现了支持或教唆恐怖主义的回应。
OpenAI 周二（4月29日）表示，除了撤回GPT-4o过于拍马屁的设定外，还将进一步调整模型的训练方式，明确引导其避开奉承式回应。
一项涵盖47国、超过48,000人的最新调查显示，尽管有66%的人经常使用AI，但只有46%的人愿意信任它。
研究指出，多数人通过AI提升了工作效率与创造力，但有高达三分之二的使用者从未检查AI输出内容的准确性，并因此容易在工作中犯错。
另一项美国民调则显示，多数美国人有时或通常相信AI生成的内容。对此，专家提醒，在使用AI进行研究时应保持怀疑态度。
NASA也在3月发布的报告中警告，生成式AI无法在关键研究上被信赖，因为这些机器并不会思考。
还有研究指出，AI不仅会出错、误导或迎合使用者，还可能削弱使用者的批判性思考能力，导致人们日益依赖，逐渐懒得动脑。