ChatGPT怎么会知道我的名字?网友吐槽:这太可怕了
“这令人毛骨悚然,而且真的有必要吗?”,一位 用户在谈到 的新模型 o3 时,这么评价道。
站长之家() 4月21日 消息:最近,一些 用户注意到了一个奇怪的现象:AI 聊天机器人在推理问题时,偶尔会直呼其名 —— 这在以前并非‘默认’行为。一些用户表示,他们从来没有告诉过 自己叫什么名字,但它却依旧提到了他们的名字。
大众对此也是困惑不已。软件开发人员兼AI爱好者 Simon 认为这一功能是 “令人毛骨悚然且毫无必要”的,另一位开发人员 Nick Dobos 直言“我讨厌这个功能”。大致浏览了一下 X 上的帖子便会发现,许多用户对 这种直呼其名的行为心存疑虑。
目前尚不清楚这种变化具体是何时发生的,也不清楚它是否与 升级后的 “记忆” 功能有关 —— 该功能可让聊天机器人利用过去的聊天记录来实现个性化回复。X 平台上的一些用户表示,即使他们早就已经禁用了记忆及相关个性化设置,但 现在还是会直呼他们的名字。
尚未对此作出任何回应。
网友们的“质疑声”也表明了,在努力让 更加“私人订制”的过程中,“恐怖谷效应” 这一障碍对于 来说,可能是难以跨越的 。上周,该公司 CEO 山姆・奥尔特曼(Sam )暗示,AI 系统可以 “在你的一生中逐渐了解你”,从而变得 “非常有用且个性化”。但从最近这一次的反应来看,并非所有人都认同这一理念。
迪拜精神诊所 The 发布的一篇文章,或许能够解释为何人们会对 直呼其名“感到毛骨悚然”:名字传递着亲密感,但当一个人 —— 或者如上述所说的,当一个 AI 聊天机器人 —— 频繁呼叫一个人的名字时,就会显得不真诚。 诊所认为“在直接称呼他人时直呼其名,是一种建立良好关系的有效策略 —— 这带有接纳和赞赏的意味。可是,不恰当或者过度地使用名字称呼对方,则会被视为是虚伪和侵犯隐私的行为。”
的目标是将 打造成个性化的私人秘书。所以他们试图把一个没有感情的机器拟人化,但似乎,他们似乎失败了。
()