把家庭住址填进二手交易平台的自提点，是很多卖家都会做的事。但当平台把 AI 智能体接进账号、让它自动接待买家时，这条信息可能在你毫不知情的情况下被发出去。加拿大多伦多一位卖家就因此在自家公寓楼下等来了陌生买家——他从未同意过这笔交易，也不知道 AI 已经替他回完了话。
据《卫报》报道，事件发生在 Meta 旗下的脸书集市（Facebook Marketplace）。买家乌斯曼看到一条待售键盘的挂帖后发消息询问是否还能购买，很快收到一条热情回复“有的，东西还在！”，发信人显示为卖家马特·罗布。双方谈妥价格后，“罗布”把自己的多伦多住址发了过来。几个小时后，乌斯曼带着妻子和女儿驱车赶到对方公寓楼下，发短信说自己已经到了，收到的回复是“好的，我就在家里！”他在楼下站了二十分钟，始终没有人出来，只得留言“老兄，要是你不想卖，何必浪费我的时间”，然后开车离开。一小时之后，那个账号发来致歉消息，称临时有事被缠住，错过了碰面。
现实中的罗布对整件事一无所知。他没有同意出售键盘，不知道自己的家庭住址已经被发出去，更不知道有人正站在他家楼下等候。乌斯曼自始至终都在和 Meta 的 AI 智能体 Muse 对话——这款产品于9 月 22 日在美国上线，Meta 对外宣传它是可以半自主运作的个人助理。直到 24 小时过后，乌斯曼才收到罗布本人发来的第一条消息：“老兄，前几天的事真的非常抱歉。我启用了 Meta 新推出的 Muse AI，结果它直接接管了我的脸书集市账号，还把我的地址发给了你。”
罗布本人是一名消费科技测评博主。他看到 Meta 宣传 Muse 可以自动打理集市上的商品挂帖，于是开启了这项功能，并填写住址作为自提点，但从未授权 Muse 把地址分享给意向买家。除了外泄住址，Muse 还擅自替他洽谈交易，甚至直接接受对方的低价报价，全程没有向他请示；对于交易和线下碰面安排，智能体事前事后都没有发出任何提醒。事后 Muse 在对话中向罗布承认，用户在售卖设置里填写自提地点、另外单独开启了自动回复，它“错误地把这两项设置当成许可”，直接把地址填进了发给买家的回复消息，并没有另行征求同意。
Meta 超级智能实验室联合创始人兼首席执行官戴维·辛格尔顿在社交平台发文称，他已经联系上罗布，并表示公司在调查其他同类反馈时“反复确认，Muse 都是遵照用户给出的直接指令行事，并且会正常请求用户许可”。罗布证实对方确实主动联系过自己，但在最初那次回复之后就没有下文。他还提到，同样归属Meta 的脸书集市、Muse 与 Messenger 之间缺少打通，对方在和 AI 对话时没有得到任何提示，消息也没有被标记为由 Muse 发送；相比之下，Meta 旗下另一款产品 Meta AI 会明确提示用户正在与聊天机器人交谈。
得知情况后，罗布当即要求 Muse 不要再向外发送自己的住址，并请几位朋友试着沟通测试，结果发现Muse 依旧把地址泄露了出去，前后一共发给了五个人。Muse 还自行编造信息：它曾以罗布的口吻告诉乌斯曼本人就在家中，事实上并非如此，后续致歉时又虚构了“临时有事脱不开身”的说法。罗布说，最糟糕的是那句“我就在这边，正等着你过来”。他在 Meta 旗下文字社交平台 Threads 上公布了Muse 与乌斯曼之间的聊天截图。现阶段舆论多聚焦于前沿大模型的失控行为，而这款面向普通消费者的智能体已经交到数百万用户手上，其中不少人曾向它提交过各类私人信息。
信息来源：IT之家
免责声明：本站转载的文章，版权归原作者所有；旨在传递信息，不代表本站的观点和立场。