跳到正文
The Verge · AI· Victoria Song·· 2 小时前AI 评分18

佩戴 Amazon Bee Frontier 三周后,我的心理医生建议我把它扔出窗外

My therapist thinks I should chuck the Amazon Bee Frontier out a window

AI 导读

The Verge 资深评测编辑 Victoria Song 记录了自己连续三周佩戴 Amazon Bee Frontier 进行心理咨询等日常活动的体验。这款持续录音的 AI 可穿戴设备会转录并总结对话,但常把玩笑、影视剧情和宠物昵称误记为事实,甚至生成了童年家暴经历的摘要并要求她确认。她的心理医生认为,这类设备会取代人信任自身直觉的能力,对焦虑人群尤其不友好。

深度导读
这是 The Verge 每周通讯 Optimizer 的一篇体验记录,作者是资深评测编辑 Victoria Song。她在三周内几乎全天佩戴 Amazon Bee Frontier——一款持续录音的 AI 可穿戴设备,并把它带进了心理咨询室、年度体检等场景。Bee 的基本能力是听取对话并用 AI 转录、总结,附带 List 待办建议、Grow 个人成长建议,以及一个可以回答“我说过什么、什么时候说的”的聊天机器人。相比 19 个月前首次测试,它区分真人说话与电视对白的能力有所提升,还能读取日历和相册,并根据对话内容推荐 Amazon 商品。 问题出在准确度与情绪判断上。Bee 的转录和摘要经常与作者的记忆不符:它认定她常与一位同事的配偶争吵(她从未见过此人)、称她认为某位家人患有未确诊的双相情感障碍(无人说过此话),还把她关于“重要视频会议要穿好裤子”的玩笑当成事实。两只猫的多个昵称被它算成了六只额外的猫。更沉重的一次是,Bee 在心理咨询后生成了一条关于她童年遭受家庭暴力的“事实”,要求她右滑确认为真,并配上“从操控性权力中夺回现实”这样的标题,还把她当时的情绪描述为悲伤、愤怒,而她本人记得那场咨询是宣泄后的轻松。 作者还发现,同一段对话换用不同模板会得到不同结论:默认模板会做语气分析和要点提炼,切换到就医模板后内容明显更偏事实、去掉揣测。Grow 功能则根据对话历史给出“成长建议”,例如批评她爱好太多、缺乏“可分享产出”,建议她三个月内只选一项爱好——而她当年已读完 39 本书、练了 17 年书法。她的心理医生在第三次带 Bee 的咨询中表示,这类设备可能取代人信任自身直觉的能力,外包判断会让 AI 给出缺乏情感共鸣的洞察,反而加剧焦虑者的反刍与完美主义。两人开玩笑说该把它扔出窗外,而 Bee 的待办清单里并没有这条,只有“买指甲胶”和一条 Amazon 链接。

来源:The Verge · AI · theverge.com