对 AI 安全灾难的关注，忽视了日常性伤害

文章认为，科技政策对“成功”的定义过于狭窄：一家 AI 公司承诺其聊天机器人不会鼓励自杀，一个社交平台让儿童更难买到芬太尼，这些保护本就应该存在，但企业跨过这道低门槛后，仍可继续制造让年轻人依赖模拟友谊、困在信息流里的产品。作者主张，在强 AI 产品定义的时代，不能只要求企业处理灾难性伤害，还应确保产品不侵蚀人们思考、学习和彼此交往的方式。 这种窄口径的安全定义对科技行业在政治上很方便，企业也在主动推广它。避免耸动灾难有利于生意——意味着更少诉讼和更小的强监管压力；而直面依赖的日常后果则会威胁其底线，可能要求产品增加摩擦、主动限制参与度或砍掉导致负面结果的功能，比如成瘾性的注意力劫持算法。科技巨头转而围绕已经承压的伤害塑造立法：今年 Google 支持多州监管 AI 聊天机器人的法案，这些法案规定了防止性内容和自残宣传的基本保护，但设有宽泛豁免，可能让部分最流行的服务不受约束；法案通过让立法者可以宣称取得安全胜利，而防止儿童对 AI 产生情感依赖的更强立法则告失败，内布拉斯加州等地的这套打法奏效。 社交媒体已经演过一遍。全球互联网用户现在平均每天在社交平台上花费超过两小时，这些时间从日常生活中被悄悄拿走，交给利润依赖用户停留的公司。Meta 的平台曾被指与缅甸罗兴亚人种族灭绝、斯里兰卡反穆斯林骚乱以及埃塞俄比亚提格雷战争期间涉嫌的暴力呼吁有关。同样的激励逻辑正被 AI 延伸到社交媒体只能远距离影响的生活领域：它替我们写想法，也替代我们本会求助的人。目前三分之一青少年选择与 AI 伴侣而非他人讨论严肃事务；MIT 研究人员发现，使用 ChatGPT 写论文的年轻人在任务中脑连接更弱，证据显示“认知债务”在任务完成后仍然持续。 作者承认长期影响仍有大量未知，但已有理由追问：被营销为让人更有能力的技术，是否正在侵蚀最初帮助人发展能力的习惯与关系。推到底，就是一个娱乐被彻底净化、聊天机器人随时替我们免去思考或处理他人（甚至自己）情绪之难的世界；而任何认真写过值得读的东西、修复过受损友谊的人都知道这笔交易损失了什么——判断力在努力与摩擦中建立，学会与他人共处则要直面对方有自己的需求和观点。 因此作者主张：安全只是最低要求，还应要求更多。科技公司和学区必须“排除合理怀疑”地证明 AI 改善学习与批判性思维，才能让其成为课堂常设；应禁止公司设计假装有意识或向用户示爱的伴侣产品，并让其系统如何影响人际关系和人的独立思考能力接受独立审查。已经将产品插入现代生活几乎每个角落的公司，所承担的义务远不止避免下一条可怕的头条。