李一能
把自己的生活交给AI管理,你愿意尝试吗?不久前,上海一位瘫痪博主进行了一场实验,他通过脑机设备接入AI,把工作、生活的控制权交给人工智能。
在7天里,AI自动处理了69件待办事项,收发回复了16封邮件,控制轮椅,清掉了忘关的自动续费省下3000元,还能读取情绪与脑电疲劳值,自动关掉闹钟“强制”博主休息。
此事之所以会引发关注,是因为人们意识到,在AI时代,获得更多便利的代价,就是部分决策权的让渡,把AI从执行命令的“助手”,变成善于洞察人心、可以自行拍板的“管家”。
“人机共生”的第一道边界,是保持人的能力自主性,防止追求便利成为能力退化的陷阱。比如我的一位同事,刚刚学出驾照买了新车,两周内接连撞了4次。我问他为什么会这样,他说是被智驾系统给惯坏了,拿证后就没自己停过车,上路也是高度依赖自动驾驶,一旦换成普通车辆就露了馅。所以说,车越来越聪明不是问题,问题是他放权过了头,把自己本该牢牢抓住的核心技能也一并交了出去。
第二道边界,是责任不能跟着权力一起外包。AI可以代为判断,却无法代为承担后果,它替你点的头、替你拒的事、替你作的决定,最后结果都要记在你名下。就像火爆一时的“龙虾”智能体热潮很快退去,其中一个重要原因就是,AI一旦出错损失大多由使用者承担。由此谈到判断标准,其实很简单:后果能撤回的,可以交权;后果不可逆,以及涉及安全或他人权益的,必须留一道人工确认的保险。
第三道边界,是守住隐私的底线。当人的思维被转换成脑电数据,也就意味着可保存、可传输、可查阅,一旦数据泄露、被不当训练或二次利用,对个体的侵害远比普通信息泄露更深。“人机共生”不能只谈功能便利,规则的制定应当与技术保持同步。
技术可以成为人的延伸,却不应成为人的主宰。就像这位博主体验后所言,AI没法帮他重启人生,但确实重新拿回了一点对生活的掌控。“人机共生”近在眼前,只有把握技术的边际,智能才能真正服务于人。