从能用到放心用还有四道坎

图 IC

本报记者 金旻矣

续办居住证不知道要带哪些材料，打开“随申办”问问AI客服“小申”；有点感冒咳嗽了，向“AI医生”咨询该吃什么药……这些公众服务领域的智能场景，正在成为上海市民的日常。在提升响应速度、降低办事成本、优化资源配置的同时，记者调查发现，上海公众服务AI从“能用”到“放心用”，还需要解决信息准确性、隐私保护、人工服务接通率以及适老化等四方面的问题。

便捷是真实的，信任仍需打个问号，体验更有提升空间。昨天，上海市质协用户评价中心发布《公众服务AI应用上海市消费者信任与体验调查报告》，显示87.3%的市民接触过公众服务AI应用，91.7%认可其便捷高效，但政务、金融、医疗、法律四大领域的信任度均在70分左右。认可与担忧并存，构成了上海公众服务AI应用体验的底色。

总体 市民认可，仍有担忧

前不久，记者在“随申办”上申请开具无犯罪记录证明。过去，这项业务需要手动输入证件信息等材料，现在后台实时调取个人信息，自动预填表单。记者只点击了“立即办理”“确认”两个按钮，十几秒便完成了提交，不仅时间大幅减少，也降低了误填的可能。这种体验，确实令人感到政务AI的便捷。

不只是政务服务领域，医疗健康、金融理财和法律咨询领域同样与市民生活联系紧密。在金融领域，各家银行、保险、证券、基金公司都已推出AI客服、AI理财规划师等；在法律领域，市民可向裁判文书网、法智、法保网、法行宝等AI助手进行咨询；在医疗领域，蚂蚁阿福、小荷AI医生、京东健康、知源中医等App都能接受健康问题咨询，不少医院也推出了智能导医、AI预问诊服务。

调查显示，上述四个领域中，87.3%的市民至少接触过一个领域的AI应用。接触过金融服务AI的市民比例最高，达55.6%；其次是医疗健康（54.3%）、政务服务（51.6%）、法律咨询（43.4%）。

调查中，91.7%的市民认可AI让办事咨询更便捷，但也有约七成认为公众服务AI技术尚不成熟、存在隐私泄露风险。基于“结果采信度”和“隐私保护”两方面的问卷显示，公众对四个领域AI应用的信任度均在70上下，医疗和政务领先，法律和金融靠后。

值得关注的是，12.6%的市民从未使用过四领域的AI应用，集中在老年人和低学历、低收入群体。其中54.5%怕泄露隐私，紧随其后的是没有使用需求、习惯传统方式、出错后没人负责、找不到人工、不信任准确性、不会用、操作太复杂等。

面对AI公共服务，市民并非只能被动接受。结合上海“AI+服务”平台建设方向，市民可在办事时保留重要事项的问题截图、系统答复、依据链接和人工确认结果。同时，关注以下三个方面：数据被怎样使用，是否只收集必要信息、保存多久、谁能访问；答案背后有没有正式依据：涉及资格、金额、期限时，应能看到政策名称、发布部门和有效期；错误由谁纠正：智能问答与窗口答复不一致时，能否找到人工复核并保留纠错记录。

政务AI 出错虽少，找人却难

针对各领域AI体验及市民信任度，报告也给出了具体分析。政务AI应用被认为“入口通畅、体验尚可、救济偏弱”，通过一组数据可见一斑：该领域AI渗透率51.6%，准确性为73.4，总体信任评价为71.4。市民的错误遭遇率为23.0%，为四领域最低。

其中，使用率最高的是AI智能问答咨询，即政务App和小程序里的AI客服。其次是AI智能办事引导，即自动列材料清单、辅助填表等。AI材料预审和AI自动审核办理这两类深度服务的使用率也不低。

然而，“配备人工服务通道”环节成了政务AI应用的短板。近六成公众在寻求人工服务时体验不佳，表现为入口隐蔽、排队时间长，还有12.9%表示基本找不到人工。一旦发生问题，公众求助无门的风险较高，这是最需修补的环节。

比如，当记者在“随申办”上希望深入询问长护险如何申办时，AI客服表示“人工客服繁忙，您当前排在第45位”。而在“交管12123”App上，当记者向AI客服“小安助手”要求“转接人工”时，对方反复提示“工作人员将在1个工作日内回复您的反馈”，页面上找不到人工客服入口。

金融AI 渗透最广，信任垫底

金融理财是AI应用渗透率最高的领域，达55.6%。金融AI嵌入支付、核验、客服等高频刚需场景，公众几乎无法回避。使用率最高的是支付、转账时的AI身份核验，包括人脸识别、异常交易提醒等，其次是银行业务AI客服，如查账户、转账、挂失、信用卡咨询。

虽然使用率最高，但公众对金融AI的准确性评价在四个领域中垫底。约四分之一的公众对AI推荐理财、保险产品的立场保持怀疑，超三成使用者遇到过AI给出错误结果的情况，其中4.6%造成了经济损失，比如收益、利率、费用说明错误导致直接亏钱。金融AI只展示有利信息、隐藏关键条件的“选择性呈现”，正在让消费者付出真金白银的代价。

王女士遇到的AI推荐保险“翻车”事件，就是印证。52岁的她在某AI理财助手平台输入“高领取终身养老险”后，AI推荐了一款年金险，还加粗展示“月领1万元、终身领取、投入少回报高”，却隐藏了“80岁后才可领取”的关键条件。等到发现时，王女士已投保了年交10万元的5年保单，AI还默认30天自动清理对话，令她维权陷入被动。

金融AI的人工服务也须提升。在账户异常、误扣费等紧急情形下，有四成使用者无法顺畅获得人工帮助，救济时效性成为痛点。社交平台上，关于银行人工客服“难接通”的吐槽也屡见不鲜，有用户直言“转了好几分钟人工，还在听语音菜单”“找人工服务比到现场办业务还难”。

医疗AI 结果准确，隐私堪忧

医疗健康领域极受关注，AI应用的渗透率也是排名第二的。使用率最高的是AI问诊和症状自查，其次是AI导诊挂号。调查显示，医疗AI应用已成为公众就医决策的第一站，但高度集中在症状初步判断和流程引导环节，真正涉及诊断和用药决策时，AI的依赖度明显回落。

作为关乎身体与生命的领域，AI的表现赢得了公众认可。调查中，公众对医疗AI应用的准确性评价和对结果的采信度评价都是最高的。然而，医疗AI涉及病史、体征、用药记录等健康数据，属于个人信息中最私密的部分，这也导致“隐私信任”成为该领域中的最低项。

市民傅先生在使用一款AI健康App时，就遇到了“细思极恐”的事，AI竟主动报出了他的姓名、性别和年龄。追问信息来源时，AI又闪烁其词。傅先生称自己从未主动提供过这些信息，但该App的隐私政策显示，用户登录后绑定支付宝账号，平台就可获取用户以往的就诊信息、检验报告等数据。

无独有偶，网信部门也曾发现，一批医疗服务类互联网企业存在严重的数据安全问题。健康数据一旦泄露，影响的不只是财产，还包括就业、保险、社会评价等长远利益，公众对这条底线的态度非常谨慎。

法律AI 错误最多，后果严重

四个领域中，法律咨询AI应用渗透率最低。市民使用最多的是AI法律咨询问答，其次是AI查法条、查类似案例等。而AI审查合同、AI维权指导、AI起草文书等的使用率都低于30%。这也表明，公众把法律AI当作查信息的辅助工具，而非替代律师的办事渠道。

作为专业门槛最高的领域，法律AI的错误遭遇率达37.0%，是四领域中最高的。出错的后果也最严重，6.2%的受访者表示遇到过错误且造成了实际损失，例如错过维权时效、蒙受经济损失等。媒体就曾报道，北京律师安振杰在“法行宝”搜索自己姓名时，发现网站介绍将自己与一名诈骗犯安某杰错误关联，导致部分客户退费解约，业务受到影响。

值得注意的是，付费AI并未换来更低的出错率，甚至付费用户遇错遭损失的比例为免费用户的2.4倍，索赔渠道和赔偿规则却是空白。付费却未获得相应的责任承诺，是法律AI应用急需补上的短板，也是公众信任进一步跃升的最大障碍。