除微信外,用户及技术人员反馈,多款银行APP及隐私敏感类应用也出现无法登录的情况。同时,不仅是银行APP,就连淘宝app也被提示需要各种验证才能登录用户账号。
这类应用往往搭载更为严格的安全校验机制,对异常操作行为的识别也更为敏锐。“当AI以系统级权限在后台操控金融应用时,既可能触发交易安全预警,也让用户数据面临着未知风险。”一位从事银行信息安全的人士指出,银行APP对操作行为的合法性、可追溯性要求极高,侵入式AI的介入打破了既有的安全逻辑。
没有隐私边界的AI,或让用户“裸奔”在虚拟数据中
记者在社交平台发现,不少网友争议的核心已从单一产品延伸至行业深层命题:侵入式AI的隐私边界在哪里?
据《晚点LatePost》实测,这款工程样机在机身侧面配备了一颗专属的物理按键。无论手机处于何种状态,按下该按键即可唤醒助手。它以“叠加层”(Overlay)的半屏卡片形式出现,不会中断用户当前正在使用的App。更重要的是,助手具备“屏幕感知”能力,可以理解当前屏幕显示的内容。
看似AI更具备了“温度”,但这也让用户不禁担忧,在AI深度介入系统操作的模式下,个人隐私数据是保留在本机还是会同步至服务器?“若包含支付习惯、位置信息的敏感数据上传至云端,一旦发生数据泄露,后果不堪设想。”一位被访用户表示。
记者查阅《中华人民共和国个人信息保护法》发现,法律层面要求个人信息处理遵循“最小必要”原则,即收集和处理的个人信息应限于实现处理目的的最小范围,不得过度收集。然而,系统级AI的权限获取是否符合该原则?每时每刻可以介入用户正在操作的流程中是否存在过度?这些问题亟待监管层面给出明确答案。
与此同时,安全解法的缺失更放大了用户关于隐私保护的焦虑。目前,字节与中兴均未就豆包手机助手的数据存储方式、安全保障机制发布官方说明。
从行业常规逻辑来看,大模型的推理能力依赖数据支撑,端侧AI若需实现复杂决策,往往需要云端算力协同,这就涉及数据上传的必要性与安全性平衡。“理想状态是敏感数据本地处理,非敏感数据云端优化,但技术上如何界定边界、实现隔离,尚无成熟标准。”一位AI领域创业者表示,当前侵入式AI的发展速度已远超安全技术与治理规范的更新节奏。
值得注意的是,豆包手机助手的争议并非个例,而是AI手机发展浪潮中的必然矛盾。随着大模型技术的成熟,“手机厂商+大模型厂商”的合作模式已成为行业趋势——谷歌Gemini与三星的合作探索、苹果计划采购Gemini服务强化Siri,均印证了这一方向。
截至发稿,字节跳动与中兴尚未对权限争议及应用登录问题作出公开回应。但市场已开始关注相关上市公司的后续动作。中兴通讯作为合作方,其股价在12月3日午后出现小幅波动,部分投资者担忧争议可能影响其AI手机合作业务进展。
AI手机的终极目标或许是人机交互,但以安全为代价的技术迭代,是否是消费者真实的需求?安全底线和治理框架的边界感该如何定义?“上帝权限”是创新还是“裸奔”?这些消费者的疑虑与担忧都急需给出明确答案。
(记者/周凌峰 来源:海报新闻)