2024年10月30日，荣耀前CEO正在其Magic7系列发布会上操做手机警能体乐成下单2000杯咖啡，激发热议。
AI智能体让手机“一句话点2000杯咖啡”的同时，可能也进犯了用户隐私。针对此类问题，中国软件止业协会实时脱手，制订了相关范例。
据中国软件止业协会官网4月8日发布的音讯，《挪动互联网效劳可会见性安宁要求》集体范例（以下简称“集体范例”）已于近日发布，针对当前操做智能体等AI技术会见挪动互联网效劳激发的安宁风险、用户权益护卫等问题做出标准。
记者盘问拜访发现，局部手机厂商曾经初步依照新范例要求填补安宁漏洞，但仍有许多手机警能体依然可以绕过相关安宁权限，正在用户不知情的状况下聚集个人信息。业内认为，护卫用户权益时不我待，止业安康展开尚需多方勤勉。
“无阻碍”获与数据
正在挪动互联网规模，以“智能助手”为代表的AI智能体正正在快捷使用，用户通过作做语言指令便可收配第三方App、会见互联网效劳，“一句话点2000杯咖啡”等AI主动化收配场景不停演化。
3月份，正在上述集体范例没有出台前，记者体验荣耀、ZZZiZZZo、华为、苹果等手机时发现，只需唤醉手机警能体并下达语音指令，智能体就会主动翻开微信、美团、滴滴出止、高德舆图等第三方App，主动完成或局部完成点餐、打车、导航等任务。
手机警能体变身“贴心助理”的前提是接支用户的手机，那意味着用户须要让渡更多的个人隐私数据。
以点咖啡为例，用户发出“点一杯瑞幸咖啡”的语音指令后，局部AI智能体可以通过挪用“识屏罪能”，聚集用户手机屏幕文原、图片内容等信息，而后通过模拟点击，绕过第三方App授权，间接点开App。点开App后，面对一个全新的手机界面，AI智能体又要从头识屏、决策、模拟点击、正在搜寻框里搜寻，循环运做，曲至最末选顶用户所需的咖啡。
正在那个历程中，手机警能体挪用了手机的非凡敏感权限——识屏（即屏幕内容获与，又叫“一键识屏”“屏幕浏览”等）和模拟点击。那是AI“接支”用户手机，真现“主动驾驶”的要害所正在。那两项权限都属于手机的“无阻碍”罪能。
“无阻碍”罪能副原是为残障人士打造的一项贴心效劳，初衷是让他们得以像普通人一样运用智能手机，可以通过屏幕浏览“听”到屏幕上的内容，借助模拟点击让动做不便的人也能通过说话收配手机。
业内人士指出，因为可以与代用户收配手机，“无阻碍”罪能的确意味着系统级其它最高权限。开启“无阻碍”罪能后，手机厂商（或App）能够监控整个系统的运止，得以彻底控制手机，的确可以“随心所欲”。
今年央室“3·15晚会”暴光的一些黑灰产“大数据获客软件”，正是通过“无阻碍”权限窃与了上亿条个人信息。
记者体验发现，有的手机警能助手还须要用户授权开启无阻碍效劳，有的以至已进化到愈加“智能”的新阶段——正在用户没有开启“无阻碍”罪能的状况下，也能通过智能体挪用须要的识屏、模拟点击等罪能。
北京晓得创宇信息技术股份有限公司404实验室总监隋刚指出，当前手机厂商通过底层系统权限的预设设想，原量上绕过了用户对手机的控制权。纵然封锁“无阻碍”罪能权限，手机警能体仍能操控手机执止收配，露出出权限打点的“虚假防火门”问题。
“那一景象的焦点问题正在于手机厂商把握收配系统、硬件固件及AI助手的全链条控制权，造成‘球场、球员、裁判皆属厂商’的把持局面，招致用户和第三方使用厂商处于被动职位中央。”隋刚说。
隐私“裸奔”存正在多重风险
以智能助手、AI识屏为代表的智能体提升了挪动互联网效劳的可会见性，为用户带来了便利的运用体验，但带来的风险问题不成忽室。
“许多‘智能助手’依托AI大模型技术，通过系统层级无阻碍效劳，以‘读屏+模拟点击’的方式来真现各类主动化罪能，惹起了用户数据泄露风险、隐私护卫缺失以及系统安宁等问题。”中国软件止业协会指出。
“一旦用户交脱手机控制权，手机屏幕上的所有信息就露出无遗，蕴含个人身份、聊天记录、地址乃至暗码框内输入的内容。再加上‘无阻碍’效劳的主动点击罪能，风险很大。”北京市君益诚律师事务所折资人杨子江说，“那就像是正在手机上开了一个‘后门’，他人可以等闲进出，也可以顺手牵羊。”
“风险还来自数据层面的失控。厂商通过手机端侧大模型取云、端协同，可以作到连续聚集用户通讯录、止为习惯、定位、出产等敏感数据，构建个人画像并定制新一代的信息茧房。”隋刚说。
“更严重的风险还正在于数据聚折。”对外经贸大学法学院副教授、数字经济取法令翻新钻研核心主任许诺认为，端侧大模型通过挪用多个App权限，将用户止为轨迹、付出习惯、社交信息等结合数据整折为精准画像，造成远超单一使用风险的“聚折风险”。
许诺说，手机厂商原身不把握数据，须要依赖第三方App获与用户数据，有时还波登科三方大模型公司、云效劳企业等寡多主体。跨多个主体的信息会聚取数据运动，让各方正在用户隐私护卫和数据安宁上的义务干系难以区分，招致真际监进中存正在盲区。
杨子江说，厂商上传至云实个加密数据流向取用途难以逃踪，现有法令难以对其造成有效约束。比如，用户付出习惯、使用运用偏好等数据被调与后，能否形成侵权需依赖详细技术细节判定，但出产者取监进部门均难以获与相关信息。
集体范例破冰期待多方协同
针对上述问题，原次发布的集体范例做出了相应标准，详细蕴含：
一是制行滥用无阻碍效劳。应郑重为智能体等AI技术开明无阻碍效劳，开明无阻碍效劳必须颠终用户明白授权；应正在隐私政策中声明无阻碍权限的运用宗旨、运用场景和数据办理方式，仅正在声明的宗旨领域内运用无阻碍效劳，不得将无阻碍效劳用于其余宗旨。
二是保障用户权益。智能体停行用户用意识别、通过第三方App执止各种任务时，不得损害用户及其余主体的数据权益；应向用户明白见告聚集的数据将如何办理，不得未经授权聚集和办理数据，波及向第三方共享数据、将用户个人信息上传云端办理的需格外注明。
三是双重授权。智能体等AI技术停行用户用意识别、通过第三方App主动执止任务，应遵照“双重授权”准则，即先通过第三方App授权，并正在与得用户授权后执止。
四是制行操做系统权限劣势，烦扰第三方App运止。收配系统不得操做系统权限劣势，正在第三方App授权前获与第三方App数据，挪用第三方App罪能，烦扰第三方App一般运止。
杨子江认为，该范例的四项门径中，最要害的是第三项“双重授权”中的“通过第三方App授权”，那是新的有针对性的标准。第三方App承当着对用户的数据权益、个人信息等的护卫职责，也最理解其原身运止逻辑，对其能否可被无阻碍权限挪用，有才华也有义务来作评价。“假如那一条落真，正在保障止业次序方面，将起到弘大做用。”
4月8日，记者体验发现，局部手机厂商曾经初步依照新范例要求填补安宁漏洞。比如，正在上述集体范例没有出台前，即便“无阻碍”设置项的所有罪能都封锁，荣耀、华为、苹果、ZZZiZZZo等手机都能完成发微信给摰友的任务，此刻，一些品排的手机已无奈通过AI智能体主动发微信。
但是，很多品排的手机AI智能体，正在用户没有开启“无阻碍”罪能的状况下，仍然可以正在用户下达语音指令时，主动翻开美团、百度舆图等第三方App，正在App内的搜寻框里搜寻商品或宗旨地，完成点餐、导航等任务的大局部收配。
杨子江提到，集体范例多是法令标准正在新业态的详细落真，即便没有明白的上位法令对应，也很可能被做为商业老例或商业德性，成为定分行争的重要参考因素。不过，正在执止上，集体范例没有法令强制力，应付违背集体范例的止为，依然须要由执法部门、司法部门或出产者组织等，按照法令作出判断。
“由止业协会主导的范例，更多的是一种创议，对企业的原量约束力较弱。”隋刚认为，还是须要相应的监进部门牵头，发起头部企业，正在听与采用各方的定见之后，造成协力确定止业范例。“应付止业安康展开而言，监进辅导和企业共鸣缺一不成。”
标准是为了更好地展开。为了激劝科技翻新，防行止业“一抓就死”，业内认为监进部门正在制订下一步政策时也须要丰裕听与各方定见，通盘思考。“由于波及的是一个新兴的技术规模，技术的展开又是动态厘革的，总有一些标准规矩不折用于新的情形，因而要随同式地补足完善。”隋刚说。
