给大家爆料一下提前知道打筒子设备仪器“推荐2个购买渠道
炫酷的AI手机背后，难以绕开数据处理的方式与规则，更无法将数据安全责任置于真空地带。迄今为止，作为人类最为亲密的信息终端产品——手机，其上承载了大量的个人隐私数据信息，如何面向消费者建立值得信任的手机端侧AI处理服务，是摆在产业界面前的重大课题。
AI手机的商业实践进展
2024年，部署生成式AI技术的新款手机陆续发布，标志着AI手机市场拉开序幕[1]。10月，苹果第一款真正意义上的AI手机iPhone 16正式亮相，其搭载的Apple Intelligence采用“端侧大模型+云端大模型”的方式，不但可以在设备上处理日常的文字任务，还可以结合云端完成更复杂的图像视频分析[2]。
除了在端侧部署AI大模型外，手机终端还引入云端AI能力，其中包括自有的云端AI与第三方AI两种方式。第一种如苹果的“隐私云”，其通过自研的云系统进行云端AI计算，将用户设备上的处理安全性和隐私性尽力延伸到云端。第二种是与外部合作的方式。对于第三方大模型，目前终端厂商多采取开放态度。
由此，在隐私保护与数据安全层面，重点问题浮出水面。在AI手机商业场景中，AI手机终端、第三方大模型、APP以及云服务之间将构建起怎样的生态关系？在端侧部署AI大模型应用AI智能体的过程中，将带来哪些新的隐私风险与数据安全挑战，不同商业主体之间又将如何构建数据规则，最终打造让消费者信任的端侧AI生态？
谁来承担隐私保护与数据安全的责任？
明确不同企业的角色定位是确认责任边界的前提。在责任主体方面，对于上述不同的企业类型，需根据特定的业务场景、技术逻辑和法律规范明确其属于数据控制者、数据处理者抑或是其他主体角色。然而总体来看，基于当前端侧AI手机的商业进展，终端厂商与APP开发者，第三方AI服务提供者在数据安全上的责任关系并不十分明确。
先看终端厂商。对于在手机终端上开发部署大模型的厂商，其面向用户提供AI服务时，明确知晓收集的信息种类与处理目的。就信息种类而言，按照现有的技术实现方式（手机录屏），其收集的个人信息类型将会十分丰富，包含各类敏感信息。例如：用户使用服务时提交的个人信息、个人语音命令、以及通过录屏，甚至操作APP获得的个人信息等。因此，终端厂商作为数据控制者的角色是确定的。
再看APP服务提供者。在移动互联网生态中，直接面向消费者提供服务的APP一般均会被视为数据控制者，在如电商、社交、出行等服务场景中承担着相应的隐私保护与数据安全责任。然而，当端侧AI智能体基于APP的服务能力完成特定任务时，终端厂商与APP服务提供者在数据安全上的责任边界变得模糊。
数据收集的边界在哪里？
以往手机获取的信息主要包括用户设备及应用信息、日志信息、底层权限信息等；在端侧AI场景以及当前主要基于读屏录屏的技术方式，除上述全面的信息权限外，终端智能体还可以获取录屏的文件本身，并进一步通过模型分析，获取其所展现的身份、位置、支付等各类敏感信息。由于录屏场景十分丰富，其所识别的信息类型也将无法提前预测，并且极有可能包含了大量其他自然人的个人信息。
智能体甚至还可以将用户数据和插件、应用的三方数据进行混合利用。即使在最理想的情况下，这些文件不会被发送到云端进行理解和分析，但其本身的收集过程，是否与个人信息保护的基本原则——目的限制、最小必要相自洽，仍存在疑问。此外，“端侧处理”并不意味着脱离了数据保护规则的约束。即使这些录屏、截屏储存在本地，如果缺乏足够的信息披露，本地数据存储也并不意味着安全。例如，微软最新的AI“Recall”功能每隔几秒钟就会对用户的活动屏幕进行截图而遭到安全专家的强烈反对。尽管微软坚称，由于所有 Recall 数据都存储在本地，并通过设备加密或 BitLocker 加密，并不会侵犯隐私。但Absolute公司的一项调查发现，有42%的终端设备在任何时候都没有得到保护。”专家Weinberg表示其于用户教育方面也存在漏洞，并未明确收集的数据类型。[8]
当个人信息被用于模型训练时，如何保障用户权利？
目前来看，终端实现持续的个性化服务，未来有大概率需要云端数据训练模型，如三星已明确声明“在云端处理数据的功能可能会用于模型训练”，那么，如何解决模型训练过程中有关个人信息的安全以及如何保证用户的个人权利就尤为重要。正如Noyb所提出的那样，智能体可能会错误地判断如用户的婚姻、健康状况、种族与宗教信仰等，并据此给予回答或建议。而用户想要进行更正却很难，因为其并非根据某一个确切的信息输出判断，而是多方数据汇聚判断得到的，并且很难从输入端进行更改。Open AI 在其隐私政策中也曾提出“鉴于我们的模型工作原理的技术复杂性，我们可能无法在每个实例中纠正不准确性。如果需要更正，用户可以填写表单。”[17]
此外，由于AI关键能力为自主化理解需求、自动推理策略以及自动完成任务，因此也会触发对于“自动化决策”的担忧。报告显示，欧洲民众尤其担心个人助理AI会侵犯他们的隐私并操纵他们的决定，终端智能体能够跨越应用，进行多方汇聚分析，甚至直接做出行动，其自动化决策的范围和深度都将大大提升，无疑对用户带来更加深入的影响。
从端到云，如何提供令人信任的数据安全方案？
短期内端侧模型能力有限，端云结合将是长期趋势。包括苹果、vivo、荣耀、三星等手机终端均与第三方云端大模型展开合作。此前，尽管终端厂商收集相关的个人信息，但对外传输的场景有限。而在终端AI时代，为了进行更精确的理解分析，终端智能体需要将数据发送到第三方云端进行处理，从而不可避免面临以下问题：
一是如何建立明确且可执行的权责分配机制。由于终端可能合作的不止一个云端模型，在未来的生态布局当中可能涉及更多的云端通用、专业大模型，这需要终端建立更加完善的第三方安全管理机制。
二是能否实现可信任的安全保障水平。考虑到端侧模型能力有限，且模型训练和精调只能在线上，将有大量数据从端传输到云。尽管厂商多强调其在上传云端时进行了数据脱敏与加密处理，然而，就目前来看，各大厂商基本仍停留在宣誓性的声明、产品发布会上的介绍与白皮书中的只言片语中，未有更加进一步的的详细披露。
从用户感知看，在数据已经被发送给第三方大模型处理时，很多用户无法区分两者，会误以为数据仍受到终端的保护，但其实第三方的隐私政策更加宽松，增加了敏感信息泄露的风险。此前三星公司员工就在使用ChatGPT时不慎泄露了公司的芯片机密信息。[21]马斯克也曾表示：“若苹果在操作系统中整合OpenAI，公司将禁止使用苹果设备。这被视为不可接受的安全违规行为。”
不盲目信任技术，但也无需“灾难性地担忧”[22]。在技术创新、制度规范、生态建设、用户教育的协同发展下，相信仍可以探索出面向AI时代的隐私保护与数据安全方案。
关注同花顺财经（ths518），获取更多机会
0人
不良信息举报电话：(0571)88933003 举报邮箱：jubao@myhexin.com
网站备案号： 浙ICP备18032105号-4 证券投资咨询服务提供：浙江同花顺云软件有限公司 （中国证监会核发证书编号：ZX0050）
评论