文｜一見財經(jīng)
當(dāng)AI接管手機，帶給我們的究竟是便利還是毀滅？
10月30日，榮耀Magic7旗艦系列發(fā)布會上，榮耀CEO趙明用榮耀智能助手YOYO “全自動” 點咖啡一炮走紅，YOYO理解了他的意圖，并點開美團、點擊商戶、選擇商品、跳轉(zhuǎn)至支付頁面，最后由用戶確認支付。
榮耀還展示了“一句話取消自動扣款”，YOYO進入支付寶的自動扣款頁面，關(guān)閉App的付費訂閱。
除了榮耀，在11月29日大模型企業(yè)“智譜”的Open Day上，CEO張鵬展示了其手機助手產(chǎn)品AutoGLM，一句“幫我在智譜開放日的群聊里發(fā)個兩萬的紅包，數(shù)量為一百個，名字為AI給你發(fā)的第一個紅包”，即可讓AI打開微信、選擇紅包數(shù)量、總金額、更改紅包命名，最后輸入密碼發(fā)送。
這兩年，在AI浪潮下，國產(chǎn)安卓手機廠商積極在手機上部署大模型，如榮耀的魔方大模型、vivo藍心大模型、OPPO安第斯大模型等，最集中的表現(xiàn)就是手機里的各種智能助手。
有了大模型的加持，智能助手變得以前更聰明，除了能更好地回答問題，手機廠商還希望將AI變?yōu)橹?，輔助用戶完成各種復(fù)雜操作。
不過，在用戶獲得便利性的同時，某些手機為了實現(xiàn)“智能化”另辟蹊徑，導(dǎo)致手機權(quán)限被濫用，用戶隱私“裸奔”。
濫用無障礙接口，不走正道走“盲道”
國產(chǎn)安卓手機廠商在宣傳大模型加持下的“AI手機”時，絕大多數(shù)只談能力，卻未告知其操作第三方App的技術(shù)原理以及給用戶帶來的隱私風(fēng)險。
有券商研究報告指出，目前AI手機智能助手調(diào)用第三方App，主要有兩條技術(shù)路線：
路線一：通過意圖框架實現(xiàn)。通過API調(diào)用應(yīng)用，實現(xiàn)跨應(yīng)用功能。
具體來說，就是手機廠商與App開發(fā)企業(yè)協(xié)商、以合法的API接口的形式接入。比如蘋果與華為，二者均在開發(fā)者官網(wǎng)推出了用戶意圖框架的合作方案，設(shè)計了統(tǒng)一的合作模式，并提供了開發(fā)者文檔的指引，讓開發(fā)者自主選擇是否接入、如何接入，開放哪些場景與接口。
路線二：通過純視覺方案實現(xiàn)。無需第三方App同意，直接調(diào)用安卓系統(tǒng)的無障礙等系統(tǒng)級權(quán)限。
具體做法是，安卓手機廠商以多模態(tài)大模型技術(shù)配合無障礙權(quán)限，先讀取屏幕內(nèi)容，再以模擬用戶點擊的方式代替用戶操作，實現(xiàn)手機智能助手代替用戶接管手機，以達到調(diào)用APP功能的目的。
無障礙（Accessibility API）是安卓操作系統(tǒng)給殘障人士專設(shè)的特殊接口，Accessibility API允許應(yīng)用程序讀取屏幕內(nèi)容并代替用戶執(zhí)行輸入，用戶開啟后可以輔助用戶朗讀屏幕、語音控制點擊按鍵等。
業(yè)內(nèi)人士表示，“無障礙”近乎于系統(tǒng)級別的最高權(quán)限，開啟后可以向善，也可以作惡。一旦這項權(quán)限遭到惡意調(diào)用，就如同手機大門敞開，用戶數(shù)據(jù)安全與隱私保護體系淪為“馬奇諾防線”。
這些年，濫用無障礙接口的案例很多，同時也是相關(guān)部門打擊的重點。
2021年，百豪公司利用無障礙接口及監(jiān)聽消息通知等功能，開發(fā)出自動搶紅包外掛“紅包獵手”“多多搶紅包”，后被杭州鐵路運輸法院認定為違反《中華人民共和國反不正當(dāng)競爭法》第十二條第（四）項規(guī)定，構(gòu)成不正當(dāng)競爭，一審判處賠償騰訊公司70萬元，二審、終審均維持原判。
另據(jù)福建省龍巖市中級人民法院(2019)閩08刑終119號刑事判決書中記錄，三位被告開發(fā)的應(yīng)用“超級雷神”，利用無障礙功能實現(xiàn)了“自動搶紅包”等功能，構(gòu)成侵入計算機信息系統(tǒng)程序罪，最終三位被告均獲刑三年。
目前，某些國產(chǎn)安卓手機廠商通過濫用無障礙接口，實現(xiàn)手機的AI功能，根本原因是野心大于實力。
對于很多國產(chǎn)安卓手機廠商來說，由于出貨量小，各家用戶意圖框架不統(tǒng)一，接入開發(fā)工作量大等原因，缺乏和app廠商談判的籌碼，只有少數(shù)App愿意接入，讓其調(diào)用API。
不過，國產(chǎn)安卓手機廠商一方面不滿足于自有App的有限場景，另一方面又不甘心與一家家App企業(yè)慢慢談合作，同時還希望快速上馬熱門場景，深入支付寶、美團、微信等頭部應(yīng)用的重點功能。
于是，部分手機廠商冒險選擇了“路線二”，即調(diào)用無障礙接口，通過讀屏和模擬用戶點擊的方案調(diào)用第三方App。
傷害用戶隱私的威力堪比核武器
非法調(diào)用無障礙接口并非新興事物。
早在2023年手機大模型流行前，很多智能助手已經(jīng)可以實現(xiàn)一句話發(fā)微信等功能。通過調(diào)用無障礙接口、讀取屏幕內(nèi)容、模擬點擊來實現(xiàn)“智能化”，只是以前相對隱蔽、范圍有限。
從技術(shù)上講，手機“讀屏”有兩條實現(xiàn)路徑：一條是明面上的讀屏，另一條則是API Hook（API鉤子）。兩者都需要獲取無障礙、root等系統(tǒng)級權(quán)限，更深度侵入手機個人隱私。
讀屏是仿照人的理解方式，眼睛看到信息、大腦處理信息；而API Hook是操作系統(tǒng)的特權(quán)，通過讀取跑在系統(tǒng)上的App運行情況、App調(diào)用了哪些系統(tǒng)控件，來判斷當(dāng)前處于什么App頁面、頁面上有哪些App信息。
通俗地說，讀屏相當(dāng)于手機在前臺“看懂”了屏幕信息，API Hook是手機在后臺“監(jiān)控”了APP運行信息。兩種方案綜合運用，可以共同幫助AI理解手機里的內(nèi)容、完成不經(jīng)App許可的功能調(diào)用。
2023年以前，手機大模型沒有被廣泛應(yīng)用前，這種侵犯用戶隱私的方式精度低，范圍也不大，但隨著這兩年大模型的盛行，多模態(tài)大模型能讓系統(tǒng)更好地理解當(dāng)前屏幕內(nèi)容。
如果說以前的AI相對“智障”，侵害用戶隱私的威力只是手榴彈，那么有了大模型能力的識屏就相當(dāng)于核武器。
現(xiàn)在，也許你只是請手機幫忙發(fā)條微信，但手機卻要讀取你屏幕上的所有信息、照片、聊天記錄，并可以通過大模型分析，獲取身份、位置、支付等各類敏感信息。此時手機上的個人數(shù)據(jù)大門敞開。
另外，借用API Hook技術(shù)，系統(tǒng)后臺在讀取App后臺運行界面時，不僅局限于讀取某一屏的內(nèi)容，而是會綜合前后幾屏、上下文的內(nèi)容，在用戶不知不覺中，個人很可能已經(jīng)泄漏。
拒絕AI“監(jiān)視一切”刻不容緩
對于很多普通手機用戶來說，只是體驗到了智能手機帶來的便利性，但對于數(shù)據(jù)安全和隱私泄露風(fēng)險，卻全然不知。
很多用戶在使用手機過程中，根本就沒有“授權(quán)意識”，即便手機有提示，用戶授權(quán)了，但面對專業(yè)的技術(shù)名詞，很多用戶根本不清楚自己授予了什么權(quán)限嗎？代價是什么？
手機廠商與App、用戶間天然存在著極不對等的權(quán)力關(guān)系，就好比科幻小說《三體》中的農(nóng)場主與火雞，國產(chǎn)安卓手機廠商發(fā)展出各自高度定制化的操作系統(tǒng)，掌握遠高于應(yīng)用層的權(quán)限，面對用戶更是有至高無上的“技術(shù)權(quán)力”。
在人工智能時代，隨著手機智能助手的發(fā)展，上述權(quán)力關(guān)系進一步失衡，更多安全問題將浮出水面：未經(jīng)許可調(diào)用App后，如果造成了數(shù)據(jù)泄漏，該由手機廠商還是App負責(zé)？哪些個人數(shù)據(jù)會被手機搜集、用于模型訓(xùn)練？用戶不愿意被搜集個人數(shù)據(jù)可以嗎？所謂的端側(cè)大模型，如何真正保護用戶個人數(shù)據(jù)不被傳送給第三方云端大模型？
12月18日，對外經(jīng)貿(mào)大學(xué)、中國人民大學(xué)、螞蟻集團聯(lián)合發(fā)布的《算法與AI大模型的用戶認知調(diào)研報告（2024）》，基于8030份問卷的調(diào)研顯示，52%的用戶已在AI大模型中遭遇到了數(shù)據(jù)安全與隱私問題。另外，有60%的用戶已經(jīng)意識到，AI大模型最大的風(fēng)險來源于不受控制的搜集用戶隱私、個人資料。
今年6月，微軟公司曾試圖推出“Recall”（恢復(fù)）功能，原理與國產(chǎn)安卓廠商的讀屏模擬點擊方案高度雷同。每隔幾秒，系統(tǒng)會對當(dāng)前電腦屏幕截屏，再由AI識別、理解用戶意圖，為用戶提供智能化操作。
然而，該功能在推出后便收到鋪天蓋地的“差評”，更有行業(yè)人士稱其為“隱私噩夢”，遭到美國行業(yè)人士的集體抵制。出于對隱私風(fēng)險的擔(dān)憂，微軟稱將不會在新的個人電腦Windows系統(tǒng)中“上新”Recall功能。
微軟的計劃流產(chǎn)了，但國產(chǎn)安卓手機廠商卻把這一切變成了現(xiàn)實，在為用戶提供“智能體驗”的同時，也打開了潘多拉魔盒。