文|腦極體
在智能時(shí)代，算法和算力的不斷突破，讓AI技術(shù)飛速發(fā)展。在工業(yè)生產(chǎn)、醫(yī)療、交通、能源等領(lǐng)域，AI與大數(shù)據(jù)技術(shù)相互協(xié)助，解放了人們?cè)S多無意義、重復(fù)危險(xiǎn)的工作，也為企業(yè)的效率與安全帶來了增益。
不過完美的技術(shù)并不存在，我們一邊享受著數(shù)據(jù)帶來的紅利，另一方面也面臨著個(gè)人信息“裸奔”的挑戰(zhàn)，身邊越來越多的智能設(shè)備都偷窺我們的個(gè)人隱私。
我們或許都有過這些經(jīng)歷——
隨意地和同事聊天，討論哪里的火鍋、燒烤好吃，打開大眾點(diǎn)評(píng)，首頁上都是火鍋與燒烤的推薦；
和閨蜜、女朋友討論哪家的奶茶好喝，想喝新出的某個(gè)口味，外賣平臺(tái)上都是這個(gè)奶茶的推薦；
在和家人討論劉畊宏，討論減肥，討論瑜伽服，再打開某寶的話，也會(huì)收獲滿屏的健身用品推薦。
身邊的電子設(shè)備都在各種暗中偷偷觀察我們的言行，詭異得令人不舒服。這些對(duì)我們聲音的窺探，也是一種消費(fèi)市場(chǎng)風(fēng)靡下各類App的營銷手段。通過對(duì)權(quán)限隱私的打開，實(shí)時(shí)將我們的聲音傳輸?shù)较到y(tǒng)中，運(yùn)用所謂AI為我們推送定制化的服務(wù)。事實(shí)上，這些以獲取隱私為前提的營銷，讓消費(fèi)者十分困擾。
如何避免這類情況的出現(xiàn)？有些人選擇不長(zhǎng)期授權(quán)開啟麥克風(fēng)，一次一授權(quán)，但是這種方式太麻煩。更極端的方式，有人故意在交談過程中，使用外放的音樂或者電視劇等嘈雜的聲音來遮蓋交談聲音，但這種殺敵一千自損八百的體驗(yàn)過分難受。如何用技術(shù)的手段來規(guī)避這類情形呢？
用魔法打敗魔法
用AI來打敗AI，可能是一個(gè)不錯(cuò)的出路。一種新的AI系統(tǒng)上線，這個(gè)AI系統(tǒng)的規(guī)避邏輯是，在談話的過程中加一些其他聲音的“佐料”，只不過這些“佐料”很微弱，不會(huì)像外放的音樂、聲音那么嘈雜，影響我們正常的交談。
只要在人們交談的過程中，打開這個(gè)系統(tǒng)，空間內(nèi)就會(huì)播放一段微弱聲音，在不影響正常對(duì)話的前提下，掩蓋交談的聲音，以避免被麥克風(fēng)收音。
這個(gè)AI系統(tǒng)，是來自美國哥倫比亞大學(xué)的研究團(tuán)隊(duì)提出的一種新方法。該系統(tǒng)可以很容易地部署在我們常用的電子設(shè)備中，只要在電腦、手機(jī)等硬件運(yùn)行，就可以實(shí)時(shí)保護(hù)用戶的隱私。
用AI技術(shù)來干預(yù)麥克風(fēng)獲取聲音，并不是一個(gè)新奇的點(diǎn)子。此前也有相關(guān)的技術(shù)解決這類問題，不過因?yàn)槁曇艚徽劦奶厥馇榫?，無法預(yù)測(cè)幾秒后談話的單詞與語速，這使得AI無法跟上交談雙方的對(duì)話節(jié)奏，從而影響對(duì)話覆蓋遮蔽的效果。
新的AI系統(tǒng)，可以通過深度學(xué)習(xí)的算法，預(yù)測(cè)交談雙方接下來要說的話的特點(diǎn)，以兩秒鐘的輸入語音為條件，實(shí)現(xiàn)了實(shí)時(shí)性能。實(shí)時(shí)生成的合適麥克風(fēng)噪音可以有效地干擾對(duì)對(duì)話隱私的獲取。
這個(gè)新算法使用了一種“預(yù)測(cè)攻擊”的信號(hào)，該信號(hào)可以干擾任何被自動(dòng)語音識(shí)別模型訓(xùn)練來轉(zhuǎn)錄的單詞。并且當(dāng)干擾的聲音在自然環(huán)境播放時(shí)，需要足夠大的音量來干擾任何可能在遠(yuǎn)處的流氓“竊聽”麥克風(fēng)。這個(gè)系統(tǒng)被證實(shí)在有自然環(huán)境噪聲和復(fù)雜形狀的真實(shí)房間中都具備良好的效果。不過目前算法系統(tǒng)只對(duì)英文交流的語言有效，團(tuán)隊(duì)正在將更多的精力放在其他語言的遷移應(yīng)用中。
在這場(chǎng)爭(zhēng)斗中，AI系統(tǒng)對(duì)設(shè)備背后的神經(jīng)網(wǎng)絡(luò)推薦系統(tǒng)勝算滿滿。這一研究成果也在走出實(shí)驗(yàn)室的過程中，向多語言多場(chǎng)景輻射落地，未來或許能夠幫助我們免受各式各樣對(duì)話隱私的“騷擾”。
聲音的隱私對(duì)我們的影響主要是消費(fèi)領(lǐng)域的干涉和侵?jǐn)_，在視頻領(lǐng)域，我們的肖像隱私更是重災(zāi)區(qū)。
新的視頻“噪音”手段
在視頻隱私領(lǐng)域，公眾的隱私也沒有邊界。大家印象深刻的事情，莫過于在某家地產(chǎn)公司的樓盤銷售活動(dòng)中，客戶自己戴頭盔來買房。很多人在初看新聞時(shí)，可能還有種嘲笑事主的心態(tài)，而在了解真實(shí)情況下，無奈也為事主的機(jī)智點(diǎn)贊。戴頭盔的主要目的是躲開地產(chǎn)公司的AI視頻識(shí)別，免得被進(jìn)行差異化服務(wù)，避免自己購房利益損失。
視頻領(lǐng)域?qū)οM(fèi)群體的千人千面的不公平待遇只是冰山一角，更為嚴(yán)重的是一些堂而皇之的隱私侵犯。在天眼的覆蓋中，滿大街的攝像頭，讓所有人的視頻數(shù)據(jù)都在裸奔中。哪怕是一些人為了安全，在家中安置的攝像頭，也不能免除被一些黑客攻擊的風(fēng)險(xiǎn)，用戶在家中的任何舉動(dòng)都被背后的一雙雙別有用心的眼睛窺探著。
這些視頻隱私，除了立法可以威懾外，有沒有技術(shù)的手段可以針對(duì)性地保護(hù)？
麻省理工學(xué)院計(jì)算機(jī)科學(xué)與人工智能實(shí)驗(yàn)室的研究人員開發(fā)了一種新的系統(tǒng)，在視頻中添加一些噪音數(shù)據(jù)，確保個(gè)人在視頻中不被識(shí)別，同時(shí)公共的視頻也可以作為分析與調(diào)查的資料來使用，可以更好地保證出現(xiàn)在監(jiān)控視頻片段人的隱私。
我們知道在天眼中或者社區(qū)、園區(qū)的監(jiān)控視頻中，被錄入視頻中的人毫無隱私可言，一切的人臉信息都被攝像頭攝入并分析，雖然可以保證公共領(lǐng)域的安全，可以監(jiān)測(cè)行人、車輛流動(dòng)的密度和流量，幫助衛(wèi)生健康與防疫措施的施行，但這種以犧牲個(gè)人的隱私這種局面在技術(shù)的升級(jí)過程中，應(yīng)該逐漸被打破。
一些企業(yè)采取的是在視頻中模糊人臉的方式，但這類做法可能讓系統(tǒng)會(huì)跟丟一些人臉數(shù)據(jù)，進(jìn)而會(huì)導(dǎo)致一些研究無法進(jìn)行。新型的AI系統(tǒng)Privid，能夠讓研究人員運(yùn)用視頻數(shù)據(jù)查詢的同時(shí)，也能確保個(gè)人身份無法被識(shí)別，保護(hù)出現(xiàn)在視頻片段中人的隱私。在各種視頻和查詢中，Privid的準(zhǔn)確率在非私有系統(tǒng)的79%-99%之間。
Privid AI系統(tǒng)運(yùn)用的是一種差分隱私保護(hù)技術(shù)差分隱私允許用戶對(duì)數(shù)據(jù)進(jìn)行一定程度的修改，加入一些噪音數(shù)據(jù)，但不影響數(shù)據(jù)總體的輸出，從而使得攻擊者無法知道數(shù)據(jù)集中關(guān)于個(gè)人的信息，達(dá)到隱私保護(hù)的作用。
不過這個(gè)系統(tǒng)也存在一定的局限，那就是要添加的噪音數(shù)據(jù)量無法確定。理想的情況當(dāng)然是，添加的噪音恰好足以隱藏每個(gè)人，但又不至于多到對(duì)研究人員毫無用處。但現(xiàn)實(shí)是，向數(shù)據(jù)添加噪音并保證視頻的分析查詢的過程中，會(huì)造成一定程度的干擾，讓結(jié)果不會(huì)非常準(zhǔn)確，這個(gè)噪音數(shù)據(jù)的平衡，需要技術(shù)的深入與斟酌，在不影響實(shí)際參考價(jià)值的同時(shí)保障隱私。
AI深入隱私保護(hù)
在視聽領(lǐng)域，我們被暴露在開闊的地帶，普通人的數(shù)據(jù)成為消費(fèi)領(lǐng)域的金錢與流量，被導(dǎo)入各類消費(fèi)場(chǎng)景中。對(duì)有錢有權(quán)的人來說，個(gè)人隱私的數(shù)據(jù)更為金貴，它很可能成為黑客眼中勒索的“肥肉”。在攝像頭下，你去的每一個(gè)地方都是透明的，如果有人獲取了這些數(shù)據(jù)，就能夠建立起人出現(xiàn)在固定場(chǎng)所的時(shí)間線，只要匯總數(shù)據(jù)就可以捕捉到人的歷史位置和各類信息。有心的獵手只要蹲守，總會(huì)捕獲肥膘滿滿的獵物。
AI越智能，獲取、存儲(chǔ)、分析的信息也會(huì)越來越多，也會(huì)越來越隱蔽。雖然AI技術(shù)的中立性是共識(shí)，但背后的大公司、黑客的應(yīng)用都是被利益所驅(qū)動(dòng)，一旦這些信息不被合理地應(yīng)用，就會(huì)造成各類影響嚴(yán)重的事件發(fā)生。
我們知道視聽生活是現(xiàn)代人類娛樂、生活的必需品，無人能夠離開嵌入攝像頭、麥克風(fēng)的各類電子產(chǎn)品。城市的運(yùn)行、工廠、企業(yè)的管理運(yùn)營離不開各類攝像頭設(shè)備的輔助，這也意味著更多的社會(huì)、企業(yè)及個(gè)人信息都在數(shù)據(jù)世界中流動(dòng)。
技術(shù)發(fā)展總比法律的約束快。如果通過立法、道德的方式去約束，漏洞也會(huì)越來越多，安全和隱私得不到保障，這也會(huì)減緩AI的發(fā)展。保護(hù)隱私和安全是技術(shù)發(fā)展的關(guān)鍵。用AI的方式去約束一些AI技術(shù)對(duì)隱私的濫用，成為數(shù)智時(shí)代網(wǎng)絡(luò)安全技術(shù)人員的必選項(xiàng)。
不過當(dāng)前基于AI深度學(xué)習(xí)的隱私保護(hù)研究正在起步階段，還有許多挑戰(zhàn)。比如加密算法的應(yīng)用方面，雖然加密技術(shù)是最直接有效的隱私保護(hù)手段，但加密技術(shù)的技術(shù)成本和應(yīng)用成本，結(jié)合本身就消耗大量計(jì)算資源的深度學(xué)習(xí)算法，將大大降低算法性能。
另外就是監(jiān)管層面的落后與缺乏。技術(shù)發(fā)展的特性，使得監(jiān)管層面一直是跟在技術(shù)后面跑。如何采用創(chuàng)新的監(jiān)管方式，可以提前預(yù)警，而不是事后補(bǔ)救。如何構(gòu)建監(jiān)管層面與其他第三方科技企業(yè)合作的溝通平臺(tái)，一起評(píng)估未上線的新應(yīng)用，保障新技術(shù)的合理應(yīng)用，也是未來重要的研究議題。
技術(shù)雙刃劍的發(fā)展不可避免，但隱私保護(hù)與AI技術(shù)的關(guān)系可以兼容并存，為爭(zhēng)議和缺陷而廢食，就得不償失。用智能技術(shù)去修補(bǔ)AI技術(shù)的隱私漏洞，也是最能夠跟上AI發(fā)展的方式。雖然總有各種隱私怪相、幺蛾子的誕生，不過魔法才能打敗魔法的AI也讓我們的顧慮與擔(dān)心有所減少。
隱私保護(hù)是一個(gè)多維、博弈的過程，我們目前探究的解決方案，也是基于存在隱私漏洞的前提。那么有沒有根除隱私漏洞的方式存在呢？其實(shí)最好的解決方案就是，開發(fā)設(shè)計(jì)的初始階段就要有意識(shí)地避開這些觸發(fā)隱私泄露的可能方案。研發(fā)技術(shù)人員需要更多的考慮一些AI技術(shù)對(duì)于人類和社會(huì)產(chǎn)生的影響，從創(chuàng)新的初始就考慮一些避開爭(zhēng)議的區(qū)域。技術(shù)道德與倫理的內(nèi)容在不斷地完善過程中，也需要一批批技術(shù)人員的落實(shí)與充實(shí)。
技術(shù)永遠(yuǎn)都是中立的，不道德、不合法的侵犯隱私，最后被釘在恥辱柱上的是企業(yè)和背后的技術(shù)開發(fā)人員，未來技術(shù)與立法的完善，罰酒三杯的懲罰方式不會(huì)再有了，終究會(huì)有人在隱私與安全技術(shù)的發(fā)展中為自己的行為買單，為AI發(fā)展獻(xiàn)祭。