記者 | 姜菁玲

在許多科幻電影中，通過(guò)腦機(jī)接口進(jìn)入的虛擬世界完全由代碼構(gòu)成，在現(xiàn)實(shí)世界中只需要修改幾行代碼，主角就可以自動(dòng)加載所需要的技能，成為足夠?yàn)樗麨榈某?jí)英雄。

賽博時(shí)代，現(xiàn)實(shí)與虛擬之間的界限正在越來(lái)越模糊。在人臉識(shí)別開始決定我們的身份，智能算法在揣測(cè)我們的現(xiàn)實(shí)喜好的同時(shí)，一些背刺人工智能算法的技術(shù)正在悄然成長(zhǎng)。

在2022世界人工智能大會(huì)現(xiàn)場(chǎng)，一家名為瑞萊智慧的公司展示了一項(xiàng)足以讓人在人工智能視覺(jué)算法面前“隱身”的技術(shù)。界面新聞?dòng)浾吣蒙弦患麄兌ㄖ频腡恤擋在身前，和同伴同時(shí)站在一臺(tái)帶有視覺(jué)算法的人體識(shí)別機(jī)器前。電腦屏幕中可以清晰識(shí)別出同伴的人臉并且根據(jù)移動(dòng)位置實(shí)時(shí)跟蹤，而被T恤所擋住的記者則形若空氣，處于“隱身”狀態(tài)，不論靠得多近都無(wú)法被機(jī)器所識(shí)別出。

展臺(tái)現(xiàn)場(chǎng)工作人員告訴界面新聞?dòng)浾?，這件可以讓人隱身的“T恤”真正的秘密在于胸前的特定圖案。這些圖案由特定的代碼生成，它可以對(duì)抗基于人工智能視覺(jué)識(shí)別技術(shù)的檢測(cè)算法，使其出錯(cuò)。普通人一旦穿上，就可以逃避檢測(cè)系統(tǒng)的追蹤，讓識(shí)別系統(tǒng)檢測(cè)不到該目標(biāo)。

瑞萊智慧方面解釋，實(shí)際上，這種技術(shù)所反映的是人工智能的結(jié)構(gòu)性缺陷。目標(biāo)檢測(cè)系統(tǒng)大多基于數(shù)據(jù)驅(qū)動(dòng)的深度學(xué)習(xí)算法，存在不可靠和不可解釋等局限性，即便是開發(fā)者也難以理解其內(nèi)在的運(yùn)行邏輯，這一結(jié)構(gòu)性漏洞可能導(dǎo)致系統(tǒng)遭受惡意攻擊。

上述所演示的人體檢測(cè)技術(shù)在當(dāng)下被廣泛利用于各種安防場(chǎng)景。此外，工作人員稱，該隱身攻擊對(duì)象也可拓展至更廣泛的識(shí)別檢測(cè)系統(tǒng)上。例如，車輛檢測(cè)是自動(dòng)駕駛智能感知系統(tǒng)的一項(xiàng)常用功能，只要車輛位于攝像頭前方，一般的檢測(cè)系統(tǒng)都能準(zhǔn)確識(shí)別出車輛和車輛的位置。但如果車身上粘貼了對(duì)抗圖案，就可能使檢測(cè)算法出錯(cuò)，變得無(wú)法被檢測(cè)到，進(jìn)而可能導(dǎo)致一些交通事故的產(chǎn)生等等。

據(jù)介紹，這套“隱身”技術(shù)屬于是攻防實(shí)戰(zhàn)中的一個(gè)具體實(shí)驗(yàn)場(chǎng)景，它搭載于瑞萊智慧人工智能安全平臺(tái)RealSafe中，該平臺(tái)主要提供人臉比對(duì)、圖像分類、目標(biāo)檢測(cè)三類通用計(jì)算機(jī)視覺(jué)場(chǎng)景的安全測(cè)評(píng)和加固，幫助提高AI系統(tǒng)的安全性。