隨著科技進步,AI人臉辨識成為了執法單位維護治安的選項之一,但也引發民眾對資安的擔憂。美國麻省理工學院(MIT)和IBM合作的華生人工智慧實驗室(Watson AI Lab),與美國麻州東北大學(Northeastern University)的研究人員們近日研發了1款能夠對抗人臉辨識系統的T恤。

研究團隊指出,在虛擬環境、畫面中僅有1人的前提下,這款T恤欺騙常見的YOLOv2模型成功率高達79%。(圖擷取自〈Evading Real-Time Person Detectors by Adversarial T-shirt〉)

科技網站「VentureBeat」報導,2014Google與紐約大學(New York University)合作的研究就指出,物件、臉部辨識演算法會被貼在現實物件上的特製補丁欺騙,對這種「對抗攻擊」幾乎毫無抵禦能力,假如在1張熊貓的照片上貼上特製補丁,人工智慧就會把熊貓辨識成長臂猿。但以當時的技術,特製補丁必須印在玻璃、木板等平面硬物上才會生效,無法印在衣服上。

華生人工智慧實驗室與美國麻州東北大學最近突破了過去的技術限制,研發了1款印有特製補丁的T恤,能讓臉部辨識系統抓取不到穿著特製上衣的人。研究團隊在論文草稿中指出,在虛擬環境、畫面中僅有1人的前提下,這款T恤欺騙常見的YOLOv2模型成功率高達79%,在現實環境中的欺騙成功率也有63%,但如果畫面中的人數增加,T恤的欺騙成功率也會降低。

研究人員補充,這款印有特製補丁的T恤也有其限制,無法欺騙亞馬遜網路服務(AWS)、「 Google Cloud Platform」、微軟雲端服務「Azure」推出的較精細物件與人臉辨識模型。儘管如此,研究人員仍表示,這項成果是研發具「對抗性」可穿戴設備的第一步。

比利時天主教魯汶大學(university of KU Leuven)今年4月也透過研究證明,只要將印有特製補丁的紙張掛在脖子上,就可以躲過人臉辨識的偵測。

    全站熱搜

    Win Driver Blog 發表在 痞客邦 留言(0) 人氣()