在閱讀服務條款時,許多人都會像《命運好好玩》電影中的主角一樣,彷彿被按下了快進鍵自動略過所有內容按下同意。對於個資被如何利用,你不怎麼關心嗎?這裡有個有趣的消息:其實不只是被收集的你,收集你個資的企業可能也不是這麼關心。

就在數日前,一款名為「Ever」的 App 又被外媒揭露出數據濫用的情況。

Ever 是一款類似FlickrPhotobucket的應用程式,當使用者將照片張貼在Ever上時,他們可以選擇是否讓系統自動進行臉部辨識,如果使用者同意,軟體便會分析照片上人物的臉部並自動分類照片,讓使用者能針對特定對象進行搜索,也可以使用建議標籤讓App更容易辨別朋友和家人。

對於用戶來說,這項功能讓搜尋非常簡單,圖片分類也非常整潔,而對於 Ever 來說,它是有利可圖的,但這些數據究竟被用做什麼用途了呢?

據披露消息的 NBC 報導指出,Ever 已經將運用用戶照片訓練的臉部識別系統授權給執法機構和美國軍方,隨著越來越多的人同意在 Ever 上自動臉部辨識,系統也就變得更加先進。

Ever NBC 的報導並沒有發表回應,但一些隱私權團體已對此展開抗議。非營利組織 POGOProject on Government Oversight)高級顧問 Jake Laperruque 認為,這就像是用戶被「徵召」來協助建立軍事和執法單位的監視系統,但使用者並不清楚照片與軍事用途間的關係,如果他們知道,很有可能就不會同意使用這項功能。

GoogleMaven」項目和健身 App Strava

類似的情況並不少見。2018年時,外媒Gizmodo曾揭露 GoogleMaven」項目的存在,這個由 Google 和軍方合作的項目主要目的是改善無人機使用的視覺系統,調查發現參與的員工和協助分類的合作對象多數都沒有意識到它的用途。在報導刊出後,許多 Google 員工開始發起抗議要求停止這項合作計畫。

同樣在 2018 年初,一款讓用戶記錄自己運動路線的健身 App Strava」也出現了類似問題。由於全球有近 2,700 萬名用戶,Strava 收集的數據足以建構出世界各地熱門的運動路線,其中也包含在各國軍事基地周遭的運動路線圖。這些人都同意服務條款中的收集數據,然而他們認為的是追蹤健身,而非國際間諜活動,當分析師察覺數據包含的問題時,不只是被收集者,就連 Strava 開發商也十分驚訝。

Ever 面對的情況也十分類似。儘管 Ever 的臉部辨識功能都是在獲得使用者同意後才開啟,但 NBC 聯繫的用戶多半表示,如果他們知道這與軍事用途有關聯,當初就不會同意使用。

然而問題在於,除了使用者不知道數據會被用於何處,收集的企業多半也不知道未來對數據有興趣的客戶是誰,又會為了什麼購買數據。

微軟研究院高級研究員、哈佛大學 Berkman Klein 網路與社會研究中心研究員 Mary Gray 指出,在大多數情況下,企業都在收集數據並嘗試將其捆綁販售給可能對其感興趣的人,「這意味著他們可能也不知道這些數據將被用什麼用途」。

為了挖掘數據留給未來的用途,企業在服務條款中加入了模糊的權限,而面對文字數輕易破千的服務條款內容,多數使用者只會迅速下滑並點選「我同意」,最終使得數據來源和販售者都不明白風險是什麼。

不可讀的服務條款

從臉部辨識到智慧音響,許多 AI 產品都與 Ever 有著相同做法。人們使用產品產生了數據,而數據再透過協同工作者的標記及整理後,讓 AI 軟體變得更加聰明可靠,但其中的參與者並沒有多少人知道自己的數據究竟被用於何處,模糊的條款隱藏了資訊,用戶和協作者經手的數據又是如此多變,雙方都對正在做的事情一無所知,數據的用途始終隱藏在黑暗之中。

2017 年時,英國一家科技公司 Manchester-based wifi 便曾進行過一次實驗,希望藉此說明消費者在同意內容時是有多麼缺乏意識,而實驗結果也確實展現了這種情況。近 2.2 萬名使用者為了連接 Wi-Fi 迅速同意了服務條款,但他們並未看到在服務條款中的「社區服務條例」內容──根據這項條例,所有使用者都同意為公司進行 1,000 個小時的社區服務。

為了解決這樣問題並建立起「道德 AI」,Gray 認為第一步便是得揭露數據在供應鏈中的實際情況,因為當製作或改進數據的人不知道數據會如何被使用時,他們就不能採取行動去阻止第三方將數據用於他們可能認為不道德的目的。

而隱私倡導團體 STOPSurveillance Technology Oversight Project)常駐技術專家 Liz OSullivan 對此也有相同的看法。在 AI 新創公司 Clarifai 宣布與軍方簽訂合約來強化電腦視覺系統後,OSullivan 便辭去了在該公司的職務並與 STOP 展開合作,希望透過訊息自由法案(Freedom of Information Act litigation)訴訟督促企業提供相關內容給公眾和相關合作者知悉。

你都有認真看完服務條款才按同意嗎?(Sourceshutterstock

其實服務條款的除了內容含糊不清,艱澀的用字措辭也是很大的問題。在 1 月發表的一篇論文中,兩位法學教授分析數百項服務條款後指出,其中大部分內容遠高於建議的中學閱讀程度,甚至就像是要求用戶去閱讀不可讀的內容。

OSullivan 認為,國會應該強迫科技公司將他們的服務條款協議變成簡單易懂的文字,好讓用戶知道他們究竟提供了什麼樣的許可同意。「人們不應該得去獲得一個法律學位才能了解企業如何處理這些數據,人們應該要能夠根據自己的信念體系去進行選擇。」

創作者介紹
創作者 Win Driver News 的頭像
Win Driver News

Win Driver News

Win Driver News 發表在 痞客邦 留言(0) 人氣()