監控資本主義： 摘要與評論

哈佛商業學院教授 Shoshana Zuboff 所寫的 監控資本主義時代 ... 太厚了，懶惰的我，沒有讀。 只看了 演講、 (白話易懂的) 採訪 跟讀很多篇心得與評論。 特別向略有技術概念的讀者推薦這篇超讚的中文文章： 監控資本主義時代下的資料科學、AI 與你我的數位未來； 其他連結下收。 趕快筆記一下這兩部影片的重點， 並加上 [我的補充與評論]。

給趕時間的讀者們的三句話摘要： 臉書、 Google 等等資訊大廠， 以及各品牌連鎖店， 它們對我們的了解， 遠遠超過我們自己的了解。 他們甚至有能力暗中左右我們的思想與行為， 而我們卻絲毫沒有察覺， 仍舊以為自己有自由意志、 自主意識。 這些現像不只發生在網路上， 也發生在現實生活當中， 對民主社會造成嚴重的威脅。

2000年網路泡沫化時期， Google 放棄了某些原則， 開始販售廣告， 啟動了監控(式)資本主義。 免費使用 Google 和臉書的人們並不是客戶， 也不是產品， 而是原物料。 他們從我們身上取得的行為資訊， 遠遠超過我們以為的那樣。 [我們以為臉書看到的只是我們張貼出來的文章， 其實它看得到我們的打字速度、拼字能力， 甚至是 編輯文字舉棋不定要不要寫某一些詞的猶豫過程； 抖音也是。 我們以為臉書看到的只是我們按了一些「讚」， 其實它可以從這些「讚」裡面 分析出我們的個性、情緒、宗教/政治/性傾向。 (英文) 我們以為對 Amazon alexa 下聲控指令時， 它聽到的只是我們說的文字內容， 但其實它可以 聽出我們的情緒。 但上面的例子都還只是 "遠遠超過" 一辭的意義的較容易理解/皮毛層面而已。 更厲害的血肉精髓在下一段。 ]

隱私權不是個人的問題， 而是整個社會共同面臨的挑戰。 [請想像你自己取得 10 個普通人的詳細行為資訊。 這也許沒有太大的意義。 但是當你取得十萬個人甚至十億個人的行為資訊時， 你就得到大數據的第一個 V： volume， 也就是 Zuboff 所說的 "economy of scale"。 如果你取得的行為資訊包含文字/影像/聲音/... 等等各種不同類型的資訊， 你就得到大數據的第二個 V： variety， 也就是 Zuboff 所說的 "economy of scope"。] 得到大量且多樣化的行為資訊， 就可以拿來訓練人工智慧、 建立人類行為的預測模型。 你跟我拿不到十億個人的行為資訊， 而這些大公司可以， 所以他們有能力預測人群 (風潮/意志/實體足跡/...) 的走向， 而我們不行。 多數人手上沒有這種預測模型， 甚至不曾想像過大公司 (因為取得你我的行為資訊而獲得) 有這樣的能力。 這就是大公司與一般人之間的認知不平等 (epistemic inequality) 鴻溝。

你我既不是客戶也不是產品， 而是原料。 這種預測能力的產出物行為期貨 (behavior futures) 才是商品， 可以拿來賣給下廣告的商家。 或者， 在實體世界握有大量行為資訊的商家本身 (例如連鎖超商、 保險公司、 ...) 就可以直接拿它來有效促銷。 [例如 在第一時間推測出某少女顧客已經懷孕並且寄送相關商品的廣告。 所以我刻意避免 (為了折扣) 加入連鎖店的會員、 避免使用 GoodRx 之類的蒐集個人健康醫療資訊的 apps、 還有 對於 VR 頭盔更是十分畏懼， 一定要等自由軟體版出現才敢玩。] 那些強調 「個人化...」、 「智慧...」 的服務或產品， 很有可能都是這個產業生態的一部分 -- 那些最接近、用以萃取 「原料」 的機器。 [想到 中國豐富的 「人礦」]

這個強大的能力也可以更進一步拿來左右人們的思想與行為呀！ 臉書的情緒傳染實驗 (英文)、 臉書針對紐西蘭澳洲青年進行的心理弱點行銷研究 (英文) 都是實例。 這就是監控資本主義的第三個特性： economy of action： 大公司運用它對你我的了解， 左右我們的行為。 [比較傳統、無害的實例是 targeted advertisement， 讓我們更有興趣去點廣告、 買產品。] [擴增實境 augmented reality 更是 economy of action 的最佳催化劑： 它可以把這樣的預測能力與影響力帶入實體世界。] 寶可夢的 sponsored locations 也是一個很好的例子： Niantic labs 像是趕羊群 (herding) 一樣地把人們帶到特定的商家附近， 這時商家們關心的數值就不再是 click through rate 而是實體世界的 footfall 量。 [例如 全家便利商店。] 重點是： 你並不覺得自己被強迫。 你是很開心/滿足/自主地前往它要你去的地點。 [ 想到 Huxley 的 「美麗新世界」 ]

人們不自覺地被科技大廠控制的過程， Zuboff 把它稱為 dispossession。 它包含四個步驟：

1. incursion： 在新的公領域 (例如街景、線上論壇) 甚至是私人空間 (例如 Amazon Alexa) 佔地為王 不必徵求誰的同意就直接開始記錄行為資訊 ， 先搶先贏。 例如 Google 沒向用戶說明， 在 nest 裝置裡面直接安置了一顆麥克風 (英文)
2. habituation： 人們雖然不滿， 但是抗議的聲音會越來越小。 大眾逐漸習慣並且無力、無奈地接受。
3. adaptation： 配合政府法令也許在形式上做一些讓步。
4. redirection： 轉移大眾注意力。

[這其實是科技領域多年以來一直在發生的事。 找到兩篇文章拿別的例子談 dispossession 的現象： Sidewalk Labs 「佔領」 加拿大多倫多 Waterfront、 Canvas LMS (學習管系統) 背後的 Instructure 公司 「佔領」 線上學習的師生對話空間； 我想到的則是 Windows 從 XP 年代的 WGA 偷傳一點資料到 Win 10 光明正大的 telemetry、 以及微軟主導下， 從 硬體廠商沒收你的開機鑰匙 到 TPM2。]

蒐集這些行為資訊、 經過 AI/大數據分析、 成為可販售的商品， 由此所創造出來利潤， Zuboff 稱之為 surveillance dividend， 這種利潤非常豐厚。 基於資本主義運作的原則， 很多較傳統的企業也都會競相朝這個方向調整。 例如 福特汽車與 Google 合作， 福特當然就是希望跟上潮流； 至於 Google 的著眼點， 並不是希望從賣車的利潤當中賺錢， 而是透過汽車四處跑， 可以有更多蒐集車內外資訊的管道， 就跟 Google 把 android OS 授權給許多手機廠商的著眼點類似。

* * * * *

以上的一些 [補充] 大致上應該符合 Zuboff 的原意。 接下來要補充一些我自己的不同看法。 特別推薦以下幾篇評論， 我從這幾篇得到很多啟發：

1. The age of surveillance capitalism (Ico Maly)
2. Surveil and Control: A critical review of “The Age of Surveillance Capitalism” (Jan Zygmuntowski)
3. Capitalism’s New Clothes (Evgeny Morozov) (超長、很多社會學語彙， 我只隨便亂讀一點)

另外， 文章快寫完時， 搜尋到這篇 原書的摘要。

在沉穩的語調之下， 其實 Zuboff 的用語顯示了某些強烈的意志/企圖。 印象最深刻的是那一句驚悚的 "You are not the product. You are the abandoned carcass." 另外 "behavior surplus" 這個名詞試圖區分 「純粹為了改進用戶體驗的合理行為資訊」 vs 「科技大廠暗渡陳倉準備拿來創造 surveillance dividend 的額外行為資訊」。 但是在我看來這兩者並沒有明顯的分野； 使用者當然更不是行屍走肉。 Zygmuntowski 舉一個例子來反駁 Zuboff 的論述： 媽媽(或爸爸) 幫小朋友拍照， 照片所產生的行為資訊的價值， 純粹來自小朋友的身體/表情/姿勢嗎？ 如果房間太暗， 媽媽開燈 (然後機器才讀得到影像)， 付出勞力卻幫科技大廠創造價值的人， 其實是相片之外 (並不是案例中隱私主角) 的媽媽呢！

Zuboff 把 Google 視為監控資本主義的大魔王； 臉書是二號兇手。 至於她偶爾對於蘋果電腦的批評， 則與監控資本主義沒什麼太大關係。 就侵犯隱私一事， 我對這三家公司邪惡程度的看法， 則正好反過來。 蘋果 豐富的監控用戶歷史 (首段有許多案例連結) 被高門檻的技術知識巧妙地隱藏起來， 顯然她和多數人一樣被蘋果電腦矇騙。 關注科技人權隱私新聞三十年的我傾向相信 執行長的個性決定公司的文化。 Steve Jobs 的 reality distortion field 超能力 (3D 圓餅圖範例) 造就了蘋果的陰險文化、 蓋世太保作風 和 偽草根運動 歷史。 我就不再多說了， 有興趣的讀者可以研究 62078 那篇裡面的列出來諸多案例。 Zuckerberg 是偷窺狂兼高手小屁孩， 所以臉書經常有一些 令人難以想像的侵犯隱私創舉， 等到大家看懂了、 被大家罵了， 才稍微收手。 至於 google？ 連結裡的這些文章對 Larry Page、 Eric Schmidt、 Sergey Brin 的稱讚有沒有太過美化我不知道， 但是至少 Google 曾經在輿論壓力下對抗中國的言論管制。 大家對 Google 的批評 確實以「侵犯隱私」為最大宗， 但比較少 「暗中、採用欺騙方式竊取隱私」 的案例。 跟蘋果、臉書 (還有，別忘了 花園高牆 line 也很恐怖) 相比， Google 的行事向來比較公開透明。 全民信任 Google 確實也是一件很危險的事， 但問題主要不是來自 Google 的惡意， 而是這些新科技應該如何融入社會。 例如 Google 地圖上的塞車資訊， 來自大家口袋當中的 GPS 資訊， 所以當然也是 OpenStreetMap 這樣的公民共筆計畫做不到的事。 我們希望保有 Google 地圖上這個有用的資訊， 還是保有隱私？ 這是值得討論的問題。 順帶一提： 惡霸型的微軟， 我不太確定要把它排在臉書之前或之後。 它所佔領的市場原本與窺探用戶隱私無緣， 但是現在開始 Office 跟 實施 telemetry 的 Windows 都硬要雲端化、 實名化、 顯示 Zuboff 所說的產業大趨勢確實是存在的。

然而這個產業大趨勢在我看來， 只注意力經濟裡面很自然的一環。 (花了好幾個禮拜正在畫一張圖、 寫另一篇很長的文章， 順便產出近期刊出的這兩篇副產品， 敬請期待。) 我個人認為： 面對這個產業大趨勢， 我們最優先該做的， 並不是他所呼籲的 「更多限制隱私資訊流通的法律」。 一來 GDPR 已經有相當的力量。 其次， 這些大公司本來就有強烈的動機保護他們自己的核心技術， 他們會拿來市場上販售的絕對不會是模型本身， 而是模型所預測的結果。 最後也是最重要的： 網際網路讓資訊渴望自由。 企圖阻止資訊流通的成敗關鍵， 在於能否喚起大眾的同理心， 而不是法律。 盜版的影/音/軟體 vs 受害者的個人隱私資訊， 世界各地的執法者花比較多力氣保護何者？ 何者比較多人在散佈？

我認為最值得努力的方向是自由軟體以及去中心化。 你可曾聽過哪一個自由的社群軟體在暗中蒐集用戶的個資？ 也對啦， 很多人可能根本不知道有哪些自由的社群軟體。 自由的社群軟體可以讓帳號及附隨的資料分散在不同的伺服器。 個別的站長還是有能力蒐集用戶的資訊， 但是這至少可以大幅減低諸如臉書與劍橋分析之類集全球資訊於一身的公司的力量， 強化社會對抗 (例如敵對國家) 操弄時所需要的韌性。 在 (我所想像的) 自由軟體成為主流的世界裡， AR/VR 頭盔裡面跑的全部是自由軟體， 跟遊戲伺服器之間連線的 API 公開透明， 只傳送遊戲必要的資訊， 而不會把我每一秒的目光與思緒這些原始資訊赤裸裸地從我的電腦裡面撈出去。 當然， 光是 「我在遊戲裡去哪些地方、 買賣哪些東西、 跟誰交談... 」 這也都是行為資訊。 不過如果去中心化成功， 至少我還可以選擇要信任哪一個伺服器的站長， 而不是像近未來的人們， 為了跟朋友互動， 不得不 把自己的每一道思緒透過 AR/VR 頭盔赤裸裸地呈現在偷窺狂祖克柏的眼前。

我很訝異用 「surveillance capitalism open source」 竟然搜尋不太到談論 「用自由軟體對抗監控式資本主義」 的文章。 還好， 至少很高興看到 Maly 提到 wikipedia、 Morozov 提到 free software、 Zygmuntowski 花了一些篇幅在談 web 2.0。 Maly 也說 (大意，用我的語氣表達)： 這些議題並不是只有資本主義才有的問題啊！ 看看中國的社會信用系統。 這個議題其實是科技與政治的混合題。 完全同意。 臉書跟抖音(對隱私與認知)有著同類型的危害， 只是臉書的科技成份多一些， 而抖音、微信、小紅書等等 apps 更強大更可怕的地方則是它把言論管制的極權中共政府的雙向影響力 (蒐集大量且多樣的行為資訊 + 投放客製訊息左右閱聽者的思響) 擴大到所有華人社會。 希望在台灣有更多人注意到監控式資本主義的議題， 以及本文中提及的這些評論文章。