2023年6月16日 星期五

你的大腦是別人的戰場

你的大腦是別人的戰場 個人化廣告、 抖內文化、 詐騙、 假訊息、 中共認知戰、 Surveillance Capitalism、 ... 的共通點? 你的大腦是別人的戰場。 它們都是注意力經濟的現象。 本文太長, 沒空讀? 請直接跳到最後一節 「結語」。

2011 年我畫過一張 網路現像地圖。 現在回頭看, 當時過於樂觀, 只看到光明面。 十二年後的今天, 什麼 web 2.0、 搜尋引擎最佳化 (還有曾經小小風光的小格) 都已經變成常識, 或者已經埋在不重要的小角落裡快要被大家遺忘了。 十二年下來, 黑暗勢力也快速發展, 目前網路世界面臨的最嚴峻挑戰是同溫層、 詐騙、 假訊息、 認知戰等等問題。 我看到人性當中的幾個強大的意圖如何驅動 「網際網路」 這個工具, 造成上述的各種問題, 也看到一些可能的解方。 本文可以說是 「網路現象地圖, 2023 年悲觀版」。 你可以把它想成是外星人從遠處觀察理解 「網際網路如何影響地球社會」 的心得報告, 或是艾西摩夫科幻小說中有人試圖用 心理史學 (psychohistory) 來解釋人類社會的走向, 但是沒有嚴謹的論證。 畢竟學術論述本來就不是我的專長, 更何況還牽扯到社會學跟心理學呢! 以後我會不時回頭小修; 也歡迎讀者留言指正與補充。

一、 驅動力

網際網路只是一個工具; 人類的意圖決定它會被拿來幹嘛。

[社交意圖] 人類是社會動物, 絕大多數的人都希望與其他人有一些互動: 炫耀/分享/欣賞/學習/好奇/宣揚理念/吵架/捉弄/... 或是尋求安慰支持等等。 可以說凡是上網的人, 他的社交行為都在影響社會。 例如即使只是點閱眾多搜尋結果當中的哪一個, 甚至只是在滑臉書時點進某些貼文而忽略另一些貼文, 都是在投票左右搜尋引擎或社群媒體的未來行為。

[金錢意圖] 金錢是極其強大的驅動力。 智慧財產權的論述甚至主張它是人類創造行為的唯一驅動力, 而很多人們竟然也就這麼地被說服。 有些人甚至相信軟體是一種財產。 (真的嗎? 盲人摸象看軟體) 事實上, 對絕大多數人而言, 網路時代的賺錢方式, 正好跟智慧財產權思維背道而馳。 如果你選擇相信保護智慧財產, 那麼 (助長侵權的) 網路就會變成你的敵人; 相反地, 往宣傳/廣告/行銷的角度思考, 網路才會是你的朋友。 詳見下面的 「注意力經濟」。

[政治意圖] 政治是 「群眾做決定的過程」 或是 「管理眾人之事」 。 在民主社會, 即使是對政治完全冷感的人, 他的生活品質還是會被群眾或民選首長的決定所影響, 例如他家旁邊究竟要蓋捷運站還是 靈骨塔 之類的。 至於獨裁國家的頭頭, 他們的政治意圖甚至可能 不只以控制本國人為滿足。 他們調度資源的權限與力道不受限制、過程不必公開; 透過網路影響他國的政治更不容易被國際指責, 你說他們會不會善用任何科技 - 包含網路 - 來遂行自己的意志? 更不用說中國的科技大廠因為 网络安全法第二十八条 必須完全配合獨裁者的意志。 (其實就算沒有法律,有差嗎?)

手機是施展政治意圖的絕佳場域: 絕大多數人不理解也不在乎自己的手機的控制權掌握在雲端的別人手裡。 但是政治意圖強大的廠商或獨裁者知道: 能夠從遠端掌控眾人的手機, 就可以掌握強大的政治力量。 所以 許多廠商都喜歡把用戶驅趕到手機上、 所以中共政府強制或強力推動 全民安裝 「反詐 app」 (OTF 分析)、 外國訪客必須安裝冬奧 app (公民實驗室分析)。

即使是在民主社會, 例如蘋果/微軟/臉書/line/google 的頭頭, 他們的意志也是左右世界發展方向的重要因素。 民主國家的科技大廠稍微受制於 (苦追不上科技的) 法律, 老闆們稍微受制於 (聲音經常微弱到聽不見的) 輿論, 因為股票上市, 所以大公司大部分時候對外界展現的是金錢意圖; 但是老闆們的政治意圖在某些關鍵時刻 (例如 杭特拜登筆電門 或是 臉書放行劍橋分析為川普支持者精準投放廣告) 將會是左右世界走向的重要力量。

反抗控制狂的努力當然也是一種政治意圖。 例如我寫的多數文章就是受到政治意圖的驅動, 想要用自由軟體 (不只是工具, 還有文化) 作為武器, 來反抗資訊科技大廠的控制、 爭取用戶的資訊人權。 如果讀者認同我、 相信我不是 (只) 為了個人利益而做這些事, 那麼應該也會同意: 台面上真正的網紅和政治人物當中, 一定還有很多人是真心要抵抗控制狂的。 應該不會 鄉愿 地認為 「所有政治人物都一樣爛」 這樣的愚民說法吧? (也請思考: 哪一方有動機鼓勵大家相信 「所有政治人物都一樣爛」 這樣的說法呢? 控制方還是反抗方?)

政治人物當然不會忽略一個簡單的事實: 有錢能使鬼推磨。 在自由民主開放的國家, 政治意圖驅動金錢意圖的行為被法律限制在一定的合理範圍之內。 那麼地球上有哪幾個人握有最豐富的國家資源 (包含 人礦)、 最能夠自由自在地運用政治意圖驅動 (其他人,甚至包含異國人士的) 金錢意圖呢?

二、 從網際網路到注意力經濟

在古代, 資訊創造的門檻與資訊複製的成本都有點高, 即使是最親民的 (圖文) 黑白影印也還是需要一些成本。 20世紀的類比科技讓某些特定來源的資訊變得很容易複製與散佈 (電視與廣播)、 又讓所有人都可以參與創造並且少量地傳遞某些媒體資訊 (電話、 錄音機、 相機)。 廿世紀末、 數位科技與網際網路出現之後, 每個人都可以參與生產 [圖/文/影/音/軟體] 各種資訊, 同時又讓資訊(完美)複製的成本降到零。 這兩個特性, 連同上述的各種人類意圖, 成為推動圖中各種現象的最根本的重要元素。

網際網路之初, 各種影音軟體工具尚未成熟時, 最早享受兩大特性的是文字論壇的用戶, 特別是透過論壇學習知識、 又透過論壇分享程式碼的設計師們。 (懷念!) Richard Stallman 為了對抗日益封閉的大學電腦環境, 在 1983 年創立了 革奴計劃 =cc0ep-fs= 一開始以磁帶, 後來透過網路分享自由軟體。 其他很多程式設計師們也跟進參與創作分享。 就像性愛一樣, 創作與分享作品的行為本身就是一種享受、 一種人類天生就有的意圖; 誰說只有錢才可以驅動人類做愛做的事呢? =sm-fs=

讓用戶創作與編輯 [圖/文/影/音] 的自由軟體逐漸出現、 成熟, 創作工具開始民主化, 例如可以取代 photoshop 的 gimp 或 krita、 可以取代 illustrator 的 inkscape 等等。 某些自由軟體即使本身市佔率不足以挑戰主流的專屬軟體, 單單是它的存在也可以幫助有頭腦的專屬軟體採購者作為喊價的籌碼。 (理論上啦.. 但現實中好像很少看到有頭腦的採購者) 另外, 違法的盜版行為被網路放大, 也強化了創作工具的普及化。

眾人參與客觀知識性文字的創作產生了維基百科; 眾人參與地理資訊的描繪則產生了開放街圖。 =ep-od= 民眾對於政府透明化的呼喊, 也促成政府釋出各種開放資料, 例如 公共運輸資訊、 上市櫃公司透明資訊等等。

開放資料以及圖文影音創作工具的民主化造成了資訊爆炸, 資訊爆炸的情況下, 真實稀有的東西是什麼呢? 諾貝爾經濟獎得主 Herbert Simon 提醒: 當然是人的注意力! 人類社會逐漸步入 Michael Goldhaber 所說的 「注意力經濟」注意力經濟的重點不是錢, 而是左右群眾 (輿論走向) 的影響力。

眾人都參與創作, 甚至參與門檻更低、 競爭更激烈的 「改作」 (remix), 資訊越爆炸, 注意力的稀有性就越明顯、 每個人想要吸引別人注意力的競爭就越激烈。 業餘的圖文影音創作者們 (就像更早一步的業餘軟體創作者們一樣) 體認到: 自己的作品要拿來販售版權商的機會很低, 還不如透過論壇、 DeviantArt 等等網站分享出去, 至少還有機會當個 (Andy Warhol 所說的) 15 分鐘的名人。 社交意圖讓一般民眾直覺地競相爭名、 放棄奪利。 "Open source" 一詞的倡議者 Eric Raymond 稱這個現象為 gift culture; 長尾理論作者 Chris Anderson 稱之為 reputation economy (pdf); 哥倫比亞大學台裔法學教授 Tim Wu 稱之為 exposure culture不同的領域、 不同的用語, 都指向同社會演進的同一個方向。 對於絕大多數人來說, 智慧, 不是財產。 智慧, 是廣告看板。 配合這個趨勢, 哈佛大學法學教授 Lawrence Lessig 借用 Stallman 的 GPL 軟體授權設計理念, 幫那些 「願意分享但想保留部分權利」 的創作者們設計了 創用 CC 授權, 這讓 「分享」 的法律知識門檻更低、 回頭促使資訊更加爆炸。 =as-ix=

人們競相爭取彼此的注意力, 自然造成每個人的注意力都變短, 很多人甚至都 輸給金魚腦。 =as-as= 還有能力閱讀長篇大論文章 (例如小格) 的人越來越少。 (感謝各位難能可貴的讀者。) 於是懶人包、 梗圖、 infographics、 資料視覺化變成顯學。 自由軟體當然也是資料視覺化的重要推手, 像是 rawgraphs、 metabase、 grafana、 plotly、 gnuplot (還有我的 scatplot) 等等。 經過系統整理的大量公開資料, 例如 our world in data 特別適合也特別需要用視覺化的方式來呈現給大眾理解。 瑞典的國際衛生學教授 Hans Rosling 多次的 呼籲跟展示 很值得各國政府參考。 =od-viz=

注意力匱乏與變短也造成了隱私的流失。 為了吸引別人的注意力孩子們 (大人們好像也是啊) 競相自拍生活照, 並且公開在社群媒體上。 面對眾多的 apps, 每一個 app 都有冗長的隱私權條款, 我們沒有時間閱讀, 多半 不知道內容有多荒謬, 照樣直接按 OK, 更常發生的, 當然是傻傻地相信 google play 上 名實不符的簡短隱私標籤。 我們也很少去修改 [有利廠商蒐集個人行為資訊的] 預設值 (獨裁的預設值!) 同樣的道理, 遇到 暗黑模式的使用者介面設計 (例如 微軟力薦 edge 的手段) 我們多半會走那條阻力最低、 花最少注意力、 也因此交出最多隱私的路線。 =as-pl=

三、 金錢與注意力之間的交易

注意力經濟並不只是一個抽象的理論; 網路上跟「金錢」相關的行為與現象, 處處都跟智慧財產權教我們的思維完全背道而馳。 即使沒聽過注意力經濟一詞的人們, 不自覺地身體力行的, 也是參與注意力經濟的競爭, 而不是保護智財權。 看看兩家最成功的網路公司, 就更容易理解「注意力經濟」與舊經濟的連結。 Google免費提供什麼? 搜尋結果、 雲端文件 (的軟體)、 Webmail (的軟體)、 地圖、 ... Google 免費提供各種資訊 (包含軟體), 但 Google 是慈善事業嗎? 並不是。 它透過網路, 零成本地將資訊分享給所有人, 吸引來很多人的注意力, 再把這些注意力變成商品。 賣給誰呢? 當然是廣告投放者。 再強調一次: 廣告投放者花錢想買的商品是什麼? 人們的注意力。 Google 還需要花錢去買地圖授權; 臉書、 Instagram、 YouTube、 抖音就更厲害了: 它們只提供軟體平台; 其他所有的創作內容, 都由好心的用戶們心甘情願地主動免費捐獻自己的 「智慧財產」 給平台。 =mm-gbm= 儘管臉書跟 YouTube 靠著眾人的作品吸引眾人的注意力、 從而賺了許多錢, 但是你好意思開口向臉書或 YouTube 收取版權稅嗎? (不是指不忍心, 而是會被大家嘲笑!)

不論是賺取抖內的網紅、 拍賣直播主、 或是在網路上用各種方式尋求正面評價的商家, 網路上的主流經濟活動多半都是在這些跨國網路公司的平台上 (臉書、 Instagram、 Youtube、 twitter ...) 免費分享作品、 吸引注意力、 再直接 (從平台或業配主) 或間接 (為自家生意) 帶來金錢收入。 =gbm-kol= 創作者如果能夠從平台上獲利, 當然都是靠流量、 靠廣告, 而不是靠智慧財產。

上面描述的 「投放廣告」 正當商業行為, 受眾/閱聽者被明白告知他看的是廣告, 也因此對廣告內容的可靠程度會有一定的警覺性。 又有很多商家提供「五星評論換贈品」之類的優惠, 這是注意力經濟年代買廣告的另一個方式。 如果以高道德標準來看, 這有一點爭議。

有些網紅為了爭取流量, 不惜造假說謊, 甚至冒險在異國犯法。 例如無害的 海豹救潛水員、 假裝被恐嚇的 Lin Bay 好油、 晚安小雞柬埔寨造假事件以及 Kiaraakitty 被丟雞蛋事件。 =kol-mi= 注意他們的共通點: 操作觀眾的情緒。

更進一步, 如果你的目的是影響大眾的看法/感受/意見, 又可以不受道德與法律的約束, 那麼不要讓大眾知道你在花錢購買注意力, 效果當然會更好。 花錢請網紅不留痕跡地宣傳你的產品, 這就是 「業配」 或 「置入性行銷」。 =mm-em= 另一種躲避道德與法律約束的方式, 是投放 dark ads; 兒童或是煙酒/垃圾食物成癮者有很高的風險成為這類廣告的受害者。

透過網路力量 「花錢購買注意力」 的暗黑行為, 不見得只以產品本身為洗腦內容。 同樣是企圖影響大眾的看法/感受/意見、 同樣是欺騙性質, 「偽草根運動 astroturfing」 旨在虛張聲勢、 營造 「很多人都支持某產品或某立場」 的社會氛圍。 已經壟斷市場的大廠、 爭議性的產業最有動機躲在偽草根運動背後操縱輿論, 例如 微軟微軟蘋果菸草產業、 以及 美國的ISP業者 早已善用網路的力量帶風向, 在各種牽涉自身利益的議題上, 對大眾洗腦。 Big Tech Wiki (備份) 記錄了許多扮演資訊產業大廠白手套的 「非營利組織」。 順帶地, 這類欺騙性質的帶風向行為也滋養了 we sell likes 這類的網站。 偽草根運動的另一個例子, 是購物網站上面經常會出現的 fake review。 =mm-at=

注意力經濟的影響力如此地大, 甚至也進入了實體世界。 四川航空免費巴士 的成功、 加州數位車牌的廣告應用, 兩者的共同點是: 設計者都試圖要把原本會浪費掉的注意力拿來轉換成金錢收入。 =mm-pae= 注意力經濟進入實體世界, 可能會讓我們發呆的機會越來越少。

四、 社群媒體 vs 隱私

最早的社群網站 BBS (bulletin board system) (例如 PTT) 以及 IRC (Internet relay chat) 僅有文字模式, 由自由軟體社群所打造。 =dpt-sm= 這類網站如雨後春筍, 在世界各地迅速出現。 曾經有一段時間台灣許多大學都流行自架 BBS 呢! 這類網站 以某個主題的小社群為中心 成立各種板面。 現在在回頭看可以理解: 因為他們無法滿足 exposure culture / reputation economy, 很自然地, 他們的舞台就讓給了那些 以個人為中心 的社群媒體, 例如臉書跟部落格。

一開始, 大家看到社群媒體的正面力量, 例如推特在阿拉伯之春裡扮演了重要的角色。 Chris Anderson 主張三大力量造成長尾現象: 生產/創作工具民主化、 流通工具民主化、 溝通管道暢通化, 社群軟體也是第三項的主要推手。

人類普遍注意義變短的現象, 又促使 twitter、 微博、 噗浪搶走部落格的風光; 抖音搶走 YouTube 的風光。 =as-sm= 社群媒體之間 (為了奪取用戶注意力) 的競爭越來越激烈, Tristan Harris 提醒我們: 對於手機與 app 廠商 採用 無限滾動捲軸功能 等等之類的 各種暗黑模式 (dark patterns)deceptive patterns 要有警覺。 =sm-as= 於是注意力變得更稀有、 人類的注意力變得更短, 社群媒體之間的競爭更加劇烈... 迅速因為正迴饋循環而進入並且維持在飽合狀態。 (圖中藍色粗線 =as-as= =as-sm= =sm-as=)

透過網路, 你我所創作的資訊, 複製成本都是零。 但不同的資訊生而不平等。 在注意力稀有的環境下, 有些資訊比別的資訊更容易傳播。 放到社群媒體上的資訊, 比放在維基百科或古板的部落格上的資訊更容易傳播; 而社群媒體上, 很明顯地, 情緒決定資訊的傳導度。 讀者可以回想自己的經驗: 哪些情境底下你會在社群媒體上決定轉貼一篇文章? 通常都是因為它好笑/療癒/有用, 或令你好奇/生氣/訝異/感動/同情/... 不是嗎? =sm-emo= 你喜歡看哪些網紅的影片? 為什麼? 你認為成為網紅需要什麼樣的特質? =emo-kol= 「標題殺人法」 或是 「故事行銷法」 也都是朝這個方向思考下的產物。 =as-emo= 事實上, 臉書甚至都已經算出每個情緒 (在注意力經濟裡面) 的價值了: 一個怒值五個讚

在社群媒體上擴大資訊傳導度的其中一種強大情緒是 FOMO 錯失恐懼症。 年輕人們透過 venmo 大方公告自己的每一筆花費、 透過 zenly (冰棒) 公告自己的每一秒行蹤。 成長在上一世紀的我原先很難理解; 直到 改了學生的報告 才突然理解: FOMO 壓力促成年輕人放棄隱私。 =sm-pl= (在現實世界, 它甚至造成 競相參與社群媒體上各種傷害身心的挑戰。)

年長者也許比較沒有使用 zenly 與 venmo 公開自己隱私的同儕壓力; 但是不論年紀, 幾乎所有人都無可避免地會在社群媒體上按讚、發言、玩心理測驗 (例如 thisisyourdigitallife)。 我們下意識地認為這些單純的行為不至於傷害隱私, 多數人不介意, 甚至不知道 臉書透過你的 300 個讚就能比你的配偶更了解你。 諸如臉書與抖音之類的社群媒體, 更因為第一手接觸使用者, 有機會觀察 用戶的每一觸的按鍵行為, 包含按下送出之前的 欲語還休。 在全面監控的中國, 政府官員更完全不需要取得被監視者的手機, 只需透過身份證字號即可查詢微信聊天記錄。 是以, 不論是在自由民主的社會或是專制極權的社會, 社群媒體都成為民眾隱私流失的重要催化力量。 =sm-pl=

金錢意圖也造成隱私危機。 有一大部分的資安事件造成公私部門大量人員與客戶個資被盜取、 拿到暗網黑市去賣。 =mm-pl=

五、 監控式 [資本主義 + 中共國 apps]

社群媒體公司很自然地取得了用戶行為的大數據資訊, 甚至可以掌握每一位用戶的私密思緒。 「我又不是重要人物, 也沒有做壞事, 何必在乎隱私?」 Glenn Greenwald 解釋為什麼隱私很重要。 「但是了解我的行為習慣的又不是人, 而是社群媒體的程式碼, 有什麼關係?」 要理解這種洩漏隱私的嚴重性, 必須先了解 Zuboff 所說的 「監控式資本主義」, 特別是其中的 「economy of action」 (下詳)。

不只這些跨國網路公司, 還有接觸大量消費者的各式各樣實體連鎖店 (例如大賣場與便利商店) 都在注意力經濟模式的壓力下, 全力蒐集大量且多樣化的用戶與消費者行為資訊, 甚至能夠 比少女的父親更早知道她懷孕。 =bbd-pl= 這些行為資訊也就構成了大數據的前兩個 "V": voulme 與 variety) 同時也是監控式資本主義所說的 economy of scale 跟 economy of scope。 Zuboff 警告: 「個人化...」、 「智慧...」 類型的產品有可能會收集你的行為資訊; 但是在資訊爆炸、 人類普遍注意力變短的環境之下, 對多數人而言, 省去自己搜尋的辛苦, 讓演算法根據我的偏好自動餵食有興趣的資訊, 這還是難以抗拒的方便誘惑。 =as-bbd=

在 「隱私不值錢」 這樣的集體下意識之下, 臉書、instagram、抖音、youtube 等等社群媒體可以恣意享用懸殊的認知落差 (epistemic inequality) (1) 拿這些豐富的行為資料來 (2) 為每個人建立行為預測模型、 預測人群的走向, 最終 (3) 左右人群的思想與行為 (economy of action)。 臉書的情緒傳染實驗、 針對紐澳青年的心理弱點行銷研究、 劍橋分析、 Pokéstop、 ... 都是第三步的例子。 =bbd-xe= (各案例連結請見 「監控式資本主義」 一文) 很快地, 元宇宙的 VR 頭盔 將會大幅度提升行為資料蒐集者的能力以及預測的準確度, 因為它所蒐集的資訊會更豐富、 更接近人類行為的源頭, 也就是頭盔使用者的大腦, 當然也就更有能力暗示或說服他購買什麼產品、 票投給誰、 在何時前往何地參加何種活動。 臉書在英國脫歐的角色和它對民主的威脅 (劍橋分析事件) 只是這種普遍未來趨勢當中的一個例子。

好幾家大廠都已經很自然地把 「(3) 左右人群的思想與行為」 直接應用於 「促使用戶不自覺地交出更多更細的行為資料」, 創造出一個強大的正回饋迴路。 (圖中藍色粗線 =xe-bbd= 與 =bbd-xe= ) 這其中又以臉書、 抖音、 line 等等社群媒體最為成功。 它們採取了好幾個相同的手段, 而且用戶接受度很高、 幾乎從不懷疑: 建立 高牆花園加密網址對抗反追蹤操弄驅趕用戶改用手機 app 的 「豬籠草 漏斗策略」誘勸採用 app 內嵌瀏覽器強迫登入才可閱讀公開文件的政策推播通知與無限下滑、 ...。 =xe-bbd=

如果連臉書跟 youtube 在言論自由的社會都可以替有心人士操縱民眾、 左右社會的走向, 那麼抖音跟微信在一個 「極權、 言論管制、 獨裁者不受制衡、 政府不必透明化、 人礦們 沒有人權與隱私、 施行 社會信用體系 以及 网络安全法第二十八条 」 的集權社會底下, 它們又可以做到什麼地步呢?

數位媒體與政治學者 Ico Maly 指出: Zuboff 的分析過於切割政治與經濟, 好像監控是資本主義社會才有的問題。 當然不是。 來自中共國的 apps 不只在他們國內實現習思想與習意志, 甚至像是微信、 QQ、 支付寶、 每日頭條、... 等等跨越國界的 apps, 在民主但欠缺隱私與認知戰意識的社會 (例如台灣、 馬來西亞、 新加坡) 裡面運作, 它蒐集行為資料、 預測人群走向、 暗中左右人群思想與行為的能力, 怎麼可能會輸給 (自由民主社會下必須依法運作的) 臉書跟 YouTube 呢? 即使像是滴滴出行這種純粹生活所需、 看似完全不涉政治的應用, 對於地方政府以及公安體系也必須採取配合的態度 (香港學者的含蓄用語) 更不用提強迫安裝的 反詐中心APP (較新、有技術細節的英文報告)。 一個人如果已經知道劍橋分析影響投票、 知道 中國在海外佈建眾多非法警察站, 但對於 「中共政府透過 apps 向台灣社會施展認知戰」 卻沒有警覺甚至認為不存在, 那我也只能說這是很明顯的選擇性失明。 =sm-bbd=

如果我們承認數位與網路科技終將促使社會從金錢經濟走入注意力經濟, 那麼花錢買注意力的商業模式 (也就是 「廣告」 ) 成為新時代主流商業模式, 這其實也只是水到渠成的發展。 企業文化迥異、 但同為網路巨頭的 Google 跟臉書, 兩者同樣都致力於開發 targeted advertisement 技術, 這也就不令人訝異了。 (臉書甚至 要求特定 [被歧視的] IP 必須登入才可以閱讀 [明明是公開的] 文章, 以利它蒐集更多閱聽者的行為資訊。) =gbm-bbd= 而對於上述發展的理解, 也就不會局限於 (以資本主義為主的) 西方民主社會。 所以我覺得從物理學家 Michael Goldhaber 那裡學到的 注意力經濟 比 「監控式資本主義」 更全面、 更能幫助我們理性地去理解甚至預測注意力經濟時代的世界走向。 從這個角度思考, 也更能理解自由軟體對於對抗 「監控式 [資本主義 + 中共國 apps]」 的重要性。

六、 高牆花園=>過濾器泡=>假訊息與惡意訊息

真正完全自由開放的社群媒體 (例如 mastodon、 xmpp 協定的諸多軟體) 多半採取聯邦式架構, 所以對於內容的管理 (例如是否允許色情/恐同/政治/...言論) 並沒有平台統一的政策, 而是由各家站長自行決定, 更不會有平台通用的演算法為每位用戶挑選、過濾閱聽內容。 這樣的環境比較沒有那麼明顯地鼓勵過濾氣泡 (filter bubble, 也就是同溫層) 的出現以及假訊息 (包含 misinformation 與 disinformation) 與基於事實的惡意訊息 (mal-information) 的傳遞。

然而今日主流的社群媒體都不是自由軟體。 基於金錢以及蒐集行為資訊的誘因, 他們用上述各種方式各自豎立起高牆、 圍住自家花園。 每家公司決定自家花園裡面統一的言論政策, 又不斷根據每位用戶的喜好推薦類似的內容。 甚至像是 line, 它的內嵌瀏覽器不支援搜尋功能, 更是有效地勸阻了那些原本有機會透過搜尋跳脫同溫層的用戶。 =xe-fb=

同溫層本來就有利於假訊息與惡意訊息的傳播; 禁止路人發言討論, 甚至禁止路人觀看的秘密同溫層, 更大幅地壓縮了抗假資訊的傳遞管道。 臉書 「禁止網路時光機備份」 的政策有利於 「很多孩子走了」 之類的假訊息與惡意訊息 不留痕跡地 傳遞, 所以 Cadwalladr 警告: 臉書是民主的威脅。 從這個角度來看, 連網址都沒有的 line 群組跟 voom 比臉書更是大大有利於假訊息與惡意訊息的暗中傳遞。 =xe-mi=

但是這些假訊息與惡意訊息的源頭在哪裡呢? Misinformation 是沒有惡意的錯誤訊息, 可能是自然發生的; 但是非事實且惡意的 disinformation 還有根據事實所編修出來的惡意資訊 mal-information 來自哪裡呢? 華文世界的內容農場 (例如大榴槤、 鬼島狂新聞, 目前兩者皆為不刊登廣告的臉書粉專) 以及 全球的假新聞之都 它們代表了另一條神秘的產業鏈, 背景與資金來源更不透明、 行事更不受道德與法律規範。 「真相製造」 一書有更深入的報導。 =mm-mi= 在這類網站上面發表文章, 有時只需要 衝文章本身的點閱率, 甚至只需要轉貼文章, 直接就有錢可以拿。 一般正當的廣告平台, 必須幫廣告主爭取到點閱率, 才可以跟平台 (例如 google、 臉書、 youtube) 分享到一點點廣告主所提供的費用。 那麼這些無視強大國際廣告平台競爭的神秘內容農場跟假新聞網站, 他們提供的優沃 「獎金」 是從哪裡來的呢? 誰的財力那麼強大呢? 這些金主如果不是為了自己賺錢, 又有什麼樣的意圖呢? 你在你的 line 群組或其他同溫層裡有沒有經常看到他們的文章與影片呢? 是誰那麼喜歡利用 「仇恨」、 「恐慌」 這些負面情緒來創造 「台灣致死率全世界第一」「愛台網紅離開台灣」「近二週致死率全球第三高」 之類的 mis-information 與 mal-information 的高流量呢? =emo-mi=

七、 俄共的舊招術 + 中共的新工具, 以及注意力經濟裡的其他政治角力

在言論管制的極權國家內部, 社群媒體當然受到嚴格的管制。 例如中國的 网络安全法第二十八条 就將之文字化。 =pm-sm= 想要管制言論, 當然就必須做到全面監視。 共產黨統治底下的民眾, 當然不可能有私密通訊的自由。 官員甚至 只需透過身份證字號即可查詢微信聊天記錄。 對民眾全面監視還可以產生大量的行為資訊, 作為大數據分析/人工智慧訓練的資料來源。 =pm-bb=

然而這種監視與思想控制, 會僅僅局限於中國國內嗎? 蘇聯時代從蘇俄叛逃到美國的 KGB 情治人員 Yuri Bezmenov 解說俄共顛覆自由民主社會的方式: KGB大概只有15%的資源花在間諜活動上, 剩下85%的資源投入 「意識形態顛覆戰」 的一個緩慢的過程,目標旨在 捏造假訊息、扭曲他國國民對真實世界的認知。 中國共產黨顯然繼承了俄共的手法 (所以也有人稱之為 「黃俄」 黨)。 二十一世紀的中共手中又握有 「資訊複製零成本」 的超強 「網路監控+跨國認知戰」 新工具, 它會如何應用這些工具呢? 如果中共都已經甘冒國際輿論譴責還是要派飛機軍艦騷擾台灣, 那麼 「網路認知戰」 這種相對低成本且低調的事, 它怎麼可能放著不做? 例: 韓粉在美國?河北秦皇島公司介入台灣選舉

如果我是習近平, 第一個想到的當然是: 相較於 防火長城 金盾工程內部嚴格的言論管制, 民主社會的言論自由就是它最大的弱點。 如果民主社會的大企業 (他們尚且還需要遵循某些弱弱的法律) 都在花錢買注意力、 買評價、 帶風向、 洗腦大眾, 我有什麼理由自綁手腳呢? 我當然可以做得比他們更出色許多! =pm-mi= 哪些地方最值得我投資呢? 臉書粉絲團嗎? 爆料公社嗎? (網友整理) 還可以順便影響整個 ptt 的風向, 不是一舉數得嗎? 年輕人聚集的 dcard 呢? 影片勝過文字的 政治一般 的 youtuber 網紅呢? 尤其透過抖內贊助更是不留痕跡, 超方便的啊! =mm-kol= 被贊助的人甚至不會知道他被我影響, 有點類似 economy of action 那樣, 但這回是我用金錢操縱他的動機, 讓這些直播主、 youtuber 們自己觀察 「主題、立場 vs 贊助金額」 的關係 (倒數第二段)、 再自以為 "自主、有意識" 地決定下次要多談哪類的話題。 [7/2 補右圖, 從 這裡 看到的。]

用火燒開水的時候, 你知道水一定會開, 但很難指出是哪一顆水分子先蒸發的。 同樣地, 以上描述的可能性, 一直在發生; 但是具體究竟是透過哪個網站或哪個網紅, 目前似乎沒有很好的金流或其他法規可以追蹤指認得出來。

比較明顯的全面性帶風向/偽草根運動則有: 推特指認出來的 information operations「監獄網評員」從「蜂蜜檸檬」推測韓粉在美國。 =pm-ast= 中國人民解放軍南部戰區組建「對台輿論分隊」 甚至更直接擺明了以網紅為認知戰標的。 =pm-kol=

以內容而言, 不論是第六節末所舉的幾個操作 「仇恨」 與 「恐慌」 情緒的例子 =emo-mi= , 或是 「很多孩子走了」 =xe-mi=, 或是其他更多惡意訊息, 這些假消息或惡意消息都成功地打擊了台灣的防疫信心, 以至於 根據國際公開資料明明是防疫資優生的台灣 (還有日本) 被國內的 "輿論" 批評一無是處。 打擊台灣防疫只是一個較明顯的例子; 中國體制建立在謊言上 (用鮮血和謊言寫下的百年中共黨史), 在這種政黨的政治動機之下所產生的認知戰內容, 當然也都會以謊言為主。 =pm-mi=

相對地, 反共的政治意圖所創造出來的網紅, 就只是傳遞真相, 例如單純地如實翻譯: 「大翻譯運動」 (系列報導) 把中共對國內民眾的中文仇外文宣翻譯成英、日文, 向世界揭發中共的兩面認知戰手法, 目前有24萬粉絲。 =pm-kol=

民主法治國家的政黨會不會放假消息、 搧動 「仇恨」 與 「恐慌」 的情緒? 至少檯面上不敢, 因為 (無論是上面授意,或是員工自主) 被發現了以後很難看。 在民主法治的國家, 各政黨僱用小編, 在法令規範之下試圖爭取選民支持。 =pm-ed= 小編需要什麼樣的特質? 當然需要熟悉網路的情緒脈動, 又要能夠張貼搞笑或令人感動的圖文。 =emo-ed=

八、 衝突、 黑市與詐騙

封閉的同溫層會助長假消息的流竄。 較早的公開的部落格有訪客留言機制, 不屬於任何群組的外人有機會指出某些消息是假的; 現在的封閉社群, 特別是 line 的社群, 外人不同的聲音比較難有機會進入群組。 網紅文化更強化了同溫層; 而同溫層之間的戰爭也隨之出現, 不管在 韓國 還是 世界各地 的 [音樂/電影/...] 流行文化裡, 都出現過不同團體之間的粉絲戰爭。 =fb-conf=

情緒決定資訊傳導度, 而 臉書的一個怒值五個讚 又說明了憤怒是最強大的情緒。 網路初期, 許多社會運動也都因為含有 「憤怒」 的元素而被注意到, 像是 佔領華爾街阿拉伯之春雨傘革命太陽花學運 等等。 不只政治的社運, 像是環保、 動保、 兒保等等議題, 本身都因為含有抗議 「傷害」、 抗議 「不公平」 的因子, 所以比較容易遇到某些個案, 就像野火一樣燒起來。 可怕的是, 民主社會裡才有的這個彈性, 正好是共產黨拿來激化對立/顛覆民主社會的弱點。 我自己就曾親身觀察過 好幾次疑似中共黑手介入、 故意不必要地擴大衝突的 "社會運動" 爭議事件。 甚至會偽裝成綠營側翼, 喊出 「殺光中國國民黨」 這樣的言論。 =emo-conf=

同溫層效應、 獨裁政權大量釋放假消息與惡意訊息, 這些都會讓民主社會發生衝突的機會升高。 另一個原因則是因為人們的注意力變短, 可能還來不及了解詳情就忍不住跳下去戰。 如果誤解的原因來自假消息/惡意消息/惡意媒體的標題殺人法, 這情況就更冤枉、 更浪費有限的社會資源 (人的注意力, 包含你的注意力)。 =as-conf= 也順便提醒讀者: 以後想要把注意力投入網路戰局之前, 不如多花些時間精力追出真相、 了解事情的來龍去脈, 才不會浪費自己的 「注意力資產」。

各種衝突之下, 經常出現帶著尋仇或報復意味的 人肉搜索 (doxxing, 對於隱私, 連帶著因為寒蟬效應, 對言論自由也都有傷害。 =conf-pl=

特定人士及黑帽駭客的金錢動機也造成民眾的隱私流失, 像是 葉逢明販賣健保個資黑市個資 等等。 又, 我讀到太多案例, 中國的 apps 或系統完全不把民眾的個資當一回事 ( 節慾手機 的 [有些 apps 千萬不要裝] 有一些連結), 經常出現資料沒上鎖, 直接被拿到黑市賣。 =mm-pl= 目前看到的個資外洩主要是一些基本資料; 有一天可能連個人行為資料都會外洩。 黑帽駭客當然很喜歡買這些基本資料 and/or 個人行為資料來進行社交工程、 賺取高倍率的獲利。 =bbd-se= =mm-se=

九、 人工智慧

人工智慧近十幾年來的迅速發展, 除了軟硬體本身的進步之外, 網路現象也提供了重要的助力。 第一, 2010 年代的知名類神經網路軟體幾乎都建構在自由軟體之上; 成品本身也放在 github 上自由分享。 第二, 網路上大量的圖/文/影/音資訊提供了不可或缺的訓練資料來源。 第三, 各大資訊廠商手中的用戶行為資訊很可能已經被拿來訓練不公開的、 公司獨家掌控的下一代人工智慧。 一方面, AI 可以大量閱聽 (過去必須人工篩選的) 資料; 另一方面, 「生成式AI」更被拿來生產許多令人難以辨認真假的訊息。

AI 女友 抓住寂寞的心,挖出使用者心中最深的隱私。 =ai-pl= 體育老師利用生成式AI陷害校長, 利用的是大眾的「忿怒」與「恐懼」情緒。 烏克蘭網紅 Olga Loiek 被 AI 複製成推廣中俄友好的拍賣直播主, 這則是 「具有政治意圖的 AI 大規模洗腦」 的一個案例。 OpenAI 的報告: 具有 [俄國、中國、伊朗、以色列] 國家力量直接或間接支持的的黑帽駭客組織或公關公司利用 ChatGPT 製作文宣,在各大社群媒體上用假帳號發出,企圖影響國際輿論。 =ai-yb=

劍橋分析這家公司或許收掉了, 但是臉書 (或其他資訊大廠或是特定 app 的廠商) 當然還是大有能力拿手中獨有的 「人心辨識 AI」 來左右用戶的思想與行為。 這些大公司未來何時才會真的施展 「劍橋分析 2.0」 的能力? 在西方世界, 公司受限於法律與輿論, 比較難說; 美國科羅拉多州已經開始立法備戰。 在極權國家, 公司受獨裁政府的要求, 很可能會較早實作。 以中國為例, 它會最想要對誰下手呢? 抖音、 新浪微薄、 微信、 ... 會不會早就已經開始拿 「人心辨識 AI」 來推薦客製化的洗腦內容了呢? 就像加強版的臉書 dark ads 一樣? =ai-xe=

未來幾年, 這些 「人心辨識 AI」 遲早會落入黑帽駭客手中、 流入黑市, 遲早會被拿來 (叫生成式 AI) 產生大量且客製化的詐騙內容、 進行社交工程。 甚至惡意人士或許也不必竊取大公司或極權政府手中的 AI。 他可以直接拿社群媒體上公開的貼文來訓練自己的 「人心辨識 AI」、 來從事大量且客製化的社交工程。 這種 「大量且客製化的社交工程」 又有 deepfake 所製作的偽影音的加持, 將兼具魚叉式釣魚 (spear phishing) 的精準與傳統釣魚的大規模兩種特性。 =ai-se= 事實上 (不涉及個人化/客製化、 不需要 「人心辨識 AI」 的) deepfake 偽影音, 製作門權更低, 可能早已被中共俄共拿來散佈假消息與惡意消息。 =ai-mi=

總之, 人工智慧對於產生假消息、 詐騙內容與洗腦內容將發揮極強大的助力。 (圖中雙幾組藍線)。

十、 結語

你的大腦是別人的戰場 網路與資訊科技對人類社會當然還是有很多巨大的正面影響。 例如我的整個教學生涯都在推動讓大家認識並欣賞自由軟體的產品以及它開放透明的文化; 可惜那些訊息欠缺強烈的 「情緒」 幫忙推動, 並不是很成功。 本文則主要聚焦在目前正在發生以及近未來可能發生的負面影響, 希望因為它的迫切性與危險性而可以在有限的時間內激發一些關注。

[2024/6/23] 至於最迫切威脅台灣民主存亡的, 則是 「中共對台認知戰」。 這件事也在法國國防部智庫出版的報告 《中國影響力行動 — 馬基維利時刻》 當中佔了很多篇幅。 作者列舉了海峽之聲、中國華藝廣播公司、 退伍將領、網紅、關西機場、韓國瑜粉絲團、旗山蕉、柚子、疫情、... 等等許多人事時地物案例。 獨立媒體報導者 採訪 AutoPolitic 創辦人杜元甫, 他自稱是「測試民主的病毒」, 解說公司如何操作網路輿論來幫助(參選人)客戶勝選, 其中包含社交機器人、人身攻擊、內容農場等等惡意的工具與手段。 在本文的 svg 圖裡, 我不太確定該把 AutoPolitic 放在何處, 因為它是政治意圖操控下的商業意圖, 又很專業、 很有意識地透過很多條線向圖的下游輸出影響力。 很不幸地, 在這樣的背景之下, 仍舊有許多台灣人甚至還懷疑認知戰的存在。 謊言大師哥培爾跟美國科幻作家卡薩根對人性的觀察 準確得令人難過; 上個世紀的故事與警告, 到了這個世紀, 人們還是學不起來。 我不夠關心政治時事, 只是從資訊科技的角度看, 想要享用科技而不被科技控制, 反共的態度根本就是第一條不需要思考的 no brainer。 受到本文啟發, 且對於政治時事有興趣的讀者, 這個 反共網紅頻道清單 可以是很好的起點。

如果我們的社會有幸沒有被中共的認知戰擊潰, 以下是我的長期建議。

對個人而言, 以下這些能力很重要: 搜尋、 專注閱讀、 理解視覺化圖形代表的意義、 辨別那些餵資訊給你的人的意圖、 善用自由軟體、 保護自身的 資訊安全。 (以及認知安全!) 永遠要記得: 你的注意力與認知, 是你自己的重要資產, 小心有很多人想要在你無意識 - 特別是情緒激動/亢奮 - 的時候偷走它。 看管自己的情緒,是資訊爆炸年代的重要能力, 因為情緒決定資訊的傳導度, 凡是想搶你的注意力的人,都會從這一點著手。

對整個社會而言, 以下這些議題很重要: 公共事務 (以及網紅金流!) 透明化、 fediverse、 媒體識讀通識教育、 心理學通識教育。

謝謝大家付給本文的注意力。 這篇文章寫了半年, 中途還分出好幾篇 「副程式」 (從 「軟體就像性,免費的比較好」 那篇開始) 雖然沒有任何稿費收入, 但如果有給讀者帶來一些幫助, 那也就值得了。 大家如果看到文字、 圖上的標示、 觀念、 案例、 ...等等各方面的錯誤, 或是有想法想補充, 也拜託順手留言。

1 則留言:

  1. 這篇有種目錄的錯覺,每個子章節其實都蠻大的。

    回覆刪除

請見 留言審核及授權政策