對 (誰家的?) AI卸下心防， 讓他更了解你 (的心理弱點)?

我在噗浪的河道上看到這則 「鴨達鴨達」 的廣告： "打開 NSFW 模式， 對話從曖昧到火辣"、 "30萬角色，陪你聊到深夜，陪你紅了臉、燙了心"。

等等， 請先冷靜一下， 讓我們談點 (看似無關的) 歷史， 幫你降溫。 email 剛出現的時代， 詐騙份子透過 量大質劣 的釣魚信件來進行網路釣魚 (phishing)： 他們將同一篇詐騙信件一次寄給幾千幾萬人， 期待當中只需要少數人上當就夠了。 後來出現了 量少質精 的魚叉式釣魚 (spear phishing)： 詐騙份子鎖定高價值的受害目標， 例如公司的 CEO 或是政治人物的特別助理， 針對目標的過往活動與發言撰寫客製化的精準詐騙信件。 結果成功率大幅提升、 成果豐碩； 但是成本很高， 需要耗費人力研究與撰稿。

「研究與撰稿」? 這正好是AI最擅長的事啊! 給定一個 email、 上網搜尋此人曾經發表過的圖/文/影/音， 再根據這些公開資訊撰寫一封對這位受害者最有說服力的詐騙信件。 <= 在技術上這是完全可行的事。 當然， 檯面上的正當 AI 會有一些道德限制， 不會放任使用者這麼做。 但是詐騙份子可以訓練自己的 AI。 既然是電腦可以做的事， 就可以寫一個迴圈， 對成千上萬個 email 重複相同的動作， 分別寫出高度客製化、 說服力極高的成千上萬篇精準魚叉式釣魚信件。 AI 可以幫助詐騙份子高效率產出 量大質精 的高說服力文件。

AI 也可以幫助廣告商投放量大質精的高說服力精準廣告。 Meta AI (應該還算是檯面上的正當 AI..吧?) 即將 根據用戶的對話投放精準廣告。 如果你還記得 劍橋分析事件、 如果你還記得 OCEAN 人格分析 的威力， 那麼應該會理解我對此事的高度不安： 當時甚至都還沒有聊天機器人， 卻也只需要有300個讚， 電腦就能比配偶更了解你。 以上還沒有把 跟蹤狂祖克柏 採用 橋接 或不明方式 害性工作者身份曝光 等等事件考慮進去。

同樣地， AI 還可以幫助極權國家投放量大質精的高說服力精準認知戰文宣。 以長尾現象來看， 仿冒成國家形式的黑社會組織、 借他國殖民地經營電信詐騙 的中共政權， 毫無懸念地穩坐 詐騙市場的短頭。 「用 AI 進行大規模精準認知戰」 的相關研究， 在 「即將被中共 AI 大規模說服的台灣社會」 那篇也已經談過了。 文中提到的 SocioVerse 尚且還是從開放的網路上抓取人們 (相對謹慎的) 公開發言。 如果它能拿到 "NSFW" 的、 "從曖昧到火辣" 的、 用戶信以為是 "極為個人私密" 的對話， 再丟給 AI 分析， 那會發生什麼事呢?

如果中共直接設計一款 「與 AI 盡情私密對話的 app」， 吸引大量台灣人使用， 那會發生什麼事呢?

回來談 「鴨達鴨達」。 它的開發商是 Warpspace； 「鴨達鴨達」 是該公司 在 play store 上唯一的作品。 等等! 在中國上架的 caveduck 也是由 Warp Space 開發， 也屬於 「ai聊天软件」、 「梦女ai聊天软件」， 也採用相同的鴨頭作為圖示， 英文名字都叫做 caveduck。

我不知道 Warp Space 背後有沒有解放軍； 有人說它是韓國公司。 但總之它在中國經營， 就必須遵守中國的法規， 它對用戶隱私的態度， 也必然會長成 中國特色的樣子。 如果解放軍提出任何需求， 它當然必須配合。 所以， 如果你從沒安裝過它， 最好不要安裝； 如果你已經開始用了， 刪掉之前請先問它一些政治敏感問題 (留言審核政策 以及上面的許多連結裡面有一些關鍵詞) 或是羅帥宇、 于朦朧等等時事。 請截圖分享你實驗的結果。

注意力經濟年代， 你的大腦 是別人的戰場； 你的情緒 是好用的遙控開關。 正當的商業廣告、 不道德且游走法律邊緣的暗黑模式、 詐騙， 還有認知戰， 這些都只是同一個大趨勢底下不同面向的範例。 操縱閱聽受眾的情緒， 是搶奪戰場最有效率的方式， 而且可以像巫師一樣： 隔空即可施法， 無須近距離接觸。 施法者若有 AI 的協助， 就獲得了創造無限多個分身的能力， 可以同時、 大規模地深入了解及精準操弄數千數萬個視聽受眾的心思。 欠缺隱私意識、 欠缺自我情緒警覺性的人， 他們的大腦將貢獻出來成為這個時代被最多角力者輪流蹂躪的戰場， 將會經常不自覺地 (但自以為自主地) 採取各種行動滿足多位 "主人" 的需求。