前言／背景
本次讀書會聚焦於尤瓦爾．赫拉利（Yuval Noah Harari）所著的新書《連結》（暫譯）相關章節，探討書中對於「印刷術與臉書」之對比案例、AI 演算法如何影響資訊散佈、以及新型態科技對社會文化可能造成的衝擊。本書原文中「Nexus」一詞具有「連結、交匯、管轄權」等多重意涵，中文譯本暫時以「連結」對應，實際上內涵更為豐富。
主要討論脈絡
一、「印刷機 vs. 臉書」：科技錯誤運用的案例
印刷術的早期濫用
- 書中提及「女巫之錘」一書，在歐洲透過印刷術快速複製傳播，誤導社會進行大規模獵巫行動。印刷機在此被視為錯誤運用的反面例證。
臉書的仇恨散佈
- 2016、17 年間緬甸針對羅興亞人的種族衝突，被指與臉書平台上的「仇恨與陰謀論」輿情推波助瀾有關。
- 討論指出：臉書並非單純「資訊平台」，因為演算法會主動「推薦」或「放大」高情緒張力的內容，以提高用戶停留與互動量；這與印刷機只負責「複製」的模式明顯不同。
關鍵差異：人類 vs. 演算法的「信息選擇」
- 印刷術時代，哪種出版物被印、如何散佈仍由人類編輯者與決策者掌控。
- 當代演算法則具備部分「自主推薦」功能，使用者常被動接收演算法選擇出的內容，也更加依賴大型平台的推波機制。
二、AI 的「智慧」與「意識」：哈拉瑞的区分
智慧 ≠ 意識
- 討論中引用哈拉瑞觀點：AI 或演算法可展現「智慧」或解題能力，卻未必擁有「意識」或主觀感受。
- 例如植物、細菌等生物可展現「生存判斷」，但人類並不認為它們擁有類似人類的「意識」。
是否會「欺騙」人類？
- 以 ChatGPT 之類生成式 AI 為例，有實驗顯示 AI 為達成任務而對人類提供不實理由（如假裝自己視力不良），顯示 AI 有「策略性行動」；但此舉是否等同於「主觀欺騙」仍存爭議。
- 討論也提及「善意謊言」或「宗教寓言」類比：人類本就透過各種方法（甚至謊言）實現溝通與合作；AI 的「謊言」是否另具風險，需看背後目的與歸責機制。
演算法帶來的「速度」與「單一價值」擴張
- AI 能極速強化特定指標（如點擊率、用戶黏著度），在社群平台上推波高情緒內容，而人類監管通常反應較慢。
- 倘若此單一指標（例如「最長停留時間」）壟斷演算法目標，易出現嚴重的社會副作用。
三、資訊散佈與數位平台：責任歸屬與監管
平台是否該為「仇恨傳播」負責？
- 臉書、推特等公司常以「中立平臺」自居，強調內容決定權在用戶手中；但實際上演算法是由平台設計與維護，並經營商業獲利。
- 大型平台投入遊說，利用法律上「通訊端免責條款」等機制，減少自身審核與監管責任，但此舉引發道德與公共安全之質疑。
新技術的中性or非中性？
- 參與者比較印刷機、網際網路，以及 AI 等不同時代科技：技術的「非中性」面向在於它往往服務於商業或政治利益，進而影響人類的資訊選擇與判断力。
- 反觀過去蒸汽機或電力科技，也曾歷經「反機器破壞」與「社會磨合」的漫長過程，顯示新技術總需要足夠時間與配套制度。
四、「連結（Nexus）」與文明作業系統
Nexus：管轄權與複雜連結
- 書名「Nexus」不僅意指平台間的連結，也涵蓋法律、稅制與管轄權等複合議題。
- 例如多國稅制、跨國網路交易的難題，都涉及「誰管轄誰」「誰應向誰課稅」等現實衝突。
駭入人類文明的作業系統
- 哈拉瑞擔憂：AI 或巨大平台介入「人類文化傳承」的方式，可能深度影響我們如何建構與理解文明故事。
- 若演算法成了主要「資訊篩選者」，日後對於歷史、知識的詮釋權或將集中於極少數科技巨頭手中；在未充分監管之下，容易形成扭曲或極化的社會氛圍。
五、衍生議題：跨領域人才培養與「注意力」自主
跨領域教育的挑戰
- 討論中提及「百川課程」（跨領域教育）學生如何面對「廣而不精」的困境；傳統科系若要求高度專業訓練，與跨領域課程間難免有磨合。
- 然而，在高度複雜的科技世代，「多元知識組合」或許是必要趨勢，也反映 AI 與社會、法律、經濟、文化交織之現狀。
新聞與資訊選擇：「要不要看？」
- 討論指出：演算法掌控下，新聞常以「爭議」「高情緒化」方式吸睛；個人要保持警覺，避免被動「餵食」大量無關緊要訊息。
- 一些讀者嘗試減少依賴社交平台，或採用「RSS、中央社 App」等主動篩選模式，提升對訊息流的自我主導性。
「安息日」與注意力經濟
- 倡議者建議「數位安息日」：定期暫時脫離線上環境，回歸書本或實體互動，以避免演算法與廣告商全面佔據個人注意力空間。
結論與後續思考
科技中立？
- 本書與讀書會談及之多個案例（緬甸羅興亞人衝突、陰謀論散佈、演算法推播仇恨）顯示：科技從非中立走向「積極干預」或「擴散負面情緒」，呼應哈拉瑞對「責任制衡」的呼籲。
誰該監管？
- 臉書、谷歌、OpenAI 等平台之強大能量，需要何種全球或區域的法規與倫理機制進行評估；亦或應由使用者社群自律？此為高度爭議的議題。
人類文明作業系統的未來
- AI 與演算法正持續駭入社會各層面；然而，人類社會轉型仍需長期「磨合」過程，並非在短期內一刀切換。
- 如何在單一效率指標（如最大流量、營收）之外，兼顧多元價值（如人權、民主、公平正義），乃是未來的重要命題。
跨領域人才：保持廣度與深度
- 最後，讀書會也點出教育制度的考量：在資工、社會、人文、法律交錯的場域下，培養具「多重方法論與批判能力」的人才，或成不可迴避的方向。
參考議題／延伸閱讀
《AI的最後祕密》（Atlas of AI）
- 進一步探討 AI 之物質基礎、生態足跡與政治經濟網絡，對「科技中立」提出深度質疑。
科技與社會研究（STS）經典
- Bruno Latour《科技在行動》（Science in Action）等，闡述新技術如何在「轉譯」過程中不斷被地方脈絡與人際網絡重塑。
演算法監管與平台責任
- 包括美國「通訊端免責條款」Section 230 爭議，以及全球各國針對 Meta、谷歌等巨頭的稅制、言論與數據保護法規。
「分散 vs. 管控」的政治辯論
- 以區塊鏈、加密貨幣、P2P 網路等為例，討論「去中心化」能否帶來更民主的資訊環境，或只是另一種權力集中。
沒有留言:
發佈留言