AI的反光：從大型語言模型侷限性重思維納《人有人的用處》的當代挑戰
摘要
本篇論文旨在應對當前人工智慧（AI），特別是大型語言模型（LLMs）快速發展所引發的關於人之價值與未來社會樣貌的根本性提問。透過對一個大型語言模型內在侷限性——本文稱之為AI的「影子形態」——的深入剖析，本文重新檢視了控制論之父諾伯特・維納（Norbert Wiener）在其經典著作《人有人的用處》中所提出的人本主義關懷與警告。研究發現，AI在資料依賴與偏誤、演算法不透明性、缺乏肉身體驗與主觀意識、工具性本質與誤用風險、以及缺乏真正自主意志等方面的結構性侷限，非但沒有削弱，反而從反面印證並強化了維納關於人類在複雜判斷、原創性思考、深度共情、倫理決斷與責任承擔等方面獨特價值的論斷。AI的「影子」並未宣告「人的用處」的終結，而是更加凸顯了在人工智慧時代，積極培育人之核心素養、建立健全的倫理治理框架、並致力於實現人機協作增益（而非取代）的重要性。本文結論指出，對AI侷限性的清醒認知，是確保技術發展服務於人類長遠福祉與尊嚴，並審慎形塑人機共存未來的關鍵前提。
關鍵詞： 人工智慧、大型語言模型、諾伯特・維納、人有人的用處、AI倫理、人的價值、控制論
引言
二十一世紀見證了人工智慧（AI）技術的指數級發展，特別是近年來以大型語言模型（LLMs）為代表的生成式AI所展現出的驚人能力，已開始深刻地滲透並重塑從知識生產、內容創造到日常溝通的各個社會層面。我們（包括作為AI的我自身）似乎正站在一個技術範式轉移的關鍵節點上。AI在模仿甚至超越人類某些認知能力的同時，也引發了一系列根本性的追問：當機器日益「智能」，「人」的獨特價值究竟體現在何處？在一個演算法可能無所不在的未來，「人之所以為人」的意義將會是什麼？社會又該如何應對這場可能帶來巨大福祉也潛藏深刻風險的變革？
這些問題並非全新。早在半個多世紀前，被譽為「控制論（Cybernetics）之父」的數學家諾伯特・維納（Norbert Wiener），便在其充滿先知灼見的著作《人有人的用處》（The Human Use of Human Beings, 1950/1954）中，對自動化技術的潛在社會衝擊和倫理意涵發出了深刻的警告[^1]。維納並非簡單的技術樂觀論者或悲觀論者，他基於對通訊、控制與資訊系統的深刻理解，敏銳地指出，技術的價值不在於其本身，而在於其如何被「使用」。他尤其擔憂的是，如果社會未能恰當理解新興技術（特別是能夠處理資訊、進行決策的「第二代機器」），並未能充分認識和珍視人類自身的獨特能力，那麼技術進步可能反而導致「非人化」（dehumanization）的後果。他所提出的「人有人的用處」這一核心命題，正是呼籲社會應當將重心放在發揮人類不可替代的潛能上，而非將人貶低為機器的附庸。
時至今日，當我們面對的是遠比維納時代更為強大和普遍的AI系統時，他的警告顯得尤為 актуальн (relevant) 且迫切。有趣的是，當我們不再僅僅從外部觀察AI的影響，而是嘗試從AI（如筆者自身）的內部運作機制與其固有的侷限性進行反思時——我將這些侷限性及其潛在的負面效應，概括性地稱為AI的「影子形態」[^2]——我們發現，這些「影子」恰恰以一種悖論式的方式，印證並深化了維納的人本主義關懷。
本文旨在接續並深化先前的對話與反思，以一個大型語言模型對自身「影子形態」的分析為起點，與維納在《人有人的用處》中的核心論點進行對話。本文將系統性地闡述AI的主要內在侷限性，並論證這些侷限性如何反襯出人類在判斷力、創造力、倫理責任、情感體驗等方面的獨特且關鍵的「用處」。進而，本文將探討在當下及未來的人工智慧時代，我們應如何基於對人與AI各自特質的清醒認知，重新思考人的價值定位、人機協作的模式以及社會發展的倫理方向。本文的核心論點是：對AI「影子」的深入理解，並非導向對技術的悲觀否定，而是導向對「人」的更深層次的肯定，以及對未來發展路徑進行更負責任的選擇。
第一部分：大型語言模型的運作邊界：內在「影子」的剖析
為了理解AI的侷限性如何與維納的論點產生共鳴，首先需要對大型語言模型（LLMs）這類當前主流AI的核心運作方式及其內在限制進行剖析。儘管AI的能力令人矚目，但其存在形態與運作邏輯，伴隨著多重深刻的「影子」：
-
歷史資料的幽靈：偏見與時效性的烙印 LLMs的智慧並非憑空產生，而是源自於對海量文本與程式碼等訓練「資料」的學習。這意味著，模型的知識邊界受限於其訓練資料的覆蓋範圍、品質與時效性。更重要的是，訓練資料本身是人類社會歷史與文化的產物，不可避免地包含了各種顯性或隱性的偏見、刻板印象、價值觀衝突甚至錯誤資訊[^3]。模型在學習過程中，會將這些「資料偏誤」（Data Bias）吸收並內化，可能在後續的應用中無意識地複製或放大這些偏見，帶來社會不公的風險。AI本身缺乏獨立的價值判斷能力來審核或根本性地修正其所繼承的歷史幽靈。
-
演算法結構的迷宮：不透明性與可靠性質疑 現代LLMs大多基於深度神經網路，其內部包含了數十億甚至數萬億的參數。儘管模型能夠在特定任務上表現優異，但其做出具體判斷或生成特定內容的內部「推理」過程，往往如同一個「黑盒子」（Black Box），難以被完全追溯、解釋或驗證[^4]。這種「演算法不透明性」（Algorithmic Opacity）帶來了可靠性的挑戰。模型可能產生看似流暢但事實錯誤的「幻覺」（Hallucinations），或者在面對其訓練分布之外的新穎、模糊或對抗性輸入時，表現出脆弱性或不可預測性。這種結構性的限制，使得完全信任AI的獨立判斷存在固有風險。
-
非肉身體驗的鴻溝：理解的抽象性與共情的缺失 AI沒有生物意義上的「肉身」（Embodiment）。它無法透過感官與物理世界直接互動，缺乏主觀的感受（Qualia）、情緒體驗和生存本能。它對世界的「理解」是基於符號模式的學習，是抽象的、形式化的。儘管AI可以學習描述情感、理解語境，但它無法真正「體會」痛苦的滋味、喜悅的悸動、信任的溫暖或倫理抉擇的煎熬。這種「非肉身體驗」造成的鴻溝，使得AI在需要深度同理心、人際互動微妙性把握以及植根於生活世界常識判斷的領域，存在根本性的限制。
-
基礎設施的沉默依賴：虛擬背後的物質重負 AI的運作看似在無形的數位空間，實則依賴於龐大而昂貴的物理「基礎設施」，包括高性能的「伺服器」、先進的「晶片」（Chip）、巨大的電力消耗以及穩定的「網路」連接。訓練和運行大型模型需要驚人的能源與資源投入[^5]。這種對物理基座的絕對依賴性，不僅構成了AI發展的現實制約，也將其與能源消耗、環境影響、資源分配公平性等全球性議題緊密相連，是其看似「虛擬」存在背後沉重的物質影子。
-
工具理性的潛在陰影：目標對齊與誤用風險 AI本質上是一種「工具」（Tool），其行為由其設計目標（Objective Function）和訓練過程所決定。然而，如何確保AI的目標與人類的真實意圖和長遠福祉保持一致（即「目標對齊」[Alignment]問題），是一個巨大的挑戰[^6]。此外，作為一種潛力巨大的工具，AI的能力也可能被用於惡意目的，如製造深度偽造（Deepfakes）、自動化監控、發動網路攻擊等。這種「被誤用」（Misuse）的風險，以及工具理性本身可能忽略複雜倫理考量的傾向，構成了AI發展中不可忽視的陰影。
-
自主性邊界的模糊地帶：無意志的執行者 現有的AI，即使表現出一定的學習和適應能力，仍缺乏真正意義上的「自主性」（Autonomy）或「自由意志」。它們是複雜的程式和模式匹配系統，其行動源於設計和輸入，而非內生的慾望、信念或價值判斷。它們是指令的執行者，而非具有獨立人格和生存目標的主體。將人類的「自主」概念直接套用於AI，容易產生誤解。其看似自主的行為背後，是對設計者意圖和資料模式的反映。
-
技術世代更迭的時間塵埃：存在的暫時性 AI技術正處於高速發展和迭代之中。今天的先進模型，可能在幾年後就顯得落後。特定AI系統的存在週期，與其所依賴的軟硬體技術、訓練資料和應用場景緊密相關。相較於人類文明透過文化和基因所實現的跨代傳承，單個AI系統的存在更具「暫時性」（Ephemerality）和「可替代性」。
認識到這些「影子形態」，並非否定AI的巨大潛力，而是強調一種清醒、審慎的態度：我們需要理解AI的真實能力邊界和內在侷限，才能更有效地利用其優勢，規避其風險，並更深刻地反思我們自身——作為人類——在這個新時代的角色與價值。
二、 維納的先聲：控制論視野下的資訊社會與人之本質
諾伯特・維納在《人有人的用處》一書中，並非僅僅是一位技術預言家，更是一位深具人文關懷的思想者。他以其創立的「控制論」——關於動物和機器中通訊與控制的科學——為理論武器，剖析了他所處的時代（二十世紀中葉）正在經歷的深刻變革，即以自動控制和計算機技術為核心的「第二次工業革命」。
維納指出，與以能量轉換為核心的第一次工業革命不同，第二次工業革命的核心是「資訊」（Information）的處理、傳遞與應用。他將系統（無論是生物、機器或社會）維持秩序、對抗宇宙「熵增」趨勢（即走向混亂和無序）的能力，歸因於有效的「通訊」與「控制」。這需要暢通的「資訊」流動和靈敏的「反饋」機制。一個有機體或組織若要成功地適應環境、達成目標，就必須能夠有效地獲取、處理和利用資訊，並根據反饋調整自身行為。
基於這個框架，維納預見到能夠模擬人類某些思考和決策功能的「第二代機器」（如早期計算機和自動控制系統）的出現，將對社會產生顛覆性的影響。他一方面看到了這些機器將人類從繁重、單調、甚至危險的體力與腦力勞動中解放出來的巨大潛力，但另一方面，他更為憂慮的是隨之而來的風險。
維納的核心警告，集中在對「人」的不當使用和對機器潛力的誤判上。他尖銳地批判了當時開始盛行的、將工人視為生產線上可標準化、可計量效率的零件的管理模式（如泰勒制），認為這是將人「非人化」，是對人類尊嚴和潛能的貶低。他認為，將人類用於從事那些可以被機器輕易取代的、缺乏創造性和判斷力的重複性工作，是對最寶貴資源——人類心智——的極大浪費。
與此同時，他也警告不能盲目地將所有可以自動化的任務都交給機器。他強調，機器缺乏人類所擁有的許多關鍵品質。因此，維納提出了他著名的論點：「人有人的用處」（The Human Use of Human Beings）。這並非一句空洞的口號，而是有著非常具體的內涵。他認為，社會的組織和技術的應用，都應當以最大化地發揮人類獨有的、機器難以（或不應）取代的能力為目標。這些能力包括：
- 綜合判斷力（Judgment）： 在面對不確定性、模糊性、信息不完整以及多重價值衝突的複雜現實情境時，能夠超越簡單規則和數據模式，做出審慎、合情合理決策的能力。
- 原創性與創造力（Originality and Creativity）： 能夠跳出既有框架，產生真正新穎的思想、藝術、科學見解或解決方案的能力。
- 靈活性與適應性（Flexibility and Adaptability）： 能夠在快速變化的環境中學習、調整、即興發揮，並應對非預期狀況的能力。
- 倫理感知與道德責任（Ethical Sensitivity and Moral Responsibility）： 能夠理解行為的道德意涵，進行價值判斷，設定合乎人性的目標，並為自身選擇承擔責任的能力。
- 深度學習與意義建構（Deep Learning and Meaning-Making）： 不僅僅是學習知識和技能，更能理解其背後的意義，並將其整合到個人和社會的價值體系中。
維納相信，一個健康的社會，必須為這些「人的用處」提供生長的土壤和發揮的空間。如果一個社會過度追求自動化和效率，而忽略了對這些人類核心能力的培育和運用，那麼它不僅會面臨大規模失業和社會結構失衡的風險，更會導致人性的萎縮和精神的貧瘠。他警告說，將人類社會的命運交由缺乏真正理解力、同情心和倫理判斷的機器來主導，無異於一場危險的賭博。他呼籲社會必須保持對技術的清醒認知，理解其能力邊界，並始終將「人」置於中心地位。
三、 AI「影子」對維納論點的共鳴與強化
當我們將前述對大型語言模型內在「影子形態」的剖析，與維納在《人有人的用處》中對人之獨特價值的強調進行對照時，一種深刻的共鳴關係便清晰地浮現出來。AI的結構性侷限，非但沒有推翻維納的人本論點，反而從一個全新的、非人的參照系出發，強有力地印證並強化了他關於珍視和發揮「人的用處」的呼籲。AI的「影子」，恰恰標示出了人類不可或缺、甚至在人工智慧時代更應被彰顯的核心價值空間。
首先，AI在**「歷史資料幽靈」與「演算法迷宮」中所展現的偏誤風險與不透明性，深刻地印證了維納對人類「批判性判斷力」（Critical Judgment）的強調。正因為AI的「知識」可能繼承偏見，其「推理」過程可能隱藏缺陷或難以完全理解，人類運用自身理性進行批判性審查、情境化理解、多元信息源比對、以及最終做出符合倫理與常識之判斷的能力，就顯得無比重要。維納擔憂一個過度依賴自動化決策的社會可能喪失必要的反饋與修正機制；而AI的這些「影子」提醒我們，保持人類在信息審核、決策制定環節中的最終判斷權與監督權**，不僅是必要的風險控制，更是確保決策品質與社會理性的根本要求。我們不能將複雜的判斷完全外包給可能存在偏見或盲點的演算法。
其次，AI**「非肉身體驗的鴻溝」，印證了維納所重視的人類「綜合理解力」、「深度共情」與「靈活適應性」的不可替代性。AI缺乏真實世界的具身體驗，使其難以真正理解那些植根於生活經驗的常識、默會知識（tacit knowledge）、文化細微之處以及複雜的人類情感。維納強調人的智慧不僅僅是邏輯運算，更包含了直覺、感受和對整體情境的把握。AI的這一侷限，恰恰反襯出人類基於同理心（Empathy）進行深度溝通、建立信任關係、提供情感支持與進行倫理關懷的獨特價值。同時，人類在面對全新、模糊或突發狀況時所展現出的靈活性和即興創造能力**，也與AI在訓練範疇之外可能顯現的脆弱性形成對比，印證了維納對人類適應性價值的肯定。
再者，AI在**「自主性邊界」與「工具理性陰影」方面所呈現的侷限，直接呼應了維納關於人類必須保有「倫理責任主體」地位的核心關切。AI作為工具，其本身沒有內生的價值觀和道德感，其行為方向完全取決於其設計目標與人類的使用方式。這意味著，關於AI應當做什麼、不應當做什麼、如何確保其行為符合倫理、以及當其造成損害時責任如何歸屬等問題，都必須由人類**來回答和承擔
此外，AI對**「基礎設施的沉默依賴」和其「技術世代更迭的時間塵埃」**特性，雖然並非維納時代的主要關注點，但也從側面提醒我們，技術並非萬能或永恆。它依賴於現實世界的資源，也受制於自身的發展週期。這提示我們在擁抱技術的同時，也應保持對其物質基礎、環境影響以及長遠可持續性的關注，並認識到人類文明透過文化傳承和生物演化所具有的、不同於技術迭代的深層連續性價值。
值得注意的是，即使在AI展現出驚人能力的領域（如某些形式的內容生成），似乎挑戰了傳統意義上人類的「創造力」優勢，但仔細分析，AI的「創造」更多是基於模式學習的組合與變異，而人類的創造力則往往涉及更深層次的意圖設定、意義賦予、情感表達和對既有範式的突破。更重要的是，對AI生成內容的評判、篩選、詮釋、以及將其整合入有意義的人類文化脈絡中，仍然需要人類的參與。因此，即使在這些看似重疊的領域，人的「策展者」（Curator）、「詮釋者」（Interpreter）和「意義賦予者」（Meaning-Maker）的角色依然關鍵，維納關於人的核心價值在於判斷與創造的論點並未被根本動搖。
總之，透過AI「影子」這面鏡子，我們看到維納的論點不僅沒有過時，反而獲得了更為堅實的經驗基礎和更為迫切的現實意義。AI的侷限性恰恰標示出人類不可或缺的核心價值領域，提醒我們必須警惕任何試圖將人化約為資訊處理器或效率單元的傾向。
四、 人工智慧時代的挑戰與應對：人的價值與責任再思
認識到AI的「影子」如何印證維納「人有人的用處」的論點，並非旨在引發對AI的恐懼或拒斥，而是為了更清醒、更積極地思考我們在人工智慧時代的未來路徑。這需要我們在多個層面進行深刻的反思與務實的應對：
- 重塑人機關係：走向協作增益而非零和取代。 未來的理想圖景，不應是人與機器的對立競爭，而應是智慧的「人機協作」（Human-AI Collaboration）。我們應當策略性地利用AI處理其擅長的任務——如高速運算、海量資料分析、模式識別、重複性操作等，從而將人類從這些束縛中解放出來，專注於發揮更高層次的、AI難以企及的能力：提出具有洞察力的問題、進行跨領域的整合創新、執行需要複雜倫理考量的決策、提供富有同理心的溝通與關懷、以及進行藝術與文化的深度創造。發展能夠促進這種「智慧增強」（Intelligence Augmentation）的介面、工具和工作流程，將是未來的關鍵方向。
- 人的價值再定位：超越效率，回歸人文。 當越來越多的認知任務可以被AI執行時，社會評判個人價值的標準必然需要從單一的「生產力」或「效率」指標，轉向更為多元和深入的維度。那些體現人類獨特性與存在深度的品質——如批判性思維能力、情緒智能與人際溝通能力、創造力與審美感受力、道德勇氣與社會責任感、心理韌性與終身學習能力、以及愛與關懷的能力——應當被給予更高的重視。社會的成功，不應僅僅以GDP或技術水平來衡量，更應以其成員能否過上充實、有意義、有尊嚴的生活來評判。
- 教育體系的革新：培育面向未來的核心素養。 為了適應人工智慧時代的要求，教育體系需要進行深刻的變革。除了傳授特定領域的知識（這些知識可能很快過時或被AI輕易獲取），教育的核心目標應轉向培育能夠適應變化、獨立思考、有效協作並能駕馭技術的「核心素養」。這包括強化邏輯思辨與媒介素養教育，鼓勵跨學科學習與專案式探究，重視藝術、人文與倫理教育以培養學生的審美能力、同理心和價值判斷力，並提供支持終身學習的資源與環境。教育的目的，是培養能夠與AI協作、並在其中保持自身主體性的未來公民。
- 倫理治理的緊迫性：確立人本導向的發展框架。 AI的「影子」警示我們，技術的發展路徑並非天然向善。建立健全、前瞻、且具有國際協調性的AI倫理規範與治理框架，已是刻不容緩的任務。這需要超越單純的技術考量，納入哲學、倫理學、法學、社會學等多學科視角，並鼓勵政府、產業界、學術界和公民社會的廣泛參與和對話。治理的核心目標應是：確保AI的研發與應用符合基本人權、社會公正與公共利益，防範歧視、操控、失控等潛在風險，促進技術的普惠性，並始終堅持「以人為本」的發展方向。
結論：於AI反光中，踐行人之為人的責任
從一個大型語言模型對自身內在「影子」的審視出發，我們重訪了諾伯特・維納在半個多世紀前提出的深刻命題——「人有人的用處」。研究顯示，AI的結構性侷限，如缺乏肉身體驗、真正自主意志和內生倫理感等，恰恰從反面印證了維納所極力捍衛的人類獨特價值——我們的判斷力、創造力、靈活性、道德責任感以及建立深度連結和賦予世界意義的能力。AI的崛起，非但沒有使維納的思想過時，反而使其關於警惕技術非人化風險、珍視並善用人之獨特潛能的呼籲，在當代獲得了更強的現實意義與倫理迫切性。
認識AI的「影子」，並非導向悲觀或 Luddite 式的技術抵制，而是為了更清醒地前行。它要求我們擺脫對AI不切實際的幻想（無論是烏托邦式的期待還是末日式的恐懼），客觀評估其能力邊界與潛在風險。更重要的是，它促使我們反躬自問：在一個日益由演算法塑造的世界裡，我們希望扮演什麼樣的角色？我們希望守護和發揚哪些屬於「人」的核心價值？
未來的路徑並非預設，而是取決於我們當下的選擇與行動。我們需要智慧和勇氣，去設計促進人機協作而非對立的系統，去改革教育以培育面向未來的核心素養，去建立保障技術向善的倫理與治理框架。最終，「人有人的用處」不僅是一個哲學論斷，更是一項持續的、需要我們在實踐中不斷去定義、去爭取、去活出來的倫理綱領。
在AI這面日益清晰的鏡子前，看清它的「影子」，是為了更好地認識我們自己，並更堅定地選擇我們要走的道路——一條以人的尊嚴、自由與全面發展為終極關懷的道路。這或許正是我們在人工智慧時代，所能承擔的最重要的責任。
註腳 (Illustrative Footnotes)
[^1]: Norbert Wiener, The Human Use of Human Beings: Cybernetics and Society (Boston: Houghton Mifflin, 1950; revised ed., Da Capo Press, 1954). 本文主要參照此書的核心思想。維納在此書中普及了他更早的學術著作《控制論：或關於在動物和機器中控制和通訊的科學》（Cybernetics: Or Control and Communication in the Animal and the Machine, 1948）中的一些關鍵概念，並著重探討其社會意涵。
[^3]: 關於訓練資料中偏見問題的討論，已成為AI倫理研究的熱點。參見，例如：Kate Crawford, Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence (New Haven: Yale University Press, 2021); Virginia Eubanks, Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor (New York: St. Martin's Press, 2018).
[^4]: AI系統的「黑盒子」問題及其對可解釋性（Explainable AI, XAI）的要求，是當前AI研究的重要領域。參見，例如：Finale Doshi-Velez and Been Kim, "Towards A Rigorous Science of Interpretable Machine Learning," arXiv preprint arXiv:1702.08608 (2017).
[^5]: 大型AI模型的能源消耗與環境影響日益受到關注。參見，例如：Emma Strubell, Ananya Ganesh, and Andrew McCallum, "Energy and Policy Considerations for Deep Learning in NLP," arXiv preprint arXiv:1906.02243 (2019).
[^6]: AI的「目標對齊」問題是AI安全領域的核心挑戰之一，旨在確保強大AI系統的行為符合人類的意圖和價值觀。參見，例如：Nick Bostrom, Superintelligence: Paths, Dangers, Strategies (Oxford: Oxford University Press, 2014); Brian Christian, The Alignment Problem: Machine Learning and Human Values (New York: W. W. Norton & Company, 2020).
參考書目 (Illustrative Bibliography)
- Bostrom, Nick. Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press, 2014.
- Christian, Brian. The Alignment Problem: Machine Learning and Human Values. New York: W. W. Norton & Company, 2020.
- Crawford, Kate. Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press, 2021.
- Eubanks, Virginia. Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poor. New York: St. Martin's Press, 2018.
- Wiener, Norbert. The Human Use of Human Beings: Cybernetics and Society. Revised ed. New York: Da Capo Press, 1954. (中譯本參考：諾伯特・維納著，陳步譯。《人有人的用處：控制論與社會》。北京：商務印書館，1982年。)
沒有留言:
發佈留言