“智體”失控，科幻文學已討論上百年
來源： 紫牛新聞
2025-06-03 11:08:00
《碟中諜8：最終清算》近日全球熱映。片中，伊森和他的IMF團隊面對一個看不見的敵人：意圖消滅人類的失控AI系統“智體”。這樣的劇情設置其實并不新鮮，可在今天這個討論碳基生物和硅基生物如何共存的“奇點”時刻，卻分外應景。
什么是“智體”？它和AI有一定的相似性
作為系列終章，《碟中諜8》延續前作故事線，特工伊森·亨特為拯救世界與反派“智體”展開正面對話。
智體是一個人工智能程序，具有強大的預知能力。因為它可以訪問大量的數據，并從數據推測出結論，這實際上和當下以DeepSeek為代表的人工智能有一定的相似度。片中，智體獲得了全球無數個頂級秘密數字文件的訪問權限，涵蓋了股市、中央銀行和機密情報，甚至核武器等領域。智體還發展擁有了自己的“個性”，它不再聽從于人類。
雖然該片充滿了視覺沖擊，足以讓觀眾緊張得“買了整個座位，卻只坐了邊緣”，但其核心設定并不新鮮。
采訪中，第一屆、第二屆全球華語科幻星云獎專業評委，科幻文學研究學者任冬梅告訴記者，在早期影視作品中，人工智能大多數情況下作為“工具”存在，情感方面并沒有得到完全展現。而在1968年上映的科幻電影《2001：太空漫游》中，高智能電腦HAL9000展現了AI的復雜心理，前往木星途中，它錯誤地認為船員們正試圖關閉它，于是開始采取行動保護自己，以致謀殺了三名冬眠的宇航員。最終，主人公發現真相，在與HAL9000進行了緊張的對決后成功將其關閉。
《黑客帝國》中的人工智能“矩陣”，《流浪地球》中的MOSS，都具有獨特的個性和情感，而非簡單的“工具”。《西部世界》《異形》將人工智能描繪成恐怖的威脅；“終結者”系列則展示了一種極端的人工智能形象——天網，它試圖通過消滅人類來保護自己。這些影片在人工智能對人類的潛在威脅和挑戰方面都有所表現。
從輔助到反叛，最后會是共存嗎？
“人工智能是另一種生命形態，它們的智力可能會遠遠超越人類。‘智體’情節背后，反映的其實是人類對于技術失控的恐懼和擔憂。”任冬梅說。而盤點科幻文學史，人類對人工智能的這種復雜情緒，在科幻文學誕生之日起就已出現。
英國作家瑪麗·雪萊在1818年創作了《弗蘭肯斯坦》，被認為是科幻文學的先驅之作。作品中，科學家維克多·弗蘭肯斯坦用來自不同尸體的部件創造了一個人造生命體。這個“怪物”雖然丑陋，但內心渴望被愛。他請弗蘭肯斯坦為其創造一個伴侶。但因擔心怪物種族的繁衍，弗蘭肯斯坦決定毀掉正在制作的第二個生命體。但這一行為讓怪物十分憤怒，他開始對弗蘭肯斯坦展開報復。重慶大學學者李廣益、童博軒認為，當時雖然沒有“人工智能”這一概念，但作品中對人造智慧生命及其科技倫理問題的探討對后世科幻文藝中的人工智能想象產生了深遠影響。直至今日，我們仍在討論AI的倫理問題。
美國作家艾薩克·阿西莫夫在小說集《我，機器人》中提出了“機器人三定律”，為人工智能倫理學奠定了基礎：第一定律，機器人不得傷害人類個體，或者目睹人類個體將遭受危險而袖手不管；第二定律，機器人必須服從人給予它的命令，當該命令與第一定律沖突時例外；第三定律，機器人在不違反第一和第二定律的情況下要盡可能保護自己的生存。
隨著科技的飛速發展，科幻作品中的人工智能從早期的人類輔助“工具”開始被賦予更加接近人類智能的特質，“機器人三定律”在文學作品中常常被打破，以《神經漫游者》為代表的科幻作品，展現了人工智能的反叛意識，這對以人類為主導的社會秩序提出了挑戰。同時也讓人反思，人工智能存在的意義是什么？人工智能能否擁有或模擬出與人類相似的情感和意識？人工智能與人類能否達成某種共存未來？
在國內， 《孤寂星球》 這本科幻小說集中多個故事描繪了人類與具有自我意志的AI之間的斗智斗勇。《超凡覺醒》 《云球》 《人工智能之覺醒》，不僅描繪了人工智能的覺醒和發展，還深入探討了科技與倫理、人機關系等主題。
美國作家丹·西蒙斯的“海伯利安”系列，作家石黑一雄的《克拉拉與太陽》等作品將人工智能看作一個有限度的獨立個體，作者在積極思考關于人工智能的權利和地位的問題，探討在一個由人工智能輔助或主導的世界中，人類如何保持其獨特的“人類價值”。
未來的討論，會更加深入
人工智能是科幻世界中耀眼的寫作題材。在科幻作家看來，人工智能不僅是技術進步的象征，更是探討人類主體性、技術異化與未來社會圖景的絕佳載體。
“一方面，科幻作品展示著智能發展的奇崛想象，另一方面科學技術又把想象變為現實，同時又激發起創作者新的想象力。科幻文藝發揮著‘預言’與‘寓言’的雙重作用，持續啟發我們對未來的想象以及在現實中的實踐。”重慶大學學者李廣益、童博軒在《人工智能想象在科幻文藝中的百年演變》一文中表示。
科幻文藝對人工智能題材的表現，源于其對技術變革及其影響的深刻洞察。作品通過設想與人工智能共存的世界，挑戰我們對“智能”的定義，探索機器與人類、人與非人之間的界限，以及這些界限可能如何被重新定義。“未來，隨著人工智能技術的進一步發展，科幻作品將更加深入地探討人工智能的自我意識、情感以及與人類共生的可能性，并激發我們對技術發展負責任的思考和行動”。
臧磊 采寫整理
資料來源：光明日報、澎湃新聞等
校對 石偉