思考題－人工智能會如何真正催毀人類文明？

大家一定會看過科幻電影、災難電影，記得內裡描繪的世界末日／人類文明末落是怎樣的嗎？如《2012》般的地球崩裂？如《Children of Men》中人類失去繁殖能力？還是如《The Matrix》般被機械人的 AI 催毀人類文明？

而各位別以為 AI 仍是天方夜譚，機械人和人工智能的研究及技已在過去數了急速發展，早前也和大家分享過有學者研究機械人和人類的「相處」可行性，最近一組科學家齊集在 Arizona State 大學，舉行名為「對人工智能災難性後果之預視」（Envisioning and Addressing Adverse AI Outcomes）的研討會，推測若 AI 有了「反抗人類」的「想法」後會帶來甚麼毀滅性的情況。人工智能科學家 Eric Horvitz 在會內說：「AI 確是會在各方面為社會帶來方便和進步，但同時都讓人類面對不可預知的危機。」

這些災難，不是如《未來戰士》的有機械人拿著槍和人類掃射，相反，會由最細微的日常生活開始，因為現在差不多人類生活上所有事都和電腦 Program 息息相關了，交通、通訊等等，若 AI 要叛變，第一時間會做的當然是切斷人和人的通訊，現在大家嘖嘖稱奇的自動駕駛，只不過需要半秒的 Malfunction Instruction，人類已會措手不及，更何況股市市場的癱瘓，整個經濟可以在一秒內變天，之後衍生的人類騷亂、搶掠，AI 根本可以不再做任何事，人類已經自相殘殺了。當然還在 Cyber War，Internet 已經控制了人類的思路及資訊來源，AI 又可以發出假消息引起人類的恐慌…

研討會沒有說出應付對策，因為都是預想，但也叫大家要居安思危，也別完全依賴所謂的「先進科技」。

大家又想到 AI Doomsday 是會發生甚麼事？