研究指出人類將無法阻止人工智能改變世界
人類根本無法預測人工智能何時進化，或是它們其實已然來到。
關於人類與人工智能的對抗是從古至今科幻作品中最常出現的題材之一，像是《2001: A Space Odyssey》、《Terminator》等等。早先，根據 Max-Planck Institute for Humans and Machines 的最新研究報告確認，人類將無法阻止人工智能自行做出決策，進而改變人類的走向。
研究小組負責人 Manuel Cebrian 表示，雖然人工智能這項技術距離電影中那種和人類如出一徹的思考能力乍看之下還有很大一段路要走，但它無庸置疑地正積極地被開發中，且已經有許多人工智能能夠獨立執行某些重要任務，而人類卻還未能完全理解他們的學習方式。事實上，人工智能所具有的適應能力已經超出了大多數「Robot Ethics」機器人倫理學的範疇，因為它們已有超越編程的原始範圍。因此，為了研究該問題，Manuel Cebrian 的研究小組構想了一種稱為「Containment Algorithm」遏制演算法的理論，希望能夠藉此查看人類是否可以通過改變人工智能的內碼來控制人工智能，使人工智能在任何情況下都不會傷害人類，並在認為該行為有害的情況下使其停止運行。但是研究人員發現，在當前的計算範圍內，人類無法創建出實現這種效果的密封演算法。
「如果將問題分解為理論計算機科學的基本規則，就會發現命令人工智能不破壞人類世界的 Containment Algorithm 會在無意中突然停止運作，在這種情況我們也將無法得知 Containment Algorithm 是否仍在分析威脅，或者它已停止遏制有害的人工智能。簡單來說，這使 Containment Algorithm 沒有任何用處。」Max-Planck Institute for Humans and Machines 的 Iyad Rahwan 解釋。更嚴重地，人類根本無法預測超級人工智能機器何時會進化，或是它們其實已然來到。
近年來，儘管越來越多科學家提醒全人類人工智能的潛在危險性，在該領域的創新仍在繼續前進。各位對此有什麼看法呢？不妨在留言處與我們分享。
除此之外，另可關注其他消息：
