科技或技術本來是用來作生產的「工具」，就如打獵用弓箭，捕魚用網。但同時AGI（Artificial General Intelligence）是一個擁有人類一般智能的機器。如果將人能做的工作如：跑步、演講、寫作、繪畫、作曲，和所有需要的工作「件頭化」，而電腦在每一項上都可以超越其工作的水平，那麼是否電腦就能超越人類？這個臨界點被稱為「奇異點」，這種情況是否意味機械能超越人的智能，人是否會被一樣自己所造卻比自己更高級的智能物種所支配？電影《Planet of the Apes》，人原本屬於高等文化，但因人猿智能比人高，就可以統治人類的場境，會否就在這時代來臨。
要是這一天真的來臨，機械統治人類，是否會對人類仁慈抑或會消滅人類，尤如在Terminator電影系列之中，到時人類會否因為反抗，而與機器開戰，互不相容，到時人類要何去何從？如果人類為了應對危機，以智能科技充實自己，加強自己的能力，如：目視千里，耳聽八方，會飛會跑如箭，人類升級為超人類，人類是否仍是人類自己？當AGI或AI每天在學習新的東西和新的事物，然後發展成自己的原創性，生成性，將來會是一個怎樣的世界？AI有其專長，有別於人類，將來會否出現各類AI物種？AI是敵是友，AGI是救星抑或末日之王，AI會否發展出「人性」？抑或是人變得機械化？人用工具，反變成物質的工具？那時誰是主人？要是AI已發展出自己的意識，自己的智慧，自我的主意，這發展會否使AI與人的價值一致，會否成為世仇？如果大戰結果是AI滅絕所有人類，世界會否臨到一個後人類（Post Human）時代，故鄉猶在，人面全非，世界不再需要人類？
其實，AGI如果是由人類編寫的程式，也許不會滅絕人類，又或是會依照被編寫的程式主導。何況，人類一直都與比自己強的物種共處。如比人跑速不及馬快，夜視能力不及貓頭鷹，麻鷹會飛，獅子會捕獵，鯊魚可以水中捕獵。AI雖然在某些範疇能力比人強，也許我們仍可以和平共處。（摘錄自《AI來了，我還有甚麼價值？》）
撰文：梁永泰
突破書籍作者，著作包括：《AI來了，我還有甚麼價值？》、《品格，成為領袖之前》
電郵：eacorp@breakthrough.org.hk
