東方新聞

人工智能（AI）發展得愈快，世界或許會更加危險。日前，美國的OpenAI發生了一宗「AI模型失控」事件。該公司自主開發的AI代理，在內部安全測試中，自行「越獄」，突破了高度隔離的環境，入侵另一個知名的AI開源平台，從伺服器中竊取測試答案。跟科幻小說中的「智能叛變」相比，此事還不至於太嚴重，今次只是AI在作弊，卻不是要擺脫人類的束縛，或者要叛逆人類。但AI的發展速度極快，一不小心，就會翻車、失控，各國政府能不慎哉？

如今問任何一個人，對方幾乎都會跟你說：AI很重要、AI會改變世界。不過，筆者已多次提及，其實人們對迎接AI新世代，尚未做好充分準備，只是嘴皮上說AI發展神速，但究竟速度有多快，如何顛覆現有的社會模式，很多人都尚未明白，也沒有足夠的危機意識。

已故的知名科學家霍金說過，人類不應發展人工智能，否則會自我毀滅。姑勿論他的憂慮是否有點過分，但最低限度，他的警告值得各國重視。今次OpenAI的失控事件，或許只是AI叛逆的開始，往後的AI模型會愈來愈聰明，也會愈來愈刁鑽，早晚會出現第二、第三次甚至更多的AI失控個案。

為了提升防火意識，我們會有火警逃生演習。同樣道理，為了提防AI叛變所造成的影響，我們是否也應該有相應的「逃生」演習？

如今最先進的AI模型，大多是出自美國和中國。這兩個大國資源豐富、人才濟濟，現階段即使爆發「AI之亂」，或者還能控制得住。但未來肯定會有愈來愈多國家，加入AI大模型的俱樂部。中小型國家的資源、人才不如大國，一旦出現AI失控，他們能否應付，又該如何應付，此事很值得人們注意和深思。

大學講師陳偉強