AI時代

ChatGPT 是人工智慧是新時代的「雙刃劍」

ChatGPT因廣泛應用先進的AI技術而備受關注。經過不斷學習和辨認人類的思維模式,我們進入了人工智慧(AI)的時代。從準確修復編碼錯誤、生成烹飪食譜、創建3D動畫,到編寫完整的歌曲,ChatGPT展現了驚人的AI能力,將世界帶到了不可思議的新篇章。

科技及科學在過去幾十年間大大推動人類社會的發展。雖然本質是探索新知識,但凡事都有兩面性——而利與弊顯然取決於人為因素。

Palo Alto Networks副總裁暨亞太區安全總監Sean Duca指出:「AI也一直被視為一把『雙刃劍』。如今,用戶可以使用AI驅動的安全工具和產品,在幾乎無人干預的情況下應對大量的網絡安全事件。不過,需要注意的是,業餘駭客也可利用同樣的技術開發智能惡意軟體程式並發動起隱形攻擊。」

ChatGPT帶來的網絡安全隱患可不容忽視

自去年11月底ChatGPT問世以來,全球技術專家和評論員一直在關注AI生成的內容工具所產生的影響,尤其是對網路安全的影響。在拉斯維加斯舉行的 Black Hat and Defcon 安全大會上,一個技術團隊展示了AI在生成釣魚郵件和魚叉式釣魚資訊時是如何超越人類。

研究人員將OpenAI的GPT-3平台與其他側重於個性分析的AI即服務 (AI-as-a-service) 產品相結合,生成了根據他們同事的背景和性格而制訂的釣魚郵件。最終,研究人員開發了一個在攻擊目標前能對郵件進行梳理和完善的流程。更令他們驚訝的是,這個平台還能自動提供具體內容,例如當被要求生成針對特定國家的人的內容時,它能提到該國的法律。

ChatGPT的開發者明確表示,這款AI工具具有質疑錯誤的前提和拒絕不當請求的能力。雖然該系統自帶用於防止任何形式犯罪活動的護欄,但經過調整,它依然能夠生成了極像人類書寫出來的釣魚郵件。

採取智慧化行動 實現自動化回應

根據Palo Alto Networks調查團隊Unit 42的調查顯示,勒索軟體攻擊是最為嚴重的網絡安全事件,發展呈現愈演愈烈的趨勢。——不僅案例數量超過三分之一(36%),而且攻擊者索取和獲得的贖金也在不斷增加。究其原因,主要是由於暗網中的工具價格低廉,——甚至不到10美元,隨著勒索軟體即服務 (Ransomeware-as-a-service) 模式和ChatGPT等AI工具的出現 ,這大大降低了犯罪門檻。

日新月異的駭客技術所帶來的威脅迫在眉睫,網絡安全行業必須擁有同等資源才能對抗這些AI驅動的攻擊。長遠來看,網絡安全行業的目標不應該是不要讓威脅獵捕者 (Threat Hunter) 只讓一群人通過猜測的方法來處理解決威脅和攻擊者等問題。

當務之急是採取智慧化行動來化解這些不斷發展的威脅。雖然自主回應如今能夠在無人類干預的情況下有效解決威脅,但企業、政府和個人越來越依賴AI和機器學習(ML)等新興技術的自動化回應,隨著AI驅動的攻擊成為常態,受到自動化惡意軟體攻擊的機會也大大增加。

謹守負責及道德使用AI工具

從技術的複雜性到人為因素,企業在確保AI網絡安全的過程中面臨著諸多挑戰,尤其是平衡機器、人類和道德因素。 制定企業策略對於兼顧企業道德和網絡安全至關重要。建立有效的治理和法律框架能夠增強人類對AI技術的信任,並促進社會公平和可持續發展。因此,AI和人類之間的微妙平衡將成為實現網絡安全的關鍵,其中信任、透明度和責任感為機器帶來了補充優勢。

TechApple.com 編輯部

堅持製作專業科技內容,全員擁有多種不同技術知識的特異科技媒體團隊。 電郵:editor@techapple.com