2. AI 技術與時俱進,是網路安全的兩面刃 自 ChatGPT 於 2022 年 10 月問世以來,全球一直擔憂這項技術可能大幅降低網路犯罪門檻。雖然 ChatGPT 設有防禦機制來阻擋惡意應用程式,但只要花點心思設計幾個提示,ChatGPT 仍可大量產生幾乎無破綻,且語氣「不太像一般人」的網路釣魚電子郵件。我們已經發現,攻擊者使用生成式 AI 發展出深偽(Deepfake)和語音技術,以詐騙銀行並得手數百萬美元。採用生成式 AI 的公司必須多加防範模型中毒、資料外洩、提示注入攻擊等安全漏洞。隨著生成式 AI 用於越來越多正當使用案例,攻擊者將持續利用這些創新技術中的安全漏洞作惡。
因此,我們預期 2024 年的 AI 網路安全趨勢之一就是,生成式 AI 企業級運用的保護機制將趨於成熟。這包括力求將資安控管機制、安全漏洞管理和威脅監控活動整合至整個 AI 開發專案生命週期。生成式 AI 將進一步融入網路安全功能,因為其能針對資安事件整理重點、去蕪存菁並提供精確摘要,效率遠高於真人分析師 (在現代資安營運中心 (SOC) 規模下更是如此)。由於大型語言模型效能與時俱進,我們認為未來將出現更複雜的應用程式,而不只是聰明但偶爾製造幻覺的聊天機器人。
3. 營運技術仍將是容易得手的攻擊目標 營運技術 (OT) 是所有工業組織的核心。OT 系統是主要收益工具,因此必須具備相當高的網路成熟度。許多企業仍認為 OT 環境透過實體隔離來保護即可,然而 IT/OT 融合趨勢導致 OT 與 IT,甚至是雲端之間的連結比以往更緊密,進而擴大攻擊面,在未投資建立網路控管機制的情況下,OT 網路風險大幅提升。
一旦 OT 系統遭入侵,不僅會造成收益損失,還可能會引發人身傷害或死亡。如能保護網路安全,將可打造安全可靠的 OT 環境。零信任架構有助於保護大多數關鍵 OT 系統不受威脅,同時讓企業專心推動數位轉型。2024 年,企業將投資提升 OT 網路安全成熟度,以保護最重要的業務系統,並將攀升的風險抑制到可接受的程度。