謝至恩自 2023 年 11 月 OpenAI 發表 ChatGPT 以來，以 LLM 為基礎的 Gen AI 技術席捲了所有領域，尤其是資訊安全領域，各廠商不斷探尋如何使用 Gen AI 來增加產品效能或使用者體驗，一旦有所進展，自然要搭上這股 AI 浪潮。
然而，Fortinet 卻是其中不太提到在 AI 方面進展的資安廠商，因此在發表 2023 下半年資安趨勢報告之際，Fortinet 北亞區資安長鄺偉基終於提到 Fortinet 如何使用 Gen AI 技術，達到不可能的任務。
「Fortinet 許多年前開始使用機器學習技術來辨識病毒樣本，隨後也使用 Gen AI 為使用者提供客製化的專家建議，」鄺偉基談到 AI 技術的發展，「現在我們能夠將 Gen AI 技術運用在 Web Application Firewall(WAF) 產品上，使用自然語言學習 (NLP) 技術，來學習辨識出 Cross-site 與 SQL Injection 攻擊中的關鍵訊息。」
除此之外，Fortinet 也在 NDR 產品中採用 ANN 神經網路演算法，重新描繪惡意軟體並加以識別，「曾經有某個客戶特地加密某個惡意軟體，然後丟給好幾家掃毒引擎來辨識，最後只有 Fortinet 能夠正確辨識出來，令競爭廠商大呼不可思議。」鄺偉基談到 Fortinet 之所以能夠完成這個不可能的任務，主要的功臣便是 2020 年由 Fortinet 發表的 US11574051B2 號專利文件，該專利展示了 Fortinet 如何以多種不同的神經網路演算法來辨識惡意軟體。
本文目錄
以多種神經網路演算法辨識惡意軟體
對資安軟體來說，找出具有特定功能或資料區塊的程式樣本，是識別惡意軟體的重要特徵，但駭客們也不是吃素的，為了躲避偵測，利用在惡意軟體中塞入各種垃圾指令、無意義迴圈指令等各種手法，導致現有的逆向工程難以找出真正的惡意軟體特徵。
而目前多數使用神經網路分析惡意軟體的方法，多半是使用單一的卷積神經網路 (CNNs) 或遞歸神經網路 (RNNs) 來尋找文件或執行碼中的靜態資訊，因此誤漏與誤報率難以降低。
因此該專利文件中說明如何透過多個神經網路對惡意軟體樣本及正常軟體樣本（對照組）進行分類，並且在訓練過程中互相共享和調整權重和偏差資訊，以提高檢測的準確性和效率。
簡單來說，Fortinet 透過以下 6 個步驟來進行訓練：
- 收集樣本及反組譯：Fortinet 每天自全世界蒐集各種惡意軟體樣本，以及未被感染的正常軟體樣本，預先將程式反組譯為組合語言。
- 產生程式碼區塊：將反組譯後的組合語言根據各種中斷指令將程式碼分割為多個程式碼區塊，或是根據固定的指令數量來進行分割。
- 提取特徵：有兩種方式，分別為提取靜態特徵及提取動態特徵。
- 提取靜態特徵：對每個程式碼區塊進行靜態分析，找出如程式碼指令、特定字串或關鍵字、 API 呼叫數量與類型、文件名稱與容量等靜態特徵。
- 提取動態特徵：在虛擬環境（也就是沙箱）中執行每個程式碼區塊，提取如暫存器狀態、呼叫流程或執行路徑等動態特徵。
- 神經網路演算法訓練：建立多個神經網路，每個神經網路只處理一種特徵，例如某個神經網路處理靜態特徵，另一個神經網路就處理動態特徵。接著，使用監督學習方法，根據訓練樣本是否為惡意軟體，更新每個神經網路演算法的權重與偏差。
- 神經網路互相批評：當所有神經網路處理完一定數量的樣本之後，各神經網路互相共享其權重和偏差資訊，透過統一函數（如 f(x,y)=ax+by，其中 a 和 b 的值在 0 到 1 之間）來統一權重和偏差。如此一來，每個神經網路不僅從訓練樣本中學習，還通過互相批評來優化自身的權重和偏差。
- 建立檢測模型：多個神經網路訓練完成後，就可以將各自的成果組合成一個惡意軟體檢測模型，並且應用在實際的應用軟體中，對程式或文件進行掃描與分類，找出可能的惡意軟體。
多神經網路訓練的優點
透過多個神經網路互相批評與學習，所訓練出來的模型，在實際應用中，能夠達到以下三個優點：
- 提高準確性：由於在調整權重與偏差時是透過多個神經網路相互批評及學習而來，因此不會偏重某種特徵，識別惡意軟體更準確。
- 降低誤報率：除了識別惡意軟體之外，多個神經網路也提高了對正常軟體的識別能力，因此可以降低誤報率。
- 靈活性與擴充性：未來可以加入更多不同種類的神經網路演算法，處理更多惡意軟體類型的特徵，進一步提高偵測效果。