資訊安全新知分享
NEITHNET 資安實驗室
傳統網路火牆介紹
傳統網路防火牆是在網路世界中存在於內部網路與網際網路間的一道防禦系統，用來控制流量的網路資安裝置，以防止他人未經授權而擅自存取敏感資源，能確保內部網路資料的安全。而實際作用則是在內外網路之間或者網路裡不同的區域之間監控往來的傳輸流量，擋住不好的訊息並讓好的訊息得以通過。所以防火牆會根據一些訂定的規則來判斷訊息的好壞，藉由過濾和限制訊息來降低網路攻擊風險，以保護在網路裡的資料不被他人偷取或破壞。
人工智慧防火牆介紹
隨著AI模型的新增在網際網路連線應用程式使用模型時會引入新的漏洞，而這些漏洞可能遭惡意攻擊者濫用。大型語言模型應用除了需要面對傳統網頁和API應用程式領域，像是注入攻擊或是資料外洩等資安威脅之外，由於大型語言模型在操作上的不確定性，還需面對像是模型劫持並執行未經授權操作等問題，而Firewal for AI人工智慧防火牆的出現，除了解決上述這些問題外還針對提示詞注入、模型拒絕服務和敏感資訊洩漏三種模型攻擊保護措施，來防止被濫用的風險。
人工智慧防火牆的部屬方式與傳統網頁應用的防火牆相同，每個帶有大型語言模型提示詞的API請求都會經防火牆掃描，用以偵測可能的攻擊模式和特徵。
人工智慧防火牆優勢
人工智慧防火牆與傳統防火牆之間存在幾個顯著差異，它們分別具有各自的優缺點，下列皆為人工智慧防火牆優點。
1、異常偵測: 人工智慧防火牆利用機器學習和人工智慧技術來分析網路流量與行為模式，從而識別和阻止未知的威脅和攻擊。
2、實時適應性: 人工智慧防火牆會根據不斷變化的網路環境和攻擊方式進行即時的調整和學習，以提高檢測和防禦能力。
3、實時適應性: 人工智慧防火牆會根據不斷變化的網路環境和攻擊方式進行即時的調整和學習，以提高檢測和防禦能力。
從上述優點來看人工智慧防火牆在識別和阻止未知威脅和攻擊時具有優勢，但也因為模型在訓練時也需要大量的數據、龐大的計算資源和不斷的更新才能取得相對應的成效，所以在維護成本上會較高。
人工智慧防火牆具有的缺點和面臨的挑戰
人工智慧防火牆確實帶來了許多優勢，但也存在一些缺點和可能的挑戰，其中包含：
1、資料隱私和安全性問題: 人工智慧防火牆需要訪問大量的數據來訓練和優化模型，這可能涉及敏感訊息，這可能導致隱私和安全風險，尤其是在保護用戶數據方面。
2、誤報和誤判: 人工智慧防火牆可能會產生誤報或誤判，導致合法的用戶訪問被誤認為是惡意行為，進而影響正常的業務營運。這可能是因為訓練數據不足、模型不夠準確，或者對新型攻擊的適應能力不足所致。
3、對抗機器學習攻擊: 惡意攻擊可能會嘗試對人工智慧防火牆發起對抗式機器學習攻擊，以混淆模型或生成對抗模型，進而繞過防禦系統，這需要不斷更新和改進模型來防止這些攻擊。
4、性能和效率問題: 人工智慧防火牆的部屬和運行可能需要大量的計算資源和時間，特別是在高流量環境下，需要能夠快速的處理大量的請求和數據，這可能會對性能和效率造成影響。
Reference：
- https://blog.cloudflare.com/fr-fr/firewall-for-ai-zh-tw
- https://www.ithome.com.tw/news/161627
- https://www.fortinet.com/tw/resources/cyberglossary/stateful-vs-stateless-firewall
- https://info.support.huawei.com/info-finder/encyclopedia/zh/AI%E9%98%B2%E7%81%AB%E5%A2%99.html
更多資安訊息及防護策略，歡迎與NEITHNET資安專家聯繫：info@neithnet.com