AI 生成式技術的普及正加速惡意軟體演進，將駭客攻擊門檻「大眾化」。
本文深度分析 AI 對資安威脅的四大面向：社交工程自動化、惡意程式混淆規避、自動化漏洞搜尋及生成式攻擊工具。特別收錄 Google 威脅情報團隊發現的最新案例「PROMPTFLUX」，揭露攻擊者如何利用 Gemini API 實現惡意軟體每小時自動更換原始碼，成功繞過傳統防毒偵測。隨著 LLM 模型被駭客武器化，企業防禦體系面臨前所未有的隱蔽性挑戰，建構 AI 驅動的動態安全防禦架構已刻不容緩。
AI的普及讓我們享受到前所未有的效率：從自動生成程式碼到解決生活中的問題，AI 讓許多高門檻任務變得簡單方便。然而，這項降低技術門檻的的工具同時也帶來一些潛藏的危機。對駭客來說，這些AI工具就像一位免費的技術顧問，幫他們解決攻擊中的技術障礙，甚至直接幫駭客們做出一份客製化的攻擊工具。因此AI的發展除了讓生活過得更便利之外，也在將複雜的駭客攻擊「大眾化」，讓我們面臨到新的網路攻擊課題。
攻擊面向
雖然主流的生成式AI工具都會內建安全防護措施來阻止有人想要濫用AI功能。但如果不是要求AI寫出”惡意程式”，而是以合法的角色與目的來請求協助，便很有可能繞過防護措施的限制得到駭客想要的結果。以下目前比較常見，駭客利用AI進行攻擊的面向：
1. 社交工程攻擊：在AI的協助之下駭客可以在短時間內生成大量的詐騙信件，甚至有可能利用公開資訊(LinkedIn、職位、新聞…等)來針對目標客製化郵件內容，或是利用Deepfake相關技術生成偽造的影片增加整體可信度。
2. 生成惡意軟體與指令：對於技術能力沒那麼高的駭客來說，AI讓他們有了一位隨身的程式設計師，只要有技巧的向AI提出需求便可以取得特定功能的工具。甚至也有人自行架設並且訓練不受限制的大型語言模型，讓駭客攻擊的難度大幅下降。
3.繞過安全檢測：現在許多防毒軟體依賴已知惡意軟體的特徵或行為來識別惡意檔案，沒有受到限制的AI則可以協助駭客對惡意程式碼進行混淆，讓防禦系統無法輕易辨識出惡意軟體。
4.自動偵查與漏洞搜尋：在傳統攻擊流程中駭客需要蒐集非常大量的資料來找出突破點，而AI在這一個階段可以當作超高速情報分析師，當駭客把一些基本的資料(版本號、使用哪些套件…等)收集回來後，AI便能利用公開資料來找出系統中的弱點，甚至進一步的提供出攻擊的想法。
來源: https://www.blackmoreops.com/complete-guide-ai-powered-port-scanning/
實際案例
Google威脅情報團隊在11月初的報告表示他們發現了名為PROMPTFLUX的惡意軟體與他的變種，這些惡意軟體利用Gemini 模型的API互動來編寫自己的原始碼，以此來提高惡意軟體的混淆以及規避能力。
PROMPTFLUX由VB Script編寫，在他的原始碼裡面有一個元件(StartThinkingRobot)，攻擊者利用寫死的API Key向Gemini API定期發送請求查詢新的程式碼，以此來更改自己的程式碼來規避防毒軟體的偵測，其中一個版本甚至每小時都利用Gemini重新編寫原始碼。雖然這部分功能目前看起來還在實驗階段沒有實際攻擊的能力，但這段程式碼顯示駭客們已經開始在嘗試將AI融入自己的武器中，對未來的各項防禦系統將會造成很大的挑戰。
來源: https://cloud.google.com/blog/topics/threat-intelligence/threat-actor-usage-of-ai-tools
AI的發展潛力很大，並且已經處處融入我們的生活之中為生活帶來很大的便利，然而如果沒有足夠的限制與規範，那麼這項方便的工具便會成為駭客最好的夥伴。惡意利用AI的攻擊不停進化，不管是攻擊規模、速度或是隱蔽性都可能會大幅的提升，而這也讓防禦工作變得越來越困難。因此在擁抱AI帶來的方便性的同時也需要設立相對的使用範圍，確保不會被有心人士濫用。
