進(jìn)入2024年，攻擊面將進(jìn)一步擴大，威脅可能變得越來越難以捉摸?？紤]到基于AI和大型語言模型的工具的功能和可訪問性越來越強，必須領(lǐng)先于威脅參與者幾步，并了解2024年將采取什么策略。 1.自定義類ChatGPT機器人：精心制作令人信服的社交攻擊 OpenAI的定制GPT是黑客將在2024年利用的強大新工具的主要例子，考慮到它們的易用性，那些技術(shù)水平低得多的人可以利用它們來設(shè)計和發(fā)動極具說服力的社交攻擊。 設(shè)想一個場景，攻擊者使用ChatGPT生成的文本偽裝成經(jīng)理或部門負(fù)責(zé)人，他們向毫無戒心的員工發(fā)送一個類似WhatsApp的應(yīng)用程序的鏈接，在該應(yīng)用程序中，他們將與GPT“經(jīng)理”進(jìn)行對話，說服他們轉(zhuǎn)賬或分享敏感數(shù)據(jù)，以類似的方式，GenAI服務(wù)可以被用來指示受害者與GPT支持的“服務(wù)臺”或“IT代表”進(jìn)行對話，這些欺騙性的攻擊在整個企業(yè)中已經(jīng)變得更加常見，并且只會隨著新的GenAI工具和功能的出現(xiàn)而增長。 僅依靠員工意識不足以識別和預(yù)防此類威脅，因此，必須優(yōu)先維護(hù)強大的安全協(xié)議。 2.SaaS應(yīng)用作為隱形攻擊載體：向TeamsPhisher學(xué)習(xí) 2024年，網(wǎng)絡(luò)犯罪分子將繼續(xù)利用現(xiàn)代SaaS應(yīng)用程序，將惡意有效負(fù)載嵌入云中，并利用低掛起的安全漏洞。隨著疫情的蔓延和遠(yuǎn)程工作環(huán)境的興起，這些隱蔽的策略繼續(xù)在雷達(dá)下飛行，并在公司的防御中戳出漏洞。 就在今年夏天，威脅參與者使用一種名為TeamsPhisher的惡意開源程序，通過微軟團(tuán)隊向毫無戒備的用戶發(fā)送釣魚誘餌，以實施隨后的網(wǎng)絡(luò)攻擊，包括勒索軟件攻擊，這突顯了SaaS應(yīng)用作為威脅參與者的無意幫兇的重要性。 公司應(yīng)該預(yù)料到，這種攻擊媒介的繼續(xù)存在是一個強大的網(wǎng)絡(luò)前沿，并相應(yīng)地加強他們的安全框架。 3.網(wǎng)絡(luò)攻擊戰(zhàn)役中AI驅(qū)動的自動化：未來一瞥 在開發(fā)人員和安全團(tuán)隊手中，AI提高了生產(chǎn)率，簡化了眾多業(yè)務(wù)運營，但在威脅參與者手中，它可以被用來破壞公司的防御并提取敏感數(shù)據(jù)。 攻擊者準(zhǔn)備利用AI日益增長的自動化能力，以極高的效率和精確度識別云基礎(chǔ)設(shè)施中的漏洞，并準(zhǔn)確地開展惡意電子郵件活動。因此，盡管AI驅(qū)動的自動化可以減輕所有行業(yè)辦公室員工的大量工作量，但它賦予了威脅參與者同樣的奢侈品。 4.深度偽裝和多通道ML模型：欺騙的演變 停留在AI領(lǐng)域，多模式ML模型為攻擊者提供了生成令人信服的音頻、圖像和視頻的能力，以欺騙毫無戒心的員工。 隨著深度假冒活動在2023年增加了驚人的3000%，這項復(fù)雜的技術(shù)正被用來創(chuàng)建幾乎無法與合法信件區(qū)分開來的信件，同時也有更便宜、更容易使用的好處。 這種欺騙做法將繼續(xù)對無數(shù)公司構(gòu)成嚴(yán)重威脅，隨著這些模型的復(fù)雜性和制造能力的成熟，教育工作人員識別和報告企圖的違規(guī)和錯誤信息活動將變得至關(guān)重要。 5.防范LLM支持的服務(wù)中的敵意提示：創(chuàng)業(yè)前沿 隨著LLM支持的服務(wù)在整個公司工作流程中繼續(xù)激增，公司領(lǐng)導(dǎo)人將需要建立強大的保護(hù)，以抵御惡意即時注入 - LLM的輸入被設(shè)計為操縱輸出或改變標(biāo)準(zhǔn)處理程序。 不幸的是，公司出于垂直或特定于運營的培訓(xùn)目的而選擇將內(nèi)部數(shù)據(jù)輸入LLM的情況很容易暴露。通過輸入精心設(shè)計的提示，黑客可以操縱LLM泄露敏感數(shù)據(jù)，這可能會違反合規(guī)規(guī)定并被罰款，數(shù)據(jù)安全中的此類漏洞需要積極主動的解決方案。 因此，對于依賴LLM支持的服務(wù)的公司來說，在緩解這些挑戰(zhàn)方面的遠(yuǎn)見卓識將是至關(guān)重要的，這將為一套新的解決方案奠定基礎(chǔ)，這些解決方案致力于防止敵對提示危及數(shù)據(jù)安全。 領(lǐng)先一步 隨著AI的不斷成熟，威脅格局也在不斷成熟，應(yīng)對AI系統(tǒng)帶來的網(wǎng)絡(luò)攻擊將是整個2024年的一個關(guān)鍵商業(yè)目標(biāo)。 通過部署工具和分層解決方案來識別和解決正在進(jìn)行的打擊黑客的新戰(zhàn)線，公司將能夠領(lǐng)先于他們的數(shù)字對手一步。 |
