除非您在過去幾個月裡一直在某個沒有互聯網訪問的偏遠地區進行靜修，否則您很可能很清楚周圍有多少炒作和恐懼ChatGPT，由 OpenAI 開發的人工智能 (AI) 聊天機器人。也許您看過關於學術和老師擔心它’將使作弊比以往任何時候都容易。另一方面，您可能已經看到宣傳所有 ChatGPT 的文章 潛在應用。
或者，您可能已經被一些使用該工具的人的更深奧的例子逗樂了。例如，一位用戶在 style of the King James Bible。另一個要求它寫一首 Nick Cave 風格的歌曲；歌手是 對結果不太熱心。
但在所有這些炒作和討論中，人們對人工智能工具的風險和回報幾乎沒有足夠的關注就像網絡安全領域中的 ChatGPT。
了解 ChatGPT
為了更清楚地了解這些風險和回報是什麼樣的，更好地了解什麼是 ChatGPT 以及什麼是重要的
ChatGPT（最新版本 ChatGPT-4，於 2023 年 3 月 14 日發布）是美國公司 OpenAI 開發的更大系列人工智能工具的一部分。雖然它的官方名稱是聊天機器人，但這並不能完全涵蓋它的多功能性。使用監督和強化進行訓練 學習技巧，它能做的遠遠超過大多數聊天機器人。作為其響應的一部分，它可以根據接受培訓的所有信息生成內容。該信息包括一般知識以及編程語言和代碼。因此，它可以 例如，模擬整個聊天室；玩井字遊戲；並模擬 ATM。
更重要的是，對於企業和其他大型組織而言，它可以通過更個性化、更準確的消息傳遞來幫助改善企業的客戶服務。它甚至可以編寫和調試計算機程序。其中一些和其他功能意味著它既可以成為網絡安全盟友，也可以成為威脅。
教育、過濾和加強防禦
On從積極的方面來說，ChatGPT 有很多話要說。它可以發揮的最有價值的作用之一也是最簡單的作用之一:發現網絡釣魚。組織可以在他們的員工中養成一種習慣，即他們使用 ChatGPT 來確定他們不確定的任何內容是否是網絡釣魚，或者這些內容是否是出於惡意目的生成的。
這很重要，因為對於所有技術進步近年來，網絡釣魚等社會工程攻擊仍然是最有效的網絡犯罪形式之一。事實上，研究表明，在 2022 年英國成功發現的網絡攻擊中，83% 涉及某種形式的網絡釣魚。
當然，許多其他方式 ChatGPT 可用於加強網絡安全工作。例如，它可以為更多的初級安全人員提供一定程度的幫助，無論是溝通他們可能遇到的任何問題，還是幫助他們更好地理解他們在任何給定時間點的工作背景。它還可以幫助資源不足的團隊策劃最新的威脅並識別內部漏洞。
壞人也在使用它
但即使是網絡安全專業人士探索使用 ChatGPT 的方法，網絡犯罪分子也是如此。例如，他們可能會利用其生成惡意代碼的能力。或者，他們可能會使用它來生成看似人為生成的內容，可能用於誘騙用戶點擊惡意鏈接，在不知不覺中導致危險後果。
有些人甚至使用 ChatGPT 令人信服地模仿公司網站上的合法 AI 助手，在社會工程戰線上開闢了一條新途徑。請記住，網絡犯罪分子的成功在很大程度上取決於能夠盡可能頻繁和快速地瞄準盡可能多的漏洞。 ChatGPT 等 AI 工具允許他們通過本質上充當超級助手來做到這一點，該助手可以幫助創建惡意活動所需的所有資產。
使用可用的工具
那麼應該清楚的是，如果網絡犯罪分子正在使用 ChatGPT 和其他人工智能工具來增強他們的攻擊，您的安全團隊也應該使用它們來加強您的網絡安全工作。幸運的是，您不必單獨行動。
正確的安全提供商不僅會不斷研究網絡犯罪分子如何使用最新技術來增強他們的攻擊，還會研究這些技術如何用於改進威脅檢測、預防和防禦。考慮到網絡安全攻擊可能對您的關鍵基礎設施造成的損害，他們也應該主動告知您這一點。
ChatGPT-4
隨著最新版本的 ChatGPT (ChatGPT-4)，OpenAI 提供了最新和最強大的對話模型，還引入了更多控件以防止其濫用。我們向 ChatGPT 問“什麼可以防止惡意行為者惡意使用 ChatGPT”，答案如下:
因此 ChatGPT 繼續列舉了 OpenAI 為防止濫用而採取的所有措施。 OpenAI 在 ChatGPT-4 的發布博客 中解釋了該模型為何比其前身更安全:“我們花了 6 個月的時間GPT-4 更安全、更一致。在我們的內部評估中，與 GPT-3.5 相比，GPT-4 響應不允許內容請求的可能性低 82%，產生事實響應的可能性高 40%。
所以所有這些都表明正確的措施在繼續改進以避免其被濫用，但眾所周知，隨著該模型被更廣泛地使用和理解，壞人將繼續尋找克服這些限制的方法。
圖片來源:[電子郵件保護]/depositphotos.com
JP Perez-Etchegoyen 是 Onapsis 的首席技術官。