穩定擴散安全嗎?

AI 藝術生成器，如 Stable Diffusion，使用起來越來越有趣。但是，穩定擴散安全嗎?

這些模型通過使用簡單的文本提示來創建逼真的 AI 生成圖像。 AI 藝術生成器的主要示例包括 DALL-E 2 和 Stable Diffusion 等。

我們知道這些模型很有趣使用起來令人興奮。但是，需要考慮的一件事是它們是否安全或是否有任何可能的嚴重後果。繼續閱讀下面的內容以了解更多信息。

Stable Diffusion 對於常規使用是否安全?

最新版本的 Stable Diffusion 是一個開源程序，用戶可以自由使用它但是他們想要。儘管非常有趣和令人印象深刻，但如果出於錯誤的原因使用它，它仍然存在一些顯著的風險。

由於它是開源的，所以它的代碼和許可證是開放的，供一般訪問。穩定擴散已廣泛分佈。現在，任何公眾都可以創建具有潛在危害和危險的圖像。

有趣的是，安全和執法機構發現露骨圖像內容增加了大約 40%。而像 Stable Diffusion 這樣的工具可以使這種類型的圖像創建比以往任何時候都更容易。

不過，一切並沒有丟失。 Stable Diffusion 確實帶有一個安全過濾器來防止顯式內容創建。安全過濾器可以阻止有害內容，但它仍然無法忽略暴力、血腥和其他令人不安的圖像。

根據使用 Stable Diffusion 的人的說法，此安全過濾器令人困惑且記錄不足。讓任何實施此工具的人都很難防止其用戶虐待機器人。

此外，有些人可以輕鬆創建可以繞過這些安全過濾器的有害內容——不幸的是。

因此，Stable Diffusion 的開發人員必須密切注意改進此功能。我們希望該模型的即將發布的版本能夠升級，否則可能會對用戶造成嚴重威脅。

我可以將 Stable Diffusion 用於商業用途嗎?

簡而言之，可以。 Stability AI 在許可下發布了 Stable Diffusion。這意味著用戶可以使用該模型為商業和非商業目的生成圖像，當然要遵守 Stability AI 的商業用途政策。

結論

Stable Diffusion 的安全和保障仍然值得懷疑，尤其是現在它是一個開源程序。個人用戶可以以任何需要的方式自由使用、編碼或許可。

現在，任何人都可以以任何可能的方式利用這個模型。這為威脅打開了大門，需要在未來加以解決。