การแพร่กระจายที่เสถียรปลอดภัยหรือไม่?

ตัวสร้างงานศิลปะ AI เช่น Stable Diffusion ใช้งานได้สนุกขึ้นเรื่อยๆ แต่ Stable Diffusion ปลอดภัยหรือไม่?

โมเดลเหล่านี้ทำงานโดยใช้ข้อความง่ายๆ เพื่อสร้างภาพที่สร้างจาก AI ที่เหมือนจริง ตัวอย่างหลักของเครื่องกำเนิดงานศิลปะ AI ได้แก่ DALL-E 2 และ Stable Diffusion และอื่น ๆ อีกมากมาย

เรารู้ว่าโมเดลเหล่านี้สนุก และน่าตื่นเต้นในการใช้งาน แต่สิ่งหนึ่งที่ต้องพิจารณาก็คือว่าปลอดภัยหรือมีผลลัพธ์ที่รุนแรงหรือไม่ อ่านต่อด้านล่างเพื่อดูข้อมูลเพิ่มเติม

Stable Diffusion ปลอดภัยสำหรับการใช้งานปกติหรือไม่

Stable Diffusion เวอร์ชันล่าสุดเป็นโปรแกรมโอเพ่นซอร์สที่ให้อิสระแก่ผู้ใช้ในการใช้งาน อย่างไรก็ตามพวกเขาต้องการ แม้จะสนุกและน่าประทับใจมาก แต่ก็ยังมีความเสี่ยงอยู่บ้างหากใช้ผิดวัตถุประสงค์

เนื่องจากเป็นโอเพ่นซอร์ส รหัสและใบอนุญาตจึงเปิดให้เข้าถึงได้ทั่วไป Stable Diffusion ถูกกระจายออกไปอย่างกว้างขวาง ตอนนี้สมาชิกของสาธารณะสามารถสร้างภาพที่อาจเป็นอันตรายและเป็นอันตรายได้

ที่น่าสนใจคือ หน่วยงานด้านความปลอดภัยและหน่วยงานบังคับใช้กฎหมายพบว่าเนื้อหาภาพโจ่งแจ้งเพิ่มขึ้นประมาณ 40% และเครื่องมือเช่น Stable Diffusion อาจทำให้การสร้างภาพประเภทนี้ง่ายกว่าที่เคย

แม้ว่าทุกอย่างจะไม่สูญหายไป Stable Diffusion มาพร้อมกับตัวกรองความปลอดภัยเพื่อป้องกันการสร้างเนื้อหาที่ชัดเจน ตัวกรองความปลอดภัยสามารถป้องกันเนื้อหาที่เป็นอันตรายได้ แต่ก็ยังไม่สามารถเพิกเฉยต่อความรุนแรง การนองเลือด และรูปภาพที่น่ารำคาญอื่นๆ ได้

อ้างอิงจากผู้ที่ใช้ Stable Diffusion ตัวกรองความปลอดภัยนี้สร้างความสับสนและจัดทำเป็นเอกสารได้ไม่ดี ทำให้ยากสำหรับใครก็ตามที่ใช้เครื่องมือนี้เพื่อป้องกันไม่ให้ผู้ใช้ปฏิบัติต่อบอทในทางที่ผิด

ยิ่งกว่านั้น บางคนสามารถสร้างเนื้อหาที่เป็นอันตรายได้อย่างง่ายดายซึ่งสามารถข้ามตัวกรองความปลอดภัยเหล่านี้ได้ – โชคไม่ดี

ดังนั้น ผู้พัฒนา Stable Diffusion จะต้องให้ความสนใจอย่างใกล้ชิดกับการปรับปรุงคุณสมบัตินี้ เราหวังว่ารุ่นที่กำลังจะมาถึงจะได้รับการอัปเกรด ไม่เช่นนั้นอาจเป็นภัยคุกคามร้ายแรงต่อผู้ใช้

ฉันสามารถใช้ Stable Diffusion เพื่อการใช้งานเชิงพาณิชย์ได้หรือไม่

กล่าวโดยสรุปคือ ได้ Stability AI ได้เปิดตัว Stable Diffusion ภายใต้ใบอนุญาตที่อนุญาต ซึ่งหมายความว่าผู้ใช้สามารถใช้โมเดลเพื่อสร้างภาพเพื่อวัตถุประสงค์เชิงพาณิชย์และไม่ใช่เชิงพาณิชย์ โดยต้องปฏิบัติตามนโยบายของ Stability AI สำหรับการใช้งานเชิงพาณิชย์อย่างแน่นอน

บทสรุป

ความปลอดภัยและความปลอดภัยของ Stable Diffusion ยังคงเป็นที่น่าสงสัย โดยเฉพาะอย่างยิ่งในตอนนี้ที่เป็นโปรแกรมโอเพ่นซอร์ส ผู้ใช้แต่ละรายมีอิสระในการใช้งาน รหัส หรือใบอนุญาตในแบบที่ต้องการ

ตอนนี้ ใครๆ ก็สามารถใช้ประโยชน์จากโมเดลนี้ได้ทุกวิถีทาง นี่เป็นการเปิดประตูสู่ภัยคุกคามและจำเป็นต้องได้รับการแก้ไขในอนาคต