Última actualización el 24 de marzo de 2023
Los generadores de arte de IA, como Stable Diffusion, son cada vez más divertidos de usar. Pero, ¿es segura la difusión estable?
Estos modelos funcionan mediante un mensaje de texto simple para crear imágenes realistas generadas por IA. Los principales ejemplos de generadores de arte de IA incluyen DALL-E 2 y Stable Diffusion, entre muchos otros.
Sabemos que estos modelos son divertidos y emocionante de usar. Pero, una cosa a considerar es si son seguros o si tienen posibles resultados graves. Continúe leyendo a continuación para obtener más información.
¿Es Stable Diffusion seguro para uso regular?
La última versión de Stable Diffusion es un programa de código abierto que brinda a los usuarios la libertad de usarlo como quieran. A pesar de ser extremadamente divertido e impresionante, todavía tiene algunos riesgos notables si se usa por razones equivocadas.
Dado que es de código abierto, su código y licencia están abiertos para el acceso general. La difusión estable se ha distribuido ampliamente. Ahora cualquier miembro del público puede crear imágenes potencialmente dañinas y peligrosas.
Curiosamente, las organizaciones de seguridad y aplicación de la ley han visto un aumento de alrededor del 40 % en el contenido de imágenes explícitas. Y herramientas como Stable Diffusion podrían hacer que este tipo de creación de imágenes sea más fácil que nunca.
Sin embargo, no todo está perdido. Stable Diffusion viene con un filtro de seguridad para evitar la creación de contenido explícito. El filtro de seguridad puede evitar el contenido dañino, pero aún no ignora la violencia, el gore y otras imágenes perturbadoras.
Según quienes usan Stable Diffusion, este filtro de seguridad es confuso y está mal documentado. Haciendo que sea difícil para cualquiera que implemente esta herramienta evitar que sus usuarios maltraten al bot.
Además, algunas personas pueden crear fácilmente contenido dañino que puede pasar por alto estos filtros de seguridad, lamentablemente.
Por lo tanto, los desarrolladores de Stable Diffusion deben prestar mucha atención para mejorar esta función. Esperamos que las próximas versiones del modelo se actualicen, de lo contrario, podría representar una seria amenaza para los usuarios.
¿Puedo usar Stable Diffusion para uso comercial?
En resumen, sí. Stability AI ha lanzado Stable Diffusion bajo una licencia permisiva. Esto significa que los usuarios pueden usar el modelo para generar imágenes con fines comerciales y no comerciales, manteniendo la política de Stability AI para uso comercial, por supuesto.
Conclusión
La seguridad de Stable Diffusion siguen siendo cuestionables, especialmente ahora que es un programa de código abierto. Los usuarios individuales tienen libertad sobre su uso, códigos o licencias de la forma que deseen.
Ahora, cualquiera puede aprovechar este modelo de cualquier forma posible. Esto abre la puerta a amenazas y debe abordarse en el futuro.