Última atualização em 24 de março de 2023
Geradores de arte de IA, como Stable Diffusion, são cada vez mais divertidos de usar. Mas, a difusão estável é segura?
Esses modelos funcionam usando um prompt de texto simples para criar imagens realistas geradas por IA. Os principais exemplos de geradores de arte AI incluem DALL-E 2 e Stable Diffusion, entre muitos outros.
Sabemos que esses modelos são divertidos e emocionante de usar. Mas, uma coisa a ponderar é se eles são seguros ou têm possíveis resultados graves. Continue lendo abaixo para saber mais.
O Stable Diffusion é seguro para uso regular?
A versão mais recente do Stable Diffusion é um programa de código aberto que dá aos usuários a liberdade de usá-lo como quiserem. Apesar de ser extremamente divertido e impressionante, ainda apresenta alguns riscos notáveis se usado pelos motivos errados.
Por ser de código aberto, seu código e licença são abertos para acesso geral. A difusão estável foi amplamente distribuída. Agora, qualquer membro do público pode criar imagens potencialmente prejudiciais e perigosas.
Curiosamente, as organizações de segurança e aplicação da lei observaram um aumento de cerca de 40% no conteúdo explícito de imagens. E ferramentas como Stable Diffusion podem tornar esse tipo de criação de imagem mais fácil do que nunca.
Mas nem tudo está perdido. O Stable Diffusion vem com um filtro de segurança para evitar a criação de conteúdo explícito. O filtro de segurança pode impedir conteúdo prejudicial, mas ainda não consegue ignorar violência, sangue coagulado e outras imagens perturbadoras.
De acordo com aqueles que usam a Difusão Estável, esse filtro de segurança é confuso e mal documentado. Tornando difícil para qualquer pessoa que implemente essa ferramenta impedir que seus usuários maltratem o bot.
Além disso, algumas pessoas podem facilmente criar conteúdo prejudicial que pode ignorar esses filtros de segurança – infelizmente.
Portanto, os desenvolvedores do Stable Diffusion devem prestar muita atenção para melhorar esse recurso. Esperamos que as próximas versões do modelo sejam atualizadas, caso contrário, isso pode representar uma séria ameaça para os usuários.
Posso usar o Stable Diffusion para uso comercial?
Em resumo, sim. Stability AI lançou Stable Diffusion sob uma licença permissiva. Isso significa que os usuários podem usar o modelo para gerar imagens para fins comerciais e não comerciais, mantendo a política da Stability AI para uso comercial, é claro.
Conclusão
Proteção e segurança do Stable Diffusion permanecem questionáveis, especialmente agora que é um programa de código aberto. Os usuários individuais têm liberdade sobre seu uso, códigos ou licença da maneira que desejarem.
Agora, qualquer um pode aproveitar esse modelo de todas as formas possíveis. Isso abre as portas para ameaças e precisa ser tratado no futuro.