Dernière mise à jour le 24 mars 2023
Les générateurs d’art IA, comme Stable Diffusion, sont de plus en plus amusants à utiliser. Mais est-ce que Stable Diffusion est sans danger ?
Ces modèles fonctionnent en utilisant une simple invite de texte pour créer des images réalistes générées par l’IA. Les principaux exemples de générateurs d’art AI incluent DALL-E 2 et Stable Diffusion, parmi beaucoup d’autres.
Nous savons que ces modèles sont amusants et passionnant à utiliser. Mais, une chose à considérer est de savoir s’ils sont même sûrs ou s’ils ont des conséquences graves possibles. Continuez à lire ci-dessous pour en savoir plus.
Est-ce que Stable Diffusion est sûr pour une utilisation régulière ?
La dernière version de Stable Diffusion est un programme open-source qui donne aux utilisateurs la liberté de l’utiliser comme ils veulent. Bien qu’il soit extrêmement amusant et impressionnant, il présente encore des risques notables s’il est utilisé pour de mauvaises raisons.
Comme il est open-source, son code et sa licence sont ouverts pour un accès général. Stable Diffusion a été largement distribué. Désormais, n’importe quel membre du public peut créer des images potentiellement nuisibles et dangereuses.
Il est intéressant de noter que les organisations de sécurité et d’application de la loi ont constaté une augmentation d’environ 40 % du contenu d’images explicites. Et des outils comme Stable Diffusion pourraient rendre ce type de création d’images plus facile que jamais.
Tout n’est pas perdu pour autant. Stable Diffusion est livré avec un filtre de sécurité pour empêcher la création de contenu explicite. Le filtre de sécurité peut empêcher le contenu préjudiciable, mais il ne parvient toujours pas à ignorer la violence, le gore et d’autres images dérangeantes.
Selon les utilisateurs de Stable Diffusion, ce filtre de sécurité est déroutant et mal documenté. Il est difficile pour quiconque met en œuvre cet outil d’empêcher ses utilisateurs de maltraiter le bot.
De plus, certaines personnes peuvent facilement créer du contenu nuisible qui peut contourner ces filtres de sécurité-malheureusement.
Par conséquent, les développeurs de Stable Diffusion doivent porter une attention particulière à l’amélioration de cette fonctionnalité. Nous espérons que les prochaines versions du modèle seront mises à jour, sinon cela pourrait constituer une menace sérieuse pour les utilisateurs.
Puis-je utiliser Stable Diffusion à des fins commerciales ?
En bref, oui. Stability AI a publié Stable Diffusion sous une licence permissive. Cela signifie que les utilisateurs peuvent utiliser le modèle pour générer des images à des fins commerciales et non commerciales, en respectant bien sûr la politique de Stability AI en matière d’utilisation commerciale.
Conclusion
Sûreté et sécurité de Stable Diffusion restent discutables, surtout maintenant qu’il s’agit d’un programme open-source. Les utilisateurs individuels ont la liberté d’utilisation, de codes ou de licence de la manière qu’ils souhaitent.
Désormais, tout le monde peut profiter de ce modèle de toutes les manières possibles. Cela ouvre la porte à des menaces et doit être traité à l’avenir.