Avez-vous déjà été témoin d’une idée si mauvaise que vous vous êtes demandé pourquoi et comment elle avait pu sortir, sans parler du passage d’un comité d’éthique ? C’est ce que j’ai ressenti en lisant le communiqué de presse selon lequel Snapchat apportait ChatGPT à sa plateforme.
ChatGPT, pour ceux qui ne le savent pas, est un outil de chatbot IA qui peut faire énormément de choses. Qu’il s’agisse de vous donner des idées sur ce que devrait être votre prochain repas, de construire des ordinateurs ou de vous apprendre à jouer à Pokemon. ChatGPT est un outil vraiment incroyable, qui doit être utilisé avec un esprit critique et toujours pris avec des pincettes.
Linus, de Linus Tech Tips, a pu montrer du début à la fin le processus de recommandation de produits par ChatGPT jusqu’à la construction de l’ordinateur. Ce n’était en aucun cas parfait, mais vous devriez jeter un œil à la vidéo pour le voir par vous-même.
Mon IA est accessible par défaut dans la section chat de Snapchat pour les abonnés Snapchat+. Il sera accessible en glissant à droite sur l’écran de l’appareil photo, puis vous pourrez y accéder, comme vous le feriez si vous envoyiez un message à quelqu’un d’autre. Comme toute IA, plus vous en dites sur vous-même et sur les autres, plus elle deviendra précise. Ainsi, vous pouvez commencer à lui dire ce que vous aimez et ce que vous n’aimez pas, donner à votre nouveau compagnon IA un surnom et d’autres choses qui pourraient vous plaire. Cependant, cela peut faire l’objet d’abus.
Source de l’image : Engadget
Dans cet exemple apparemment arbitraire d’un haïku sur quelqu’un nommé Lukas qui aime le fromage. Vous donne toutes les informations dont vous avez besoin sur la façon dont cela pourrait être utilisé à des fins abusives. Les enfants peuvent parfois être assez cruels les uns envers les autres. La cyberintimidation et les autres formes d’intimidation sont des expériences malheureuses dans la vie de nombreux jeunes. Avec la possibilité de changer le nom de l’IA à la volée, puis la possibilité pour cette IA d’envoyer quelque chose de méchant à propos de quelqu’un qui peut sentir ou toute autre chose que vous pourriez imaginer. Il est difficile de ne pas voir comment cela ne peut que se terminer en larmes.
Étant donné que la base d’utilisateurs de Snapchat est principalement composée d’adolescents ou de jeunes adultes, Stastisa indique que plus de 48 % des utilisateurs ont entre 15 et 25 ans. Puisque l’IA n’est pas parfaite et peut être fortement influencée pour dire ce que vous voulez. D’autant plus qu’il y a eu des initiatives prises par Tiktok et Instagram pour qu’il y ait plus de contrôle sur le contenu auquel les mineurs ont accès. En fait, c’est sans doute quelque chose dont Snapchat est conscient, en disant:”S’il vous plaît soyez conscient de ses nombreuses lacunes et désolé à l’avance!”
S’excuser avant quelque chose n’est pas une vraie excuse, Snapchat. Si vous savez que quelque chose a le potentiel de nuire aux autres, en particulier les mineurs et les jeunes, alors ce n’est peut-être pas quelque chose que vous devriez faire en premier lieu. Plus important encore, je ne vois pas quel avantage cela a pour l’utilisateur. Je ne peux donc pas m’empêcher de me demander pourquoi s’embêter à l’implémenter autrement que pour sauter sur la dernière tendance. S’il me manque quelque chose d’évident, dites-le-moi dans les commentaires ci-dessous.
Mon IA a déjà commencé à être déployée à l’essai pour les utilisateurs sur les abonnés Snapchat +, alors gardez un œil sur vos comptes pour plus de détails sur lorsqu’il vous est remis.