¿Alguna vez ha sido testigo de una idea que era tan mala que se preguntó por qué y cómo se lanzó, y mucho menos pasó un comité de ética? Así me sentí cuando leí el comunicado de prensa de que Snapchat estaba incorporando ChatGPT a su plataforma.
ChatGPT, para aquellos que no lo saben, es una herramienta de chatbot de IA que puede hacer una gran cantidad de cosas. Desde darte ideas sobre cuál debería ser tu próxima comida, hasta construir computadoras o enseñarte a jugar Pokémon. ChatGPT es una herramienta realmente asombrosa, que debe usarse con pensamiento crítico y siempre tomarse con pinzas.
Linus, de Linus Tech Tips, pudo mostrar de principio a fin el proceso de recomendación de productos de ChatGPT hasta la construcción de la computadora. No fue perfecto de ninguna manera, pero deberías echar un vistazo al video para verlo por ti mismo.
Mi AI es accesible de forma predeterminada en la sección de chat de Snapchat para suscriptores de Snapchat+. Se podrá acceder deslizando el dedo hacia la derecha en la pantalla de la cámara y luego podrá tocarla, como lo haría si estuviera enviando mensajes a otra persona. Como cualquier IA, cuanto más le cuentes sobre ti y los demás, más precisa será. Por lo tanto, puede comenzar a decirle sus gustos y aversiones, darle un apodo a su nuevo compañero de IA y otras cosas que pueden llamarle la atención. Sin embargo, esto puede estar sujeto a abusos.
Fuente de la imagen: Engadget
En este ejemplo aparentemente arbitrario sobre un haiku sobre alguien llamado Lukas a quien le gusta el queso. Le brinda toda la información que necesita sobre cómo esto podría usarse para el abuso. Los niños pueden ser bastante crueles entre sí a veces. El ciberacoso y otros tipos de acoso son experiencias desafortunadas en la vida de muchos jóvenes. Con la capacidad de cambiar el nombre de la IA sobre la marcha y luego la capacidad de esa IA de enviar algo malo sobre alguien que puede oler o cualquier otra cosa que puedas imaginar. Es difícil no ver cómo esto solo puede terminar en lágrimas.
Dado que la base de usuarios de Snapchat es predominantemente adolescentes o adultos jóvenes, Statisa cita que más del 48 % de los usuarios tienen entre 15 y 25 años. Dado que la IA no es perfecta y puede verse fuertemente influenciada para decir lo que quieras. Sobre todo porque ha habido iniciativas de Tiktok e Instagram para que haya más control sobre el contenido al que tienen acceso los menores. De hecho, podría decirse que es algo de lo que Snapchat es consciente, diciendo:”¡Tenga en cuenta sus muchas deficiencias y disculpe de antemano!”
Pedir perdón antes de algo no es una verdadera disculpa, Snapchat. Si sabe que algo tiene el potencial de dañar a otros, específicamente a menores y jóvenes, entonces tal vez no sea algo que deba hacer en primer lugar. Más importante aún, no veo qué beneficio tiene para el usuario. Así que no puedo dejar de preguntarme por qué molestarme en implementarlo además de subirme a la última tendencia. Si me falta algo obvio, dímelo en los comentarios a continuación.
Mi IA ya comenzó a implementar el período de prueba para los usuarios de Snapchat + suscriptores, así que mantén un ojo en tus cuentas para obtener más detalles de cuando se te libera.