Una carta abierta a los gobiernos de todo el mundo pide que se detenga el desarrollo de la IA para salvar a la humanidad.
Una carta abierta al gobierno de los Estados Unidos ha pedido que se impongan restricciones masivas a grandes proyectos de IA como ChatGPT de OpenAI. Firmada por 1000 expertos en inteligencia artificial y el multimillonario Elon Musk, la carta exige la pausa en el desarrollo de la inteligencia artificial.
Emitida por el Future of Life Institute sin fines de lucro, la carta cita numerosos riesgos para la sociedad que plantea la inteligencia artificial en rápida evolución. La carta le pide al gobierno que haga cumplir una pausa en el desarrollo hasta que se establezcan numerosos límites.
En la carta, el Instituto solicita una prohibición de seis meses para que las empresas creen proyectos de IA que sean más potentes que el GPT-4 de OpenAI. Como ya ha publicado GPT-4, el Instituto tiene como objetivo detener la carrera para crear más sistemas de inteligencia.
“Los sistemas de IA con inteligencia humana-competitiva pueden plantear profundos riesgos para la sociedad y la humanidad”, se lee en la carta.”Los sistemas de IA potentes deben desarrollarse solo una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”.
El Instituto afirma que la interrupción de seis meses en el desarrollo permitirá a los desarrolladores de IA crear protocolos de seguridad compartidos para proteger a la sociedad. Si bien las empresas individuales tienen investigadores de ética de IA, a menudo han sido dejados de lado. Por ejemplo, el famoso exinvestigador de Google Timnit Gebru fue expulsado de la empresa después de señalar problemas con la investigación en curso.
La carta abierta exige protocolos de seguridad de IA que ayuden a proteger a los usuarios humanos”más allá de toda duda razonable”.
“Los laboratorios de IA y los expertos independientes deberían aprovechar esta pausa para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzado de IA que sean rigurosamente auditados y supervisados por expertos externos independientes. expertos”, se lee en la declaración.”Estos protocolos deberían garantizar que los sistemas que se adhieren a ellos estén seguros más allá de una duda razonable”.
Junto con cientos de expertos y desarrolladores de IA, la carta abierta también está firmada por varios líderes tecnológicos famosos. El cofundador de Apple, Steve Wozniak, el director del Center for Humane Technology, Tristan Harris, y el director ejecutivo de Tesla, Elon Musk.
Con el rápido aumento de los servicios de inteligencia artificial gratuitos, como ChatGPT y Stable Diffusion, a muchos les preocupa que la tecnología de inteligencia artificial reemplace trabajos. Esto tampoco carece de mérito. La tecnología de inteligencia artificial ya está reemplazando a los actores de voz y robando obras de arte de diseñadores de la vida real. ¿Dónde está la línea?
“TNGD”es apoyado por su audiencia. Cuando compra a través de enlaces en nuestro sitio, podemos ganar una comisión de afiliado. Aprende más. ¿Busca productos específicos? Visite Stockinformer.co.uk /stockinformer.com.