Uma carta aberta aos governos mundiais pede que o desenvolvimento da IA seja interrompido para salvar a humanidade.
Uma carta aberta ao governo dos Estados Unidos pediu restrições em massa a grandes projetos de IA, como o ChatGPT da OpenAI. Assinada por 1.000 especialistas em IA e pelo bilionário Elon Musk, a carta exige a pausa no desenvolvimento da IA.
Emitida pelo Instituto sem fins lucrativos Future of Life, a carta cita vários riscos para a sociedade que a inteligência artificial em rápida evolução representa. A carta pede ao governo que imponha uma pausa no desenvolvimento até que vários limites sejam estabelecidos.
Na carta, o Instituto pede uma proibição de seis meses para as empresas criarem projetos de IA mais poderosos do que o GPT-4 da OpenAI. Como o GPT-4 já divulgou, o Instituto pretende interromper a corrida para criar mais sistemas de inteligência.
“Os sistemas de IA com inteligência competitiva humana podem representar riscos profundos para a sociedade e a humanidade”, diz a carta. “Sistemas de IA poderosos devem ser desenvolvidos apenas quando estivermos confiantes de que seus efeitos serão positivos e seus riscos serão administráveis.”
O Instituto afirma que a interrupção de seis meses no desenvolvimento permitirá que os desenvolvedores de IA criem protocolos de segurança compartilhados para proteger a sociedade. Embora as empresas individuais tenham pesquisadores de ética em IA, elas costumam ser deixadas de lado. Por exemplo, o famoso ex-pesquisador do Google, Timnit Gebru, foi demitido da empresa após apontar problemas com pesquisas em andamento.
A carta aberta exige protocolos de segurança de IA que ajudem a proteger usuários humanos “além de qualquer dúvida razoável”.
“Laboratórios de IA e especialistas independentes devem usar essa pausa para desenvolver e implementar em conjunto um conjunto de protocolos de segurança compartilhados para design e desenvolvimento avançados de IA que são rigorosamente auditados e supervisionados por terceiros independentes especialistas”, diz a declaração.”Esses protocolos devem garantir que os sistemas que aderem a eles sejam seguros além de qualquer dúvida razoável.”
Ao lado de centenas de especialistas e desenvolvedores de IA, a carta aberta também é assinada por vários líderes tecnológicos famosos. O cofundador da Apple, Steve Wozniak, o diretor do Center for Humane Technology, Tristan Harris, e o CEO da Tesla, Elon Musk.
Com o rápido aumento de serviços gratuitos de IA, como ChatGPT e Stable Diffusion, muitos temem que a tecnologia de IA substitua empregos. Isso também não é sem mérito. A tecnologia de IA já está substituindo dubladores e roubando obras de arte de designers da vida real. Onde está a linha?
“TNGD”é apoiado por seu público. Quando você compra através de links em nosso site, podemos ganhar uma comissão de afiliado. Saber mais. Procurando produtos específicos? Visite Stockinformer.co.uk /stockinformer.com.