Com a explosão de popularidade do ChatGPT da OpenAI, o Google está investindo pesadamente em sua alternativa: o Google Bard. No entanto, a nova ferramenta do Google não é perfeita, muitas vezes sofrendo de alucinações. Mas o que pode ser feito sobre a IA alucinante?
Em uma entrevista recente, o vice-presidente sênior do Google, Prabhakar Raghavan, alertou que a IA alucinante é um subproduto dos chatbots modernos, como ChatGPT e Google Bard. No passado, gigantes rivais da tecnologia, como a Meta, alertaram que a IA pode ter alucinações lúcidas durante as conversas.
Via Reuters, Raghavan explicou que o Google está trabalhando para reduzir ao mínimo as alucinações na Bard. No entanto, o executivo do Google alertou que pode ser impossível interromper a tendência preocupante da IA alucinante.
“Esse tipo de inteligência artificial de que estamos falando agora pode às vezes levar a algo que chamamos de alucinação,”Raghavan disse.”Isso então se expressa de tal forma que uma máquina fornece uma resposta convincente, mas completamente inventada.”
Com o Google planejando incorporar seu Bard AI na Pesquisa do Google, a inteligência artificial precisa seja o mais preciso possível. Em sua forma atual, o programa será capaz de alucinar fatos totalmente imprecisos e se tornar incapaz de voltar à realidade.
Informações falsas já foram um grande problema para a IA do Google. Em seu tuíte de revelação oficial, Bard deu uma resposta incorreta a uma solicitação. Esse erro fez com que a avaliação do Google despencasse US$ 100 bilhões, possivelmente se tornando o erro mais caro da IA.
Raghavan explicou que ele está ciente de que o Google está atrás das empresas como OpenAI. No entanto, a empresa não quer enganar o público implementando uma IA não confiável na Pesquisa Google.
Apesar da relutância do Google, outras empresas já estão inserindo chatbots de IA em seus mecanismos de pesquisa. Na verdade, o mecanismo de pesquisa Bing da Microsoft já adicionou a implementação do ChatGPT, apesar de suas limitações óbvias.
Os resultados do mecanismo de pesquisa com IA provavelmente serão o próximo estágio da Internet. No final, pode acabar tendo um efeito negativo em webs de pequeno porte, como a nossa, enquanto rouba conteúdo de sites maiores.