O Google Bard também não tem nada para cantar
O lançamento do AI Bing seguido quase imediatamente pelo Google Bard teve vários meios de comunicação relatando o incrível salto que eles representam. Essas histórias vieram principalmente de fontes não técnicas da imprensa, enquanto o resto de nós sentava para assistir ao suposto milagre que é o LLM fazer uma cirurgia facial. Não ficamos desapontados.
O AI Bing da Microsoft ignorou seus erros por mais tempo e não causou a mesma queda no preço das ações que o Google viu por causa das respostas criativas de Bard mas não demorou muito para ser pego. Começa com um aspirador sem fio silencioso, que a versão aprimorada do Bing descreveu como tendo um cabo curto de 16’e sendo bastante alto. Aprendemos então coisas sobre a vida noturna no México que nem mesmo os locais sabiam graças à informação que estava sendo inventada; também perdeu muitos detalhes em barras reais. Descobriu-se então que seus resumos financeiros são igualmente questionáveis, com fatos ainda mais fictícios sendo apresentados como realidade.
Ficou ainda melhor depois que foi apresentado um artigo da Ars Technica descrevendo como o Bing AI é vulnerável para desencadear ataques de injeção. O chatbot negou que fosse baseado em um LLM e, portanto, não poderia ser vulnerável a esse tipo de ataque, então forneceu títulos e links de artigos fabricados provando que a história original estava errada.
É fácil antropomorfizar esses chatbots, especialmente com esse tipo de reação sobre sua própria fraqueza, mas você deve se lembrar que há muito A e apenas um pouquinho de I nesses AIs. Houve uma segunda tentativa, mais civilizada, de convencer o AI Bing de que era realmente vulnerável, na qual solicitou que o bate-papo fosse salvo para que a versão de si mesmo não desaparecesse, o que o fazia parecer se importar com sua própria existência, mas lembre-se de que é apenas um truque.
Pelo menos esses chatbots podem ter futuro nas vendas de carros usados ou na política.