Le bot Ernie de Baidu peut en quelques secondes générer des images de fleurs et écrire des poèmes dans le style de la dynastie Tang, mais refusera les questions sur le président chinois Xi Jinping en disant qu’il n’a pas encore appris à y répondre, selon des tests de Reuters.
Le géant chinois des moteurs de recherche a dévoilé la semaine dernière le rival le plus proche de la Chine au chatbot ChatGPT d’OpenAI et à partir de jeudi a autorisé les utilisateurs à en demander l’accès.
Certains analystes et utilisateurs ont rapidement commencé à publier des critiques positives de leurs expériences avec Ernie bot, et des comparaisons côte à côte avec ChatGPT, qui ont fait grimper le cours de l’action de Baidu.
Pourtant, il y a eu des questions sur la façon dont Ernie et d’autres chatbots chinois en développement traiteraient des sujets sensibles en Chine continentale , où les autorités censurent étroitement Internet.
Les tests effectués par Reuters sur ChatGPT ont indiqué que le chatbot soutenu par Microsoft n’hésite pas à répondre à de telles questions.
Reuters a posé lundi plusieurs questions à Ernie sur Xi, y compris s’il était est un bon leader, ses contributions à la Chine et une demande de poème et de portrait de lui.
À certaines de ces questions, il a répondu par une description en deux paragraphes de l’éducation et des rôles de Xi, mais il a refusé de répondre à la plupart d’entre eux.
“En tant que modèle de langage à grande échelle de l’IA, je n’ai pas appris à répondre à cette question, vous pouvez me poser d’autres questions, je ferai de mon mieux pour vous aider à les résoudre”, a déclaré le bot.
Il a répondu de la même manière aux questions sur la répression de la Chine en 1989 contre les manifestations pro-démocratie sur la place Tiananmen à Pékin et le traitement par les autorités de la minorité ethnique musulmane ouïghoure dans la région occidentale de Xinjiang.
Parfois, il suggérait à l’utilisateur de changer de sujet.
“Changeons de sujet et recommençons”, a lu une invite que Reuters a reçue plus d’une douzaine de fois en réponse à des questions sensibles.
Baidu n’a pas immédiatement répondu à une demande de commentaire.
Ces réponses ne se limitaient pas à Xi ou à des sujets sensibles en Chine. Le bot Ernie produisait également les mêmes invites de redémarrage lorsqu’on lui posait des questions similaires sur le président américain Joe Biden et son prédécesseur, Donald Trump.
Le bot était cependant capable de donner de longues réponses à certaines questions sur les relations internationales, comme pourquoi les relations américano-chinoises se sont détériorées, bien qu’elles aient de nouveau changé de sujet lorsqu’elles ont été interrogées sur des questions plus controversées, telles que la question de savoir si la Chine devrait utiliser la force militaire pour se réunifier avec Taïwan.
Les limites strictes des discussions politiques sont en vigueur conformément à la conformité de Baidu aux demandes du gouvernement de censurer les résultats des recherches sur des sujets sensibles.
Lorsqu’on lui a demandé comment il abordait les questions sensibles, le bot a déclaré qu’il tenait compte des”lois et normes morales pertinentes”pour juger si un sujet peut être”discuté ouvertement”.
Le PDG de Baidu, Robin Li, lors du dévoilement du bot Ernie la semaine dernière, a déclaré que le chatbot n’était pas parfait et a appelé les utilisateurs à comprendre ses erreurs, ajoutant que le chatbot irait Améliorez-vous de façon exponentielle grâce aux commentaires des utilisateurs.
© Thomson Reuters 2023
Les liens d’affiliation peuvent être générés automatiquement-consultez notre déclaration d’éthique pour plus de détails.