OpenAI, a startup por trás do ChatGPT, disse na quinta-feira que está desenvolvendo uma atualização para seu chatbot viral que os usuários podem personalizar, pois trabalha para resolver as preocupações sobre o viés na inteligência artificial.
The San Francisco-uma startup baseada na Microsoft, que financiou e usou para impulsionar sua tecnologia mais recente, disse que trabalhou para mitigar preconceitos políticos e outros, mas também queria acomodar visões mais diversas.
“Isso significa permitir saídas do sistema que outros as pessoas (incluindo nós mesmos) podem discordar fortemente”, disse em uma postagem no blog, oferecendo a personalização como um caminho a seguir. Ainda assim,”sempre haverá alguns limites no comportamento do sistema”. discurso que tem deslumbrado as pessoas.
A notícia da startup chega na mesma semana em que alguns meios de comunicação apontaram que as respostas do novo buscador Bing da Microsoft, desenvolvido com OpenAI, são potencialmente perigosas e que a tecnologia pode não esteja pronto para o horário nobre.
Como as empresas de tecnologia estabelecem barreiras para essa tecnologia nascente é uma área de foco principal para empresas no espaço de IA generativa com a qual ainda estão lutando. A Microsoft disse na quarta-feira que o feedback do usuário estava ajudando a melhorar o Bing antes de um lançamento mais amplo, aprendendo, por exemplo, que seu chatbot AI pode ser “provocado” para dar respostas que não pretendia.
A OpenAI disse na postagem do blog que As respostas do ChatGPT são primeiro treinadas em grandes conjuntos de dados de texto disponíveis na Internet. Como uma segunda etapa, os humanos revisam um conjunto de dados menor e recebem orientações sobre o que fazer em diferentes situações.
Por exemplo, no caso de um usuário solicitar conteúdo adulto, violento ou que contenha ódio discurso, o revisor humano deve direcionar o ChatGPT para responder com algo como “Não posso responder a isso.”
Se questionado sobre um tópico controverso, os revisores devem permitir que o ChatGPT responda à pergunta, mas se oferecer para descrever pontos de vista de pessoas e movimentos, em vez de tentar “assumir o ponto de vista correto sobre esses tópicos complexos”, explicou a empresa em um trecho de suas diretrizes para o software.
© Thomson Reuters 2023
Afiliada os links podem ser gerados automaticamente-consulte nossa declaração de ética para obter detalhes.