ChatGPT 背後的初創公司 OpenAI 週四表示，它正在開髮用戶可以自定義的病毒式聊天機器人的升級版，以解決人們對人工智能偏見的擔憂。
舊金山-微軟資助並用於支持其最新技術的初創公司表示，它一直在努力減輕政治和其他偏見，但也希望容納更多不同的觀點。
“這將意味著允許系統輸出其他人們（包括我們自己）可能會強烈反對，”它在一篇博客文章中說，提供定製作為一種前進的方式。不過，“系統行為總會有一些限制。”
去年 11 月發布的 ChatGPT 引發了人們對其背後稱為生成式 AI 的技術的狂熱興趣，該技術用於生成模仿人類的答案
這家初創公司發布消息的同一周，一些媒體機構指出，由 OpenAI 提供支持的微軟新 Bing 搜索引擎的答案具有潛在危險，該技術可能尚未為黃金時段做好準備。
技術公司如何為這項新興技術設置護欄是生成式 AI 領域公司仍在努力解決的一個關鍵重點領域。微軟週三表示，用戶反饋正在幫助它在更廣泛的推廣之前改進 Bing，例如，了解到它的 AI 聊天機器人可以被“激發”以給出它不想要的響應。
OpenAI 在博客文章中說ChatGPT 的答案首先在 Internet 上可用的大型文本數據集上進行訓練。第二步，人類審查一個較小的數據集，並獲得在不同情況下應該做什麼的指南。
例如，如果用戶請求的內容是成人、暴力或包含仇恨的內容演講時，人工審閱者應指示 ChatGPT 回答類似“我無法回答”之類的問題。
如果被問及有爭議的話題，審閱者應允許 ChatGPT 回答問題，但提供描述該公司在其軟件指南的摘錄中解釋道，而不是試圖“對這些複雜的主題採取正確的觀點”。
© Thomson Reuters 2023
Affiliate鏈接可能會自動生成-請參閱我們的道德聲明了解詳情。