อัปเดตล่าสุดเมื่อวันที่ 28 มีนาคม 2023
เราทุกคนทราบดีว่าต้นทุนการพัฒนาของ GPT-3 นั้นมากกว่า 4 ล้านเหรียญสหรัฐ แต่ค่าใช้จ่ายในการพัฒนาของ GPT-2 รุ่นก่อนคือเท่าไหร่? คุณอยากทราบต้นทุนการพัฒนาของโมเดลภาษานี้หรือไม่
ในบทความนี้ เราจะพูดถึงต้นทุนการพัฒนาของ GPT-2 มาเริ่มการสนทนากันเลย
ค่าใช้จ่ายในการพัฒนาของ GPT-2 คือเท่าใด
คุณอาจแปลกใจที่ OpenAI ให้เงินสนับสนุนแก่ GPT โครงการ-2 ซึ่งเป็นสถาบันวิจัยที่ร่วมก่อตั้งโดยเจ้าพ่อเทคโนโลยีอย่าง Elon Musk และ Sam Altman
ตามรายงาน ต้นทุนการพัฒนา GPT-2 อยู่ที่ 50,000 ดอลลาร์เท่านั้น ซึ่งแทบจะไม่มีอะไรเทียบได้กับต้นทุนการพัฒนาของ GPT-3 และนี่คือเหตุผลว่าทำไม GPT-2 และ GPT-3 จึงมีความแตกต่างกันอย่างมาก
ต้นทุนฮาร์ดแวร์
เนื่องจากเป็นโมเดลใหม่ และความพยายามครั้งสำคัญอย่างแรกเกิดขึ้น OpenAI จึงต้องการพลังการประมวลผลจำนวนมากเพื่อฝึกฝน GPT-2 สถาบันใช้การรวมกันของคลัสเตอร์ CPU และ GPU เพื่อเรียกใช้การคำนวณขนาดใหญ่สำหรับกระบวนการฝึกอบรม
เงินเดือนนักวิจัย
นักวิจัยที่ทำงานในโครงการ GPT-2 เป็นผู้มีความคิดริเริ่มด้านปัญญาประดิษฐ์ เป็นผลให้พวกเขาได้รับเงินเดือนสูง ในเวลานั้น การว่าจ้างผู้ที่มีความสามารถสูงเป็นสิ่งสำคัญสำหรับการพัฒนาเทคโนโลยี AI ที่ทันสมัย เช่น GPT-2
บทสรุป
การพัฒนารูปแบบภาษา GPT-2 นั้นไม่ได้แพงขนาดนั้น แต่ความพยายามและปัจจัยการผลิตนั้นยิ่งใหญ่มาก นี่เป็นเพราะมันเป็นโมเดลแรกในประเภทเดียวกัน และไม่มีทรัพยากรมากมาย
OpenAI ลงทุนในโครงการ ซึ่งรวมถึงค่าใช้จ่ายที่เกี่ยวข้องกับฮาร์ดแวร์ เงินเดือนนักวิจัย และต้นทุนการพัฒนาอื่นๆ อย่างไรก็ตาม ผลที่ได้คือรูปแบบภาษาที่มีศักยภาพในการปฏิวัติด้านการประมวลผลภาษาธรรมชาติ
GPT-2 ถูกนำมาใช้ในแอปพลิเคชันต่างๆ ตั้งแต่การแปลภาษาไปจนถึงการสร้างเนื้อหา พูดได้อย่างปลอดภัยว่าการลงทุนใน GPT-2 นั้นคุ้มค่า