อัปเดตล่าสุดเมื่อวันที่ 28 มีนาคม 2023

เราทุกคนทราบดีว่าต้นทุนการพัฒนาของ GPT-3 นั้นมากกว่า 4 ล้านเหรียญสหรัฐ แต่ค่าใช้จ่ายในการพัฒนาของ GPT-2 รุ่นก่อนคือเท่าไหร่? คุณอยากทราบต้นทุนการพัฒนาของโมเดลภาษานี้หรือไม่

ในบทความนี้ เราจะพูดถึงต้นทุนการพัฒนาของ GPT-2 มาเริ่มการสนทนากันเลย

ค่าใช้จ่ายในการพัฒนาของ GPT-2 คือเท่าใด

คุณอาจแปลกใจที่ OpenAI ให้เงินสนับสนุนแก่ GPT โครงการ-2 ซึ่งเป็นสถาบันวิจัยที่ร่วมก่อตั้งโดยเจ้าพ่อเทคโนโลยีอย่าง Elon Musk และ Sam Altman

ตามรายงาน ต้นทุนการพัฒนา GPT-2 อยู่ที่ 50,000 ดอลลาร์เท่านั้น ซึ่งแทบจะไม่มีอะไรเทียบได้กับต้นทุนการพัฒนาของ GPT-3 และนี่คือเหตุผลว่าทำไม GPT-2 และ GPT-3 จึงมีความแตกต่างกันอย่างมาก

ต้นทุนฮาร์ดแวร์

เนื่องจากเป็นโมเดลใหม่ และความพยายามครั้งสำคัญอย่างแรกเกิดขึ้น OpenAI จึงต้องการพลังการประมวลผลจำนวนมากเพื่อฝึกฝน GPT-2 สถาบันใช้การรวมกันของคลัสเตอร์ CPU และ GPU เพื่อเรียกใช้การคำนวณขนาดใหญ่สำหรับกระบวนการฝึกอบรม

เงินเดือนนักวิจัย

นักวิจัยที่ทำงานในโครงการ GPT-2 เป็นผู้มีความคิดริเริ่มด้านปัญญาประดิษฐ์ เป็นผลให้พวกเขาได้รับเงินเดือนสูง ในเวลานั้น การว่าจ้างผู้ที่มีความสามารถสูงเป็นสิ่งสำคัญสำหรับการพัฒนาเทคโนโลยี AI ที่ทันสมัย ​​เช่น GPT-2

บทสรุป

การพัฒนารูปแบบภาษา GPT-2 นั้นไม่ได้แพงขนาดนั้น แต่ความพยายามและปัจจัยการผลิตนั้นยิ่งใหญ่มาก นี่เป็นเพราะมันเป็นโมเดลแรกในประเภทเดียวกัน และไม่มีทรัพยากรมากมาย

OpenAI ลงทุนในโครงการ ซึ่งรวมถึงค่าใช้จ่ายที่เกี่ยวข้องกับฮาร์ดแวร์ เงินเดือนนักวิจัย และต้นทุนการพัฒนาอื่นๆ อย่างไรก็ตาม ผลที่ได้คือรูปแบบภาษาที่มีศักยภาพในการปฏิวัติด้านการประมวลผลภาษาธรรมชาติ

GPT-2 ถูกนำมาใช้ในแอปพลิเคชันต่างๆ ตั้งแต่การแปลภาษาไปจนถึงการสร้างเนื้อหา พูดได้อย่างปลอดภัยว่าการลงทุนใน GPT-2 นั้นคุ้มค่า

By Maisy Hall

ฉันทำงานเป็นนักเขียนอิสระ ฉันยังเป็นวีแก้นและนักอนุรักษ์สิ่งแวดล้อมด้วย พอมีเวลาก็ตั้งใจทำสมาธิ