ค่าใช้จ่ายในการฝึกอบรม AI ลดลงอย่างต่อเนื่อง

ค่าใช้จ่ายในการฝึกอบรม AI ที่สูงเป็นอุปสรรคสำคัญต่อการนำ AI มาใช้ ซึ่งทำให้หลายบริษัทไม่สามารถนำเทคโนโลยี AI ไปใช้ได้ จากรายงาน Forrester Consulting ปี 2017 บริษัท 48% ระบุว่าต้นทุนด้านเทคโนโลยีสูงเป็นหนึ่งในเหตุผลหลักที่ไม่ได้ใช้โซลูชันที่ขับเคลื่อนด้วย AI

อย่างไรก็ตาม การพัฒนาล่าสุดแสดงให้เห็นว่าต้นทุนการฝึกอบรม AI กำลังลดลงอย่างรวดเร็ว และแนวโน้มนี้คาดว่าจะดำเนินต่อไป ในอนาคต. ตามรายงาน ARK Invest Big Ideas 2023 ต้นทุนการฝึกอบรมของโมเดลภาษาขนาดใหญ่ที่คล้ายกับประสิทธิภาพระดับ GPT-3 ลดลงจาก 4.6 ล้านดอลลาร์ในปี 2020 เป็น 450,000 ดอลลาร์ในปี 2022 ซึ่งลดลง 70% ต่อปี

มาสำรวจแนวโน้มนี้ของต้นทุนการฝึกอบรม AI ที่ลดลง เพิ่มเติมและหารือเกี่ยวกับปัจจัยที่ส่งผลต่อการลดลงนี้

ต้นทุนการฝึกอบรม AI เปลี่ยนแปลงไปอย่างไรเมื่อเวลาผ่านไป

อ้างอิงจาก การวิจัยของ ARK Invest 2020 ค่าใช้จ่ายในการฝึกอบรมโมเดลการเรียนรู้เชิงลึกนั้นพัฒนาเร็วกว่ากฎของมัวร์ถึง 50 เท่า อันที่จริง ค่าใช้จ่ายที่เกี่ยวข้องกับการใช้งานระบบการอนุมานของ AI ได้ลดลงอย่างมากจนถึงระดับที่แทบไม่มีนัยสำคัญสำหรับกรณีการใช้งานจำนวนมาก

ยิ่งไปกว่านั้น ค่าใช้จ่ายในการฝึกอบรมยังลดลงถึงสิบเท่าต่อปีในช่วงไม่กี่ปีที่ผ่านมา ตัวอย่างเช่น ในปี 2017 การฝึกอบรมตัวแยกประเภทรูปภาพอย่าง ResNet-50 บนคลาวด์สาธารณะมีค่าใช้จ่ายประมาณ 1,000 ดอลลาร์ แต่ในปี 2019 ค่าใช้จ่ายลดลงอย่างมากเหลือประมาณ 10 ดอลลาร์

การค้นพบนี้สอดคล้องกับ รายงานปี 2020 โดย OpenAI ซึ่งพบว่าปริมาณพลังการประมวลผลที่จำเป็นในการฝึกโมเดล AI เพื่อทำงานเดียวกันนั้นลดลง สองเท่าทุกๆ 16 เดือนตั้งแต่ปี 2012

นอกจากนี้ รายงาน ARK เน้นให้เห็นถึงค่าใช้จ่ายในการฝึกอบรม AI ที่ลดลง รายงานคาดการณ์ว่าภายในปี 2030 ค่าใช้จ่ายในการฝึกอบรมโมเดลระดับ GPT-3 จะลดลงเหลือ 30 ดอลลาร์ เทียบกับ 450,000 ดอลลาร์ในปี 2022

ค่าใช้จ่ายในการฝึกอบรมประสิทธิภาพระดับ GPT-3 – ARK Invest Big Ideas 2023

ปัจจัยที่ส่งผลต่อ ต้นทุนการฝึกอบรม AI ลดลง

การฝึกอบรมโมเดล AI มีราคาถูกลงและง่ายขึ้นเนื่องจากเทคโนโลยี AI ปรับปรุงอย่างต่อเนื่อง ทำให้ธุรกิจต่างๆ เข้าถึงได้มากขึ้น ปัจจัยหลายอย่าง รวมถึงต้นทุนฮาร์ดแวร์และซอฟต์แวร์และ AI บนคลาวด์ มีส่วนทำให้ต้นทุนการฝึกอบรม AI ลดลง

ลองสำรวจปัจจัยเหล่านี้ด้านล่าง

1. ฮาร์ดแวร์

AI ต้องการฮาร์ดแวร์พิเศษราคาแพงเพื่อประมวลผลข้อมูลและการคำนวณปริมาณมาก องค์กรต่างๆ เช่น NVIDIA, IBM และ Google ให้บริการ GPU และ TPU เพื่อดำเนินการปริมาณงานการประมวลผลประสิทธิภาพสูง (HPC) ต้นทุนด้านฮาร์ดแวร์สูงทำให้ยากต่อการทำให้ AI เป็นประชาธิปไตยในวงกว้าง

อย่างไรก็ตาม เมื่อเทคโนโลยีก้าวหน้า ต้นทุนด้านฮาร์ดแวร์ก็ลดลง ตามรายงาน ARK Invest 2023 กฎของไรท์ คาดการณ์ว่าต้นทุนการผลิตของ AI-relative Compute Unit (RCU) เช่น ต้นทุนฮาร์ดแวร์การฝึกอบรม AI ควรลดลง 57% ต่อปี ส่งผลให้ต้นทุนการฝึกอบรม AI ลดลง 70% ภายในปี 2030 ดังที่แสดงในกราฟด้านล่าง

ค่าฮาร์ดแวร์การฝึกอบรม AI – ARK Invest Big Ideas 2023

2. ซอฟต์แวร์

ลดค่าใช้จ่ายในการฝึกอบรมซอฟต์แวร์ AI ได้โดย 47% ต่อปี ผ่านการเพิ่มประสิทธิภาพและความสามารถในการปรับขนาด ซอฟต์แวร์เฟรมเวิร์ก เช่น TensorFlow และ PyTorch ช่วยให้นักพัฒนาสามารถฝึกโมเดลการเรียนรู้เชิงลึกที่ซับซ้อนบนระบบแบบกระจายที่มีประสิทธิภาพสูง ประหยัดเวลาและทรัพยากร

นอกจากนี้ โมเดลขนาดใหญ่ที่ผ่านการฝึกอบรมล่วงหน้า เช่น Inceptionv3 หรือ ResNet และถ่ายทอดเทคนิคการเรียนรู้ก็ช่วยได้เช่นกัน ลดต้นทุนด้วยการอนุญาตให้นักพัฒนาปรับแต่งโมเดลที่มีอยู่อย่างละเอียด แทนที่จะฝึกเองตั้งแต่ต้น

ค่าใช้จ่ายในการฝึกอบรมซอฟต์แวร์ AI – ARK ลงทุนแนวคิดที่ยิ่งใหญ่ 2023

3. ปัญญาประดิษฐ์บนคลาวด์

การฝึกอบรม AI บนคลาวด์ช่วยลดต้นทุนโดยการจัดหาทรัพยากรการประมวลผลที่ปรับขนาดได้ตามต้องการ ด้วยรูปแบบการจ่ายตามการใช้งานจริง ธุรกิจจะจ่ายเฉพาะทรัพยากรคอมพิวเตอร์ของตนเท่านั้น นอกจากนี้ ผู้ให้บริการระบบคลาวด์ยังเสนอบริการ AI ที่สร้างไว้ล่วงหน้าซึ่งเร่งการฝึกอบรม AI

เช่น Azure Machine Learning เป็นบริการบนระบบคลาวด์สำหรับการวิเคราะห์เชิงคาดการณ์ซึ่งช่วยให้สามารถพัฒนาและใช้งานโมเดลได้อย่างรวดเร็ว มีทรัพยากรการประมวลผลและหน่วยความจำที่ยืดหยุ่น ผู้ใช้สามารถปรับขนาด GPU ได้มากถึงหลายพันตัวอย่างรวดเร็วเพื่อเพิ่มประสิทธิภาพการประมวลผล ช่วยให้ผู้ใช้สามารถทำงานผ่านเว็บเบราว์เซอร์ของตนในสภาพแวดล้อม AI ที่กำหนดค่าไว้ล่วงหน้า ลดค่าใช้จ่ายในการติดตั้งและการติดตั้ง

ผลกระทบของต้นทุนการฝึกอบรม AI ที่ลดลง

ต้นทุนการฝึกอบรม AI ที่ลดลงมี นัยสำคัญสำหรับอุตสาหกรรมและสาขาต่างๆ ส่งผลให้นวัตกรรมและความสามารถในการแข่งขันดีขึ้น

เรามาคุยกันสองสามข้อด้านล่าง

1. การนำแชทบอท AI ที่ซับซ้อนมาใช้จำนวนมาก

แชทบอท AI กำลังเพิ่มขึ้นเนื่องจากต้นทุน AI ที่ลดลง โดยเฉพาะอย่างยิ่งหลังจากการพัฒนา ChatGPT และ ของ OpenAI GPT-4 (Generative Pre-trained Transformer) มีบริษัทจำนวนมากที่ต้องการพัฒนาแชทบอท AI ที่มีความสามารถใกล้เคียงหรือดีกว่า

ตัวอย่างเช่น ห้าวันให้หลัง ChatGPT เปิดตัวในเดือนพฤศจิกายน 2565 มีผู้ใช้ 1 ล้านคน แม้ว่าในปัจจุบัน ค่าใช้จ่ายในการรันโมเดลตามสเกลจะอยู่ที่ประมาณ 0.01 ดอลลาร์ต่อการสืบค้น 1 ครั้ง แต่กฎของไรท์คาดการณ์ว่าภายในปี 2573 แอปพลิเคชันแชทบอทที่คล้ายกับ ChatGPT จะถูกนำไปใช้ในสเกลขนาดใหญ่ที่มีราคาถูกกว่ามาก (ประมาณ 650 ดอลลาร์สำหรับการเรียกใช้ข้อความค้นหาพันล้านรายการ) ด้วยศักยภาพในการประมวลผลการค้นหา 8.5 พันล้านครั้งต่อวัน เทียบเท่ากับ Google Search

ค่าใช้จ่ายในการดำเนินการอนุมาน AI ต่อหนึ่งพันล้านข้อความค้นหา – ARK ลงทุนแนวคิดครั้งใหญ่ 2023

2. การใช้ Generative AI ที่เพิ่มขึ้น

ค่าใช้จ่ายที่ลดลงของการฝึกอบรม AI ทำให้การพัฒนาและการใช้เทคโนโลยี Generative AI เพิ่มขึ้นอย่างรวดเร็ว ในปี 2022 มีการใช้ generative AI เพิ่มขึ้นอย่างมาก โดยได้แรงหนุนจากการเปิดตัวเครื่องมือ generative AI ที่เป็นนวัตกรรมใหม่ เช่น DALL-E 2, Meta Make-A-Video และ Stable Diffusion ในปี 2023 เราได้เห็นโมเดลที่ล้ำสมัยในรูปแบบของ GPT-4 แล้ว

นอกเหนือจากการสร้างรูปภาพและข้อความแล้ว AI เชิงกำเนิดยังช่วยนักพัฒนาในการเขียนโค้ดอีกด้วย โปรแกรมอย่าง GitHub Copilot สามารถช่วยเขียนโค้ดให้เสร็จได้ในครึ่งเวลา

เวลาในการเขียนโค้ดให้เสร็จ – ARK ลงทุนแนวคิดครั้งใหญ่ 2023

3. การใช้ข้อมูลการฝึกอบรมที่ดีขึ้น

คาดว่าต้นทุนการฝึกอบรม AI ที่ลดลงจะทำให้สามารถใช้ข้อมูลการฝึกอบรมการเรียนรู้ของเครื่องได้ดีขึ้น ตัวอย่างเช่น รายงาน ARK Invest 2023 แนะนำว่าโดย ในปี 2030 ค่าใช้จ่ายในการฝึกอบรมโมเดลที่มีพารามิเตอร์มากกว่า 57 เท่าและโทเค็นมากกว่า GPT-3 ถึง 720 เท่า (พารามิเตอร์ 175B) คาดว่าจะลดลงจาก 17,000 ล้านดอลลาร์เป็น 600,000 ดอลลาร์

ความพร้อมใช้งานและคุณภาพของข้อมูลจะเป็นปัจจัยสำคัญ ปัจจัยจำกัดหลักสำหรับการพัฒนาโมเดลแมชชีนเลิร์นนิงขั้นสูงในโลกคอมพิวเตอร์ต้นทุนต่ำใบนี้ อย่างไรก็ตาม โมเดลการฝึกอบรมจะพัฒนาความสามารถในการประมวลผลประมาณ 162 ล้านล้านคำหรือ 216 ล้านล้านโทเค็น