ออร์ ดานอน เป็นซีอีโอและผู้ร่วมก่อตั้งของ Hailo ซึ่งเป็นบริษัทที่มีพันธกิจในการเปิดใช้งานเทคโนโลยีขอบอัจฉริยะเพื่อให้บรรลุศักยภาพสูงสุด โซลูชันที่ Hailo นำเสนอเชื่อมช่องว่างระหว่างเทคโนโลยี AI ที่มีอยู่และในอนาคต และความสามารถในการคำนวณที่จำเป็นสำหรับขับเคลื่อนแอปพลิเคชันเหล่านี้ บริษัทให้ความสำคัญกับการสร้างโปรเซสเซอร์ AI ที่มีประสิทธิภาพและกะทัดรัดเพียงพอที่จะคำนวณและตีความข้อมูลจำนวนมหาศาลแบบเรียลไทม์

ช่วยแชร์เรื่องราวต้นกำเนิดเบื้องหลัง Hailo ได้ไหม

ฉันร่วมก่อตั้ง Hailo ในปี 2560 ร่วมกับเพื่อนร่วมงานที่ฉันเคยพบมาก่อนในหน่วยเทคโนโลยีชั้นยอดของกองกำลังป้องกันประเทศอิสราเอล (IDF) ในขณะที่ทำงานร่วมกับผู้ร่วมก่อตั้งของฉัน Rami Feig และ Avi Baum เกี่ยวกับโซลูชัน IoT (Internet of Things) โครงสร้างที่ไม่ค่อยมีใครรู้จัก – “การเรียนรู้เชิงลึก” – ยังคงปรากฏขึ้นตลอดการวิจัยของเรา ในที่สุด เราได้รวบรวมผู้เชี่ยวชาญในสาขานี้เพื่อพัฒนาโซลูชันการเรียนรู้เชิงลึกใหม่ที่มุ่งแก้ปัญหาข้อบกพร่องของสถาปัตยกรรมคอมพิวเตอร์ที่มีอายุมาก เพื่อให้อุปกรณ์อัจฉริยะสามารถทำงานได้อย่างมีประสิทธิภาพและประสิทธิผลมากขึ้นที่เอดจ์ หลังจากการจากไปอย่างน่าเสียดายของ Rami ทีม Hailo ก็มองเห็นวิสัยทัศน์ของเขาผ่านการสร้างโปรเซสเซอร์ AI ที่ก้าวล้ำของ Hailo

คุณช่วยอธิบายสั้นๆ ได้ไหมว่าทำไมการประมวลผลที่ขอบมักเป็นโซลูชันที่เหนือกว่าสำหรับการประมวลผลแบบคลาวด์

เมื่อเราเริ่มต้น Hailo เทคโนโลยี AI ที่ก่อกวน ส่วนใหญ่จำกัดอยู่ที่ระบบคลาวด์หรือศูนย์ข้อมูลขนาดใหญ่ เนื่องจากมีค่าใช้จ่ายสูง จึงต้องใช้พลังการประมวลผลสูงและฮาร์ดแวร์ที่กว้างขวางในการทำงาน และใช้พลังงานจำนวนมาก เราเชื่อว่า AI กำลังช่วยสร้างโลกที่ดีขึ้น ปลอดภัยขึ้น มีประสิทธิผลมากขึ้น และน่าตื่นเต้นมากขึ้น แต่เพื่อให้สิ่งนี้เกิดขึ้น AI จำเป็นต้องพร้อมใช้งานที่ Edge ด้วยเช่นกัน สำหรับการใช้งานแอปพลิเคชันตามเวลาจริงและเวลาแฝงต่ำบนอุปกรณ์ต่างๆ เช่น กล้องที่เชื่อมต่อกับเครือข่าย ยานพาหนะ และอุปกรณ์ IoT การประมวลผลที่ต้นทางเป็นสิ่งสำคัญสำหรับการทำงานที่มีประสิทธิภาพ ด้วย Edge AI เราสามารถใช้ประโยชน์จากกรณีการใช้งานหลักจำนวนมากที่ขับเคลื่อนอนาคตของเมืองอัจฉริยะ การขนส่งอัจฉริยะ การขับขี่อัตโนมัติ ระบบการจัดการวิดีโอ (VMS) อุตสาหกรรม 4.0 และอื่นๆ อีกมากมาย

อะไรคือความท้าทายเบื้องหลังการประมวลผลข้อมูลภาพบนเอดจ์

เป้าหมายคือการได้รับประสิทธิภาพสูงสุดและคุณสมบัติต่างๆ มากที่สุดเท่าที่จะบรรจุลงในอุปกรณ์เอดจ์ได้ เพื่อให้สามารถประมวลผลมหาศาล จำนวนข้อมูลภาพอย่างรวดเร็วและมีเวลาแฝงน้อย แต่ข้อจำกัดที่สำคัญประการหนึ่งคือการใช้พลังงาน ทั้งในแง่ของปริมาณพลังงานที่สามารถส่งไปยังอุปกรณ์และความร้อนที่เกิดจากโปรเซสเซอร์

ด้วย กล้องอัจฉริยะ เช่น ผู้ผลิตต้องการตัวประมวลผล AI เพื่อให้พอดีกับซองขนาด 2-3W เนื่องจากกล้องไม่สามารถใช้การระบายความร้อนด้วยพัดลม และเนื่องจากโดยทั่วไปจะมีแหล่งจ่ายไฟจำกัด. สิ่งเหล่านี้คือปัญหาเฉียบพลันเนื่องจากใช้พลังงานต่ำ ประสิทธิภาพจึงถูกจำกัดอย่างมากเมื่อใช้โปรเซสเซอร์ส่วนใหญ่ในตลาด

Hailo จินตนาการสถาปัตยกรรมโปรเซสเซอร์ AI ใหม่อย่างไร

เราทำได้ด้วยการออกแบบโปรเซสเซอร์ AI ที่สร้างขึ้นมาเพื่อทำงานบนอุปกรณ์เอดจ์โดยเฉพาะ โดยคำนึงถึงขนาดและข้อจำกัดด้านพลังงาน ด้วยการทำเช่นนั้น เราเปิดใช้งานพลังการประมวลผลที่ไม่เคยมีมาก่อนบนอุปกรณ์เอดจ์ ทำให้สามารถเรียกใช้ AI ได้อย่างมีประสิทธิภาพและประสิทธิผลมากขึ้น และดำเนินการแอปพลิเคชันการเรียนรู้เชิงลึกที่ซับซ้อน เช่น การตรวจจับวัตถุ การจดจำวัตถุ การแบ่งส่วน และอื่นๆ ด้วยระดับประสิทธิภาพที่ก่อนหน้านี้ทำได้เฉพาะใน คลาวด์. สถาปัตยกรรมที่เป็นเอกลักษณ์นี้ช่วยให้สามารถประมวลผลหลายสตรีมและหลายแอปพลิเคชัน ปรับปรุงประสิทธิภาพและความคุ้มค่าของอุปกรณ์ Edge

ตัวอย่างหนึ่งของการใช้สถาปัตยกรรมนี้คือ Video Management Systems (VMS) ระบบเหล่านี้ถูกใช้ในพื้นที่ที่มีกล้องจำนวนมาก เช่น อาคารสำนักงาน สนามกีฬา แอปพลิเคชั่นเมืองอัจฉริยะ และทางหลวง เพื่อจัดการความปลอดภัยและการรักษาความปลอดภัยได้ดียิ่งขึ้น รวมถึงการตรวจสอบเหตุฉุกเฉินและอุบัติเหตุ กิจกรรมที่น่าสงสัย การจัดการจราจร การควบคุมการเข้าถึง การเก็บค่าผ่านทาง และอื่นๆ. เป็นเวลาหลายปีที่องค์กรต่าง ๆ อาศัยกระบวนการที่ทำด้วยมือทั้งหมดเมื่อต้องรวบรวม วิเคราะห์ และจัดเก็บข้อมูลวิดีโอ ปัจจุบัน ด้วยสถาปัตยกรรมโครงข่ายประสาทเทียมที่เป็นเอกลักษณ์เฉพาะของ Hailo ทำให้ VMS สามารถทำงานหลายอย่างพร้อมกันได้แบบเรียลไทม์ ทำให้สามารถประมวลผลช่องสัญญาณและแอปพลิเคชันจำนวนมากขึ้นพร้อมกันได้ แอปพลิเคชันประกอบด้วยการรู้จำป้ายทะเบียนรถขั้นสูง (LPR) การตรวจสอบการจราจร การตรวจจับพฤติกรรม และอื่นๆ

คุณช่วยพูดคุยเกี่ยวกับแกนประมวลผลเครือข่ายประสาทเทียมและวิธีการคำนวณโครงข่ายประสาทเทียมแบบคู่ขนานและตามลำดับได้ไหม

ตัวประมวลผล AI ของเราผสมผสานนวัตกรรมหลายอย่างซึ่งระบุถึงคุณสมบัติพื้นฐานของโครงข่ายประสาทเทียม เราใช้รูปแบบการควบคุมที่เป็นนวัตกรรมซึ่งใช้ฮาร์ดแวร์และซอฟต์แวร์ร่วมกันเพื่อให้ได้จูลที่ต่ำมากต่อการดำเนินการโดยมีความยืดหยุ่นสูง

สถาปัตยกรรมที่เน้นโฟลว์ข้อมูลที่เป็นเอกลักษณ์ของเราจะปรับให้เข้ากับโครงสร้างของนิวรัล เครือข่ายและอนุญาตให้ใช้ทรัพยากรสูง คอมไพเลอร์กระแสข้อมูล Hailo ประกอบด้วยซอฟต์แวร์แบบฟูลสแตก ซึ่งออกแบบร่วมกับฮาร์ดแวร์ของเรา เพื่อให้สามารถใช้งานโครงข่ายประสาทเทียมได้อย่างมีประสิทธิภาพ คอมไพเลอร์ dataflow รับโมเดลผู้ใช้เป็นอินพุต ในฐานะส่วนหนึ่งของโฟลว์การสร้าง คอมไพเลอร์โฟลว์ข้อมูลแบ่งเลเยอร์เครือข่ายแต่ละเลเยอร์ออกเป็นองค์ประกอบการคำนวณที่จำเป็น โดยสร้างกราฟทรัพยากรซึ่งเป็นตัวแทนของเครือข่ายเป้าหมาย จากนั้น คอมไพเลอร์กระแสข้อมูลจะจับคู่กราฟทรัพยากรของเครือข่ายเป้าหมายกับทรัพยากรที่มีอยู่จริงบนตัวประมวลผล สร้างไปป์ข้อมูลที่กำหนดเองสำหรับเครือข่ายเป้าหมาย เมื่อดำเนินการในลักษณะนี้ การเรียกใช้โมเดลบนอุปกรณ์จะมีประสิทธิภาพสูง โดยใช้ทรัพยากรในการคำนวณน้อยที่สุดตลอดเวลา

แพลตฟอร์มที่ใช้ Hailo ปัจจุบันใดบ้างที่พร้อมใช้งานสำหรับธุรกิจ ?

โปรเซสเซอร์ Hailo-8™ และโมดูล AI สามารถเสียบเข้ากับอุปกรณ์ Edge ที่หลากหลาย ช่วยขับเคลื่อนภาคส่วนต่างๆ ด้วยความสามารถด้าน AI ที่เหนือกว่า รวมถึงยานยนต์ เมืองอัจฉริยะ การค้าปลีกอัจฉริยะ และอุตสาหกรรม 4.0

Hailo ได้ร่วมมือกับผู้เล่น VMS และ ISV ชั้นนำ เช่น Innovatrics, Network Optix, GeoVision และ Art of Logic เพื่อเปิดใช้งานการวิเคราะห์วิดีโอที่มีประสิทธิภาพสูงสุดในระดับต่างๆ

โซลูชันเหล่านี้สามารถช่วยลูกค้าที่กำลังผสานรวมโซลูชัน AI ประหยัดเวลาได้มากเพียงใด

การจัดหาโซลูชันแบบผสานรวมที่ทำงานบนแพลตฟอร์ม VMS ที่จัดตั้งขึ้นเป็นการประหยัดเวลา แต่นี่ไม่ใช่ประโยชน์หลักของ ระบบ. โซลูชัน VMS ที่ใช้ Hailo ช่วยให้สตรีมทำงานพร้อมกันได้มากขึ้น และประมวลผลแอปพลิเคชันได้มากขึ้นสำหรับแต่ละสตรีม

ความสามารถในการควบคุม AI เพื่อประมวลผลสตรีมวิดีโอหลายรายการยังหมายความว่าต้องมีเหตุการณ์เฉพาะเจาะจงเท่านั้น สตรีมไปยังระบบคลาวด์เพื่อจัดเก็บ ซึ่งช่วยประหยัดแบนด์วิธและความจุในการจัดเก็บข้อมูลได้อย่างมาก

คุณได้เรียนรู้บทเรียนอะไรบ้างจากการปรับใช้แอปพลิเคชันการเรียนรู้เชิงลึกในอุปกรณ์ Edge

เราได้เห็นโดยตรงแล้วว่า AI ที่ Edge จะมีบทบาทสำคัญในการผลักดันนวัตกรรมในหลากหลายภาคส่วนในอีกไม่กี่ปีข้างหน้า ในขณะที่ธุรกิจต่าง ๆ แสวงหาโซลูชันที่ทำให้มั่นใจว่าอุปกรณ์ของพวกเขามีประสิทธิภาพมากขึ้น อเนกประสงค์ ตอบสนอง และปลอดภัย ระบบคลาวด์จะยังคงหลีกทางให้กับอุปกรณ์เอดจ์และรุ่นไฮบริดต่อไป ผู้ที่ประสบความสำเร็จในการนำ AI ไปใช้ที่เอดจ์จะได้รับความได้เปรียบทั่วทั้งกระดาน

วิสัยทัศน์ของคุณเกี่ยวกับอนาคตของเอดจ์คอมพิวติ้งคืออะไร

เอดจ์คอมพิวติ้ง — โดยเฉพาะ AI ที่เอดจ์ — มีความสามารถในการเปลี่ยนแปลงวิธีการทำงานของโลกรอบตัวเราอย่างสมบูรณ์ ทำให้อุปกรณ์ต่างๆ เช่น กล้องอัจฉริยะ ยานพาหนะอัจฉริยะ หุ่นยนต์อัตโนมัติ เครื่องมือการจัดการจราจรขั้นสูง การก่อสร้างอัจฉริยะ โรงงานอัจฉริยะ และอื่นๆ อีกมากมาย AI ที่ Edge มีพลังในการเปลี่ยนแปลงทุกสิ่ง ทำให้มีแอปพลิเคชันใหม่ๆ เพื่อทำให้โลกของเราฉลาดขึ้นและปลอดภัยยิ่งขึ้น เทคโนโลยีการประมวลผล AI ของ Hailo เป็นตัวขับเคลื่อนหลักสำหรับกรณีการใช้งานเหล่านี้ทั้งหมด เราจะยังคงร่วมมือกับผู้ผลิตและนักประดิษฐ์ทั่วโลกเพื่อให้โซลูชันเหล่านี้เข้าถึงได้มากขึ้น

ขอขอบคุณสำหรับบทสัมภาษณ์ดีๆ ผู้อ่านที่ต้องการเรียนรู้เพิ่มเติมควรไปที่ ไฮโล

By Henry Taylor

ฉันทำงานเป็นนักพัฒนาส่วนหลัง พวกคุณบางคนอาจเคยเห็นฉันที่การประชุมนักพัฒนาซอฟต์แวร์ เมื่อเร็ว ๆ นี้ฉันได้ทำงานในโครงการโอเพ่นซอร์ส