Orr Danon 是 Hailo 的首席執行官兼聯合創始人，該公司的使命是讓智能邊緣技術充分發揮其潛力。 Hailo 提出的解決方案彌合了現有和未來人工智能技術與支持這些應用程序所需的計算能力之間的差距。該公司專注於構建足夠高效和緊湊的 AI 處理器，以實時計算和解釋大量數據。
您能否分享 Hailo 背後的起源故事?
2017 年，我與之前在以色列國防軍 (IDF) 精英技術部門認識的同事共同創立了 Hailo。在與我的聯合創始人 Rami Feig 和 Avi Baum 合作開發 IoT（物聯網）解決方案時，一個鮮為人知的結構——“深度學習”——在我們的研究過程中不斷湧現。最終，我們匯集了該領域的專家，開發了一種新的深度學習解決方案，旨在解決老化的計算機架構的缺點，以使智能設備能夠在邊緣更有效、更高效地運行。在 Rami 不幸去世後，Hailo 團隊實現了他的願景——創造 Hailo 的突破性 AI 處理器。
您能否簡要解釋一下為什麼邊緣計算通常是優於雲計算的解決方案?
當我們創立 Hailo 時，顛覆性的 AI 技術主要限於雲或大型數據中心，因為它們成本高昂，需要高計算能力和大量硬件才能運行，並且消耗大量能源。我們相信人工智能正在幫助創造一個更好、更安全、更高效、更令人興奮的世界，但要實現這一點，人工智能也需要在邊緣可用。為了在網絡連接的攝像機、車輛和物聯網設備等設備上實施實時和低延遲應用程序，源頭處理對於有效操作至關重要。借助邊緣 AI，我們可以充分利用一些關鍵用例，為智慧城市、智能交通、自動駕駛、視頻管理系統 (VMS)、工業 4.0 等的未來提供動力。
在邊緣處理視覺數據背後有哪些挑戰?
目標是獲得盡可能多的性能和盡可能多的功能，以便將它們打包到邊緣設備中，以便它們能夠處理巨大的快速且幾乎沒有延遲的視覺數據量；然而，關鍵限制之一是功耗——無論是在可以向設備提供多少功率方面，還是在處理器產生的熱量方面。
智能相機，例如，製造商需要一個 AI 處理器以適應 2-3W 的封裝，因為相機不能使用風扇冷卻，因為它通常會有有限的電源.這些都是尖銳的痛點，因為在如此低的功耗下，使用市場上的大多數處理器時性能極其有限。
Hailo 如何重新構想 AI 處理器架構?
為此，我們專門設計了一種專為在邊緣設備上運行而構建的 AI 處理器，同時考慮了尺寸和功率限制。通過這樣做，我們在邊緣設備上實現了前所未有的計算能力，使它們能夠更高效地運行 AI 並執行複雜的深度學習應用程序，例如對象檢測、對象識別、分割等，其性能水平以前只能在雲。這種獨特的架構允許多流和多應用程序處理，從而提高邊緣設備的性能和成本效益。
使用這種架構的一個例子是視頻管理系統 (VMS)。這些系統被用於擁有大量攝像頭的區域，例如辦公樓、體育場館、智慧城市應用和高速公路，以更好地管理安全和安保，包括監控緊急情況和事故、可疑活動、交通管理、訪問控制、收費等.多年來，企業在收集、分析和存儲視頻數據時完全依賴人工流程。現在，借助 Hailo 獨特的神經網絡架構，VMS 可以實時並行執行多個任務，從而能夠同時處理更多通道和更多應用程序。應用包括高級車牌識別 (LPR)、交通監控、行為檢測等。
您能否討論一下神經網絡處理核心以及並行與順序計算神經網絡的方法?
我們的 AI 處理器結合了多項創新，解決了神經網絡的基本特性。我們應用了一種基於硬件和軟件組合的創新控制方案，以高度靈活地達到非常低的每次操作焦耳數。
我們獨特的面向數據流的架構適應神經網絡的結構網絡並允許高資源利用率。 Hailo 數據流編譯器由全棧軟件組成，與我們的硬件共同設計，可實現神經網絡的高效部署。數據流編譯器接收用戶模型作為輸入。作為構建流程的一部分，數據流編譯器將每個網絡層分解為所需的計算元素，生成一個表示目標網絡的資源圖。然後，數據流編譯器將目標網絡的資源圖與處理器上可用的物理資源進行匹配，為目標網絡生成定制的數據管道。以這種方式執行時，在設備上運行模型非常高效，始終使用最少的計算資源。
目前有哪些基於 Hailo 的平台可供企業使用?
Hailo-8™ 處理器和 AI 模塊可以插入各種邊緣設備，幫助為多個行業提供卓越的 AI 功能——包括汽車、智慧城市、智慧零售、和工業 4.0。
Hailo 已與領先的 VMS 和 ISV 參與者（例如 Innovatrics、Network Optix、GeoVision 和 Art of Logic）合作，以實現大規模的頂級視頻分析。
這些解決方案可以為集成 AI 解決方案的客戶節省多少時間?
採購在已建立的 VMS 平台上運行的集成解決方案可以節省時間，但這不是系統。基於 Hailo 的 VMS 解決方案支持更多流並行運行，並為每個流處理更多應用程序。
利用 AI 處理多個視頻流的能力還意味著只需特定事件流式傳輸到雲端進行存儲，從而顯著節省帶寬和存儲容量。
您從在邊緣設備中部署深度學習應用程序中學到了哪些經驗教訓?
我們已經親眼目睹了未來幾年邊緣人工智能將如何在推動各行各業的創新方面發揮關鍵作用。隨著企業尋求解決方案以確保其設備功能更強大、用途更廣、反應更靈敏且更安全，雲將繼續讓位於邊緣設備和混合模型。那些在邊緣成功實施 AI 的人將獲得全面的優勢。
您對邊緣計算的未來有何看法?
邊緣計算-特別是邊緣人工智能-有能力徹底改變我們周圍世界的運作方式，使智能相機、智能車輛、自主機器人、高級交通管理工具、智能建築、智能工廠等設備成為可能。邊緣 AI 有能力改變一切，使新的應用程序能夠讓我們的世界變得更智能、更安全。 Hailo 的 AI 處理技術是所有這些用例的主要推動力。我們將繼續與全球製造商和創新者合作，讓這些解決方案更容易獲得。
感謝您接受精彩的採訪，希望了解更多信息的讀者可以訪問 Hailo.