Orr Danon, è il CEO e co-fondatore di Hailo, un’azienda con la missione di consentire alle tecnologie smart edge di raggiungere il loro pieno potenziale. La soluzione presentata da Hailo colma il divario tra le tecnologie AI esistenti e future e la capacità di elaborazione necessaria per alimentare queste applicazioni. L’azienda si concentra sulla creazione di processori di intelligenza artificiale efficienti e abbastanza compatti da elaborare e interpretare grandi quantità di dati in tempo reale.

Potresti condividere la storia di genesi di Hailo?

Ho co-fondato Hailo nel 2017 insieme a colleghi che avevo incontrato in precedenza nell’unità tecnologica d’élite delle forze di difesa israeliane (IDF). Mentre lavoravo con i miei co-fondatori Rami Feig e Avi Baum sulle soluzioni IoT (Internet of Things), un costrutto meno noto-“Deep Learning”-continuava a spuntare durante la nostra ricerca. Alla fine, abbiamo riunito esperti del settore per sviluppare una nuova soluzione di deep learning che mirasse a risolvere le carenze dell’invecchiamento dell’architettura dei computer al fine di consentire ai dispositivi intelligenti di operare in modo più efficace ed efficiente all’edge. Dopo la sfortunata scomparsa di Rami, il team di Hailo ha realizzato la sua visione, creando l’innovativo processore AI di Hailo.

Potresti spiegare brevemente perché l’edge computing è spesso una soluzione superiore al cloud computing?

Quando abbiamo avviato Hailo, le rivoluzionarie tecnologie AI erano in gran parte limitati al cloud o ai data center di grandi dimensioni, poiché sono costosi, richiedono un’elevata potenza di calcolo e un hardware esteso per funzionare e consumano una notevole quantità di energia. Crediamo che l’IA stia contribuendo a creare un mondo migliore, più sicuro, più produttivo e più entusiasmante, ma affinché ciò accada, l’IA deve essere disponibile anche all’edge. Per l’implementazione di applicazioni in tempo reale e a bassa latenza su dispositivi come telecamere connesse in rete, veicoli e dispositivi IoT, l’elaborazione alla fonte è essenziale per un funzionamento efficace. Con l’edge AI, possiamo sfruttare appieno una serie di casi d’uso chiave che alimentano il futuro delle città intelligenti, dei trasporti intelligenti, della guida autonoma, dei sistemi di gestione video (VMS), dell’Industria 4.0 e altro ancora.

Quali sono alcune delle sfide alla base dell’elaborazione dei dati visivi sull’edge?

L’obiettivo è ottenere tutte le prestazioni e tutte le funzionalità che possono essere racchiuse nei dispositivi edge in modo che possano elaborare un enorme quantità di dati visivi rapidamente e con poca latenza; tuttavia uno dei limiti principali è il consumo energetico, sia in termini di quanta energia può essere fornita al dispositivo sia in termini di calore generato dal processore.

Con telecamere intelligenti, ad esempio, i produttori hanno bisogno di un processore AI che rientri in un involucro da 2-3 W perché la telecamera non può utilizzare il raffreddamento della ventola e perché generalmente avrà un alimentatore limitato. Questi sono punti dolenti acuti perché a una potenza così bassa, le prestazioni sono estremamente limitate quando si utilizza la maggior parte dei processori sul mercato.

In che modo Hailo ha reinventato l’architettura del processore AI?

Lo abbiamo fatto progettando in modo specifico un processore AI progettato per funzionare su dispositivi edge, tenendo conto delle dimensioni e dei limiti di potenza. In questo modo, abilitiamo una potenza di elaborazione senza precedenti sui dispositivi edge, consentendo loro di eseguire l’IA in modo più efficiente ed efficace e di eseguire sofisticate applicazioni di deep learning come rilevamento di oggetti, riconoscimento di oggetti, segmentazione e altro, con livelli di prestazioni precedentemente possibili solo nel nuvola. Questa architettura esclusiva consente l’elaborazione multi-stream e multi-applicazione, migliorando le prestazioni e l’economicità dei dispositivi perimetrali.

Un esempio dell’utilizzo di questa architettura sono i sistemi di gestione video (VMS). Questi sistemi vengono utilizzati in aree con numerose telecamere, come edifici per uffici, stadi, applicazioni per città intelligenti e autostrade per gestire meglio la sicurezza e la protezione, incluso il monitoraggio di emergenze e incidenti, attività sospette, gestione del traffico, controllo degli accessi, riscossione dei pedaggi e altro ancora. Per molti anni, le aziende si sono affidate interamente a processi manuali quando si trattava di raccogliere, analizzare e archiviare i dati video. Ora, con l’esclusiva architettura di rete neurale di Hailo, VMS può svolgere più attività in parallelo, in tempo reale, consentendo l’elaborazione di più canali e più applicazioni contemporaneamente. Le applicazioni includono il riconoscimento avanzato delle targhe (LPR), il monitoraggio del traffico, il rilevamento comportamentale e altro ancora.

Potresti parlare del nucleo di elaborazione della rete neurale e del tuo approccio al calcolo delle reti neurali in parallelo anziché in sequenza?

Il nostro processore AI combina molteplici innovazioni che affrontano le proprietà fondamentali delle reti neurali. Abbiamo applicato uno schema di controllo innovativo basato su una combinazione di hardware e software per raggiungere joule molto bassi per operazione con un alto grado di flessibilità.

La nostra esclusiva architettura orientata al flusso di dati si adatta alla struttura del sistema neurale rete e consente un elevato utilizzo delle risorse. Il compilatore del flusso di dati Hailo è composto da un software stack completo, progettato in collaborazione con il nostro hardware, per consentire un’implementazione efficiente delle reti neurali. Il compilatore del flusso di dati riceve il modello utente come input. Come parte del flusso di compilazione, il compilatore del flusso di dati suddivide ciascuno dei livelli di rete negli elementi computazionali richiesti, generando un grafico delle risorse che è una rappresentazione della rete di destinazione. Il compilatore del flusso di dati quindi abbina il grafico delle risorse della rete di destinazione alle risorse fisiche disponibili sul processore, generando una pipe di dati personalizzata per la rete di destinazione. Se eseguito in questo modo, l’esecuzione di un modello su un dispositivo è estremamente efficiente e utilizza sempre risorse di calcolo minime.

Quali sono alcune delle attuali piattaforme basate su Hailo disponibili per le aziende ?

Il processore Hailo-8™ e i moduli AI possono essere collegati a una varietà di dispositivi edge, contribuendo a potenziare più settori con capacità AI superiori, tra cui automotive, città intelligenti, vendita al dettaglio intelligente, e l’industria 4.0.

Hailo ha stretto una partnership con i principali attori VMS e ISV come Innovatrics, Network Optix, GeoVision e Art of Logic, per consentire analisi video ad alte prestazioni su larga scala.

Quanto tempo possono far risparmiare queste soluzioni ai clienti che stanno integrando soluzioni AI?

L’approvvigionamento di soluzioni integrate che girano su piattaforme VMS consolidate fa risparmiare tempo, ma questo non è il vantaggio principale di il sistema. Le soluzioni VMS basate su Hailo consentono l’esecuzione in parallelo di più flussi e l’elaborazione di più applicazioni per ogni flusso.

La capacità di sfruttare l’intelligenza artificiale per elaborare più flussi video significa anche che devono essere in streaming nel cloud per l’archiviazione, consentendo risparmi significativi sulla larghezza di banda e sulla capacità di archiviazione.

Quali sono alcune lezioni che hai imparato dall’implementazione di applicazioni di deep learning nei dispositivi perimetrali?

Abbiamo visto in prima persona come l’IA all’edge svolgerà un ruolo chiave nel guidare l’innovazione in un’ampia varietà di settori nei prossimi anni. Mentre le aziende cercano soluzioni che garantiscano che i loro dispositivi siano più potenti, versatili, reattivi e sicuri, il cloud continuerà a lasciare il posto ai dispositivi edge e ai modelli ibridi. Coloro che riescono a implementare l’IA nell’edge otterranno un vantaggio su tutta la linea.

Qual ​​è la tua visione per il futuro dell’edge computing?

Edge computing-in particolare l’IA all’edge-ha la capacità di trasformare completamente il modo in cui funziona il mondo che ci circonda, abilitando dispositivi come telecamere intelligenti, veicoli intelligenti, robot autonomi, strumenti avanzati di gestione del traffico, costruzioni intelligenti, fabbriche intelligenti e altro ancora. L’intelligenza artificiale all’edge ha il potere di cambiare qualsiasi cosa, consentendo a nuove applicazioni di rendere il nostro mondo più intelligente e sicuro. La tecnologia di elaborazione AI di Hailo è uno dei principali fattori abilitanti di tutti questi casi d’uso. Continueremo a collaborare con produttori e innovatori in tutto il mondo per rendere queste soluzioni più accessibili.

Grazie per l’ottima intervista, i lettori che desiderano saperne di più dovrebbero visitare Hailo.

By Maisy Hall

Lavoro come scrittrice freelance. Sono anche vegana e ambientalista. Quando ho tempo, mi dedico alla meditazione.