Orr Danon, es el director ejecutivo y cofundador de Hailo, una empresa con la misión de permitir que las tecnologías de vanguardia alcancen su máximo potencial. La solución que presenta Hailo cierra la brecha entre las tecnologías de IA existentes y futuras y la capacidad informática necesaria para impulsar estas aplicaciones. La compañía se enfoca en construir procesadores de IA lo suficientemente eficientes y compactos para calcular e interpretar grandes cantidades de datos en tiempo real.
¿Podría compartir la historia de génesis detrás de Hailo?
Cofundé Hailo en 2017 junto con colegas que había conocido anteriormente en la unidad de tecnología de élite de las Fuerzas de Defensa de Israel (FDI). Mientras trabajaba con mis cofundadores Rami Feig y Avi Baum en soluciones IoT (Internet de las cosas), una construcción menos conocida, el”aprendizaje profundo”, siguió apareciendo a lo largo de nuestra investigación. Eventualmente, reunimos a expertos en el campo para desarrollar una nueva solución de aprendizaje profundo que tenía como objetivo resolver las deficiencias de la arquitectura informática obsoleta para permitir que los dispositivos inteligentes funcionen de manera más efectiva y eficiente en el perímetro. Después del desafortunado fallecimiento de Rami, el equipo de Hailo vio su visión a través de la creación del innovador procesador de IA de Hailo.
¿Podría explicar brevemente por qué la computación perimetral suele ser una solución superior a la computación en la nube?
Cuando comenzamos con Hailo, las tecnologías disruptivas de IA se limitaban en gran medida a la nube o a los grandes centros de datos, ya que son costosos, requieren una gran potencia informática y un hardware extenso para funcionar, y consumen una cantidad significativa de energía. Creemos que la IA está ayudando a crear un mundo mejor, más seguro, más productivo y más emocionante, pero para que esto suceda, la IA también debe estar disponible en el perímetro. Para la implementación de aplicaciones en tiempo real y de baja latencia en dispositivos como cámaras conectadas a la red, vehículos y dispositivos IoT, el procesamiento en la fuente es esencial para una operación efectiva. Con Edge AI, podemos aprovechar por completo una serie de casos de uso clave que impulsan el futuro de las ciudades inteligentes, el transporte inteligente, la conducción autónoma, los sistemas de gestión de video (VMS), la Industria 4.0 y más.
¿Cuáles son algunos de los desafíos detrás del procesamiento de datos visuales en el perímetro?
El objetivo es obtener el mayor rendimiento y la mayor cantidad de funciones que se puedan incluir en los dispositivos del perímetro para que puedan procesar una enorme cantidad de datos visuales de forma rápida y con poca latencia; sin embargo, una de las limitaciones clave es el consumo de energía, tanto en términos de cuánta energía se puede entregar al dispositivo como del calor generado por el procesador.
Con cámaras inteligentes, por ejemplo, los fabricantes necesitan un procesador de IA que quepa en un sobre de 2-3 W porque la cámara no puede usar refrigeración por ventilador y porque generalmente tendrá una fuente de alimentación limitada. Estos son puntos críticos agudos porque con tan poca potencia, el rendimiento es extremadamente limitado cuando se usa la mayoría de los procesadores del mercado.
¿Cómo reinventó Hailo la arquitectura del procesador de IA?
Lo hicimos diseñando específicamente un procesador de IA diseñado para funcionar en dispositivos periféricos, teniendo en cuenta las limitaciones de tamaño y potencia. Al hacerlo, habilitamos una potencia de cómputo sin precedentes en los dispositivos perimetrales, lo que les permite ejecutar IA de manera más eficiente y eficaz y realizar aplicaciones sofisticadas de aprendizaje profundo, como detección de objetos, reconocimiento de objetos, segmentación y otras, con niveles de rendimiento que anteriormente solo eran posibles en el nube. Esta arquitectura única permite el procesamiento de múltiples transmisiones y aplicaciones, lo que mejora el rendimiento y la rentabilidad de los dispositivos periféricos.
Un ejemplo del uso de esta arquitectura son los sistemas de gestión de video (VMS). Estos sistemas se están utilizando en áreas con numerosas cámaras, como edificios de oficinas, estadios, aplicaciones de ciudades inteligentes y autopistas para administrar mejor la seguridad, incluido el monitoreo de emergencias y accidentes, actividades sospechosas, administración de tráfico, control de acceso, cobro de peaje y más.. Durante muchos años, las empresas dependían por completo de los procesos manuales cuando se trataba de recopilar, analizar y almacenar datos de video. Ahora, con la arquitectura de red neuronal única de Hailo, VMS puede realizar múltiples tareas en paralelo, en tiempo real, lo que permite el procesamiento de más canales y más aplicaciones al mismo tiempo. Las aplicaciones incluyen reconocimiento avanzado de matrículas (LPR), monitoreo de tráfico, detección de comportamiento y más.
¿Podría hablar sobre el núcleo de procesamiento de redes neuronales y su enfoque de cálculo de redes neuronales en paralelo versus secuencialmente?
Nuestro procesador de IA combina múltiples innovaciones que abordan las propiedades fundamentales de las redes neuronales. Aplicamos un esquema de control innovador que se basa en una combinación de hardware y software para alcanzar muy bajos julios por operación con un alto grado de flexibilidad.
Nuestra arquitectura única orientada al flujo de datos se adapta a la estructura de la red neuronal red y permite una alta utilización de recursos. El compilador de flujo de datos de Hailo está compuesto por software de pila completa, codiseñado con nuestro hardware, para permitir la implementación eficiente de redes neuronales. El compilador de flujo de datos recibe el modelo de usuario como entrada. Como parte del flujo de construcción, el compilador de flujo de datos divide cada una de las capas de la red en los elementos computacionales requeridos, generando un gráfico de recursos que es una representación de la red de destino. Luego, el compilador de flujo de datos hace coincidir el gráfico de recursos de la red de destino con los recursos físicos disponibles en el procesador, generando una canalización de datos personalizada para la red de destino. Cuando se lleva a cabo de esta manera, la ejecución de un modelo en un dispositivo es muy eficiente y utiliza recursos informáticos mínimos en todo momento.
¿Cuáles son algunas de las plataformas actuales basadas en Hailo que están disponibles para las empresas? ?
El procesador Hailo-8™ y los módulos de IA se pueden conectar a una variedad de dispositivos periféricos, lo que ayuda a potenciar múltiples sectores con capacidades superiores de IA, que incluyen automoción, ciudades inteligentes, venta minorista inteligente, y la industria 4.0.
Hailo se ha asociado con los principales VMS e ISV, como Innovatrics, Network Optix, GeoVision y Art of Logic, para permitir análisis de video de alto rendimiento a escala.
¿Cuánto tiempo pueden ahorrar estas soluciones a los clientes que están integrando soluciones de IA?
Obtener soluciones integradas que se ejecutan en plataformas VMS establecidas ahorra tiempo, pero este no es el principal beneficio de el sistema. Las soluciones VMS basadas en Hailo permiten que se ejecuten más transmisiones en paralelo y que se procesen más aplicaciones para cada transmisión.
La capacidad de aprovechar la IA para procesar múltiples transmisiones de video también significa que solo se deben procesar eventos específicos. transmitido a la nube para almacenamiento, lo que permite ahorros significativos en ancho de banda y capacidad de almacenamiento.
¿Cuáles son algunas lecciones que aprendió al implementar aplicaciones de aprendizaje profundo en dispositivos perimetrales?
Hemos visto de primera mano cómo la IA en el borde desempeñará un papel clave para impulsar la innovación en una amplia variedad de sectores en los próximos años. A medida que las empresas busquen soluciones que aseguren que sus dispositivos sean más potentes, versátiles, receptivos y seguros, la nube seguirá dando paso a dispositivos periféricos y modelos híbridos. Aquellos que tengan éxito en la implementación de IA en el perímetro obtendrán una ventaja en todos los ámbitos.
¿Cuál es su visión para el futuro de la computación perimetral?
La computación perimetral — específicamente AI en el borde — tiene la capacidad de transformar completamente la forma en que funciona el mundo que nos rodea, habilitando dispositivos como cámaras inteligentes, vehículos inteligentes, robots autónomos, herramientas avanzadas de gestión de tráfico, construcción inteligente, fábricas inteligentes y más. La IA en el perímetro tiene el poder de cambiar cualquier cosa y todo, lo que permite que las nuevas aplicaciones hagan que nuestro mundo sea más inteligente y seguro. La tecnología de procesamiento de IA de Hailo es un facilitador importante de todos estos casos de uso. Continuaremos asociándonos con fabricantes e innovadores de todo el mundo para hacer que estas soluciones sean más accesibles.
Gracias por la excelente entrevista, los lectores que deseen obtener más información deben visitar Hailo.