Orr Danon é o CEO e co-fundador da Hailo, uma empresa com a missão de permitir que as tecnologias de borda inteligente atinjam todo o seu potencial. A solução que a Hailo apresenta preenche a lacuna entre as tecnologias de IA existentes e futuras e a capacidade de computação necessária para alimentar esses aplicativos. A empresa está focada em construir processadores de IA eficientes e compactos o suficiente para computar e interpretar grandes quantidades de dados em tempo real.
Você poderia compartilhar a história da gênese por trás do Hailo?
Fui co-fundador da Hailo em 2017 junto com colegas que conheci anteriormente na unidade de tecnologia de elite das Forças de Defesa de Israel (IDF). Enquanto trabalhava com meus cofundadores Rami Feig e Avi Baum em soluções de IoT (Internet das Coisas), uma construção menos conhecida – “Deep Learning” – continuou aparecendo ao longo de nossa pesquisa. Por fim, reunimos especialistas na área para desenvolver uma nova solução de aprendizado profundo que visava resolver as deficiências da arquitetura de computador envelhecida, a fim de permitir que dispositivos inteligentes operem de forma mais eficaz e eficiente na borda. Após o infeliz falecimento de Rami, a equipe de Hailo concretizou sua visão – criando o inovador processador AI de Hailo.
Você poderia explicar brevemente por que a computação de ponta geralmente é uma solução superior à computação em nuvem?
Quando começamos o Hailo, tecnologias disruptivas de IA foram amplamente limitados à nuvem ou grandes centros de dados, pois são caros, exigem alto poder de computação e hardware extenso para funcionar e consomem uma quantidade significativa de energia. Acreditamos que a IA está ajudando a criar um mundo melhor, mais seguro, mais produtivo e mais empolgante, mas para que isso aconteça, a IA também precisa estar disponível na periferia. Para a implementação de aplicativos em tempo real e de baixa latência em dispositivos como câmeras conectadas à rede, veículos e dispositivos IoT, o processamento na origem é essencial para uma operação eficaz. Com o edge AI, podemos aproveitar totalmente vários casos de uso importantes que impulsionam o futuro das cidades inteligentes, transporte inteligente, direção autônoma, sistemas de gerenciamento de vídeo (VMS), Indústria 4.0 e muito mais.
Quais são alguns dos desafios por trás do processamento de dados visuais na borda?
O objetivo é obter o máximo desempenho e tantos recursos quanto possível em dispositivos de ponta para que eles possam processar uma enorme quantidade de dados visuais rapidamente e com pouca latência; no entanto, uma das principais restrições é o consumo de energia, tanto em termos de quanta energia pode ser fornecida ao dispositivo quanto do calor gerado pelo processador.
Com câmeras inteligentes, por exemplo, os fabricantes precisam de um processador AI para caber em um envelope de 2-3W porque a câmera não pode usar refrigeração por ventilador e porque geralmente terá uma fonte de alimentação limitada. Esses são pontos problemáticos porque, com tão pouca energia, o desempenho é extremamente limitado ao usar a maioria dos processadores do mercado.
Como a Hailo reinventou a arquitetura do processador AI?
Fizemos isso projetando especificamente um processador de IA construído para funcionar em dispositivos de ponta, levando em consideração as limitações de tamanho e energia. Ao fazer isso, habilitamos um poder de computação sem precedentes em dispositivos de ponta, permitindo que eles executem IA com mais eficiência e eficácia e executem aplicativos sofisticados de aprendizado profundo, como detecção de objetos, reconhecimento de objetos, segmentação e outros, com níveis de desempenho anteriormente possíveis apenas no nuvem. Essa arquitetura exclusiva permite o processamento de vários fluxos e vários aplicativos, melhorando o desempenho e a economia dos dispositivos de ponta.
Um exemplo do uso dessa arquitetura são os sistemas de gerenciamento de vídeo (VMS). Esses sistemas estão sendo utilizados em áreas com várias câmeras, como prédios de escritórios, estádios, aplicativos de cidades inteligentes e rodovias para melhor gerenciar a segurança e a proteção, incluindo monitoramento de emergências e acidentes, atividades suspeitas, gerenciamento de tráfego, controle de acesso, cobrança de pedágio e muito mais. Por muitos anos, as empresas confiaram inteiramente em processos manuais quando se tratava de coletar, analisar e armazenar dados de vídeo. Agora, com a arquitetura de rede neural exclusiva da Hailo, o VMS pode realizar várias tarefas em paralelo, em tempo real, permitindo o processamento de mais canais e mais aplicativos simultaneamente. Os aplicativos incluem reconhecimento avançado de placas de veículos (LPR), monitoramento de tráfego, detecção comportamental e muito mais.
Você poderia discutir o núcleo de processamento da rede neural e sua abordagem de cálculo de redes neurais em paralelo versus sequencial?
Nosso processador AI combina várias inovações que abordam as propriedades fundamentais das redes neurais. Aplicamos um esquema de controle inovador baseado em uma combinação de hardware e software para atingir joules muito baixos por operação com alto grau de flexibilidade.
Nossa arquitetura exclusiva orientada a fluxo de dados se adapta à estrutura do neural rede e permite alta utilização de recursos. O compilador de fluxo de dados Hailo é composto de software de pilha completa, co-projetado com nosso hardware, para permitir a implantação eficiente de redes neurais. O compilador de fluxo de dados recebe o modelo do usuário como entrada. Como parte do fluxo de construção, o compilador de fluxo de dados divide cada uma das camadas de rede nos elementos computacionais necessários, gerando um gráfico de recursos que é uma representação da rede de destino. O compilador de fluxo de dados combina o gráfico de recursos da rede de destino com os recursos físicos disponíveis no processador, gerando um canal de dados personalizado para a rede de destino. Quando executado dessa maneira, a execução de um modelo em um dispositivo é altamente eficiente, usando recursos de computação mínimos o tempo todo.
Quais são algumas das plataformas atuais baseadas em Hailo disponíveis para empresas ?
O processador Hailo-8™ e os módulos AI podem ser conectados a uma variedade de dispositivos de ponta, ajudando a potencializar vários setores com recursos superiores de AI-incluindo automotivo, cidades inteligentes, varejo inteligente, e indústria 4.0.
A Hailo fez parceria com os principais players de VMS e ISV, como Innovatrics, Network Optix, GeoVision e Art of Logic, para permitir análises de vídeo de alto desempenho em escala.
Quanto tempo essas soluções podem economizar para os clientes que estão integrando soluções de IA?
O fornecimento de soluções integradas executadas em plataformas VMS estabelecidas economiza tempo, mas esse não é o principal benefício de o sistema. As soluções VMS baseadas em Hailo permitem que mais fluxos sejam executados em paralelo e mais aplicativos sejam processados para cada fluxo.
A capacidade de aproveitar a IA para processar vários fluxos de vídeo também significa que apenas eventos específicos precisam ser transmitido para a nuvem para armazenamento, permitindo economias significativas em largura de banda e capacidade de armazenamento.
Quais são algumas lições que você aprendeu com a implantação de aplicativos de aprendizado profundo em dispositivos de borda?
Vimos em primeira mão como a IA na borda desempenhará um papel fundamental na promoção da inovação em uma ampla variedade de setores nos próximos anos. À medida que as empresas buscam soluções que garantam que seus dispositivos sejam mais poderosos, versáteis, responsivos e seguros, a nuvem continuará dando lugar a dispositivos de ponta e modelos híbridos. Aqueles que tiverem sucesso na implementação de IA na borda ganharão vantagem em todos os aspectos.
Qual é sua visão para o futuro da computação de borda?
Computação de ponta — especificamente IA na borda — tem a capacidade de transformar completamente a forma como o mundo ao nosso redor funciona, permitindo dispositivos como câmeras inteligentes, veículos inteligentes, robôs autônomos, ferramentas avançadas de gerenciamento de tráfego, construção inteligente, fábricas inteligentes e muito mais. A IA na borda tem o poder de mudar tudo e qualquer coisa, permitindo que novos aplicativos tornem nosso mundo mais inteligente e seguro. A tecnologia de processamento de IA da Hailo é um dos principais facilitadores de todos esses casos de uso. Continuaremos a fazer parceria com fabricantes e inovadores em todo o mundo para tornar essas soluções mais acessíveis.
Obrigado pela ótima entrevista, os leitores que desejam saber mais devem visitar Hailo.