Todos os dias, milhares de dispositivos e aplicativos correm pelas linhas de montagem da Jabil, uma fornecedora de soluções de manufatura, em direção às mãos dos clientes.
Ao longo do caminho, um sistema de inspeção óptica automatizado faz uma varredura em busca de defeitos, para garantir que todas as possíveis anomalias sejam detectadas. Em seguida, envia essas partes para verificação manual.
A velocidade das operações faz com que os inspetores tenham apenas alguns segundos para decidir se o produto está realmente com defeito ou não.
É aí que o Projeto Brainwave da Microsoft entra. O Projeto Brainwave é uma arquitetura de hardware projetada para acelerar os cálculos de inteligência artificial (IA) em tempo real. A arquitetura do Projeto Brainwave é implantada em um tipo de chip de computador da Intel, chamado FPGA (Field Programmable Gate Array), para fazer cálculos de IA em tempo real a um custo competitivo e com a menor latência ou atraso do setor. Isso se baseia em medições internas de desempenho e em comparações com informações divulgadas publicamente por outras organizações.
Na conferência de desenvolvedores Microsoft Build, em Seattle, na semana passada, a empresa anunciou um preview do Projeto Brainwave, integrado ao Azure Machine Learning, que, segundo a empresa, fará do Azure a plataforma de computação em nuvem mais eficiente para IA.
Mark Russinovich, diretor técnico da plataforma de computação em nuvem Azure, da Microsoft, disse que a prévia do Projeto Brainwave marca o início dos esforços da empresa para levar o poder dos FPGAs aos clientes para diversas finalidades.
“Acho que esse é o primeiro passo para tornar os FPGAs mais uma plataforma de propósito geral para os clientes”, disse Russinovich.
A Jabil está trabalhando com a Microsoft para analisar como poderia usar o Projeto Brainwave para aproveitar a IA de maneira rápida e precisa para digitalizar imagens e sinalizar falsos positivos – ou itens que não são realmente defeituosos. Essa análise mais detalhada vai liberar as pessoas que verificam manualmente os defeitos para se concentrarem nos casos mais complexos.
Todos esses segundos economizados se somam, disse Ryan Litvak, gerente de TI da Jabil, já que os clientes de manufatura estão sempre ansiosos para ter ganhos de eficiência que possam passar para seus clientes.
“É altamente competitivo, então, qualquer coisa que você possa fazer para obter uma vantagem para o cliente vai proporcionar melhorias incrementais”, afirmou.
A prévia do Projeto Brainwave inclui a capacidade de os clientes fazerem o reconhecimento ultrarrápido de imagens para aplicativos, como os que a Jabil está testando, e permite que as pessoas realizem cálculos baseados em IA em tempo real, em vez de agrupá-los em grupos menores de cálculos separados. Ele funciona no TensorFlow, uma das estruturas mais usadas para fazer cálculos de IA usando redes neurais profundas, um método que é mais ou menos modelado em teorias sobre como o cérebro funciona. Além disso, a Microsoft está trabalhando para oferecer suporte ao Microsoft Cognitive Toolkit, outra estrutura popular para aprendizado profundo.
A Microsoft também anunciou uma prévia limitada para levar o Projeto Brainwave à fronteira, o que significa que os clientes podem aproveitar a velocidade de computação em suas próprias empresas e instalações, mesmo que seus sistemas não estejam conectados a uma rede ou à Internet.
“Estamos disponibilizando a IA em tempo real para os clientes, tanto na nuvem quanto na fronteira”, disse Doug Burger, engenheiro da Microsoft que lidera o grupo que foi pioneiro na ideia de usar FPGAs para o trabalho de IA.
Para a Jabil, Litvak disse que o esforço para tornar o Projeto Brainwave disponível na fronteira, o que permitiria que sua empresa o colocasse diretamente nas instalações de manufatura, é a chave para torná-lo prático e lucrativo na implantação em todas as suas operações.
A Jabil é uma das maiores e tecnologicamente mais avançadas provedoras de soluções de manufatura do mundo. Seus clientes vêm até ela em todos os estágios de seus planos de negócios, desde uma ideia em um guardanapo até um produto completo pronto para montagem, mas todos eles têm uma coisa em comum – a necessidade de operar da maneira mais eficiente e econômica possível. Isso significa que a capacidade de economizar até mesmo alguns milissegundos de tempo e um pouco de dinheiro, ao não enviar cada cálculo para a nuvem, já é ótima.
Litvak disse que a capacidade de levar o Projeto Brainwave à fronteira poderia permitir que a Jabil se distancie do piloto e leve a capacidade a todas as suas operações de manufatura.
A Jabil também está procurando maneiras de usar a IA no Projeto Brainwave para prever melhor quando as operações de manufatura precisam de manutenção, como uma maneira de reduzir o tempo de inatividade.
Da pesquisa ao produto
A prévia pública do Projeto Brainwave ocorre cerca de cinco anos depois que Burger, um ex-acadêmico que trabalha nos laboratórios de pesquisa da Microsoft, começou a falar sobre a ideia de usar FPGAs para um processamento computacional mais eficiente. Quando ele refinou sua ideia, a atual revolução da IA entrou em ação. Isso criou uma enorme necessidade de sistemas que possam processar grandes quantidades de dados necessários para que os sistemas de IA realizem ações, como digitalizar documentos e imagens para obter informações, reconhecer fala e traduzir conversas.
Burger diz que o Projeto Brainwave é perfeito para as demandas da computação artificial. O projeto de hardware do Brainwave pode evoluir rapidamente e ser remapeado para o FPGA após cada melhoria, acompanhando novas descobertas e mantendo-se atualizado com os requisitos dos algoritmos de IA que mudam rapidamente.
Um FPGA também pode ser rapidamente reprogramado para responder a novos avanços em IA, tornando-o mais flexível do que outros tipos de chips de computador em um campo de mudanças tão rápido.
A demanda por sistemas que podem manipular cargas de trabalho de IA rapidamente, e a um custo razoável, só deve crescer. Isso ocorre porque as empresas estão procurando usos mais sofisticados da IA, como analisar dados não estruturados, tais como vídeos, e estão desenvolvendo algoritmos de IA que podem fazer coisas como pesquisar vídeos de todas as imagens de cidades próximas aos oceanos.
“Vamos precisar de muito mais poder de computação”, disse Burger.
Do Bing e do Azure para todas as empresas
Os FPGAs não eram novos quando Burger e sua equipe começaram a explorar a ideia que levou ao Projeto Brainwave, mas, até então, ninguém os considerava para computação em grande escala. Então, a equipe começou a provar que eles poderiam ser usados em cenários mais práticos.
Burger e sua equipe encontraram parceiros para seu projeto, inicialmente chamado de Project Catapult, no mecanismo de pesquisa do Bing e nas equipes de nuvem do Azure.
Eric Chung, pesquisador sênior do grupo Silicon Systems Futures, da Microsoft, e líder técnico do Projeto Brainwave, descreve o Bing como “limitado pela baixa latência”. Essa é uma maneira técnica de dizer que, quando os clientes do Bing digitam um termo de pesquisa, esperam quase instantaneamente os resultados.
Isso significa que os engenheiros do Bing estão constantemente procurando maneiras de melhorar a qualidade de seus resultados, sem abrir mão de um milésimo de segundo de velocidade, no momento em que a quantidade e os tipos de mecanismos de pesquisa de dados estão crescendo.
Usando FPGAs, a equipe conseguiu incorporar rapidamente a tecnologia de pesquisa baseada em rede neural profunda no Bing, acelerando enormemente a capacidade do sistema de fornecer resultados.
“Isso só foi possível porque foi feito em hardware programável”, conta Steve Reinhardt, gerente de engenharia de hardware e líder de aceleração de hardware do Bing.
Agora, Ted Way, gerente de programa sênior do Azure Machine Learning, disse que o hardware programável tem outra grande vantagem – será fácil reprogramá-lo à medida que aparecerem inovações, enquanto outros sistemas podem exigir que você atualize o hardware, o que poderia levar meses ou anos.
O Azure também tem usado FPGAs nos últimos anos para acelerar a rede em nuvem.
IA em tempo real para análise geoespacial
Para muitos clientes, o maior benefício do Projeto Brainwave é a capacidade de fazer análises de IA em tempo real.
Em um determinado dia, a empresa de análise geoespacial Esri pode fazer análise de tráfego em tempo real, ajudando uma organização sem fins lucrativos a categorizar terrenos, como prédios, florestas e água, ou prever o tempo de chegada de milhares de veículos.
Todos esses projetos exigem que a empresa analise uma ampla variedade de dados diferentes, de fontes como imagens de satélite, feeds de vídeo e sensores. Embora existam métodos para incorporar esses feeds de dados, o cálculo intensivo envolvido pode levar a atrasos.
Ao usar a IA, Omar Maher, líder em análises avançadas da Esri, disse que conseguiu fazer análises mais detalhadas e precisas do que nunca. Isso permite que os usuários da Esri se concentrem em trabalhos de valor mais alto, como o fornecimento de recomendações sofisticadas para as partes interessadas.
“Estamos economizando tempo, esforço e dinheiro de nossos clientes e permitindo que eles se concentrem nas coisas realmente importantes”, afirma Maher.
À medida que as ferramentas de inteligência artificial melhoram, Maher disse que a empresa está vendo um aumento na necessidade de processar grandes quantidades de dados em tempo real. Por exemplo, a empresa pode querer extrair informações de milhares de feeds de vídeo para detectar carros, bicicletas, ônibus, pedestres e outros objetos, a fim de compreender padrões e anormalidades de tráfego. Ou pode querer fazer análises em tempo real de dados de satélite para detectar objetos diferentes, como casas danificadas.
É por isso que a Esri está conversando com a Microsoft sobre a possibilidade de usar o Projeto Brainwave em uma análise de IA em tempo real mais eficiente e econômica.
“Podemos definitivamente ver o potencial, especialmente com a IA em tempo real”, diz Maher.
Imagem do alto: Doug Burger mostra um exemplo do hardware usado para o Projeto Brainwave (Foto: Scott Eklund/Red Box Pictures)
Por Allison Linn