A NVIDIA anuncia a NVIDIA EGX, uma plataforma de computação acelerada que permite às empresas executar IA de baixa latência na borda para perceber, entender e atuar em tempo real dados contínuos transmitidos entre estações base 5G, depósitos, lojas de varejo, fábricas e muito mais.
A NVIDIA EGX foi criada para atender à crescente demanda de execução de IA instantânea de alta produtividade na borda, onde os dados são criados, com tempos de resposta garantidos, ao mesmo tempo que reduz a quantidade de dados que devem ser enviados para a nuvem.
Até 2025, 150 bilhões de sensores de máquinas e dispositivos de IoT transmitirão dados contínuos que precisarão ser processados(1), números maiores do que os produzidos atualmente por usuários de smartphones.
Os servidores de borda, como os da plataforma NVIDIA EGX, serão distribuídos em todo o mundo para processar dados em tempo real desses sensores. “As empresas exigem computação mais avançada na borda para processar enormes quantidades de dados brutos, provenientes de inúmeras interações com clientes e instalações, para tomar decisões rápidas, aprimoradas por IA e que podem impulsionar seus negócios”, diz Bob Pette, vice-presidente e gerente geral de Empresa e Computação de Borda na NVIDIA.
“Uma plataforma dimensionável como a NVIDIA EGX permite que implantem facilmente sistemas para atender às suas necessidades locais, em nuvem ou para ambos”.
Escalabilidade
A EGX começa com a minúscula NVIDIA Jetson Nano™, que em poucos watts pode oferecer meio trilhão de operações por segundo (TOPS) de processamento para tarefas como reconhecimento de imagem.
Além disso, abrange todo o caminho até um rack completo de servidores NVIDIA T4, oferecendo mais de 10.000 TOPS para reconhecimento em tempo real de fala e de outras tarefas de IA.
Nível empresarial
A NVIDIA firmou parceria com a Red Hat para integrar e otimizar o NVIDIA Edge Stack com o OpenShift, a principal plataforma de orquestração de contêineres Kubernetes de nível empresarial.
O NVIDIA Edge Stack é um software otimizado que inclui drivers da NVIDIA, um plug-in CUDA® Kubernetes, tempo de execução de contêiner CUDA, bibliotecas CUDA-X™ e estruturas e aplicativos de IA empacotados, incluindo TensorRT™, Servidor de Inferência TensorRT e DeepStream.
O NVIDIA Edge Stack é otimizado para servidores certificados e pode ser baixado no registro NVIDIA NGC™. “A Red Hat está comprometida em oferecer uma experiência consistente para qualquer carga de trabalho, área de cobertura e localização, desde a nuvem híbrida até a borda”, diz Chris Wright, diretor de Tecnologia da Red Hat.
“Combinando as plataformas Red Hat OpenShift e NVIDIA EGX, os clientes podem otimizar melhor suas operações distribuídas com um ambiente consistente, de alto desempenho e centralizado em contêineres”.
Uma "nuvem de IA no local"
A EGX combina toda a gama de tecnologias de computação da NVIDIA AI com o Red Hat OpenShift e o NVIDIA Edge Stack, juntamente com as tecnologias de segurança, redes e armazenamento da Mellanox e da Cisco.
Isso permite que empresas dos maiores setores, como de telecomunicações, fabricação, varejo, serviços de saúde e transporte, implantem rapidamente infraestruturas de IA de última geração seguras e de nível empresarial.
“Os NICs e comutadores Mellanox Smart fornecem a conectividade de E/S ideal para acesso a dados que se expandem dos data centers de borda para os de hiperescala”, diz Michael Kagan, diretor de Tecnologia da Mellanox Technologies.
“A combinação de alto desempenho, baixa latência e rede acelerada oferece uma nova camada de infraestrutura de computação que é essencial para acessar e fornecer os dados necessários para abastecer a nova geração de soluções avançadas de IA em plataformas de borda, como a NVIDIA EGX.”
“A Cisco está empenhada em colaborar com a NVIDIA para fornecer soluções de pilha completa da borda ao núcleo para os nossos clientes, aproveitando as plataformas Cisco EGX com o software Cisco de computação, fabricação, armazenamento e gerenciamento e as nossas principais tecnologias de rede baseadas em IP e Ethernet,” diz Kaustubh Das, vice-presidente da Cisco Computing Systems.
Habilita IoT de Nuvem Híbrida e Nuvem Múltipla
A computação da NVIDIA AI é oferecida pelas principais nuvens e é arquitetonicamente compatível com a NVIDIA EGX. Os aplicativos de IA desenvolvidos em nuvem podem ser executados na NVIDIA EGX e vice-versa.
O NVIDIA Edge Stack se conecta aos principais serviços IoT em nuvem, e os clientes podem gerenciar remotamente seus serviços com o AWS IoT Greengrass e o Microsoft Azure IoT Edge. “O Azure IoT Edge ajuda os clientes a implantar serviço em nuvem em seus dispositivos de IoT com rapidez e segurança”, diz Sam George, diretor do Azure IoT Edge.
“Estamos ansiosos para oferecer suporte à plataforma de borda EGX da NVIDIA em dispositivos Azure IoT Edge, de modo que os clientes possam implantar cargas de trabalho de IA visando hardware compatível com EGX.”
Suporte abrangente para desenvolvedores
A NVIDIA EGX está otimizando a IA na borda de um crescente ecossistema de soluções de software. Isso inclui aplicativos de análise de vídeo, ideais para grandes cadeias de varejo e cidades inteligentes, de fornecedores de software como AnyVision, DeepVision, IronYun e Malong Technologies, além de ofertas de softwares específicos para a área da saúde do 12 Sigma, Infervision, Qunatib e Subtle Medical.
Adoção pelos principais fabricantes de computadores do mundo
Os servidores EGX estão disponíveis em provedores de computação corporativos globais como ATOS, Cisco, Dell EMC, Fujitsu, Hewlett Packard Enterprise, Inspur e Lenovo. Eles também estão disponíveis nos principais fabricantes de sistemas de servidor e IoT: Abaco, Acer, ADLINK, Advantech, Rack ASRock, ASUS, AverMedia, Cloudian, Connect Tech, Curtiss-Wright, GIGABYTE, Leetop, MiiVii, Musashi Seimitsu, QCT, Sugon , Supermicro, Tyan, WiBase e Wiwynn.
Os servidores NVIDIA EGX são ajustados para o NVIDIA Edge Stack e estão prontos para NGC validados para contêineres com aceleração CUDA.
Suporte de mais de 40 empresas e organizações
Os primeiros adotantes incluem mais de 40 empresas e organizações líderes do setor. Entre elas está o BMW Group Logistics. Com base nas plataformas de computação de borda EGX e Isaac da NVIDIA, eles são capazes de levar a força da IA diretamente à borda de seus processos de logística e lidar com logísticas cada vez mais complexas com eficiência em tempo real.
Outros líderes do setor que adotam o EGX incluem:
“As linhas de produção de computadores da Foxconn são limitadas pela velocidade da inspeção, porque atualmente são necessários quatro segundos para inspecionar manualmente cada peça. Nosso objetivo é aumentar o rendimento da linha de produção de computadores em mais de 40% usando a plataforma NVIDIA EGX para tomadas de decisão inteligentes em tempo real na borda. Nosso modelo detecta e classifica 16 tipos e locais de defeitos simultaneamente, usando redes neurais velozes executadas em placas de vídeo da NVIDIA, alcançando 98% de precisão em uma taxa de rendimento sobre-humana”.
— Mark Chien, gerente geral do Foxconn D Group
“A IA é fundamental para alcançar saúde de precisão e deve estar disponível de forma generalizada da nuvem à borda e diretamente em dispositivos médicos. O EGX da NVIDIA permite que a GE Healthcare ofereça tempos de aquisição rápidos de RM, melhore a qualidade de imagem e reduza a variabilidade incorporando placas de vídeo NVIDIA T4 diretamente em nossos dispositivos médicos. Tudo para promover nosso objetivo de melhorar os resultados dos pacientes. Casos de uso de cuidados intensivos em tempo real exigem AI na borda. Por isso, criamos nossa oferta de inteligência Edison e estabelecemos uma parceria com a NVIDIA para levar a AI aos nossos dispositivos médicos e aparelhos de borda Edison. Além disso, estamos trabalhando com a ACR AI-LAB para democratizar a IA.”
— Jason Polzin, Ph.D., gerente geral de Aplicativos de RM, GE Healthcare
“Os hospitais estão usando cada vez mais a IA para prever eventos adversos do paciente, apoiar a tomada de decisões clínicas e operar com mais eficiência. No entanto, esses aplicativos de IA dependem de dados do paciente. A plataforma de computação de borda EGX AI da NVIDIA fornece aos hospitais fácil infraestrutura de IA para manter os dados dos pacientes protegidos, oferecer IA em tempo real e escalar milhares de aplicativos de IA necessários para melhorar o atendimento ao paciente e reduzir o custo da prestação de cuidados.”
— Keith Dreyer, D.O., Ph.D., diretor de Ciência de Dados da Partners Healthcare e Professor Associado de Radiologia da Harvard Medical School
“Na Seagate, implantamos uma solução de visão inteligente de borda baseada em placas de vídeo em nossas fábricas para inspecionar a qualidade de nossas cabeças de leitura e gravação de disco rígido. A plataforma NVIDIA EGX acelera drasticamente a inferência na borda, o que nos permitindo ver defeitos sutis que os operadores humanos não conseguiam identificar. Esperamos obter uma melhoria de até 10% no rendimento de fabricação e um ROI de até 300% com maior eficiência e melhor qualidade.”
— Bruce King, Cientista de Dados Sênior da Seagate Technology
