Confira !!
Se você está precisando de uma IA em vno Edge? Então voceê tem que conhecer o servidor de inferência Janux GS31 AI que usa um arm do Linux e que foi criado pela SolidRun, que é a
desenvolvedora e fabricante de hardware de computação de ponta de alto desempenho e a fabricante de chips ASIC ( GIRfalcon Technology).
Ai você pergunta ? Afinal o que é um servidor de inferência de AI ?
Após treinarmos uma rede neural com aprendizado de máquina ( Machine Learning) para reconhecer, digamos, carros e espaços, as lições aprendidas pela máquina podem ser incorporadas a um aplicativo. Esse programa pode inferir coisas sobre novos dados com base em seu treinamento. Assim, por exemplo, um policial de trânsito com inteligência artificial pode inferir quando alguém está acelerando ou passa por um sinal vermelho.
Obviamente, se você quiser fazer algo sobre isso em tempo real, precisará de um computador no limite, em vez de um ou dois segundos de latência em um datacenter na nuvem. É aí que o servidor Janux GS31 entra em cena.
O Janux GS31 vem como um servidor 1U montado em rack. basicamente, ele usa uma CPU Arm Cortex A72 de 16 núcleos CEx7 LX2160A. Por seu poder real de processamento, ele pode usar até 128 chips de aceleração Gyrfalcon Lightspeeur SPR2803 AI e 32 i.MX8M System on Chips (SoC) s. Para uma memória rápida, o Janux utiliza até 64 GB de RAM SO-DIMM DDR4 de canal duplo.
Resumidamente o servidor Janux GS31 suporta todas as principais estruturas de redes neurais. Especificamente, ele suporta as estruturas de código aberto do TensorFlow , Caffe e PyTorch .
O Janux GS31 foi projetado para oferecer o suporte à decodificação de latência ultra baixa e análise de vídeo de até 128 canais de vídeo 1080p / 60Hz. Isso o torna adequado para monitorar cidades e infraestrutura inteligentes, aplicativos inteligentes de vigilância de vídeo corporativo / industrial e marcar fotos e vídeos para as pesquisas baseadas em texto.
De acordo com os fabricantes, eles podem superar os sistemas baseados em System on Chip (SoC) e as GPU em ordens de grandeza, enquanto usam uma fração da energia requerida por sistemas com uma potência computacional equivalente.
"Poderosos novos modelos de IA estão sendo lançados no mercado a cada minuto, e a demanda por soluções de inferência de IA para implantar esses modelos de IA está crescendo enormemente", disse o Dr. Atai Ziv, CEO da SolidRun em um comunicado. "Embora os servidores de inferência baseados em GPU tenham observado uma tração significativa para aplicativos baseados em nuvem, há uma necessidade crescente de soluções otimizadas de ponta que ofereçam poderosa inferência de IA com menos latência do que as soluções baseadas em nuvem. Trabalhando com a Gyrfalcon e utilizando seus produtos comprovados no setor ASICs nos permitiu criar uma solução poderosa e econômica para implantar a IA no Edge que oferece escalabilidade perfeita ".
Fonte
Até a próxima !!
Nenhum comentário:
Postar um comentário