O que é Edge AI?

Copiar URL

Edge AI, inteligência artificial (IA) de edge, ou IA na edge, é o uso da IA em combinação com a edge computing para permitir que os dados sejam processados localmente, em dispositivos de ponta, reduzindo a latência e dependência da cloud computing. Por exemplo, uma tarefa de algoritmo de reconhecimento de imagens será melhor executada se estiver mais próxima à fonte dos dados. Com a IA na edge, é possível tomar decisões em tempo real em IoT, sistemas autônomos e dispositivos inteligentes.

Com a edge AI, as respostas são enviadas quase instantaneamente, em questão de milissegundos, oferecendo feedback em tempo real, com ou sem conexão com a Internet, pois os algoritmos de IA podem processar dados mais perto do local do dispositivo. Esse processo pode ser mais seguro para dados, pois os dados sensíveis nunca deixam a edge.

Introdução à IA empresarial: guia para iniciantes

Conheça as soluções de edge computing da Red Hat

A edge AI difere da IA tradicional porque, em vez de executar modelos de IA no back-end de um sistema de nuvem, eles são executados em dispositivos conectados operando na edge da rede. Isso adiciona uma camada de inteligência à qual o dispositivo de edge não apenas coleta métricas e análises, mas também consegue reagir a elas por meio de um modelo integrado de Machine Learning (ML) no dispositivo de edge.

O objetivo da inteligência artificial é o mesmo: fazer os computadores coletarem dados, processar os dados e gerar resultados semelhantes à inteligência humana. No entanto, a edge AI realiza o trabalho e a tomada de decisões de maneira local, no dispositivo utilizado ou próximo a ele. 

Qual a diferença entre a edge AI e a IA distribuída?

Relacionada à edge AI, está a IA distribuída, que usa conceitos tanto da IA tradicional quanto da edge AI. As principais distinções entre os dois aparecem onde os dados são processados e como os modelos de IA são implantados. Enquanto a edge AI executa algoritmos diretamente nos dispositivos de edge, a IA distribuída usa vários sistemas interconectados: servidores centrais, dispositivos de edge e outros.

Na IA distribuída, as tarefas são divididas entre várias máquinas ou dispositivos, e cada um deles trabalha em uma parte do problema. Embora esse processamento distribuído possa aplicar mais poder ao processamento de dados e seja escalável além da capacidade da edge AI, os prós e os contras aparecem em sua complexidade, latência e privacidade geral.

Como a cloud computing capacita a edge AI?

Não é exagero dizer que a edge AI não existiria sem a cloud computing. A cloud computing oferece infraestrutura, ferramentas e serviços para desenvolver, implantar, gerenciar e manter modelos de IA em dispositivos de edge.

Treinamento: como os dispositivos de edge AI existem longe de servidores centralizados, eles normalmente não têm a capacidade computacional e os grandes volumes de dados necessários para treinar modelos de deep learning. Os dispositivos de edge AI transferem seus dados para uma nuvem, onde são combinados com dispositivos semelhantes, processados e usados para treinar o modelo. Os modelos treinados de machine learning são reimplantados nos dispositivos de edge.

Implantação: como os dispositivos de edge são mínimos por natureza, os modelos treinados precisam ser otimizados para esses dispositivos de edge com recursos limitados. Os serviços de nuvem oferecem ferramentas de compactação para quantização e remoção que preparam modelos de IA para implantação na edge.

Sincronização de dados: os dispositivos de edge AI processam dados rapidamente no ponto de implantação. Os dispositivos de edge AI também coletam dados para treinar os modelos e tomar decisões melhores. Os dispositivos de edge AI são sincronizados regularmente com um repositório central na nuvem, ajudando a armazenar e processar os dados coletados e computados pelo dispositivo de edge. Os dados enviados para a nuvem são usados no aprendizado contínuo, em que os modelos são treinados e reimplantados nos dispositivos.

Monitoramento e gerenciamento: os dispositivos de edge AI estão à frente da interação de uma organização com seus usuários. As plataformas de nuvem monitoram dispositivos de edge em tempo real, possibilitando a manutenção preditiva e identificando possíveis problemas antes que eles afetem o desempenho. Além disso, as plataformas de nuvem podem escalar conforme necessário, oferecendo recursos elásticos para uma organização que gerencia uma frota de dispositivos.

Mais informações sobre o portfólio Red Hat AI

Recursos da Red Hat

A combinação da edge computing com a inteligência artificial traz muitos benefícios. Com a edge AI, recursos de computação de alto desempenho são levados para a edge, onde estão localizados sensores e dispositivos da IoT. Os usuários podem processar dados em dispositivos em tempo real, porque não há necessidade de conectividade e integração entre sistemas. Além disso, eles conseguem economizar tempo coletando dados sem se comunicar com outros locais físicos.

Os benefícios da edge AI incluem: 

  • Economia de energia: reduza o consumo de energia processando dados no nível local e com menos requisitos de energia para executar a IA na edge em comparação com os data centers em nuvem.
  • Largura de banda reduzida: reduza a quantidade de dados necessária para ser enviada e reduza os custos com mais dados processados, analisados e armazenados localmente, em vez de enviados para a nuvem.
  • Privacidade: reduza o risco de divulgação de dados confidenciais com o processamento dos dados em dispositivos de edge com a edge AI.
  • Segurança: priorize a transferência de dados importantes com o processamento e armazenamento em uma rede de edge ou filtragem de dados redundantes e desnecessários.
  • Escalabilidade: escale sistemas facilmente com plataformas baseadas em nuvem e recursos de edge nativos em equipamentos de fabricantes de equipamento original (OEM).
  • Latência reduzida: diminua o tempo para processamento de dados em uma plataforma de nuvem e faça análises localmente para possibilitar a realização de outras tarefas.

Conheça os estágios da edge AI

Os benefícios da edge AI permitem casos de uso em uma variedade de setores.

Edge AI no setor de saúde

Dispositivos vestíveis, como smartwatches e monitores de atividades físicas, podem usar a edge AI para monitorar sinais vitais (frequência Cardiaca, níveis de O2) em tempo real, alertando os usuários sobre irregularidades, como arritimias ou altos níveis de estresse, sem depender do processamento em nuvem. As ferramentas de diagnóstico habilitadas por IA podem auxiliar na área de imagens, analisando raios-x, ressonância magnéticas e outros exames médicos na "borda" de uma rede de hospital ou clínica, fornecendo resultados instantâneos e reduzindo a necessidade de enviar dados para a central servidores. A edge AI ajuda no monitoramento remoto de pacientes de condições em casa, analisando os dados de dispositivos médicos e alertando os provedores de saúde em tempo real.

Usos da edge AI na indústria

Em fábricas, a edge AI pode realizar manutenção preditiva, monitorando equipamentos em tempo real para identificar anomalias de desempenho e prever falhas mecânicas. Câmeras e sensores equipados com IA podem aprimorar o controle de qualidade, inspecionando as linhas de produção em busca de defeitos nos produtos. O processamento local de dados visuais ou sensoriais, em vez de um servidor central remoto, permite correções imediatas e minimiza o desperdício. A robótica e a automação com tecnologia de edge AI nas fábricas podem classificar, empacotar ou montar, usando dados em tempo real de entradas de sensor para se ajustar às mudanças ambientais ou à variabilidade da solução.

Edge AI em ação nas casas inteligentes (smart homes)

No nosso dia a dia, estamos acostumados a usar assistentes de voz em casa para controlar luzes, termostatos e música. Esses dispositivos usam edge AI para processar comandos localmente, reduzindo a latência. Processar comandos localmente sem os enviar a um servidor central também aumenta a privacidade. Sistemas de segurança integrados a câmeras e câmeras residenciais inteligentes usam a edge AI para detectar movimento, reconhecer rostos e alertar os proprietários sobre atividades incomuns. O processamento local evita a necessidade de enviar fluxos de vídeo contínuos para a nuvem, melhorando a privacidade e a eficiência. Outros dispositivos domésticos inteligentes, como os termostatos, usam a edge AI no gerenciamento de energia. Eles aprendem o comportamento do usuário e os dados locais para otimizar os cronogramas de aquecimento/resfriamento e reduzir o consumo de energia.

Usos da edge AI no varejo

No varejo, “prateleiras inteligentes” empregam a edge AI para o gerenciamento de inventário. Câmeras e outros sensores detectam quando os itens estão fora de estoque ou fora do lugar e notificam a equipe para fazer ajustes. Muitos varejistas estão experimentando lojas sem caixas, onde os sistemas de IA da edge rastreiam os produtos que os clientes selecionam ou retornam em tempo real, processando dados diretamente de sensores e câmeras na loja.

A edge AI capacita veículos e tráfego

Veículos autônomos são dispositivos de edge AI que dependem de dados em tempo real de sensores como câmeras, LIDAR e radares para navegar pelas estradas, detectar obstáculos e tomar decisões em frações de segundo, em vez de depender de conexões em nuvem. Semáforos e câmeras inteligentes usam a edge AI para gerenciar o tráfego, analisando padrões em tempo real, o que pode ajudar a reduzir o congestionamento e melhorar a segurança nos cruzamentos. A edge AI também otimiza o gerenciamento de frotas das empresas de logística ao monitorar o desempenho dos veículos, o comportamento dos motoristas e otimizar as rotas de entrega.

Automação da TI no suporte a cargas de trabalho de edge AI

Red Hat® AI é nosso portfólio de soluções de IA, desenvolvido com base em soluções em que nossos clientes confiam. Nossas soluções permanecem consistentes, flexíveis e escaláveis.

O Red Hat AI pode auxiliar as organizações a:

  • Adotar a IA e inovar rapidamente.
  • Reduzir as complexidades da entrega de soluções de IA.
  • Implante em qualquer ambiente.

Conheça o portfólio Red Hat AI 

Como escalar com flexibilidade

A Red Hat AI inclui acesso a plataformas que oferecem flexibilidade para implantação em qualquer lugar.

O Red Hat OpenShift® AI é uma plataforma de MLOps integrada capaz de gerenciar o ciclo de vida de modelos de IA preditiva e generativa. Nesta única plataforma, você pode escalar suas aplicações de IA em todos os seus ambientes de nuvem híbrida.

Além disso, nossos consultores podem oferecer suporte hands-on para seus casos de uso exclusivos ao criar e implantar aplicações de IA com cargas de trabalho críticas.

Leia mais sobre o Red Hat OpenShift AI 

Hub

Blog da Red Hat

Tudo relacionado à Red Hat: soluções, treinamentos e certificações Red Hat, casos de sucesso de clientes, novidades dos nossos parceiros e notícias sobre projetos das comunidades open source.

Teste as soluções da Red Hat

Você sabia que a Red Hat oferece versões de teste gratuitas de suas soluções? Aproveite e obtenha experiência prática, prepare-se para uma certificação da Red Hat ou avalie na prática se a solução é adequada para ao caso de uso.

Leia mais

O que é ajuste fino de parâmetros com eficiência (PEFT)?

O PEFT é um conjunto de técnicas que ajusta apenas uma parte dos parâmetros em um LLM para economizar recursos.

LoRA e QLoRA

A adaptação de baixa classificação (LoRA) e a adaptação quantizada de baixa classificação (QLoRA) são técnicas de treinamento de modelos de IA.

O que é vLLM?

O vLLM é uma coleção de códigos open source que ajuda os modelos de linguagem a realizar cálculos com mais eficiência.

Inteligência artificial: leitura recomendada

Artigos relacionados