*Imagem: divulgação Opera

Por redação AIoT Brasil

A empresa de software Opera, que tem sede em Oslo, na Noruega, lançou mundialmente a ferramenta Devicetest.ai, que permite a avaliação da capacidade de um dispositivo para executar inteligência artificial localmente. Disponível para PC e Mac, a plataforma pode ser acessada diretamente no navegador e, segundo a empresa, é inédita no mercado, podendo ser utilizada para medir o desempenho de celulares, tablets e computadores.

A solução foi incorporada à versão mais recente do navegador Opera Developer, que, segundo a empresa, suporta grandes modelos de linguagem (LLMs) embutidos, a fim de permitir a integração de IA ao uso cotidiano dos dispositivos. “Executar IA localmente proporciona benefícios como novas possibilidades de uso e melhorias na privacidade dos usuários, o que elimina a necessidade de comunicação com servidores externos. No entanto, isso também submete os dispositivos a novos desafios de desempenho”, explicou a Opera.

Para usar a Devicetest.ai, os usuários devem acessar o link específico utilizando o Opera Developer, ler as informações e clicar em “Run Test”, escolher um perfil de teste, que determinará qual modelo de IA local será baixado, e iniciar a operação. Os perfis de teste variam de acordo com os recursos exigidos pelo modelo de IA e, dependendo das especificações do sistema e do perfil escolhido, o resultado virá entre 3 e 20 minutos.

A ferramenta de benchmark mostra os resultados por cores, relacionadas à capacidade do dispositivo: verde indica que está pronto para IA, amarelo significa que é funcional para a tecnologia e vermelho aponta que não está pronto para IA. São avaliadas métricas como tokens por segundo (TPS), que mede quantas palavras o modelo de linguagem consegue processar por segundo, e latência do primeiro token (FTL), que mede o tempo necessário para que o modelo gere a primeira palavra após receber um comando ou prompt.

Também é apresentado o tempo de carregamento do modelo (MLT), que mede o tempo necessário para carregar o modelo de linguagem na memória RAM do dispositivo, quando este é inicializado pela primeira vez.