De olho na IA e nos smartphones flagship, MediaTek lança Dimensity 9300+
Novo chip chega com a promessa de turbinar o processamento de inteligência artificial generativa na borda para executar LLMs com maior rapidez
08/05/2024
Tamanho fonte
Por redação AIoT Brasil
A MediaTek acaba de lançar o Dimensity 9300+, o mais recente processador para smartphones topo de linha de seu portfólio Dimensity. Segundo a empresa, o Dimensity 9300+ permite maiores velocidades de clock e foi desenvolvido para acelerar o processamento por IA generativa nos smartphones, oferecendo suporte mais amplo para LLMs e outras melhorias de desempenho em relação ao Dimensity 9300.
“O Dimensity 9300+ nos ajudará a continuar construindo um rico ecossistema de aplicações de IA generativa graças ao amplo suporte para LLM do processador e para LoRA Fusion no dispositivo”, disse JC Hsu, vice-presidente da MediaTek. “Para aprimorar as experiências com IA, o Dimensity 9300+ oferece desempenho e melhorias impressionantes que aceleram a inferência no LLM, executando tokens com mais rapidez para melhorar a experiência do usuário.”
Com design All-Big-Core e processo de produção da TSMC 4nm de 3ª geração, o Dimensity 9300+ tem um núcleo Arm Cortex-X4, operando em até 3,4 GHz, além de três núcleos Cortex-X4 e quatro núcleos Cortex-A720. O Dimensity 9300+ também aprimora o processamento por IA em relação à geração anterior, graças à nova tecnologia NeuroPilot Speculative Decode Acceleration no engine mais recente de IA generativa da empresa.
O mecanismo de APU 790 AI permite que o Dimensity 9300+ opere LLMs com 1B, 7B e 13B de parâmetros e escalabilidade para até 33B. Com a tecnologia NeuroPilot Speculative Decode Acceleration, o Dimensity 9300+ pode executar LLMs com sete bilhões de parâmetros a 22 tokens por segundo, mais que o dobro da taxa das soluções concorrentes do mercado, de acordo com a MediaTek.
O Dimensity 9300+ possui um mecanismo de raytracing de 2ª geração com uma GPU Arm Immortalis-G720, que fornece aos gamers experiências de raytracing rápidas a uma taxa de 60 FPS. Já a MediaTek Adaptive Gaming Technology (MAGT) foi desenvolvida para oferecer um aumento de eficiência energética quando ativado em jogos populares, ajudando a prolongar a vida da bateria e evitar aquecimento dos dispositivos.
Além disso, o processador possui o novo Network Observation System (NOS) para melhorar a simultaneidade de rede dupla Wi-Fi/celular e utilizar a tecnologia de previsão de rede. Quando ativado, o NOS da MediaTek oferece até 10% de economia de energia e até 25% de economia de dados celulares, segundo os cálculos da empresa.
Confira os principais recursos do Dimensity 9300+:
Suporte para LoRA Fusion e NeuroPilot LoRA Fusion 2.0 no dispositivo, permitindo o desenvolvimento mais rápido de aplicativos de IA generativa com texto, imagens e música, por exemplo
Suporte para os LLMs mais recentes, incluindo 01.AI Yi-Nano, Alibaba Cloud Qwen, Baichuan AI, ERNIE-3.5-SE, Google Gemini Nano e Meta Llama 2 e Llama 3.
ExecuTorch Delegation para inferência no dispositivo implantada no ecossistema.