Início ANDROID A nova placa complementar Raspberry Pi tem 8 GB de RAM para...

A nova placa complementar Raspberry Pi tem 8 GB de RAM para executar modelos de geração AI

27
0

Raspberry Pi lançou uma nova placa complementar capaz de executar modelos generativos de IA localmente no Raspberry Pi 5. Anunciado na quinta-feiraQue $ 130 AI HAT + 2 é uma versão atualizada – e mais cara – do módulo lançado no ano passadoagora oferece 8 GB de RAM e um chip Hailo 10H com desempenho de 40 TOPS AI.

Uma vez conectado, o Raspberry Pi 5 usará o AI HAT + 2 para lidar com cargas de trabalho relacionadas à IA, deixando a CPU Arm da placa principal disponível para concluir outras tarefas. Ao contrário do AI HAT+ anterior, que se concentrava no processamento de IA baseado em imagem, o AI HAT+ 2 vem com RAM integrada e pode executar modelos de IA de pequena geração, como Llama 3.2 e DeepSeek-R1-Distill, bem como uma série de modelos Qwen. Você também pode treinar e ajustar modelos de IA usando essas ferramentas.

UM demonstração compartilhada por Raspberry Pi mostra como você pode usar uma placa adicional para conduzir um modelo de IA capaz de gerar descrições baseadas em texto de fluxos de câmera, bem como responder a perguntas sobre se havia pessoas no local. Outros mostram como você é pode traduzir texto do francês para o inglês com Qwen2.

No entanto, YouTubers de tecnologia Jeff Geerling descobriu que o Raspberry Pi 5 autônomo com 8 GB de RAM geralmente supera o AI HAT+ 2 em todos os modelos suportados. Geerling atribui o menor desempenho ao consumo de energia, já que o Pi 5 pode operar em até 10 watts, enquanto o AI HAT+ 2 é limitado a 3W.

Embora o AI HAT + 2 possa ser ideal para certos casos de uso, Geerling observa que os 8 GB de RAM adicionais nesta placa complementar “não são suficientes para dar a este HAT uma vantagem sobre simplesmente pagar por um Pi maior de 16 GB com mais RAM, o que seria um modelo mais flexível e de execução mais rápida”. O AI HAT+, lançado no ano passado, também pode lidar com processamento de imagens de IA por um preço inicial mais barato de US$ 70.

Raspberry Pi diz que mais e maiores modelos de IA estão sendo preparados para a atualização e estarão disponíveis para instalação logo após o lançamento.

Source link