RAMDeck: il nuovo hub per l’intelligenza artificiale in crowdfunding

RAMDeck è un hub innovativo a basso consumo attualmente in crowdfunding su Indiegogo, con un prezzo early-bird di 109 dollari. La campagna, che ha un obiettivo di finanziamento fisso di 10.000 dollari, terminerà l’8 novembre 2026. Questo dispositivo è progettato per aggregare la memoria RAM di vari dispositivi, tra cui PC Windows, Mac, Linux e smartphone Android, al fine di eseguire modelli di intelligenza artificiale che richiedono più risorse di quelle disponibili su un singolo dispositivo.

Il progetto nasce in un contesto di aumento significativo dei prezzi della memoria DDR5, che ha raggiunto costi cinque volte superiori rispetto a metà 2025. A differenza di altre soluzioni, RAMDeck non combina la memoria a livello hardware; invece, suddivide i pesi di un modello tra le macchine, mantenendo ciascuna parte in memoria locale e trasferendo solo i risultati intermedi attraverso la rete durante la generazione dei token.

L’infrastruttura software di RAMDeck si basa sull’RPC di llama.cpp, dove un agente nodo avvia il server ggml RPC su ogni dispositivo partecipante. Il coordinamento avviene tramite un protocollo standard di llama.cpp, mentre TradeMAV si occupa dell’orchestrazione attorno a questo motore. Ciò include la scoperta automatica dei nodi, il posizionamento dei layer in modo da privilegiare GPU veloci rispetto alla RAM di sistema più lenta, la gestione dei guasti, una dashboard e un’API compatibile con OpenAI.

Attualmente, le specifiche hardware dell’hub non sono state rese pubbliche, inclusi dettagli su processore, memoria, porte e consumo energetico. Tuttavia, la documentazione suggerisce che gli utenti esperti possono seguire una soluzione fai-da-te gratuita. Esistono già alternative software operative per il pooling e l’orchestrazione su dispositivi eterogenei, mentre sul mercato commerciale sono disponibili soluzioni di clustering ad alte prestazioni che utilizzano interconnessioni come Thunderbolt 5 con RDMA.

TradeMAV avverte che il pooling della memoria comporta un compromesso tra velocità e capacità, raccomandando l’acquisto di GPU con maggiore VRAM per chi cerca prestazioni elevate. Nei benchmark condotti, le configurazioni più veloci utilizzano mini PC con RTX 3060, raggiungendo prestazioni di 39 token al secondo per il modello Qwen3-Coder 30B su una coppia di mini PC Beelink e un Mac mini M4. Un modello 7B ha raggiunto 43 token al secondo utilizzando esclusivamente la RTX 3060. Tuttavia, i modelli densi mostrano prestazioni significativamente inferiori, con un 27B denso che ha prodotto 1,92 token al secondo su quattro dispositivi.

In sintesi, RAMDeck si propone di semplificare l’orchestrazione multi-dispositivo, pur presentando limitazioni nelle prestazioni per i modelli densi. L’engine sottostante è un software gratuito già disponibile, e per chi desidera sperimentare, ci sono modalità RPC di llama.cpp o soluzioni open source simili senza costi. Per chi preferisce la comodità, il prezzo di 109 dollari per l’hub in preordine comporta i rischi tipici delle campagne di crowdfunding, come ritardi o cambiamenti nei piani.