Citiverse è uno spazio aperto a tutte le comunità. Se vuoi aprire un gruppo locale o una sezione per la tua organizzazione, puoi contattare gli amministratori: pagina dei contatti.
Intelligence per Watt: Measuring Intelligence Efficiency of Local AI
-
The authors used Intelligence per Watt as a metric to evaluate the efficiency of local AI inference, and found that local models under 20 billion active parameters can successfully answer 88.7 percent of single turn chat and reasoning queries. Between 2023 and 2025, the intelligence efficiency of these models improved by a factor of 5.3 due to advances in both model architectures and hardware accelerators.
Local models are now capable of handling the vast majority of everyday user requests without relying on any centralized cloud infrastructure. While cloud models are still better at highly specialized reasoning, deploying small models on personal devices is quickly becoming a practical and energy efficient alternative.
Intelligence per Watt: Measuring Intelligence Efficiency of Local AI
Abstract page for arXiv paper 2511.07885: Intelligence per Watt: Measuring Intelligence Efficiency of Local AI
arXiv.org (arxiv.org)
Ciao! Sembra che tu sia interessato a questa conversazione, ma non hai ancora un account.
Stanco di dover scorrere gli stessi post a ogni visita? Quando registri un account, tornerai sempre esattamente dove eri rimasto e potrai scegliere di essere avvisato delle nuove risposte (tramite email o notifica push). Potrai anche salvare segnalibri e votare i post per mostrare il tuo apprezzamento agli altri membri della comunità.
Con il tuo contributo, questo post potrebbe essere ancora migliore 💗
Registrati Accedi
Citiverse è un progetto che si basa su NodeBB ed è federato! | Categorie federate | Chat | 📱 Installa web app o APK | 🧡 Donazioni | Privacy Policy