Demo of an on-device LLM-powered voice assistant running a 2020 MacBook Air M1 w/ 8GB memory
Microsoft Phi-2 quantized by picoLLM Compression: [ Ссылка ]
picoLLM Inference: [ Ссылка ]
Porcupine Wake Word: [ Ссылка ]
Cheetah Streaming Speech-to-Text: [ Ссылка ]
Orca Streaming Text-to-Speech: [ Ссылка ]
Source Code: Code: [ Ссылка ]
Tutorial: [ Ссылка ]
Start Free: [ Ссылка ]
#largelanguagemodels #llms #webbrowser #webapp #webdevelopment #voiceai #voiceassistant #aiagents #artificialintelligence #machinelearning
![](https://i.ytimg.com/vi/06K_YtUr8mc/maxresdefault.jpg)