Faire tourner un modèle de langage en local sur son PC, avec llama.cpp, ça marche très bien, mais ça demande quand même de mettre un peu les mains dans le cambouis. Il faut aller chercher le binaire, trouver le bon fichier GGUF sur Hugging Face et lancer le serveur en ligne de commande.

Heureusement, léquipe de ggml-org, celle qui développe justement llama.cpp, souhaite soulager notre peine en nous proposant pour Windows 11 une petite app baptisée Llama (Ouais, c'est original comme nom ^^) qui se loge dans la zone de notification et qui fait tout le taf à votre place.

C'est en fait un portage pour Windows de Llama for Mac , qui est lui aussi dans la barre des menus de macOS. Côté install, suffit de récupérer le fichier .msixbundle dans les Releases du dépôt, vous double-cliquez dessus, et c'est parti mon kiki. Si vous avez déjà un llama.exe sur votre machine, l'app s'en servira, sinon elle en téléchargera un toute seule. Et bien sûr, le code est sous licence MIT, avec un petit copyright au nom de Hugging Face quand même.

Une fois que c'est en place, l'icône ouvre un petit panneau de commande avec une liste de modèles recommandés à télécharger en un clic. Vous pouvez aussi chercher n'importe quel modèle GGUF du Hub directement depuis cette liste, ou coller l'identifiant d'un dépôt. L'app vérifie également au passage s'il vous reste assez de place sur le disque avant de lancer le téléchargement ! (Moi j'ai 4 To et je suis toujours PLEIN, j'en ai marre ^^)

Bref... en cliquant sur un modèle, vous choisissez sa taille de contexte, et pour chaque option, l'app vous donne une estimation de la mémoire consommée, qu'elle récupère dans l'en-tête du fichier GGUF. C'est très pratique pour savoir avant de le lancer si ça va tenir dans votre fichue machine. Et comme les modèles sont stockés dans le cache standard de Hugging Face, bah ils sont partagés avec llama.cpp et les autres outils qui l'utilisent, ce qui évite d'avoir des doublons de plusieurs gigas sur le disque.

Mais le truc le plus sympa, je crois c'est le raccourci Alt+Espace qui, peu importe ce que vous êtes en train de faire, ouvre une fenêtre avec l'interface web du chat IA près à vous répondre, un peu à la manière de Spotlight sur Mac. Et quand vous la refermez, hé bien elle se planque simplement au lieu de se fermer ce qui fait qu'elle se réaffiche instantanément avec votre conversation dès que vous en avez besoin.

Par contre, dommage, ce raccourci est codé en dur et il n'y a aucun réglage pour en changer. Donc si une autre app squatte déjà Alt+Espace, comme PowerToys Run dont c'est le raccourci par défaut, hé bien Llama vous prévient mais ça n'ira pas plus loin. A moins que vous changiez le raccourci par défaut de PowerToys Run .

Côté vie privée, Llama n'envoie aucune data de télémétrie et vos prompts restent sur votre machine. Et comme l'app pilote un serveur llama.cpp qui expose une API REST, la fiche d'un modèle vous proposera même une requête curl toute prête afin de brancher vos autres outils dessus.

Attention si Smart App Control est activé sur votre PC, il se peut que Windows bloque llama.exe, qui n'est pas signé (contrairement au paquet MSIX de l'app). Dans ce cas, le serveur ne démarrera pas et l'app ne servira à rien. Si vous êtes concerné, il faudra donc patienter ou contourner Smart App Control.

À télécharger sur GitHub pour ceux qui veulent !

Tiny11 Builder, l'outil qui fabrique des ISO de Windows 11 sans les applis préinstallées et que je vous avais présenté , dispose maintenant d'une vraie appli de bureau. Elle est en pré-version et vous épargne surtout de devoir lancer vous-même à la main la fameuse tripoté de scripts PowerShell (qui restent quand même dans le dépôt Github).

Je l'ai donc testée dans une machine virtuelle Windows 11 ARM histoire de vous faire un petit retour sur cette nouvelle version.

D'abord au lancement, l'appli réclame les droits administrateur, puis elle vous fait choisir un mode (Le mode Tiny11 allège Windows, le mode Core coupe aussi les mises à jour et Defender, et le mode Custom vous laisse choisir). L'appli sait également télécharger l'ISO officielle de Microsoft à votre place, dans l'architecture et la langue de la machine, ce qui donne chez moi un Windows 11 ARM 26H2 en version Pro en français.

Le téléchargement de l'ISO ARM64 en français, directement depuis l'appli

Le mode Tiny11, celui que j'ai pris, retire donc les applis fournies avec Windows ainsi que les binaires d'Edge, de WebView2 et d'OneDrive, mais il conserve Windows Update, Defender et l'environnement de récupération actif. À l'écran, ça se résume donc à 38 "groupes de suppression" et aucune action avancée.

Le mode Tiny11

Il ne reste ensuite qu'à cliquer sur Build, avec le mode Turbo activé et au bout de 40 à 50 minutes (je suis sur une VM donc c'est lent), vous aurez une belle ISO allégée. Par exemple, chez moi, l'ISO produite fait 5,38 Go, contre environ 7,95 Go au départ (l'image source contenait les 3 éditions de Windows et en sortie, je n'en ai plus qu'une).

Fin de construction, 49,5 minutes plus tard, pour une ISO de 5,38 Gio

Ensuite, il y a le mode Core qui désactive Windows Update et Defender et supprime la récupération, sans retour possible. L'auteur conseille de réserver ça aux machines virtuelles de test. Le mode Tiny11, lui, garde les mises à jour, mais une mise à jour de fonctionnalités peut donc réinstaller des applis et des réglages que vous auriez viré avant.

Autrement dit, soit vous gardez les mises à jour et l'allègement peut parfois sauter, soit vous gardez l'allègement en vous passant de ces mises à jours.

Ensuite, reste le mode Custom, où vous cochez tout vous-même, avec le risque de casser Windows.

Ne comptez pas trop non plus sur l'outil pour contourner quoi que ce soit puisque les réglages du compte local et les vérifications matérielles ne sont pas garantis sur les nouvelles versions, et que rien ne contourne la licence ni l'activation, donc il vous faudra toujours une clé ou lire cet article .

Voilà, c'est donc à récupérer sur GitHub pour ceux qui veulent s'amuser à se faire des ISO custom de Windows (que vous testerez au préalable dans une VM évidemment, histoire de vérifier que tout fonctionne bien car je le rappelle, Tiny11 Builder est encore une pré-version.)

Source : The Register

Vous avez un casque d'une certaine marque, une souris d'une autre marque sans oublier votre fidèle manette... Mais pour connaître le niveau de batterie de chacun de ces appareils sous Windows, vous avez deux solutions. Soit vous attendez qu'il tombe en panne de jus. Soit, si le fabricant le permet, vous pouvez voir cela dans l'application compagnon de votre appareil.

C'est ce manque de visibilité qui a poussé Headvox à vibe-coder HaloBattery , un petit utilitaire gratuit et open source qui place une icône par appareil dans la zone de notifs de Windows. Ensuite, c'est l'anneau autour du picto qui vous indiquera le niveau de batterie. C'est blanc au début, puis après ça passe à l'orange, et quand vous êtes en rouge, bah faut commencer à s'y intéresser... Et vert, c'est que votre appareil est en train de se charger.

De plus, en passant la souris au-dessus de l'icône, vous pouvez connaître le pourcentage exact du niveau de batterie.

Les icônes sur une barre sombre, de 100 % à la veille

Afin de lire tout ça, l'outil cause directement aux dongles et aux câbles USB, va lire les rapports des manettes type Xbox et peut si besoin, demander à Windows ce qu'il peut obtenir au niveau des appareils Bluetooth. Comme ça, plus besoin du logiciel du fabricant. Ça fait ça de moins comme soft de merde sur votre machine. Notez aussi que si votre appareil n'apparaît pas dans la liste de ce qui est détecté par HaloBattery, c'est probable que c'est justement l'un de ces fameux logiciels compagnons qui monopolise le périphérique et empêche toute lecture d'état sur celui-ci. Donc pensez bien à les fermer avant de lancer Halo Battery.

Et jetez aussi un œil au tableau de compatibilité avant de trop vous hype parce que tout n'a pas encore pu être testé et ça ne fonctionne malheureusement pas avec tous les périphériques. Par exemple, chez Logitech, seules les G502 sont vérifiées, et ni les Corsair ni le Razer BlackWidow V3 Pro n'ont été testés. Par contre, les DualSense, DualShock 4 et plusieurs Razer l'ont été...

Bref, si votre appareil manque, sachez qu'il y a un menu Diagnostics qui peut produire un rapport à joindre à votre issue sur GitHub, si vous voulez demander le support de celui-ci.

Voilà pour essayer cet outil, dézippez l'archive en entier dans un dossier (car le programme a besoin du dossier _internal à ses côtés), puis hop, un clic droit sur l'icône et "Lancer avec Windows" et ça devrait le faire ! Grâce à ça, vous saurez enfin quel périphérique recharger avant votre petite partie du soir !

Source : PC Gamer