Divers

Ollama a révolutionné l’accès aux LLM locaux par sa simplicité déconcertante. Cependant, pour ceux qui gèrent des charges de travail intensives, qui servent plusieurs utilisateurs ou qui recherchent un débit de tokens maximal, Ollama peut devenir un goulot d’étranglement.

S’il est parfait pour le “chat” interactif, Ollama n’est pas conçu pour le throughput (débit global). C’est ici qu’entrent en jeu vLLM et TGI (Text Generation Inference).

Lorsque vous exécutez des modèles de langage large (LLM) localement avec Ollama, le context window (fenêtre contextuelle) est une caractéristique cruciale. Plus elle est grande, plus le modèle peut traiter de texte en une seule requête — idéal pour l’analyse de documents longs ou les conversations complexes. Mais cette capacité a un coût : elle dépend directement de votre matériel, en particulier de votre RAM (pour CPU) ou VRAM (pour GPU).

Cet article explique comment estimer le context window d’un LLM en fonction de votre mémoire disponible, puis compare plusieurs modèles populaires d’Ollama : gemma4:latest, gemma4:26b, glm-4.7-flash et qwen3.5.

Les modèles de langage large (Large Language Models — LLM) ont révolutionné l’intelligence artificielle. Mais avec l’augmentation des besoins en calcul et les préoccupations liées à la confidentialité, une alternative gagne en popularité : les LLM exécutés localement. Dans cet article, nous explorerons quatre outils clés de cet écosystème en pleine expansion : Ollama, Cline, GLM et OpenCode.

Déménager son aquarium est une étape excitante, mais elle peut être source de stress pour vos pensionnaires. Le secret d’un transfert réussi ? La préservation de votre cycle biologique. Voici comment organiser votre transfert étape par étape pour garantir la survie de vos bactéries et la santé de vos poissons.

Exploiter la puissance d’un GPU AMD pour l’IA locale demande une configuration précise, surtout pour les cartes RDNA 2 comme la RX 6700. Ce guide vous montre comment installer Ollama avec accélération ROCm, configurer l’extension Cline et résoudre les erreurs de compatibilité.

Découvrez 23 photos nostalgiques de soirées LAN qui rappelleront des souvenirs aux vétérans du jeu en réseau.

Découvrez pourquoi Cities Skylines est le city builder indispensable pour les fans du genre.

Spotify dispose enfin d’un visualiseur audio intégré, disponible sur Mac, Linux et Windows. Retour sur cette fonctionnalité tant attendue et son API ouverte aux développeurs.

Découvrez Debuggex, un outil en ligne pratique pour rédiger et tester vos expressions régulières visuellement.

Découvrez en vidéo ce que pourrait devenir internet avec l’application du traité ACTA.

Découvrez comment utiliser l’API Twitter avec OAuth depuis un script en utilisant l’outil Twurl.

La différence entre une moulinette et un script est, que la moulinette, contrairement au script, n’effectue aucun contrôle, elle ne fonctionnera que pour le cas ou elle a été écrite.

Retrouvez l’emplacement du dossier de configuration Quake Live sous Windows et quelques liens utiles pour personnaliser vos paramètres de jeu.

Changement prévus pour la classe Mage dans le patch 3.1 de World of Warcraft, incluant des modifications de talents et de survivabilité.