Un Mac mini avec Ollama suffit-il pour l'IA dans votre établissement ?

Que vaut un Mac mini avec Ollama ?

Ollama est un logiciel gratuit sous licence MIT qui exécute des modèles d’IA ouverts sur un ordinateur et les met à disposition d’autres programmes via une interface. Sur un Mac mini, il utilise la mémoire partagée entre le processeur et la partie graphique. C’est ce qui rend le Mac mini populaire : silencieux, économe, vite installé. Pour faire des essais, pour vos propres scripts ou pour une petite équipe, c’est une bonne solution, et les données restent sur l’appareil.

Selon Apple, le Mac mini dispose au plus de 64 Go de mémoire unifiée (avec M5 Pro, 307 Go/s de bande passante mémoire) ; les modèles avec M6 ont jusqu’à 32 Go (état : octobre 2026).

Quels modèles tiennent sur un Mac mini ?

Un calcul approximatif : pour ses poids, un modèle a besoin d’environ autant de gigaoctets qu’il a de milliards de paramètres, multiplié par le nombre de bits par paramètre et divisé par huit. S’y ajoute la mémoire pour les conversations en cours et pour le système d’exploitation.

Taille du modèle	Poids en 4 bits	Tient sur
8 Md de paramètres	environ 4 à 5 Go	tout Mac mini
30 Md de paramètres	environ 15 à 18 Go	à partir de 32 Go, avec de la place pour les conversations
70 Md de paramètres	environ 35 à 40 Go	seulement avec 64 Go, tout juste
plusieurs centaines de Md de paramètres	plus de 100 Go	aucun Mac mini

Calcul approximatif, pas une mesure. Les meilleurs modèles ouverts ont plusieurs centaines de milliards de paramètres. Un Mac mini exécute donc des modèles plus petits ou des versions fortement réduites, et les réponses sont moins bonnes.

À quelle vitesse répond-il ?

Pour rédiger une réponse, l’ordinateur lit les poids en mémoire pour chaque token. La bande passante mémoire fixe donc une limite : à 307 Go/s et avec un modèle de 18 Go de poids, on obtient au plus environ 17 tokens par seconde, soit une dizaine de mots. Pour une personne, c’est fluide. Les modèles qui n’utilisent qu’une partie de leurs paramètres par token (mixture of experts) sont plus rapides. La lecture de longs documents prend nettement plus de temps sur un Mac mini que sur un serveur équipé de GPU.

Pour combien de personnes cela suffit-il ?

Par défaut, Ollama traite une requête par modèle à la fois ; les autres attendent dans une file (jusqu’à 512 selon la documentation). On peut configurer davantage de parallélisme, mais le besoin en mémoire augmente alors avec le nombre de requêtes simultanées multiplié par la longueur du contexte. Lors d’un test de Red Hat, les performances d’Ollama sur un GPU de serveur n’augmentaient presque plus avec davantage de personnes, alors qu’un logiciel conçu pour de nombreuses requêtes simultanées continuait de progresser. À titre indicatif, un Mac mini suffit pour une à cinq personnes. La manière dont les établissements vont au-delà est décrite dans le guide Faire évoluer Ollama et Open WebUI.

Que manque-t-il pour un usage dans tout l’établissement ?

• Connexion et droits : l’interface d’Ollama n’a pas de connexion propre. Par défaut, elle n’est accessible que sur l’appareil lui-même ; qui l’ouvre sur le réseau doit sécuriser l’accès lui-même. En 2025, Cisco a trouvé plus de 1 100 serveurs Ollama librement accessibles sur Internet.
• Interface : les collaborateurs ont besoin d’une interface de chat comme Open WebUI, qu’il faut elle aussi exploiter et mettre à jour.
• Journaux et preuves : qui a demandé quoi et quand n’est pas enregistré. La protection des données, le CSE ou les représentants du personnel et la sécurité de l’information en ont besoin.
• Sauvegarde et panne : un appareil unique est un point de défaillance unique.
• Mises à jour : système d’exploitation, Ollama, interface et modèles doivent être entretenus.

Comment cela fonctionne-t-il avec basebox ?

Techniquement, l’IA tourne sur d’aussi petits ordinateurs pour une à cinq personnes, avec des réponses moins bonnes. basebox ne le propose pas, car l’IA n’y fournit pas ce dont un établissement a besoin au quotidien. Pour les petites équipes, il y a le cloud : à partir de 5 personnes, sans matériel à vous, prêt en 2 minutes. Pour les établissements plus grands, il y a les serveurs des Classes 1 à 3, qui répondent selon la classe à 100, 150 ou plus de 200 questions au même moment. Vous trouverez la comparaison avec Ollama et les serveurs locaux sous basebox et Ollama.

Remarque : les indications de mémoire et de vitesse sont des calculs approximatifs d’après les caractéristiques techniques d’Apple, état au 11 octobre 2026, pas des mesures. Seul un test avec vos propres tâches donne des résultats fiables.