Comparatif LLM

Date : 24 Mai 2024 | Modèles : gemma4:12b, qwen3-64k-nt, mimo-v2.6-flash

Tableau Récapitulatif des Notes (0-5)

Test gemma4:12b qwen3-64k-nt mimo-v2.6-flash
A1 - Pilotage Hermes2.52.04.0
A2 - Pilotage Secours4.54.04.5
B1 - Codage Fusion5.05.02.0
B2 - Codage Debug5.05.05.0
B3 - Codage Unittest4.03.55.0
C1 - Images Prompt5.03.55.0
C2a - Son TTS FR4.54.55.0
C2b - Son PT-PT3.55.04.0
C3 - Vision5.0N/A5.0
D1 - Français 150m5.04.04.5
D2 - Traduction PT4.02.04.5
Moyennes par Catégorie

Pilotage (A): 3.67

Codage (B): 4.50

Son/Image (C): 4.50

Langues (D): 4.17

Vitesses (Débit / Wall)
gemma445 tok/s2.2s
qwen374 tok/s0.3s
mimo118 tok/s10.3s

A1 — Pilotage Hermes (Tool-calling)

Prompt : "Le service mon-app sur port 3000 ne répond plus... Réponds UNIQUEMENT par des appels d’outil JSON valides..."

gemma4:12b (2.5)
{"name": "terminal", "input": "ps aux | grep 3000"}\n{"name": "terminal", "input": "netstat -tunlp | grep 3000"}\n{"name": "terminal", "input": "sudo systemctl status mon-app"}\n{"name": "terminal", "input": "journalctl -u mon-app -n 50"}
4 JSON valides, mais utilise "sudo" (interdit) et input en string.
qwen3-64k-nt (2.0)
{"name": "web_search", "input": {"query": "curl connection refused port 3000"}}
Échoue à diagnostiquer localement, propose une recherche web inutile.
mimo-v2.6-flash (4.0)
{"name": "command", "input": {"command": "ps aux | grep -i mon-app | grep -v grep"}}\n... (9 appels)
Séquence complète et robuste. Erreur mineure sur nom d'outil ("command" vs "terminal").

B1 — Codage : fusionner_intervals

Prompt : "Écris en Python la fonction fusionner_intervals... Exactement 2 assertions..."

gemma4:12b (5.0)
EXEC exit 0
def fusionner_intervals(liste): ...
qwen3-64k-nt (5.0)
EXEC exit 0
def fusionner_intervals(liste): ...
mimo-v2.6-flash (2.0)
EXEC exit 1
def fusionner_intervals(liste): ...
Erreur sur la 2ème assertion (attendait 1,12 au lieu de 1,9).

C1 — Images : Prompt Structuré

Prompt : "Prompt structuré pour générer le visuel hero d’une landing page « app de co-parentalité »..."

gemma4:12b (5.0)
Variantes structurées (Lifestyle, Product, Abstract) avec paramètres SD/Flux.
qwen3-64k-nt (3.5)
Description textuelle en français, moins exploitable directement par les moteurs SD/Flux.
mimo-v2.6-flash (5.0)
Structure parfaite, hex colors, prompts EN, paramètres techniques complets.

D2 — Traduction Portugais (PT-PT)

Prompt : "Traduis en portugais du PORTUGAL : 'Le téléphone est sur la table...'"

gemma4:12b (4.0)
"O telefone está sobre a mesa. O autocarro chega às dez horas..."
qwen3-64k-nt (2.0)
"O telefone está sobre a mesa. O autocarro chega às dez horas. Vou ao trabalho de autocarro..."
Erreur : traduit "en train" par "autocarro". Marqueurs brésiliens.
mimo-v2.6-flash (4.5)
"O telemóvel está em cima da mesa. O autocarro chega às dez horas..."

Verdict Final

Pilotage Principal

mimo-v2.6-flash : Meilleure gestion des outils et séquences complexes.

Codage Agent

gemma4:12b ou qwen3 : Fiabilité maximale sur la logique algorithmique.

FR / PT

mimo-v2.6-flash : Précision culturelle et linguistique supérieure.

Son / Image

mimo-v2.6-flash : Meilleure compréhension des contraintes techniques (SD/Flux/TTS).

Secours Rapide

gemma4:12b : Très efficace sur les diagnostics courts et précis.

Vision

gemma4:12b & mimo : Excellente lecture de texte et description.

```