Coding-assistenten offline: Continue, Aider en Cody

Continue, Aider en Cody beloven allemaal hetzelfde: jouw editor verbinden met een lokaal taalmodel zonder dat een regel code je machine verlaat. De aanpak verschilt fundamenteel. Welke stack je daadwerkelijk productiever maakt — en welke je eerder frustreert — hangt af van je hardware, je workflow en hoeveel configuratiegeduld je hebt.

Drie stukken software, drie aannames

Voordat je een van de drie installeert, helpt het te begrijpen wat de ontwikkelaars voor ogen hadden. Continue.dev gaat uit van de gedachte dat een AI-assistent een volwaardig onderdeel van je editor moet zijn: aanwezig in de sidebar, op de hoogte van je open bestanden, inzetbaar voor autocomplete én chat. Het is een VS Code- en JetBrains-extensie die werkt als lijm tussen jouw IDE en welke LLM-backend je ook kiest — lokaal via Ollama of remote via een API. De configuratie zit in een enkel JSON-bestand; de filosofie is maximale flexibiliteit zonder vendor lock-in.

Aider vertrekt vanuit een andere aanname: de terminal is de meest eerlijke omgeving voor een AI-pair-programmer. Aider draait als command-line tool, bouwt een kaart van je codebase, stelt wijzigingen voor en commit die automatisch via Git — met beschrijvende commit messages. Wie al comfortabel is met de terminal en Git als werkcentrum gebruikt, vindt dit de minst opdringerige aanpak. Wie van de terminal gruwt, zal zich hier niet thuisvoelen.

Cody van Sourcegraph is de meest enterprise-georiënteerde van de drie. De gratis tier werkt als VS Code-extensie met cloud-modellen; wie echt offline wil werken, heeft een self-hosted Sourcegraph-instantie of een Cody Enterprise-licentie nodig. Dat laatste maakt de lat hoger, maar het geeft ook de breedste codebase-integratie: Cody begrijpt niet alleen je lokale repository, maar ook je interne documentatie, issue-tracker en code review-systeem als je die bronnen koppelt.

Continue in de praktijk

De installatie van Continue loopt vlot: extensie zoeken in de VS Code Marketplace, installeren, en in het configuratiebestand (~/.continue/config.json) een Ollama-backend toevoegen. Voor lokale modellen ziet dat er zo uit:

{
  "models": [
    {
      "title": "Qwen2.5-Coder 7B",
      "provider": "ollama",
      "model": "qwen2.5-coder:7b"
    }
  ]
}

Na een herstart van VS Code verschijnt de Continue-sidebar en kan je chatten met je codebase. Bestanden voeg je toe aan de context door ze te taggen met @bestandsnaam. Continue doet dan aan retrieval-augmented generation op je lokale bestanden zonder dat er iets naar buiten gaat.

De autocomplete-functie is de plek waar Qwen2.5-Coder 7B op een RTX 4070 zichzelf bewijst. Op 12 GB VRAM in Q4_K_M verbruikt het model circa 5,5 GB, wat ruimte laat voor een comfortabele KV-cache. De gegenereerde latency voor inline suggesties ligt op 200–350 ms — net onder de drempel waarop je de vertraging bewust ervaart. Bij grotere bestanden met 8K+ tokencontext loopt die op naar 500–700 ms, wat merkbaar is maar acceptabel.

De chat-modus is waar Continue minder lineair aanvoelt. Continue biedt naast Chat ook een Plan-modus (architectuurbeslissingen uitwerken) en een Agent-modus (code daadwerkelijk uitvoeren en itereren). De agentmodus werkt het best met sterkere modellen. Met Qwen2.5-Coder 7B lokaal zijn de resultaten wisselvallig bij complexe refactoring-opdrachten; met een 14B-model worden ze bruikbaar, al vereis dat op een RTX 4070 het volledig opgeven van de KV-cache-buffer voor andere taken.

"Autocomplete op de RTX 4070 met Qwen2.5-Coder 7B: 200–350 ms. Net snel genoeg om te vergeten dat je lokaal draait."

Een veelgenoemde klacht over Continue is dat de configuratie voor geavanceerde setups al snel complex wordt. Wie meerdere modellen wil inzetten voor verschillende taken — een snel 7B-model voor autocomplete, een trager 14B-model voor chat — moet dat handmatig uitwerken in de JSON-config. De documentatie is goed, maar de leercurve is reëel. Continue is geen plug-and-play tool; het is een platform voor wie weet wat die wil.

Aider: git-aware AI-pair

Installeer je Aider via pip (pip install aider-chat) en start je het in een Git-repository, dan bouwt het als eerste een repo map: een compacte representatie van alle bestanden, functies en klassen in je codebase. Die map gaat mee in elke promptcontext, waardoor Aider ook in grotere projecten begrijpt hoe bestanden zich tot elkaar verhouden — iets wat Continue pas doet als je expliciet bestanden tagt.

De werkwijze is direct: je geeft een opdracht in de terminal, Aider stelt een diff voor, legt uit wat en waarom het verandert, en vraagt of je wilt dat het de wijziging uitvoert en commit. Die commit krijgt automatisch een beschrijvende Git-boodschap. Het is een patroon dat vertrouwd aanvoelt voor ontwikkelaars die al gewend zijn aan feature-branch-work: elke AI-suggestie is een atomaire Git-stap die je kunt terugdraaien met git revert.

Voor lokale modellen configureer je Aider met een Ollama-endpoint:

aider --model ollama/qwen2.5-coder:14b --ollama-api-base http://localhost:11434

Aider werkt het best met zijn officieel gesteunde modellen: Claude 3.7 Sonnet, DeepSeek R1 en GPT-4o scoren het hoogst in de eigen Aider-benchmarks. Lokale modellen zijn functioneel, maar de resultaten zijn merkbaar minder precies bij complexe refactoring-taken. Qwen2.5-Coder 14B in Q4_K_M vraagt op een 12 GB-kaart bijna het volledige VRAM-budget; in de praktijk draait het, maar de marge voor grotere contextvensters is krap.

De terminal-aanpak van Aider heeft een duidelijk nadeel: je verlaat je editor voor elke AI-interactie. Dat is een workflow-onderbreking die klein klinkt maar bij herhalend gebruik vermoeiend wordt. Er bestaat geen native VS Code-integratie; er zijn community-extensies die een terminal-panel inbedden, maar dat is niet hetzelfde als de naadloze sidebar-ervaring van Continue. Aider is de beste keuze voor wie veel met de terminal werkt en Git centraal stelt; voor wie voornamelijk in de GUI leeft, is het een compromis.

Cody: enterprise-gericht, lokaal pas met voorbehoud

Cody's gratis extensie voor VS Code werkt uitstekend — maar standaard stuurt die alle verzoeken naar Sourcegraphs cloud. Wie lokale inferentie wil, activeert de experimentele Ollama-integratie: in de Cody Chat-interface verschijnt dan een Ollama (Local models)-sectie in de modeldropdown, mits Ollama lokaal draait en bereikbaar is op poort 11434.

De integratie werkt betrouwbaar voor chat. Code-completion via lokale modellen is echter nog experimenteel en vereist handmatige activatie in de instellingen. In de testomgeving werkte het lokaal gestuurde codecompletion met Qwen2.5-Coder 7B, maar de latency was hoger dan bij Continue — deels omdat Cody's extensie een andere manier van contextopbouw gebruikt die minder geoptimaliseerd is voor Ollama-backends.

Cody's echte meerwaarde ligt in zijn codebase-begrip. De extensie begrijpt je gehele repository en kan vragen beantwoorden als "welke functies gebruiken deze interface?" of "waar wordt deze variabele geïnitialiseerd?" zonder dat je bestanden handmatig tagt. Dat werkt via Sourcegraphs zoekindex, die voor lokale repositories gratis beschikbaar is via de extensie. Voor grotere codebases of teams die meerdere repositories tegelijk willen indexeren, vereist dat echter een self-hosted Sourcegraph-instantie — een operationele last die voor individuele ontwikkelaars zelden de moeite waard is.

De Cody Enterprise-versie voegt BYOM (Bring Your Own Model) toe: je kunt eigen Azure OpenAI- of Bedrock-endpoints koppelen, en ook self-hosted open-source modellen via een compatibele API. Dat is relevant voor bedrijven met datasovereniteitsvereisten. Voor de gemiddelde ontwikkelaar die gewoon privé wil programmeren, is Cody in zijn huidige staat meer een cloud-tool met een lokale modus dan een lokale tool met optionele cloud.

Welk model, welke VRAM

De modellen die je kiest zijn minstens zo bepalend als de tool. In de praktijk zijn er voor lokale coding-assistenten op consumentenhardware twee realistische klassen:

8–12 GB VRAM (RTX 4060 / RTX 4070): Qwen2.5-Coder 7B in Q4_K_M is de meest gebalanceerde keuze. Het vraagt circa 5,5 GB VRAM, haalt 50–65 tokens per seconde op de 4070, en scoort 88,4% op HumanEval — hoger dan Codestral en DeepSeek Coder V2 Lite op dit benchmark. Voor autocomplete-gebruik is het bijna transparant snel; voor chat en lichte refactoring is de kwaliteit acceptabel. DeepSeek Coder V2 Lite 16B past technisch ook op een 12 GB-kaart in Q4_K_M (~9,5 GB), maar de marge voor contextvensters verdwijnt, en de snelheid zakt naar 25–35 tok/s.

16–24 GB VRAM (RTX 4080 / RTX 4090): Qwen2.5-Coder 32B in Q4_K_M vraagt ~22 GB en is de sterkte lokale coding-optie voor dit VRAM-segment. Op een RTX 4090 haalt het 30–43 tok/s bij een 4K-contextvenster. DeepSeek-V3 in zijn volledige omvang is lokaal niet praktisch inzetbaar — het model is simpelweg te groot voor consumentenhardware. Wie DeepSeek wil, werkt ofwel met de kleinere DeepSeek-R1-Distill-Qwen-7B-variant of via een cloud-API.

Een onderbelichte vuistregel: tokens per seconde is het cijfer dat productiviteit bepaalt, niet benchmarkscore. Het verschil tussen 55 tok/s en 12 tok/s is het verschil tussen een tool die je vergeet te bedienen en een tool die je actief zit te wachten. Wie op Apple Silicon werkt — M2 Pro of later — heeft een voordeel door de unified memory-architectuur: een M3 Max met 48 GB unified memory draait Qwen2.5-Coder 32B comfortabel met goede snelheid, zonder de GPU/CPU-split die llama.cpp op discrete GPU's moet maken.

FAQ

Werkt Continue ook met JetBrains IDEs?

Ja. Continue heeft een JetBrains-plugin die dezelfde JSON-configuratie gebruikt als de VS Code-extensie. Autocomplete is iets minder gerijpt in JetBrains, maar chat en contextbeheer werken identiek.

Kan Aider bestanden aanpassen zonder mijn bevestiging?

Standaard vraagt Aider altijd bevestiging voor het uitvoeren van een diff. Je kunt dat uitschakelen met de --yes-vlag, maar dat is niet aanbevolen voor productie-repositories.

Is de Cody-extensie gratis voor privégebruik?

De Free-tier van Cody is gratis voor individueel gebruik, inclusief de experimentele Ollama-integratie. De Pro-tier (€9/mnd) voegt hogere limieten en meer cloud-modellen toe. Cody Enterprise heeft een eigen licentiëring.

Werkt Qwen2.5-Coder goed met Nederlandse variabelenamen en comments?

Ja. Qwen 2.5 heeft expliciete meertalige training. De kwaliteit van codegeneratie op basis van Nederlandse promptomschrijvingen is merkbaar beter dan bij oudere modellen zoals Code Llama.

Kan ik Continue gebruiken zonder internet?

Volledig. Als je een lokale Ollama-backend configureert, heeft Continue geen internetverbinding nodig voor inferentie. De extensie zelf contacteert bij installatie de Marketplace, maar na installatie werkt alles offline.

Wat als mijn GPU het model niet volledig in VRAM past?

Ollama en llama.cpp ondersteunen CPU-offload via --n-gpu-layers: lagen die niet in VRAM passen draaien in RAM. De snelheid daalt sterk — van 50 naar 3–8 tok/s — maar het model werkt. Voor autocomplete is dat te traag; voor sporadisch gebruik van de chat-modus is het acceptabel.