Naar de inhoud springen
kenjtecJournal
Het Journal doorzoeken

Je eerste lokale AI met Ollama: wat er echt op je computer blijft

Een lokale interface vertelt je nog niet waar alle gegevens worden verwerkt. Met de local-only-modus, drie duidelijke stations en een eigen tekstvoorbeeld wordt de werkroute van Ollama controleerbaar.

Lena staat naast drie gereedschapskisten; een lange kabel met een losse rode stekker ligt op de grond. AI-illustratie.

De browser toont een lokaal adres. Naast het model is echter een webzoekfunctie ingeschakeld, en een extra dienst bereidt de documenten voor. Het eerste zichtbare scherm zegt dus weinig over welke stations een verzoek werkelijk passeert. Bij de start met lokale AI loont een kleine kaart van je eigen werkroute de moeite.

Ollama's FAQ maakt onderscheid tussen lokale en gehoste modellen. Ze documenteert een local-only-modus waarin de cloudfuncties van Ollama zijn uitgeschakeld, evenals de standaardbinding aan loopback. Deze instellingen zijn concrete bouwstenen. Een volledige uitspraak over extra interfaces en tools volgt er niet uit.

Drie stations in plaats van een algemeen label ‘lokaal’

Scheid de interface, de modelverwerking en de extra functies. De interface neemt het bericht aan. Het model genereert het antwoord. Zoeken, documentvoorbereiding of tools kunnen verdere verbindingen toevoegen. Elk station heeft een eigen toewijzing nodig: op dit apparaat, op een andere computer van jezelf of bij een externe dienst.

Een eenvoudige tekstsamenvatting is geschikt voor de eerste test, omdat die zoeken in documenten noch webonderzoek vereist. Een overzichtelijke werkroute is makkelijker te begrijpen dan een assistent met talrijke extensies die tegelijk actief zijn.

De gedocumenteerde local-only-modus instellen

Als je Ollama al hebt geïnstalleerd en een geschikte lokale variant hebt voorbereid, kun je eerst de eigen cloudfuncties ervan uitschakelen. De FAQ noemt hiervoor de omgevingsvariabele OLLAMA_NO_CLOUD=1, of een vermelding in ~/.ollama/server.json:

{
  "disable_ollama_cloud": true
}

Voeg de vermelding zo toe dat die bij je bestaande configuratie past, in plaats van een bestaand bestand ongecontroleerd te vervangen. Start Ollama na de wijziging opnieuw. Volgens de instructies toont het logboek dan ‘Ollama cloud disabled: true’. De platformspecifieke instelling van omgevingsvariabelen wordt ook in de FAQ beschreven.

Deze instelling betreft de cloudmodellen en de webzoekfunctie van Ollama. Een andere chatinterface kan nog steeds eigen externe functies hebben. Schakel zulke extensies afzonderlijk uit of onderzoek ze apart, voordat je concludeert dat de hele route puur lokaal is.

Een eigen test met bekende details

Maak een kort cursusblad als platte tekst: tien deelnemers, een ochtendsessie, verzegeld materiaal pas na goedkeuring. De opdracht luidt: ‘Vat deze details samen in drie feitelijke zinnen. Behoud het aantal, het tijdvenster en de beperking. Voeg geen aanbod en geen onbekende verantwoordelijkheid toe.’

Gebruik een bestaande lokale modelvariant die je bewust hebt gekozen. Noteer de exacte identificatie, de runtime en de gebruikte interface. Vergelijk het antwoord met de brontekst. Vloeiende formuleringen zijn geen geschikte samenvatting als het woord ‘pas’ of de voorwaarde van goedkeuring verloren gaat.

Herhaal daarna dezelfde opdracht in een nieuw gesprek. Verander vervolgens precies één detail, bijvoorbeeld het aantal deelnemers. Zo zie je of het antwoord de actuele invoer gebruikt of een eerdere versie overneemt. Alleen werkelijk uitgevoerde runs leveren resultaten op; hier wordt geen modelkwaliteit voorspeld.

Wat een offlinetest ook verduidelijkt

Een gecontroleerde test zonder internetverbinding kan laten zien of de kleine voorbereide werkroute nog steeds werkt. Daarvoor moeten de benodigde bestanden al aanwezig zijn. Een ontbrekende eerste download is een ander probleem dan een functie die voor elke verwerkingsstap een externe dienst nodig heeft.

Het gedrag bij één opdracht is bovendien geen vervanging voor een volledige netwerkanalyse. Een geslaagde lokale chat bewijst niet automatisch de gegevenspaden van elke extensie. Wie die nader wil onderzoeken, moet afzonderlijk kijken naar de processen en verbindingen die werkelijk in gebruik zijn.

Toch blijft de start prettig overzichtelijk: een voorbereid lokaal model, een bekend tekstvoorbeeld en een korte lijst van de stations. Zo houd je grip op de beslissende vragen, zonder uit de naam van een applicatie een allesomvattende belofte over gegevensbescherming af te leiden.

Later kun je zoeken in documenten of tools een voor een toevoegen. Na elke extensie werk je je kaart bij. Zo wordt lokale AI een navolgbare opzet waarvan je het gedrag stap voor stap kunt begrijpen.

Bronnen en stand van zaken

Bronnen per 25 oktober 2026. Ollama FAQ — local-only-modus.

Hamburg is ons vertrekpunt.

Het nuttige reist met je mee.

Praktische AI uit Hamburg, internationaal uitgelegd.

Bewaarde artikelen