OpenAI heeft het met ChatGPT het concept van een AI-chatbot populair gemaakt. Ook andere bedrijven bieden soortgelijke diensten aan. Daarnaast zijn er grote taalmodellen beschikbaar waarmee je zelf een chatbot kunt maken die op je eigen computer draait. Met Jan krijg je toegang tot al deze taalmodellen vanuit één interface.

Een groot taalmodel (Large Language Model of LLM) is een neuraal netwerk met miljarden parameters dat teksten kan genereren. Dit type algoritme kreeg brede bekendheid toen OpenAI in november 2022 de dienst ChatGPT lanceerde. Via deze webinterface kun je eenvoudig chatten met het taalmodel, en de antwoorden lijken vaak alsof ze van een mens komen.

Ook de concurrentie is niet stil blijven staan. Zo biedt het Franse bedrijf Mistral AI een online chatbot op basis van een eigen groot taalmodel. Daarnaast stellen bedrijven als Groq je in staat om allerlei grote taalmodellen in de cloud te draaien. Meta, het moederbedrijf van Facebook, bracht bovendien zijn groot taalmodel Llama uit in kleinere versies, die je zelfs op je eigen computer kunt draaien. Dat werd al snel gevolgd door een reeks andere grote en kleine taalmodellen van diverse bedrijven en onderzoeksinstellingen.

Het kan lastig zijn om al deze modellen uit te proberen: je moet dan allerlei verschillende webinterfaces gebruiken of van diverse locaties modellen downloaden. Jan biedt hiervoor een oplossing: je installeert deze opensourcesoftware op je eigen computer. Daarna verbind je via een API (Application Programming Interface) met een groot taalmodel in de cloud of download je een taalmodel van bijvoorbeeld Meta of Mistral op je eigen computer om het offline te gebruiken. En dat alles in één en dezelfde gebruikersinterface, waarin je eenvoudig tussen verschillende modellen kunt overschakelen.

1 Jan installeren

Jan is beschikbaar voor Windows, macOS (Intel- of Apple-processoren) en Linux. Op de downloadpagina vind je de verschillende versies. Als je lokaal grote taalmodellen wilt draaien, heb je een krachtige computer nodig. Onder Windows en Linux betekent dat een gpu van Nvidia of AMD met minstens 8 GB VRAM. Heb je een recente Mac, dan is een Apple M1-processor of nieuwer ook snel genoeg.

Nadat je Jan hebt gestart, schakel je eerst de hardwareversnelling in. Op Macs met een Apple-processor gebeurt dat automatisch, maar voor Windows en Linux dien je dat handmatig te doen. Raadpleeg de platformspecifieke installatie-instructies om de juiste drivers en andere nodige software te installeren. Voor een Nvidia-gpu open je in Jan de instellingen (het icoontje van het tandwiel linksonder) waar je klikt op Advanced Settings en GPU Acceleration inschakelt.

Voor de beste prestaties laat je Jan gebruikmaken van je gpu.

2 Lokaal AI-model draaien

Als je een groot taalmodel op je eigen computer wilt draaien, moet je dit eerst downloaden. Klik daarvoor in Jan linksboven op het icoontje met de vier vierkantjes. Dit brengt je naar de Hub, een verzameling van modellen die je kunt downloaden. Bij de modellen die je lokaal kunt draaien, staat de bestandsgrootte en een knop Download. Als er Recommended bij staat, draait het model goed op je hardware. Staat er de waarschuwing Slow on your device, dan komt dat bijvoorbeeld omdat je gpu te weinig VRAM heeft. Klik rechts naast de downloadknop voor extra uitleg over het model en klik op Download om het model op te slaan. Download bijvoorbeeld Mistral Instruct 7B Q4. Dat is een goed algemeen model dat al op een gpu met 8 GB VRAM draait.

Zodra het model is gedownload, verandert de downloadknop in Use. Klik erop om een nieuwe ‘thread’ te starten, een conversatie met het model. Dit kan ook door op de tekstballon linksboven te klikken. Voordat je een vraag typt in het tekstveld onderaan, raden we je aan aan de rechterkant naar enkele instellingen te kijken. In het tabblad Assistant kun je onder Instructions specifieke instructies geven die de antwoorden van de chatbot beïnvloeden, zoals de rol die het moet uitvoeren. In het tabblad Model kun je het taalmodel kiezen: naast de gedownloade modellen zijn ook de modellen die je online gebruikt via een API zichtbaar. Laat de andere instellingen voorlopig op hun standaardwaarden staan (zie het kader ‘Modelparameters’ voor de betekenis ervan). Nu kun je je vraag stellen. Jan zal eerst het taalmodel in het VRAM of RAM laden, wat even kan duren. Daarna verschijnt het antwoord redelijk snel. Vervolgvragen worden hierdoor ook sneller beantwoord.

Dankzij Jan kun je met alle mogelijke grote taalmodellen chatten.

3 AI-model in de cloud draaien

Op dezelfde manier kun je modellen in de cloud draaien bij leveranciers als OpenAI, Anthropic, Mistral, Cohere en Groq. Hiervoor moet je eerst een API-sleutel voor de desbetreffende dienst instellen. Keer daarvoor terug naar de instellingen van Jan en klik bij Model Providers op de gewenste dienst. We illustreren dit met OpenAI. Bij API Key moet je een API-sleutel invullen, die je aanmaakt op de pagina API keys van je OpenAI-account. Klik daar op Create new secret key, geef je sleutel een naam en ken ze aan een project toe (er is een Default project). Klik dan op Create secret key. Kopieer nu onmiddellijk de gegenereerde sleutel en vul die in Jan in, want je krijgt die daarna nooit meer te zien.

Je kunt nu in de Hub van Jan naar OpenAI GPT 4o gaan en ernaast op Use klikken om een nieuw gesprek te starten. Of je klikt op de tekstballon linksboven, daarna op het icoontje met het potlood om een nieuwe thread aan te maken, om vervolgens aan de rechterkant bij Model OpenAI GPT 4o uit de lijst te selecteren. Cloudmodellen waar je geen toegang toe hebt omdat je nog geen API-sleutel hebt ingesteld, zijn grijs weergegeven. Je kunt tijdens het gesprek overigens op elk moment van model veranderen. Als je bijvoorbeeld merkt dat het model niet goed genoeg is voor je vraag, verander dan het model en klik op het knopje Regenerate bij het antwoord.

Creëer een API-sleutel om OpenAI’s grote taalmodellen in Jan te gebruiken.

4 Pdf-documenten samenvatten

Als je een model met lange contextlengte gebruikt, kun je in Jan ook pdf-documenten laten samenvatten of op andere manieren analyseren. Klik daarvoor eerst in de instellingen op Advanced Settings en schakel Experimental Mode in. Je threads tonen nu aan de rechterkant ook een tabblad Tools. Schakel daar Retrieval in.

Klik nu in je thread op het icoontje van de paperclip en kies Document. Selecteer het pdf-bestand dat je wilt analyseren. Nu kun je in het tekstveld onderaan vragen stellen aan het taalmodel over dit document. Als het lijkt alsof het taalmodel de informatie niet volledig heeft verwerkt, kun je experimenteren met de parameters in het tabblad Tools. Wees overigens altijd kritisch over de antwoorden. Vaak zit het taalmodel ernaast of antwoordt het onvolledig.

Als je de datasheet van de Raspberry Pi Pico W met GPT-4o bevraagt, zijn de antwoorden helaas onvolledig.

5 Multimodaal model

Sommige modellen kunnen niet alleen overweg met tekst, maar ook met afbeeldingen. Ze kunnen bijvoorbeeld een afbeelding die je hen voorlegt beschrijven of erover redeneren. We noemen dat multimodale modellen. Een voorbeeld hiervan is LLaVA (Large Language and Vision Assistant). In de Hub van Jan zijn enkele varianten te vinden, zoals LlaVa 7B, BakLlava 1 en LlaVa 13B Q4 (voor GPU’s met meer dan 8 GB VRAM).

Na je selectie kun je een afbeelding uploaden door in een gesprek op de paperclip klikken en voor Image te kiezen. Als het niet om een multimodaal model gaat, blijft Image grijs en kun je het niet selecteren. Daarna kun je vragen stellen over de afbeelding. Helaas bleek in onze test geen van de LLaVA-modellen uit Jans Hub te werken, ook niet met een LLaVA-model dat we van Hugging Face downloadden. Het is een van de redenen waarom de ontwikkelaars van Jan nog steeds waarschuwen dat hun programma in bètafase is.

6 Modellen van Hugging Face

Hugging Face is een Frans-Amerikaans bedrijf dat met zijn Model Hub een populaire website aanbiedt waar iedereen AI-modellen kan publiceren. Jan kan deze modellen van de Hugging Face Model Hub ook lokaal draaien, zolang ze in het formaat GGUF (GPT-Generated Unified Format) worden aangeboden. We illustreren dit met Granite Code 8B, een taalmodel van IBM dat is getraind om programmeertaken uit te voeren.

Als je binnen de Hugging Face Model Hub op de pagina van een GGUF-model rechtsboven op Use this model klikt en vervolgens op Jan, krijg je de vraag om de pagina in Jan te openen. Een andere manier is om in de Hub van Jan de url van het model te plakken. Jan toont je dan informatie over het model en biedt verschillende versies ter download aan. In ons voorbeeld is er maar één versie, maar vaak zijn er verschillende kwantisaties beschikbaar (zie het kader ‘Welke modelvariant kiezen?’). Klik op de downloadknop naast het gewenste model. Zodra het is gedownload, klik je op Use om een gesprek te beginnen.

Jan kan alle GGUF-taalmodellen van Hugging Face downloaden.

7 Modellen die programmeren

Taalmodellen zoals Granite Code, Codestral, Deepseek Coder en CodeNinja zijn gespecialiseerd in alles wat met programmeren te maken heeft. Vraag bijvoorbeeld om een Python-script dat met de bibliotheek Bleak scant naar bluetooth-apparaten in de buurt, en het taalmodel toont je de code hiervoor, inclusief uitleg en instructies om de benodigde bibliotheken te installeren.

De code zelf wordt in afzonderlijke kaders getoond, die je met een klik op het icoontje rechtsboven kopieert, zodat je de code in je eigen code-editor kunt plakken en uitproberen. Je kunt ook code invoeren in Jan en het model vragen om deze uit te leggen. Of geef code waarvan je weet dat er een fout in zit en vraag het model om de code te verbeteren. Vaak krijg je overigens code die niet werkt, of die een foutmelding geeft. Reageer dan met de foutmelding of vertel wat er fout gaat, en je krijgt een verbeterde versie. Na wat heen en weer communiceren krijg je vaak wel een bruikbaar resultaat.

Granite Code kan je helpen bij programmeertaken.

8 Extra cloudmodellen toevoegen

Er komen continu nieuwe taalmodellen bij, en Jan kan dat niet altijd direct volgen. Gelukkig kun je vaak met wat handmatige configuraties de nieuwe modellen toch nog aan de praat krijgen. We illustreren dit met GPT-4o mini, de goedkopere versie van GPT-4o die OpenAI aanbiedt. Tijdens het schrijven stond deze nog niet in Jans Hub, maar je kunt deze eenvoudig toevoegen. Jan slaat de configuratie van elk model op in een bestand in zijn datadirectory. Voor OpenAI’s GPT-4o is dat bijvoorbeeld in het bestand jan\models\gpt-4o\model.json in je persoonlijke map.

Om Jan toegang te geven tot GPT-4o mini, maak je een map gpt-4o-mini aan en kopieer je het bestand model.json van GPT-4o daarnaartoe. Pas nu in dit json-bestand het id aan van gpt-4o naar gpt-4o-mini, de naam van OpenAI GPT 4o naar OpenAI GPT 4o mini en het maximumaantal tokens van 4096 naar 16384. Deze waarde vind je op de website van OpenAI bij de eigenschappen van het model. Sla het bestand op, sluit Jan af en start het programma weer op. Daarna is het model in Jan beschikbaar.

Voeg het nieuwste model van OpenAI aan Jan toe.

9 Meer mogelijkheden

Jan biedt nog heel wat meer mogelijkheden. Zo kun je het programma als server draaien en functionaliteit van de taalmodellen aan andere programma’s aanbieden. In de code-editor Visual Studio Code kun je bijvoorbeeld met de extensie Continue hulp bij het programmeren krijgen. Continue communiceert dan op de achtergrond met een taalmodel dat Jan uitvoert.

Een ander interessant programma is Open Interpreter. Dit laat een groot taalmodel code genereren die dan op je computer wordt uitgevoerd. Je kunt bijvoorbeeld aan een taalmodel van Jan vragen om een bestand met data in te lezen en daar grafieken van te maken. Verder zullen er wellicht nog meer tools komen dan enkel het inlezen van pdf-bestanden.

Jan ondersteunt allerlei integraties om de grote taalmodellen toe te passen.

Wanneer je kiest voor een inbouwvriezer werk je deze natuurlijk het liefst netjes weg achter een mooie keukendeur. Je vindt ze in hoogtes van 72 tot 178 cm, maar ook als onderbouw diepvrieskast die onder je aanrechtblad passen. Waar moet je allemaal nog meer op letten bij een inbouwvriezer voordat je deze aanschaft?

Een inbouwvriezer biedt als voornaamste voordeel dat de kast mooi is weggewerkt in je keuken. Juist daarom is het belangrijk om vooraf goed op een aantal zaken te letten als je zo’n vriezer wilt kopen.

Formaten

Inbouwvriezers zijn te koop in een aantal vaste maten. Die maten zijn gestandaardiseerd, zodat het eenvoudig is om de juiste inbouwvriezer bij de juiste inbouwkast te kopen en andersom. De ruimte in een inbouwkeuken waar de inbouwvriezer komt, is ietsje groter dan de inbouwvriezer zelf. Logisch, omdat zo'n inbouwvriezer wel makkelijk geplaatst moet kunnen worden, maar er ook weer eenvoudig uit moet kunnen in geval van reparatie of vervanging.

Bij een inbouwvriezer kun je kiezen uit de volgende hoogtes: 72, 88, 102, 122, 140, 178 en 180 cm. De breedte van inbouwvriezers ligt doorgaans tussen de 54 en 56 cm, het is dus belangrijk dat de breedte van de nis hierop is afgestemd. De diepte van een inbouwvriezer kan ook iets variëren, maar 54,5 cm is doorgaans de gemiddelde diepte. Je kunt ook kiezen voor een ondervriezer; een losse kleinere kast van zo'n 80 cm hoog die past onder het aanrechtblad.

Bij de aanschaf van een inbouwvriezer of elke inbouwapparatuur vind je altijd de informatie over de grootte van de nis. De nis is de plek in de inbouwkeuken waarin de inbouwapparatuur wordt geplaatst. Deze informatie is dus erg belangrijk bij het kiezen voor de juiste inbouwvriezer en de gewenste keuken.

©MG | ID.nl

Scharnier- en deursystemen

Bij de aanschaf van een inbouwvriezer houd je rekening met het soort scharniersysteem dat je wil gebruiken. Er zijn twee soorten deursystemen: deur-op-deurscharnieren en sleepdeursystemen. Bij een deur-op-deursysteem wordt de deur van de keuken direct op de deur van de vriezer geplaatst en is er geen speling tussen beide deuren.

Bij een sleepsysteem wordt de vriezerdeur met een glijd- of sleepsysteem bevestigd aan de keukendeur. Hierdoor schuift de deur van de keuken over de koelkastdeur. De deuren bewegen dan afzonderlijk van elkaar. Zo'n systeem komt het vaakst voor en is ook het eenvoudigst te installeren.

Bij een deur-op-deursysteem wordt het paneel van de keukendeur direct op de deur van de vriezer gemonteerd. Het keukenpaneel draait dus op hetzelfde moment als de vriezerdeur. Voor een deur-op-deursysteem heeft de vriezer andere scharnieren die het gewicht van zowel de deur van de vriezer als het keukenpaneel moeten kunnen dragen. Bij een inbouwvriezer die geschikt is voor een deur-op-deursysteem, wordt het buitenste gedeelte van de vriezerdeur los geleverd.

Ventilatie

Een vriezer produceert aan de achterzijde warmte. Deze warmte moet goed kunnen worden afgevoerd en dat kan alleen als de nis waar de inbouwvriezer in wordt geplaatst, voldoende ruimte aan de achterkant heeft. De achterkant van de nis houd je vanzelfsprekend open en moet aan de achterkant tussen de muur en de vriezer minstens 10 centimeter vrijgehouden worden. Bij sommige inbouwvriezers krijg je aparte spacers mee die je op de achterkant van de vriezer kunt monteren om de juiste afstand te behouden, zodat je de vriezer ook niet te ver richting muur kunt plaatsen.

©MG | ID.nl

Geluidsdemping

Het geluid van een inbouwvriezer kan soms als storend worden ervaren. Dit geluid bestaat doorgaans uit twee componenten: luchtgeluid, zoals het brommen van de compressor, en contactgeluid, veroorzaakt door trillingen die via het meubel kunnen worden doorgegeven. Zowel vrijstaande- als inbouwmodellen kunnen hier last van hebben, maar met wat aanpassingen kun je het geluid reduceren. Zorg voor voldoende ventilatieruimte rondom de vriezer. Ga je gebruik maken van geluidsabsorberende materialen , houd er dan rekening mee dat deze warmte vasthouden.

Om luchtgeluid te dempen, kan aan de achterkant en eventueel zijkanten van de nis of de muur geluidsabsorberend materiaal worden bevestigd. Dit materiaal vangt het geluid van de compressor op en voorkomt dat het zich verder door de ruimte verspreidt. Er zijn hier verschillende soorten platen en strips voor verkrijgbaar.

Zoek een stil exemplaar

Omdat het lastig is om een inbouwapparaat van tevoren te testen op geluidsproductie, kun je natuurlijk in ieder geval alvast kijken naar de specificaties van een inbouwvriezer. Bij doorgaans alle online winkels vind je de relevante informatie over geluidsproductie bij de specificaties. Het maximaal hoorbare geluid wordt weergegeven in Decibel, afgekort als dB. Gemiddeld produceren inbouwvriezers een geluid van rond de 35 en 40 dB, maar dit zijn natuurlijk alleen piekmomenten, bijvoorbeeld als de compressor aanslaat. De informatie over de geluidsproductie vind je overigens ook op het energielabel, zie hieronder.

Zuinigheid

Tot slot moeten we het energieverbruik natuurlijk niet vergeten. Hoe zuiniger een inbouwvriezer is, hoe meer geld je op het gebruik ervan bespaart. Dankzij de specificaties en het welbekende energielabel koop je eenvoudig een energiezuinig model. Je ziet dan bij de specificaties ook wat een inbouwvriezer op jaarbasis aan energie verbruikt.

©EPREL

Bij ID.nl zijn we gek op producten waar je niet de hoofdprijs voor betaalt. Een paar keer per week speuren we daarom binnen een bepaald thema naar zulke deals. Met een hogedrukreiniger maak je je oprit, terras en tuinbestrating grondig schoon. Wij vonden vijf krachtige modellen voor je.

Een hogedrukreiniger is ideaal voor het schoonmaken van terrassen, opritten, tuinmeubels, auto’s en schuttingen. Je hebt minder schoonmaakmiddelen nodig en bespaart tijd en moeite. Dankzij verstelbare spuitkoppen pas je de waterstraal aan per klus. Zo maak je efficiënt en veilig schoon, zelfs op lastig bereikbare plekken. Met behulp van handige accessoires zoals een autowasborstel kun je een hogedrukreiniger ook gebruiken voor auto's, aanhangers, caravans en campers. Wij hebben een vijftal betaalbare hogedrukreinigers voor je gevonden.

Bosch UniversalAquatak 135

Deze compacte machine van Bosch zet moeiteloos 410 l/uur water af dankzij zijn krachtige 1900 W motor. De slang van 7 meter geeft je een groot bereik. Met een werkdruk tot 135 bar verwijdert hij eenvoudig hardnekkig vuil van fiets, oprit of terras. De geïntegreerde slanghaspel en opbergruimte voor accessoires maken hem erg gebruiksvriendelijk. Ondanks zijn lichte gewicht (7,9 kg), staat de Aquatak 135 stevig dankzij wielen en een telescopisch handvat. Hij is geschikt tot een watertemperatuur van 40 °C en geleverd inclusief nozzle‑set. Zijn compacte profiel en degelijke prestaties maken ‘m ideaal voor dagelijks gebruik in en om het huis.

Maximale druk: 135bar
Vermogen: 1900 Watt
Slanglengte: 7m
Opslagtank: 0,45 liter
Meegeleverde accessoires: lans, vuilfrees

Nilfisk Excellent 170

De Nilfisk Excellent 170 is een stevige krachtpatser met een inductiemotor en metalen pomp, ontworpen voor intensief gebruik. Hij levert maar liefst 170 bar en rond de 498 l/uur aan waterflow en dat is ideaal voor grote oppervlakken zoals terrassen of gevels . De SteelFlex-slang van 10 meter in combinatie met de interne haspel zorgt voor moeiteloze bereikbaarheid en opberging. Uniek is de Power Foam Blaster (700 ml) die zorgt voor rijke schuimlaag voor grondige reiniging, bijvoorbeeld van auto’s of tuinmeubilair. De machine schakelt bij spuitstop automatisch uit, en gaat weer aan bij gebruik, waarmee je dus energie kunt besparen. Met een gewicht van zo'n 21,5 kg is hij wat zwaarder dan gemiddeld, maar staat stevig op wielen en een telescoopgreep voor verplaatsing.

Maximale druk: 170 bar
Vermogen: 2100 Watt
Slanglengte: 10m
Opslagtank: 0,7 liter (voor foam)
Meegeleverde accessoires: Vuilfrees, oppervlakreiniger

Kärcher K 2 Basic

De K 2 Basic van Kärcher is een degelijk instapmodel voor eenvoudigere reiningsklusjes, zoals voor fietsen, tuinmeubels of lichte vervuiling. Deze machine levert tot 110 bar werkdruk en 360 l/uur waterflow vanuit een 1400 W motor. Hij is compact, weegt slechts 4 kg (zonder accessoires) en voorzien van twee wieltjes voor eenvoudige verplaatsing. De slang is 3 m lang, wat minder bereik biedt, maar praktisch is voor het dichtbij reinigen. Inclusief waterfilter en Quick Connect-systeem, plus diverse spuitstukken zoals een lans en vuilfrees. Dit toestel is ideaal voor gebruikers die een effectief, budgetvriendelijk toestel zoeken voor eenvoudig onderhoud rondom huis.

Maximale druk: 110 bar
Vermogen: 1400 Watt
Slanglengte: 3m
Opslagtank: geen
Meegeleverde accessoires: lans, vuilfrees

Powerplus POWXG90410

De Powerplus POWXG90410 combineert kracht en flexibiliteit in één: zijn 1800 W motor levert tot 140 bar en 420 l/uur waterflow, perfect voor het grondig reinigen van oprit, tuin of voertuigen. De slang van 8 m en een soepel oprolmechanisme maken werken zonder gedoe makkelijk. De tank van 0,75 liter voor reinigingsmiddel is ideaal voor gecombineerde schoonmaakbeurten. Hij beschikt over turbospuit, patio-cleaner en verstelbare lans en is uitgerust met wieltjes en auto start/stop voor bedieningsgemak en veiligheid. Weegt ongeveer 7,7 kg — handzaam en goed te manoeuvreren.

Maximale druk: 140 bar
Vermogen: 1800 Watt
Slanglengte: 8m
Opslagtank: 0,75 liter
Meegeleverde accessoires: lans, vuilfrees

EZIclean Hydroforce 165

Deze Eziclean Hydroforce 165 is uitgerust met een krachtige 2200 W motor waarmee hij tot 165 bar haalt — ideaal voor intensieve klussen zoals terras en auto’s schoonmaken . De slang van 5 meter biedt voldoende reikwijdte dichtbij de kraan. Inclusief 0,75 l reinigingstank en een ruime selectie aan spuitmonden, waaronder een turbomondstuk met 180° draaibare straal en 360°-draaifunctie – handig voor diverse oppervlakken. Het lage gewicht van zo'n 9,2 kg en wieltjes plus haspel maken het verplaatsen eenvoudig. Robuust, veelzijdig en ideaal voor huishoudelijk en zwaar buitengebruik.

Maximale druk: 165 bar
Vermogen: 2200 Watt
Slanglengte: 5m
Opslagtank: 0,75 liter
Meegeleverde accessoires: autowasborstel, lans, oppervlakreiniger