OpenAI heeft het met ChatGPT het concept van een AI-chatbot populair gemaakt. Ook andere bedrijven bieden soortgelijke diensten aan. Daarnaast zijn er grote taalmodellen beschikbaar waarmee je zelf een chatbot kunt maken die op je eigen computer draait. Met Jan krijg je toegang tot al deze taalmodellen vanuit één interface.

Een groot taalmodel (Large Language Model of LLM) is een neuraal netwerk met miljarden parameters dat teksten kan genereren. Dit type algoritme kreeg brede bekendheid toen OpenAI in november 2022 de dienst ChatGPT lanceerde. Via deze webinterface kun je eenvoudig chatten met het taalmodel, en de antwoorden lijken vaak alsof ze van een mens komen.

Ook de concurrentie is niet stil blijven staan. Zo biedt het Franse bedrijf Mistral AI een online chatbot op basis van een eigen groot taalmodel. Daarnaast stellen bedrijven als Groq je in staat om allerlei grote taalmodellen in de cloud te draaien. Meta, het moederbedrijf van Facebook, bracht bovendien zijn groot taalmodel Llama uit in kleinere versies, die je zelfs op je eigen computer kunt draaien. Dat werd al snel gevolgd door een reeks andere grote en kleine taalmodellen van diverse bedrijven en onderzoeksinstellingen.

Het kan lastig zijn om al deze modellen uit te proberen: je moet dan allerlei verschillende webinterfaces gebruiken of van diverse locaties modellen downloaden. Jan biedt hiervoor een oplossing: je installeert deze opensourcesoftware op je eigen computer. Daarna verbind je via een API (Application Programming Interface) met een groot taalmodel in de cloud of download je een taalmodel van bijvoorbeeld Meta of Mistral op je eigen computer om het offline te gebruiken. En dat alles in één en dezelfde gebruikersinterface, waarin je eenvoudig tussen verschillende modellen kunt overschakelen.

1 Jan installeren

Jan is beschikbaar voor Windows, macOS (Intel- of Apple-processoren) en Linux. Op de downloadpagina vind je de verschillende versies. Als je lokaal grote taalmodellen wilt draaien, heb je een krachtige computer nodig. Onder Windows en Linux betekent dat een gpu van Nvidia of AMD met minstens 8 GB VRAM. Heb je een recente Mac, dan is een Apple M1-processor of nieuwer ook snel genoeg.

Nadat je Jan hebt gestart, schakel je eerst de hardwareversnelling in. Op Macs met een Apple-processor gebeurt dat automatisch, maar voor Windows en Linux dien je dat handmatig te doen. Raadpleeg de platformspecifieke installatie-instructies om de juiste drivers en andere nodige software te installeren. Voor een Nvidia-gpu open je in Jan de instellingen (het icoontje van het tandwiel linksonder) waar je klikt op Advanced Settings en GPU Acceleration inschakelt.

Voor de beste prestaties laat je Jan gebruikmaken van je gpu.

2 Lokaal AI-model draaien

Als je een groot taalmodel op je eigen computer wilt draaien, moet je dit eerst downloaden. Klik daarvoor in Jan linksboven op het icoontje met de vier vierkantjes. Dit brengt je naar de Hub, een verzameling van modellen die je kunt downloaden. Bij de modellen die je lokaal kunt draaien, staat de bestandsgrootte en een knop Download. Als er Recommended bij staat, draait het model goed op je hardware. Staat er de waarschuwing Slow on your device, dan komt dat bijvoorbeeld omdat je gpu te weinig VRAM heeft. Klik rechts naast de downloadknop voor extra uitleg over het model en klik op Download om het model op te slaan. Download bijvoorbeeld Mistral Instruct 7B Q4. Dat is een goed algemeen model dat al op een gpu met 8 GB VRAM draait.

Zodra het model is gedownload, verandert de downloadknop in Use. Klik erop om een nieuwe ‘thread’ te starten, een conversatie met het model. Dit kan ook door op de tekstballon linksboven te klikken. Voordat je een vraag typt in het tekstveld onderaan, raden we je aan aan de rechterkant naar enkele instellingen te kijken. In het tabblad Assistant kun je onder Instructions specifieke instructies geven die de antwoorden van de chatbot beïnvloeden, zoals de rol die het moet uitvoeren. In het tabblad Model kun je het taalmodel kiezen: naast de gedownloade modellen zijn ook de modellen die je online gebruikt via een API zichtbaar. Laat de andere instellingen voorlopig op hun standaardwaarden staan (zie het kader ‘Modelparameters’ voor de betekenis ervan). Nu kun je je vraag stellen. Jan zal eerst het taalmodel in het VRAM of RAM laden, wat even kan duren. Daarna verschijnt het antwoord redelijk snel. Vervolgvragen worden hierdoor ook sneller beantwoord.

Dankzij Jan kun je met alle mogelijke grote taalmodellen chatten.

3 AI-model in de cloud draaien

Op dezelfde manier kun je modellen in de cloud draaien bij leveranciers als OpenAI, Anthropic, Mistral, Cohere en Groq. Hiervoor moet je eerst een API-sleutel voor de desbetreffende dienst instellen. Keer daarvoor terug naar de instellingen van Jan en klik bij Model Providers op de gewenste dienst. We illustreren dit met OpenAI. Bij API Key moet je een API-sleutel invullen, die je aanmaakt op de pagina API keys van je OpenAI-account. Klik daar op Create new secret key, geef je sleutel een naam en ken ze aan een project toe (er is een Default project). Klik dan op Create secret key. Kopieer nu onmiddellijk de gegenereerde sleutel en vul die in Jan in, want je krijgt die daarna nooit meer te zien.

Je kunt nu in de Hub van Jan naar OpenAI GPT 4o gaan en ernaast op Use klikken om een nieuw gesprek te starten. Of je klikt op de tekstballon linksboven, daarna op het icoontje met het potlood om een nieuwe thread aan te maken, om vervolgens aan de rechterkant bij Model OpenAI GPT 4o uit de lijst te selecteren. Cloudmodellen waar je geen toegang toe hebt omdat je nog geen API-sleutel hebt ingesteld, zijn grijs weergegeven. Je kunt tijdens het gesprek overigens op elk moment van model veranderen. Als je bijvoorbeeld merkt dat het model niet goed genoeg is voor je vraag, verander dan het model en klik op het knopje Regenerate bij het antwoord.

Creëer een API-sleutel om OpenAI’s grote taalmodellen in Jan te gebruiken.

4 Pdf-documenten samenvatten

Als je een model met lange contextlengte gebruikt, kun je in Jan ook pdf-documenten laten samenvatten of op andere manieren analyseren. Klik daarvoor eerst in de instellingen op Advanced Settings en schakel Experimental Mode in. Je threads tonen nu aan de rechterkant ook een tabblad Tools. Schakel daar Retrieval in.

Klik nu in je thread op het icoontje van de paperclip en kies Document. Selecteer het pdf-bestand dat je wilt analyseren. Nu kun je in het tekstveld onderaan vragen stellen aan het taalmodel over dit document. Als het lijkt alsof het taalmodel de informatie niet volledig heeft verwerkt, kun je experimenteren met de parameters in het tabblad Tools. Wees overigens altijd kritisch over de antwoorden. Vaak zit het taalmodel ernaast of antwoordt het onvolledig.

Als je de datasheet van de Raspberry Pi Pico W met GPT-4o bevraagt, zijn de antwoorden helaas onvolledig.

5 Multimodaal model

Sommige modellen kunnen niet alleen overweg met tekst, maar ook met afbeeldingen. Ze kunnen bijvoorbeeld een afbeelding die je hen voorlegt beschrijven of erover redeneren. We noemen dat multimodale modellen. Een voorbeeld hiervan is LLaVA (Large Language and Vision Assistant). In de Hub van Jan zijn enkele varianten te vinden, zoals LlaVa 7B, BakLlava 1 en LlaVa 13B Q4 (voor GPU’s met meer dan 8 GB VRAM).

Na je selectie kun je een afbeelding uploaden door in een gesprek op de paperclip klikken en voor Image te kiezen. Als het niet om een multimodaal model gaat, blijft Image grijs en kun je het niet selecteren. Daarna kun je vragen stellen over de afbeelding. Helaas bleek in onze test geen van de LLaVA-modellen uit Jans Hub te werken, ook niet met een LLaVA-model dat we van Hugging Face downloadden. Het is een van de redenen waarom de ontwikkelaars van Jan nog steeds waarschuwen dat hun programma in bètafase is.

6 Modellen van Hugging Face

Hugging Face is een Frans-Amerikaans bedrijf dat met zijn Model Hub een populaire website aanbiedt waar iedereen AI-modellen kan publiceren. Jan kan deze modellen van de Hugging Face Model Hub ook lokaal draaien, zolang ze in het formaat GGUF (GPT-Generated Unified Format) worden aangeboden. We illustreren dit met Granite Code 8B, een taalmodel van IBM dat is getraind om programmeertaken uit te voeren.

Als je binnen de Hugging Face Model Hub op de pagina van een GGUF-model rechtsboven op Use this model klikt en vervolgens op Jan, krijg je de vraag om de pagina in Jan te openen. Een andere manier is om in de Hub van Jan de url van het model te plakken. Jan toont je dan informatie over het model en biedt verschillende versies ter download aan. In ons voorbeeld is er maar één versie, maar vaak zijn er verschillende kwantisaties beschikbaar (zie het kader ‘Welke modelvariant kiezen?’). Klik op de downloadknop naast het gewenste model. Zodra het is gedownload, klik je op Use om een gesprek te beginnen.

Jan kan alle GGUF-taalmodellen van Hugging Face downloaden.

7 Modellen die programmeren

Taalmodellen zoals Granite Code, Codestral, Deepseek Coder en CodeNinja zijn gespecialiseerd in alles wat met programmeren te maken heeft. Vraag bijvoorbeeld om een Python-script dat met de bibliotheek Bleak scant naar bluetooth-apparaten in de buurt, en het taalmodel toont je de code hiervoor, inclusief uitleg en instructies om de benodigde bibliotheken te installeren.

De code zelf wordt in afzonderlijke kaders getoond, die je met een klik op het icoontje rechtsboven kopieert, zodat je de code in je eigen code-editor kunt plakken en uitproberen. Je kunt ook code invoeren in Jan en het model vragen om deze uit te leggen. Of geef code waarvan je weet dat er een fout in zit en vraag het model om de code te verbeteren. Vaak krijg je overigens code die niet werkt, of die een foutmelding geeft. Reageer dan met de foutmelding of vertel wat er fout gaat, en je krijgt een verbeterde versie. Na wat heen en weer communiceren krijg je vaak wel een bruikbaar resultaat.

Granite Code kan je helpen bij programmeertaken.

8 Extra cloudmodellen toevoegen

Er komen continu nieuwe taalmodellen bij, en Jan kan dat niet altijd direct volgen. Gelukkig kun je vaak met wat handmatige configuraties de nieuwe modellen toch nog aan de praat krijgen. We illustreren dit met GPT-4o mini, de goedkopere versie van GPT-4o die OpenAI aanbiedt. Tijdens het schrijven stond deze nog niet in Jans Hub, maar je kunt deze eenvoudig toevoegen. Jan slaat de configuratie van elk model op in een bestand in zijn datadirectory. Voor OpenAI’s GPT-4o is dat bijvoorbeeld in het bestand jan\models\gpt-4o\model.json in je persoonlijke map.

Om Jan toegang te geven tot GPT-4o mini, maak je een map gpt-4o-mini aan en kopieer je het bestand model.json van GPT-4o daarnaartoe. Pas nu in dit json-bestand het id aan van gpt-4o naar gpt-4o-mini, de naam van OpenAI GPT 4o naar OpenAI GPT 4o mini en het maximumaantal tokens van 4096 naar 16384. Deze waarde vind je op de website van OpenAI bij de eigenschappen van het model. Sla het bestand op, sluit Jan af en start het programma weer op. Daarna is het model in Jan beschikbaar.

Voeg het nieuwste model van OpenAI aan Jan toe.

9 Meer mogelijkheden

Jan biedt nog heel wat meer mogelijkheden. Zo kun je het programma als server draaien en functionaliteit van de taalmodellen aan andere programma’s aanbieden. In de code-editor Visual Studio Code kun je bijvoorbeeld met de extensie Continue hulp bij het programmeren krijgen. Continue communiceert dan op de achtergrond met een taalmodel dat Jan uitvoert.

Een ander interessant programma is Open Interpreter. Dit laat een groot taalmodel code genereren die dan op je computer wordt uitgevoerd. Je kunt bijvoorbeeld aan een taalmodel van Jan vragen om een bestand met data in te lezen en daar grafieken van te maken. Verder zullen er wellicht nog meer tools komen dan enkel het inlezen van pdf-bestanden.

Jan ondersteunt allerlei integraties om de grote taalmodellen toe te passen.

De Samsung Galaxy S25-lijn is de eerste smartphonereeks die beschikt over versie 7 van One UI, de Samsung-softwareschil die je aantreft op de Android-apparaten van het bedrijf. In dit artikel lees je wat je allemaal verwachten kunt van One UI 7.

Lees ook: Review Samsung Galaxy S25 Ultra – Slimme AI of slimme marketing?

De rek is inmiddels wel uit de smartphoneontwikkeling. Fabrikanten kunnen nauwelijks nog innovatieve onderdelen toevoegen, omdat de slimme telefoon inmiddels zo goed als alles kan. Vooral op hardwaregebied valt er weinig nieuws meer te verwachten. Natuurlijk zullen we nog verbeteringen zien in camera's, processors en accu's, maar in grote lijnen is de smartphone uitontwikkeld. Daardoor zijn ze tegenwoordig net zo spannend als wasmachines: ze doen wat ze moeten doen.

Dat betekent echter niet dat er geen nieuwe functies worden ontwikkeld. Die zitten vooral in software. De Google Pixel 9-reeks zette die trend medio 2024 in met een verrassend snelle opvolger van de Pixel 8-serie. OnePlus, Asus en Samsung volgen die lijn en leggen de nadruk op software. One UI 7 is daar het beste voorbeeld van. Zonder die softwareschil had Samsung net zo goed een jaar aan smartphonelanceringen kunnen overslaan.

Systeemaanpassingen

Maar wat maakt One UI 7 dan zo bijzonder? We hebben de afgelopen weken de drie verschillende Samsung Galaxy S25-toestellen getest en zijn tot de onderstaande observaties gekomen. Zo is het onder meer mogelijk om een verticale applade in te stellen. Daarmee bedoelen we dat je al je apps in de applade kunt bekijken door omhoog en omlaag te vegen (in plaats van naar links en rechts). Dat regel je door de lade te openen, onderin op de drie puntjes te tikken en dan Sorteren > Alfabetische volgorde te selecteren.

Daarnaast valt op dat de animaties in One UI 7 veel soepeler zijn dan voorheen. Ze ogen en voelen gestroomlijnd, wat het hele systeem een verfijnde en samenhangende uitstraling geeft. In eerste instantie merk je dit misschien niet direct, maar na een paar uur gebruik valt de soepelheid steeds meer op. Ook de vernieuwde systeemiconen dragen bij aan de prettige bediening op de S25-modellen. One UI 7 voelt daardoor even modern als afgewerkt aan – en dat is een groot compliment.

©Wesley Akkerman

Hier zie je de menu-opties staan voor het opnieuw rangschrikken van de applade.

Now Bar en Now Brief

Ook biedt One UI 7 ruimte aan twee nieuwe onderdelen, de Now Bar en Now Brief. Hoewel ze enkele overeenkomsten hebben, gebruik je ze allebei op andere momenten. De Now Bar is een soort zwevend eiland (waar hebben we dat eerder gehoord) onderaan het vergrendelde scherm van je Galaxy, waar je basale interface-elementen in aantreft – denk aan een opnameknop voor een geluidsopname of bijvoorbeeld wegwijzers van Google Maps. Zo kun je snel iets regelen zonder je smartphone te hoeven ontgrendelen..

Now Brief daarentegen is veel uitgebreider. Dit is een apart onderdeel binnen One UI 7 waar veel AI-opties moeten samenkomen. Now Brief biedt op drie momenten van de dag een overzicht aan van onder meer het weer, het verkeer, je agenda-afspraken en bijvoorbeeld een Spotify-afspeellijst. Het moet je helpen de dag voor te bereiden, door te komen en erop terug te kijken. Zie dit als een soort persoonlijke dag-overzicht dus. Daarmee kan de Samsung Galaxy S25 Ultra, en later ook andere Galaxy's, dienen als een persoonlijke assistent.

©Wesley Akkerman

Dit is het thuisscherm van de Galaxy S25. Rechts van het weerbericht zie je twee widgets staan: de bovenste is een snelkoppeling naar Now Brief.

Aanpasbaar snelmenu

Een ander onderdeel dat het vermelden waard is, is het snelmenu. Daarmee doelen we op het menu dat je van boven naar beneden trek. Daarin staan allerlei opties, bijvoorbeeld voor wifi, bluetooth en andere kernonderdelen. Daar kon je al langer allerlei dingen in wijzigen, zoals bijvoorbeeld de knoppenindeling. Maar in ONe UI 7 ziet het er wel anders uit. Als je de Samsung Galaxy S25 Ultra opstart, dan heeft Samsung dit snelmenu voor je in twee delen opgedeeld. In het kader van overzicht – maar dat beteken ook dat je moet weten aan welke kant je de boel naar beneden moet trekken. Links geeft meldingen, terwijl je vanaf rechts de instellingen bekijkt.

Vind je deze tweedeling niet prettig? Je kunt gelukkig ook alles weer heel makkelijk in één overzicht bij elkaar zetten (zonder dat je daar bijvoorbeeld een aparte app als Good Lock voor hoeft te downloaden). Wanneer je dit doet, dan krijg je met een enkele swipe toegang tot zowel de notificaties als de opties. Je stelt dit met een paar simpele stappen in. Trek je snelmenu vanaf rechts naar beneden en tik op het potloodicoon aan de rechterkant. Tik nu op Vensterinstellingen (links) en tik op het volgende scherm op Samen. Tik nu op Gereed om de keuze te bevestigen. Vanaf dat moment heb je (weer) één snelmenu.

©Wesley Akkerman

Dit is het aangepaste snelmenu, dat notificaties en instellingen samenvoegt.

Overige AI-mogelijkheden

Tot slot kijken we naar de overige AI-mogelijkheden van de Samsung Galaxy S25-serie. Zo is het onder meer mogelijk Google Gemini te gebruiken. Dat doe je door de powerknop kort in te drukken: de assistent komt dan vanzelf vanaf beneden omhoog. Op moderne Galaxy's biedt Gemini ondersteuning aan voor verschillende Samsung- en Google-apps, waardoor het mogelijk is die apps aan te spreken en dingen uit te laten voeren met een stemcommando. Soms kun je zodoende twee of drie apps in één keer iets voor je laten doen, met één commando.

Op moment van schrijven lijken de mogelijkheden al redelijk uitgebreid te zijn, maar eerlijk is eerlijk: schijn bedriegt. Momenteel werken alleen de genoemde apps met deze AI-functie. Datzelfde geldt overigens voor Now Brief, als we daar nog even kort op terugkomen. Alleen de echt grote namen binnen de Google Play Store zullen direct werken met dit soort diensten. In de toekomst wordt dat aanbod uitgebreid. Nederlandse apps, zoals die van de NS bijvoorbeeld, werken hier nog niet mee. Daardoor is de waarde van dit soort AI-opties nu nog twijfelachtig.

©Wesley Akkerman

Als je op de powerknop drukt, komt Google Gemini naar boven. Zo ziet dat eruit.

Na een week vol sneeuwpret, frisse berglucht en indrukwekkende pistes is je skikleding niet meer zo fris. Eenmaal thuis gekomen blijft de tas met vuile was liggen voor de wasmachine. Want hoe was je eigenlijk skikleding? Als je je kleding niet goed wast en opbergt, is de kans groot dat je volgend jaar niet zo warm en droog blijft tijdens de afdaling. Onze tips helpen je om je skikleding te wassen, drogen en veilig op te bergen voor volgend jaar.

Lees ook: Dit wil je weten over de wasprogramma's van je wasmachine

Was snel na je weekje wintersport

Het op de juiste wijze je skikleding wassen is belangrijk: daardoor blijft de kwaliteit van de kleding goed. Ook blijft de kleding warm en waterdicht. Veel skikleding is gemaakt van kunststoffen, zoals polyamide en polyester. Deze stoffen zijn waterafstotend, sterk en licht. De kleding is van tevoren extra behandeld om ze waterdicht te maken, waardoor sneeuw of regen niet door de kleding komt. Was je de kleding verkeerd? Dan kan de beschermende functie verloren gaan. Je zweet en vuiligheid tasten de kleding namelijk aan. Laat je skikleding na wintersport dus niet te lang voor de wasmachine liggen.

©Lyudmila

Wasmiddel en voorbereiding

Gebruik weinig wasmiddel om je skikleding te wassen. En koop een speciaal wasmiddel voor sport- en outdoorkleding om zeker te weten dat het goed is of gebruik een fijnwasmiddel. Giet er geen wasverzachter bij, want dat is niet goed voor de kleding. Laat de kleding ook niet stomen en gebruik geen bleekmiddelen.

Bereid de kleding altijd eerst voor op de wasbeurt. Leeg alle zakken, sluit alle ritsen, knopen en klittenband om schade aan de stoffen te voorkomen. Zitten er vlekken op de kleding? Behandel deze eerst. Zorg dat de kleding binnenstebuiten de wasmachine in gaat. Ook belangrijk: doe de trommel niet te vol. Er moet voldoende ruimte zijn wil de kleding schoon worden.

Wassen met de wasmachine

Nu de kleding op de juiste wijze in de wasmachine zit, is het tijd om het juiste programma aan te zetten. Kies een programma met lage temperaturen, maximaal 30 °C. Hogere temperaturen kunnen ervoor zorgen dat de waterdichte coating beschadigd raakt. Zit er een speciaal programma op je wasmachine voor outdoor kleding? Kies dan dit programma. Het programma heeft een laag toerental bij het centrifugeren. Doe naast je skikleding geen andere kleding in de wasmachine.

©Oriol Roca

Waterdicht maken van de skikleding

Heb je voor deze wintersportvakantie net nieuwe kleding gekocht? Dan is de kans groot dat deze gewoon waterdicht is gebleven na de wasbeurt. Als je kleding wat ouder is, kan het zijn dat deze niet meer zo waterdicht is als voorheen. Misschien heb je tijdens het skiën of snowboarden wel gemerkt dat er wat vocht doorheen kwam. Was dan de kleding nog een keer, maar nu met een impregneermiddel. Of spuit de kleding in met een speciale waterdicht-spray.

Drogen en opbergen

Als er op het waslabel staat dat de skikleding in de droger mag, dan kun je de kleding zo laten drogen. Anders hang je de kleding op, of leg je die ergens plat neer. Dit doe je in een ruimte waar er genoeg ventilatie is. Hang de kleding niet op in de zon. Drogen op een verwarming kun je beter ook niet doen.

Het wasetiket geeft ook aan of je de kleding mag strijken, mocht je de behoefte hebben om je skibroek te strijken. Je mag de kleding dan op een lage temperatuur strijken. Omdat je de skikleding een lange tijd waarschijnlijk niet meer gebruikt, is het verstandig om de kleding goed op te bergen. Hang de kleding op aan een haakje in de kast of vouw de kleding losjes op, zodat het op een plank kan liggen. Daardoor haal je je kleding volgend jaar weer fris uit de kast, direct klaar om van de pistes te zoeven.