ID.nl logo
Programmeren in Python met ChatGPT - Deel 3
© Dahina - stock.adobe.com
Huis

Programmeren in Python met ChatGPT - Deel 3

In deel 2 van deze artikelreeks leerde je hoe je verslagen van vergaderingen kon samenvatten met de OpenAI-API in de programmeertaal Python. Maar je kunt nog meer: het taalmodel achter ChatGPT is in staat om teksten te analyseren en daaruit besproken onderwerpen te halen. Zo kun je documenten automatisch op onderwerp ordenen.

In dit derde deel laten we ChatGPT onze teksten analyseren om daaruit de onderwerpen te extraheren, zodat we zelf gemakkelijker onze teksten kunnen taggen of ordenen:

  • Eerst zorgen we ervoor dat de juiste bestanden gevonden worden
  • Daarna laten we de bestanden analyseren
  • Tot slot zorgen we ervoor dat de gevonden onderwerpen worden omgezet in tags

Lees ook: Weg met de chaos! Organiseer je bestanden met TagSpaces

Code downloaden In deze workshop worden wat voorbeelden van stukken code gegeven. Omdat overtikken van code erg foutgevoelig is, kun je die code beter downloaden en daarna bekijken of kopiëren. Via deze link kun je twee bestanden downloaden: het bestand extract_tags.py (dat het eindresultaat van deze workshop bevat) en het bestand gptcode-dl3.txt (dat alle losse opdrachten uit deze hele aflevering bevat).

In deel 2 zagen we al dat ChatGPT veel meer kan dan gewoon conversaties voeren. Het taalmodel draait zijn hand bijvoorbeeld niet om voor de taak om teksten samen te vatten. We kunnen dat principe in nog veel extremere vorm doorzetten: vraag om de besproken onderwerpen van een tekst te geven in enkele woorden. Dat is ideaal om automatisch tags aan teksten toe te kennen om ze daarna sneller terug te vinden. In dit deel realiseren we dit met de OpenAI-API in Python waar je ondertussen al wat vertrouwd mee bent.

Alle bestanden doorlopen

Kopieer het Python-script summarize_docx_files.py uit deel 2. Dit bestand gebruiken we als basis en passen we hier aan. Vervang allereerst de systeemprompt in het begin:

SYSTEM_PROMPT = "Beschrijf de vijf belangrijkste onderwerpen die in de volgende tekst besproken zijn."

We gaan de systeemprompt later nog verder aanpassen, want zoals we in de vorige delen van de reeks hebben gezegd, moet die prompt zo specifiek mogelijk zijn. Maar we moeten ergens beginnen.

Voor het samenvatten van verslagen gingen we ervan uit dat alle Word-bestanden zich in dezelfde directory bevonden. Nu willen we veel meer bestanden verwerken, ook als ze zich in subdirectory’s bevinden. Daarom veranderen we de functie process_docx_files in:

De code kun je bekijken in het bestand gptcode-dl3.txt, te downloaden via deze pagina.

Met rglob krijgen we een lijst van alle paden die op .docx eindigen. We controleren dan nog voor de zekerheid of het om een bestand gaat en niet om een directory waarvan de naam eindigt op .docx. Daarna lezen we de inhoud met de functie read_docx die we vorige keer hadden gemaakt.

Sla in Visual Studio Code met Ctrl+S het script op onder de naam extract_tags.py en open een opdrachtregelvenster met het menu Terminal / New Terminal. Voer het programma hierin als volgt uit:

python extract_tags.py directorymetdocumenten

Vervang directorymetdocumenten door het daadwerkelijke pad waarin al je te analyseren documenten staan.

Grotere bestanden analyseren

Als je dit nu toepast op een directory met grotere documenten, crasht je Python-programma met een foutmelding zoals:

openai.error.InvalidRequestError: This model's maximum context length is 4097 tokens. However, your messages resulted in 4202 tokens. Please reduce the length of the messages.

Dat is een beperking van het model gpt-3.5-turbo, dat maar iets meer dan 4000 tokens kan verwerken. Met een ander model kunnen we meer tokens verwerken, maar allereerst willen we dat het programma niet meer crasht en gewoon doorgaat met de volgende teksten als één specifieke tekst te lang is. Vervang daarom de regel print(get_completion(text, SYSTEM_PROMPT)) helemaal op het einde door:

De code kun je bekijken in het bestand gptcode-dl3.txt, te downloaden via deze pagina.

Voor elk document dat te groot is, krijgen we nu nog altijd de foutmelding. Maar het programma gaat dan verder met het volgende document.

Zoals gezegd kunnen we ook nog het model in het begin van het programma vervangen:

DEFAULT_MODEL = "gpt-3.5-turbo-16k"

Dit 16K-model ondersteunt vier keer zoveel tokens, maar je betaalt er wel twee keer zoveel voor per token.

De taalmodellen van OpenAI bestaan in verschillende versies. Wil je langere documenten analyseren, dan betaal je meer.

Van onderwerpen naar tags

Als je de voorgaande code uitvoert, krijg je volledige zinnen of korte steekwoorden terug met beschrijvingen van de onderwerpen. Dat is niet onze bedoeling. We moeten dus in de systeemprompt duidelijk maken wat we wél willen: korte tags van één of twee woorden:

SYSTEM_PROMPT = "Geef de vijf belangrijkste tags die de volgende tekst beschrijven. Elke tag is één of twee woorden lang. Scheid de tags van elkaar door een komma."

Het resultaat is deze keer wel wat we verwachten, al slipt er soms een tag van drie woorden door. Maar als dat iets als ‘Raspberry Pi Pico’ is, zien we dat door de vingers. Als we deze tags verder willen verwerken, moeten we ze wel consistent maken. Daarvoor schrijven we een extra functie.

Nabewerking

Een voorbeeld maakt dit duidelijk. Stel dat ons programma de volgende tags uit een tekst haalt: Zigbee, Z-Wave, Bluetooth Mesh, Thread, Domoticaprotocollen. Dan willen we daar een lijst van maken met tags zigbee, z-wave, bluetooth-mesh, thread en domoticaprotocollen. Dat doen we met de volgende functie:

De code kun je bekijken in het bestand gptcode-dl3.txt, te downloaden via deze pagina.

De parameter tags is gewoon een string zoals ‘Domoticacontroller, Home Assistant, Raspberry Pi, Domoticatoestellen, Installatie’ die we van de OpenAI-API terugkrijgen. We splitsen die op elke komma, waardoor we een lijst met tags krijgen. Voor elke tag in die lijst halen we met strip() eerst alle spaties in het begin en eind weg, zetten we met lower() alle letters om naar kleine letters en vervangen we dan elke spatie in het midden door een koppelteken (-).

Om nu de tags te normaliseren, vervangen we de regel print(get_completion(text, SYSTEM_PROMPT)) op het einde van het script door:

De code kun je bekijken in het bestand gptcode-dl3.txt, te downloaden via deze pagina.

Je krijgt nu voor elk document de tags te zien in de vorm van een lijst in Python:

['zigbee', 'z-wave', 'bluetooth-mesh', 'thread', 'domoticaprotocollen']

Artikelen per tag

Tot nu toe gebruiken we de tags gewoon als een heel beknopte samenvatting van documenten. Maar we kunnen het ook omdraaien: na het extraheren van alle tags, kunnen we aan elke tag de documenten koppelen die door deze tag worden beschreven. Zo kunnen we achteraf heel eenvoudig opvragen welke documenten bij een specifieke tag horen.

Hoe doen we dit? Daarvoor vervangen we de hele for-lus op het einde van het programma door de volgende code:

De code kun je bekijken in het bestand gptcode-dl3.txt, te downloaden via deze pagina.

We maken dus eerst een lege dictionary documents aan. Daarna lopen we weer door alle bestanden met hun overeenkomstige tekst. We vragen aan de OpenAI-API om de tags uit te tekst te extraheren en we normaliseren die. Voor elke tag bekijken we dan of die al in de dictionary zit. Zo nee, dan voegen we die toe met als bijbehorende waarde een lege lijst. Daarna voegen we het pad van het geanalyseerde document aan die tag toe.

Uiteindelijk wanneer we alle bestanden op deze manier hebben geanalyseerd, bevat de dictionary documents tags met een lijst van bijbehorende bestanden. Die laten we nu tag na tag zien. En zo weet je onmiddellijk welke documenten je nodig hebt als je meer over een onderwerp wilt weten!

Kijk welke documenten over specifieke tags gaan.

Volgende week maandag het vierde deel van deze reeks! Hierin laten we ChatGPT in Python teksten vertalen en geschreven opdrachten omzetten in een computertaal.

Lees ook:

▼ Volgende artikel
WhatsApp voegt live foto's, AI-thema's en slimme zoekfunctie toe
© ER | ID.nl
Huis

WhatsApp voegt live foto's, AI-thema's en slimme zoekfunctie toe

WhatsApp rolt de komende tijd opnieuw een reeks functies uit die het chatten en videobellen persoonlijker en praktischer moeten maken. Van creatieve AI-hulpmiddelen tot betere zoekopties in groepsgesprekken: dit zijn de belangrijkste vernieuwingen.

In dit artikel lees je meer over de nieuwste WhatsApp-functies, waaronder:
  • Live foto's (iOS) en bewegende foto's (Android) delen

  • Eigen chatthema's en achtergronden maken met Meta AI

  • Nieuwe stickerpakketten downloaden

  • Groepschats makkelijker terugvinden via zoekfunctie

  • Documenten scannen en delen op Android

Rijkere momenten met live en bewegende foto’s

Gebruikers kunnen nu live foto's (iOS) en bewegende foto's (Android) delen. Die bevatten niet alleen beeld, maar ook geluid en beweging. Het idee is dat gesprekken zo meer diepte krijgen en dat je herinneringen realistischer kunt doorsturen, ongeacht of je gesprekspartner iOS of Android gebruikt. In de praktijk betekent dit dat je niet langer gebonden bent aan statische kiekjes: een lach, een begroeting of een spontaan moment komt beter tot zijn recht, compleet met de sfeer van dat moment. WhatsApp wil hiermee de beleving dichter bij die van een echte ontmoeting brengen, zodat een chat niet alleen informatief is, maar ook emotioneel rijker en levendiger aanvoelt.

Chatthema's en achtergronden met Meta AI

WhatsApp zet ook verder in op kunstmatige intelligentie. Met behulp van Meta AI kun je eigen chatthema's maken en zo je gesprekken een volledig unieke stijl geven. Denk aan kleurenpaletten die aansluiten bij je persoonlijke voorkeuren of achtergronden die zijn geïnspireerd op je favoriete muziek, seizoen of stemming. Daarnaast is het mogelijk om AI-gegenereerde achtergronden te gebruiken tijdens videogesprekken, waardoor je jezelf in een virtuele omgeving plaatst, zoals een tropisch strand of een futuristische skyline. Ook kun je deze achtergronden direct toevoegen bij het maken van foto's en video's in de chat, wat creatieve experimenten eenvoudig maakt. WhatsApp benadrukt dat de uitrol stap voor stap gebeurt: sommige gebruikers zien de opties al, terwijl anderen nog even moeten wachten tot de update beschikbaar is.

©WhatsApp

Nieuwe stickerpakketten

Wie zich liever uitdrukt zonder woorden, krijgt meer keuze uit stickers. WhatsApp voegde pakketten toe met veelzeggende namen als 'Onverschrokken vogel', 'Schooldagen' en 'Vakantie'. De stijl varieert van speels tot gezellig en schattig, zodat er ongetwijfeld voor elke stemming wel een passende illustratie is.

Groepen makkelijker terugvinden

Groepschats hebben vaak creatieve namen die je niet altijd paraat hebt. WhatsApp maakt het daarom eenvoudiger om groepen terug te vinden: zoek in je tabblad Chats gewoon op de naam van een contactpersoon, en de groepen waarin jullie samen zitten worden automatisch getoond.

Documenten scannen op Android

Tot slot is de mogelijkheid om documenten te scannen nu ook beschikbaar voor Android. Gebruikers kunnen rechtstreeks vanuit WhatsApp bestanden vastleggen, bijsnijden, opslaan en verzenden. Daarmee wordt het eenvoudiger om bijvoorbeeld contracten, bonnetjes of formulieren snel te delen zonder eerst een aparte scanner- of camera-app te openen. De functie herkent de randen van het document automatisch en zorgt dat het beeld wordt rechtgetrokken voor een nette weergave. iPhone-gebruikers hadden deze optie al langer, maar door de uitbreiding naar Android is het nu voor vrijwel alle WhatsApp-gebruikers mogelijk om documenten direct in de app te digitaliseren en door te sturen.

▼ Volgende artikel
Van stoofpot tot nagerecht: waarom de slowcooker zo handig is
© Dirk Weischenberg
Huis

Van stoofpot tot nagerecht: waarom de slowcooker zo handig is

Je kent het wel: je hebt een drukke dag, weinig zin om koken, maar wel trek in iets warms en voedzaams. Kom er maar in slowcooker! Je vult hem 's ochtends, zet hem aan en later op de dag staat er een complete maaltijd te wachten. Zeker in de herfst, dé tijd voor stevige soepen en stoofgerechten, is de slowcooker een uitkomst. En: je kunt er veel meer mee maken dan je denkt!

In dit artikel lees je:

– Hoe de slowcooker werkt – Wat je er allemaal mee kunt maken – Welke apparaten je deels kunt vervangen door een slowcooker – Het verschil tussen slowcooker, multicooker en snelkookpan – Tips en aandachtspunten bij gebruik – Twee recepten: apple crumble en pompoensoep uit de slowcooker

Lees ook: 5 veelgemaakte fouten met de slowcooker

Hoe werkt de slowcooker precies?

Een slowcooker werkt anders dan de pan op het fornuis of een braadslee in de oven. Hij gaart gerechten langzaam op lage temperatuur, vaak tussen de 70 en 95 graden. De warmte verspreidt zich gelijkmatig rondom een keramische of metalen binnenpan, terwijl het deksel de stoom en smaken vasthoudt. Omdat er nauwelijks vocht ontsnapt, blijven ingrediënten mals en vol van smaak. Vlees valt na uren sudderen uit elkaar en groente wordt zacht zonder zijn structuur helemaal te verliezen.

Van stoofpot tot nagerecht

Wie denkt dat de slowcooker alleen geschikt is voor stoofpotten, heeft het mis. Natuurlijk kun je er klassiekers als rundvleesstoof of chili con carne mee maken, maar net zo goed linzenstoof, curry of een rijke groentesoep. Voor het ontbijt kun je de avond ervoor havermout in de pan doen, zodat je 's ochtends wakker wordt met een warme kom pap. Zelfs nagerechten zoals rijstepap of een appelcrumble met kaneel (recept verderop) komen goed uit de slowcooker. Sommige modellen hebben bovendien een braadfunctie, zodat je vlees eerst kunt dichtschroeien voordat je het rustig laat garen.

©from_my_point_of_view

Welke apparaten vervangt de slowcooker?

De kracht van de slowcooker zit niet alleen in variatie, maar ook in vervanging. Veel bereidingen die je normaal in de oven of op het fornuis zou doen, kunnen ook prima met de slowcooker. Een stoofpot die je anders urenlang in de gaten moet houden, pruttelt hier vanzelf rustig door zonder dat je steeds hoeft te roeren. Zelfs een rijstkoker, stoommandje of au-bain-marie-apparaat kun je soms links laten liggen, want ook rijst, groente en custard kunnen prima langzaam garen. De slowcooker vervangt niet alle apparatuur in je keuken, maar wel deels.

Slowcooker, multicooker en snelkookpan: dit zijn de verschillen

De slowcooker is niet het enige apparaat dat koken makkelijker maakt. Hij wordt vaak vergeleken met de multicooker en de snelkookpan, maar de werking verschilt duidelijk. De slowcooker werkt op lage temperatuur en heeft vooral tijd nodig. Het voordeel is dat je gerechten kunt laten garen zonder dat je er de hele tijd bij hoeft te blijven en dat smaken zich rustig ontwikkelen. De multicooker is veelzijdiger: die combineert meerdere functies in één toestel, zoals stomen, bakken, rijst koken en vaak ook slowcooken. Daarmee vervangt hij meer losse apparaten, al vraagt het soms om meer instellingen en handelingen. De snelkookpan werkt juist tegengesteld aan de slowcooker. Met hoge druk en hoge temperatuur verkort hij kooktijden drastisch. Waar de slowcooker zes uur nodig heeft voor een stoofpot, staat het gerecht uit een snelkookpan binnen een uur op tafel. Het resultaat is minder diep van smaak, maar wel een snelle uitkomst voor drukke dagen. Kortom: de slowcooker draait om gemak en smaakontwikkeling, de multicooker om veelzijdigheid en de snelkookpan om snelheid.

De voordelen van langzaam garen

Het gebruik van de slowcooker brengt een aantal voordelen met zich mee. Doordat de temperatuur laag blijft, brandt er zelden iets aan en kun je gerust de deur uit terwijl het eten staat te pruttelen. De smaken trekken dieper in de ingrediënten en vlees wordt malser dan dan wanneer je het op hoog vuur bereidt. Bovendien heb je minder olie of boter nodig en kun je vaak goedkopere vleessoorten gebruiken die dankzij het lange garen bijzonder zacht worden. Het energieverbruik is doorgaans lager dan bij een oven of kookplaat, omdat het apparaat constant op een laag pitje werkt.

Waar je op moet letten

Er zijn ook dingen om rekening mee te houden. Omdat er nauwelijks vocht verdampt, is het beter om zuinig te zijn met bouillon of water. Te veel vocht maakt de maaltijd dunner dan de bedoeling is. Kruiden ontwikkelen zich anders bij lage temperaturen en hebben soms minder kracht, waardoor het slim is om vlak voor het serveren je gerecht nog even extra op smaak te brengen. En omdat gerechten vaak vier tot acht uur nodig hebben, vraagt het koken met een slowcooker om planning. Zet hem tijdig aan, zodat je eten op het juiste moment klaar is.

De slowcooker in de herfst

Juist in de herfst laat de slowcooker zich van zijn beste kant zien. Het seizoen van pompoensoep, erwtensoep, goulash en linzenstoof vraagt om comfort food dat langzaam kan trekken. Terwijl de regen tegen de ramen slaat en de dagen korter worden, vult je huis zich met de geur van een gerecht dat urenlang rustig staat te garen. Na een boswandeling of werkdag hoef je alleen nog maar de deksel te lichten en te genieten.

Recept: pompoensoep uit de slowcooker

Pompoensoep past perfect bij de herfst en is eenvoudig te maken in de slowcooker. Gebruik een middelgrote flespompoen, twee winterwortels, een grote ui, twee teentjes knoflook, een liter groentebouillon en een theelepel gemalen komijn. Snijd de pompoen in blokjes (schil mag blijven zitten als hij dun is) en doe samen met wortel, ui en knoflook in de slowcooker. Voeg de bouillon en komijn toe, zet de pan zes uur op de lage stand of drie uur op de hoge stand. Pureer de soep met een staafmixer glad en breng eventueel verder op smaak met peper en zout. Voor een romige variant kun je een scheutje kokosmelk toevoegen. Serveer met brood of een beetje geroosterde pompoenpitten als topping. 

©posinote - stock.adobe.com

Recept: apple crumble uit de slowcooker

Een klassieker die verrassend goed lukt in de slowcooker is apple crumble. Je hebt nodig: zes zoetzure appels, een eetlepel kaneel, twee eetlepels suiker, 100 gram bloem, 75 gram havermout, 100 gram koude boter in blokjes en een snuf zout. Schil de appels, snijd ze in stukjes en leg ze op de bodem van de ingevette slowcooker. Meng bloem, havermout, boter, suiker en zout tot een kruimelig deeg en verdeel dit over de appels. Zet de slowcooker drie uur op de hoge stand, of vijf uur op de lage stand, met een theedoek onder het deksel om condens op te vangen (zodat de crumble-topping knapperig blijft). Zorg er wel voor dat het deksel en de pan goed afgesloten blijven. Serveer de crumble warm, eventueel met een bolletje vanille-ijs of slagroom.

Slowcooker? Ja, graag!

De slowcooker laat zich goed inpassen in een druk dagelijks leven. Hij neemt je een deel van het werk uit handen en zorgt voor supersmaakvolle gerechten. Heb je wat plek over in je keuken, dan is een slowcooker dus zeker aan te raden!

Nog veel meer recepten?

Slowcookerboeken genoeg!