In de vorige delen van de workshopreeks over de OpenAI-API hebben we teksten samengevat, vertaald en er informatie uit gehaald. Dat bleef telkens beperkt tot één vraag en één antwoord. In dit laatste deel gaan we een stap verder: je gaat in je eigen Python-programma’s volwaardige conversaties voeren met het taalmodel van ChatGPT.

Je weet ondertussen hoe je in je Python-programma’s een vraag aan ChatGPT stelt via de OpenAI-API. We hebben dit in de vorige vier delen van deze workshopreeks geïllustreerd met talloze toepassingen. Maar onze programma’s hadden daarbij telkens dezelfde structuur: je stelt een vraag (de prompt), je krijgt een antwoord (de completion) en dan stopt de interactie.

Als je al eens van ChatGPT gebruikgemaakt hebt op de OpenAI-website, weet je dat je er ook volledige conversaties mee kunt voeren. Die mogelijkheid gaan we nu ook in onze eigen Python-programma’s inbouwen. In plaats van een klassieke, beperkte interface met invoer in een vast patroon, creëer je zo een conversationele interface. 

Basiscode

In de vorige delen van deze reeks maakten we altijd gebruik van een basisfunctie get_completion waaraan we een gebruikersprompt en eventueel een systeemprompt gaven, met optioneel ook een model. Die functie stuurde de prompt(s) door aan de OpenAI-API en gaf het antwoord terug.

Om een conversatie te voeren, moet het taalmodel toegang tot de hele context hebben, met de vorige boodschappen die het taalmodel en jij hebben uitgewisseld. Daarom maken we in dit deel een nieuwe hulpfunctie: get_completion_from_messages. Daaraan geef je de hele geschiedenis van boodschappen door. Onze basiscode ziet er dan als volgt uit:

Klik daarom in Visual Studio Code op File / New File en kies Python File. Plaats daarin de voorgaande Python-code. De API-sleutel moet je zelf aanmaken in je account bij OpenAI, net zoals in de vorige delen van deze workshopreeks.

Rollen

Waaruit bestaan die boodschappen nu? Het argument messages dat we aan de functie get_completion_from_messages moeten doorgeven, is een lijst van Python-dictionary’s, een datastructuur die sleutels en waardes heeft. Elke dictionary in de lijst messages heeft twee sleutels: "role" en "content". De eerste beschrijft de rol van de boodschap in de conversatie en de tweede de inhoud (de tekst).

De OpenAI-API kent drie rollen: system, user en assistant. Een boodschap met de rol system beschrijft een systeemprompt. Zoals we in de vorige delen uitlegden, geeft een systeemprompt algemene instructies aan het taalmodel. Een boodschap met de rol user beschrijft een vraag van de gebruiker. En een boodschap met de rol assistant beschrijft een antwoord van het taalmodel.

Een conversatie met de OpenAI-API kan er dan in Python als volgt uitzien in de vorm van boodschappen met een rol en inhoud:

Voeg deze lijst aan je code toe. Daarna kun je aan de OpenAI-API vragen om de conversatie in deze boodschappen voort te zetten:

Sla dit bestand in Visual Studio Code op met Ctrl+S en geef het een naam. Klik dan op Terminal / New Terminal, waarna er onder je code een nieuw deelvenster opent met een opdrachtprompt. Klik rechts bovenaan op het afspeelknopje (het driehoekje met de tooltip Run Python File als je erboven blijft hangen). Als alles goed gaat, krijg je nu in de terminal een antwoord als “Voor het geval dat de cloud gaat regenen!”.

Met deze kennis over de rollen weet je nu ook waarom er in de laatste regel van de functie get_completion_from_messages (en de functie get_completion die we in de eerdere workshops gebruikten) response.choices[0].message["content"] staat. Het stukje message["content"] geeft de tekst van het antwoord van het taalmodel terug. Als je message["role"] in die functie zou tonen, zou je "assistant" te zien krijgen.

Wat onthoudt de chatbot?

Je hebt gezien dat elke conversatie die je met het taalmodel voert, bestaat uit een lijst van boodschappen. Het taalmodel houdt rekening met alle informatie die in deze boodschappen te vinden is. Vertel je bijvoorbeeld in één boodschap je naam, dan kun je daar in een van de boodschappen erna naar vragen en kan het taalmodel daar perfect op antwoorden. Vervang de lijst messages uit het vorige voorbeeld maar eens door deze lijst en voer het programma uit:

De conversatie is eenvoudig. Het taalmodel krijgt de instructie dat het een vriendelijke chatbot is. Daarna stelt de gebruiker zich voor en vraagt het taalmodel wat het kan doen. De gebruiker vraagt dan wat zijn naam is.

Als je dit programma uitvoert, zul je zien dat het taalmodel de naam heeft onthouden. Je krijgt dan immers een antwoord als: “Je naam is Koen. Dat heb je net verteld! Is er nog iets specifieks waar je meer over wilt weten?”

In een andere conversatie waarin je je naam niet vertelt, zal de chatmodel niet op de vraag kunnen antwoorden wat je naam is. Deze conversatie bijvoorbeeld:

Dan krijg je als antwoord iets als: “Sorry, maar ik ben een chatbot en heb geen toegang tot persoonlijke informatie. Ik ken je naam niet.”

Het is belangrijk om te weten dat elke conversatie die je met het taalmodel voert volledig losstaat van de andere. Dat je eerder je naam verteld hebt in de andere conversatie, is geen informatie die in de nieuwe conversatie beschikbaar is. Het taalmodel kent alleen de algemene informatie waarop het is getraind en de lijst met boodschappen die je eraan doorgeeft. 

Conversaties voeren

Hierboven hebben we de boodschappen in de programmacode gezet. Maar we willen de gebruiker zelf invoer laten geven. Hoe doen we dat? Met nog een extra hulpfunctie, die de lijst met boodschappen opbouwt en telkens nieuwe invoer vraagt en de uitvoer toont. Dat doen we door de basiscode uit te breiden met:

Als je dit programma uitvoert, kun je een vraag intypen en met een druk op Enter doorsturen. De functie converse voegt je vraag als prompt toe aan de lijst met boodschappen in de variabele context. Ook het antwoord van het taalmodel voegt de functie aan de lijst toe en dat antwoord wordt getoond. We blijven in een oneindige lus (met while True) de functie oproepen, waarbij de context telkens wordt uitgebreid met je vraag en het antwoord. Daardoor onthoudt het taalmodel de voorgaande boodschappen en kunnen we een echte conversatie voeren.

Conversationele interface

We hebben nu in wezen een eenvoudige interface voor ChatGPT gebouwd in een terminalvenster. Maar we willen hier een conversationele interface van maken om op een gebruiksvriendelijke manier invoer voor een groter programma te verkrijgen. Als voorbeeld nemen we een computerspel, waarbij je in het begin je spelpersonage moet ontwerpen.

Een spelpersonage bestaat uit enkele eigenschappen, zoals naam, vaardigheid, uitrusting en ras. Het spel zou je dat allemaal in een formulier kunnen laten invullen, maar waarom niet in een conversatie? Dat gaan we in de rest van dit artikel programmeren. Als eerste stap moeten we dus een uitgebreide systeemprompt creëren die de conversatie kadert:

Ja, de systeemprompt moet echt zo lang zijn. Als we niet expliciet zeggen wat de chatbot wel en niet mag doen, krijgen we uiteindelijk niet wat we willen: een JSON-string met de eigenschappen van het personage. 

JSON

Een groot deel van onze systeemprompt bestaat uit instructies om de uiteindelijke keuzes van de gebruiker in de vorm van JSON (JavaScript Object Notation) te geven. Waarom is dat zo belangrijk? Omdat we de rest van ons programma alleen met gestructureerde gegevens kunnen laten omgaan, niet met tekst.

Dus als de gebruiker in een conversatie met onze assistent een speler met de naam Born heeft gekozen, die een orkenschurk is met een boog, dan moet ons programma dit uiteindelijk in de volgende vorm kunnen inlezen:

Converseren naar een doel

Het doel van onze conversatie is dus dat we uiteindelijk een JSON-string als hierboven krijgen, zodat het programma verder kan en we het spel kunnen spelen. We kunnen onze conversatie dus laten stoppen wanneer de uitvoer van de assistent een geldige JSON-string is.

Om JSON in Python te gebruiken, importeer je eerst de gelijknamige bibliotheek helemaal in het begin van het programma:

Daarna komt onze basiscode en de systeemprompt met de uitgebreide instructies van hierboven, en daarna creëren we de volgende functie converse:

Deze functie vraagt dus invoer van de gebruiker, voegt die aan de context toe en stelt de vraag aan de OpenAI-API. Het antwoord van de assistent voegen we aan de context toe.

Daarna probeert de functie om het antwoord van de assistent als een JSON-object in te laden. Lukt dat, dan geeft de functie dit JSON-object terug. Lukt dat niet, dan geeft Python de foutmelding json.decoder.JSONDecodeError terug en reageren we daarop door gewoon het antwoord van de assistent te tonen. Het is dan immers niet het laatste antwoord met de gestructureerde data in JSON-vorm, maar een vraag. In dat geval geeft de functie None terug, omdat de data nog niet volledig zijn.

Gestructureerde data

Hoe maken we nu van die functie converse gebruik? Dat doen we met de volgende code:

We initialiseren eerst de variabele properties door ze de waarde None te geven. Dan tonen we de eerste boodschap van de assistent, waarin we de gebruiker naar de naam van het spelpersonage vragen.

Daarna roepen we de hele tijd de functie converse met de context aan, zolang de waarde die deze functie teruggeeft None is. Zoals we in die functie gezien hebben, geeft ze een JSON-string terug als de assistent JSON-data teruggeeft en anders None. Als de assistent de instructies correct volgt (zie het kader “Doet je programma niet wat het moet doen?”), stopt de conversatie dus wanneer de data volledig zijn.

Op dat moment wordt de code na het while-blok uitgevoerd. We kunnen nu de eigenschappen van het spelpersonage op een gestructureerde manier uit het JSON-object properties halen. We tonen ze hier één voor één. Uiteraard zou je nog wat controles moeten uitvoeren, zodat er geen ongeldige waardes in staan wanneer het taalmodel niet goed werkt. Maar dat is een oefening voor de lezer!

Lees ook:

Met Circle to Search kun je informatie opvragen over wat je op het scherm van je smartphone ziet, zonder dat je van app hoeft te wisselen of iets hoeft te kopiëren. Dat kan met Circle to Search, een functie die standaard ingebouwd is in de nieuwste Android-versies van onder andere Google Pixel- en Samsung Galaxy-toestellen. Je kunt er meer mee dan je misschien denkt!

Lees ook: 4 handige AI-functies voor je smartphone

Even snel iets opzoeken terwijl je een video kijkt, een bericht leest of door je favoriete app scrolt: tot voor kort betekende dat toch meestal dat je moest wisselen van app, tekst moest kopiëren of een apart tabblad moest openen. Met Circle to Search hoeft dat niet meer. Google heeft deze functie zo ontworpen dat je op elk moment, in elke app, meteen kunt zoeken naar wat er op je scherm staat. Google zoekt vervolgens direct naar relevante informatie, zonder dat je iets hoeft in te typen. Het werkt in vrijwel alle apps, dus of je nu op Instagram zit, een game speelt of iets leest op een website: je kunt het op elk moment starten.

Wat zie ik?

Circle to Search werkt op allerlei soorten content. Zie je een gaaf shirt op een Instagramfoto en wil je weten waar je het kunt kopen? Omcirkel het, en je krijgt gelijk links naar vergelijkbare kledingstukken in webshops. Vaak krijg je niet alleen identieke producten te zien, maar ook alternatieven in verschillende prijsklassen.

Ook meubels, accessoires of zelfs planten kun je zo herkennen. Als je tijdens het scrollen iets tegenkomt dat je aanspreekt, hoef je alleen maar te cirkelen om meteen te zien waar je het kunt vinden – of wat erop lijkt. Handig als je inspiratie opdoet via video's of foto's en daar direct iets mee wilt doen.

Vertaalhulp

Een andere slimme toepassing is het vertalen van tekst, rechtstreeks vanuit beeld. Stel je leest een buitenlandse recensie, komt een menukaart tegen in een foto, of ziet een handgeschreven briefje in een andere taal. Door simpelweg het relevante tekstdeel te selecteren, krijg je direct een Nederlandse vertaling te zien, zonder dat je eerst een aparte vertaalapp hoeft te openen. Dat maakt het veel laagdrempeliger om bijvoorbeeld Franse recepten te begrijpen, Spaanse socialemediaposts te volgen of Duitse nieuwsartikelen te lezen.

©Google

Studiehulp

Circle to Search komt ook goed van pas bij het leren of studeren. Zit je met een lastige formule of grafiek die je niet begrijpt? Je kunt het direct selecteren en uitleg opvragen, vaak inclusief stapsgewijze berekening of achtergrondinformatie. Vooral handig voor scholieren en studenten die digitale lesmaterialen gebruiken: je kunt blijven werken in je les-app, terwijl je tegelijk extra uitleg opvraagt.

Wat hoor ik?

Ook muziekherkenning is inmiddels in Circle to Search geïntegreerd. Je hebt dus geen aparte apps meer nodig om een nummer te identificeren dat je toevallig hoort in een video, in een winkel of op straat. Door het muzieksymbool onderin aan te tikken terwijl het nummer speelt, herkent Circle to Search het liedje – zelfs als je het neuriet of zingt.

Tips voor gamers

Voor wie graag games speelt op zijn telefoon, biedt Circle to Search sinds kort ook specifieke ondersteuning. Krijg je een puzzel niet opgelost, heb je geen idee wat je met een object of voorwerp in de game moet doen of weet je even niet hoe je een level moet uitspelen? Door het betreffende deel van je scherm te selecteren, krijg je hulp in de vorm van tips, korte uitleg of video's die exact op het juiste moment in de gameplay beginnen. Je hoeft het spel dus niet te verlaten om informatie te zoeken.

©Google

De diepte in

Een opvallende toevoeging van de laatste maanden is AI Mode. Wanneer je iets opzoekt met Circle to Search en er verschijnt een zogenoemde AI Overview, kun je naar beneden scrollen en kiezen voor 'dive deeper with AI Mode'. Je krijgt dan de mogelijkheid om door te vragen binnen hetzelfde onderwerp. Stel: je hebt een afbeelding van een historisch schilderij geselecteerd, en AI Overview geeft een korte samenvatting. In AI Mode kun je dan vragen stellen over de stijl, de kunstenaar of de historische context, en krijg je in gewone taal uitgebreide antwoorden.

De cirkel is rond

Je ziet dat je in het dagelijks gebruik dus verrassend veel met Circle to Search kunt. Daarbij is het fijn dat deze AI-hulp bovendien slim reageert op de context. Selecteer je tekst, dan krijg je andere opties dan bij een object of een geluid. Daardoor voelt het gebruik logisch en hoef je niet telkens na te denken over welke knop je moet gebruiken. Ook handig is dat je de gevonden informatie meteen kunt opslaan of delen. Heb je iets interessants gevonden? Dan kun je het met één tik bewaren in bijvoorbeeld Google Keep, mailen naar jezelf of invoegen in een agendanotitie.

Smartphones met Circle to Search

Je laptop maakt lange dagen. Of je nu thuiswerkt, films kijkt of schoolopdrachten maakt, hij staat vaak uren aan. Wil je dat hij zo lang mogelijk goed blijft werken? Dan zijn er een aantal dingen die je beter niet kunt doen – omdat ze op termijn voor problemen kunnen zorgen. Van slechte ventilatie tot verkeerd opladen: zorg dat je deze fouten voortaan vermijdt.

Lees ook: Zo zorg je dat je laptop zo lang mogelijk blijft werken op één acculading

1. Laptop veel op bed of schoot gebruiken

Een laptop heeft lucht nodig. Via kleine openingen aan de zijkant of onderkant voert hij warmte af, en die luchtstroom raakt geblokkeerd als je het apparaat op een zacht oppervlak gebruikt. Op bed, een dekentje of je schoot raakt hij die warmte moeilijk kwijt, waardoor onderdelen onnodig heet worden. Op de korte termijn merk je dat aan een luidruchtige ventilator, op de lange termijn aan snellere slijtage. Gebruik je je laptop vaak op schoot? Leg er dan iets hards onder, zoals een plankje of laptopstandaard. Zo voorkom je oververhitting. Bovendien werkt het vaak ook prettiger.

2. Altijd aan de oplader laten hangen

Veel mensen laten hun laptop de hele dag aan de stroom hangen. Dat lijkt handig – je zit nooit zonder stroom – maar voor de accu is het minder ideaal, vooral bij oudere laptops. Die kunnen sneller slijten als ze continu volgeladen blijven. Moderne laptops hebben gelukkig vaak slimme batterijmanagementsystemen die overladen voorkomen, maar zelfs dan is het beter om de batterij niet constant op 100% te houden. Je verlengt de levensduur door de accu regelmatig te gebruiken: haal de stekker er af en toe uit, laat de lading zakken tot zo’n 30 à 40 procent en laad dan weer op. Veel modellen bieden ook een instelling om het laden automatisch te beperken tot bijvoorbeeld 80%. Werk je veel op netstroom? Dan is het zeker de moeite waard om die functie in te schakelen. Zo houd je de accu langer gezond, zonder dat je er iets van merkt in het dagelijks gebruik.

3. Updates telkens uitstellen

Je krijgt een melding, maar klikt op 'nu niet'. En een dag later nog een keer. En nog een keer. Omdat je net lekker bezig bent en geen zin hebt om de laptop opnieuw op te starten, of omdat je denkt dat updates er alleen voor nieuwe functies zijn. Maar juist in die updates zitten vaak beveiligingsverbeteringen en foutoplossingen. Door lang te wachten blijf je kwetsbaar voor lekken of bugs die allang zijn verholpen. Laat updates daarom uitvoeren op een moment dat je je laptop niet nodig hebt – bijvoorbeeld tijdens de lunch of 's avonds. En stel automatische updates in als dat mogelijk is.

©Daniel CHETRONI - stock.adobe.com

4. Geen ruimte voor ventilatie laten

Wie foto's bewerkt, veel tabbladen open heeft of werkt met grote bestanden, vraagt meer van zijn laptop. De processor warmt op en de ventilator springt aan. Als je laptop dan in een afgesloten kastje, tegen een muur aan of tussen stapels papier staat, kan hij die warmte moeilijk kwijt. De temperatuur loopt verder op, wat invloed heeft op de prestaties en de levensduur. Zorg bij intensief gebruik voor voldoende ruimte rondom het apparaat. Zorg dat je hem op een plek neerzet waar niet allerlei spullen liggen en overweeg een laptopstandaard of -koeler als je merkt dat de temperatuur snel oploopt. 

5. Ventilatieopeningen niet schoonhouden

Een beetje in het verlengde van de fout hierboven: kan je laptop zijn warmte sowieso kwijt, ook als er genoeg ruimte omheen is? In de loop van de tijd verzamelt zich stof in je laptop, vooral rond de ventilator en de luchtkanalen. Zeker als je laptop in een stoffige kamer staat of je veel huisdieren hebt, kan dat snel gaan. Dat stof belemmert de luchtstroom, waardoor warmte blijft hangen en onderdelen sneller slijten. Je merkt het aan een ventilator die vaker aanslaat, of of doordat je laptop langzamer reageert dan je gewend bent. Gebruik af en toe een busje perslucht om de ventilatieopeningen voorzichtig schoon te blazen. 

©Studiomiracle

6. Klikken op verdachte links of bestanden

We weten allemaal dat je niet zomaar ergens op moet klikken. Maar het kan toch gebeuren dat je nieuwsgierig wordt naar die 'gratis update' of dat je denkt dat die mail echt van je bank afkomstig is (want cybercriminelen worden steeds slimmer in het nabootsen van bekende websites en bedrijven). Voordat je het weet heb je dan iets gedownload wat helemaal niet deugt. Malware kan van alles doen: meekijken wat je typt, je bestanden versleutelen, of persoonlijke gegevens stelen.

Een garantie dat je het helemaal kunt voorkomen kan niemand je geven. Wat je in ieder geval wél kunt doen is software altijd alleen via de officiële website downloaden, alleen bijlagen openen van afzenders die je vertrouwt en niet op meldingen klikken die je onder druk zetten. Een goede virusscanner helpt uiteraard ook, maar alert blijven is minstens zo belangrijk.

7. Geen back-ups maken van je bestanden

Je denkt er pas aan als het te laat is: een laptop die niet meer opstart, een harde schijf die crasht of een diefstal. Als je geen back-up hebt en er gebeurt iets met je laptop, dan ben je alles kwijt: je foto's, werk en documenten. Zorg daarom dat je regelmatig een back-up maakt. Dat kan automatisch via een clouddienst, of handmatig met een externe harde schijf. Het instellen kost je hooguit een kwartier. Doen, want de opluchting die je voelt wanneer je een back-up kunt gebruiken op het moment dat je die nodig hebt, is onbetaalbaar! 

8. Ruw omgaan met je laptop

We zijn allemaal wel eens haastig met onze laptop. Snel een usb-stick erin duwen, het scherm met één hand vanaf de zijkant openklappen, wrikken om de oplaadkabel in de poort te steken: het lijkt onschuldig, maar kan schade veroorzaken. Poorten zijn gevoelig, net als de scharnieren van je scherm. Open je laptop altijd met twee handen vanuit het midden en ga voorzichtig om met alle poorten en uitgangen. Doe je dat niet, dan kunnen ze los komen te zitten, waardoor ze uiteindelijk minder goed of helemaal niet meer hun werk kunnen doen.

©Dan74 - stock.adobe.com

9. Alles opslaan op het bureaublad

Voor het gemak bewaren veel mensen bestanden standaard op het bureaublad. Foto's, documenten, downloads – zo heb je ze meteen bij de hand. Omdat elk bureaubladpictogram apart geladen moet worden, kan dat bij oudere laptops voor merkbare vertraging zorgen tijdens het opstarten. Bij moderne laptops speelt dat probleem niet. Maar of je laptop nu oud of nieuw is: door alles maar op het bureaublad te bewaren, raak je wel het overzicht kwijt. Dus dan geldt dat 'alles bij de hand' niet meer. Integendeel: het risico dat je per ongeluk iets belangrijks weggooit, wordt groter naarmate je bureaublad voller raakt. Maak daarom mappen aan, gebruik de standaard 'Documenten'-map en archiveer wat je niet meer nodig hebt.

10. Geen wachtwoord of vergrendeling instellen

Veel mensen gebruiken hun laptop thuis of op werk, en denken daardoor geen wachtwoord nodig te hebben. Maar bij diefstal of verlies ligt je hele digitale leven open. Je mail, documenten, foto's, inloggegevens en opgeslagen wachtwoorden zijn vaak met één klik bereikbaar. Een sterk wachtwoord of pincode op je account, automatische vergrendeling na inactiviteit en versleuteling van je harde schijf maken je laptop veel veiliger. Het kost je nauwelijks extra tijd bij het opstarten, maar voorkomt grote problemen als je laptop ooit in verkeerde handen valt.