ChatGPT is een handige tool van OpenAI waaraan je allerlei vragen kunt stellen. Maar het is ook mogelijk om de slimme chatbot in je eigen programma’s in te zetten. In deze nieuwe reeks leren we je hoe je ChatGPT in Python gebruikt en zo teksten samenvat, informatie uit teksten haalt, teksten vertaalt of een eigen chatbot creëert.

ChatGPT is een chatbot met uitgebreide mogelijkheden. Je geeft instructies in een tekstvenster en krijgt een antwoord terug. Je kunt zelfs een hele conversatie voeren en extra vragen stellen. De tool is ontwikkeld door OpenAI en getraind op een grote dataset van teksten.

De dienst is gratis uit te proberen, maar je moet er wel voor aanmelden. Bezoek hiervoor de OpenAI-website en klik op Sign up. Voer een e-mailadres en een wachtwoord in, of meld je aan met een bestaand account bij Google, Microsoft of Apple. OpenAI stuurt een e-mail naar je opgegeven adres; klik op de link om je e-mailadres te bevestigen. Daarna vul je je naam en een mobiel telefoonnummer in. OpenAI stuurt een zescijferige code via sms naar je telefoon, die je op de website invoert om je account aan te maken.

Je bent nu aangemeld op de website, die vanaf nu ook te openen is via de pagina https://chat.openai.com. Je krijgt enkele voorbeelden te zien van vragen die je kunt stellen en een overzicht van de mogelijkheden en beperkingen. In het tekstveld onderaan begin je een conversatie met ChatGPT. Maar daarover gaat deze workshop niet, want we gaan die conversaties in onze eigen software integreren. Dat kan met hetzelfde account die je voor de website hebt aangemaakt.

Python installeren

In deze reeks van vijf workshops gaan we de mogelijkheden van ChatGPT gebruiken in onze eigen programma’s, die we schrijven in de programmeertaal Python. In macOS en Linux is Python al standaard geïnstalleerd. In Windows ga je naar de downloadpagina van Python en installeer je de nieuwste Python-versie.

Start het gedownloade installatieprogramma. In het installatievenster vink je Add python.exe to PATH aan. De optie Use admin privileges when installing py.exe staat standaard ook aangevinkt. Als dat niet hoeft, omdat je alleen met je huidige gebruikersaccount Python wilt gebruiken, zet dit dan gerust uit. Klik daarna bovenaan op Install Now. Klik in de laatste stap op Close. Na de installatie open je de Opdrachtprompt en typ je het volgende in om te testen of Windows de Python-opdracht herkent:

Je zou nu het versienummer van de geïnstalleerde Python te zien moeten krijgen.

Visual Studio Code

Om je programma’s te schrijven heb je een code-editor nodig. In deze workshop gebruiken we Visual Studio Code, een gratis en uitbreidbare code-editor van Microsoft die zowel op Windows, macOS als Linux draait. Klik links op de website op de blauwe knop Download for Windows - Stable Build. Wanneer de download is voltooid, voer je het installatieprogramma uit. Je kunt in de eerste stap een taal kiezen, maar helaas geen Nederlands. Accepteer de licentieovereenkomst en vink eventueel optionele acties aan.

Nadat je Visual Studio Code geopend hebt, klik je in de linkerzijbalk op het icoontje met de blokjes of je drukt op Ctrl+Shift+X om de Extensions Marketplace te openen. Installeer daar de uitbreiding Python van Microsoft. Deze zal je helpen met het schrijven van Python-code en maakt gebruik van de Python-installatie uit de vorige stap om je code uit te voeren.

API-toegang

Om nu vanuit onze eigen Python-code toegang tot ChatGPT te krijgen, moeten we eerst een API-sleutel aanvragen. API staat voor Application Programming Interface en is een set afspraken waarmee ons programma de diensten van OpenAI kan gebruiken. Elke keer dat we ChatGPT willen gebruiken in ons programma, moeten we die sleutel meegeven.

Meld je met je OpenAI-account aan op https://platform.openai.com en klik rechts bovenaan op je profiel. In het menu dat verschijnt, klik je op View API keys. Klik dan op Create new secret key, vul een naam in voor je sleutel en klik op Create secret key. Je krijgt dan je sleutel te zien, een lange reeks tekens.

Kopieer de sleutel en gebruik hem in de volgende paragraaf van deze workshop. Let op: nadat je op Done hebt geklikt, krijg je de sleutel nooit meer te zien; ben je de sleutel kwijt, dan moet je een nieuwe aanmaken.

Nieuwe accounts krijgen een klein bedrag gratis voor gebruik van de OpenAI-API. Nadien moet je in Billing betaalgegevens invullen.

Python-code

Klik nu in Visual Studio Code op File / New File… / Python File. Plaats hierin de volgende Python-code:

Met import openai importeren we de Python-module die OpenAI aanbiedt om de API te gebruiken. Tussen de aanhalingstekens na API_KEY plak je je eigen API-sleutel. DEFAULT_MODEL verwijst naar het taalmodel dat we willen gebruiken. Zie het kader ‘GPT-4’ als je het nieuwere taalmodel van ChatGPT wilt gebruiken.

Daarna maken we een hulpfunctie om gemakkelijker met de OpenAI-API te werken. Aan die functie geven we een prompt door (dat is de vraag die je stelt) en een optioneel model. De functie creëert dan een completion en haalt hieruit het resultaat. Op die manier kunnen we eenvoudig een prompt aan de functie doorgeven en het resultaat met print op de opdrachtregel tonen, zoals je in de laatste drie regels van dit Python-script ziet.

Eerste API-gebruik

Sla het codebestand uit de vorige paragraaf in Visual Studio Code op met Ctrl+S en geef het een naam. Klik dan op Terminal / New Terminal, waarna er onder je code een nieuw deelvenster opent met een opdrachtprompt. Typ hierin de volgende opdracht om de OpenAI-module voor Python te installeren:

Klik na de installatie rechts bovenaan op het afspeelknopje (het driehoekje met als je er met je muis boven blijft hangen de tooltip Run Python File). Als alles goed gaat, krijg je nu in de terminal een antwoord op de vraag die je in de variabele prompt in je code hebt gezet.

Tokens

Een belangrijk concept bij gebruik van de OpenAI-API zijn tokens. Een token is een vaak voorkomende opeenvolging van tekens, zoals letters, cijfers of leestekens. Hier kun je zelf zien uit welke tokens een ingevoerde tekst bestaat.

Het taalmodel produceert token na token, gebaseerd op de kans dat ze na de vorige tokens komen. Een token kan een volledig woord of een deel van een woord zijn. Voor Engelse tekst komen 100 tokens ruwweg met 75 woorden overeen. Standaard genereert ChatGPT en dus ook ons Python-script een antwoord met zoveel tokens als er nodig zijn, maar je kunt dit inperken door de parameter max_tokens toe te voegen. De aanroep van openai.ChatCompletion.create ziet er dan als volgt uit:

Dat aantal tokens is belangrijk, omdat je voor het gebruik van OpenAI-API betaalt per token. Voor veelvuldig geautomatiseerd gebruik van de API kan het dus de moeite zijn om een maximum aantal tokens in te stellen. Overigens levert dit wel vaak een antwoord op dat bruusk afgebroken is.

Parameters

Als je het Python-script uitvoert, zul je merken dat het altijd hetzelfde antwoord geeft. Dat is omdat we de parameter temperature de waarde 0 gegeven hebben. Je kunt deze parameter een waarde van 0 tot 2 geven, waarbij 0 betekent dat het antwoord elke keer hetzelfde is en hogere waardes een willekeuriger antwoord opleveren. Als je de waarde niet instelt, staat ze op 1, wat redelijk wat variatie tot gevolg geeft. Probeer het effect van de parameter maar eens uit door de parameter temperature in je code enkele andere waarden te geven en je script meerdere keren uit te voeren.

Twee andere parameters (die we hier niet hebben gebruikt) zijn presence_penalty en frequency_penalty. Beide hebben een standaardwaarde 0 en kunnen variëren van -2 tot 2. Met een positieve presence_penalty verlaag je de kans dat al gebruikte tokens nog eens in de tekst voorkomen. Dat verhoogt de kans dat het model over nieuwe onderwerpen begint. Met een positieve frequency_penalty wordt de kans dat een token gebruikt wordt verlaagd naarmate hij al vaker is gebruikt. Dat verlaagt dus concreet de kans dat het model een zin letterlijk herhaalt.

In de praktijk pas je deze twee parameters niet zo vaak aan. Ze zijn wel nuttig als je merkt dat het model voor specifieke vragen wat repetitieve antwoorden geeft. Probeer dan beide parameters eens op een waarde tussen 0,1 en 1 te zetten om die herhaling wat te verminderen.

Maak je prompts specifieker

Net zoals bij het gebruik van ChatGPT op de website zijn de resultaten bij het gebruik van de API bruikbaarder wanneer je je prompts zo specifiek mogelijk maakt. Een eerste tip is dat je gewoon aangeeft hoe lang de tekst moet zijn. Bijvoorbeeld met de volgende prompt:

Dat geeft doorgaans een beter resultaat dan de parameter max_tokens, omdat de tekst dan tenminste niet bruusk wordt afgekapt. Maar omdat het taalmodel geen woorden kan tellen en intern met tokens werkt, kan de opgegeven limiet weleens overschreden worden. Je moet dit dus altijd nog zelf testen als de opgegeven limiet belangrijk is. Toon bijvoorbeeld het aantal woorden in de uitvoer met de volgende regel op het einde van het Python-bestand:

Vraag om een specifiek format

Een andere manier om je prompts specifieker te maken, is dat je het taalmodel vraagt om zijn antwoord in een specifiek format te geven. Bijvoorbeeld met:

Met de drie aanhalingstekens maken we een multi-line-string in Python aan, waardoor we eenvoudig een prompt over meerdere regels kunnen spreiden voor wat meer overzicht. En het antwoord van ons script is nu ook kernachtiger en duidelijker.

Vermijd hallucinaties

Taalmodellen hebben de neiging om antwoorden te verzinnen als ze kennis missen over je vraag. Stel je bijvoorbeeld de vraag om het magazine Computer Power te beschrijven (dat niet bestaat!), dan verzint ons script een Belgisch tijdschrift met die naam. Deze neiging noemen we ‘hallucinaties’ en je moet hier altijd beducht op zijn, ook bij het gebruik van ChatGPT op de website.

Je kunt die neiging wel wat afzwakken door in je prompt expliciet te zeggen wat het taalmodel moet doen als het niet voldoende informatie heeft:

Daarop antwoordt ons script dat het dit magazine niet kent, maar dat het waarschijnlijk over computers en technologie gaat.

Meer informatie

Wil je meer weten over het gebruik van de OpenAI-API, lees dan de ‘API reference’ op de website van OpenAI, en dan specifiek die van ChatCompletion. Hier vind je meer informatie over de verschillende parameters.

En wil je meer leren over hoe je het meeste uit de taalmodellen haalt met de juiste prompts, bekijk dan zeker het webinar ChatGPT Prompt Engineering for Developers van DeepLearning.AI, dat we hebben geraadpleegd bij het schrijven van deze workshopreeks.

Volgende week maandag het tweede deel van deze reeks! We gaan hierin de kennis uit dit eerste deel toepassen om teksten te laten samenvatten door een taalmodel.

Vervolg: Deel 2: Programmeren in Python met ChatGPT

Er zijn genoeg tekstverwerkingsprogramma's die je op je computer of telefoon kunt installeren, maar als je niets wilt downloaden of aanschaffen en gewoon op het internet wilt schrijven, zijn je opties beperkt. In dit artikel bespreken we vier online tekstverwerkers.

Google Docs

Google Docs is de populairste online tekstverwerker en dus waarschijnlijk de logische optie als je veel met anderen samenwerkt aan documenten. Het is kinderlijk eenvoudig gemaakt om bestanden en mappen met anderen te delen of een hele Google Drive-omgeving aan te maken waarin genodigden samen kunnen werken.

Wijzigingen worden automatisch opgeslagen in de cloud (15 gigabyte gratis opslag), waardoor je altijd een back-up hebt. Als je de Chrome-browser gebruikt, kun je ook offline werken. Je wijzigingen worden dan in de browser zelf opgeslagen en zodra je weer verbinding hebt, gesynchroniseerd in de cloud. Bij andere online tekstverwerkers is internetverbinding te allen tijde vereist. Voor mobiele gebruikers is er overigens ook een app beschikbaar, zodat je je bestanden ook onderweg kunt bewerken.

Documenten hebben in de onlineversie een limiet van ongeveer een miljoen tekens (circa 200.000 woorden). Afhankelijk van de specificaties van je computer, kan het echter zijn dat het bestand al veel eerder langzaam (of helemaal niet) laadt. Het schrijven van een roman kan dus problematisch uitpakken.

Word Online

Word Online is een gratis, uitgeklede versie van Word uit het Microsoft 365-pakket. Documenten worden automatisch opgeslagen in Microsoft OneDrive, met 5 GB opslagruimte voor gratis gebruikers. De onlineversie mist enkele (geavanceerdere) functies van de desktopapplicatie, zoals macro's (takencombinaties) en diagrammen. Audio-opnames, Excel-sheets of PowerPoint-dia's invoegen is ook niet mogelijk.

Het programma heeft wel enkele functies die ontbreken bij het soortgelijke Google Docs. Zo zijn er meer tekststijlen, zijn de opmaakopties bij tabellen een stuk uitgebreider en kun je video's invoegen. Ook trekt Word Online langere documenten beter (met een technisch limiet van maar liefst honderd miljoen tekens).

Aan de andere kant kun je Word Online-documenten in minder formaten exporteren (alleen in .odt, .pdf en .docx) en kunnen er minder documenttypen worden geopend. Onder meer .txt-bestanden moeten eerst worden omgezet in een ander formaat.

©terovesalainen - stock.adobe.com

Proton Docs

Proton Docs is onlangs uitgebracht als 'privacyvriendelijk' alternatief voor de bekendere tekstverwerkers. De maker belooft je documenten end-to-end te versleutelen, waardoor Proton ze niet kan inzien en de inhoud ook niet op straat kan belanden na een datalek. Google en Microsoft bieden dat niet, dus ze zouden bij je documenten kunnen, al beloven ze in hun gebruikersovereenkomsten dat ze dat niet doen.

Om Proton Docs te gebruiken heb je een Proton-account nodig. Daarbij krijg je ook 5 GB aan gratis opslag. Je kunt documenten delen met mensen zonder Proton-account, maar gelijktijdig samenwerken met hen is nog niet mogelijk. De fabrikant zegt wel dat dat binnenkort wordt toegevoegd. Er is ook een appversie om op je telefoon verder te kunnen schrijven.

Aangezien de dienst nog vrij nieuw is, zijn sommige 'vanzelfsprekende' functies nog niet aanwezig. Denk aan het aanpassen van de regelafstand, een donkere modus, automatische bronvermelding of paginaondersteuning (Proton-documenten bestaan uit een enkele, lange pagina). Ook zijn er een stuk minder tekstkleuren en lettertypes dan bij de concurrentie.

⌨️Lees ook: Zo gebruik je Office zonder abonnement

CryptPad

CryptPad lijkt erg op het bovengenoemde Proton Docs, aangezien ook CryptPad beweert alle bestanden zorgvuldig te versleutelen. Proton is een bekendere naam en heeft naast Docs verschillende andere 'privacyvriendelijke' diensten op zijn cv staan, maar CryptPad heeft één belangrijke troef: je hebt geen account nodig om aan documenten te kunnen (samen)werken. Wel worden documenten van ongeregistreerde gebruikers slechts drie maanden bewaard en moet je inloggen om bestanden met anderen te kunnen delen en afbeeldingen te kunnen invoegen. Met een gratis account krijg je 1 GB aan opslag, wat relatief karig is.

Verder zijn de mogelijkheden net als bij Proton beperkt in vergelijking met de concurrentie en wordt tekst wederom niet in pagina's opgedeeld. Althans, als gratis gebruiker, want deze mogelijkheid staat wel achter een betaalmuur. Daarnaast is er geen appversie beschikbaar, al beweert de maker dat de dienst zo is ontworpen dat deze ook via de mobiele webbrowser goed moet werken.

De Eufy Video Doorbell C30 is een betaalbare slimme deurbel met een adviesprijs van 79 euro. Hoe goed kan een deurbel dan zijn? Nou, behoorlijk, als je het ons vraagt. Natuurlijk zijn er nadelen, maar die zijn begrijpelijk gezien de prijs.

 Eén van de belangrijkste concurrenten van de Eufy Video Doorbell C30 is ongetwijfeld de eerder in 2024 gelanceerde Ring Battery Video Doorbell. Die slimme deurbel heeft een adviesprijs van 99 euro en bevalt eigenlijk zo goed, dat je je hardop mag afvragen of je wel meer hoeft uit te geven dan dat. Eufy gaat er dus nog eens 20 euro onder zitten en probeert zodoende de concurrentie te ondermijn, zonder dat het merk inlevert op benodigde functies.

Hoewel de Eufy Video Doorbell C30 een flinke unit is, is het ook gewoon een typische videodeurbel. Onderop zit een gemakkelijk indrukbare knop en bovenin zit de enkele camera. In de doos zitten verschillende middelen waarmee je hem gemakkelijk aan het deurkozijn ophangt. Er zit tevens een wig bij, waarmee je hem met een hoek van vijftien graden installeert. Zo kan de camera altijd gericht zijn op de aanbeller. Maar in principe hang je hem op waar je wilt.

©Wesley Akkerman

Een vervelend taakje

Opladen gaat gelukkig via een usb-c-kabel. Het nadeel van dit systeem is dat je daarvoor de complete deurbel moet verwijderen, en ook de achterkant met een pin moet losmaken om erbij te komen. Geen vreemd principe gezien de prijs, maar wel een vervelend taakje. De fabrikant belooft een gebruikersduur van drie maanden, dus dit moet je zeker vier keer per jaar doen. Opladen duurt zes uur – dan is de deurbel dus ook zes uur buiten gebruik.

Wat deze deurbel echter zo interessant maakt, is het feit dat die beelden lokaal kunt opslaan. Je bent geen extra kosten kwijt aan één abonnement. In de deurbel zelf past een microSD-kaartje (tot 128 GB) waar die beelden op staan. Hoewel we offline opslaan toejuichen, is de kaart direct in de bel stoppen niet altijd handig. Want als iemand de bel steelt, dan ben je meteen dat kaartje kwijt. Maar aan de andere kant heb je zo ook geen extra kosten voor de aanschaf van een gong of basisstation.

©Wesley Akkerman

Koppeling met S380

Ons advies is dan ook: bevestig de Eufy Video Doorbell C30 stevig aan de muur, deur of het kozijn, om diefstal te voorkomen. Als je wilt, kun je het systeem ook zonder microSD-kaart gebruiken, aangezien je de C30 aan het S380-basisstation kunt koppelen. Dat station kost 139 euro en is daarmee flink duurder dan de deurbel. Maar als je al zo'n hub hebt of je bent voornemens meer met Eufy te doen, dan is die de investering dubbel en dwars waard.

Mocht je dat basisstation hebben of gaan kopen, dan ontgrendel je daarmee een aantal handige opties. Denk dan aan meer detectie- en herkenningsmogelijkheden, opslag tot 16 TB (voor alle gekoppelde camera's) en de gongfunctie. De S380 kan dan een geluidje afspelen op het moment dat er iemand aanbelt. Alleen deze integratie maakt de Eufy Video Doorbell C30 al ontzettend interessant, omdat je relatief veel functies voor een ontzettend laag bedrag in huis haalt.

©Wesley Akkerman

Met of zonde base?

Natuurlijk maakt de Eufy Video Doorbell C30 zelf ook lawaai zodra iemand op de bel drukt. Op je smartphone krijg je dan een simpele notificatie te zien. Als je daarop tikt, kom je uit in de app en krijg je een liveweergave te zien van degene die voor de deur staat. Met een full HD-resolutie en een duidelijke microfoon en speaker zie en hoor je alles heel goed wat er voor de deur gebeurt. Ook degene die aanbelt kan jou prettig verstaan. Hier hebben we dus weinig op aan te merken.

In vergelijking met duurdere bellen kunnen de beelden een beetje korrelig ogen, en ze missen wat detail. Maar je ziet duidelijk wie er voor de deur staat en of er bijvoorbeeld een pakketje ligt. Wanneer je de bel zonder Homebase S380 gebruikt, is die minder accuraat met bewegings- en detectiemiddelen dan je misschien zou willen, waardoor je nog weleens wat kunt missen of soms juist te veel notificaties krijgt. Met inzet van de base gaat het echter veel beter.

©Wesley Akkerman

Zaken om rekening mee te houden

Verder moet je er rekening mee houden dat dit niet de beste videodeurbel voor pakketherkenning is. Dat komt door de verticale kijkhoek van 140 graden. Die is niet hoog genoeg om de deurmat te zien liggen, waardoor veel pakketten onopgemerkt blijven. Daarnaast stelt de zoomfunctie niet veel voor. Je kunt technisch gezien zien wat er verderop gebeurt, maar echt met veel detail lukt dat niet. Gelukkig gebruik je zo'n functie niet al te vaak.

Ook overtuigt nachtvisie niet. Zodra er te weinig licht is, schakelt het systeem over naar een zwart-witmodus. In principe prima om de boel te checken, maar het komt de beeldkwaliteit niet ten goede. Maar goed, we zeggen het er nog even bij: dit apparaat kost nog geen 80 euro, dus we verwachten ook niet dat hij overal goed op scoort. Dit zijn echter wel aspecten waar Ring iets beter mee omgaat, maar dan moet je bereid zijn twee tientjes meer te betalen.

Eufy Video Doorbell C30 kopen?

Onderaan de streep doet de Eufy Video Doorbell C30 echter weinig fout om een aankoop in de weg te zitten. De laatste punten die we noemen, zaken om rekening mee te houden, scharen we daar niet onder. Maar geven we toch mee zodat je weet waar je aan begint. Wat de deurbel een beetje tegenwerkt is de manier van opladen en het feit dat je met de kijkhoek van 140 graden de mat niet in beeld kunt brengen. Daardoor kunnen pakketjes onopgemerkt blijven.

Maar verder is het gewoon een fijne, toegankelijke en goed bruikbare videodeurbel die voor 79 euro flink wat waarde aanbiedt. Je hebt bovendien géén abonnement nodig voor de opslag en kunt het systeem eventueel uitbreiden met of toevoegen aan de Homebase S380 van hetzelfde merk. Daarmee ontgrendel je flink wat extra, slimme mogelijkheden én heeft de deurbel een flinke troef in handen waar Ring momenteel alleen van kan dromen.