Wat is on-device AI en wat heb je eraan?
Je kunt er haast niet meer omheen: kunstmatige intelligentie. We komen AI (de Engelse afkorting van artificial intelligence) op heel veel plekken tegen. In de auto en op het web, zoals met ChatGPT of Google Bard. Maar ook op smartphones, in de vorm van on-device AI. Wat is dat?
Omdat on-device AI nogal een technisch verhaal kan opleveren, geven we in dit artikel een korte basiscursus over dat begrip. Zo weet je wat het is, en wat je eraan hebt. Na het lezen van dit artikel krijg je antwoord op de volgende vragen:
- Wat is on-device AI?
- Hoe werkt het?
- Wat heb je eraan?
Het is geen geheim dat een chatbot gebruiken nadelig kan uitpakken voor je privacy. Dergelijke producten maken gebruik van gigantische datasets, die allemaal opgeslagen zijn in de cloud. Alles wat je zegt, vraagt of stelt, komt in die cloud terecht. Daarom is het raadzaam geen persoonlijke informatie met dat soort diensten te delen, of de risico’s te minimaliseren. Dat kan door middel van alternatieve accounts, maar ook met zoiets als on-device AI. Dat is een term die refereert aan kunstmatige intelligentie die geheel draait op de hardware van een product.
On-device AI heeft geen wifi nodig
Alles wat een computer of smartphone dan doet op het moment dat je kunstmatige intelligentie gebruikt, wordt volledig lokaal verwerkt. Je hebt daar dus geen internet voor nodig en er gaan geen gegevens naar de cloud. Mocht je ooit twijfelen of een smartphone daadwerkelijk beschikt over on-device AI, dan kun je de internetverbinding uitschakelen en kijken of je nog steeds kunt doen wat je wilde doen. Is dat niet het geval, en is een internetverbinding dus verplicht, dan is er dus iets mis. In principe moeten alle AI-taken offline verricht kunnen worden door de opzet van de modellen.
©Koshiro
En met modellen doelen we op bestaande AI-modellen, zoals bekende spelers als Stable Diffusion, DALLE-E, Midjourney, ChatGPT en meer. Aanvankelijk worden ze getraind in de cloud, maar dan worden ze geoptimaliseerd voor offline gebruik. Ook worden ze geoptimaliseerd, zodat ze heel efficiënt kunnen draaien op beschikbare hardware. De geoptimaliseerde AI-modellen worden daarnaast opgenomen in allerlei apps en geïnstalleerd op bijvoorbeeld je smartphone. De data die de app dan genereert, en de gegevens die je daarvoor invoert, worden geïsoleerd in een beveiligde sectie.
Wat heb je aan on-device AI?
Voor het uitvoeren van de taken gebruikt de app zowel de grafische als normale processor. Daardoor blijven je interacties dus privé. Maar wat kun je dan precies met die AI-modellen? Nou, in principe alles wat je ook met andere AI-bots kunt doen. Zo kun je binnen enkele seconden zelf een afbeelding genereren via Stable Diffusion, die je vervolgens kunt gebruiken op je smartphone, computer of sociale media (maar in het laatste geval upload je de afbeelding dus handmatig naar het internet). Het genereren van zo’n afbeelding gebeurt lokaal en is verder dus afgeschermd van internet.
©Creative_Captain - stock.adobe.com
Een ander voorbeeld is dat stemassistenten geheel offline kunnen werken. Ze kunnen dan taken verrichten die geen internet behoeven of gepersonaliseerde ervaringen voorschotelen, op basis van data die je zelf achtergelaten of gegenereerd hebt. Zo kan een assistent rekenen houden met activiteiten die je leuk vindt of sportoefeningen waar je veel waarde aan hecht. Ook kan die omgaan met natuurlijke taal en helpen bij het bewerken van foto’s en video’s. Je zou dan kunnen vragen of de digitale hulp ‘die kat links op de foto’ kan verwijderen. En dan zou dat vervolgens gebeuren.
De mogelijkheden verschillen nu per app, dienst of assistent; houd daar rekening mee. Niet elk programma is hierin gelijk, waardoor je misschien lang moet zoeken naar hetgeen je nodig hebt.
Verder kan on-device AI een foto uitbreiden met een rand om een scene of gebeurtenis (dat kan met een recente versie van Photoshop, bijvoorbeeld). Ook kunnen de voor- en achtercamera’s van een smartphone gelijktijdig ingezet worden voor een leuk effect. Games kunnen uiteraard ook profiteren van kunstmatige intelligentie die volledig lokaal verwerkt wordt. Beelden kunnen opgeschaald worden (waardoor spellen er mooier uitzien) en er kunnen allerlei effecten toegevoegd worden. Denk dan aan ray tracing (voor realistische lichteffecten) en een hogere framerate.
Het grootste voordeel
Over het algemeen kan on-device AI de rol vervullen die jij wil. Op het gebied van audio kan kunstmatige intelligentie ervoor zorgen dat beeld en geluid altijd synchroon lopen, zodat je dat niet handmatig hoeft te doen tijdens het editen. En zo kunnen we even doorgaan. Het belangrijkste punt is dat je met on-device AI resultaten kunt boeken voor heel veel soorten taken, zonder dat je daarvoor het internet nodig hebt en je privacy in het geding komt. Aangezien smartphones en computers alleen maar beter en sneller worden, wordt on-device AI dat mettertijd ook.
Betaalbaar én goed!
De populairste smartphones tot 700 euro
Powered by Kieskeurig.nl
