Welkom bij AI Report, voorheen Pockie, de Nederlandse podcast over kunstmatige intelligentie waar we uitzoeken welke invloed AI heeft op ons werk, ons leven en de samenleving.
Deze week: OpenAI heeft Deep Research gelanceerd, een AI-systeem dat onderzoek doet op het niveau van een PhD-student, maar dan honderden keren sneller.
En stiekem betekent dat, dat we ook toegang hebben tot het krachtigste publieke AI-model ter wereld nu, o3. $200 per maand kost het. Ik heb het geprobeerd. Het is waanzinnig en we gaan het erover hebben.
En we staan op een kruispunt, want allemaal AI-bedrijven zijn bezig met AI-veiligheid deze week.
Meta houdt rekening met het moment dat ze de stekker moeten trekken uit geavanceerde AI-systemen op het moment dat de risico's te groot worden, en daar hebben ze nu procedures voor gemaakt.
Terwijl Google juist zijn beloftes over het niet gebruiken van AI voor oorlogsdoeleinden schrapt. En ondertussen bracht Anthropic een nieuw systeem uit om misbruik te verminderen.
We gaan het hebben over de complexe balans tussen vooruitgang en veiligheid. En een stukje Nederlands trots.
Deze week werd bekend dat de bewegende visuele vormgeving in de ChatGPT-app is gemaakt door een Rotterdams bedrijf. En toevallig hebben we de CEO in de studio omdat ze vanaf deze week hoofdsponsor van AI Report zijn.
Veel plezier! [muziek] Ik was dus dit weekend met mijn, uh, gezin in Barcelona. Mooi weer?
Uh, ja, mooier dan hier. Nice. En, uh, toen vroeg ik aan ChatGPT: wat, je kent me een beetje, komma, dat belangrijke- Ja, want jij hebt memory aanstaan. Ik heb memory aanstaan.
Dat ding, dat, uh, onthoudt allerlei dingen over mij en dat is echt in dit soort gevallen, reisadvies, want ik, ik wil dan natuurlijk weten: wat moet ik hier doen? En dan denk ik: ik ga het ChatGPT vragen.
Uhm, en als jij aan ChatGPT vraagt: wat moet ik doen in Barcelona? Dan gaat hij gewoon alle standaard dingen opsommen, dus dat is fucking saai. Dus het zinnetje: je kent me een beetje, komma, verandert alles.
Ja, niet no pressure, maar gewoon pressure. [lacht] Ja, beetje pressure erop.
En wat is het eerste waar dat ding mee komt van wat ik moet doen in Barcelona, is: in Barcelona, uh, Alexander, je, je bent geïnteresseerd in AI en bla, bla, bla. In Barcelona staat er een supercomputer in een kerk.
Eerlijk, dacht jij dat hij hallucineerde? Of dacht je: dit is real? Uuuh, nou, uh, uh, ik dacht wel: ik ga eventjes, want er, er stond, kijk, er stond bij: je kan niet zomaar langs, je moet een afspraak maken.
Toen dacht ik: dit is raar gedetailleerd voor iets wat hallucineren, voor hallucinatie is. Dus ik klik door naar die website, want een keurige bronvermelding erbij.
En inderdaad, ik kom op een saaie pagina van een universiteit in Barcelona, een technische universiteit, die dus een, ja, daar staat een kerk op de campus. Een kapel moet ik zeggen, op de campus.
Prachtige gotische kapel met glas in lood en gewoon alles wat je verwacht van een kapel in Spanje. En er staat een glazen, nou, je moet even googlen naar die plaatjes hoe dit eruit ziet.
Daar staat gewoon een glazen kist in het midden, uh, op een verhoging. Uuuhm, en dan kun je dus omheen lopen. En in die glazen kast staat op dit moment een quantumcomputer.
Dus ze zijn, er zijn er twee aan het neerzetten, een blauwe en een rode. En, uh, je ziet, je zag, ook toen, toen ik er was, uh, waren mensen aan het werken om dat ding op te bouwen.
Ze willen het aantal qubits vergroten de komende jaren. En de rest van de ruimte was leeg. Ik vind het op zich al vet dat er gewoon twee quantumcomputers staan.
Ik had nog nooit een quantumcomputer, laat staan in een kerk. Contrast tussen de kerk en de quantumcomputer. Is hysterisch natuurlijk. Echt, het is gewoon poëzie gewoon.
En ook een soort van, iedereen die commentaar heeft over Europa en AI kan niks, dacht ik echt: nou, di-dit beeld [beiden lachen], it beats- Meer van dit.
Ja, it beats, uh, fucking Elon Musk met zijn, uh- Lelijke datacenters. Met zijn lelijke dozen in, in de woestijn.
En, uh, dat werd helemaal interessant toen die gast, uh, ging vertellen, want het is een soort rondleiding die je dus kan krijgen. En by the way, dat kan dus iedereen doen.
Je kan ze gewoon- En je moest echt een afspraak maken. Ook dat klopt. Ja, maar ik had gewoon 's avonds gemaild met: hi, kan ik langskomen?
Krijg ik vijf minuten later een mailtje van een gast met een, uh, Android-telefoon, uh, althans, dat stond in zijn signature, uh, de, dat je, ja, hoor, ik kan morgen langskomen, geen probleem.
Er is al een andere groep, dan kun je meegaan. Dus allemaal, allemaal supermakkelijk. Echt een aanrader. En nu is dus de rest van die ruimte leeg.
Op foto's op Google, als je gaat zoeken, dan zie je gewoon serverracks staan, wat echt best wel vet, visueel vet contrast is natuurlijk. Maar deze zomer krijgen ze dus een hele bak H100's binnen, uh,
en staat daar, is dus letterlijk die kapel, aan het eind van dit jaar is dit een AI-supercomputer, een van de snelste van Europa, in een kapel. En ben jij wel eens bij, uh, Radio Kootwijk geweest?
In die, een soort van betonnen Duitse kerk, die midden in- Ja, ja, ja. Daar zijn ook plannen voor. Om daar een datacenter van te maken? Dik, hè? Ja. Maar waarom dan?
Ja, ik heb, ik moet zeggen, ik kreeg het artikel doorgestuurd. Ik zag alleen maar die foto. Er stond AI onder. Jij denkt gewoon: prima, doen.
Ja, nee, ik dacht echt: ik weet niet waarom, gewoon Radio Kootwijk, AI-cluster. Ik ben voor. [beiden lachen] Ja. Duimpje omhoog. Ja.
Goed, uh, in ieder geval voor, uh, luisteraars van deze podcast die, uh, misschien, uh, binnenkort naar Barcelona gaan. Ik zou zeggen: google Barcelona supercomputer en ga er langs. Het is echt fantastisch.
En als er iemand van TripAdvisor luistert: gecondoleerd. Oh ja, ja, dat was wel- Wow. Ik moet zeggen, want die andere, andere tips die hij allemaal gaf, allemaal zo leuk.
En dit is dus de tip: als je, uh, reisadvies wil, dan, heb memory aan en, uh, en, en zeg, uh, maak daar gebruik van.
Misschien zou ik moeten zeggen in een iets positievere toon: mocht er iemand van TripAdvisor luisteren, bekijk dit en bouw dat in de TripAdvisor-app. Schijt aan TripAdvisor. Oké, uuuh, we gaan, uh, wat nieuws doen.
Deze podcast heeft een nieuwe naam gekregen, zoals je weet: AI Report. Uh, en de artwork is ook te zien.In de player die je nu aan hebt staan denk ik.
Sam heeft dat net vervangen voor die glitchy content waar ik allemaal commentaar op kreeg. Positief commentaar. Is het stuk of is het de bedoeling? Het was de bedoeling. Ja,
wij danken de designers van Pankras die dit mooie werk hebben gemaakt. En, uh, we lanceren daarbij ook wat nieuws voor betalende abonnees van AI-Report. We gaan voortaan iedere maand een webinar houden over AI.
Normaal gesproken praten wij natuurlijk tegen jou, luisteraar, en heb je, kan je terugpraten, maar dat horen we niet, dus dat heeft niet zoveel zin.
En we krijgen veel verzoeken van mensen die zeggen: ja, Wytse, hoe doe je dat nou met Aider? Of wat voor prompts gebruik je nou? Of wat voor tools gebruik ik nou voor XYZ?
Uh, dat is te veel om via e-mail allemaal te beantwoorden. Dus daarom dachten wij: weet je wat, we gaan een maandelijks webinar doen waar wij, waar eigenlijk de luisteraar is aan zet.
Die mag praten en dan praten wij terug in plaats van andersom. En als je daar, de allereerste webinar is binnenkort. En als je daar meer over wil weten kun je naar AI-Report.email/webinar.
Ja, en als er nu mensen zijn die luisteren, denken: huh, betalen voor de podcast? Dat kon eerst helemaal niet. Dat kon al, maar je betaalde dan voor de nieuwsbrief. Dat is nu allemaal één.
Dus als Alexander zegt: betaal je voor AI-Report, dan bedoelen we dat. Dat is de, ja, de nieuwsbrief. Betaal nu en het heeft dezelfde naam. God, wat een synergievoordelen zijn eraan ontstaan. Geweldig!
Wytse Hage, ik moet jou een groot compliment maken, want zoals wel vaker is gebeurd, had jij het allemaal alweer gezien.
Het is volgens mij drie weken geleden dat jij in deze podcast zei: wat er gaat gebeuren is dat je tegen ChatGPT zegt: ga voor mij een onderzoeksrapport schrijven, dan ga ik slapen en dan word ik wakker en dan zit er een e-mail in je, in je mailbox met dat onderzoeksrapport erin en dat gaat supergoed zijn.
En dat, uh, dat gaan we natuurlijk krijgen. Het zal wel $200 per maand gaan kosten. Iets in die strekking, uh, zei jij hier. En wat, uh, gebeurde er afgelopen weekend?
OpenAI releasete Deep Research, een nieuw onderdeel van het $200 per maand pakket van ChatGPT. Maar dan heb je het ook. Dan heb je ook wel wat.
Een AI-systeem dat onderzoek kan doen met de diepgang van menselijk, menselijke experts op de snelheid van machines.
Eigenlijk komen hier een aantal dingen samen, namelijk, uh, reasoning modellen dus die, uhm, ja, in plaats van zoals traditionele chatbots werken.
Je typt iets, dan beginnen ze meteen woord voor woord te antwoorden zonder dat hij nou heel goed heeft nagedacht voordat hij antwoord geeft.
Uhm, begonnen die bedrijven allemaal chain of thought, uhm, uh, reasoning te doen, dus het, het, het denkproces eigenlijk in stapjes op te hakken, stap voor stap na te denken voordat hij antwoord gaf.
En dat maakte dat, uh, dit soort nieuwe reasoning modellen veel complexere problemen kunnen oplossen, uh, waarbij oudere chatbots vaak faalden, met name op het gebied van wiskunde en logica.
En dat maakt ook dat dit soort, uh, nieuwe modellen veel accurater zijn. En daar is nu Deep Research een, uh, een bijzonder geval van.
Want wat dit ding dus doet, is je kan een vraag schrijven: doe onderzoek naar X, uh, en dat kun je helemaal prompten zoals je dat wil. En dan gaat dat ding dus met, uh, gaat dat ding aan de slag.
Dat duurt dan vijf minuten of tien minuten of nog langer en dan krijg je aan het eind van die rit een volledig overzicht terug met feitelijke informatie uit, en dat is heel belangrijk, goede bronnen.
Uh, en dat is nu, dat is nu live. Wat, wat vind je ervan, Wytse? Nou, ik denk voor de, voor de luisterars die op hun werk alleen Copilot mogen gebruiken van Microsoft.
Als je dit gebruikt, dat voelt een beetje als een paard en wagen naar een elektrische auto.
Omdat, uh, het commentaar wat ik veel krijg van mensen die dus op werk enkel binnen Copilot zitten is: ja, het hallucineert, het kan de dingen niet die ik wil, et cetera. Het is inmiddels echt de associatie met AI.
Het ding verzint shit. Ja, dus terwijl, uhm, hier gebeuren een aantal dingen. Je zei het net al, uh, ten eerste is het een reasoning model. O3 in dit geval, niet O3 Mini, maar de real deal.
Het is eigenlijk de enige manier om nu toegang te krijgen tot O3. Daarnaast is er heel veel grounding, zoals dat heet. Dus er zit, uh, context bij waardoor het model gegrond wordt.
En dat gronden vindt plaats door websearch. Tot nu toe konden de OpenAI reasoning models als O1 en O1 Mini en O3 Mini niet het internet op. Dat was nog niet. Dat konden alleen de oude GPT-modellen.
Dus we hebben nu en O3, the real deal, plus die kan het internet op. Plus, en dat is ook belangrijk, dit soort systemen zijn niet enkel wrappertjes, hè, dus stukjes software over een bestaand model heen.
Nee, OpenAI en ook alle andere frontier labs trainen hier ook nog specifieke research capabilities in. Hè, dus het is niet alleen maar een softwarelaagje, maar ook iets wat specifiek gemaakt is.
En het is zo, dat is waarom het in die $200 tier zit. Niet om hem recht te praten wat het kost, maar O3 is heel erg duur. Duur als in energie, dus, uh, dollars.
Uhm, ze, ze, ze zeggen verlies te maken op dit deep research ding nu. Daar moeten we maar even zelf op geloven.
Maar je moet je voorstellen dat omdat hij echt lang aan de gang gaat en dus heel veel compute krijgt tijdens influence, oftewel heel veel computerkracht tijdens het nadenken voor jou als gebruiker.
Die computerkra-kracht kost geld en die tijd kost daardoor, uh, ook geld. Zijn het best wel dure rapportjes die je kan laten maken, maar wel hele goede rapporten.
Ja, ja, ik zag een voorbeeld van econoom Tyler Cowen, die tien papers had laten schrijven door, uh, door Deep Research, uh, economische papers. En hij zei: stuk voor stuk waren ze uitstekend.
Uh, ik citeer: "De kwaliteit was vergelijkbaar met bekwame onderzoeksassistenten op PhD-niveau, uh, die je zo'n zelfde opdracht had gegeven en die normaal gesproken één of twee weken, uh, bezig zouden zijn met het afleveren van een paper of zelfs langer.
En dit ding doet het binnen vijf minuten. Hij lijkt geen fouten te maken. Het systeem lijkt vrijwel ieder onderwerp te kunnen behandelen," zegt Cowen.
Uh, zo vroeg hij bijvoorbeeld om een paper van tien pagina's over Ricardo's rentetheorie. Nou, die kan ik ook dromen, dus dat is ver- Wie niet? Ja, wie niet?
Uh, hij zei: "Naar vergelijking met diverse bronnen bleek deze versie beter te zijn en nu gebruik ik hem voor mijn vak over geschiedenis van economisch denken," [lacht] schrijft ie, gebruikt ie nu deze door OpenAI geschreven paper.
In dat opzicht is het wel goed. Kijk, wij hebben allebei geen toegang. Ik heb toegang, Wytse.Echt waar? Ik heb het gewoon gedaan. Zit jij in deep research? Ik heb het gewoon gedaan.
Voordat je gaat vertellen, want dan ga ik jou nu vragen stellen. Teas ik inderdaad even. Voordat je gaat vertellen. Straks in deze podcast. [lacht] Alexander Kluge over deep research. Heel goed.
Ik, uh, wat ik begreep als Pauper die geen [beiden lachen] Ja, zit je met je Chinese modelletje te klooien, hè? Lekker grabbelen. R1 is gewoon traag op mijn Mac mini. Oké, ik heb dagen nodig dat hij antwoord geeft.
Ja, succes. Maar in ieder geval, uh, wat ik heb begrepen uit de, uh, mensen die toegang hebben, is, uh, er zitten wat mensen bij, die hebben expres eigenlijk hun eigen research gerepliceerd. Dus wat doe je?
Je hebt hetzelfde 10 jaar onderzoek gedaan. Als wetenschapper bedoel je. Ja, en dan ga je gewoon zeggen: wat als ik dit toen had? Wat, hoe zou het dan-- kan ik het vergelijken met wat ik tot nu toe heb gevonden?
Dat is gewoon een, een soort, uh, n, n is één anekdote benchmark, maar ik denk dat dat relatief interessant is. Uhm, daar komt wel uit: er wordt nog wel gehallucineerd.
Even voor de luisteraar die denkt: is het hallucinatieprobleem opgelost? Nee. Wordt er veel minder gehallucineerd? Ja, want je kunt grond meegeven, hè, grounding. Hij is gegrond.
Hij heeft, uh- Je bedoelt, dat is, hij gaat zoeken op internet bij bronnen waarvan dat ding denkt dat ze autoriteit hebben. Dus dat is wel echt tegengesteld aan bijvoorbeeld Perplexity.
Wat nog steeds regelmatig, als je dan gaat kijken wat de bronnen zijn, denk je: ja, oké, ik ga het even zelf even doen deze research. Doet, uh, doet deep research dat echt veel beter?
Ja, en ik denk dat, de, er is echt wel een grote, uhm, misvatting waar ik vaak tegenaan loop als het gaat om taalmodellen, is dat taalmo-taalmodellen worden gezien als een soort feitenmachine zoals Google dat kan zijn.
Ik doe even air quotes, maar, hè, als je op Google iets zoekt, dan ben je op zoek naar feiten in een soort online bibliotheek.
En als je diezelfde feitenvraag gaat stellen aan taalmodellen, dan wordt daar vaak gehallucineerd en daardoor, uh, hebben mensen er weinig vertrouwen in en geloven ze ook dat die resolutie niet zo groo-- revolutie niet zo groot is als wij dat steeds roepen iedere week.
Ja. Maar het zijn patronenmachines. Het zijn, uh, voorspelmachines.
En, uhm, een metafoor die daarbij zou kunnen helpen is dat, je kunt een pianist hebben die, uh, ieder stuk dat je die pianist geeft, uh, aan bladmuziek kan spelen.
Dus dat is iemand die heeft ontzettend lang piano gespeeld en intuïtie ontwikkeld voor pianospel, maar kent geen muziekstuk uit zijn of haar hoofd.
Alleen als jij een Beethoven of een Bach geeft op papier, dan wordt het gespeeld. En goed ook. Of je hebt een pianist die ook nog uit zijn of haar hoofd, uh, enorme stukken van Bach kan spelen, hè.
Dus er zit niet alleen maar aanleg, intuïtie en kunde, maar ook feitenkennis. Uhm, ik denk dat deze modellen zijn gigantisch goede pianisten.
Die geen, die, eigenlijk moet je ervan uitgaan, geen muziek uit hun hoofd kennen. Die moet jij erbij geven. Ik denk ook dat dat nu een beetje is waar de AI-taalmodellenwereld naartoe ontwikkelt.
Met dingen als NotebookLM, Deep Research, is dat je een krachtig patroonmodel hebt die weinig feitenkennis, waar weinig feitenkennis van verwacht wordt, die geaugment wordt door, zoals dat dan heet, grounding.
Het internet. Het internet bijvoorbeeld, hè. Dus dat is het wereldbolletje in GPT-4 ook aan de onderkant, maar nu ook met Deep Research.
De reasoning models die én, uh, beter zijn in hun werk of hun taak doordat ze hun eigen logica kunnen controleren en huiswerk en toegang hebben tot allerlei databases aan big data, uh, om zichzelf te augmenten.
En daardoor in dat nieuwe ensemble wat we nu hebben, dus plus reasoning, plus grounding, kom je op iets zo magisch als deep research waar jij dus gebruik van gemaakt hebt. Ja.
Nee, dank voor deze brug, maar toch nog even. Ethan Mollick las ik erover. Die zei: de kwaliteit van bronvermeldingen betekent een wezenlijke vooruitgang.
Dit zijn ge-geen, dit zijn, hij zegt, ik vind dat best opvallend wat jij zegt, want jij zegt: het hallucineert nog steeds.
Maar als er één ding is waar, waar, uh, zowel Mollick als, of, als Cowan over praten, is: eindelijk is het betrouwbaar. Ja, dat is dus niet-- ik kan meteen het voorbeeld ook geven waar dit over ging.
Het gaat erover: er worden allerlei bronnen erbij gehaald. Die bronnen zijn waar. Documenten worden gelezen. Die worden echt gelezen in die research papers. Want dit was iemand die ging een PhD-onderzoek nadoen.
Van zichzelf? Ja. Er zaten allerlei, ja, daar kan je, en dan ben je, ik bedoel, hoe scherp wil je zijn? Ja, dan weet je het wel. En, uh, er zaten wat nuances in de grafieken.
Het ging over hoeveel procent X en hoeveel procent Y in een leesbare tabel. Niet een of andere complexe matrix, gewoon een tabel. Mhmm. En wat het model ging doen, O3, is gewoon die getallen allemaal door elkaar halen.
Mhmm. En toen, toen zei hij: ja, met alle respect, ik bouw mijn hele argument op die getallen. Die getallen gaan helemaal door de war hier. En dat heeft hij gezegd tegen, tegen Deep Research, uh, ja. Doe even normaal.
Oh ja, sorry. En toen ging het weer goed. Ja. Maar wat nou als hij er niet bij was? Nou ja, dat. Ja. Nou, dat is dus ook wat Mollick zegt.
Hij zegt: experts en adviesbureaus staan natuurlijk onder druk, want dit soort papers, weet je, het is nu wetenschappelijke papers, maar het is een klein stapje naar, weet je, een gemiddelde McKinsey-paper die een overzicht geeft van een markt.
Ik noem maar wat. Jij bent- Ik bedoel, als jij een bedrijf bent waar je deliverable pdf's zijn die je aan je klant oplevert. Ga even een rondje lopen buiten mijn kantoor halen, want het gaat hard.
Ja, maar hij zegt, dus Mollick zegt hierover: die adviesbureaus of dit soort experts die dus dit doen, pdf's opleveren, uh, die verdwijnen niet.
Hun oordeel wordt juist steeds belangrijker nu hun rol verschuift van het uitvoeren van werk naar het aansturen en valideren van het werk van AI-systemen. En dat sla-dat sluit weer aan op wat jij, uhm, wat jij zegt.
Klopt heel erg. Dat dat echt nodig is. Maar tegelijkertijd is dus de, de kwaliteit van de bronvermeldingen wel een wezenlijke vooruitgang in de manier waarop we dit soort, uh, systemen kunnen gebruiken.
Want het zijn geen, uh, zegt Mollick, geen gebruikelijke AI-hallucinaties of verkeerd geciteerde papers over het algemeen, maar legitieme academische bronnen van hoog niveau.
En voor het eerst vat AI-onderzoek niet alleen samen, ik vind het een belangrijk punt, vat niet alleen samen, maar het gaat er actief mee aan de slag op een niveau dat daadwerkelijk in de buurt komt van menselijk wetenschappelijk werk.
En dat is niet- En datzelfde sentiment, uh, komt Cowan ook mee.
Soort van: dit is, dit is gewoon, uh, bij, in gevallen, hij heeft er dus 10 laten schrijven, beter dan het stuk, dan het spul wat door mensen is geschreven na twee weken.
Ja, nee, maar ik denk dat, dat mijn paard-en-wagen versus elektrische auto, die zeg ik bewust, dat is een hele grote stap, hè, tussen een paard-en-wagen en een elektrische auto.
Dat een ongegronde non-reasoningUh gestript model zoals in Copilot zit, waar de meeste van onze luisteraars toch iedere dag mee te maken hebben versus een reasoning model.
Ook nog eens premium reasoning model van OpenAI, gegrond in research. Dat gat daartussen is gigantisch, ook al is het maar 12 maanden. Ja, ja, ja, ja, ja.
Kahn voegt nog toe: ik zie op dit moment geen tekenen van originaliteit, uh, dus dat is nog een- Ja, dit is ook waar Dennis Hassabis van DeepMind op zit. Hij zegt: het enige waar ik dag en nacht mee bezig ben is novelty.
Gaat ie een keer tegen mij zeggen: heb je hier al naar gekeken, Dennis? En dan kan je daarmee. En dat hij dan zegt: dat zou voor mij, uh, het volgende existentiële moment zijn.
Ja, hij zegt ook: het werk toont ook aan dat het model in staat is tot langetermijnplanning, wat toepasbaar zal zijn in zeer uiteenlopende contexten en vraagstukken.
Dit is een van de belangrijkste ontwikkelingen van deze release. Wat bedoelt hij daarmee, langetermijnplanning?
Nou, dat je uiteindelijk, uhm, want die modellen zijn nu reactief en die willen after the fact think fast doen. Dus als jij gaat praten dan komt er snel een antwoord terug over het algemeen.
Die reasoning models gaan nog even wat huiswerk doen, hè. Bij DeepSeek R1 kan je leuk meelezen hoe dat interne, uh, g-gedachte proces gaat. Fascinerend.
Uh, hierbij ga je zeggen: ja, ik kom over een uur bij je terug of over 10 uur bij je terug. Of, uh, ik ga andere experts inschakelen.
Uiteindelijk, doordat je van een, uh, real time interactie naar een delayed interactie gaat of een background, hoe je het wil noemen, hè, het wordt een taak ergens neergelegd, ontstaan er veel meer mogelijkheden.
Om, om een concreet voorbeeld te geven. Je hebt best wel wat home labbers. Dat zijn mensen die thuis dingen willen draaien. En AI is daar nu ook onderdeel van geworden, die nu druk zijn met R1 van DeepSeek thuis draaien.
Ik hou dat heel erg in de gaten, want ik wil dat ook. Ja. Uhm, nu las ik een, uh, uh, blog van iemand die zei: ja, ik draai R1 nu thuis. Mijn budget was € 3.000 en het draait en ik dacht: no way.
Als dit zo was had ik het geweten. Qua hardware bedoel je? Ja. En toen, toen zei hij: ja, het is wel 0,1 token per seconde. Dus even voor jouw beeld, uh, mensen kunnen ongeveer op zeven tokens per seconde lezen.
Dus hoe snel die tekst terugkomt als jij het meeleest. Oké. En bij hem is het gewoon lettergrepen komen terug in vijf seconden. En dus reageerde iemand van: ja, sorry, dit is gewoon useless. Hij zei: hoezo?
Ik stuur gewoon een mail. Ja, ja, ja, je moet het er niet mee vergelijken met een soort van streaming die- Hij zei: ik ver-- gebruik nu mijn lokale R1 als iets waar ik mee e-mail en niet instant messenger.
En dat was voor mij zo ping, dat ik dacht: ja, ik, misschien ga ik dit toch ook wel vast doen, want ik heb wel wat vragen waar ik prima twee dagen op kan wachten. Ja. Ja.
Nou, je kan dus ook € 200 per maand betalen bij iets en dan heb je het ook. Wel snel [beiden lachen]. Jij wel. En ik heb dat inderdaad gedaan.
Ik dacht: ik kan het toch niet laten, want er zijn een hoop, uh, dingetjes, uh, waar, w-w, zeg maar, er was eigenlijk weinig wat ik dacht: dit maakt die € 200 per maand waard, uh, hoe OpenAI het pakketje aanbiedt, maar hier dacht ik toch: hmm, oké, toch een maandje proberen.
En ik ben toch wel echt van mijn stoel gevallen moet ik zeggen.
Want de, zeg maar, wat het dus heel goed kan, is bijvoorbeeld op het moment van opnemen speelt, uh, de mondkapjesaffaire in de, in de, in de rechtszaal en je kan dus aan dat ding, ik dacht, wat ik best wel grappig zou vinden is of die mondkapjesaffaire in een soort van historische context wil zetten.
Dus ik had hem, ik had gevraagd aan dat ding: kun je, want je kan er dus 100 laten ople-opleveren per maand. Ik dacht: ik ga één van de 100 opgeven voor Siebeert.
Kun je een soort van historische context schetsen over de mondkapjesaffaire.
En het is serieus alsof je een soort van zaterdagartikel in de Volkskrant zit te lezen, waarbij een journalist helemaal los is gegaan op de archieven en, uh, een soort van parallellen vindt met tulpenmanie.
En, uh, [lacht] echt allemaal gekke shit, uh, met keurige bronnen erbij, uhm, en een tijdlijn van hoe ook alweer, hoe ook alweer deze hele affaire in elkaar zit. Echt heel leuk om te lezen. En ik dacht: de,
zeg maar, ik las het ook echt met plezier. Dat viel me ook echt op. Ja. Dus de manier waarop dat ding, uh, schrijft is gewoon fijn om te lezen. En ik denk ook de hele tijd: het is geen bullshit wat hier staat.
Wat, waar, waar ik normaal gewend ben van AI-stemmen, dat je aan het lezen bent en dat je altijd in je achterhoofd hebt: hmm, ja, oké, nou, het zal.
Ik, ik lees alles met wantrouwen, dus, uh, en dat had ik hier g-gewoon veel minder.
En daarnaast komt hij met allemaal, ondanks dat het toegankelijk geschreven is, komt hij met allemaal concepten die ik helemaal niet ken. Die, die dan vervolgens ook uitlegt waarom dat te maken heeft met Siebeert.
En het is gewoon een heel leuke kapstok om erg een verhaal in te duiken. Het is echt gewend hoe ik, het heeft de ervaring van YouTube.
Weet je wel dat je door het algoritme opeens heel geïnteresseerd kan raken in, weet ik veel, hoe megadammen gebouwd worden. Ja, ik weet niet, dit is mijn vrijdagavond, uh, hoe- Nee, maar het is, uh.
Het is dat, maar dan tekst. Ja, want ik heb, ik heb wat vrienden van mij, die belanden dan steeds in van die Wikipedia black holes noemen ze dat. Ja, precies. Dus dan sturen ze mij de dag erna: ik heb niet geslapen. Ja.
Uh. Het is dat, maar dan, uh, niet één lemma, maar het lemma kan je helemaal zelf bedenken. Dat is de ervaring.
En ik denk dat wat nu nog mist, al zit dat misschien al wel in Canvas van OpenAI, maar nog niet in Deep Research Canvas van OpenAI, is dat je eigenlijk de hele graph, hè, dus eigenlijk de nodes met de lijnen ertussen en dat je daar in een soort van conceptueel universum doorheen kan vliegen, want dan zijn we jou echt kwijt.
Ja. Ja, klopt. Want nu is het, nu is het resultaat is nog tekst met r-referenties, toch? Klopt. Uh, al zou je wel aan het einde kunnen zeggen: en, en nu, nu we klaar zijn, maak hier een artikel van. Sure. Hè, no worries.
Het is een LLM, dus gaan. Ja, en ik zag dat, uh, ByteDance een, uh, een nieuw, uhm, ding heeft uitgebracht die, als ik het goed begrijp, zowel video als audio genereert.
Uh, het wordt in de Amerikaanse pers geframed als de next level in deepfakes, waarbij een demo die op Twitter circuleerde een mevrouw was die een TED Talk geeft en waarbij echt het niet van echt te onderscheiden is.
Die staat, en zij spreekt natuurlijk in het Engels, uh, staat ze over, zoals TED Talk mensen over een concept aan het praten zijn en qua beeld, de hele cameravoering is hetzelfde als een TED Talk.
Heel, gewoon, het mens is niet van echt te onderscheiden. Gewoon als je tegen mij had gezegd: dit is een fragment uit een echte TED Talk, had ik je niet kunnen zeggen.
Nou ja, dat met dit als basis, dat lijkt me best wel chill. Maar goed, het is alsnog twee stapjes. Ik dacht dus ook: kan ik deze podcast voorbereiden met, uh, Deep Research natuurlijk.
Want ik dacht: kun je niet eventjes, uh, een soort van het nieuwsblok van maken? Hoef ik dat niet te doen, want dat zit ik normaal gesproken zelf te doen.
Ik zit natuurlijk ook te wachten op het moment dat ik overbodig word gemaakt, maar de eerste stap is dat het nieuwsblok door de AI geschreven wordt in plaats van door mij.
EnDus ik vroeg aan het ding: nou, is het nieuws van afgelopen week? En omdat je kan zien, er zit een soort zijbalk, uh, die noemen ze activity, waar je kan zien waar hij op aan het googlen is.
Ja, waar hij zichzelf aan het gronden is eigenlijk, hè. Precies. En waar zoekt dat ding op? Als ik zeg: wat is er gebeurd in AI nieuws, uh, deze week? Dan zie je hem zoeken naar Apple AI News January 2025 The Verge.
Dat ik echt denk: gast, dit is niet hoe Google werkt. Uuuh, en daarnaast, ik vraag het van afgelopen week en niet van januari.
Dus hij kwam met allemaal dingen terug die in januari gebeurd zijn in plaats van de afgelopen week. Toen was ik teleurgesteld, uh, dus toen dacht ik: oké, ik ga het iets anders aanpakken.
Ik ga hem vertellen waar, waar, waar ik het over wil gaan hebben en, uh, dan wil ik dat hij daar, uh, context bij geeft.
Nou, dat blijkt dus heel goed te werken, want de eerste stap die hij, uh, vraagt, dus, is, uh, specificeren.
Dus hij zei: wil je, bev, uit, dus ik vraag, uh, uh, d-doe me iets over, uhm, deze en deze en deze onderwerpen, uhm, en daar meer context bij. Het eerste wat hij doet is allerlei detaillerende vragen stellen.
Dus wil je, hij vroeg: wil je dat het onderzoek zich beperkt tot AI nieuws uit een specifieke regio, bijvoorbeeld wereldwijd of Amerika, het VS?
Wil je dat het specifieke bronnen prioriteert, zoals academische publicaties of grote techmedia zoals The Verge, Wired en MIT Tech Review?
Wil je dat uitgebreide research in een apart document wordt geleverd of gewoon als hoofdoutput? Laat het me weten, dan maak ik je draaiboek.
[lacht] vond ik echt wel heel intens, uh, en dat was vervolgens best wel, uh, dat werkte dus gewoon.
Dus ik, hij heeft een ding geschreven voor mij over de, de geschiedenis van AI veiligheidsbeleid, want daar gaat het nieuws over waar we het dadelijk over gaan hebben.
En dan krijg je dus een ov-, een historisch overzicht sinds 2016 dat IBM nota bene en Microsoft en, uh, ook wel Google en Amazon en op dat moment nog Facebook, een, een partnership om AI oprichtte, een conferentie organiseerde om het over beneficial intelligence te hebben.
Maar jouw journalistenhart, die gaat gewoon harder kloppen dat je denkt: maar dit is wat we doen. Deze soort van tijdlijn, uh, met de hoeveelheid, uh, context die erbij getrokken wordt.
En dan vervolgens academisch onderzoek naar AI-risico's. En dan ingedeeld in allerlei overkoepelende categorieën, waardoor je een beetje soort van door, uh, de bos de bomen kan zien staan. En dan gewoon linkjes naar.
Maar zeg jij nu eigenlijk dat de mensen die, die luisteren en dit soort werk doen, hè, of het nou researchrapporten zijn voor adviezen aan overheid, lokaal versus journalistiek. Gooi nou even die $200 erin, één maand.
Ja. En doe het gewoon even. Ja, doe het met een onderwerp wat je echt interessant vindt. Ja. Maak het dan vet specifiek, uh, en, uh, en, en geef iets mee van wat je verwacht.
Dus bijvoorbeeld in dit geval vroeg ik naar concrete voorbeelden en dan kwam hij met Microsoft Taste chatbot. Dat was een chatbot van Microsoft in 2016. Die was fucking racistisch. [lacht] dat was ik alweer vergeten.
Ja, het was echt heftig. Het was een soort, uh, Twitternazi. Dat was echt een nazi, ja. Dat is een Microsoftnazi.
En, uh, uh, Ubers zelfrijdende auto's waar we natuurlijk gedoe mee hebben gehad en de hele hype rond, rond desinformatie, uh, weer geduid in de tijd en, dus de, de breedte ervan en de voorbeelden di-waar hij mee kan komen is gewoon heel, uh, heel leuk.
Weet je wat ik echt he-heel erg grappig vind om te merken, is dat als jij dit zo aan mij zit te vertellen, voelt echt alsof je een soort griet Tietelaar bent die een computer uitlegt aan een, aan een journalist of zo.
Ja. Van, van: kijk, als ik dan hier typ, ga ik het wereldwijde web op. Nee, maar ik bedoel niet om het belachelijk te maken, hè, want het is even revolutionair. Ja. Maar er zit een beetje die, uh, zelfde:
kijk, dit, dit is hoe jouw werk dan gaat zijn in Daan. Ja, zou ik ook aanmoedigen om, ik bedoel, desnoods wacht je even tot Anthropic het soortgelijke doet, hoor.
Maar ik zou wel echt mensen aanraden om een maandje af te sluiten en dan mee-meteen het maandje annuleren. Dat doe ik ook altijd. [lacht] en dan die dagen- Nee, zeker. Ja, het is gewoon €200 betalen voor een witte proef.
Zie het als een, uh, cursus, uh, om erachter te komen hoe gaaf deze tools zijn. Ja, want dit, hier wordt toch wel, uh, weer veel van de, uh, bokjes afgecheckt waar wij het, uh, wekelijks over hebben.
En ik denk ook, uh, uh, we, j-, als je zegt: oké, 72% van wat je aan GPT-4 vraagt zonder websearch is te vertrouwen en die andere, uh, 28% is, uh, hallucinatie.
Die 28% wordt gewoon kleiner en kleiner en kleiner en kleiner. Nou, mijn mening is, is dat ik aan de hand van wat ik lees, zie dat er nog twee, drie procent hallucinaties gebeuren.
Zeker op diepe korreltjes, feitjes, kleine details. Maar goed, ook dat lijkt me niet onoplosbaar.
Dat is voor mij een kwestie van, uh, het verder doortweaken en ook aan de kant van OpenAI, OpenAI meekijken, want dat doen ze, uh, als je er niet voor opthoudt, van: uh, hé, inderdaad, er gingen wat getallen door de war.
Kunnen we dat nog fixen? Nou, en als je het over die grounding hebt, dan gaat het dus ook over het intellectueel eigendom regelen.
Want wat je dus nu merkt is dat hij, hij, je hebt alleen maar toegang, die grounding kan alleen maar ontstaan als er toegang is tot die informatie. Ja.
En dat kan bij wetenschappelijke papers kan het zo zijn dat er een pdf online staat. Dat gebeurt natuurlijk in een groot deel van de gevallen, maar ook een heel groot deel van de gevallen zit achter een paywall.
En helemaal als je het dus gebruikt voor zoals ik, gebrui-, kijk, ik gebruik het niet om wetenschappelijke papers te schrijven, interesseert mij dat.
Maar het gaat mij er veel meer om deze technologie te gebruiken om, weet je, vertel m-, precies wat jij zegt, zo'n Wikipedia, uh, nightly, uh, nightly dive, rabbit hole. Dat wil ik emuleren hiermee.
Over onderwerpen die ik interessant vind en dan dingen aan elkaar verbinden waar echt niemand ooit op aarde een lemma over heeft geschreven. Maar ja, hij kan niet bij de Volkskrant.
Hij kan niet bij al die websites waar ik eigenlijk context vandaan wil hebben over Nederlandse politiek of wat dan ook, uhm, omdat OpenAI geweerd wordt van die websites. Ja.
En dit is wel echt een, weet je, dit, ik, ik kan me helemaal voorstellen hoe vet dit is als je toegang hebt tot boeken, als dat ding toegang heeft tot, uh. We hebben, we hebben het eerder gezegd, hè.
Ik bedoel, het was mijn Blendle-grapje, maar in ieder geval micropayments voor auteurs. Dit moet er komen. Want dit is het. Dit is het dingetje. En al is het maar 0,0000001 cent. Precies.
It adds up, zeg maar, als, uh, mensen deze tool gebruiken. Nou, en het archief is opeens waardevol. Waar, laten we wel wezen, DPG echt geen geld aan verdient nu. Uh, als je het over grote uitgevers hebt.
Het archief is helemaal niks waard op dit moment, want dat, dat monetize op geen enkele manier. Uh, misschien wat banners erbij, maar dat, nou. Aha.
Uh, en dit is opeens, weet je, ik zou z-, uh, regel het, uh, zeg ik als consument van informatie, want my god, dit is zo'n vette manier.
Ja, misschien, misschien wel letterlijk, hè, dat, dat, dat, uh, die research assistant tegen jou zegt van: ja, ik weet tot welke database ik toegang wil. Ja. En dan een pop-up omhoog. Ik schat ongeveer €0,28 cent aan.
Geen grap. Ja, het gaat weer Blendle over. Ja, en dan, uh, is goed.
Goed, maar het ging dus, ik heb dus een ding laten schrijven over, uh, AI-veiligheid en dat kwam omdat er best wel veel nieuws deze week is op het gebied van AI-veiligheid.
Zo kwam Anthropic met een paper uit waarin zij, uh, uh, blijk-, uh, zij hebben onderzocht een nieuwe technolo, een nieuwe techniek om te voorkomen dat gebruikers kwaad kunnen doen met AI-systemen.
Er is namelijk groeiende bezorgdheid over jailbreaking, pogingen om AI-modellen te manipuleren tot het genereren van, uh, ja, output die wij als gevaarlijk beschouwen, zoals instructies voor het maken van chemische wapens.
Be-ben jij nu een sockpuppet voor O3?Ben ik een shock puppet voor O3? Ja. Nee.
Wat ik hier heb gedaan is een artikelen die ik zelf heb gelezen en die mijn eigen brein van constateerde dat het goede artikelen waren, heb ik met AI herschreven tot pokie draaiboek tekst. Dat is wat hier is gebeurd.
Met Claude ook nog erbij? Of die heb je losgelaten. Nee, het is Claude. Wat je nu hoort is Claude. Goed, dat is wel heel erg. Het voelt. Het voelt.
Voelt een beetje taboe dit om dit zo zo te zeggen, maar dat is hoe ik het gedaan heb. Het nieuwe systeem heet Constitutional Classifiers en het werkt als een soort van beschermde laag boven op grote taalmodellen.
Het gevolg daarvan is dat de compute van, uh, van, uh, soort van, uh, de, ja, wat je, wat je, wat je nodig hebt, wat, wat, wat nodig is om een prompt, uh, te verwerken tot output gaat met 24% omhoog, dus het is een stuk duurder om dezelfde technologie te gebruiken.
Maar het voordeel ervan is dat het heel goed is in allerlei jailbreaking technieken onder de, ja, eronder te krijgen.
Dus als mensen vragen om, uh, dingen te doen waar het systeem van constateert constateert dit is misbruik, dan weert het systeem dat in meer van 95% van de gevallen af.
En dat is- Dus kan ik heel even concreet maken, want mensen vragen mij vaak: oké, wat? Dat jailbreak, waar moeten we bang voor zijn dan? Ja, ja. Nou, je zou kunnen zeggen: uhm, ik wil een ticket voor Bon Jovi.
Ik heb een agent operator van OpenAI en ik, de opdracht is gewoon: regel mij die tickets. Ja. Whatever. Whatever it takes. En dat kan. Ik ga even slapen. Ja.
[lacht] En dan word je wakker en dan is het, uh, hoofdkantoor Ticketmaster. In de fik gezet. [lacht] Weet je, ik bedoel. Iemand omgelegd.
Ja, een open, een open vraag aan zo'n model die toegang heeft tot allerlei diensten. Whatever it takes, dat, uh. Die mag je er nooit bij typen. Nee. Maar ook deze systemen gaan ervoor zorgen.
Whatever it takes, dat mag je niet accepteren. Jij hebt een scope waarbinnen je mag opereren. Juist. Je mag drie keer proberen het kaartje te kopen om 10.15 uur en dan is het klaar.
Nou, ze hebben dus een soort van grondwet geschreven, uh, met regels die bepaalt wat wel en niet is toegestaan.
En dit systeem slaagt er dus in om dat, uhm, ja, om, dat, dat, dat systeem zich blijft gedragen, ook als de gebruiker het probeert te manipuleren.
Anthropic heeft dus, best wel grappig, een soort playground gemaakt waar je zelf kunt proberen om de beveiliging te kraken. Dus iets voor jou, Wytse, als je een keer niks te doen hebt. Klinkt goed.
Er zijn acht levels van beveiliging en, uh, 24 uur nadat ze deze playground geopend hadden, waren slechts de eerste drie niveaus gekraakt. Dus. Krijg je dan ook een baan aan het einde? Ja, goeie. Ja, is leuk.
Leuke recruiting. Nou, ik heb begrepen dat je niet bij Anthropic mag solliciteren door gebruik te maken van AI tooling. Dat was deze week een beetje nieuws. Wauw.
Zij hebben nu gezegd, zeg maar in hun voorwaarden voor: wil je bij ons komen werken? Je moet niet AI tooling gebruiken om bij ons te komen werken. We willen dat je het zelf schrijft. Het is natuurlijk heel ironisch. Ja.
Maar ergens ook logisch, want blijkbaar zijn ze gewoon wel echt op zoek naar, uh, ja, wat kan jij zelf nog zonder die tooling? Ja. Ja.
Of op zoek naar een manier dat zij niet kunnen weten dat je die tooling gebruikt en daarom word je aangenomen. Ja, precies. Ja, dat is dan, dan kijken we wel even wie het laatst lacht.
Anthropic zegt overigens dat ze het systeem nog niet gaan gebruiken in de huidige Claude modellen. Het is dus ook hartstikke duur, maar dat ze het a-achter de hand houdt voor toekomstige, mogelijk risicovollere modellen.
De grote les uit dit werk is dat we denken dat dit een beheersbaar probleem is, zeggen zij.
En dit is natuurlijk ook, dit is, uh, Jan Leike, die overgestapt is van OpenAI omdat er ruzie was over de mate waarin OpenAI bereid is om dat extra geld, die compute, te betalen voor dit soort dingen die, n-ja, niet de bottomline helpen, uh, op de korte termijn, uh, maar wel de aarde veiliger houden.
Ja, tegelijkertijd is dan natuurlijk de vraag: als die open source modellen, hè, die ik zo graag wil voor de democratisering van AI. Ja. Uh, zit het er ook in? Hoe makkelijk kunnen we het daar uit slopen?
Nou, dat is leuk dat je dat zegt, Wytse, want dat is een fantastisch bruggetje naar inderdaad Meta.
Die heeft aangekondigd dat ze, uh, mogelijk zullen stoppen met het ontwikkelen van AI-systemen op het moment dat het te risico wordt.
Oftewel er is opeens, er is policy nu waar dat hiervoor werd overgelaten aan, uh, we kijken wel even, zullen we maar zeggen, is er nu, uh, beleid.
En dat is opmerkelijk omdat, uh, Mark Zuckerberg juist eerst beloofde om, uh, AGI, wat dat dan ook betekent, uh, openlijk beschikbaar te maken. Dus whatever it takes, zullen we maar zeggen.
In hun nieuwe Frontier AI Framework maakt Meta onderscheid tussen twee typen risicovolle AI-systemen.
Als je dit zo op papier ziet, uh, ziet verschijnen in een soort van officieel uitziend rapport, dan schrikt, gaat, dan slaat de angst toch een beetje om mijn hart.
Maar er zijn hoog risico systemen, Wytse, die kunnen helpen bij cyberaanvallen of chemische en biologische aanvallen, maar op een beperkte manier. Nou, dat is geruststellend. En dan heb je kritiek.
Risico, critical risk systemen die kunnen leiden tot catastrofale uitkomsten die niet te verzachten zijn. Vertaal ik even letterlijk.
Een concreet voorbeeld hiervan is de geautomatiseerde complete compromittering van een corporate omgeving die vervolgens bek, die volgens best practices beveiligd is, of de verspreiding van biologische wapens met grotere impact.
Wat ze zullen doen bij hoog risico, dus de eerste categorie, is de interne toegang beperken. Oftewel een klein groepje heeft maar de sleutels tot de code die, ja, dus biologische aanvallen kunnen doen.
En kritiek risico systemen zal Meta ongespecificeerde beveiligingsmaatregelen nemen om te voorkomen dat het systeem wordt gestolen en de ontwikkeling stopzetten totdat het systeem veiliger gemaakt kan worden.
Oftewel ze zeggen: op het moment dat wij denken dat het uit de hand loopt, dan trekken we de stekker eruit. Nou, dat is in ieder geval het beleid.
Ja, en dan, als er mensen zijn die luisteren, die zeggen: oh, uh, wat gaan ze dan doen dan? Dat je straks DeepSeek niet meer mag downloaden? Ja, uh, er is een, uh, wetsvoorstel. Ja.
Dat gaat er niet doorheen komen, want dat is nog te vroeg. Waarin staat dat jij, uh, een boete krijgt op het moment dat jij DeepSeek downloadt als Amerikaan. Ja. Uhm. Dat is gek, uh, ik weet niet of dit er doorkomt, hè.
Nee. Van een gek die dat roept. Dit gaat er niet doorkomen. Dit gaat niet doorkomen. Laat dat duidelijk zijn. Het heeft ook geen zin.
Nou, de vraag is, uh, kijk, je kunt zeggen: een burger mag niet de compute capaciteit thuis hebben om een eigen groot model te draaien. Uhm, bepaalde, ja, dan komt het op een soort van embargo op bepaalde software.
Ik bedoel, ikSpreek dit niet uit als mijn voorkeur. Ja, ja. Ik spreek dit uit als: het zou mij niet verbazen- Als er restricties komen. Na enige incidenten dat er echt wel restricties gaan komen.
Waarschijnlijk hardware restricties zoals die er nu ook zijn, uh, voor China. We hebben gezien wat dat heeft gedaan tot nu toe. Niet zo heel veel, maar goed.
Uhm, ja, onderschat niet dat als deze technologie wel daadwerkelijk, uh, richting, uh, nucleaire geheimen gaat qua sfeer, uh, dat daar gewoon enorm op, uh, gereguleerd gaat worden. Ja, maar hoe dan?
Nou ja, op allerlei creatieve wijzen. Ik denk de, de chips, uh, x aantal chips. Ja, je mag ook maar drie wietplanten in Nederland hebben, dus- Ja, precies. Drie Mac mini's.
[lacht] Nee, ditzelfde stuk ging dus, dit stuk over Llama, dus Meta's open source AI, g-, werd dus ook, het was een beetje vaag, maar er werd dus ook melding gemaakt dat er één zogenaamde tegenstander van de VS, dat wordt vaag gehouden, uh, waarvan bekend is dat het, uh, dat dat open source model gebruikt is voor defensiedoeleinden.
Dus dit is al aan de hand. En ondertussen maakt Google, want die maakt het rijtje af, een opvallende tegengestelde move, want zij schrappen juist de belofte om AI niet te gebruiken voor wapens en surveillance.
In 2018 beloofde Google nog expliciet geen AI te ontwikkelen die waarschijnlijk algemene schade zou veroorzaken, aka gebruikt voor oorlogsdoeleinden. En toen protesteerden Google medewerkers massaal.
Ik herinner me dit ook nog. Die liepen naar buiten en er was een Pentagon contract voor het analyseren van dronebeelden op dat moment. Uhm, en dat wilde Google gaan doen of had het al getekend dat ze dat gingen doen.
En toen is personeel massaal in opstand gekomen. Duizenden medewerkers tekenden toen een open brief waarin stond: wij geloven dat Google niet in de oorlogsbusiness zou moeten zitten.
Nou, toen kwam natuurlijk Oekraïne en toen kwam, uh, de, de hele reeks die daarna kwam.
En nu zeggen zij, uh, bij woorden van, uh, Dennis Hassabis: er is een mondiale wedloop gaande voor AI leiderschap binnen een steeds complexer geopolitiek landschap.
Wij geloven dat democratieën moeten leiden in AI, in A-, in AI-ontwikkeling, geleid door kernwaarden zoals vrijheid, gelijkheid en respect voor mensenrechten. En aka we g-gaan het toch doen.
Dus we schrappen deze, uh, ja, deze, deze restrictie voor onszelf.
En die draai is extra opvallend omdat diezelfde Hassabis in 2014 naar Google kwam, bij Google kwam werken en in, en toen expliciet verklaarde in de overnamevoorwaarden dat DeepMind-technologie nooit voor militaire of surveillance doeleinden zou moeten worden gebruikt.
Zeg nooit nooit, hè. Zeg nooit nooit. Ondertussen is dus Google daar naartoe aan het schuiven. OpenAI doet het al een tijdje samen met Anduril.
Een, uh, ja, een soort van, uh, startup mag je niet echt meer noemen, want het is een heel groot bedrijf. Maar die maken hele geavanceerde geweren, drones en ander wapentuig. Oorlogstechnologie. Oorlogstuig.
Anthropic heeft een defensiecontract met Palantir, uh, voor Amerikaanse inlichtingendiensten. Uh, en tegelijkertijd loopt natuurlijk de spanning tussen VS en China, uh, op.
Uhm, zijn er allerlei antitrustonderzoeken naar, uh, Google, recente Chinese tarieven op Ame-Amerikaanse producten. DeepSeek. Nou, bla, bla, bla, bla, bla.
Het komt allemaal in een, uh, ingewikkelde- Maar misschien voor een stukje duiding.
Wat, wat ik wel merk is dat er een, uh, soort ononderzocht bij veel mensen, waaronder ikzelf, uh, onderscheid gemaakt wordt tussen het virtuele en het fysieke.
Dus in de fysieke wereld, uh, hebben we allerlei regelgeving, uh, fysieke grenzen, uh, controles, pakketjes die gescand worden, noem maar op, hè.
Dus op dat, in dat fysieke domein, het materiële domein, zijn er allerlei, uh, regels al zo, zo ver terug als de grachten rond een, uh, kasteel, hè, de moat.
Uh, dat is allemaal vrij helder voor mensen hoe je daar, uh, beperkingen kunt opleggen en regels kunt voeren en overheden een rol spelen in de materiële wereld. In die virtuele wereld is daar een ander gevoel bij, hè.
Als ik tegen jou zeg: dan mag jij DeepSeek niet meer downloaden, dan kijk jij mij terecht op een manier aan van: really? Ja. Nee toch? Ja.
Ik bedoel, dat je een pistool niet online mag bestellen snap ik, maar dat je DeepSeek niet mag downloaden snap ik minder. Ja. Maar dat komt dus omdat daar iets virtueels gebeurt. En die digitale wereld, hè.
Ik heb dat ook altijd als ik een film op mijn Apple TV niet meer mag kijken na 48 uur, dat ik denk: hoe, dit zijn gewoon bits en bytes op die SSD van die Apple TV. Waar bemoei je je mee? Digital rights management. Buh.
Uh, maar
vergis je niet dat, uh, op dat gebied, als die digitale virtuele wereld eenmaal genoeg potentiële invloed kan hebben of heeft op die fysieke wereld, dat ook die controle vanuit het fysieke naar het virtuele gaat plaatsvinden.
Wat voor ons nu nog vaag- Ja, maar dat zit dus wel in de context van een wapenwedloop tussen Amerika en China. Ja, zeker. Dus we kunnen reguleren wat we willen hier.
Maar ondertussen zijn daar, is, d-de, de vibe is geschift, zou ik maar zeggen, van: laten we techbedrijven geen, niet tot oorlogsbedrijven maken, naar: laten we dit doen, want anders dan zijn landen waar democratieën niet, het wat, wat niet, die niet-democratieën zijn, zijn straks de baas.
Ja. Dat is natuurlijk de context waarin dit komt.
Maar het is wel knap lullig als jij bij een bedrijf bent gaan werken waar je misschien de militaire potentieel zag van je technologie en jou beloofd is dat dat niet ging gebeuren.
Om vervolgens een memo te krijgen dat het toch maar wel gebeurt. Ja, ja, ja, ja, dat is zo. Goed, uh, maar als je dus meer wil lezen over AI-veiligheid, dan moet je even $200 betalen [lacht] aan OpenAI.
En anders gewoon blijven luisteren. Doet Alexander het voor je by proxy met zijn eigen inbreng daarbij. Precies. Laten we duidelijk zijn. OpenAI heeft, uh, vormgeving, uh, die gemaakt is in Rotterdam.
Uh, dat is namelijk de, de vormgeving van OpenAI. Dat gaat dan over de UI van, van de app, de, de bewegende elementen.
Dus bijvoorbeeld dat soort van blauwe wolkjes ding wat je te zien krijgt op het moment dat je, uh, met advanced voice mode in ChatGPT bezig bent. De plasmolten noem ik hem altijd. Precies.
Blijkt gemaakt te zijn in Rotterdam. En we hebben het de hele tijd natuurlijk erover dat wij in Europa niks voor elkaar krijgen, maar ondertussen zitten wij die spullen te ontwerpen.
En de CEO van het bedrijf die dat heeft gemaakt is Dimi Albers, uh, van het, uh, digitale bureau Dept.Hoofdsponsor sinds deze week van deze podcast. Ja, welkom zeg ik met enige trots.
Straks spreken we hem over wat AI betekent voor marketingbureaus en de bedrijven die zij adviseren. En wat deze hele AI golf doet voor de wereld van merken. Dat levert een interessant gesprek op.
Maar ze hebben ook voortaan iedere week een soort van podcast in een podcast waarin twee medewerkers van Dept, Marjan en Lucas, je bijpraten over de laatste ontwikkelingen die zij bij Dept horen op het gebied van AI.
En dat hoor je nu. Hi, ik ben Marjan van marketing en tech bureau Dept. Elke week praat ik met mijn collega Lucas over wat speelt in onze industrie. Deze week AI agents.
Want in die wondere wereld van AI regelen zij over vijf jaar 80% van onze dagelijkse werkzaamheden, inclusief de klantenservice, e-mails en advertenties. Lucas, wat is het?
De vraag is of we 80% van ons werk gaan doen of dat we 80% meer gaan doen. Want je krijgt er eigenlijk oneindig veel virtuele collega's bij. Oké, maar kun je een voorbeeld geven van zo'n AI agent?
Ja, wij werken voor een grote Europese airline en die gebruiken AI agentjes om vluchten te herboeken. Dus stel dat je op een vliegveld bent en je vlucht wordt gecanceld.
Dan ga je als consument direct in gesprek met zo'n AI agent en die is in staat om je volledig te herboeken. En hij is zo intelligent dat hij ook nog goede suggesties kan doen.
Stel bijvoorbeeld dat je een transfer ergens hebt, dan zoekt hij de vlucht die het beste aansluit en je zo meteen niet twaalf uur lang in je eentje op Frankfurt zit. Hmm, dat klinkt best wel slim.
Maar hoe start je daar dan mee? Ja, ik zou beginnen met je huidige proces in kaart te brengen en daar te gaan kijken welke onderdelen eigenlijk door een AI agent zouden kunnen worden overgenomen.
Zorg ervoor dat je niet de meest complexe en kritische onderdelen van je proces pakt. Want uiteindelijk moet de AI agent net als echte werknemers getraind worden en daar hebben ze data en systemen voor nodig.
Dus zorg dat je daar niet al te afhankelijk van bent. Oké, en ja, hoe dan verder?
Ja, uiteindelijk gaat het dus om dat we zoveel mogelijk data en systemen aan elkaar kunnen koppelen, waardoor die AI agents ermee kunnen gaan werken. Maar dat is denk ik langer termijn visie.
Het leuke is als je helemaal impact wil maken in je leven kun je nu al beginnen met bijvoorbeeld ChatGPT Tasks en dan wordt je eigen leven als consument al stukken efficiënter. Dank je wel Lucas!
Dus niet afwachten maar doen, want wie nu begint loopt straks voorop. Tot volgende week! Dimi. Welkom! Misschien nog even over eerst om te beginnen met Dept zelf. Een digitaal bureau, zo heet dat dan.
Een agency die helpt met digitale strategie, branding, performance marketing, e-commerce, web en app ontwikkeling voor bedrijven. Klopt dat tot zover? Ja, tot zover zitten we goed.
Werkt voor grote klanten zoals Google en Netflix. Ja. En vanaf nu hoofdsponsor van AI Report. Boem. Dank daarvoor. Graag gedaan. Dat is voor het vertrouwen. Jullie toch een beetje ondersteunen? Ja.
Nou, dat is vriendelijk. Dat is. Dat is heel vriendelijk. En vandaag, in de voorbereiding van dit gesprek, was ik helemaal overdonderd omdat ik zat naar op Twitter te kijken naar branding voor OpenAI.
Die hebben een hele, hele soort van huisstijl refresh gehad. Wat is het sinds vandaag of sinds gisteren? Op het moment van opnemen? En wat schetst mijn verbazing, dat hebben jullie gemaakt.
Daar hebben mensen van ons aan gewerkt. Ja, dat klopt. Dit is altijd wel mooi. Het is belangrijk om heel eerlijk zijn over wat je wel en niet maakt. Dus de simpele versie ervan is dat.
Wij hebben een team wat met name in Rotterdam zit. Dat heet Studio Dunbar. Ja, die focussen zich met name op design, identiteit en vooral motion. Motion graphics. Ja, en die doen dat echt.
Eigenlijk voor alle grote namen die je hier langs hoort komen in, in de podcast. Daar doen zij dat voor. En wij werken met dat team inmiddels. Ik denk bijna een jaar met OpenAI samen.
En gisteren was ook het of eigenlijk het tweede moment dat we ruchtbaarheid mogen geven aan, aan dat feit. En eigenlijk dus alles wat je van OpenAI in de nieuwe identiteit, maar ook op een event ziet wat beweegt.
Daar hebben mensen van ons aan gewerkt. Wel embedded. Zijn dus. Dus het gaat niet over de keuze van de lettertypes, het gaat erover hoe ze hoe de letters bewegen. Exact ja.
En er stond volgens mij zelfs in het artikel wat ik langs zag komen staat ook volgens mij een Berlijnse bureau of een of een designer die specifiek bijvoorbeeld op het lettertype heeft gezeten.
En onze mensen zitten met name op de vorm en op de op de animaties die je ziet. Maar dat is dus wel ja, het is echt zo vet! Je moet je voorstellen dat als je met ChatGPT praat en je ziet dat blauwe bolletje bewegen.
Die gooi die die wolken bedoel je? Die. Ja. Dat heeft het team gemaakt. Inclusief Wat is het geluidje wat je hoort als je er tegen praat? Al die.
Want we doen ook heel veel sound, dus het is best wel bizar om te denken dat iedereen in de wereld die daarmee interacteert, die interacteert met iets wat door het team gemaakt is.
Het team zit ook embedded bij hun in San Francisco, dus we hebben een soort van best wel cool. Ja, hoe zeg je dat? Op een af systeem waarbij een aantal mensen elke drie, vier maanden daarheen gaan en met hun werken.
Maar ja, het is echt. Ja, het is echt heel vet. En hoe?
Want hoe verhoudt zich tot dit, tot het idee dat het allemaal in Amerika gemaakt wordt en de Europeanen een soort van achteraan huppelen, terwijl er zoveel Europeanen betrokken zijn bij deze projecten op deze manier?
Ik vind dat zo fascinerend. Hoe komt dat nou? Wat ik. Wat ik altijd leuk vind als ik. Want wij hebben best wel een paar van dit soort grote tech clubs als klanten en eigenlijk elke.
Of 80% van de mensen met wie ik spreek bij die klanten, die komen helemaal niet uit Amerika. Die komen of uit India of uit Europa of alle plek van de wereld.
Dus ik denk dat het veel meer gaat, dat het met name in Californië dat er een soort ecosysteem is ontstaan, inclusief het geld en de research en alles wat nodig is om dit soort bedrijf te laten floreren.
Maar dat zij echt super goed snappen dat als je de slimste koppen ter wereld wil hebben, dat je helemaal niet alleen maar Amerikanen of zo daar moet hebben. Dus ik denk, ik denk dat dat een beetje het verschil is.
Het geeft mij. Het geeft mij wel een soort hoop dat ik denk dat talent is er dus gewoon.Ik denk overal. Ik denk dat talent echt het tegenovergestelde van het, uh, van het probleem is. En je ziet en zelfs in Amerika.
Ik bedoel als je, als je op denk ik individuen afgaat, dan heeft denk ik India inmiddels een hogere dichtheid van mensen binnen de grote bepalende techbedrijven in de wereld dan welk ander land dan ook.
Kun je het zeggen welke andere AI-labs jullie voor werken? Uhm. OpenAI was dus geheim tot eergisteren, als ik het goed begrijp.
Ja, dus, uhm, uh, nou er zijn sommigen die we wel kunnen noemen, sommigen die we niet kunnen noemen.
Maar, uhm, even Google is een hele logische, uhm, uh, die ik wel gewoon mag noemen, omdat we daar ook al heel lang voor werken. Uh, Meta is een groot klant, uh, uh, grote klant voor ons ook.
Uhm, uh, en dan zijn er daarnaast ook nog een paar van de wat kleinere, uh, clubs. Wat grappig zeg, een soort Hollands glorie en dan in de vormgeving van die AI tools. Nou, leuk.
Uhm, ik dacht waar, wat is nou belangrijk om met jou te bespreken? En ik dacht om te beginnen, laten we eens hebben over waar het voor jou begon.
Ik denk dat we allemaal een moment hebben gehad waarin we, ja, Ilam, Isam Molik noemt het drie dagen hebben wakker gelegen, drie nachten hebben wakker gelegen toen eenmaal inkikte wat voor verandering we, uh, mee te maken hebben als mensen, als bedrijven, weet je, als onderdelen van, van maatschappijen.
Uhm, wat was voor jou het moment dat jij constateerde: ik ben de baas van een groot digitaal, uh, bureau, internationaal. Oh mijn god, ik moet de boel omgooien. Wat was dat moment voor jou?
Of is dat moment er niet geweest? Ik, nou, ik denk dat het meest, uhm, of in ieder geval het moment wat ik me kan herinneren, wat denk ik niet zo'n watershed moment was zoals je het net noemde. Geen slapeloze nachten.
Nee, nee, ik vind, uhm, ik heb wel slapeloze nachten, maar niet over werk, want anders dan zou ik elke nacht wel wakker kunnen liggen.
Uhm, wat voor mij wel een, een, een moment van inzicht erover was, was, uhm, volgens mij kwam ChatGPT of in de laatste dagen van november of begin van december uit, uh, twee jaar geleden en, nou, dat kwam op.
Dus iedereen heeft het erover, stuurt van alles rond en op een gegeven moment ga ik, ik weet niet meer welke Slackgroep het is binnen onze duizenden Slackgroepen die we hebben, maar ik kom een Slack, Slackgroep binnen en daar zegt Job, Job is een van onze, uhm, uh, uh, zeg maar data en AI's slimme koppen,
uhm, en die ze, die reageert op iemand in de trant van: ja, maar wij hebben werken al sinds X jaar met GPT One of w-whatever de eerste modellen waren. What else is new kan dat worden.
En hier, uh, met een linkje naar, dat hebben we gebruikt voor die klant en dat. En toen dacht ik echt twee dingen. Ik dacht: huh, weet je, één is blijkbaar waren we dit aan het doen. Waarom zagen we het niet aankomen?
Maar twee is dat ik ook wel een soort van, daar in ieder geval vanuit mijn optiek zie je dat hoe snel het ook allemaal gaat, dat de adoptie van wat dit allemaal is, zowel door consumenten alsook door bedrijven, dat dat altijd tijd gaat kosten.
Mhmm. En dat dat een bedrijf als ons de tijd geeft om hoe we werken aan te passen, maar ook om te zorgen dat wij degene kunnen zijn die bedrijven helpt om op die reis te gaan.
En zeg je eigenlijk dat we de snelheid een beetje overschatten, de neiging hebben om de snelheid te overschatten, de, de snelheid van adoptie? Nou, ik, kijk, ik denk dat de snelheid van de technologie heel hard gaat.
Ik denk dat snelheid van hele superficial adoptie van, nou, even hoe jij, ik kom hier net binnen, hoe jij het researchmodel van, uh, van OpenAI al gebruikt hebt.
Ik denk dat dat soort dingen natuurlijk wel ge-, uh, gebeuren.
Maar je moet niet vergeten dat om voor een bedrijf om dit te implementeren, om het uiteindelijk bij een consument als ons te laten brengen, moet het gewoon door, ik weet niet hoeveel lagen van de organisatie, het moet door allerlei processen heen, het moet aan allerlei veiligheid voldoen.
Er zijn allerlei punten en dat kost tijd en daar moet je mensen van overtuigen. Dus ik denk dat daar stiekem iets meer tijd in zit.
Het enige wat het nu gek maakt denk ik, is dat we nog nooit een technologie-ontwikkeling gezien hebben die zo out of sync loopt met hoe snel een mens of een organisatie kan veranderen. Ja.
En dus ik kan me wel voorstellen dat op een gegeven moment, uhm, als het meer ge-, zeg maar echt gebruikt wordt, dat er dan een soort acceleratie plaatsvindt.
Maar ik denk dat het nu gewoon heel moeilijk is, want mensen kunnen gewoon niet zo snel veranderen. Dat is nou eenmaal zo in grote organisaties. Soms denk ik ook: de druk is nog niet hoog genoeg om te veranderen.
Dus omdat iedereen, uh, dezelfde snelheid lijkt aan te houden, zeg ik vanaf de buitenkant, hè, ik bedoel, uhm, is er ook minder noodzaak om opeens nu heel erg hem op zijn staart te trappen.
Uhm, maar dat, dat ook zomaar eens een sentiment zou kunnen zijn wat opeens verandert op het moment dat een concurrent wel, nou, ik noem maar wat, grote wijzigingen in het personeelsbestand doorvoert. Helemaal mee eens.
En dat, uh, dat is ook een beetje de reden waarom wij, ondanks dat we weten dat het bij bedrijven tijd kost, want mensen overtuigen en processen et cetera kost tijd, dat het, het idee is altijd: laten we nou harder richting de toekomst rennen dan we denken dat kan, want dan kun jij degene zijn in jouw industrie die eigenlijk dat moment creëert.
Ja.
Want het prob, uh, het probleem voor elk bedrijf, inclusief dat van ons, is dat als iemand anders het doet en ze zijn dermate ver weg, dan loop je gewoon de kans dat je te laat bent en dat je het ook niet meer kan inhalen.
Dus ik denk dat voor elk bedrijf het heel erg is: oké, hoe kunnen wij in ieder geval op verschillende manieren al zoveel mogelijk snelheid maken, zodat wij wellicht de disruptor in onze industrie kunnen zijn, maar op zijn minst niet de laggards kunnen zijn.
En ik denk ook dat die barrières die jij net beschrijft, die zijn reëel, die zie ik overal, uh, die zijn niet zo stevig.
Ik had een vriend van mij gisteren die zei: ja, ik heb gewoon binnen mijn team allerlei mensen die best wel sceptisch zijn over al deze tooling. Dan komt Deep Research uit.
Ze kijken die video en ze zeggen: dit is de shit, ik ga het nu gebruiken. Wat bedoel je dan zijn sceptisch over tooling? Nou, die zeggen: oké, al die, ik heb ChatGPT getest, Copilot, et cetera. Veel hallucinaties.
Dit is niet bruikbaar voor mijn werk. Ik zie het niet gebeuren. En dan zien ze een videootje van OpenAI op de blog.
Ze zien die video en het klikt en ze switchen 180 van scepticus naar kan ik het al in-installeren en waar, get my creditcard, zeg maar.
Dus ik wil, die barrière is zo flinterdun voor sommige mensenEn ik denk wat ik altijd, of tenminste het is ook een beetje, maar jij deed eigenlijk ook vanochtend toen ik binnenkwam en zag hoe jij of toen je vertelde wat je met research aan het doen was.
Volgens mij is heel vaak dit moment op het moment als het mensen gebruiken een technologie voor iets wat ze zelf goed kennen, snappen en ook doen. En als ze zien dat het dan werkt. En dat geldt voor mij ook.
Weet je wel, er zijn genoeg momenten dat wij of dat ik aan chat GPT gevraagd heb wat is dept of wat doet dit? Of over een onderwerp.
Ik Ik hou heel veel van sport dat ik een vraag ga stellen en dan zie je eigenlijk altijd als je zelf het onderwerp kent, dan zie je dat het tot 72% goed gaat, maar dat die laatste 28% echt onzin is. Gevaarlijk slecht.
Ja, gevaarlijk slecht. Alleen het ding is dus dat op het moment als je dat soort searches gaat doen of als je dat soort vragen stelt of met die technologie aan de gang gaat en het werkt wel.
Ik denk dat dat het moment is dat mensen klikken, dat ze dan denken oké, maar wacht even, want nu kan het en snapt het wat ik kan en snap. En dus is het heel erg impactvol.
Ja, ik vind het interessant, want we bedoelen we hebben het hier eerder over gehad, maar de Spotify barrière. Vrienden die zei ik hou mijn eigen iTunes library, die mp3 zijn van mij bleek flinterdun.
Smartphone barrière bleek flinterdun. Toen eenmaal de app uitkwam die voor hun interessant was. Weet je als Strava kon. Oké, ik ga ermee fietsen. Hop smartphone.
Ik vind het heel boeiend om te zien dat ook deze technologie. Je moet even laten zien in concreet wat kan dit voor je En het werkt. Ik denk dat Alexander en ik over het algemeen veel meer leven in een soort van belofte.
Wij leven in een soort toekomstwereld met z'n tweeën, waardoor we het al geloven en het wel zien gebeuren. Ja, en ook de hele tijd soort van constateren. Het is zo dichtbij, dus we moeten eigenlijk nu al. Waarom wachten?
Doen alsof. Ja, precies. Eigenlijk moeten we nu al doen alsof het werkt, want het is zo dichtbij en de consequenties zijn zo groot. Dus laten we dit nou maar voorstellen met elkaar.
En dan verbazen wij ons een beetje over de traagheid. Zeg maar dat we nog steeds. Ja, we zijn toch een beetje die muzieksnobs die dan zeggen ja, Radiohead, ja, die band was al heel lang weg gasten.
Maar goed, in ieder geval. Ja. Het is exact dat. Vroeger, toen je nog geen mp3 of tenminste doe je voor het eerst mp3's kon downloaden. Dat je dan.
Of tenminste, ik was heel erg into hiphop, dus ik was heel erg bezig met wat zijn de de nieuwste goede songs? En die had ik dan al gebrand op mijn cd'tje. En dan als vier maanden later op een feestje dat gedraaid werd.
Moest je echt inhouden toch? Boem. Ja, ja. Ja, je cd'tje uit je zak. Jouw check je tracklist. Ja. Staat erop met Edding, hè? Het is niet net opgeschreven. Het is exact dat. Hè, wat?
Wat onderschatten bedrijven die je adviseert over. Over hoe ze AI zouden kunnen of zouden moeten gebruiken? Wat onderschatten bedrijven vaak? Het is misschien een beetje een.
Tegendraads antwoord, maar ik denk dat ze onderschatten hoeveel groei en mogelijkheden het kan brengen.
80% van de conversaties die wij hebben met bedrijven gaat over hoe kan ik mijn content goedkoper maken door AI in te zetten? Juist, hoe kan ik besparen. De kosten van mijn media naar beneden brengen, al dat soort dingen.
Dat is voor. En zeker als je een beetje met de C-level mensen praat, want die zijn allemaal bezig met hun budgetten. Want het is economisch gewoon nog steeds een ingewikkelde tijd.
Ja, die zijn allemaal bezig met hoe kan ik. Als mijn kosten nu honderd zijn, kan ik het naar tachtig brengen. Of zeventig. Of misschien wel dertig als ik heel argief ben. Dat is de reden om naar jullie toe te komen.
Ja, en en en. Het ding is en de Ik denk de moeilijke conversatie die wij met ze hebben is ja, dat doen we, dus dat doen wij ook voor een hoop klanten. Alleen kijk, daar ga je nooit op winnen.
Je gaat op het feit dat je 20% kosten bespaard hebt op je media. Daarmee ga je niet de oorlog winnen. En zeker niet als dat moment straks dichtbij komt waar jij het over gehad hebt.
Dus onze boodschap is heel erg ja, we moeten dit doen. Maar vergeet niet het is 20% van het geheel.
En waar jij gaat winnen is als jij de eerste bent in jouw industrie die deze technologie kan inzetten om ofwel je product echt revolutionair te vernieuwen of om nieuwe producten of diensten uit te rollen.
En help je ze dan met het soort van voorstellingsvermogen om om te bedenken waar die groei dan vandaan komt? Of waar zit hem dat dan in? Ja, dus één is praten en dan is het dus even gewoon dit soort conversaties. Sorry.
En twee is dan met hun eigenlijk vergezichten schetsen en op basis van die vergezichten dan gaan nadenken Oké, wat kunnen de eerste pilots zijn die we daarop kunnen doen?
Of wat is het eerste echte werk wat we kunnen doen in die richting? En voor jezelf? Want bij bij al jullie bedrijven, want dit bestaat eigenlijk uit heel veel bedrijven. Nee, het is één bedrijf.
Oké, maar al die merken moet ik dan zeggen teams. Al die teams, nou doet er ook verder niet toe.
Maar al die teams, daar werken een hele hoop mensen en ik kan me voorstellen dat voor jou eigenlijk dezelfde afweging speelt.
Namelijk ja, contentcreatie was was heel lang voor voorbehouden aan aan mensen die toch wel gewoon een paar jaar in Photoshop hadden besteed een tijdje geleden en nu zelfs iemand driehoog achter kan nu met AI tools aan de slag gaan.
Het speelveld is wel veranderd. De mate waarin je creativiteit kan laten genereren voor je hoe, hoe, hoe? Hoe ga je zelf om met die met die verschuiving van het gebruiken van AI tools om werk uit handen te nemen?
Doen jullie een soort dog voeding van je eigen proces wat je voor klanten doet, voor jezelf? Draai die spiegel wel eens om. Ja dus wij hebben. Ik denk relevant. Er zijn een soort van twee
stromingen hierin denk ik binnen ons bedrijf. Één is gewoon letterlijk iedereen die zelf met shit gaat klooien, want dat is denk ik het voordeel.
We hebben 111 relatief jong bedrijf, veel ondernemers erin, veel mensen die gewoon altijd bezig zijn met hoe kan iets sneller.
Dus er zijn veel mensen die letterlijk gewoon in hun eigen processen die toen chat GPT uitkwam het begonnen te gebruiken en kijken kan ik het voor dit en dat et cetera.
En dat proberen we gewoon zoveel mogelijk te promoten. Dus we hebben bijvoorbeeld een een soort.
We hebben een Slack channel en er zit een soort fonds je achter waarin anyone die gebruik wil maken van bepaalde technologie.
Dus die zeggen hey, ik heb nu deze nieuwe tool en het gaat over iets.Vertalen van iets, dan zeggen we: nou weet je, zolang het niet, uh, € 80.000 kost hier, uh, ga maar alvast ermee aan de slag.
Wat al een groot verschil is met de meeste corporates waar ze AI loketten hebben en je 80 formulieren moet invullen. Ja, exact.
En, en, en natuurlijk overigens is er bij ons ook een loket, dus op het moment dat iemand iets wil schalen dan is het wel kijken naar wat betekent het legal et cetera.
Maar het idee is dat als je wil spelen dat je kunt spelen. Ja. Dus dat is één stroom en ik denk dat dat best wel veel gebeurt. Ja.
En het tweede is we hebben anderhalf jaar geleden denk ik, uhm, hebben we op een gegeven moment toen we wisten dat er op een paar plekken, uhm, echt wel echt, ja echt hardcore technologie gebouwd werd.
Toen hebben we daar eigenlijk één global AI team van gemaakt. Uhm, en die hebben een, ja, eigenlijk een platform ge-gecreëerd wat Greenhouse heet bij ons.
Waar, uhm, uh, waar we eigenlijk op basis van alle verschillende LLM's, dus het is een soort van LLM agnostisch, oplossingen bouwen die zowel voor onze klanten als voor onszelf, uhm, interessant kunnen zijn.
En een voordeel daarvan is, uhm, even heel simpel een quality of content tool.
En hoe je dat moet voorstellen is dat veel van onze klanten zijn internationale merken en die hebben het heel moeilijk met hoe krijg ik, weet je, als ik Uber ben, dan moet ik al mijn content en al mijn banners en al mijn social shit moet ik overal kwijt op allerlei kanalen en dat moet ik met allerlei talen.
Nou, dat proces van dat goed krijgen is echt heel moeilijk. Dus, uhm, hebben wij op basis van AI tooling gebouwd die dat, uh, uh, voor die klant kan doen, zodat je- De assets maken.
Uhm, ja, dus de assets, dus een gedeelte is de assets maken, maar een gedeelte is echt gewoon puur het kw, het kwalitatief testen of het goed is.
Dus je moet je voorstellen dat we dan een large language model maken, dat we het trainen op de brand guidelines, op de content die klopt, et cetera. Zijn allemaal regels waar een merk aan moet voldoen. Exact.
Nou en je moet je voorstellen, dat zijn tienduizenden, misschien wel honderdduizenden assets die, uh, geproduceerd worden per jaar en die moeten allemaal gecheckt worden.
En dat gebeurde allemaal door eindeloos veel mensen, eindeloos veel spreadsheets. Mhmm. Nou, deze oplossing, die automatiseert dat eigenlijk volledig.
Maar het grappige is, als je dat voor een klant maakt, dan kun je natuurlijk datzelfde op jezelf toepassen.
Dus dat Greenhouse platform, dat is niet alleen technologie die we bij klanten implementeren, maar dat gebruiken we ook om op, op meer schaal bij ons intern dingen te bouwen.
Het is uiteindelijk een soort make or buy decision. Ga je dit nou bouwen? Exact, ja. Jullie gaan dan zoeken, het is er niet, hè, want anders is het een beetje dom zou ik zeggen, of onhandig om dat zelf te gaan bouwen.
Dan ga je het zelf bouwen en ook zelf gebruiken. Niet alleen voor je klanten, maar ook voor jezelf. En moet je je dan inhouden om dat niet, uh, weer tot een bedrijfje te laten groeien?
Uhm, nee, want kijk, w-wij, ik denk overig-- bij ons is het altijd, uh, reuse over buy over build. Dat is eigenlijk wat je, wat je net zegt, hè. Oké, ja. Dus soms hebben we shit liggen.
Kan je het aanpassen, dan is dat heel goed. Uh, is het in de markt beschikbaar, dus heeft Adobe, uh, i-iets gemaakt, nou dan gaan we dat gewoon gebruiken, want je bent gek als je het zelf bouwt. Ja.
Als het er niet is, dan bouwen wij wat ze dan in het Engels proprietary tech noemen, dat zullen jullie ook weten, wat een stukje van onze eigen kennis en, en, en ei-eigendom is. En dat zetten we dan in.
Alleen wij hebben heel duidelijk gezegd wij geloven niet in een bedrijf wat en, uhm, services levert aan klanten en daarnaast echt product- Je trekt gewoon een harde lijn daar.
Ja, harde lijn, dus wij maken alleen dat soort, uhm, uh, custom technologie als ons werk, als consultants van de klant of als, als, uh, productieteam van de klant er beter van wordt.
Ik blijf toch nog even hangen met dat er dus een hele afdeling was met mensen die spreadsheets hadden, die regels aan het controleren zijn van tienduizenden assets van weet ik veel banners die voor de Braziliaanse markt gemaakt zijn, die opeens door een taalmodel overbodig worden gemaakt.
Wat doen die mensen dan nu? Nou, ik denk dat, overigens, ik ken ze niet allemaal persoonlijk, hè.
Nee, oké, maar dit is een heel goed voorbeeld van hoe klanten bij jou komen en dan zeggen: ik wil kosten besparen, waarbij dit, waarbij je dit zelf in de praktijk hebt gedaan als ik het goed heb. Ja, 100%.
En ik denk dat, uhm, w-wat we over het algemeen zien en dit is ook een beetje, uh, misschien zijn we wat optimistisch over de wereld, maar kijk, de manier waarop wij naar kijken is dat elke technologische ontwikkeling ever in the history of man heeft alleen maar meer banen opgeleverd.
Gewoon alles, altijd, alleen verschillende soort banen. En dat is wat je bij klanten ook ziet gebeuren.
Die mensen die nu freaking dertig uur van hun tijd kwijt waren aan met die spreadsheet om te kijken of het goed stond. Ja, wat niemands droom is natuurlijk. Wat niemands droom is. Nee.
Die ku-- zijn nu wellicht bezig met oké, maar als dat goed gaat, dan kunnen ze zich bezighouden met user research.
Dan kunnen ze zich bezighouden met de ontwikkeling van het product, dan kunnen ze zich bezighouden met et cetera, et cetera.
En ik geloof wel dat ook deze technologie, ook aan de marketingkant en aan de, de techkant, dus ook aan de engineering kant, gewoon gaat zorgen voor meer mogelijkheden en meer werk.
Ik, ik, ik kan me, ik kan me bijna niet voorstellen dat het anders is, want ook zelfs i-ik, ik werk al heel lang hier, uh, achttien jaar. Dat is echt, echt heel lang. Uhm,
toen ik hier kwam denk ik dat onze gemiddelde engineer, nou, tachtig regels moest schrijven voor iets wat nu acht regels of twee regels is, exclusief de hele AI ontwikkeling.
En nog steeds hebben wij meer engineers dan ever en moet er meer worden gemaakt dan ever. En ik denk dat dat ook in dit geval gewoon zo gaat.
En is het dan, want je kunt dat natuurlijk binnen je eigen bedrijf op die manier, uh, doen, maar ook de klanten adviseren.
Wat ik eigenlijk wil vragen is stel dat we die taken in plaats van banen een beetje zouden verdelen in een soort bullshit jobs. All due respect Excel sheets, data crunchen, dat is een computerbaan, zeg maar.
Dat zouden, dat zouden mensen niet moeten willen. En daarnaast een soort van soul jobs. Bijvoorbeeld een identiteit ontwikkelen voor een klant en daar helemaal op freaken, weet je wel. Ik ken dat van best wel dichtbij.
Dat, dat is gewoon kunst. Dat is te gek. Uhm, voel je daar dan een soort scheiding tussen?
Of zeg je van dat gaan we gewoon aanvoelen, zeg maar op een gegeven moment, even, mijn voorbeeld is eigenlijk al die bullshit jobs zitten in een, é, intern product of in een ingekocht product geautomatiseerd en op een gegeven moment schuift het op, schuift het op en raakt het als het ware dat wandje waar het begint te gaan richting die zielstaken zal ik het maar even noemen.
Uhm, voel jij dan aan van nou daar kan ik in overleg met de klant en ook overleg intern best wel een policy op maken of zo? Of, hoe, hoe? NouJa, ik weet niet.
Kijk, uh, ik weet niet of een, ik, het lastige van zo'n policymaker is dat alles schuift, dus dat je het eigenlijk toch niet weet.
Ik denk dat, uh, hoe wij het, denk ik adviseren aan en onze mensen en aan onze klanten is dat. Kijk, w-wij doen allemaal een bepaalde baan. Jullie ook. Zeker. En, en, uh, nou ja, de, mis, ik,
uh, je zit misschien iets dichter bij die soul baan of niet dan, uh, dan die andere baan.
Alleen als het goed is, als we allemaal bezig zijn met hoe, wat is de volgende versie van mijn baan en hoe kan ik de technologie daarin gebruiken om dat te doen?
Dan is iedereen eigenlijk onderweg op dat pad en dan denk ik dat je minder gauw tegen het probleem aan loopt dat mensen, uhm, uh, uhm, overbodig, uh, gemaakt worden. Alleen de mensen die dat niet doen.
Daar denk ik wel gewoon dat je, dat je echt een, een, een dikke uitdaging hebt en, en dus is het voor ons veel meer. Weet je, als je met, uhm, uh, Just Eat is een voorbeeld.
Of tenminste Thuisbezorgd noemen we dat hier natuurlijk gewoon.
Sorry, uhm, dat ze, uh, best wel een grote klant van ons en daar doen we heel veel van die contentcreatie, dus weet ik veel tienduizenden assets voor alle markten in Europa.
Als ze weer samen met Netflix, uh, Squid Games, uh, uh, uh, zeg maar als partnership uitbrengen. Uhm, daarin hebben wij een stuk technologie gebouwd die at scale al die dingen kan maken.
Maar dat betekent dat we met dat team aan de Just Eat kant weer in een hele volgende fase zitten over hoe kunnen we nog persoonlijker die marketing maken. Ja, ja, ja. Dus er zijn alleen maar meer mensen nodig. Ja.
En, en, en naar hun toe is de conversatie alleen maar. Kijk, nu doen we het zo. Dus we hebben iets, iets proprietary gebouwd. Maar kijk, dit is die p-, uh, dit bedrijf in de markt aan het doen dat we die hebben.
Hoe kunnen we dat aan elkaar knopen? Ben je daar vervolgens weer mee bezig.
Dus het is, ik, het, het gaat uiteindelijk echt over zijn we allemaal bezig om naar voren te lopen en, en nou ja, even een beetje zo dicht mogelijk achter jongens als jullie die in de toekomst leven aan kunnen wandelen.
En als je dat doet, dan denk ik ja, dan voel ik me er best wel oké bij. Want heel lullig gezegd er zijn niet, de meeste echte fabrieksjobs, die zijn ook al vijf jaar geleden naar India gegaan. Mhmm.
Dus de mensen die hier bij ons werken en bij onze klanten werken, daar, daar zit heel veel kwaliteit in die ze nu gewoon in kunnen zetten voor iets wat ze veel vetter vinden en wat veel meer hun creativiteit, uhm, uh, aantrekt.
Ja, en ik denk dat in mijn verhaal zit ook een soort aanname over een soort zero sum game, hè, want er is één taart vol met baantjes en die taart gaat niet meer groeien of zo. Terwijl die is blijven groeien.
Ja, en dus eigenlijk is bij jou de aanname die historisch redelijk correct is, hè, van maar wacht wel even. Ik bedoel [lacht]. Oké, meer dan redelijk.
Maar ik, nee, ik bedoel dit, dit achter deze vraag zit een zorg, hè, van mij, zeg maar. En ik wil, ik wil dat jij mij geruststelt. Dat hoef jij helemaal niet te doen, hoor. Maar van, uh.
Nou, dat heeft ie gedaan volgens mij. Ja, gaat die taart groeien?
En het is echt belangrijk, hè, want, uh, uhm, effe g-, wij leefden niet toen de industriële re-revolutie kwam, maar toen was iedereen ook scared as you know what.
En, uhm, even elke keer is die werkloosheid gewoon naar beneden gegaan. Ja, ja. Je hebt het over personaliseren. En, uh, ik las een fantastisch stuk van Scott Belsky.
Dat is, uh, volgens mij een soort van innovation officer bij Adobe. Echt, hij heeft een heel vet blog en hij schrijft over onder andere de impact van AI op, uhm, op merken.
En hij stelt eigenlijk AI zal best wel een soort van ingrijpend effect hebben op de mate waarin wij als consument nu met merken omgaan.
Want we hebben straks AI's die, uh, eigenlijk a-, ChatGPT onthoudt de hele tijd allemaal dingen over je.
Dat ding kwam laatst, begon ie uit zichzelf over, omdat je pianospelen leuk vindt, uh, heb ik dit nu, uh, aanbe-, dat ik dacht hoe weet jij dit? Maar dat had ik blijkbaar ooit tegen het ding gezegd.
En dat gaan we nu op grotere schaal veel meer, uh, zien. Dat, dat AI systemen begrijpen wat je dieet is, wat je eerdere aankopen zijn geweest, wat je levensstijl is.
En zijn stelling is: dit zal gaan leiden tot verminderde merktrouw, omdat mensen hun persoonlijke AI meer gaan vertrouwen dan marketing.
Oftewel nu is het zo dat Coolblue, ik noem maar even random, uh, random voorbeeld, uh, kan zeggen, uh, deze tv is de beste voor jouw situatie, want jij houdt van gamen en bla bla bla.
Dat heb je net ingevuld en we vertrouwen nu, e, uh, Coolblue op die, uh, ja, als, als betrouwbaar merk of zo, uh, v-, uh, bij het maken van zo'n keuze.
Maar zou het niet zo kunnen zijn dat we eigenlijk ChatGPT veel meer gaan gebruik, meer gaan vertrouwen voor het maken van allerlei consumentenkeuzes dan we nu toevertrouwen aan merken?
Staan merken eigenlijk niet heel erg onder druk is mijn vraag. Ja, is het antwoord. En ik denk dat ze onder druk staan omdat er, omdat de manier waarop de consument,
uhm, interacteert met merken en hoe ze, uhm, wat merken vertellen consumeren, dat die, uh, aan het veranderen is. Mhmm.
En kijk, de basis van het, van hoe het werkt denk ik hoe, uhm, merkvoorkeur werkt, uhm, uh, zeg maar in het menselijk brein. Ik denk niet dat dat heel erg gaat veranderen.
Ik denk alleen dat waar nu jij alle keuzes die je net, uh, uh, maakte, zeg maar even in je Coolblue voorbeeld dat, uhm, als ik straks een agent heb die aan wie ik vraag wat de beste tv is, dan gaat die agent, die gaat daarnaar op zoek.
Dat is het research ding. Laat dat heel goed zien, hè. En dat, daar zit nuance in, want dat gaat niet, het is niet wat is het rijtje wat hij hier vond? Maar het is echt.
Hier heb je 50 artikelen en, uh, dit zijn je voorkeuren, dit is je bank. Gaat hij terug tegen je praten. Ja, slimme neefje. Al dat soort dingen.
Ja, echt exact inderdaad je slimme neefje of, uh, of je zoon die de printer moet fixen, maar dan de volgende versie.
Uhm, dus wat het vervolgens, uh, betekent voor merken is dat, uh, denk ik A mensen gaan op een andere manier zoeken naar informatie. Dus via ChatGPT en niet Google of wel via Gemini zou kunnen.
Uhm, dus A ze moeten vindbaar zijn, dus dat betekent echt al een hele grote verandering, hè. Ja.Even de gemiddelde klant is, uh, extreem slecht vindbaar binnen de verschillende, uhm, uh, AI search tools die er nu zijn.
Ja. Dus dat is een, een belangrijk onderdeel waar wij ook met onze klanten aan werken. Maar het tweede stuk en, want dat eerste stuk is nog best wel makkelijk.
Het is eigenlijk een versie van SEO, dus zoekmachineoptimalisatie, maar dan voor large language models. Dat heeft al een naam ook, toch? Ja, GGO, uh, uh, noemen we het. Generative.
Generative AI Engine Optimization denk ik dat het ongeveer betekent. Ja. Nou, en da-, even, dat doen wij veel. Voorbeeldjes MailChimp, die je ongetwijfeld kent. Uh, uh, mail tool of CRM tool, hoe je het wil noemen.
Nou, die kwamen in eerste instantie niet naar voren in ChatGPT en vervolgens hebben we, uh, een, uh, een, uh, LLM getraind om, uh, te laten zien wat is het effect als wij hun aanwezigheid op het internet gaan aanpassen.
Dus als we hun teksten gaan aanpassen et cetera, hoe word je dan meer zichtbaar? Nou, en dan vervolgens zie je dat in de test.
Dan pas je dat aan live en vervolgens kom je in hun, in hun case was het twaalf procent meer naar voren. Nou, dat is een hoop stuk meer dan wat ze daarvoor waren, dus dat is één stuk.
Maar het echt interessante ding is natuurlijk, is, uhm, hoe ga ik vervolgens, uhm, uh, als merk terugpraten tegen én de machines én de mens? Mhmm.
En ik denk dat, uhm, het toegankelijk maken van je informatie op een nieuwe manier die geoptimaliseerd is voor die, uhm, uh, uh, uh, uh, voor de AI tools dat die belangrijk is.
Dus, uh, even volgens m-, volgens mij, vorige week hadden jullie het ook over het voorbeeld van tickets boeken. Mhmm. En dat jij dat ook niet wil doen met een agent, want huh, weet je wel.
Maar w-waar dat eigenlijk over gaat is dat, uhm, het systeem hoe het nu gebouwd is door welke airline het ook is.
Dat is nu, zijn we eindeloos bezig geweest de afgelopen vijftien jaar om de user experience te optimaliseren. Dus hé, weet je welke kleuren, welke knop laat je weg en is dit geel of is het blauw en al die dingen.
En de volgende stap is dat elke plek waar jij je goederen ofwel verkoopt of een dienst aanbiedt.
Daar moet je eigenlijk de user experience gaan aanpassen naar hoe een AI daadwerkelijk die, uhm, op een makkelijkere, snellere manier die orders kan gaan plegen, die vragen kan gaan stellen en die informatie terug.
Het is geen user interface, maar een agent interface. E-exact. En dat is dus ook weer een voorbeeld wat denk ik heel concreet is voor heel veel bedrijven is. Ja.
Wacht even, ik heb nu, ik heb een website en ik heb een app en ik zit op Amazon en ik zit hier en ik heb dit en ik heb dat. Dit is allemaal commercieel, dit is allemaal service.
Ja, dan moet je dus opnieuw daarnaar gaan kijken. Dan moet je zeggen die moet ik deels behouden, want wij gaan de komende vijf jaar als mensen nog steeds ook op websites dingen checken.
Maar het moet daarnaast ervoor zorgen dat als een agent langskomt, dat die agent, weet je, zoals je vroeger de Google Crawler als die langs kwam, dat je daarvoor moet optimaliseren, wat je overigens nog steeds moet doen.
Dat moet je nu ook gaan doen voor die large language, uh, models.
En daar is de simpele versie daarvan is het voorbeeld wat ik voor MailChimp, uh, uh, gaf en de, de veel complexere modellen zijn echt, uh, ja, hoe ga je je, wat is een betere bestel versie van jouw product waar ChatGPT of Gemini of Llama of wie het ook is, waar zij harder op gaan dan de, dan de concurrent.
We gaan de komende tijd heel veel, uh, lessen van jullie horen in deze podcast. In, uh, in jullie podcast in een podcast, want dat is toch wel een concept wat jullie als marketeers weer knap hebben uitgevonden.
Podcastception. [lacht] Sorry. Dat is heel goed. Dat is heel goed. Uh, maar daar, ik kijk ernaar uit.
Want eigenlijk wat je zegt is we helpen bedrijven dromen over de wereld die voor, voor ons ligt, uh, met behulp van de technologie van vandaag eigenlijk. En dat is hard nodig.
En, uh, dank dat jullie daar ons in gaan meenemen. Dank voor dit gesprek. Dank jullie wel. En, uh, nou ja, wij hebben er, wij hebben er erg veel zin in. Mooi.
[muziek] Hoe reageren vrienden op, uh, de nieuwe vormgeving, uh, Wietse, die het al hebt laten zien? Uh, ze zijn, uh, benieuwd naar onze keuzes voor de albumcover. Het voelt als een albumcover, heb ik.
Alsof wij een band zijn. Mac, heb ik begrepen. Vind je dat die vibes hebben? Ja, vind ik wel niet verkeerd. Ik hou echt van Fleetwood Mac. Ja.
Nou nogmaals dank dan aan Panga voor het maken van onze band art en Sam Hengeveld voor het maken van de edit. Als je een lezing wil over AI van Wietse of van mij, dan kan dat. Mail ons op lezing@aireport.email.
En als je op de hoogte wil blijven van het laatste AI nieuws en twee keer per week tips en tools wil ontvangen, schrijf je dan op de nieuwsbrief via aireport.email.
En wil je vandaag nog beginnen met AI binnen jouw bedrijf? Ga naar deptagency.com/aireport voor meer informatie. Alle linkjes zijn te vinden in de shownotes. Tot volgende week. Tot volgende week.
[muziek]