Welkom bij AI Report, de grootste AI podcast van Nederland waar we uitzoeken welke invloed kunstmatige intelligentie heeft op ons werk, ons leven en de samenleving. Tegenover mij zit Wietse Hage. Hallo.
En ik ben Alexander Klöpping. Deze week: de Amerikaanse overheid haalde afgelopen vrijdag Claude Fable 5 uit de lucht, het beste AI-model ter wereld. Dat is een ding.
Beginnen Nederlandse politici zich nou eindelijk te beseffen hoe afhankelijk we precies zijn van Amerikanen?
XAI-moederbedrijf SpaceX realiseerde de grootste beursgang ooit en Elon Musk werd ondertussen 's werelds eerste biljonair. Dat is de staat van de wereld. Welkom bij AI Report. Veel plezier.
[muziek] Ik merk dus dat ik in de praktijk bijna iedereen aan het opnemen ben tegenwoordig. [gelach] Dit is gewoon opeens, dit is mij overkomen. Is dat dingetje wat je nu om je nek hebt helemaal geen sieraad?
Ik heb nu een sieraad aan, maar achterop mijn telefoon heb ik, ja, met een variant van ducttape en magneten zo'n, zo'n, uh, plaat, microfoon aan mijn telefoon geplakt en ik heb mijn telefoon altijd bij me, dus ik heb dit ding altijd bij me.
Ik vond de ketting dus niet goed genoeg. Die heb ik ook, maar die vergat ik, dus ik heb hem nu aan mijn telefoon. Dat is een beetje alsof ik hem aan mijn arm tatoeëer, zeg maar.
En ik merk dus dat ik echt alles begin op te nemen. En ik zeg het er keurig bij van tevoren: ik ga dit opnemen. En dan zie je mensen, ook wel vaag, zo vaak kijken, zo van: hmmm, oké.
Het is een beetje als een journalist die vroeger zo'n memorecorder op tafel [overspraak] restaurant. Ik, ik realiseer het me. Maar ik heb zo'n spijt als ik gesprekken niet heb opgenomen achteraf, omdat ik gewoon,
één: shit vergeet. Twee: opeens allerlei dingen dan moet gaan overtypen of uit mijn hoofd moet gaan navertellen aan een computer om er dan later wat mee te doen.
En in het beste geval dat ik zelf shit moet maken, terwijl dat ding zelf, ook het model zelf, die, die, die trekt dan de transcript eruit en dan, weet je, ik haal dat dan door een of andere agent, me-, heen die dan zelf gaat bepa-bepalen welke dingen die allemaal alvast kan gaan doen.
E-mails klaarzetten, presentaties maken, weet ik veel. En ik denk dus de hele tijd: dit is zo logisch, uh, dit gaat iedereen doen.
Zeg maar, ik, ik, ik, ik doe nu iets waarvan ik echt nu inmiddels zeker weet, Wietse, dat wij dit gaan doen over twee jaar. Maar er gebeurt nu ineens heel veel. Ja. Je weet het zeker. En wij, [lacht] Nou, ik, ja.
Veel meer mensen. Uh, misschien wel de meeste mensen. Ja. Nee, ik denk echt wij gaan, wij mensen gaan dit doen, denk ik. Allemaal en masse.
Dus ik denk ook dat, dat, dit, dit gaat in je, in je Apple Watch en in je iPhone. Soort van, e-, zeg maar, praten met AI erin die altijd luisteren.
Ik denk als je nu op straat gaat en mensen vragen: denk je dat je dat gaat doen? Denk je dat je een microfoon aan gaat zetten die de hele dag meeluistert met jou, met jouw gesprekken?
Dan zegt 99% van de mensen zegt: echt niet. En ik geef het op een briefje dat het over twee jaar zo is.
Ja, en ik leg er een ander briefje tegenover dat ik me kan voorstellen dat het absoluut veel vaker gaat gebeuren en ook echt wel genormaliseerd gaat worden. Maar dat ik me ook kan voorstellen dat als er een paar,
als er gedoe mee komt, hè, dus iemand, d-die, die komt erachter ineens, in het nieuws is, er, is er een zaak over een, uh, een man die iets heeft afgeluisterd bij zijn vrouw en dat mocht eigenlijk niet, maar toch wel.
Of zij heeft ooit gezegd dat hij zei, en dat hij zei. Ja. Dat mensen het soort besef ineens krijgen en dan weer terugdraaien. Uitzetten. En het niet helemaal laten verdwijnen.
Maar ik denk dat er een, uhm, kijk, ik merk het zelf ook, uh, zeker op plekken waar normaal genotuleerd wordt, hè, dat is de makkelijkste plek. Ja. De, ga, kan iemand alsjeblieft de notulen maken? Ja.
En dan zeg ik, hè, als, uh, uh, best wel paranoïde jongen, ben ik degene die zegt: zullen we het opnemen? Ben ik dan, hè. Mhm. Want ik denk: ja, er is een notulenmoment, er wordt om een notulist gevraagd.
Dit lijkt me nou de dui-, een duidelijke sociale context waar we kunnen opnemen. Maar dan heb je toch wel dat je denkt: ja, als notulist zou je nog niet alles op kunnen schrijven, hè.
Dus als er een grapje tussendoor gemaakt wordt of iets, dus dat vind ik- Onpaste opmerking. Ja, ik ben achter mijn eigen humor gekomen [gelach] doordat er wat vaker microfoons liggen.
Dat ik ook denk: nou, best wel questionable allemaal blijkbaar. [gelach] Ik heb een heel groot zelfbewustzijn gekregen door die microfoon. Ja.
Uhm, dus ik, ik, ik denk dat ik, ik kan je volgen in het feit dat net als met, er zijn overal camera's, er zijn overal smartphones met camera's erop en, uh, ook het soort verlangen om alles te fotograferen van mensen.
Ik zie ook een soort verlangen bij jou om alles op te nemen, omdat je dan denkt: dan kan ik het verwerken en dat is veel efficiënter en hoef ik het niet allemaal te onthouden. Dus ik zie dat verlangen.
Ik denk ook dat de normen gaan schuiven, maar ik denk niet dat het zo makkelijk is als, uh, dit gaat dan overal, uh, geaccepteerd worden. Maar laten we eens even heel concreet maken dan, want dit, nu wordt het vaagtaal.
Ja. Ik zeg dus over twee jaar meer dan de helft van de gesprekken die in zakelijke context plaatsvinden tussen mensen worden opgenomen. Jeetje. Ja, ik zou, [lacht]
uh, ja, da-dat- Even ongeacht hoe dat verwerkt wordt, hè. Dus of dat door een lokaal model wordt gedaan of een model uit China. Ja, ja, ja. Zoals ik dat doe [lacht] voor de helft. Nee, jij gaat echt, uh, vol aan, hè?
Ik ga ver, ik ga ver, ja. Ik kom die, die, ik krijg die nog wel een keer terug. Die, die, die, die, uh, kanonskogel in mijn gezicht.
Nee, jouw punt is dan: oké, laten we heel eventjes zeggen dat het allemaal, uh, binnen de wet, binnen de perken, bin-, lokaal, uh. Nee, mijn vraag is heel helder.
Namelijk: gaan mensen dit doen in meer dan de helft van de gevallen in zakelijke context? Van alle gesprekken die mensen, uh, voeren met elkaar. Als, uhm, in zakelijke context, zeg jij erbij. Ja, ja, ja.
Dat, dat verandert het heel erg voor mij. Want als ik merk in de grote context- Ik hoor jou ja zeggen. Nou, bijna. [gelach] Uhm,
laat ik het zo zeggen: ook in semi zakelijke context waar genotuleerd wordt, merk ik dat er teruggeduwd wordt op een andere manier dan: ik ben hier nog niet aan gewend, op een andere manier dan, uh, dit, d-dit, dit is een soort van, uh, telefoon, hè, dat bekende filmpje wat altijd, uh.
Wat bedoel je, andere manier? Uh, dieper, uh. Zo van: ik wil dit niet. Ja, op, op, op, vanuit een diepere- Op een onderbuikgevoel. Op een diepere onderbuik dan.
Een soort van: het is efficiënt, maar eigenlijk vind ik dit niet chill. Ja, ja. Ja, omdat ik denk dat we toch wel met elkaar, zeg maar die on of the record.
Ik denk dat de vergelijking niemand op de op de straat wilde een telefoon, een mobiel en uiteindelijk lopen we allemaal met die mobiel.
Niemand zegt nu dat ze opgenomen willen worden en uiteindelijk wordt iedereen opgenomen. Denk dat dat niet zo makkelijk te maken is, die twee. Nou, dat is een weddenschap. We hebben er een liggen nu. Wat zetten we. Erop?
On the record is die. Wat zetten we erop? Wietse? De eer. De eer. Nou, ik zou toch minimaal. Ik wil tokens. Er is ook een verschil tussen wat er komt en de hoop, hè? Dus ja, nee, daar hebben we het niet over, de hoop.
Dus we gaan er allemaal aan. Dat lijkt me heel helder. Goed. Voordat we eraan gaan, gaan we naar het nieuws. Maar voordat het nieuws gaat eerst een boodschap van onze sponsor Rockstars.
Een hele goedemiddag, mijn naam is Thijs Luijbregs van Team Rockstars IT en vandaag bij mij aangeschoven Simone van Erp, een van de co-owners van Team Rockstars IT.
Simone, jij bent met heel mooi nieuws binnen komen lopen, want de line-up van Rockstars Valley is bekend! Ja, dat is super leuk nieuws om te mogen delen!
Dus mocht je voor de eerste keer hierover horen Rockstars Valley is onze tech conferentie die we jaarlijks organiseren. En dinsdag 6 oktober kleuren we de Johan Cruijff Arena weer geheel zwart.
Met dit keer jou als dagvoorzitter Thijs. Hoe leuk is dat? Ja, ik heb er helemaal zin in, hoor! Nou, je bent niet de enige, want we kijken er allemaal heel erg naar uit. Dit jaar is het thema Engineering under pressure.
Want ja, laten we eerlijk zijn, druk komt uit alle hoeken van AI, geopolitiek. En die twee gecombineerd zorgen ook nog eens voor flinke security uitdagingen.
Dus we gebruiken de dag om mensen uit heel IT Nederland bij elkaar te komen en van elkaar en de sprekers te leren.
En over de sprekers gesproken, want volgens mij is er een hele bekende spreker aanwezig voor de luisteraars van deze podcast die dag. Klopt dat? Jazeker, want niemand minder dan de echte Wietse Hages zit op het podium.
Net als winnaar van de Slimste Mens en neurobioloog Bram Kleirank. Over omgaan met onzekerheid. We hebben ook cybersecurity kenner Inge Brian over onze geopolitieke uitdagingen en tientallen breakouts om je te verdiepen.
De uitreiking van de Rockstars Awards voor de beste IT-project van 2026 staan ook weer op het programma en je kan je project vanaf nu nomineren. En nu hoor ik dus net dat Edwin van der Sar op het podium staat.
Hoe vet is dat? Als luisteraar van deze podcast krijg je 20% korting op je tickets. Gebruik daarvoor de code AI report via de link in de shownotes of via Team Rockstars punt nl slash AI report.
Ik zie er in ieder geval onwijs naar uit! Dus tot oktober! We beginnen met het grootste verhaal van deze week.
De Amerikaanse overheid liet Anthropic afgelopen vrijdag zijn twee krachtigste AI-modellen uitzetten Fabel vijf en het nog krachtigere Mythos vijf.
Het was nog maar drie dagen oud voordat het Amerikaanse ministerie van Handel Anthropic de opdracht gaf om het model offline te halen.
Negentig minuten hadden ze ervoor om dat, dat uit te voeren via een exportverbod, want dat werd het bedrijf opgelegd.
Dat is een maatregel die technologie normaal gesproken uit handen van buitenlandse mogendheden moet houden.
Het is nog onduidelijk wat nou de exacte aanleiding voor de paniek was, maar de regering Trump lijkt aan te nemen dat er manieren zijn om de ingebouwde beveiliging van het model te omzeilen.
En daarmee zou Fabel gebruikt kunnen worden om bijvoorbeeld te hacken. Anthropic zegt juist dat de beveiliging goed werkt en dat de zorgen van de Amerikaanse overheid onterecht zijn.
Er is een hoop onduidelijk, maar ondertussen staan de modellen al een week op zwart. En het middel dat de Amerikanen gebruikten om Anthropic te dwingen het model offline te halen. Daar gaan we vandaag op inzoomen.
Want hoewel het model voor iedereen offline is, richt dat exportverbod zich expliciet op niet Amerikanen. Op ons dus.
En de expliciete bedoeling is onder andere dat wij Europeanen niet bij het beste AI-model ter wereld kunnen. En daarmee wordt er een sciencefiction scenario werkelijkheid.
De meest geavanceerde niet menselijke intelligentie op aarde wordt achter een hek gezet met een paspoort als toegangsbewijs.
Op de G7 kwamen gisteren de Europese leiders Trump en AI CEO's bij elkaar, maar een oplossing werd nog niet bereikt. SpaceX, het moederbedrijf van XAI, realiseerde de grootste beursgang uit de geschiedenis.
Het ruimtevaartbedrijf van Elon Musk ging vrijdag naar de Amerikaanse technologiebeurs Nasdaq en sloot bijna twintig minuten, 20% en sloot bijna 20% boven de introductieprijs. De beurswaarde kwam uit op $ 2,1 biljoen.
Dat is een twee met twaalf nullen. Dat zegt mij niet meer, maar Musk is veruit de grootste aandeelhouder en werd zo 's werelds eerste biljonair.
Voor de AI wereld is het de eerste beursgang, waarschijnlijk in een reeks en deze moest de toon zetten. Die toon is dus 20% boven de introductieprijs.
En Musk geeft dat vers opgehaalde geld meteen uit, want SpaceX kocht namelijk direct coding bedrijf Cursor voor $ 60 miljard.
Dat is een populaire tool om mee te vibe coden software bouwen door in gewone taal te beschrijven wat je wil. X eigen chatbot Grok bakt er op programmeer gebied nogal weinig van.
Dat zat Elon Musk nogal dwars de afgelopen maanden.
Zeker vergeleken met de coding skills van Cloud Code en Codex, die natuurlijk veel in het nieuws zijn geweest de afgelopen maanden, valt het allemaal vies tegen, maar met Cursor koopt SpaceX nu in één klap een bewezen product en een plek op de zakelijke AI markt.
[muziek] Dat model van Cursor, die hebben gewoon hun eigen programmeer model gemaakt, dus dat staat. Het is niet. Vroeger was het best grappig.
Cursor was 50% van de omzet van Anthropic omdat eigenlijk alle cloud code ja tokens in de praktijk werden gebruikt via de programmeer tool Cursor. Dat is waar eenmaal. Ik denk een jaar geleden of zo was dat.
Ja, was dat de meest gebruikte tool. Maar ondertussen, ja, die dachten natuurlijk ook bij Cursor oké, we hebben nu een soort scaffold gemaakt.
Een tool waarmee we mensen kunnen laten programmeren, maar we zijn afhankelijk van Anthropic. Sterker nog, wij leveren de helft van de omzet van Anthropic. Dit is niet helemaal handig.
We hebben geen motoren, we hebben geen diamanten. Precies. En toen zijn ze zelf een eigen programmeer model gemaakt. Wat heel goed is toch? Ja, het is wel. Het is een fine tune.
Ik bedoel dus ik zeg het alleen maar even bij dat ze niet vanaf het vanaf nul zijn begonnen. Het is een fine tune van een Chinees model, maar wel met al die data erbij die alleen Cursor heeft van gebruik.
Door ontwikkelaars en ook nog geanonimiseerd code. Ja. En als je dat natuurlijk, dat is eigenlijk hun motto uiteindelijk geworden is al die bewegingsdata als het ware. Al die gebruikersdata. Ja. En het is nu goedkoper.
Het is een goedkoop model om mee te programmeren. Ja, dus het wordt eigenlijk een beetje ingezet als, kijk, de vraag is natuurlijk sowieso: heb je altijd die allerzwaarste modellen nodig? Ja.
Of ben je gewoon een beetje bugjes aan het oplossen of heel veel repetitief werk aan het doen?
En blijkt gewoon dat die mid tier modellen, die dus gewoon lekker een voldoende of iets hoger scoren, prima zijn voor X procent van de taken die een softwareontwikkelaar op een dag doet.
Je hoeft niet de hele tijd Opus of, rest in peace, Fable te gebruiken.
Ja, en, en eigenlijk is dus kan zo'n kleiner, simpeler model voor die programmeertaken, wat niet de simpelste taken zijn, dus het is een medium simpel model, uuuh, eigenlijk net zo effectief zijn voor 10 keer zo weinig geld.
Dat is- Ook natuurlijk omdat het geen boeken kan schrijven, hè, of in ieder geval matige boeken zou schrijven.
Daarmee bedoel ik te zeggen: hij is natuurlijk helemaal gefinetuned op het, op de taak software maken, dus het is een expert als het ware. Ja.
Verwacht je er wat van, uuuh, uh, uh, nu dit onderdeel is van, uh, van SpaceX?
Nou, ik denk strategisch gezien is het slim omdat je uiteindelijk, uh, nu Anthropic blijkbaar en ook, uh, OpenAI met Codex zoveel, uh, gebruikers, uh, kan binnenhalen en tokens kan verkopen op softwareontwikkeling. Ja.
De eerste succesvolle killer app eigenlijk van taalmodellen.
Dat, uh, als xAI ook daadwerkelijk geld wil gaan verdienen, wat ook belangrijk is, dus iets van een, uh, inkomstenstroom wil creëren, dat ze een alternatief moeten hebben voor softwareontwikkelaars.
En dan is, uh, Cursor kopen de enige optie die je bijna hebt om als het ware je achter-achterstand in één keer grotendeels in te halen.
We moeten nu, nu gaan zien wat er gebeurt als al die data die Cursor heeft verzameld door de jaren heen, uh, gecombineerd met de ongelooflijke, uh, computerkracht die xAI onder zich heeft.
Dat je daar een finetune doet van Grok. Wat, en dan heb je zeg maar Grok Codex als het ware, [lacht] het softwaremodel van xAI. Want dan krijg je als het ware, uh, best of, best of both worlds.
Al die statistieken en data van Cursor gecombineerd met die enorme computerkracht van xAI. Die Elon Musk stiekem heeft verzameld. Stiekem. En nu verhuurd aan de concurrenten. En nu verhuurt.
Dat is opvallend natuurlijk, want X zit onder de computerkracht die aan Google geleverd wordt. Onder andere Anthropic draait. Anthropic draait. Schijn, uh, waarschijnlijk, ogenschijnlijk, uh, Fable, uh, op, uh, deels.
Op Elon Musk zijn datacentra.
Ja, want zij natuurlijk zagen bij: wij gaan zoveel, uh, nieuwe gebruik zien bij Google door, door de integratie in de zoekmachine en Gmail en bij, uh, Anthropic met de introductie van veel zwaardere modellen.
Je kan niet zo snel datacenters bouwen als dat Elon Musk ze al heeft gebouwd. En hij heeft dus gewoon eigenlijk on, uh, ja, een hunch, want hij had zelf niet de, hij kon die compute niet kwijt eigenlijk.
Of in ieder geval niet effectiever dan anderen dat konden, anders had hij het niet verhuurd aan anderen.
Hij heeft dus eigenlijk op basis van een hunch dat hij daar, dat hij dat nodig zou gaan hebben, heeft hij die enorme hoeveelheid datacentra gebouwd. Nou, de kaarten gekocht, zeg maar. De kaarten gekocht.
De GPU's gekocht en de gebouwen gebouwd. Eigenlijk wat Europa zou moeten doen heeft hij gedaan. Ja, ja. En daardoor kan hij nu dit bedrijf kopen en dan, uh, die compute zelf gaan uitgeven in, in zijn bedrijf.
Twee lezingen, hè, want je hebt de lezing, of in ieder geval twee dingen zijn denk ik tegelijk waar. Het is een, uh, goede investering gebleken om op, om zo vroeg al zoveel computerkracht te kopen. Ja.
Dat is uiteindelijk fysiek. Dat zet je niet even aan. Dat moet je gaan bouwen. Moet je gaan graven, moet je beton storten, zeg maar. Dus dat heeft een bepaalde, uh, run, uh, runtime of een, uh, opbouwtijd. Aanlooptijd.
Dank je wel. Mooi Nederlands woord. Dank je wel. En, uh, tegelijkertijd dat, uh, dat ze het nu bij xAI eigenlijk niet kunnen gebruiken is natuurlijk niet positief, hè.
De reden dat ze het aan het verhuren zijn- Ja...is omdat het hun niet gelukt is de softwarekant van het hele verhaal te kunnen schalen. Ja. Hè, dus ze hebben eigenlijk heel veel- Want anders had hij het wel gedaan. Ja.
Het is want vast betaalt Anthropic de hoofdprijs ervoor op dit moment, maar als hij het ook maar in eigen beheer had kunnen doen, had hij dat gedaan. Ja. Dus het is ook een soort knieval. Precies, tegelijk. Ja.
Want het, het is een, het, het voelt een soort slim, omdat je denkt: jij hebt al die, uh, ja, al die scheppen gekocht voor de goldrush. Ja. Slim gedaan. En die scheppen zijn op. Ja.
Dus, uh, ge-gefeliciteerd met je aankoop. Maar hij is niet zijn eigen mijn aan het graven nu. Ja, ja, ja, ja.
Kijk, en die eigen mijn, die zouden wij maar wat graag in Europa willen hebben, want we hebben de afgelopen week gezien wat er gebeurt als je afhankelijk bent van de mijn van een ander.
Maar voordat we daar komen eerst een boodschap van onze sponsor Samsung. [muziek] Samsung heeft in het Verenigd Koninkrijk onderzoek laten doen naar mensen hun cameragebruik.
96% van de mensen heeft ooit zijn telefoon weggelegd in het donker omdat de camera het niet aankon. En 40% van de mensen zegt: ik heb daardoor een belangrijk moment gemist.
Een bruiloft, een diner, kaarsjes uitblazen, want de camera kon het niet aan. Bijna de helft van wat we als mensen meemaken gebeurt natuurlijk na zonsondergang.
De diners die uitlopen, het kaarslicht op een bruiloft, een borrel die overgaat in een gesprek. En daarvan komt een groot deel niet fatsoenlijk in de fotorol terecht.
Want we documenteren ons leven, dus uiteindelijk onbedoeld asymmetrisch, alleen tijdens de uren met goed licht. Op de S26 Ultra heeft Samsung daar verder aan gewerkt. Geen feature die vandaag is uitgevonden.
Nachtfotografie bestaat al een paar jaar, maar wat de S26 doet, is het nu echt goed integreren. Drie dingen samen: de lens gaat verder open, 47% meer licht binnen. Er zit een nieuwe AI-laag in.
De image signal processor haalt per frame de ruis eruit, afgestemd op de sensor zelf. En je hoeft niet meer met verstopte knopjes de boel aan te zetten, want de software detecteert het zelf.
Het effect: de andere helft van de dag wordt ook vastlegtbaar. [muziek] De Amerikaanse overheid liet Anthropic twee modellen dus uitzetten.
Mythos 5 en Fable 5, de belangrijkste AI-modellen ter wereld, die het dus drie dagen hebben volgehouden, wiet ze. Eén daarvan is de consumentenversie. Die noemen we Fabel en één daarvan is de pure versie.
Ook allerlei cybersecurity dingetjes kan doen. Mythos vijf. En vorige week namen we op en waren we in een jubelstemming over het feit dat dit model uit was en wat we er allemaal mee konden. Dat was donderdag.
Toen werd het vrijdag en toen werd het weekend en op maandagochtend kwam ik op kantoor en ik kon het model niet meer gebruiken.
Dat is overigens geen nieuws, want dat nieuws kwam zaterdagochtend ongeveer tot ons en toen was ik toch wel. Ik heb jou in het weekend geappt. Dat doen we eigenlijk niet. In staat van paniek.
Laten we beginnen bij het begin. Wat gebeurde er precies? Afgelopen vrijdag kreeg Anthropic een bevel van het ministerie van Handel
en de opdracht was om Fabel en Mythos af te snijden, toegang daartoe af te snijden voor elke niet Amerikaan, waar ook ter wereld.
Dus dat betekent zelfs Anthropic eigen medewerkers die niet uit Amerika komen, moesten geen toegang meer hebben tot dit model.
Dat is een ingewikkelde opdracht, want hoe weet Anthropic welke gebruikers Amerikaan zijn of niet?
Daarbovenop kwam dat ze negentig minuten hadden om aan dat bevel te gehoorzamen en dat er ook niet in stond waarom ze precies de toegang moesten afsnijden voor niet Amerikanen.
Anthropic heeft toen binnen een kwartier met de Amerikanen gebeld, met de overheid gebeld. Daar kwam niet meer uitleg en toen hebben ze het maar gewoon uitgezet voor iedereen.
Het is een beetje gissen nog steeds naar wat nou de aanleiding is van dit geheel. Amerikaanse media hebben het over een jailbreak, een manier om de ingebouwde beveiliging van een model te omzeilen.
En dan wordt met name gewezen naar, opvallend genoeg Amazon. Want onderzoekers van Amazon ontdekten dat je Fabel kan overhalen om zwakke plekken in software op te sporen.
Dat is precies het werk wat cybersecurity experts dagelijks doen. En die Amazon onderzoekers zetten dat in een rapport, deelden dat rapport met een deel van de Amerikaanse overheid.
Toen hadden zij een reguliere call Amazon met de Amerikaanse overheid. En die paper van die onderzoekers kwam op in die call.
Daar werd gesuggereerd dat Amazon toch maar even met de minister moet bellen, moest bellen om meer uitleg te geven. Amazon ging daarbij akkoord. Dus die call kwam er en daarna escaleerde de boel vrij snel.
Nadat hij dus die minister erbij betrokken werd. Belangrijke context hierbij is dat Amazon geen rivaal is van Anthropic die het bedrijf een hak wil zetten.
Dat zouden we van Sam Altman misschien verwachten, maar van Amazon niet, want het is namelijk een investeerder in Anthropic met $ 13 miljard, dus dat zou een beetje gek zijn. Het lijkt een beetje
uit de hand gelopen te zijn, zullen we maar zeggen. Terug naar Anthropic.
Die noemde de kwetsbaarheid klein en allang bekend en wees erop dat andere modellen die wel beschikbaar blijven, waaronder OpenAI's GPT 55, precies dezelfde kwetsbaarheden hebben en een model volledig bestand maken tegen alle jailbreaks, is volgens Anthropic en vrijwel alle experts überhaupt simpelweg onmogelijk.
Waarom er dan zo toch zo zwaar werd ingegrepen is vooralsnog onduidelijk. Dus het is een beetje gissen. Maar ik zal toch de takes maar een beetje opsommen voor je.
Naar verluidst staat de Amerikaanse cyberbaas al weken onder druk om strenger op te treden tegen de risico's van de nieuwste modellen. Dat is dus interne druk binnen de Trump-regering.
Daarnaast is er natuurlijk een voorgeschiedenis tussen de regering-Trump en Anthropic.
Alles ligt daar gevoelig sinds Anthropic eerder weigerde om haar nieuwe modellen door het Pentagon te laten gebruiken voor surveillance en oorlogsdoeleinden. Dat is
iets wat Anthropic weigerde, waarop de Amerikaanse minister van Oorlog Anthropic beoordeelde als een supply chain risk, waardoor het bedrijf effectief werd verbannen uit de organisatie van de Amerikaanse overheid.
Daar was heel veel gedoe en daarnaast noemde de president Trump het bedrijf al eerder een op hol geslagen radicaal links AI-bedrijf. Dus er zit ook nog een dosis culture wars in. Dat zijn de takes die ik kon vinden.
Heb jij daar nog takes om aan toe te voegen die iets van begrip probeert, waardoor we iets meer begrip krijgen van waarom dit nou zo uit de hand is gelopen? Uhm, nou ja, wat jij, de takes die je nu geeft.
Ik denk dat er allemaal kernen van waarheid in zitten en dat het altijd weer van die groepen zijn binnen een grotere groep die er andere belangen bij heeft en die er meteen op. Je moet je voorstellen,
Amazon meldt dit niet eens uit een soort negativiteit, want ze zijn investeerder in Anthropic. Draaien de modellen, dus dat is dat is een beetje gek eigenlijk als het dan daaruit komt. Maar goed, die melden dat dan.
Daar, daar, ik, dit is even mijn lezing, hoor.
Daar springt dan een groepje op die denkt: oeh, dat is wel interessant dat daar nu zo'n melding is en dat we dan misschien wel Anthropic een beetje onder druk kunnen gaan zetten, want die moeten we in het gareel krijgen eigenlijk.
Precies. Je bedoelt te zeggen: het zou zomaar kunnen dat er binnen de Trump-regering mensen dachten: dit kunnen we politiek maken. Ja, dit is een prettig moment. Met een alibi. Want wij haten Anthropic.
Ja, zo'n jailbreak alibi is dan wel een lekkere alibi om ook eventjes een power move te doen. Eigenlijk te laten zien even je spieren te laten zien van: weet wel, als wij willen, dan zetten we het uit.
Ja, dit zou kunnen, maar dit is dus speculeren. Wij weten het niet. Wij weten het niet. Het is wel interessant dat, kijk, Dario Amade, CEO Anthropic.
Wij hebben het vaak over hem gehad, al in deze podcast en alle brieven die hij steeds publiceert met al zijn zorgen erin. Het feit dat hun Mythos door eigenlijk Anthropic zelf een soort wapen genoemd wordt. Ja.
Dan is het natuurlijk ook wel logisch dat als jij zelf de hele tijd zegt: ik heb hier iets heel gevaarlijks, ik heb hier iets heel gevaarlijks.
Dat op een gegeven moment overheden gaan zeggen: o, zet dat gevaarlijke maar uit dan. Ja. Dus het voelt ook een beetje. Het is een beetje grappig aan deze situatie.
Dat, dat, dat is als je met een afstandje naar kijkt, dan is het moeilijk om Anthropic niet uit te lachen. Want eerst zeggen ze de hele tijd: kijk ons, ik heb, ik heb iets heel geks gedaan.
Ik heb een bom gemaakt, die is heel gevaarlijk. Die gaan wij, die kunnen we echt niet geven aan de mensen. We geven hem toch aan je. O, hij wordt, hij wordt verboden. De bom. Hoezo? Ja, dus het voelt.
Er zit een soort typische, het is het krantencomic in, in dit hele. Kan je met vier plaatjes uitleggen. Ja, precies. Ja. Dus ja, je moet niet roepen dat je iets heel gevaarlijks hebt en dan boos zijn als mensen.
Ik hoor jou een maar. Een maar komt hier aan. Nou, het is, het is een beetje gek omdat. We hebben natuurlijk benchmarks. Daar kan je van alles van vinden. De grote Cito-toets van de AI.
Je hebt ook meta benchmarks, oftewel bedrijven die al die benchmarks bij elkaar optellen. En daar komen dan een soort grafieken uit waardoor je kunt zien hoe Mythos/Fabel zich verhoudt tot die andere modellen. Ja.
De GPT 55 en de Gemini's et cetera. Ja. Zo'n grote sprong was het nou ook weer niet.
Dus het is, het, het voelt wel een beetje— kijk, als dit model nou, laten we even zeggen, twee keer zo goed was als, als het beste model van OpenAI, dan voelt het logischer dat je daar- Dus je bedoelt te zeggen: dit is vooral op basis van vibes allemaal, in plaats van op basis van de daadwerkelijke feitelijke capaciteit van het model die we kunnen afmeten aan de benchmarks.
Ja, ook als je kijkt, de jailbreaker waar jij het net over had. Dus het idee dat je het model iets kan laten doen wat hij eigenlijk niet mocht doen. Dus je komt, je breekt uit de gevangenis van de regels.
In dit geval van Fable is het enige verschil tussen Mythos en Fable die extra regels. Ja. Daaronder zit hetzelfde model. Het is, zeg maar, Mythos met extra regels. Ja.
Als jij dan kan laten zien, als Amazon zeide: kijk, zo kan je door die extra regels heen. Dan zeg je dus eigenlijk tegen de Amerikaanse overheid: en daardoor heeft iedereen nu toegang tot Mythos.
Ja, waar, waar het bedrijf zelf zo voor heeft gewaarschuwd. Wat ze bijna niet zelf wilden releasen. Ja, dus het is, het is ook bijna, bijna bizar dat Anthropic dit niet heeft zien aankomen, uh, deze situatie.
Voelt een beetje als een beetje over jezelf afgeroepen, want, en ik denk dat, uh, wat de, dit verhaal zo uiteindelijk voor ons, jij en ik, zo interessant maakt om over te hebben, is, wij kunnen nu speculeren welke groepjes het waren, wie wie in de hak wilden zetten en of het wel, of, of exportcontrole het juiste middel is, et cetera.
Het is nu gebeurd. Ja. Het model is uit. Ja. Niemand kan er meer bij.
Het is op een manier gedaan, hè, daar worden ook verschillende dingen over gezegd, van: is die exportcontrole de, voor hun, voor de overheid, de makkelijkste manier geweest om impliciet eigenlijk te dwingen om hem helemaal uit te zetten?
Omdat zij natuurlijk dondersgoed wisten: jullie weten het verschil tussen jullie gebruikers niet echt, hè.
Dus als we zeggen: Amerikanen mag nog wel, dan, dan lukt dat helemaal niet, is het de facto een volledige uitschakeling. Of ander narratief, hè.
We, we dwalen nog een beetje rond in uitleg nu, de la-de laatste week, is, is het, was het wel echt het doel om te zeggen: jullie mogen weer online als je wel kan laten zien dat je het alleen aan Amerikanen geeft?
Ja, laten we op dat laatste scenario dadelijk inzoomen.
Maar nog even, kijk, puur en alleen een overheid, de Amerikaanse overheid, die in feite nu, uh, een soort van vergunningstelsel heeft ingevoerd, zou je kunnen zeggen.
Dat is misschien niet helemaal het middel waar een exportverbod voor bedoeld is, maar in feite hebben ze nu een manier die in de praktijk gebruikt kan worden om ieder AI-model uit of aan te laten zetten.
Dit kunnen ze ook bij andere bedrijven potentieel nu doen.
Uh, dat is nu een middel wat is ingezet en waarbij je ook zou kunnen zeggen: Anthropic, die altijd zo inzoomt op veiligheid en die zegt: wij moeten gereguleerd worden. Da's gebeurd nu.
Dus er is nu een stelsel waarbij een Amerikaanse overheid om haar moverende redenen, uh, en in dit geval dan veiligheid, kan zeggen: dit gaat uit nu, want we kunnen de gevolgen niet overzien.
Of: jullie hebben je veiligheid niet op orde. Is dat niet eigenlijk uiteindelijk een hele goede uitgangssituatie? Dat een overheid, uh, op haar manier, uh, betere tests kan draaien dan wie dan ook?
Want waarschijnlijk stoppen zij, de Amerikaanse overheid, kop, st-stopt waarschijnlijk meer geld in het, uh, doen van eigen evals dan, uh, wie, welke andere natie dan ook ter wereld.
Misschien is het juist heel goed dat, weet je, een, een overheid die een, een NSA en een, uh, weet je, allemaal, uh, onderdelen heeft, een, een, een, uhm, een Pentagon, allemaal onderdelen in zich heeft die het goed op zijn merites kan beschouwen, kan zeggen: dit is niet goed beveiligd, dit gaat nu uit.
Ik had letterlijk een vriend van mij die mij appte: dit wilde jij toch, Wietse? Ja, dit wilde jij toch? Jij zit altijd een beetje bang te doen en altijd die brieven van Dario Amadei voor te lezen. Nou, daar heb je het.
Als Obama het had gedaan, had je het prima gevonden. Ja, nou, dat werd niet geappt, [lacht] maar dat krijg ik nu met een glimlach naar me toe. Ie-in ieder geval.
Kijk, uhm, laten we even zeggen, hè, want dat maakt de discussie of, of het soort van reflecteren op dit alles wat, wat makkelijker, denk ik, en wat zuiverderder, is dat, uh, stel het was niet lomp gedaan.
Het is wel een beetje lomp gedaan. Zeker. Oké, er was gedaan volgens een, uh, volgens een bepaald kader, uh, met de benchmarks erbij, uh, die ook nog eens- En die private evals. Ja, precies. Private evals.
Private evals met afspraak onderling. En alle bedrijven komen dan samen en er wordt een overlegje gedaan en, nou, in, je kan dit anders doen, laat ik het dan zo zeggen.
En ik denk ook dat, dat, dat dit trouwens opgetuigd wordt, uh, maar dat is er nog niet. Ja. Dus het is, d-dus het is nu vrij lomp gegaan. En stel dat het wel was geweest dat ze dat exportverbod niet hadden hoeven doen.
Want wat ik begrepen heb, is dat er eerder gevraagd is die dag: willen jullie het uitzetten? Trouwens, er is niks gevraagd. Zo werkt het niet. Jullie moeten het uitzetten.
Dat daar niet op gereageerd is, dat het exportverbod eroverheen gekomen is als een soort hamer.
Ja, de, de Trump, de, de Trump administration zegt bij wijze van anonieme bronnen dat ze het echt geprobeerd hebben om Anthropic het uit te laten zetten.
Daarbij zeiden ze trouwens ook dat Dario Amadei in een wellness retreat was, dus dat het daarom [lacht]. Dit heb ik even uitgezocht. Dat was niet zo. Nee.
Het was wel zo [gelach] dat hij niet, dat hij, niet hier zien zitten in zijn badjas, hè. Maar goed, dat hij niet— het is wel zo, of in ieder geval, dat is nog niet tegengesproken. Hij heeft niet gereageerd. Ja.
Niet snel. Hij wilde duidelijk niet uitzetten. Nee, en dat, die power move. Nee, maar ook dat hij zelf niet in de call kwam, zeg maar. Nee, precies. Ik bedoel, het is natuurlijk, je wilt dat er wat aandacht krijgt.
Ik ben ook benieuwd hoe zoiets werkt. Wie verzint zoiets? Nou ja, dit werkt gewoon zoals iedere matige Netflixserie. Het is echt, de realiteit is gewoon zo. House of Cards. Maar goed.
Iemand die iets verkeerd heeft verstaan. En dat, dat komt dan daadwerkelijk in New York Times, dat Dario Amadei in een wellness retreat zat en daarom- Dit heeft waarschijnlijk iemand als grapje zo half lachend gezegd.
Ik hoop het. Maar goed, in ieder geval, daar is allemaal frictie met een heel verleden. Power moves, groepjes, het zal allemaal wel. Ja.
Maar stel dat dit gegaan was, dat ze het uit hadden gezet zonder dat narratief erbij van Amerikanen en niet-Amerikanen. Want die verwart het narratief nu een beetje.
Daar gaan we het straks wel over hebben, want het is wel belangrijk. Ja. Maar als het nu was, er is een kader, de evals, de benchmarks, et cetera. Het proces is gevolgd. Dat kan binnen 24 uur.
Uh, trouwens, ieder model wat uitgebracht wordt, moet daar eerst door, doorheen. Dit hebben ze al bekend gemaakt, hè. Dit zijn ze nu aan het doen, ja.
Dit, dit, dit neemt de Trump-regering credit where credit is due heel serieus. Die evals beginnen een heel serieus onderdeel te worden van hoe zij beleid maken. Nog voordat wij ze ooit mogen zien.
Voordat zij ze ook mogen zien. En daar, de, de, weet je, kan je van zeggen wat je wil, omdat je Trump niet vertrouwt. Dat, dat is een beetje in Europa, de
Uhm ja, de, de teneur en dat begrijp ik ook, maar ze zijn wel dit aan het doen. Dat, weet je. Terwijl wij GPTNL bouwen, zullen we maar zeggen. Nee, maar en je mag er ook van uitgaan dat er wel een groep mensen is.
Ik, ik geloof dus allemaal in groepjes. Dat, dat er een groep mensen is die wel zoiets heeft van: ja, wij gaan gewoon samenwerken met de Trump administration, want wij zien hier gewoon gevaren in.
En als dit wel in de verkeerde handen valt. Ik denk daarom, het feit dat het bij Amazon vandaan gekomen is, die er eigenlijk belang bij heeft om Anthropic niet te schaden, maakt het heel zuiver.
Goed, uhm, stel nou dat het zo was geweest dat ze wel die processen hadden gevolgd, wel die eval hadden gedaan en dan hadden gezegd: joh, die Mythos mogen jullie ook niet als Fable op de markt brengen.
En dat was het nieuws geweest. Dan hadden we nu een iets makkelijker gesprek gehad wat mij betreft.
Want ja, uh, vooraanstaande AI-labs dwingen om in, uh, nou ja, ik wou zeggen alle rust, maar in ieder geval met enige vorm van- Op pauze te drukken. Ja, ik, ik denk dat dat geen slecht idee is. Nee.
Uh, en dit is deze lompe actie is daar een soort, uh, onderdeel van.
Wat nu wel gebeurd is, is dat het, uh, er in, in het exportverbod staat dat wij als niet Amerikanen, dus jij en ik, Alexander Klöpping en Wytse Hagedoorn, niet meer met Fable mogen werken, terwijl mogelijk die volgende week maandag weer online komt voor Amerikanen.
Even losgelaten hoe ze dat moeten doen met paspoorten scannen en zo, wat een ander vraagstuk is. Maar stel dat lukt, dat komt iets eerder.
Dat scenario, namelijk frontier models alleen nog maar voor de burgers van een bepaalde nation state versus de rest van de wereld, komt veel eerder dan de meeste scenario's zeiden.
Maar laten we, laten we hier op dubbelklikken, zoals Amerikaanse podcasters ambachtelijk te zeggen. Want afgelopen zaterdag werd ik dus wakker en, uh, ik verba-- dit kwam tot mij door duizend, duizend berichten.
Ik dacht dat ik wel de eerste was, man. 6.00 uur. Ik was echt vroeg. Ja, je, maar jij zat daar zeker bij. Uhm, en hier viel ik over.
Ik viel niet over het feit dat Fable uit de lucht was getrokken, maar dat eigenlijk het idee is dat wij het niet mogen gebruiken. Toen dacht ik: ik ga naar de NOS. Ik ben benieuwd wat ze ervan gebakken hebben. Doodstil.
Ik dacht: oké, nou, ik ga naar de site van de Volkskrant. Doodstil. Telegraaf, AD. Ik dacht: ik ga eens wat internationale kranten, de FT of, uhm, Duitse kranten of Franse kranten. Helemaal niks.
En dat duurde en dat duurde. En ik dacht: dit is gewoon, dit is de waterscheiding.
Dit is het moment waarop wat we al zo lang zien aankomen, namelijk dat de Amerikanen die heer en meester zijn, uh, op het gebied van grote taalmodellen.
Dit is de eerste stap waarin zij hun eigen bedrijven of hun eigen overheid in eerste instantie gaan voortrekken en niet dezelfde capaciteiten met ons delen.
Hier gaan wij de soort van second tier burgers worden die, uh, mooi haiku en sonnet en opus mogen pruttelen. Haiku forever. Maar wij gaan niet het beste krijgen.
En holy shit, dat gaat betekenen dat ze, uh, een ingebouwd voordeel gaan hebben in alles wat autonome wapens betekent.
Dat betekent dat ze een ingebouwd voordeel hebben op alles wat soort van, uhm, hoe een, als een, als een economie steeds meer op taalmodellen gaat draaien. En dat is een aanname die ik half doe in mijn hoofd.
Dan hebben zij de beste modellen. Gaat dat betekenen dat Amerikaanse bedrijven gaan concurreren met lokale bedrijfjes hier in Nederland?
Omdat die grote modellen opeens zoveel context aankunnen dat ze de moeite kunnen nemen om met lokale bedrijfjes hier in Nederland te concurreren. Is dit, is dit, is dit dan waar onze kenniseconomie naar gaat?
Ik, mijn hoofd ging helemaal, ging helemaal aan. Is dat hysterisch? Uh, nou, uh, ik zou, nee, is, is dat, is dat hysterisch? Uh, nee, ik denk dat het wel meevalt. Als in hoe hysterisch dat is.
Wat ik, wat ik denk dat helpt, is, want jij zegt nu het woord taalmodellen. Uh, ik gebruik dat woord ook vaak, want dat is technisch wat er aan de hand is. Maar misschien moeten we het gewoon hebben over agents.
Oké, agents als in synthetische, uh, machientjes die onderzoek kunnen doen, die, uh, software kunnen maken, uh, die, uh, je met duizend PhD'ers in een datacenter kan hebben, zoals Demis Hassabis zegt.
Als je er nou even van uitgaat dat AI is agents. Even los van dat die taalmodellen gebruiken eronder, gewoon agents. En die agents hebben een brein.
En, uh, wat nu in die, uh, in die order staat zoals die vanuit de Amerikaanse overheid gekomen is, is dat alleen Amerikanen nog agents mogen hebben met de hersencapaciteit die Anthropic op dit moment kan leveren.
En dat betekent- Dan klinkt het al een stuk heftiger, bedoel je?
Ja, ja, want dat, dat betekent dat je dus je, je workforce, uh, en je, je mentale, uh, slagkracht, uh, kunt uitbreiden met synthetische wezentjes in de vorm van agents.
En wij hier in Europa niet meer, of in ieder geval niet met de breincapaciteit, niet met het, uh, nou ja, IQ equivalent, hè, synthetisch IQ van de agents die de Amerikanen, uh, hebben. Ja.
En ik denk dat, als we nou gewoon even, even parkeren wat er allemaal gebeurd is rondom Fable, maar eindigen enkel en alleen en inzoomen, dubbelklikken, zoals jij mooi zegt, op het feit dat wat er nu staat, is een stuk tekst waarin staat dat wij er niet meer bij mogen, maar als Anthropic het goed kan scheiden, de Amerikanen nog wel.
Ja.
Dat we veel sneller in de situatie beland zijn, jij en ik nu, niet meer sciencefiction scenario's, waarin slimme agents met de hoogste hersencapaciteit die mogelijk is in die synthetische modellen, alleen nog maar toegankelijk zijn voor iemand met een Amerikaans paspoort.
Ja. En dat is wel een, uh, een enorme beweging. Uh, en waarom zeg ik dat? Dus ik, jouw hysterie, uh, ga ik, ga ik niet te hard tegen, uh, terugduwen. Die, uh, ja, dit, dit is gewoon het, het precedent wat gezet wordt nu.
Ja. Is dit dan nu hoe het gaat zijn? Ja. En ik denk ook daarbij, uh, goed, dat, dat is, uh, misschien is, nou, dat is, ben, ik ben daar echt niet de enige in.
Ik heb toch nog gewoon altijd het idee dat we een soort, uh, onvoorwaardelijke vrienden zijn. Wij en de Amerikanen. Dat we, dat we een, uh, allies zijn die alles zullen delen. Ja. En dat is ook een soort pijn nu.
Kom niet te, te dramatisch doen, maar het is ook weer, weer, weer pijnlijk gewoon. Ja. Dat wij dat dus, dat wij er niet bij horen nu. Ja.
Ja, want ik dacht ook: oké, dus nu is dit, als je gewoon de letter van dat exportverbod volgt, dan kun je dus nu een identiteitscheck inbouwen als je Anthropic bent, zoals je ook- Die technisch er al is, hè, voor de duidelijkheid.
Anthropic doet hem nu wanneer zij willen en twijfelen over jouw leeftijd. Moet je met Persona jezelf doen. Ik weet niet of jij dat weleens hebt gehad. Nee. OpenAI heeft hem ook. Doe ik wel alleen maar zeggen.
Zij doen al identiteitschecks en dat gaat dan over leeftijd. Ja, maar goed, die, ik wil alleen maar zeggen: dat is er allemaal al technisch. Uh, hij staat alleen niet standaard aan voor iedereen.
Ja, maar even, ze zouden, kijk, zij krijgen dat, dat ding binnen, dat exportverbod waarin staat: alleen nog maar Amerikanen moeten jouw tools kunnen gebruiken.
Ze hebben het nu gewoon uitgezet omdat het makkelijker was, denk ik. Ja, dan, dan gaan we, daar, dat is waar we allemaal van uitgaan.
Dat soort van: het is eenvoudiger om het hele ding uit te zetten dan iets te maken waarbij geen Amerikaan, waarbij een niet-Amerikaan geen toegang meer heeft. Omdat ze technisch bouwen is toch wel een dingetje. Zeker.
Het is niet in, in negentig minuten gedaan. Dan ga je dat wiet delen. En dan, paff, en dan krijg je daar boetes voor, dik veel. Dus zij hebben gewoon: oké, dan trekken we hem helemaal eraf.
Maar stel nou dat ze het hadden klaarliggen. De, de technische mogelijkheid om een model, uh, ja, eigenlijk paspoortafhankelijk te maken.
Dus je logt in op je cloudaccountje en dan staat daar: oké, uh, vanaf nu is de VPN, uh, of, uh, tenminste, vanaf nu gaan we aan je IP-adres checken in welk land je woont.
Zoals Netflix doet voor, weet je, als je een Netflix-abonnement inlogt in Amerika, krijg je andere films dan hier. Ja, voor de helderheid: die technologie is er gewoon. Die is er. Sterker nog, die zit in Codex.
Region locking. Er zitten allemaal functies, niet in de Europese versie, die wel in de Amerikaanse versie zit.
Uhm, als dat nou niet genoeg zijn, zou zijn, zouden ze nog kunnen zeggen: je moet een Amerikaanse creditcard hebben.
Als dat nou nog niet genoeg zou zijn, zouden ze kunnen zeggen: nou, je moet een Amerikaans telefoonnummer hebben. Nou, de optelsom van die drie dingen, dan heb je echt wel een hele hoop mensen er al uitgefilterd.
Ja, 99%. Dan heb je een redelijk veilig systeem. Stel nou ze hadden dat klaarliggen en ze hadden dat gebruikt.
Ik denk dan dat, uh, ja, dan was het alweer een stukje duidelijker, misschien voor journalisten, waarom dit nieuws iets groter had moeten zijn. Want nogmaals, zaterdag was het, was het de stilte.
Dat is later op zich- Ja, dan wil ik misschien nog wel op a-aanvullen, is dat, uh, daarom duw ik ook niet terug tegen de hysterie, is dat, ik denk eigenlijk dat dit niet de bedoeling was.
Gewoon echt niet, dat het echt zo lomp was. Dat we nu veel eerder in die realiteit beland zijn. En jij maakt nog een, een mooie punt nu dat je zegt:
maar wat, moet je je voorstellen dat het wel de bedoeling was en dat het meteen werkte. Ja, nou, was het niet, ja, was het niet de bedoeling. Ik moet er maar naar gissen, Wietse.
Want als je de letter van dat ding leest, dan is het wel de bedoeling dat wij er niet bij kunnen. Ik laat die nog even. Het is op ons gericht. Ik laat die nog even in het midden.
Waarom, uh, wil ik, daar ga ik wel op terugduwen, is dat wat ik nu ook heel veel zie als take van, van, uh, best wel, uh, vooraanstaande onderzoekers die heel graag AI regulation willen, hè.
Dus die zitten aan de ka-, het kamp van: dit moet je dichtzetten. M-hm. Die nu zeggen: nee, nee, nee, nee, nee, als je het zo doet, gaan al onze allies bewegen naar andere modellen. Die gaan allemaal andere labs bouwen.
Ja. Die gaan allemaal Chinese modellen zo snel mogelijk downloaden. Ja. Wat je nu doet, is in je eigen voet schieten. Ja. Want nu, nu reageert, want jij en ik- Geopolitiek bedoel je. Is gewoon dom. M-hm.
Nee, ik bedoel, want eigenlijk geef je, uh, allemaal ammunitie om nu wel te zeggen, en laten we zeggen dat de gemiddelde Nederlander op straat er hier niet mee bezig is. Soit, dat is niet prettig. Politici te weinig.
Oké, uh, maar het is nu wel moeilijker om te ontkennen als de, het, nou ja, het meest capabele, uh, i-, model ter wereld, uh, volgens de letter van de wet niet meer toegankelijk is voor ons, maar wel voor Amerikanen.
Dat is gewoon een feit. Ja. Kan niet anders zeggen. Ja. Uh, dat is prima ammunitie om te zeggen: laten we het nu ook soeverein voor mekaar gaan krijgen. Laten we nu ook investeren.
Dus ik wil alleen maar zeggen dat het handiger was geweest voor de Amerikanen om ons veel langer- Ja...afhankelijk te laten zijn. Ja. Zonder ooit die knop om te zetten.
Ja, nee, oké, dat is, dat is, dat ben ik dan ook nog eens met je eens. Strategisch gezien niet zo'n handige move. Nee,
maar toch even: we zijn hier nu en f-, in onze wereld was dit het grootste nieuws wat denk ik, nou, misschien sinds de introductie van ChatGPT geweest is, namelijk dat een model uitgezet wordt voor ons
en dat dat niet, zeg maar, dit beheerst de globale economie, dit fenomeen. De waarderingen zijn gebouwd op aannames dat die modellen eindeloos blijven doorgroeien.
Dat de waarderingen die hysterisch zijn, terugbetaald gaan worden omdat het zo'n impact op de economie gaat hebben, dat die bedrijven zo'n grote vinger in de pap gaan hebben.
Dat is de aanname, ook waar, waar de Amerikaanse economie en daarmee de wereldeconomie op gebaseerd is. Waarom staat op het moment dat het beste model offline wordt getrokken, nota bene voor ons, hè, niet Amerikanen,
niet soort van Amerikanen en bondgenoten, d-, alleen de Chinezen worden uit. Nee, gewoon niet Amerikanen. Waarom is er niet een nieuwsbericht op de dag zelf? En ik dacht: dit is zo veelzeggend over de, de,
uhm, de informatie-asymmetrie die er nu is in ons land, en niet alleen in ons land. Dit is, voor de meeste mensen is het gewoon: oké, Anthropic, bedrijf ken ik niet. B-uh, boeit niet. Ik ken ChatGPT. Wat maakt het uit?
Oké, er is een model uitge— Ik weet eigenlijk niet wat een model is. Ik ga gewoon naar chat toe of naar copilot toe als ik dat wil gebruiken. Model. Ik switch dat überhaupt nooit.
Oké, er is één model wat niet meer werkt. Oké, boeien. Uh, uitgezet door, ja, er was ook al gedoe met ministerie van oorlog. Weet je, het heeft allemaal niks met mij te maken.
Dit is gewoon, ja, Amerikanen, misschien, uh, ze gebruiken het voor, uhm, voor robots of zo. Ik heb geen robot in mijn huis, dus ik weet niet waarom, om dit, of dit mij moet boeien. Dus,
d-, het is heel, je moet heel veel stappen in je hoofd zetten, wil je bedenken: dit is, uh, belangrijk.
Dus ik zag mensen uit ons wereldje, zag ik gelijk roepen: dit is, dit is het moment dat de politici erachter gaan komen. We moeten nu toch echt onze eigen datacentra gaan bouwen.
Dit is het moment om te gaan werken aan onze ecu-, aan onze autonomie.
Dit is het moment waarop Europeanen, uh, de Europese leiders wakker gaan worden en nu gaan we er iets tegenover zetten en we gaan het gebruiken als, als, uh, we gaan ASML gebruiken als koevoet om ons in die race te werpen en Ik zag die mensen soort van,
uh, blij zijn met dat het eigenlijk nu al gebeurt, omdat het soort van evident is dat op een gegeven moment de beste tokens niet meer beschikbaar zijn voor ons.
Dat het nu al gebeurt betekent dat we meer tijd hebben om onszelf klaar te maken. En aan de andere kant zie ik 99% van de mensen niet constateren waarom dit nieuws is. En ik vind het zo'n bizarre tweedeling.
Maar ik denk dat, dat heeft, hè, ik, ik snap wat je zegt en ik snap ook de frustratie. Ik bedoel, ik liep zaterdag [lacht] ochtend over de markt en ik denk dan: nu, [beiden lachen] nu zo als, alles is anders.
Wat doen die mensen hier, gewoon appels kopen? Alsof er niets aan de hand is. Ja, dus dan voel je je absoluut onderdeel van een soort AI-psychose. Dat je denkt: [Alexander lacht]
Alexander en ik hebben net even iets te veel sinaasappelsap gedronken. Maar goed, dus, maar dat is ook soort ontnuchterend, hè.
Dus het, het heeft een soort dubbel gevoel, want die waarheid ligt dan ergens in het midden of zo. Ja. Uhm,
kijk, jij zei net mooi: je moet een aantal stappen zetten, hè, dat heeft ermee te maken, AI is een ding, dat moet je al geloven. Daarmee bedoel ik gewoon te zeggen. Het gaat niet meer weg. Het gaat niet meer weg.
Het is geen bubbel, het is geen, het is meer dan een papegaai die woordjes kan afmaken. Heel veel mensen die ik spreek zien het gewoon nog als het taalmodel van twee jaar geleden.
Een enorme hype, et cetera, et cetera, et cetera. Dus die, dat hokje moet je door.
Ja, je moet een soort van, ja, gaan, g-, uh, um, opnieuw gaan, hè, je eigen, je overtuiging echt gaan herzien van: maar wacht even, wat als er wel wat aan de hand is? En waar zou ik dat aan kunnen zien?
En dan moet je zelf een beetje onderzoek gaan doen en dan ga je het ook wel een beetje vinden, denk ik. Maar goed, wij doen al die aannames.
Dan, als jij gelooft: oké, dit is iets wat inderdaad die, uh, potentie heeft en nu al grotendeels kan waarmaken, hè, in kleine toepassingen, als jij snapt hoe je het moet inzetten,
dan moet je de mogelijkheid ook nog eens hebben, want je hebt een soort van waar, je moet eerst een realitycheck krijgen met: waar staat AI nu? Dat zijn al een aantal stappen. Ja, dus gewoon: waar staan we nu?
En dan moet je de mogelijkheid hebben om scenario's uit te kunnen zetten in je hoofd van twee tot drie jaar vooruit.
Wat de impact gaat zijn van hetgeen wat we nu hebben, plus het feit dat hetgeen wat we nu hebben nog steeds beter aan het worden is.
En, en, en, en, en jij en ik zitten al zo lang hierover te praten en hebben al zoveel gelezen, dat voor ons, die, ja, wat ze dan in, uh, scenariobouwen signals noemen, gewoon signalen die scenario's ontkrachten of, uh, a-, uh, extra kracht geven.
Dit was natuurlijk een enorm signaal. Ja. Dus wa, in ons hoofd gooi je dat muntje erin en dat zet een soort, uh, uh, domino-effect in ons hoofd op gang.
Wat, wat, en als, en da-daarna ga je de wereld in en denk je- Ik denk dat het zoveel uitmaakt of je het dagelijks iedere dag gebruikt en, en dus als een, uh, een, een, een, een, dat je het, het verschil kan proeven tussen, uh, de standaard ChatGPT en, en eigen,
ze-zeg maar zelf programmeren met de duurdere modellen of beter, uh, kenniswerkresultaat krijgen met de duurdere modellen.
Dat je zelf geproefd hebt aan dat verschil, dat proefondervindelijk hebt doorvoeld, maakt wel veel uit. En ik denk dat, weet je, ga kijken op een journalistieke redactie en mensen mogen vaak niet eens AI gebruiken.
En ditzelfde geldt voor, uhm, in onze overheid. Het zijn de mensen bij politieke partijen waar de, waar de strengste regels zijn over AI-gebruik.
Dus geen wonder dat de mensen die beslissingen nemen hierover ofwel het doorgeefluik zijn van informatie, weet je, deduceren om voor ons te filteren wat nou echt belangrijk is in de wereld, namelijk journalisten, dat die eigenlijk niet, [lacht] ja, die staan niet bepaald vooraan als het gaat over, uh, doorvoelen, uh, hoe die modellen iedere dag werken.
En dat is misschien een verklaring, ik vind het heel pijnlijk, maar misschien een verklaring waarom, uh, er zo'n beetje wereldvreemd, uhm, of, op gereageerd wordt.
Ja, en ik denk dat, ik bedoel, ik begin mijn lezingen altijd met 10 minuten lang over: is het niet allemaal een hype? En dan praat ik over blockchain en ik ga het gewoon allemaal benoemen.
En ik noem mezelf een charlatan en mensen moeten dan altijd allemaal lachen.
Ik be, ik, ik haal het gewoon allemaal meteen even uit de weg van: oké, ik snap waar ik start nu met jullie hier in de zaal, maar please, kijk even naar mijn bewijsstukken.
En degene die het tot nu toe het meest doet, is Codex die een computer bestuurt, want die is veel sneller geworden in de laatste versies.
Die kan echt snel rondklikken, dus die zegt- Dat maakt impact op mensen, bedoel je? Ja. Dat ze, dat ze zien hoe een computer zichzelf bedient. Ja, dan heb ik een paar stukjes oude software expres. Ja.
En dan zie je hem zo: klik, klik, klik. Dit is tempo, hè, klik. En dan gaat het lampje aan. Klik, klik.
En dan zeg ik gewoon: ja, jullie denken dat je nog migraties moet gaan schrijven, maar dit ding gaat gewoon rondklikken in Davilex, hè. Die gaat gewoon rondklikken in die oude Excelsheets.
En dat, dat doet tot nu toe het meeste en het heeft te maken met, dat is dus ook grappig om te merken, het tempo.
Want ik laat die computer use demo al twee jaar zien, maar die was altijd heel traag, dus mensen gingen er juist een beetje om lachen altijd. Nee. In mijn expro-, extrapolerende brein denk ik echt: ja, ja, whatever.
Ik bedoel- Heel typisch. Ja, dat jij zou denken. Ik laat iets heel vets zien. En mensen denken gewoon: dat ziet er knullig uit. Ja, dat gaat- Terwijl jij denkt: dit gaat nu nog traag zijn. Hij klikt op de goede plekken.
Daar gaat het om. Niet om het tempo. En nu is het kliktempo er en begint hij te landen. Maar goed, om, om aan te haken op jouw punt. Ik, ik voel de frustratie bij jou, want je, je, wat, wat,
waar, uhm, wat gebeurt er eigenlijk nu bij jou? Als jij zo zit van, je zit met je armen te zwaaien, dat zien de mensen niet, maar ben je, uh, gefrustreerd? Maak je je zorgen? Wat gebeurt er?
Ik ben bang dat we, uh, een tweedeling hebben nu al tussen mensen die, uhm, uh, zich beseffen wat, uh, wat er, wat je ermee kan [lacht] en de mensen die dat niet beseffen.
En dat voor die tweede groep, uh, die hebben niet de keuze of hun leven erdoor beïnvloed gaan worden. Dat gaat gewoon gebeuren. En ik vind die, dat je die groep moet beschermen.
En, uh, dat, dat betekent dat je het eerst eens moet worden over de, over de basis. En dat is blijkbaar gewoon iets wat je moet doorvoelen in plaats van dat je erover kan lezen.
Weet je, heel praktisch, hè, vandaag Ik vind dat echt bizar. Vandaag stond een heel stuk in de Trouw over dat er op Bol.com AI boeken staan.
Is een heel lang stuk en uh, Trouw is hier al geve-, weken door geobsedeerd door dit gegeven dat er dus AI boeken nu te koop zijn in online webwinkels. En zij praten erover alsof ze water zien branden.
Nou, dit is nu toch echt, je zou eens voor de grap moeten lezen. Dat, dat, ik zit dus die krant door te bladeren in een café en dan zit ik te lezen over, nou dit is nu iets.
Er zijn duizenden boeken die op Bol.com verschijnen, die helemaal niet door een mens geschreven zijn. Die komen uit, dat zijn ChatGPT-achtige teksten.
Ze zijn ook heel slecht en de covers zijn ook heel lelijk en ze zijn allemaal van één persoon. Die persoon bestaat helemaal niet.
En toen hebben wij gebeld met Bol.com, hebben wij gevraagd: hoe, wisten jullie dat er AI boeken op staan? Gaan ze boekhandels bellen, zo van: oh, dat moet allemaal niet kunnen.
En dan gaan andere uitgevers erop reageren en zeggen: schandalig, schandalig. Hoe kunnen we een ISBN-nummer geven aan een boek? En ik zit het allemaal te lezen en ik denk: jullie zijn echt verbaasd hierover.
Hoe, hoe, hoe,
hoezo heeft dit soort van duizenden woorden aan tekst [gniffelt] en is het feit dat het de g-, de beste kunstmatige intelligentie die de mens ooit heeft uitgevonden, die laten we wel wezen, een stukkie beter is dan dat die drie jaar geleden was.
[lacht] Hoezo v-, krijgt dat soort van drie kolommen gebaseerd op een Reuters cable met heel, soort van hele hoge informatiedichtheid, zoals een beursbericht, zeg maar.
Dat, mensen weten niet hoe ze beursberichten moeten lezen om dat op waarde te schatten. Dit is, dit is niet iets waar, waar je de, de wereld door begrijpt, door beursberichten te lezen.
Het is een, een, een abstracte analyse. Een, een, een, een, een. Het is, je, je doorvoelt niet iets als je een beursbericht leest. Dat is een abstractie, zeg maar. Je bent het als journalist nu verplicht
om mensen te laten doorvoelen wat de betekenis is van dit, van dit moment. En dat de manier om dat te doen [gniffelt] is in dit geval, zeg, moet je kijken wat er in de boekhandel ligt.
De, de, de heilige boekhandel waar dingen alleen maar met de hand ge-, maar ik, ik. Maar is het niet- Ik raak daar zo paniekerig van, Wytse.
Want, maar is het niet dat, dat, uhm, kijk, want wat ik, wat ik nu ook, dat zie je vaak in academische onderzoeken ook.
Kijk, a-, de academische, uh, uh, onderzoek duurt gewoon lang, want het moet allemaal gedegen en er moeten meerdere mensen naar kijken.
En als jij een journal hebt, dan wil je niet dat daar matige papers in staan, dus dan laat je hem nog een keer controleren.
En tegen de tijd dat het in Nature staat, heb jij bewezen dat onderwijs niet goed werkt met GPT 3.5. Mhm. Nu. Mhm. Ja, voor de duidelijkheid, dat is dan ongeveer- Ja...de doorlooptijd.
En dat is waar journalisten berichten van doen, bedoel je? Dat het- Ja, ook...in academische papers. Ja, maar dit is vaak als er onderzoek uitkomt over AI, dan is dat vaak omdat het met 4.0 iets nog gedaan is.
Zit dan het brengen naar de massa, het, het, uh, het communiceren naar de maats-, aan de maatschappij. Ja.
Uhm, wat mij betreft is dat niet zozeer een verwijt, maar, uh, een constatering van iets wat nu dus niet goed gaat.
Wat, wat er niet goed gaat, is dat, kijk, wij kunnen praten over, uh, overheden lopen, uh, overheden gaan te paard, terwijl die tech, uh, bro's gaan te sneltrein, dus die halen elkaar nooit in.
En, uh, go for S-break things. Uhm, [Niels lacht] de, de, uh, academici willen gedegen werk doen en dat is ook belangrijk. En die komen het niet te paard, maar met een oude auto.
En dan heb je de journalisten die daar weer allemaal afhankelijk van zijn. En ook nog een soort maatschappelijk, nou, dus iedereen zit op een soort traag vervoersmiddel, terwijl dit ding zo snel beweegt. Mhm.
En dit ding waar we nu over praten. Kijk, wij beginnen aan die podcast met, nou, ik denk dat we toen op het niveau zaten, net geboren, zeg maar echt een baby'tje. Wij, wij appten elkaar om deze podcast te gaan doen.
Baby garnaal. Oké, we zien een, uh, embryo. Embryo, embryofase, baby.
Nu, uh, heb, in die, en in die baby, uh, tijd van AI waarin het nog een baby'tje was, hè, dus het kan een beetje koekoek kakaka zeggen en een beetje doen alsof het een mens is.
Uh, veel van, van de dingen die ik lees gaan over die fase nog, nu. Die gaan over die babyfase van AI. Dan heb je de, nou, je kunt ze allemaal doorgaan, uh, kinderen, pubers, et cetera.
Jij en ik zitten nu een beetje in die, nou ja, jongvolwassen, volwassen fase met elkaar te praten over AI iedere week.
Terwijl wat ik, uh, naar me terugkrijg vanuit de breedte is allemaal nog een beetje, ja, peuter, kleuter, AI, uh, nieuwsberichten namelijk. Ja, moet je kijken hoe slecht die boeken geschreven zijn.
En is het sowieso wel een goed idee om auteurschap over te laten aan AI? Kijk, wij zijn gewoon mega disconnected en AI-snot geworden.
Dat wij op een bepaalde manier heel ver weg aan de frontier, want dat vinden wij ook gaaf, proberen te, uh, te praten over dit onderwerp in een podcast. Een van de meest vloeibare mediavormen die je maar kunt verzinnen.
We zitten het letterlijk nu hier zonder redactie met elkaar [gniffelt] in een microfoon te roepen.
Dus ja, uh, ik ben met je eens dat je gefrus-, ik snap helemaal dat je gefrustreerd bent en dat je je zorgen maakt, want die zitten onder die frustraties, bij mij ook.
Maar ik wil toch even gezegd hebben dat ik ergens wel begrijp dat, ja, de bestaande instituten zijn gewoon niet gemaakt hiervoor, man. Voor dit tempo.
Jij, ik bedoel, wat ons afgenomen is tussen aanhalingstekens met Fabel, waar wij drie dagen aan hebben kunnen wennen of zo. Ik, de meeste mensen, he-, voelt het helemaal niet als iets, ie-iets wat ze afgenomen is. Nee.
Die zaten lekker te rommelen in Copilot met GPT Low. Dus ja, ik, ik denk ook dat, uhm, al had, al hadden de kranten erover volgestaan, vraag ik me nog af of de meeste mensen het hadden gevoeld. Ja.
Ik denk dat we het gewoon nog niet voelen.
En, uh, ja, uh, dat, dat, dat, dat het voor ons nu een beetje gek voelt als je zo, zoveel van die sinaasappelsap van AI gedronken hebt en er dagelijks mee werkt en het je computer ziet gebruiken.
En de antwoorden zijn steeds beter aan het worden, dat je, nou, met je armen gaat zwaaien van: uh, potverdikkie, dit had toch op zijn minst op NOS.nl moeten staan om 19.00 uur.
Het is later wel weer, uhm, redelijk goed gekomen moet ik zeggen. Ja. De, de, de, de, er ging even een dag overheen, maar toen kwamen er ook steeds meer berichten. Het zat zelfs in het 20.00 uur journaal.
Nou, dan weet je toch dat je het gehaald hebt. Uh, het blijft een, uh, een abstracte vorm die de hele tijd gekozen moet worden om dit verhaal te vertellen. Uhm, dus we zijn er nog niet.
Een, een poging die ertoe gedaan werd om die brug te slaan, is een, uh, een heel lang essay wat is geschreven, uh, wat, uh, v-, afgelopen week uitkwam. Dat heet Europe 2031.
Dat is een essay wat vrij lang duurt om te lezen, hè. Het is echt een lang stuk. Ja, maar ik vond hem wel omdat ie, het is wel prettig geschreven. Ik was er vrij snel doorheen.
Ja, het is de moeite waard om hem allemaal te lezen, ondanks dat hij lang is. Het is ook fictie natuurlijk. Het is een fictie stuk. Het heet niet voor niks Europe 2031.
Het is dus gebaseerd op geïnformeerde aannames door mensen die er wat van weten, uh, proberen ze een scenario te schetsen. En, uh, niet alleen wat er gaat gebeuren op Wikipedia-achtige bullets, maar in een verhaal.
Een narratief. Mensen die, uh. Filmscript. Een, echt een filmscript, ja.
Het leest als een filmscript, als een scenario, uh, dit als je de, de lijntjes volgt en, uhm, uh, mensen die, uh, uhm, bij onder andere bij grote AI-labs werken, daar proberen te voorspellen hoe de wereld eruitziet.
En dat vind ik over het algemeen een stuk interessanter dan terugkijken naar academisch werk wat is gedaan met GPT-4o, uh, wat meestal in de krant staat als het gaat over hoe AI op dit moment, uhm, impact heeft op bijvoorbeeld de arbeidsmarkt, vind ik dit soort stukken, uh, prikkelender en misschien zelfs wel meer zeggen over de werkelijkheid dan, uhm, het daadwerkelijk terugkijken.
Dit stuk is echt de moeite waard en, uhm, is niet iets waar je heel vrolijk van [lacht] wordt als je het leest.
Want eigenlijk zeggen zij dus, uh, als je de, de lijntjes, t-, d-doortrekt en je kijkt naar de rol van Europa op AI-gebied in 2031, dan zie je in kleine stapjes hoe we de grip erop verliezen en wat de effecten zijn van het niet hebben van eigen compute.
En een interessant punt bijvoorbeeld, het, het staat bomvol met feiten, is dat Europa op dit moment 5% van de wereldwijde compute heeft, de VS meer dan 75%.
Ja, is misschien goed om te zeggen, is dat het dus begint met nu en of wat was en wat nu is. Ja. En dan is er een hele duidelijke visuele switch met: vanaf nu moeten we het gaan verzinnen. Ja.
Maar daarvoor zit je in een narratief. Ja, we zitten eerst. Ja, we zitten simpelweg in het, ja, in, in wat gewoon nu waar is. Ja. Feiten dus. Ja, en dit is zo'n feit, dat wij 5% van de compute hebben.
Ja, maar dan zou je nog steeds, en dat doet dit stuk heel goed, moeten vertalen.
Want aan de zijkant van het stuk als je scrolt, zit er heel de tijd zo'n compute monitor waardoor je ziet van: oké, zoveel heeft de EU aan compute en zoveel heeft, uh, US aan compute.
En als je scrolt gaat dat natuurlijk omhoog. Bij de US veel sneller dan bij de EU, uh, tot en met nu en daar voorbij wordt het extrapoleren.
En er wordt ook goed, want dat is denk ik, ik praat hier veel met mensen over dat ik het heb over datacenters en compute, dat ze nog steeds me aankijken alsof, uh, ze water zien branden.
Nou en datacentra zijn onwenselijke, uh, dingen die. Moeten we dat meer willen hebben dan? Nee, helemaal niet juist. Als een, als een distributie, uh, schuur. Weg met die dozen. Ja, weg met die dozen.
Dit is hoe we erover praten. En ik bedoel, ik vind ze ook niet mooi en ik vind het ook vervelend dat ze zoveel energie kosten. Dat begrijp me niet verkeerd, maar er is een andere angle ook.
Ja, en ik denk dat wat, wat het, wat het scenario heel goed doet, is die koppeling laten zien in hele concrete aannames en verzonnen dingen die nog mogelijk gaan gebeuren, maar redelijk plausibel opgeschreven zijn.
Over wat dat dan betekent als je zo weinig compute hebt, wat je dan dus ook niet meer kan en wat ook niet meer lukt. En hoe dat, het feit dat je dat niet meer kan, invloed heeft op je wereldwijde positie.
En ik moet zeggen dat, kijk, ik heb, uh, mij wordt ook heel erg vaak gevraagd, ook door jou hier in deze podcast, van: ja, en dan? Ga, weet je wel.
Ja, uh, als je te veel met AI-modellen praat, dan komt, uh, je data erin. Oké, en dan? Weet je wel, van. Mhmm. Dat, dat is niet genoeg voor mij. Wat, wat gebeurt er dan met die data?
En ik denk dat op dezelfde manier hier een scenario uitgeschreven wordt wanneer je het, eigenlijk, wanneer ga jij nou als gemiddelde burger, als Europeaan, wel merken dat- Ja.
-het belangrijk is dat wij toegang hebben tot Fabel. Ja, en dat is ook iets waarbij het helpt om zo'n, zo'n filmscript te lezen. Omdat het, het is dus ook niet als een lichtknop die omgaat.
Het is niet soort van: oh, opeens was de helft van Europa, had geen baan meer. Dat is waarschijnlijk niet hoe het gaat en dat is ook niet hoe het in dit scenario gaat.
Grappig genoeg, in dit scenario gaat het eigenlijk dat qua werkgelegenheid gaat best langzaam. Ik vond dat het allemaal- De verandering. -best laat gebeurde. Ja, ja. Dat had ik ook toen ik het las.
Dus het was ook, ik denk namelijk dat dat ook een ding is wat mij zou triggeren als zo'n stuk geschreven zou worden en gelijk in, uh, weet je, over twee jaar, uh, hebben we opeens geen baan meer.
Want AI-agents, iedereen wordt ontslagen en de bazen van de bedrijven in Europa zijn rijk of zo. Dan had ik ook z-, uh, ja, I don't know. Maar hier is het dus vooral, hoe ze het beschrijven is heel mooi, bijna poëtisch.
Namelijk dat we in Europa blijven we op hetzelfde manier een beetje doorpruttelen en dan opeens hebben die Amerikanen, die zien gewoon in hun lijntje hun productiviteit stijgen.
Het is niet dat ze zo, uh, uh, dat er daar zoveel mensen ontslagen worden in het begin, maar het is gewoon, opeens hebben zij 10% zijn zij productiever geworden en zo 15%. En dit zijn allemaal geloofwaardige,
ja, het, het gebeurt op geloofwaardige snelheid. Totdat opeens, als je naar, zeg maar, op drie stappen achteruit gaat en kijkt over een iets langere periode, ziet wat eigenlijk het effect is.
Wat, wat, wat is meest blijven hangen bij jou uit dat stuk? Nou, dat op een gegeven moment zit er ook een stukje in over dat dan steeds meer, uh, Europeanen agents draaien. Want we hebben nog gewoon toegang, hè.
Uh, we hebben Amerikaanse modellen en wel wat. En dit scenario kwam uit dagen voordat Fabel offline werd gehaald. Ja, voor de duidelijkheid. Dus dat was, uh, nou ja, daar, daar is dat eerste check.
We hebben nog toegang in dat scenario tot agents, ja.
En, uh, op een gegeven moment gaan dan, uh, want het zit ook een beetje in een soort, je ziet een soort in, uh, DM'etjes tussen twee mensen, uh, die de hoofdrol spelen in het scenario.
En dan gaat het erover dat steeds meer Europeanen steeds meer agents hun werk laten doen, zodat ze steeds meer vrije tijd hebben om vervolgens te gaan tuinieren.
Wordt dan zo'n beetje zo knipogig, uh, gezegd, weet je wel. Uhm, maar dat blijkt Uh, tijdelijk te zijn. Uh, je hebt een soort, uh. Het werd als positief ervaren. Ja.
Een soort van agents doen het werk en daardoor heb ik meer tijd over.
Dit hoor ik om me heen ook heel vaak van mensen die zeggen van: nou, ik vind het eigenlijk best wel chill, want ik kan nu, ik, i-, ik, ben, ik heb mezelf nu al deels overbodig gemaakt.
En de toekomst is toch mooi als we allemaal niet meer hoeven werken. Ja. En, da-, daar kan ik uren over uitweiden. Dat heeft veel meer nuance nodig. Maar dat begrijp ik, die intuïtie.
Maar daar komt veel meer bij kijken om te zorgen dat we dan nog een werkende wereld hebben. Als iedereen aan het tuinieren is en niemand meer meedoet aan de economie en alle agents alles doen.
Want waar draaien die agents? Van wie zijn die agents? Hebben we toegang tot de modellen achter die agents? Punt.
In het scenario is het zo dat je een soort tijdelijke, uh, ja, uh, window of, uh, utopia hebt, waarin juist dus inderdaad steeds minder mensen hoeven werken, want agents gaan al het werk doen.
Maar dat blijkt maar tijdelijk te zijn en dat op een gegeven moment, uh, de bedrijven waar jij dus nog een paar uur voor werkt, moeten concurreren op een wereldmarkt waarin bedrijven ervoor kiezen om alleen nog maar met agents te werken en dus op een gegeven moment mensen niet meer in die paar uur genoeg kunnen verdienen, want de uur-uurtarieven gaan naar beneden.
De, ja, je wordt niet meer aangenomen voor een paar uur. Dus het blijkt eigenlijk dat je in eerste instantie de vruchten plukt van die hele mooie technologie.
In ieder geval op het gebied van de, het potentie om de mens te bevrijden van arbeid.
Om vervolgens eigenlijk in de harde realiteit te komen van een wereldeconomie waarin je nou eenmaal niet alleen speelt, maar in een groter spel speelt. En ik denk: kijk, uhm,
ik wil wel gezegd hebben, en dit, dit komt ook vaak tussen ons terug als wij het hier over hebben.
Ik, uh, denk dat de wereld veel meer is dan de economische realiteit, maar ik kan absoluut niet ontkennen dat er een economische realiteit is. Daarmee wil ik zeggen, uhm, je, je zal.
Kijk, het is denk ik moeilijk, zeker voor mij. Ik ben veertig, uh, dus ik ben hier nog niet zo heel erg lang. Geboren in een wereld waarin een functionele economie was in ieder geval.
Het functioneert genoeg om Nederland mogelijk te maken, laat ik het dan zo zeggen.
Waardoor je, uh, nou ja, we zijn ons als mens heel vaak niet bewust van wat er allemaal moet werken en aan moet blijven staan en, uh, wat er allemaal, uh, uh, verhandeld moet worden wereldwijd om te zorgen.
Je punt is: we hebben een economie nodig- Punt. Om een leuk leven te hebben. Ja, maar ik wilde er wel bij zeggen dat ik, uh, het is ook, uh, alleen een economie zonder een leuk leven. Ja.
Kan je je afvragen hoeveel je daaraan hebt. Sure. Er zit een soort vergordelijkheid in. Ja. Waarin het, he, nou eenmaal zo is dat die economie eerst komt en daarna dat leuke leven.
Want het is moeilijker om een leuk leven te hebben. Is een privilege. Ja. En, uhm, ik denk dat wat dit scenario heel goed doet, is laten zien dat, dat het een fragiele afspraak is wereldwijd.
Of, voor zover het afspraken zijn, zijn een soort ongeschreven afspraken. En dat die, dat grote economie met een hoofdletter E, dat je die niet zomaar kan behouden als je niet nu al keuzes gaat maken. Ja.
En dan, want jij zegt: wat is het meest bijgebleven? Dat is het einde. Ik kan hem gewoon verklappen. Spoiler hem gewoon helemaal. Uh, daar staat:
als jij aan een complexe Olympische spel mee wil doen, wat dan ook, rennen, fietsen, zwemmen, dan moet jij niet een week voor de Spelen gaan trainen. Ja. Jij moet een trainingsregime opzetten waar je u, u tegen zegt.
Dat woord trainen is natuurlijk, [lacht] haha, typisch, want dat doe je met AI-modellen ook. En als jij weet dat je over twee jaar gaat meedoen aan de Spelen, dan moet jij nu al een heel trainingsschema aflopen. Ja.
En ook niet alleen maar het schema schrijven. Dat is ook heel belangrijk volgens dit essay [lacht]. Maar het schema ook uit gaan voeren. En, zeggen de auteurs, want het is een hele groep mensen.
Wij zien wel het een en ander opgeschreven worden aan training regimes, maar er wordt niet getraind. Gelukkig was daar goed nieuws een tijdje geleden, namelijk dat Nederland zijn eigen taalmodel ga, zou gaan trainen.
GPT-NL. Uh, dat is de afgelopen jaren met flink wat beloftes omgeven. Het won de Nederlandse Privacy Award, de Nederlandse AI Award voor beste initiatief. Nog overigens voordat iemand nog maar mee had kunnen werken.
En dit voorjaar meldde TNO, die erachter zit, dat het fundament stevig staat en dat het model toe, uh, toe is aan de overgang van ontwikkeling naar gebruik in de praktijk.
Op sommige taken, zoals samenvatten, teksten samenvatten, zou het beter presteren dan ChatGPT-3. Even voor de helderheid, wanneer was dat? 2021? Ja, zoiets.
En de hardnekkige verwachting was natuurlijk dat Nederland een, uh, dat een in Nederland gebouwd model, het Nederlands, de taal beter zou beheersen dan de bestaande alternatieven.
De eerste benchmarkscores zijn nu naar buiten gekomen en je moet er best moeite voor doen om die te krijgen, want die stonden weggestopt in een technisch document van 109 pagina's en dat is ontdekt door de website GoingDutch.ai.
De benchmarks kwamen naar buiten zonder persbericht, zonder LinkedIn-post of zonder ook maar een link op de eigen website van TNO.
En het project had zichzelf een opvallend lage lat gelegd, want GPT-NL hoefde dus maar mee te komen met GPT-3 uit, uh, 2020, is het, en het kleinere LLaMA 2 7B.
Maar zelfs dat lukte niet, blijkt nu uit, uh, die benchmarks. Op het feitenkennis examen scoort het nauwelijks beter dan willekeurig gokken. Op Nederlandse grammatica haalt het een diepe onvoldoende.
Bij het begrijpend lezen wordt het ingehaald door het model dat 30 keer kleiner is en ook samenvatten, de taak waarop het GPT-3 had moeten verslaan, blijft het onder het niveau van een modelletje dat zelfs op je telefoon kan draaien tegenwoordig.
Met andere woorden: GPT-NL kan echt helemaal niks. Uh, dat is teleurstellend, uh. Ik zou nog wel nuanceren dat. Kom alsjeblieft met nuance, want ik word hier heel sad van. Uhm, nou ja, kijk.
Heel veel goede bedoelingen dit project, want het is getraind op, uh, uh, je, je, uh. Of dat gewoon data waarvoor toestemming gegeven is. Kwalitatieve data. Data waarvoor toestemming is gegeven.
Dus de databron was goed alleen. En een eigen model autonomie, uh. Het sluit denk ik redelijk mooi aan op de babygarnaal tot en met jongvolwassenen ladder waar we het net over hadden.
Ik zou dit eerder een bacterie noemen, maar oké. Het is, ja, dat zijn jouw woorden. Uh, ik heb de benchmarks nog niet gezien, maar ik heb wel het een en ander gehoord.
Wil je huilen, dan ga je de benchmarks bekijken van GPT-NL. Kijk, ik denk dat Het moet ergens beginnen dit. [lacht] Ja, het is toch zo? Ja, dat is waar. Ik, ik sluit me hierbij aan.
Als jij nu, uh, projectmanager of AI in Nederland was geweest en je had dit tegen je team gezegd. Ik zie een bacterie.
Oké, [lacht] dat was niet heel motiverend geweest, dus ik zou wel iets meer motiverende woorden willen spreken. Nee, maar mensen moeten niet de illusie hebben dat we een model aan het bouwen zijn.
Ja, jouw realitycheck is, uh, ik hoef me niet zo'n zorgen te maken, want er zijn vast allemaal groepen bezig. Dit model is in de Nederlandse media beschreven als ons antwoord. Ja.
En ik vind dat een realitycheck op het moment dat je dat jezelf voorhoudt heel belangrijk. Ik denk dat ons antwoord is drie jaar geleden. Ja, ik wil ons ook motiveren om, uh, shit te doen.
En dat wat dat, uh, dat, uh, soort van, uh, Europe twint-twenty thirty one ook a-allerlei concrete oproepen voor doet die zeggen: Europa moet zijn aandeel in rekenkracht vervijfvoudigen.
We moeten ASML gaan inzetten als onderhandelingsmacht. De koevoet.
Maar, maar ik denk wel dat, uh, laat ik dan zo zeggen als jij zegt: ik wil, uh, het Nederlands luisterend publiek eventjes goed laten schrikken zodat ze beseffen dat wat tot nu toe het meest aangedragen antwoord op al deze, op al het geweld is, dat van.
Vrijwel niets kan. Ja, en dan zou ik aan de andere kant het team [lacht] zeggen: uh, fijn dat jullie tenminste begonnen zijn. Uh, laten we nog meer teams hieraan laten werken en we hebben nog wel wat te doen.
En dat, wat mij betreft persoonlijk hoeft dat helemaal niet een fabel-esk model te zijn, maar gewoon, gewoon iets tussen aanhalingstekens, want het zijn, uh, uh, een soort Manhattan Projects die je moet opstarten.
Iets waardoor we, uh, mee kunnen blijven doen. Ja. Waardoor we mee kunnen blijven doen. Ja. Ja. Zonder dat we afhankelijk zijn van, uh, van onze allies. Ja, zogenaamde allies.
TNO benadrukt overigens dat dit tussenscores zijn en dat de echte cijfers pas einde van dit jaar volgen. Laten we zeggen dat ze, ik hoop dat ze er een persbericht aan wijden.
De tip van de week is dat we, uh, bijna wekelijks vragen krijgen over welk AI-model je zou moeten gebruiken en dat het ook steeds lastiger is om te bepalen welk model, uh, je moet gebruiken voor welt-welke taken, omdat ze qua kwaliteit steeds meer naar elkaar toe groeien en de integraties steeds dieper gaan in allerlei ecosystemen van grote techbedrijven.
Dus het is best lastig om een model te kiezen. En als je eenmaal gekozen hebt, dan heb je ook het idee: ik zit daarin vast. Wat nou als je helemaal niet zou hoeven kiezen?
We hebben een webapp ontdekt die heet LM Council en daar kun je één vraag tegelijkertijd aan meerdere modellen stellen. Aan Claude, aan ChatGPT, aan Gemini, aan Grok en nog tientallen anderen.
We tipten die app al eerder, maar toen was hij nog niet te combineren met de Fusion knop van Open Router.
En wat dat ding doet, is al die antwoorden, die je dan van al die modellen krijgt, ook nog eens een keer samensmelten tot één antwoord.
Een apart model leest alle versies en kijkt waarin ze het eens zijn met elkaar en waar ze elkaar tegenspreken en schrijft dan één eindantwoord daarvan.
Het verrassende is dat de modellen samen vaak slimmer zijn dan allemaal los van elkaar. En in de test van de maker versloeg een combo van drie goedkope modellen zelfs dure topmodellen voor ongeveer de helft van het geld.
Dat is echt heel grappig. Ik merk dat ik dit best wel vaak doe tegenwoordig. Ja, je doet het een beetje zelf dan.
Ja, ik zit dan second opinions te vragen aan een ander model, dus dan heb ik door: ik heb een, een, ik heb een belangrijk onderwerp in mijn leven.
Of ik heb, uh, een programmeerproject waar ik aan werk waarbij dat ding met een plan komt.
Ik, uh, ik weet niet helemaal zeker en dan vraag ik om een second opinion aan of Code-of Codex of Claude, een van de twee heen en weer en dan zeg gewoon, dit is echt heel handig.
Dan zeg ik gewoon: maak een prompt voor een ander taalmodel. Dat vindt ding ook prima. Dat je soort van ik ga nu naar de concurrent. Verdrietig. Nee, hij is niet verdrietig over. Maak een prompt voor een ander taalmodel.
Uhm, leg uit waar we tot nu toe zijn, wat de discussie is tot dit moment en vraag gewoon om een second opinion en dan geef je dat aan het taalmodel. Aan die andere copy paste, pla.
Komt hij met een antwoord, zegt ie: ik ben de second opinion. Je kunt mij weer terugsturen naar je oorspronkelijke taalmodel. Copy paste weer naar het eerste. Is het, oh ja, nou, hier ben ik het eens.
Hier ben ik het niet eens. Ik pas mijn advies wat ik net gaf op deze en deze punten aan. Dit is waar je het mee moet doen. Zo vet!
En dan heb ik nog als tip dat je inmiddels ook MCP's hebt voor taalmodellen, dus dat je in Claude Gemini kan toevoegen. Geen grap. O, ja.
En dan gewoon kan zeggen: overleg even met Gemini en dan gaat hij zelf zonder te copy pasten in overleg. Amazing!
We hebben een kant en klare voorbeeld prompt in de nieuwsbrief gezet, dus als je dat wil proberen dan ga je naar AI-report.nl. Dit was het, Wietse. Vind je dat ik te onaardig was tegen GPTNL? Ja.
[lacht] Stap daarvan achter. We bedanken onze sponsoren Rockstars en Samsung. Uh, wij danken ook Sam Hingeveld voor de edit, Pankras voor de vormgeving.
Als je een le-een lezing wil van de heer Hagen of van mij, dan kan dat. Mail ons dan op lezing@airreport.email.
En als je op de hoogte wil blijven van het laatste AI-nieuws twee keer per week tips en tools wilt ontvangen om het meeste uit AI te halen, abonneer je dan via AI-report.nl. Wij zijn hier volgende week weer. Tot dan.
Tot dan. [muziek]