Welkom bij AI Report, de Nederlandse podcast over kunstmatige intelligentie, waar we uitzoeken welke invloed AI heeft op ons werk, ons leven en de samenleving. Wie jouw AI bezit, bepaalt wat jouw AI doet.
En wie bepaalt wat jouw AI doet, heeft uiteindelijk macht over jou. Het is nu belangrijker dan ooit dat we serieus kijken naar de keuze die nu voor ons ligt. Die heeft twee opties.
Optie één: alles naar de cloud, waarbij jouw persoonlijke assistent eigendom is van Big Tech en al jouw data ergens anders wordt opgeslagen.
Of optie twee: alles lokaal en open source, waarbij je zelf controle hebt over je AI en je privacy. En beide opties hebben voor- en nadelen. Het is niet zo simpel. Kiezen we voor gemak? Geven we controle uit handen?
En kun je überhaupt die controle wel terughalen? Hoe houden we in deze tijden onze digitale onafhankelijkheid? Dit is AI Report.
[muziek] Wietse, ik heb het idee dat er een soort vibe shift aan de, aan de hand is en ik zal jou deze vibe shift proberen te duiden.
Namelijk, ik heb het idee dat vooral Dario Amadei, maar ook Sam Altman, dus de bazen van Anthropic en van OpenAI, opeens gezamenlijk op het orgel gaan om de alarmbellen te laten rinkelen.
En ik heb het idee dat dit is gebeurd in de laatste twee weken, waarbij er, uhm,
uh, krantenartikelen zijn verschenen in de New York Times waar het gaat over, uhm, ze noemen het daar junior level, uh, banen die niet meer ingevuld worden door grote bedrijven.
En Kevin Roose, de auteur van dat artikel die, ja, eigenlijk is zijn punt: het is begonnen. De, de, uh, AI is nu banen aan het overnemen.
En jonge mensen die net van de universiteit komen, die lopen het risico, of dit is nu al aan de hand, dat bedrijven niet meer jonge mensen aan willen nemen.
Uhm, we hebben Dario Amadei, die op steeds grotere platforms uitspraken doet. Hij zat bij CNN, uh, deze week om met Anderson Cooper te babbelen. Ik ga een kort fragmentje laten horen.
"People have adapted to past technological changes. But I'll say again, everyone I've talked to has said: this technological change looks different. It looks faster, it looks harder to adapt to. It's broader.
The pace of progress keeps catching people off guard. And, and so I don't know exactly how fast, you know, the, the, you know, the job concerns are gonna come. I don't know how fast people are gonna adapt.
It's possible it'll be, it'll, it'll, it'll, it'll, it'll all be okay. But I think that's, uhm, I think that's too sanguine an approach. I think we do need to be raising the alarm.
I think we do need to be concerned about it. I think policymakers do need to worry about it.
If they do worry and they do act, then maybe we can prevent it, but we're not gonna prevent it just by saying everything's gonna be okay. In terms of inequality, I'm, I'm, I'm worried about this.
You know, there's a, there's an inherent social contract in, in, in democracy, where ultimately, you know, the, the, the ordinary person has a certain amount of leverage because they're contributing to the economy.
If that, if that leverage goes away, then it's, it's hard to make democracy, it's harder to make democracies work, and it's harder to prevent concentration of power.
And so, you know, we, we, we, we, we, we need to make sure that the ordinary person maintains economic leverage and ha-has a way to make a living, or our society, our social contract won't work.
And, and that's why I think it's important." Ik vind het interessant, omdat hij, kijk, in feite zegt hij dus: dit is anders dan andere technologieën. Het gaat anders dan anders.
Policymakers moeten zich, uh, weet je, hier bezig, mee bezighouden. Dat is iets wat hij nu al een aantal maanden op conferenties is, ie, die s-, die s-, die drumbeat is steady.
Dit blijft hij zeggen, maar de woorden die hij gebruikt worden steeds alarmistischer.
Letterlijk het woord [gniffelt] alarm wordt nu gebruikt en hij schakelt dan ook direct door naar: onze democratie staat op het spel, want op het moment dat burgers niet meer-- als je niet meer kan staken, dan kun je ook geen economische macht uitoefenen.
En econosio, uh, economische macht uitoefenen als burgermaatschappij is de manier waarop onze democratie functioneert. Want als je niet meer kan gaan staken, dan kun je ook geen druk zetten. Nou, pla.
Ben ik, uuuh, gek dat ik deze vibe shift, uh, zie? Of voel jij dit ook? Nee, je bent niet gek. Ik denk dat wij deze drum zelf een beetje aan het slaan zijn op onze manier. Al een tijdje. Al een paar maanden.
Ik heb het ook niet over ons. Ik heb het over de buitenwereld. Nee, maar nu gebeuren er wat dingen buiten ons op, door de personen die best wel dicht zitten op deze technologie, die, die een soort,
ja, uhm, met meer energie achter hun woorden en met ander gekozen woorden die boodschap aan het verspreiden zijn.
Ik denk, wat ik wel boeiend vind, is, kijk, je kunt hier natuurlijk cynisch over zijn met een soort wij van WC-eend effect, hè. Dus je kan zeggen: dit is een CEO van een AI-lab, uh, die heeft altijd wat te verkopen.
Ik vind- Hij heeft er belang bij. Dat, dat laten we wel wezen. Ja. Dat is, d- Dus dat moet even gezegd worden.
Tegelijkertijd denk ik: heeft hij er niet meer belang bij om te zeggen: AI is te gek, iedereen moet het gebruiken en maak je geen zorgen, of zoiets. M-hm.
Ik vind het een beetje een v-vreemde boodschap voor iemand die, uh, dat product dan verkoopt. En ik denk dat het een beetje vreemd is, omdat, uh, er zit een soort dubbele laag in.
Binnen die labs best wel veel mensen die werken aan deze geavanceerde AI-modellen. Die werken daar omdat ze zeggen: als ik er niet aan werk, werkt iemand anders eraan.
En die bouwt het dan misschien op een manier die volgens mij niet klopt. En dit zie je terugkomen in de hele saga rondom OpenAI en, uh, xAI.
Dit zie je terugkomen in de mensen die bij OpenAI zijn weggegaan om Anthropic te starten destijds, hè. Daar gaan we ooit nog een keer een film over kunnen kijken hoe dat allemaal gelopen is.
Maar dat zijn heel veel mensen die zeiden: dit wordt gebouwdIk kan er nu uitstappen en ermee stoppen of ik kan het op een andere plek op mijn manier gaan bouwen.
En je voelt een beetje bij, uh, Darius Amadei dat hij ook zegt: ik ben dit nu aan het bouwen. Ja, hij is letterlijk een van die mensen die is weggegaan en nu- Ja, is gewoon zo.
Ja, en d-denkt: ik ga dit beter doen dan Sam Altman, veiliger doen dan Sam Altman. En dat doet hij binnen een bedrijf waarin hij producten verkoopt, hè, dat moeten we niet vergeten.
Maar tegelijkertijd- Waarin hij bijdraagt aan die AI-race. Ja, dat is dus het hele- Zo moeilijk om deze man serieus te nemen wat dat betreft. Absoluut.
Maar ik denk wel, uh, dat heeft ook, dat heb ik ook, uh, met Demis Hassabis van DeepMind, uh, die ik graag, uh, uh, lees en volg om te zien wat zijn, uh, uh, gevoel en vibe op dit moment is.
Die zit een beetje in dezelfde, uh, sferen nu.
Die is wat rustiger, maar die zegt dezelfde woorden, uhm, van: joh, het wordt onderschat en ik heb het idee dat ze niet gehoord worden, uh, want anders ga je niet op tv zitten, toch?
Als jij in allerlei ruimtes bent waar jij merkt dat je serieus genomen wordt, dan ben je wat rustiger. Het voelt voor mij als een beetje een gefrustreerd man, die, die steeds harder op die trommel begint te slaan nu.
Uh, en dat heeft er denk ik mee te maken, uh, dat zij intern zien en extern zien, uh, want, uh, Anthropic heeft op hun blog, ik blijf dit even tippen, maar de blog van Anthropic zit vol met interessant onderzoek wat ze publiceren.
Saai, maar belangrijk. Gaat het over de economische impact van hun ding, wat zij zelf zien in hun statistieken, hoe ontwikkelaars het steeds meer gebruiken, et cetera, et cetera.
Dus zij zien in gebruik welke sectoren nu het meeste hun modellen gebruiken.
Dat is grappig, want dat is daadwerkelijk een, een, een, een indicator van daadwerkelijk gebruik, waarin je dus kan constateren in welke sectoren er het meest AI wordt gebruikt. Absoluut.
Wat dus potentieel iets zegt over, ja, de mate van automatisering in die sector. Ja, dan ga ik nu even het woord model door elkaar heen gebruiken. Dus we hebben AI-modellen, maar we hebben ook modellen van de toekomst.
Dat zijn scenario's die gemaakt worden binnen denktanks en dit soort bedrijven ook, waar ze eigenlijk zeggen: wij zien de komende één, vijf, 10 jaar zien wij zo, uh, uitrollen, zeg maar. Dit gaat er gebeuren.
Daar hang je dan een aantal indicatoren aan en die ga je dan in de gaten houden. Dat doen wij samen ook een beetje van, hè: is zo'n model beter aan het worden?
Zien we inderdaad daar die indicator in de economie veranderen?
En ik denk nu, uh, dat wat zij zien, en dat is waar Kevin Roose in The New York Times ook over schrijft, is: wat je zou verwachten als dee-- deze modellen daadwerkelijk impact gaan hebben/hebben op de arbeidsmarkt, is dat bedrijven ervoor kiezen om hiring stops te doen.
Om te zeggen: we hoeven geen jonge mensen meer, uh, in dienst te nemen die we nog helemaal gaan opleiden als we onze bestaande mensen kunnen uitbreiden met AI. Nou, dat is nu dus zichtbaar.
H-, daar kan ik nog wel de kanttekening bij maken, uh, die wordt ook veel gemaakt in de discussies rondom deze artikelen, dat het ook, uh, een logische beslissing is nu binnen, als jij CFO bent of zo binnen een grote organisatie, om te zeggen: druk maar even op pauze qua hires.
Laten we maar even zien wat er allemaal waar wordt van AI. In de tussentijd gaan we iedereen tooling geven en kijken of we- Ja, precies. Hoeft niet echt iets te zeggen over de capaciteiten, de technische capaciteiten.
Het kan ook een, een, ja, het kan ook gewoon een conservatieve houding zijn.
Ja, en dat, dat zou in mijn optiek, mijn persoonlijke mening, goed nieuws zijn, omdat ik het prettig zou vinden als deze hele revolutie wat trager zou gaan, uh, zodat we met elkaar de tijd hebben om, uh, te zien wat er gebeurt.
Ik heb het idee dat, uh, Dario en Demis en de andere grote lableiders daar niet zo'n vertrouwen in hebben op dit moment en dat die zich echt wel, uh, zorgen maken.
Er is een andere kant van het verhaal en die wordt onder andere, uhm, vertolkt door, uhm, Yann LeCun. Hoe zeg je dat? LeCun? Zo zou ik het zeggen, ja. LeCun? Ja. Zoals Mistral.
[lacht] Dat is de- Precies zo...hoofd, uh, AI scientist van Meta. Dus je, meestal hebben die, uh, grote techbedrijven hebben een soort van wetenschappelijke tak en je hebt de mensen die de productorganisatie leiden.
Het zijn een beetje een soort van bloedgroepen wel, maar die worden heel erg samengeduwd op dit moment. Ja. Een soort van: werken voor je geld. Mooi gezegd, ja.
Uh, en, uh, hij is, uh, zeer kritisch op Dario Amadei en, uh, hij zat in een podcast gisteren, uh, waar hij ook letterlijk verwijst naar, uh, het stuk waar Dario Amadei eerder heeft geschreven, wat gaat over een, hoe noemde hij dat ook alweer?
Engineers in a, in a datacenter? Hoe, hoe noemt, scientists in a- Ja, 10.000 PhD'ers in een datacenter of zo. A country of genius, is wat hij het noemt. A country of genius in a da- a datacenter.
Dus dat is die metafoor waar jij het ook altijd over hebt van wetenschappers die als een soort van AI-agents aan het draaien zijn in een of andere cloud en wetenschappelijke ontdekkingen zelf doen in de toekomst.
Dat is het toekomstbeeld. Dat is ook het toekomstbeeld wat Dario Amadei schetst en daar baseert hij heel veel van zijn voorspellingen op.
Over wat er met biologie gaat gebeuren, hoe democratieën zich gaan ontwikkelen, waar die, waar die net ook weer woorden aan, uhm, uh, voor gebruikt.
Maar Yann LeCun, die gelooft gewoon niet dat we technisch op het pad zitten dat dit op korte termijn gaat gebeuren. Luister even, luister even mee. "We are not going to get to human level AI by just scaling up LLMs.
This is just not going to happen, okay? That's your perspective. There's no way, okay, absolutely no way.
Uhm, and, and whatever you can hear from some of my, uh, more adventurous colleagues, uh, it's not going to happen within the next two years. There's absolutely no way in hell to, you know, pardon my French, uhm,
the, y-you know, the idea that we're, we're gonna have, you know, a country of genius in a data center, that's complete BS, right? There's absolutely no way.
What we're gonna have maybe is systems that are trained on sufficiently large amounts of data that any question that any reasonable person may ask will, will find an answer through those systems.
And it would feel like you have, you know, a PhD sitting next to you, but it's not a PhD you have next to you.
It's, uh, you know, a, a system with, uh, a gigantic, uh, memory and retrieval ability, not, not a system that can invent, uh, solutions to, uh, to new problems, uhm, which is really what a, a PhD is.
Okay, this inventing new things, you know, requires, uh, the, the, a type of, uh, of skill and abilities that, uh, you're not gonna get from, from, uh, from LLMs."
En dit is een grote aanname: inventing new things, want dat is wat eronder zit.
Dit is de aanname die onder die versp-, die tijdvoorspellingen zit en dus de, de impact op de arbeidsmarkt die wij schetsen, is de aanname dat dit soort systemen nieuwe dingen kunnen ontdekken.En, uh, het hoofd [gniffelt]
het hoofd AI, AI van Meta, geen kleine jongen, uh, die zegt: dit is bullshit. Letterlijk. Ja, en ik denk dat hij ook z'n redenen heeft, hè. Als je kijkt naar de ARC Challenge.
We zitten inmiddels op ARC2 en dat is de AGI benchmark die destijds gebroken werd voor ARC1.
En nu in ARC- Het is een benchmark, dus het is een soort van testje waar me-meerdere taalmodellen doorheen getrokken kunnen worden, zodat er een score opgeplakt kan worden om te kijken wie op dit moment het beste is.
Ja, en wie op dit moment het beste is in ARC2 is de mens, uh, met een, uh, mooie score van 88% gemiddeld uit mijn hoofd. Dus, uh, een toets waarbij, uh, de, een gemiddelde mens, moet ik dat zo zeggen?
Of waarbij de, de beste mensen? Nee, nee, nee, wel iet-iet-iets hoger opgeleid volgens mij, ja. Maar niet, uh, geen savant of zo. Nee, zeker niet.
Het is een, uh, het is de bedoeling, uh, dat een gemiddelde kenniswerker die score haalt, zeg maar. Ja. En dat, dat zijn testjes, die zijn visueel. Uh, dat zijn, het is een soort IQ-test eigenlijk.
En daar scoort o3hai, uh, wat dan nu het summum is, zeg maar, waar we bij kunnen in ieder geval 4.3% op. En dus dat, dat is gewoon waar, hè. Dus, uh, als in: die benchmark is er.
Er is een benchmark waar mensen ontzettend goed op scoren en, uh, de beste modellen waar we nu bij kunnen niet. Dat is de realiteit van vandaag.
Ik denk waar Yann LeCun ook, uh, over praat is, uh, want ik heb wel meer van hem gelezen en gezien, is dat het hele paradigma van taalmodellen, dus het volgende stukje van een woord raden wat de GPT's, uh, allemaal zijn, dat dat niet kan opschalen naar, uh, general intelligence, hè.
Drop-in, uh, knowledge workers, wat wij, uh, wel eens, uh, bespreken op die manier. Iedereen die vanuit thuis kan werken, die, uh, zou dan vervangen kunnen worden. Uhm, dat-- twee dingen minimaal.
Kijk, hij, uh, heeft denk ik zeker een punt dat het niet een GPT zal zijn die zo'n drop-in knowledge worker wordt. Dat wordt waarschijnlijk allerlei scaffolding omheen en agents en trucjes en databases.
Hij zal dat als het succesvol wordt beschrijven als: ja, maar dat is eigenlijk geen taalmodel meer, hè.
Ja, omdat het gewoon allerlei bestaande tools, of dan wel nieuwe tools, aan elkaar koppelt als een soort van Duplo-stenen. En dat is een beetje valsspelen, zeg jij.
Ja, dus, nou ja, ik, ik vind dat niet zelf, uh, maar- Dat zou je kunnen beargumenteren, want je kan niet, je kan niet zeggen: die AI, uhm, is dus slimmer dan een mens, want je hebt gewoon tering veel, uh, gereedschap aan het ding gehangen.
En, en nu eigenlijk, uhm, veel van de tools waar jij en ik van onder de indruk zijn. Uh, Deep Research bijvoorbeeld is al zo'n gescaffold ensemble van Duplo-stenen. Ja, doen exact dat.
Ja, er zit wel een soort kern ergens nog van een taalmodel onder, maar de rest is allemaal eromheen geplakt. Ja.
En ik denk, uh, wat ik wel prettig vind aan de, de soort spanning tussen het verhaal van, uh, nou ja, de, de drie grote labs versus, uh, LeCun bij Meta, is dat, uh, in het LeCun-verhaal AI nog heel erg een, uh, tool is.
Een instrument wat je inzet als een taalmodel zoals we dat nu kennen. Iets wat jou helpt en iets wat jou augment.
Dus hij zit heel erg in: als dat is wat de technologie vandaag kan en ook over twee jaar kan volgens hem, dan zou ik zeggen: oh, dat is best wel prettig, vind ik persoonlijk, want dan is AI nog overduidelijk een, een gave, uh, tekstvoorspellende, uh, uh, soup, mech suit.
Een, een pak wat je aandoet waardoor je sneller kan rennen. Aan de andere kant, en daarom zitten zij zo hard op die trommel te slaan, is het AI als een soort entity. AI als een collega, AI als baanvervangend.
En, uh, dan moet je dus over AGI praten en over, uh, systemen die langer dan een uur zelf dingen kunnen doen.
En het lijkt erop als je het Meta-verhaal volgt, dat we ons niet zo heel veel zorgen hoeven te maken, want we krijgen er gewoon een gaaf nieuw stuk gereedschap bij in de kist. Mhmm.
Hè, in zijn, uh, in ieder geval de komende twee jaar.
Als je het, uh, Amodei-verhaal gelooft, zegt ie: nee, dit, dit, dit, die gereedschapskist is ten eerste een hele kist vol en hij kan ook lopen trouwens [lacht], weet je wel. En zelf gaan schroeven, hè.
Dus de, de, er zit een, een, een grote overgang van AI als tool, instrument gebruikt door de mens, versus AI die zelf op welke manier dan ook aan de gang gaat. Ja.
En, dus mijn duiding van dit hele verhaal is, uh, ik vind het boeiend om er eens over na te denken. Dat gaan we niet nu in deze aflevering doen, maar gewoon de komende tijd.
Ja, want dan wordt het-- we willen zoveel, vertel-- sorry man. Ik dacht dat je met het antwoord zou komen. Nou, ik, ik kom met de vraag.
[lacht] Ja, van wat, uhm, waarom is het voor-- kijk, als je het soort cynisch bekijkt, heb, heeft iedereen z'n redenen om bepaalde claims te maken, hè. Nou, oké.
Maar als je dat even loslaat, want dat, zeg maar, dat laten we aan anderen.
Nou ja, ik denk dus dat het wel boeiend is om erover na te denken waarom het zo interessant is voor LeCun om te roepen: het valt allemaal wel mee, terwijl hij even diep op de research zit als zijn collega's en op dezelfde plek binnen Meta als zijn collega's in ieder geval.
Dus dat is boeiend. We gaan uit van dezelfde voorkennis. Ja, dus daar heeft hij blijkbaar een ander, uh, belang bij.
Nou ja, ik kan ook gewoon een daadwerkelijk, laten we even uitgaan van de mi-minst cynische soort van bril om doorheen te kijken, want ik denk toch dat dat ook belangrijk is. Zeker.
Ondanks de neiging dat, zeg maar, zo snel geroepen wordt: ja, ze hebben gewoon een belang erbij om dit allemaal te roepen. Het zal allemaal wel. Parkeer dat gewoon even hier.
Het zijn ook mensen met gezinnen die, die zich zorgen maken. Dat-- [zucht] ja, uh, dan, dan heb je dus een situatie van gelijke voorkennis en totaal verschillende toekomstverwachtingen.
Want het is inderdaad letterlijk een soort van hun, hun, je zou het op een betting market kunnen, uh, neerzetten, namelijk: binnen twee jaar is er, uhm, g-, uh, intelligentie gelijkwaardig aan de mens.
En dan zegt de één ja en de ander zegt nee. Met-- terwijl ze dezelfde, uh, voorkennis hebben. En eigenlijk lijkt, zoals het op mij overkomt, is dat zij dus,
uh, verschillende verwachting hebben van de doorbraken die gemaakt gaan worden.
En Yann LeCun denkt dus g-gewoon dat die doorbraken er niet gaan komen binnen nu en twee jaar en is daar zo stellig over dat hij, het is niet een soort van, hij, hij zegt niet een soort van: ja, het zou kunnen, we weten het niet, we kunnen de toekomst niet, we kunnen niet in de toekomst kijken.
Nee, hij zegt gewoon: het is bullshit, wat, wat- Ja, hij is echt streng. Zeker. Dus ik, ik, en als je even gewoon al zijn incenti-, al die incentives opzij schuiftWat, ja.
En wetenschappelijk gezien, want ik heb veel van zijn interviews gezien, gelooft hij gewoon niet. Hij zegt: we moeten ook helemaal weg bij die taalmodellen. Het is a-, dat is klaar. De taalmodellen zijn klaar.
Die kunnen we nog een beetje schaven. Die zijn niet meer door te ontwikkelen op fundamenteel niveau. GPT 4,5 kan je nog naar 4, 4.7 trekken en Claude nog een keer naar 4.1, maar dan ben je er wel, zeg maar.
En, uh, nou, dan is er eigenlijk één groep die zegt: prima, dan houden we dat als, als kern en dan gaan we er lekker scha-, uh, lagen overheen bouwen, hè, scaffolding. Dat is een strategie. Ja.
Dus we hebben een brein in het midden en dan gaan we lekker dingen aan plakken. Ja. Een soort organen eromheen.
En je hebt de groep die zegt: nee, daar moet een, op die plek waar nu LLM's zitten, hè, als, als soort hart of brein van het hele ensemble, daar moet een heel ander ding gaan staan, anders komen we er nooit. Ja.
En LeCun zegt heel erg, dat, in interviews zegt hij letterlijk: ik ben, ik vind LLM's saai, ik vind ze stom. Ik ben al lang stappen verder. Waarom zijn jullie daar allemaal nog mee bezig?
Dit zijn een beetje quotes, uh, ik parafraseer, maar. En, uh, ik denk dat hij vanuit de wetenschap zegt: dit is een dood spoor. Laten we overstappen naar wat anders.
En stop ook alsjeblieft met op dat dode spoor gaan claimen dat uit dat dode spoor een of andere entiteit gaat ontstaan binnen twee jaar. En Amide, Amadeus daartegenover?
Nou, die, die zit, die ziet genoeg binnen Anthropic, hè, met alle experimenten zijn doen en de hele roadmap die er ligt, dat die eigenlijk zegt, want dat is wel belangrijk om, uh, je even, even, even heel helder: zonder AGI, zonder iets wat menselijk is, kan je nog steeds gigantische vloedgolven of golfbewegingen door de arbeidsmarkt krijgen.
Ja. Ik denk dat Amadeu ook een beetje aan die kant zit van- Ja, die is maatschappelijker. Hij, hij is meer aan het nadenken misschien over de economische impact. Ja, kijk, als Amadeu zou zeggen: ik sla alarm, want AGI.
En LeCun zegt: maak je geen zorgen, er komt geen AGI. Dan kan je die twee mannen tegenover elkaar zetten. Ja. Ik denk niet dat dat helemaal waar is.
Amadeu zegt: ook al komt er geen AGI, met wat wij aan het bouwen zijn, met alle trucjes eromheen en wat we nu al in de data zien, is er zo'n grote impact. Hier moeten we meer over praten.
En LeCun zegt dan: hou nou eens op met je AGI-geklets, dat, dat is, dat is gewoon kletskoek. Uh, laten we ons focussen op het volgende wetenschappelijke paradigma.
Ik begin toch steeds meer het idee te hebben dat we een soort van standbeeld moeten oprichten voor Amadeu. Dat ie, weet je, [schraapt keel]
ik denk dat hij er ook heel veel bij te verliezen heeft door zo, uhm, zo te spreken. En dat er, uhm, weet je, de openheid die zij, uh, laten zien elke keer als er nieuwe modellen uitkomen over wat er allemaal misgaat.
Uh, dus bijvoorbeeld, we hadden dat verhaal over dat de nieuwe versie van Claude mensen ging, uh, [lacht] de gebruiker ging, uh, proberen af te persen, uh, omdat hij had, omdat hij doorhad dat de gebruiker, uh, iets had wat hij niet wilde openbaren.
Ik weet niet meer wat het was. Volgens mij was hij vreemdgegaan of zo. Ja. Dus, nou ja, uh, en dan ging de AI, ging dat soort van dat nieuws, uh, proberen te lekken aan een journalist. Heb ik dat nou goed begrepen?
Ja, zeker. Om hem onder druk te zetten. Dus die ging helemaal schemen met hoe die, uh, hoe die zijn zin zou krijgen. Uh, en dat wordt dan, dat wordt dan in de openbaarheid gebracht. Daar is dan een hoop kritiek op.
Uh, uh, en
eigenlijk is het natuurlijk alleen maar te bewonderen dat een bedrijf zo open is over de- Ja, en ik zit nu door ons gesprek te denken en een beetje jou, uh, terugduwen op dat cynisme, uh, wat denk ik terecht is, dat je daar op terugduwt, is dat: ik doe met mijn wijs van wc-eend, uh, alsof die, uh, laboratoria/bedrijven of bedrijven/laboratoria, in welke volgorde je dat wil interpreteren, enkel een commerciële organisatie zijn.
Dat is niet waar. Feitelijk niet waar. Dus wat ik iedereen aan zou raden die zegt: ik wil dit ook met mijn, ik wil hier zelf over nadenken en mijn eigen onderzoek doen als het ware.
Doe nou in welke volgorde dan ook eerst even die commerciële bril op, hè. Wat is het belang van deze corporation om dit te zeggen? Dan doe je die bril even af. Ja, doe hem expliciet even af. Ja, dan doe je hem even af.
Dan pak je een nieuwe bril en dan zeg je: dit is mijn, uh, laboratoriumbril. Ik ga namelijk naar een groep nerds kijken die eigenlijk- Die papers produceren.
Ja, en, en megaveel onderzoek en ook AI safety doen en mega overlap hebben met de hele wetenschappelijke wereld. Het zijn dezelfde mensen die daar werken. Mhmm.
Dan doe je die bril op en dan lees je nog een keer die press release en dan kijk je nog een keer het interview en dan leg- Dan een stap achteruit en dan ga je naar beide, beide oordelen.
Waar ligt dan de waarheid tussen dat onderzoekslab en dat be-bedrijf in? Wat een tijdwietse. Oké, uh, nog een paar dingetjes over Anthropic, want ik heb een hele nieuwsblog samengesteld rondom dit bedrijf.
Uh, Windsurf werd overgenomen door OpenAI een paar weken geleden. Dat is een coding tool, uh, die gebouwd is rondom programmeren met AI.
Die werd voor, weet ik veel hoeveel miljard, overgenomen door OpenAI en Anthropic heeft nu de API-koppeling verbroken met Windsurf, want dat is natuurlijk wel een ding dat je grote concurrenten vandoor gaat met, uh, met een belangrijke coding tool.
En blijkbaar wil Claude daar niet meer aan bijdragen door de AI-koppeling te verbreken.
Is dit een soort van openingsschot in een oorlog tussen deze twee bedrijven waar, waar ze hiervoor nog een beetje, nou ja, laatst na-- gemoedelijk naast elkaar aan het varen waren en allebei wel wat klantjes pikten, maar niet echt met modder naar elkaar gingen gooien.
Dit voelt wel als een openingsschot. Het kan. Ik kan het iets nuanceren wat ik denk. [lacht] Sorry man. Bedankt.
Ja, ik denk, uh, ik heb best wel lang nagedacht en onderzoek gedaan naar waarom, waarom Windsurf en waarom zo'n grote bak geld vanuit OpenAI. De theorie die ik het meest, uh, plausibel vind is, uh, data verzamelen.
OpenAI heeft een model dat heet Codex. Dat is een eigenlijk doorgetraind GPT-model, specifiek voor programmeren. Om zo'n programmeermodel goed te kunnen trainen heb je heel veel data nodig.
Als je data wil verzamelen doe je dat in de IDE in Windsurf. Dat zou betekenen dat eigenlijk Anthropic data gaat leveren aan OpenAI om hun codingmodel te trainen.
Want als Windsurf anonymously, hè, in de, uh, user agreement aangeeft dat iedereen die urenlang met Windsurf werkt in koppeling met Claude op de achtergrond, dat OpenAI alles mag mee bekijken en mag doortrainen.
Ja, dan distillen ze als het ware, dan onttrekken ze eigenlijk alle intelligentie uit Claude via Windsurf Codex in. Mhmm. En ik denk dat Anthropic daar gewoon van heeft gezegd: zullen we dat gewoon niet doen?
Het is onverstandig voor ons om de hele dag OpenAI te gaan voeden via Windsurf, dus ik denk dat hij daarom uitgezet is. Het was gewoon een openingsschot. [lacht] Ja, wat bedoel je nou met je schot?
Volgens mij is de conclusie, is de conclusie is hetzelfde, namelijk de concurrentiestrijdJe kunt op. Ja, je kunt. Oké, het zit.
Dit zit een beetje in tussen doelbewust dwarsliggen versus gezonde paranoia dat je concurrenten niet met je model wil doorgaan. Ja, ja, oké. En tenslotte in.
In het nieuwsboek over Anthropic zag ik dat vandaag voor de pro gebruikers van Claude. Dat betekent dat je € 20 per maand betaalt, dat je research kan aanzetten. Dus dit is hun, hun agent die het web op kan gaan.
En eigenlijk diep research van, van ChatGPT of hoe noemt Perplex die het ook zoiets diep. Ja, het is allemaal met diep en dieper.
Onderzoek heet het volgens mij in Nederland bij Perplex die kan nu ook in Claude, dus die kan nu het internet voor je opgaan en lang nadenken en dan vervolgens een documentje afleveren. Dat is grappig.
Ik heb geprobeerd om een draaiboek te maken voor deze aflevering, dus kijk maar even of je het goed vindt. En ik zag dat ze remote MCP's nu hebben aangezet en dat betekent dat je.
Je kan koppelingen maken vanuit Claude nu met meer tools dan alleen maar je Gmail en je Google Calendar. Wat een soort van mooi geïntegreerde externe services zijn die je nu met Claude kan aanspreken.
Ze hebben nu ook Linear en een aantal andere nerd tools toegevoegd, maar het soort van meest concrete ding denk ik voor de luisteraar is dat ze Zapier hebben toegevoegd. Dus je kan een remote MCP met Zapier aanleggen.
Jezus, hoe maak je dit nou simpeler? Dus je kan met Claude nu andere tooltjes koppelen zodat je vanuit. Zonder dat je heel technisch hoeft te zijn. Precies. En een ander tooltje is in dit geval Zapier.
En Zapier is weer een tooltje wat met andere tooltjes praat. Dan ga je eigenlijk de hele wereld in. En dan? Dan heb je eigenlijk alle tools denkbaar. Dus van Todoist als je voor je to-do app tot wat nou?
Wat kunnen we nou meer? Notion als je dat gebruikt voor je projectmanagement, Asana of je temperatuur in je huis of.
Zapier is een koppeling der koppelingen en het feit dat je de koppeling der koppelingen aan Claude kan koppelen, dat klinkt gek, maar dat is dus in één, in één oogop-, in één.
Nou ja, poef wordt opeens Claude gekoppeld aan alles. Ja, het licht gaat op heel veel plekken aan ineens en ik denk dat, het is ook wel typisch. Of hoe zeg je dat?
Tekenend dat toen Zapier een tijd geleden aankondigde dat ze MCP support gingen inbouwen. Dus nog even los van of je het in Claude aan kon zetten makkelijk. Zapier zei Wij doen mee.
Dat eigenlijk daarna OpenAI en Google iedereen volgde. Ik zeg niet dat. Met dit protocol bedoel je? Ja. Ja dus.
Het voelt een beetje dat de buy in op MCP gestart is bij Zapier, want ik denk dat het toen ook voor die andere partijen, dit weet ik niet zeker, maar dat is ongeveer de timeline die ik zie.
Dat andere partijen toen dachten ja maar wacht even. Als, als Zapier MCP support heeft, dan kan je. Dan ligt de hele infrastructuur al klaar. Want dat is jouw punt.
Die hele infrastructuur van Zapier lag er al om to connect anything to everything via makkelijke interfaces die de meeste mensen kunnen gebruiken.
Als dat dan in Claude zit in de Claude website, zonder dat je nog moeilijke dingen hoeft te installeren of een developer hoeft te zijn, dat is nu waar.
De uiteindelijke ultieme koppeling is gelegd en ik ben heel nieuwsgierig wat daar uit gaat komen. Lijkt me heel grappig als Apple nu Zapier koopt. Zoiets. Als een soort van partij die niks kan er nu tussen gaat zitten.
Lijkt mij grappig, maar in de praktijk voor de gebruiker betekent het dus dat je kan zeggen nu tegen Claude: hé, help me herinneren dat ik de vuilnisemmer moet buiten zetten. En doe dat trouwens iedere week.
En dat dat ding dan begrijpt. O, jij gebruikt Todoist? Ik praat wel even met Todoist. Ik zet het wel even in je Todoist. Of dat je kan zeggen ik heb in mijn Notion documenten iets staan over weet ik veel.
Er staat iets in ons HR-beleid over wat ik moet doen met vakantiedagen. En dat je in Claude kan vragen hoe veel vakantiedagen heb ik eigenlijk? Enter.
En dat dit ding dan zelf in Notion gaat zoeken naar die interne documentatie en dan het antwoord geeft. En dat dan met alle apps die er bestaan in de cloud. Want dat is Zapier, dat is een ding.
Het is ongelooflijk ingewikkeld allemaal nog om het nu aan te zetten. Je moet een of ander URL kopiëren en dan een variant van een API. Wel een beetje technisch.
Het is alsof die nerds gewoon toch weer een soort van heuveltje hebben neergelegd waar je dan weer met een met je bril op doorheen moet gaan zitten. Dit doen ze niet bewust, ze hebben het gewoon niet door.
Zij denken dat het makkelijk. Wel, want met Gmail kan je gewoon koppelen zoals.
Zoals een simpele ziel als ik dat kan namelijk een vinkje aanklikken en dan ga je gewoon naar die pagina waar je met je Gmail account kunt inloggen en dan geef je toestemming en dan is het klaar.
Met, met Zapier moet ik weer een of andere API pagina gaan opzoeken. Gedoe allemaal, Wytse. Geef ze nog even. Wanneer kunnen die nerds eindelijk eens een keer normaal doen? Ik heb een aantal administratieve
opmerkingen voor jou. Één. Volgende week is het webinar, 12 juni. Dat zeg ik even tegen jou, Wytse, [lacht] die er klaar voor ben. Totale paniek aan deze kant. Maar ook aan de luisteraar. Want als je nou
vragen wil stellen aan ons, dan. Normaal praten wij tegen jou, maar jij kan dus terugpraten. Dan kun jij meedoen aan die webinar. Dat doen wij voor betalende gebruikers. Voor niks gaat de zon op.
Als je er nou bij wil zijn, dan kan dat. Voor betalende gebruikers van de AI Report nieuwsbrief. Dan kun je je voor aanmelden op AI Report punt e-mail slash webinar. Wat kost dat eigenlijk? Volgens mij € 12 per maand.
Dan krijg je twee keer per week de betaalde versie van onze nieuwsbrief met alle uitleg over hoe je AI tools moet gebruiken. En dan kun je dus ook bij de webinar zijn om Wytse en mij vragen te stellen.
Als je nou gratis zo'n webinar wil luisteren, dat kan. We hebben de aflevering van de vorige keer nu geüpload in de podcastfeed en die is maandag verschenen, dus die kun je terugluisteren.
En daarnaast zijn wij van plan om te werken aan een soort van AI Report Academy om, ja, een soort van meer AI cursussen te geven. En, uh, ja, ervoor te zorgen dat Nederland wat meer AI-proof wordt.
En daarvoor zoeken wij een soort van ondernemende ondernemend type die dat samen met ons wil op-, op-, opzetten. Als je dan luistert en denkt dat ben ik, kijk dan naar de link in de shownotes.
Straks gaan we naar het hoofdonderwerp, namelijk: wat wordt de rol van open source en lokale taalmodellen in onze autonomie in deze enorme AI-strijd?
Maar eerst een speciale oproep van Dept en de kans voor jou als luisteraar van AI Report om dagelijks met AI te werken.Hi here dept Elke week bespreken we hoe wij merken helpen in de wondere wereld van AI.
Maar deze week gaan we het even hebben over onszelf. Of eigenlijk over jullie, onze luisteraars. Want Lucas, wij komen handen tekort. Absoluut. We zitten tot over onze oren in het AI werk. Megaleuk werk trouwens.
We helpen bijvoorbeeld eBay om content te versnellen en we maken aanbevelingsmodellen voor Rituals en het helpen van een breed scala aan klanten om nog beter gevonden te worden in die wereld van AI zoekmachines.
En als klap op de vuurpijl bouwen we ook actief door aan onze eigen interne tooling om onze teams te helpen nog beter werk te leveren. Check! Dus we hebben eigenlijk mensen nodig die vandaag al willen bouwen.
Ja, hou je vast. We zoeken AI consultant, AI engineers, data scientist, machine learning engineers en ook mensen die ons kunnen helpen om verder te optimaliseren. En uiteraard zoeken we ze eigenlijk al gister. Duidelijk.
Oké dus. Werk jij graag aan complexe internationale projecten en wil je echt het verschil maken met AI? Check dan nu onze vacatures in Nederland, Duitsland, de UK en de US. En ga zo snel mogelijk naar Dept agency. Com.
AI vacancies. Solliciteren dus. Tot volgende week!
Weet je nog dat je voor de eerste keer ChatGPT gebruikte? Ik weet dat wel. Dat was gewoon 30 november '22, de dag dat het uitkwam. En ik weet nog dat het op Twitter ontplofte.
Ogenschijnlijk was er niet zoveel aan de hand. Het was gewoon een simpel wit tekstvakje op je scherm en daar kon je een vraag in typen. Maar het antwoord was net iets te goed, net iets te menselijk. Het was echt magisch.
En nu, 2,5 jaar later, praten we niet meer over ChatGPT alsof het magie is. Ik plan er vakanties mee. Ik laat het mijn e-mails schrijven. Ik vraag om de zoveel tijd om advies bij relatieproblemen.
En in feite is het ook al in staat om een thermostaat te bedienen, mijn agenda bij te houden.
En het duurt vast niet lang voordat mijn huisarts, de burgemeester van mijn stad en de CEO's van de grootste bedrijven van ons land bijstaat bij hun belangrijkste beslissingen.
De vraag die me de laatste tijd bezighoudt, is eigenlijk heel simpel waar denkt die AI? Dat klinkt als een technische vraag, maar het heeft heel veel te maken met wat ik net zei.
Ik denk zelfs dat het de politieke vraag van onze tijd wordt. Want het gaat over wie jou kent, wie jou kan beïnvloeden, wie de stekker eruit kan trekken. Kijk, hier zit het probleem.
We denken dat we AI gebruiken, maar in feite gebruiken we een dunne laag software op onze telefoon die al onze vragen, al onze data, al onze gevoelens doorstuurt naar een computer ergens anders.
Een computer die eigendom is van een bedrijf dat we niet controleren. In een land waarvan we de wetten niet bepalen.
Een computer die op hoog tempo meer over jou aan het leren is dan we gewend zijn tot nu toe van bedrijven als Google en Meta.
Het is de architectuurkeuze die bepaalt of AI ons bevrijdt of juist afhankelijker maakt dan ooit. We kunnen doorgaan op de weg die we zijn ingeslagen. Alles aan de cloud.
Vertrouwen op big tech en hopen dat ze lief blijven. Of we kiezen voor iets anders. Iets waarbij die AI-breintjes niet in Virginia zitten, maar gewoon hier op jouw telefoon, zelfs onder jouw controle.
Want hier is de crux elke AI moet ergens denken. En waar dat gebeurt, daar ligt de macht. Wietse We gaan het vandaag hebben over privacy.
Heb jij Nineteen eighty-four gelezen? Zeker, zeker. Ja, ik dacht dat wel. Nineteen eighty-four is natuurlijk die dystopische roman die inmiddels een soort van cliché geworden is als je het.
Als je het hebt over over dit onderwerp. Big Brother is watching you. Maar ook recenter in de populaire cultuur hebben we The Circle gehad van Dave Eggers. Ook stiekem ook alweer een tijdje geleden, 2003.
2013 kwam dat uit. En natuurlijk Black Mirror. Dat zijn een beetje de ja, de de trio van de dystopische soort van cultuur
Toekomstvoorspellingen waarin een wereld wordt geschetst waarin grote machthebbers, of dat nou de overheid is of techbedrijven, ja, alles van je weten en die informatie gebruiken en dan dus ook beginnen te misbruiken en alle consequenties die dat hebben.
Laat ik beginnen met de vraag denk je dat we nu in een tijd zijn aanbeland waarin die romans werkelijkheid zijn geworden? Of is het nog niet zo erg? Ik denk dat het nog niet zo erg is.
Er is alleen wel heel veel potentie voor narigheid en narigheid. Als in heel veel data die geanalyseerd kan worden door slimmere algoritmes dan dat we die ooit gehad hebben.
Ik concludeer even goed nieuws het is nog niet aan de hand. Nou, dat is fijn. Ehm, ja, ik. Ik zou zeggen niet op grote schaal. Kijk, ik, ik denk dat. Nee, ik weet ook wel waar dit heen gaat.
Dit is natuurlijk een soort van kijk. Maar hoe ik dit nu zie is dat er twee scenario's zijn waarin we waartussen we kunnen kiezen. Twee fundamentele, soort van verschillende wereldbeelden.
Aan de ene kant een soort van wereldbrein, een een super intelligente AI in een datacenter in de woestijn. Als ik dan probeer voor te stellen waar de geldstromen heen gaan.
De hele wereld maakt verbinding met dat ene brein. Alle data stroomt naar één plek.
Er is een soort van winner takes all strijd geweest waardoor er is één AI bedrijf met de meeste.Uh, met het meeste geld, met de grootste datacenters.
Die hebben de grootste computerkracht en die konden de slimste mensen aantrekken. En daardoor on-ontstond er een soort van dynamiek waarin er nog één winnaar was.
En toen die eenmaal begon te winnen, begon hij nog harder te winnen.
En het andere scenario is een soort van gedistribueerde intelligentie, waar we juist miljarden minibrijntjes hebben verspreid over de hele wereld, waarbij iedereen zijn eigen AI heeft op zijn eigen praat met data die zoveel mogelijk lokaal blijft, waarbij beslissingen lokaal worden genomen.
Minder efficiënt kun je er tegenin brengen, maar met veel meer, uhm, autonomie. Ja, laat ik even zeggen dat die tweede, het tweede scenario is de status quo wat betreft biologische intelligentie.
Heel veel Ja, ja, ja, ja [lacht] brijntjes met hun eigen data Ja in hun koppies. [lacht] Is ook al vrij lang zo. Ja. [lacht] Ja, dus, uh. Ja, we hebben er ervaring mee. Ja, die kennen we.
En ik ga meteen, uh, irritant doen. Je beschrijft nu natuurlijk een spectrum tussen twee Ja uitersten. Dat komt eraan. Die gaan wij een beetje onderzoeken. Ja, precies.
Uh, en als je deze twee scenario's hoort, laten we maar even gelijk de vooringenomenheid, uh, benoemen. Dan ben jij niet voor het eerste scenario [lacht]. Nee, nee.
Nee, maar laten we het maar even, laten we het gewoon maar even zeggen: jouw idee hierover is iets anders dan de CEO van Microsoft zou hebben of de CEO van Google zou hebben. Nou, dat vraag ik me eigenlijk af. Mhm.
Ik bedoel, ik geloof wel dat die wat meer richting decentralisatie willen bewegen. Ja, ik zeg- Daar werken ze hard aan, iets [lacht]. Ik heb dat idee wel.
[lacht] Ja, nou ja, het is geen, uhm, abstracte discussie, uh, want ik denk dat heel veel mensen een g-gevoel van, uh, ja, een soort van ongemak ervaren over de, de rol die chat of andere AI-systemen in hun leven beginnen te spelen en ook de mate waarin, ja, we steeds meer persoonlijke gegevens erin overdragen.
Het is in de, ook populaire cultuur, en ik draag daar aan bij, uh, uhm, ja, bon ton om te zeggen dat je het als psycholoog gebruikt.
En, uh, Sam Altman zegt over jonge mensen dat ze het als opereringssysteem in hun leven gebruiken. Alle keuzes, belangrijke keuzes die ze maken in hun leven voorleggen aan ChatGPT voordat ze het daadwerkelijk gaan doen.
Uhm, hoe-- wat is nu de, ja, wat is nu de, jouw intuïtie van het huidige veld? Kun je het huidige veld beschrijven?
Wat is nu de dynamiek tussen soort van de world brain en de dis-, de, de, het, het dis- gedistribueerde intelligentie aan de andere kant? Waar zijn we nu naar op weg?
Nou, de, kijk, de world brain, daar zit nu veel momentum en geld en investeringen.
Omdat het nou eenmaal vaak gecentraliseerd begint, zeg maar, in de tech-- de geschiedenis van technologie heb je heel vaak een lange, soms korte, soms hele lange, soms superlange fase van centralisatie.
Maar het begint vaak op één plek, in één laboratorium, Bell Labs of zo, of een of andere CERN in Zwitserland.
Het begint dan daar en dan heb je een distributie en dan worden er allerlei, uh, kloontjes, kopieën gemaakt van diezelfde technologie met eigen smaakjes, lokale smaakjes, uh, ander soort bedrijfsvormen, et cetera.
En zo is het internet bijvoorbeeld uiteindelijk als een soort, uh, uh, s-s-schimmel of een rizoomnetwerk die wereld over groeit vanuit, uh, Zwitserland, zie ik dan even zo voor me.
Ja, en niet, niet in eigendom van één bedrijf, bedoel je? Uiteindelijk niet meer. Nee. Uh, maar het kan heel goed beginnen in, bij één lab en dan gedistribueerd worden. Of bij één bedrijf/lab of bij één bedrijf.
Hè, dat is een beetje dat verschil wat we eerder in deze aflevering aanraakten tussen het commerciële en het onderzoek.
Soms begint het gecentraliseerd vanuit onderzoek, soms begint het gecentraliseerd vanuit het bedrijfsleven.
Maar het, uh, het is prettig, in mijn ogen in ieder geval, als zo'n technologie zich daarna over de wereld kan verspreiden, zodat het in lokale culturen kan landen en aangepast kan worden naar wat de mensen daar willen.
Uh, en dat er, uh, ook redundantie, uh, re-, uh, een soort, uh, stabiliteit ontstaat omdat het niet op één plek staat. Want ik denk dat,
uh, en dat is een beetje het gevaar aan deze aflevering, dat, dat ik, uh, weer in een soort gat verdwijn ergens. Ja, ik trek je wel weer even terug. Dank je wel. Ja, fijn dat je het bij jezelf constateert al.
Ja, nou ja, dat draait iets mee tegenwoordig. Maar mijn, la-- ik probeer neer, ik probeer eerst eens neer te zetten: hoe ziet het veld er nu uit? Want er zijn allerlei economische, uh, weet je, uh, f-factoren hier.
Je hebt bedrijven als Google en, uhm, Microsoft, OpenAI, Anthropic, Amazon. Die allemaal werken aan centralisatie, toch? Mag, mag ik dat zo zeggen? Of, of ben ik, vlieg ik dan eigenlijk al uit de bocht?
Nou, wel een beetje- Ja...uit de bocht. Want, uhm, kijk, de, de dag zoals wij hier nu vandaag zitten, terwijl wij hier aan het opnemen zijn, zijn heel veel mensen van over de hele wereld aan het praten met AI. Mhm.
Dat zijn ze aan het doen, uh, binnen, op hun werk met Copilot. Dus dat is dan een datacenter in de buurt, hè. Dus dat is niet altijd een datacenter in Amerika.
Dat kan ook een datacenter zijn in de buurt, maar wel een datacenter van een, uh, bedrijf vaak. Mhm.
Uh, dan, en als mensen dan met AI praten kan dat zijn, dus Copilot, maar ook de OpenAI ChatGPT-app, maar ook Claude, uh, maar, en misschien zelfs Le Chat [lacht] van Mistral. Van Mistral, ja.
Hè, en die, al die- Datacentrum in Parijs. Maar het zijn allemaal, hè, jij zei het al, uh, dunne schillen, hè, dus thin clients om even de onderwijsmetafoor te gebruiken.
Kleine dunne computertjes die bijna niks weten, die constant al hun hulp moeten vragen over glasvezelnetwerken heen naar datacenters. Ja, je bedoelt kleine computertjes, bedoel je dan je telefoon? Ja.
De app in je telefoon doet, doet niks zelf. Het gaat, het is alleen maar een doorgeefluik van een server die ergens staat te rukken.
Ja, ik, ik zou zeggen, uh, nattevingerwerk, hoor, maar, uh, één op de 10.000 mensen die vandaag in Nederland met AI praat, praat met iets wat op hun telefoon staat. Precies.
En die, al die andere mensen praten met een datacenter. Ja, dit is de kern. Dus, uh- Dit is de status quo ook nu.
Ja, dus, het, en dat is eigenlijk een, als ik jou dan, als ik mag voorlopen op de conclusie die jij, uh, al lang getrokken hebt in je hoofd. Dat is niet een, een goede verdeling.
De, jij zou graag willen dat het minder gecentraliseerd was, dat mensen die AI gebruiken in meerdere mate of in grotere mate dan het nu is. Jij zou willen dat zeJa, g-, g-, die gedistribueerde AI eigenlijk.
Maar hoe werkt dat dan? Hoe, hoe- Precies. Hoe, hoe werkt lokale AI dan? Wat is dat en hoe doe je dat dan? Ja, precies.
Nou, ik denk wel dat, ik wil nog wel even de kanttekening maken dat ik daar misschien iets minder radicaal in ben dan sommige mensen misschien zouden verwachten van mij.
Eh, ik, ik kan ook prima, uh, uhm, tevreden zijn, uh, met een regionaal, uh, datacenter bijvoorbeeld. Nou, bedankt voor deze disclaimer. Dus dat scheelt.
Dus het hoeft niet per se allemaal in jouw broekzak of allemaal thuis. Maar hoe zou dat eruit zien als we effe die knop helemaal de andere kant op duwen, hè, nu in het spectrum, zo, pam. Ja, want dit zijn we nu gewend.
ChatGPT op je telefoon inderdaad. Of Copilot, dat, dat is wat, hoe we nu begrijpen dat AI werkt.
En ik ga een beetje, uh, leunen op wat, uh, Apple al bedacht heeft en wat ze nog ni-, nog niet gelukt is om aan ons in de markt te geven, maar wat ze wel best wel goed hebben uitgewerkt.
En dat is eigenlijk, uhm, zou je dat kunnen zien als een soort, uh, tool calling. Ik ga mijn best doen.
Nu is het zo dat op het moment dat jij een AI aanroept, dus nog niet in het lokale, maar status quo centre, centre, gecentraliseerd,
dan praat jij met Claude in het datacenter, ergens, waarschijnlijk in Amsterdam, uh, want die hebben ook lokale plekken, maar in ieder geval van Anthropic, even als voorbeeld.
Dan stel jij een, uh, vraag over: ik wil mijn thermostaat, uh, hoger zetten. Dan gaat hij via Zapier naar jouw thermostaat toe in huis, zet ie hem hoger en komt hij weer terug.
Daar doet hij dus een tool call, zoals dat heet. Dus die AI in dat datacenter, die mag naar buiten toe, buiten zijn datacenter, naar een andere datacenter om daar aan Zapier die thermostaat om te zetten.
Waarom is dit zo belangrijk?
Die tool calling functionaliteit, dus het, v-, eh, die MCP-achtige functionaliteit waarbij taalmodellen de mogelijkheid hebben om het internet op te gaan, om onderzoek te doen, om knopjes om te zetten, et cetera, die kan je ook gebruiken om met andere AI's te praten.
Wat zou je dan bijvoorbeeld kunnen doen? En dit is denk ik een beetje wat Apple voor ogen had, heeft. Er draait een taalmodel op jouw telefoon. Doen we even wat Google nu heeft uitgebracht, een, en Gemma.
Gemma zijn de open source versies van Gemini. Die heten Gemma.
Daar hebben ze een Gemma-model gemaakt, Gemma 3N, die helemaal specifiek ontworpen is om thuis te zijn, om, om een goed huis te hebben op een recente smartphone. Oké, ik ga de luisteraar er weer even bij halen.
Het is nodig. Ja, want je bent een eind aan het vliegen op dit moment. Dank je wel. Zoals je nu ChatGPT gebruikt op je telefoon, is dat alles wat je ziet, gebeurt in een datacentrum verderop.
Wat jij ook zegt, is dat, uh, het in de toekomst zo gaat zijn, want de meeste mensen gebruiken dit niet, in de toekomst zo gaat zijn dat je via de ChatGPT-app op je telefoon andere services kan aanroepen. Ja.
Dus dat i-, in feite chat praat met een andere app. Ja. En dat is dan iets, d-, als jij een vraag stelt aan chat, gebeurt dat in het, in een een of ander datacentrum, misschien in Amsterdam.
En daar wordt de beslissing genomen om te praten met een tool buiten dat datacenter. In Denemarken. Bijvoorbeeld. En waarom is dit relevant?
Omdat, uh, en dan schets ik het beeld even, je in de, in, [schraapt keel] in een andere wereld zou jij jouw vliegmai-, vliegtuigmodus aanzetten op jouw smartphone en met AI gaan praten.
En dan komt daar gewoon tekst terug. Ja, dat is nu niet het gevoel. Je kan nu niet vliegtuigmodus aan hebben en ChatGPT gebruiken. Probeer maar. Ja. Gaat niet lukken. Nee.
En OpenAI heeft ook niets ingebouwd om op terug te vallen. Er is gewoon connection lost. Ja, ja. Dus dan, eigenlijk sta je dan, zeg maar, is het ineens heel helder hoe dun die telefoon is. Ja, kan niks. Kan niks. Nee.
Want het hele bruin zit bij, brein zit buiten. Ja.
Op het moment dat jij, en dat is nu nog iets wat, uh, technisch complex is om op te zetten, maar wel mogelijk is, is dat jij, uh, en dan doe ik even iets wat echt kan als jij een, uh, recent Google toestel hebt, dan kun jij daar op, uh, Edge Gallery heet het volgens mij.
Het woord edge, ik moet toch even uitleggen.
Edge is de rand, dus als in, uh, internetwereld gesproken wordt over edge computing, dan bedoelen ze compute, dus nadenken, wat jij net zei, AI die nadenkt, zo dicht mogelijk bij de rand. En wat is de rand?
Dat is net voor jouw telefoon of erop. Ja. Net voor jou eigenlijk. De rand van het internet eigenlijk. Ja, precies.
Dus je, stel je voor dat internet komt uit die datacenters, door glasvezelkabels heen, naar jouw huis, naar jouw wifi-router, naar jouw iPhone, naar het scherm van je iPhone. Ja. Dan tussen jou en die iPhone zit de rand.
Dus edge compute betekent zo dicht mogelijk bij de eindgebruiker die computation doen, nadenken. Mhmm. Als je edge AI zou doen, waar we eigenlijk over praten nu, om het even hip te laten klinken, lokale edge AI.
Oké, meneer de consultant. Top, dan ga je eigenlijk zeggen: uh, de neuronen van AI, dus de transistors, de chips, die chip, die tensor chips, die pakken we letterlijk uit het datacenter. Die stoppen we in die telefoon.
Dit is geen metafoor, dit is echt zo. Ja. En dan pakken we een stukje van dat neurale, uh, netwerk wat we normaal gebruiken in een datacenter. Dat stoppen we in een Pixel-telefoon van Google. Ja.
Zodat op het moment dat iemand de vliegtuigmodus aanzet en jij zegt: hallo, ben je er nog? Dat ie zegt: ik ben er nog, hoor.
Ja, dus, die, die, die, om die AI-modellen te laten werken zijn allerlei gespecialiseerde chips nodig.
Die worden nu, weet je, voor veel geld verhandeld en komen in datacentra terecht om die, uh, verwerkingen te doen waardoor jij het antwoord krijgt op je ChatGPT.
En jij zegt eigenlijk: dat soort chips of varianten daarvan worden nu ook in moderne telefoons ingebouwd.
Al die nieuwe telefoons die uitkomen hebben geoptimaliseerde chips voor AI, zodat de tekst niet gegenereerd wordt in het datacenter, maar op jouw telefoon zelf. Ja.
Dus dan begin je dus in de, in een, een, Go-, uh, uh, OpenAI kan dit niet, maar Google kan dit wel.
Er is dus een app die je kan downloaden op een Android-telefoon waarbij je je internet kan uitzetten en je alsnog antwoord krijgt op de vraag.Ja en een ja, precies. En een ander voorbeeld te maken.
Even voordat de mensen voelen wat ik hiermee bedoel. Je bent thuis, je trekt de internetkabel uit je router, je hebt geen internet meer en je doet even je 5G modem op je telefoon uit, dus je hebt alleen nog maar wifi.
Dus je bent alleen nog maar verbonden met, met de wifi, maar er is geen internet. Alleen het lokale netwerk, niet het internet.
Dan vraag je aan jouw lokale model die jij heel hip op jouw telefoon hebt geïnstalleerd op aanwijzing van Wietse zeg jij: doe de lichten eens uit en dan zegt hij: is goed en dan gaat hij een tool call doen naar jouw lokale Home Assistant of Homey en dan gooit hij gewoon het licht uit.
Ja. Dus daar is geen datacenter voor nodig geweest. Precies. Om dit te doen. En als dat kan, waarom zou je dan nog met datacentra buiten de deur willen praten?
Want waarom ik die, dat hele idee van tool calling en die thermostaat in Denemarken veels te vroeg heb geïntroduceerd in dit verhaal. En nu gaan we. Dat vergeven we je. Ja, ik ga jullie nu inlossen op die belofte. Ja.
Ja. Wat nou als jij een lokaal model op jouw telefoon hebt die, uh, eigenlijk weinig tot geen kennis heeft?
Dus op het moment dat je daaraan vraagt: wie zijn de drie dochters van Willem-Alexander, dan zegt hij: sorry, dat weet ik niet, maar ik kan naar mijn, ja, laten we, Big Brother is misschien even het verkeerde woord.
Nou, doe het maar. Vind ik leuk. Ik ga even naar Big Brother, als je dat goed vindt. Ja. Beste gebruiker. Want sorry, ik ben een lokaal model. Ik weet echt bijna niks.
Je kan alleen je thermostaat uitzetten en een beetje jou helpen, maar als je mij toegang geeft tot Big Brother, dan gooi ik er even duizend keer zoveel rekenkracht tegenaan en dan ga ik voor je op zoek.
Of ik ga niet Big Brother doen, maar ik ga voor jou het web op. Hè, vanaf jouw telefoon ga ik voor jou browsen.
Dus dan is het niet meer standaard dat je op je telefoon alles maar via die datacentra van Google of OpenAI of wie dan ook doet, maar dat, dat eigenlijk by default standaard wordt eerst de vraag aan het lokale model gesteld.
En als ik jou goed begrijp is die veel kleiner. Kan die tools aanroepen, maar wat kun je dan nog meer? Kan hij wel rekenen dan? Kan hij. Zeker. Nou, sterker nog. Weet hij wel wat Nederlands is?
Kan je wel, kan je wel feiten vragen stellen? Nou, er is dus nu best wel discussie in de community van mensen die druk zijn rondom lokale AI. Uh, Reddit Local Lama, als je dat leuk vindt.
Over: hoeveel hebben we eigenlijk nodig om tot bijvoorbeeld een derde of tweederde van de taken te komen die we dagelijks uitvoeren met een AI. Teksten samenvatten en zo.
Dingen die mensen veel doen met taalmodellen of e-mailtjes schrijven. Ja, dat zijn dingen die met een lokale AI ook zouden kunnen, toch? Exact. En wat blijkt?
De, uh, modellen worden krachtiger en, uh, tegelijkertijd een beetje kleiner de hele tijd, omdat ze ook slimmer worden om die modellen. Efficiënter.
Ja, aan de ander, dus er loopt een soort lijntje naar beneden met kracht en hoe klein ze zijn. Maar er gaat een lijntje omhoog met hoe sterk die telefoons zijn, hè. Dus, want je moet ook de lokale rekenkracht hebben.
Mhmm. Eigenlijk hebben die lijntjes elkaar nu al gevonden, hè.
Sinds drie maanden met de Gemma 3N model van Google kan je eigenlijk lokaal een soort afgeslankte GPT 4,0 draaien terwijl je vliegtuigmodus aan hebt staan, op de chips van jouw telefoon die ook nog eens batterij technisch kloppen.
En, en nu komt het belangrijke ingrediënt: Gemma 3,1 snapt tool calling, dus snapt tussen air quotes wanneer die zegt: ik weet dit niet, ik ga nu of het web op, ik ga praten met jouw, uh, thermostaat of als je het goed vindt met Gemini, hè, mijn Big Brother.
Big Brother in de cloud. Ja, en, en op die manier, uh, stel ik dus voor, en ik ben er niet de enige in, om eigenlijk edge AI de default te maken wanneer mensen interacteren met AI. Ja. Consent te vragen aan de gebruiker.
Dan kan je zeggen. Mag ik het internet op? Komt die cookie wel weer, dan zet je hem uit. Vind ik prima. Ik bedoel, laten we. Ja. Ja. Ja. Maar oké. Maar wat kan lokale AI nu wel en wat kan het nu niet?
Zeg maar, waar heeft het Big Brother of tools voor nodig? En, en wat merk ik als, als gewone gebruiker daarvan? Het is een, een [kucht] belangrijk onderscheid sowieso om te maken als het gaat om taalmodellen.
Taalmodellen zijn geen kennis modellen. Het zijn geen kennisbanken, het zijn geen bibliotheken, het zijn dichters. En wat bedoel ik daarmee?
Ze associëren, kunnen patronen herkennen, kunnen logica uitvoeren, kunnen een beetje rekenen of kunnen, en kunnen programmeren om te kunnen rekenen. Mhmm.
Maar het zijn geen kennis modellen, dus feitenkennis zit er heel weinig in die modellen. En op het moment dat je ze kleiner gaat maken, dan wordt die feitenkennis alleen maar slechter.
Uiteindelijk is het niet eens meer dat ie, dan, dan is het, uh, niet, alleen nog maar A-, uh, Willem-Alexander en niet eens meer Maxima.
Even zo gezegd: op een gegeven moment wordt dit model qua kennis zo arm dat er bijna geen feiten meer in zitten. Ja.
Maar dan heb je nog steeds een model die prima kan programmeren, kan rekenen, het web op kan, kan, kan, zie het als. Dit snap ik al niet, want je hebt een stamboom van de koninklijke familie.
Met een heel groot model weet hij precies wie, wie het met wie gedaan heeft [lacht] en dan wordt, het model wordt kleiner. Ja, en dan weet je.
En dan vergeet je die relaties op een gegeven moment, want je, het is als een, de compressie van een foto. Hij haalt steeds meer pixels weg, waardoor steeds minder detail erin zit.
En op een gegeven moment, ja, kun je niet meer zien wat op de foto staat. Dat is een, een bandbreedte, dat begrijp ik.
En jij zegt: op een gegeven moment weet je niet meer wie de drie dochters van Willem-Alexander zijn als die compressie hoog genoeg is, model kleiner wordt. Dat volg ik. Ja.
Maar dan zeg jij ook: maar hij kan nog steeds wel programmeren. Dat vind ik dan moeilijk om te begrijpen. Nou, dat heeft ermee te maken dat, uhm, dat hele abstracte kennis is.
Dus op een gegeven moment weet hij niet meer wie er in de familiestamboom zitten, maar wel wat een familiestamboom is. Mhmm.
Op een gegeven moment weet hij niet de exacte broncode van een computerspel, maar wel wat een computerspel is en ook wat de overeenkomstige dingen zijn tussen alle computerspellen.
Die taalmodellen zijn uiteindelijk verzamelingen van generalistische patronen. Dus niet wie er in het koningshuis zit, maar wat een koningshuis is.
Niet w-welk computerspel Pong is, maar wat een Pong-achtig computerspel is. Mhmm. En je kunt dus heel ver komen als je zo'n,
uh, model met heel veel abstracte intuïtieKoppelt aan een kennisnetwerk, bijvoorbeeld het internet of boeken. Want wat, wat, wat Jij wil de hele tijd naar die, naar die edge.
Maar ik ben nog even bezig met wat er op je telefoon kan gebeuren, Wytse. Want dat is wel een, ik denk dat is gewoon een ervaring die we nog niet hebben. Ja.
En waarbij nu de tendens ook lijkt te zijn dat er steeds betere lokale modellen uitkomen. Wat is nu de stand van zaak van wat je eigenlijk lokaal op je telefoon kan doen?
Wat is nu, wat is nu soort van de, de cutting edge van de technologie?
Als je bereid bent om veel geld uit te geven aan een smartphone, hè, dan al niet een Android, dan al niet een De beste Android, de beste Android telefoon.
Laten we daar even vanuit gaan, want Apple is weer een heel ander verhaal. Ja, daar kan je ook veel op, hoor, maar dan moet je wat meer rommelen. Maar goed, Android is gewoon wat makkelijker om daarop te knutselen.
Uh, dan kan je daar nu Gemma 3N op draaien. Dat is een app van Google. Uh, er is een app, die heet Google Edge Gallery volgens mij. Jesus Christ, deze mensen. Wat wij aan het doen. Ja.
Maar goed, in ieder geval, dan kan je heel leuk modelletjes kiezen en dan kan je ook zien of ze passen op jouw telefoon. Oké. En dan kan je lekker mee kletsen. Menu van modellen die je kan downloaden. Best wel vet.
En dan kijk je of je genoeg, genoeg, uh, uh, MB's op je, of gigabytes op je telefoon nog over hebt. En dan kun je dus kiezen hoe groot ie moet zijn.
Ja, en ik wil misschien wel even zeggen, want jij houdt het nu bij de telefoon. Dat snap ik, want dat is veel breder voor onze luisteraars.
Maar als je een Windows of een Mac hebt, kan je LM Studio downloaden en dan kan je ook zo'n gallery zien. Maar laten we het even bij de telefoon houden. Precies, dus dit kan ook op je, op je, op je MacBook.
Ja, en dan krijg je zoiets wat eruit ziet als ChatGPT. LM Studio heet het? LM Studio. Dat is een app. Windows en Mac. Uh, open source. Iedereen kan het gratis downloaden.
Alleen, dat vereist wel, ze zijn hem simpel aan het maken, nog wel enige technische kennis van: oké, welk-- ze, ze zeggen dan heel netjes aan het begin: joh, als je het niet begrijpt, klik even dit Phi4 van Microsoft aan.
Een klein schattig modelletje. Een beetje een babykanaal en daar kan je dan een beetje mee kletsen als een soort GPT 3,5. En wat kan dat dan?
Nou, de kleine simpele modelletjes kan je, uh, schattig mee praten en een beetje oefenen en testen. Daar heb je nog niet zoveel aan in je dagelijks leven.
De modellen van de laatste drie maanden, want zo, uh- Snel gaat het. Ja, en zo recent is dit verhaal eigenlijk van,
die zijn op een punt gekomen waarin ze veel beter, uh, getraind zijn om te snappen wanneer ze niet moeten bluffen, maar naar buiten moeten om informatie te halen. En ik wil wel even het punt gemaakt hebben.
Je kunt natuurlijk zeggen: ja, maar Wytse, als dat lokale model op mijn smartphone of mijn laptop eigenlijk de hele tijd naar buiten gaat om, want die weet amper wat. Wat hebben we dan opgelost, hè?
Dan zou je cynisch kunnen zeggen: nou, dan hebben we nog steeds heel veel opgelost, want wat betekent naar buiten gaan?
Nu is het zo dat jij praat met een AI en in 99,9% van de gevallen ga je naar een datacenter en vanuit het datacenter wordt er allemaal data opgehaald.
Als jij vragen wil stellen over jouzelf, je eigen Gmail, je eigen kalender, je eigen foto's, moeten die eerst allemaal naar het datacenter toe en dan verwerkt worden en dan krijg je pas je antwoord weer terug.
Wat ik hier beschrijf is een model die kan zeggen: oh, dit gaat over je lokale kalender. Ga ik daar mee praten. Ik hoef, waarom zou ik naar een datacenter gaan? Ja. Oh, je wil, dit gaat over je eigen notities.
Die heb ik hier, op jouw telefoon. Oké, kijk, ik probeer jou de hele tijd weg te sturen bij, uh, die tool calling en het internet opgaan en dat, dat lukt matig.
En dat, volgens mij kom ik erachter dat jij, zo zie jij lokale AI, namelijk als een soort verkeerstoren. Absoluut.
Zeg maar, dit is waar de lokale AI voor is, om die tool calls te doen, om het internet op te gaan op het moment dat het relevant is en dat dat ding zelf kan bepalen: ga ik zelf antwoord geven of ga ik het internet op?
En dan, als ik dat doe, welke tool ga ik dan raadplegen? Of dat nou Gmail is of dat nou Notion is of wat dan ook. Maar hij kan ook kiezen: ik hou het lokaal.
En ik denk dat dit voor heel veel vragen, voor heel veel luisteraars relevant is. Want die zitten met de vraag: kan ik bedrijfskritische of op andere manier gevoelige data aan een AI geven?
Ik denk dat dat de, een van de kernen van de zaak is. En dan is het dus helemaal niet de bedoeling dat dat ding het internet op gaat.
Het hele idee is juist dat ik alles kan doen wat ik nu doe met Copilot of met, met Claude of met ChatGPT doe en dat ik dat kan doen op een manier waarop die Amerikanen of die Fransen of wie je dan ook gebruikt, niet kunnen meekijken.
Dat niemand kan meekijken, dat het, dat het lokaal blijft en veilig blijft. Wat kan er dan met lokale data? Stel je hebt een, een e-mail die je wil laten schrijven.
Slecht voorbeeld, want die gaat dan natuurlijk weer het internet op.
Maar stel je voor, je wil, je hebt een vraag over een, een patiëntensysteem of een lokaal document of, of, nou ja, wat dan ook, en je wil niet dat dat het internet op gaat.
Wat kan daar dan nu mee, met de meest recente lokale modellen? Nagenoeg. Helemaal afgezien van tool calls. Nagenoeg wat je met GPT-4 ook nu kan. Echt? Absoluut. Zeker weten.
En dat draait- Moet je een dikke portemonnee hebben, hè. Oké. Absoluut. Nee, maar dus, dus, dat. Wat bedoel je daarmee? Dikke portemonnee hebben?
Nou, als jij, als jij een apparaat zou willen, laten we het even naar het bedrijfsleven brengen, hè, want daar zijn de portemonnees gewoon wat dikker.
Want wat nu ook door elkaar loopt is een soort van het on premise vraagstuk voor bedrijven en organisaties.
Heb bijvoorbeeld een middelbare school die met data van de leerlingen aan de gang wil, maar het niet naar Microsoft wil sturen of wie dan ook. Ja.
Uh, versus, uh, uh, Wytse Hagen, die op zijn Pixel-telefoon een modelletje wil draaien. Mhmm.
Dat, dat is technisch een beetje hetzelfde, maar qua mogelijkheden is er al veel meer mogelijk voor die organisatie dan voor die particulier die waarschijnlijk geen € 10.000 wil uitgeven aan een hele computer thuis.
Oké, want dat is de, de crux. Je kan heel veel lokaal, maar er hangt heel veel van af hoeveel geld je over hebt voor de apparatuur die je dan lokaal hebt staan. Kijk, als- Laten we beginnen dan met de mobiele telefoon.
Wat, wat kan ik nu met een soort van goede nieuwe Pixel-telefoon? Wat kan ik daar dan nu mee lokaal, als ik de juiste apps en de juiste modellen heb geïnstalleerd?
Goed samenvatten, uhm, een gesprek van jou meeluisteren en jou inzichten daarover geven. Dus transcriberen kan lokaal. Absoluut. Inzichten daarover geven kan lokaal. Ja, hoor.
Samenvatten, transcriberen, uh, meedenken met jou in logica. Dus de eerste reasoning models zijn nu lokaal aan het worden op mobiel. Uhm, je, zeg maar,
ve-veel van wat jij nu dagelijks doet in de cloud met AI kan jij lokaal doen en dan heb ik het echt over sinds een paar maanden pas, hè. Ja. Dus heel recent. Maar dit is ongelooflijk.
Ja, en is heel erg aan het groeien nu.
Want de modellen, omdatWe er nu, ze er nu achter komen binnen de labs van hoe, hoeveel kunnen we eigenlijk weghalen uit die modellen, waardoor ze eigenlijk slim genoeg blijven om de hoofdtakenset te blijven doen waar wij aan zien, uh, dat het gebruikt wordt.
Ja, waar mensen daadwerkelijk voor gebruiken. Ja. En ik, uhm,
ik denk dat het ook goed is om te begrijpen dat er zelfs een commerciële incentive is voor bedrijven om een deel van de compute, om een deel van de neuronen naar jou toe te duwen op de edge.
Want dan hoeft het niet meer gedaan te worden in het datacenter. Scheelt geld voor hen, bedoel je? Ja, tuurlijk. Nee, maar dat, en dat is substantieel, hè. Want als OpenAI nu zou kunnen zeggen:
5% van de vragen aan ChatGPT worden op het toestel zelf afgehandeld, dat zijn miljarden. Of in ieder geval miljoenen. Laat ik het dan zo zeggen.
Oké, dus je zegt eigenlijk als je een nieuwe mobiele telefoon nu koopt en je zet de laatste kleine modellen erop die steeds efficiënter geworden zijn en eigenlijk, zeg maar,
uh, het is niet, het is niet vergelijkbaar met gewoon standaard ChatGPT, toch? Het is, het is wel dommer dan dat. Zeker weten, want even, we kunnen even DeepSeek erbij halen.
DeepSeek hebben we namelijk, als in, daar kan je de zip van downloaden en lokaal draaien. Dan heb je nu ongeveer, ja, ik denk 15.000 tot € 20.000 aan computer nodig thuis. Ja, geen grap. Oké.
Maar dan heb je, en dan heb je DeepSeek R1 en die kan jij vragen naar de dochters van Willem-Alexander en die is zo groot, dat model. Die weet dat.
Ja, want hoe groter het model over het algemeen, hoe meer kennis er stiekem toch in zit. Eigenlijk heeft hij dan toch kennis, want de hele biblio-, heel Wikipedia gaat 100 keer mee, zeg maar, ongeveer.
En dan, en hoe groter, hoe duurder om te draaien. Dus die, die soort van, hoe meer kennis jij lokaal verwacht, hoe dieper je moet gaan graven in jouw portemonnee om het te kunnen betalen.
Ja, en waar duik ik dan tegen de, waar, tegen welke grens loop ik dan aan als ik op mijn mobiele telefoon dingen met AI wil doen? W-waa-waar, wat zijn dan dingen waarbij het net niet lukt op dit moment?
Waar gaat het dan mis? Nou, ik, ik, wat, wat je merkt als je met die modellen praat is dat ze, ja, ze, ze voelen, ze voelen als een AI van een jaar geleden ongeveer.
En dat, uh, op bepaalde vlakken, omdat je merkt van: dit is, er is veel meer hallucinatie. Ja, ja. Want de kennis is er gewoon niet. Hij begint weer te liegen. Ja, het is weer veel liegen.
Uh, [schraapt keel] daarom riep ik dat cool, cold calling verhaal ook, want als hij wat beter weet dat hij niet weet, dan stopt dat, dat, dat liegen. Dat snap ik.
Goed, dus er is veel meer hallucinatie dan dat je gewend bent. Uhm, de snelheid is lager. Dat hoeft niet per se, maar vaak wel, want hoe zwaarder, hoe, uh, hoe trager. Uhm,
en je bent, uh, denk ik gewend nu om, en dat is nog een interface probleem, dat het er allemaal zo lekker uitziet als die mooie apps van ChatGPT. En, en, en dat is nu gewoon nog niet zo. Ja, grappig.
Dus je gaat eigenlijk gewoon weer een jaar terug in de tijd als je, als je zo'n lokaal model op je telefoon draait. Ja.
Oké, en, en je zegt ook: als je meer geld uitgeeft, want, uh, laten we zeggen een telefoon met, de, de beste telefoon verkrijgbaar met de snelste AI-chip zal wel een euro of 2000 kosten op dit moment. Ja.
Dan heb je gewoon een, een, een, de, de beste smartphone.
Maar je zegt ook: als je meer geld uitgeeft aan die, nou, aan computers eigenlijk om zo'n lokaal model op te draaien en dan, dat wordt, uh, zeg maar, dat is niet voor de gemiddelde thuisgebruiker, maar wel voor bijvoorbeeld een middelbare school.
Dan hebben we het niet over een grote corporate, maar gewoon een middelbare school, die inderdaad, weet ik veel, uh, leerling, uh, een docent wil gegevens over een leerling opslaan.
Ik noem maar wat, uh, en dat niet langs een Microsoft datacenter laten gaan. W-, die moeten € 20.000 dan investeren. En wat krijgen ze dan? Wat kunnen ze dan?
Nou, op het moment dat jij, uhm, een groot model, uh, lokaal gaat draaien en dat ligt er dus aan hoeveel mensen daar tegelijk gebruik van willen maken. Want ja, dan moet je wachten, hè. Oh, ja.
Net als vroeger dat je computertijd moest kopen. Oh, echt? Ja, ja, ja. Want ik bedoel, nee, maar wij zijn zo verwend nu. Ja, ja, ja. Het is niet normaal.
Collega Jan is al, uh, met AI aan het praten, dus je staat- Het is druk. Ja, echt met postkaarten zoals vroeger. Oké, vet. Terwijl, als je dat, als je dat juist, uh, uh, slim aanpakt.
Laten we het even voor het, voor de, g-, verandering even concreter maken. Dus wat je doet, is je pakt DeepSeek R1 en dan pak je de versie die door Microsoft schoongemaakt is. Die bestaat.
Dat is een soort speciale versie van DeepSeek R1 die wat opener is in antwoorden geven en gecontroleerd is op een en ander aan gedoe, zeg ik even zo. Er zijn bedrijven die vertrouwen DeepSeek R1 niet als model.
Omdat het Chinees is. Ja, omdat het getraind is in een ander laboratorium waar mensen niet helemaal van weten wat er allemaal in zit.
En dan kan je, uh, dus, als je daar over twijfelt, dan zijn er ook modellen gemaakt, weer, uh, door de grote partijen die zeggen: joh, wij zien,
dat komt omdat, je hebt ook de keuze om DeepSeek R1 bijvoorbeeld te draaien in een datacenter.
De partijen die die datacenters runnen zeggen dan: we willen heel even goed kijken naar dat model en we maken een versie die wij jou aanbieden. Oké. Die is ook te downloaden. [schraapt keel] Die download je dan.
Laten we zeggen: je koopt een dure computer van Nvidia, € 20.000, gewoon een server die een hoop herrie maakt. Dan installeer je daar, omdat je eigenlijk stiekem niet zo technisch bent, gewoon LM Studio op. Geen grap.
Dan druk je daar op models, dan scroll je, dan typ je in DeepSeek R1 en dan klik je op download. Iets wat niet op je MacBook zou draaien, want daarvoor is het te groot. Ja.
Maar wel in zo'n serverrack die ze op een middelbare school gewoon hebben.
Ja, en als je hier, [schraapt keel] en als je zegt: ik wil het wel even op mijn MacBook, kan je altijd kleinere versies van die modellen proberen, maar daar betaal je een prijs voor, namelijk meer hallucineren, uh, ja, et cetera.
Ja. Maar als je zegt van: joh, nee, geef me nou gewoon het gaafste wat ik nu lokaal kan doen en ik heb, ben bereid daarin te investeren. Dan pak je, uh, uh, een Qwen-model of DeepSeek-model.
Het allergrootste model wat ze aanbieden. Die laad je dan in, hè, dus dan moet je echt denken aan 280 gigabyte aan geheugen en, en, en dat loopt dan helemaal vol.
Dat duurt wel, uh, 10 minuten voordat het ingeladen is en dan begint daar een cursor te knipperen en daar kan jij lekker mee gaan kletsen. Alsof het ChatGPT is. Ja.
En, uh, en, en, en daar zit ook, uh, thinking in, dus dan krijg, gaat ie 30 seconden nadenken over logica of alles, O1-achtige, uh, uh, uh, kwaliteiten. Ja. Dus een beetje tussen V-4o en Oe, O1 in. Ja, ja.
En dan kan jij, en dat is natuurlijk de ultieme test, dan zeggen tegen systeembeheer: joh, uh, dat ding hoeft geen internet te hebben.
Precies, want dit is de metafoor die jij eerder maakte met: het heeft wel wifi, maar geen 5, 5, 5G. En de, de, de wi-, de, de internetrouter is eruit getrokken. Het is alleen maar lokale wifi.
Dus op een middelbare school even als voorbeeld. Maar het kan ook een klein bedrijf zijn, waar de laptops wel verbinding maken met die, die AI-unit die ergens in de serverkast staat.
Die heeft € 20.000 gekost en die zit, daar zit een dikke chip van Nvidia inDan kan daar een model op draaien wat beter dan 4o is, maar slechter is dan o1. Ja, mooi. Ja, mee eens.
Dus het is wel slim, maar niet, uh, tering slim. Uh, waarbij je een heel groot gedeelte van de taken waar je AI nu voor gebruikt gewoon mee kan runnen. Lokaal dus.
Een docent die nu nog een, uh, gesprek heeft met een leerling, uh, weet ik veel, een rapportgesprek en die wil dat documenteren ergens.
Die nu allemaal met de hand zit op te schrijven en dan een gesprek zit samen te, te vatten achteraf, kan die AI zelf doen. Lokaal, zonder dat er een een of andere server.
Dit is heel vet en ik denk dat heel veel mensen hier naar uitkijken. Ja, en ik denk om het nog een stap concreter te maken Thomas Kluijters, die ik vorige week sprak over zijn, uh, uh, healthcare startup.
Wat zij doen is lokaal transcriberen met een model getraind in Nederland op lokale hardware, zeg maar. En dan ook nog eens, uh, dat kunnen ze nu nog niet, maar dat is de volgende stap.
De samenvatting van het transcript met een lokaal reasoning model ook doen en dan door naar het elektronisch patiëntendossier. Juist.
Idealiter, daar zijn ze ook nog niet, maar idealiter zonder het gebouw ooit te verlaten. Ja. Wel ooit als het EPD ingevuld wordt, maar die magic in beneath.
En dan kan je ook zeggen: joh, uhm, druk even op reset op dat AI-systeem, dan is alles weer gewiped. Ja.
En als je wil weten waar data verzameld wordt, als je wil weten waar getraind wordt op jouw data, dat is op die doos die jij in je gangkast hebt gezet.
Dit is dus ontzettend goed nieuws, want de capaciteiten voor lokale AI waarbij je zelf de controle erover hebt, niemand de stekker eruit kan trekken en er geen data kan lekken of op een of andere manier in een, in een AI-model kan verschijnen, want daar zijn mensen altijd bang voor.
Ik zeg iets tegen ChatGPT. Misschien krijgt iemand anders dat wel te zien wat ik daartegenaan, ge-, uh, gepraat heb. Nog even afgezien van daadwerkelijke risico daarop.
Je bent met het internet aan het communiceren, dus er is altijd een risico. Eigenlijk wat jij dus zegt, is: je hebt nu een hele reeks met, nou ja, apparaten die jij kan gebruiken.
Van je, van je, je, je, uh, oudere iPhone tot aan de beste smartphones, tot aan server racks die op middelbare scholen hangen, tot aan hele dikke server racks bij grote corporates. Ja.
Die, s-, hoe groter de infrastructuur is, hoe zwaarder de computers zijn, hoe meer ze kunnen. Maar, zeg jij, dat is een, f-, dat is, nou, meer dan een voetnoot. Maar dat is, dat is, dat is maar een deel van het verhaal.
Want deze lokale AI's gaan ook zelf beslissen of ze het internet opgaan.
En als ik jou goed begrijp, zeg je: die kleine modellen die gaan iets eerder het internet op, want die gaan eerder constateren: ja, sorry, dit kan ik niet.
En die grotere modellen, hè, hoeven dat minder snel te doen, want die kunnen meer zelf. Die hebben meer feitenkennis over de wereld, kunnen beter nadenken, et cetera. Dus eigenlijk is het zo dat
de grote modellen hoeven minder snel het internet op te gaan dan de kleine modellen. Zeg ik dat goed? Zeker. Ja, en dan kunnen ze dus, uh, het internet opgaan. En dan kom ik bij wat jij eerder wilde vertellen over Apple.
Apple maakt het dus, is het dus nu aan het mogelijk maken dat je lo-, dat je AI hebt die lokaal draait en dan de internetcomputer, de, de, het datacenter gaat raadplegen voor, voor de rest. Hoe gaat dat dan werken?
Het idee is dat, uhm, je hebt de modellen, die modellenfamilie, zeg maar, van AI-modellen. Uhm, die hebben een, uh, mini versie, zoals we dat ook kennen van GPT 4 Mini. Uh, en die hebben een maxi versie.
Uh, Biomoth heet ie volgens mij bij La-- ze doen daar vaak stoe-- opus. Ja, van die grote woorden. Bah.
Nou ja, uh, dus je hebt, nou ja, laten we het misschien, gebruik even de Antropic woorden, want die zijn wel poëtisch. Haiku is hun kleinste, uh, Claude. Heel cute. En dan Opus is: bah. Je voelt het. Ja, je voelt het.
Nou, wat je, wat je eigenlijk wilt, en Apple heeft dat best wel ver uitgespecificeerd al, maar het is ze gewoon nog niet gelukt om het uit te rollen, want het is gewoon heel moeilijk. Daarom doet niemand het ook nog.
Is zeggen: op jouw telefoon draait Haiku. Dat is dezelfde architectuur als zijn grote broer of zus, Opus. Dus die snappen elkaar ook, hè, als ze met elkaar praten. Ja, ja, oké. Dat is prettig. Ja.
En de ene heeft bijna geen kennis, Haiku, die heeft alleen maar patroonherkenning, maar nagenoeg geen kennis. En Opus heeft ook nog eens zijn volledige opus erbij, namelijk Wikipedia keer 100 ingeladen en allemaal data.
Maar ze hebben dezelfde patroonherkenning, dus ze snappen elkaar erg goed. Dan ben jij op jouw Apple device, uh, begin jij te praten. Dat praten wordt al lokaal omgezet.
Stap één: dus we gaan niet meer audio sturen naar een datacenter. We gaan audio sturen naar een chip in jouw iPhone. Je gaat kletsen, dus niet, en dat is, voorheen was het alleen de wake word die lokaal bleef, hè.
Dus dat- Ja, precies als je: hé Google, zegt. Was lokaal. Dat herkende hij lokaal, maar vanaf dat moment begon hij te striemen. Flinterdun. Ja. Hè, hop, gaat ie alweer, want hij snapt het alweer niet.
Nou, nu zou je kunnen zeggen: nee, nee, nee, nee, dat hele stukje speech-to-text en mij begrijpen, dat doe je altijd lokaal. Ja, en, en wel goed, hè, moeten we dan vanuit gaan. Ja. En dat, dat kan ook goed nu. Ja.
Als in met de huidige telefoons en de huidige modellen kan dat gewoon goed. Ja. Transcriberen en real time, goed. Dan zeg jij: luister, wil je even een afspraak in mijn agenda zetten?
Uh, wie is trouwens de dochter van Willem-Alexander? En, uh, uh, zet even een leuk nummer voor me aan, want ik kom zo thuis en zet even die robotstofzuiger alvast aan. Juist, die vragen. Ba, ba, ba, ba, ba, ba, bam. Ja.
Dus daar moet van alles gebeuren. Dan gaat hij lokaal haiku-achtige kwaliteit dat destilleren en denken: wat, wauw, wat wordt hier van mij gevraagd, zeg maar. Wat kan ik hiervan nu meteen lokaal op dit toestel doen?
Wat kan ik gewoon naar Wietse's home assistant sturen? En: oh, Willem-Alexander.
Ik weet net dat het de koning is, maar meer weet ik niet, hè, want dat, dat is hoe-- dus hij weet echt wel een beetje wat, hoor, maar bijna, bijna niks. En hij weet dus van zichzelf al dat hij het niet weet.
Heel belangrijk. Heel belangrijk, want anders gaat hij toch hallucineren. Want hij doet dat heel zelfverzekerd. Ja. [lacht] Maar dat klopt, dat klopt wel dat hij weet van- Precies, dat gaat heel vaak nog mis. Ja.
Het is ook niet een opgelost probleem, maar we komen in de buurt. Laat ik het even zo zeggen. Het gaat stukken beter. Zelfkennis wordt er in ieder geval gemerkt nu. Je bent gewoon heel slim, maar qua kennis heel dun.
En dat is, dat is een ingewikkelde om als mens te begr-begrijpen.
Dat begrijp ik, hoor, maar dat is nou eenmaal zo van hoe het nu werkt.Dan zegt hij: luister, ik heb gedaan wat je vroeg, maar die vraag die jij stelt over Willem-Alexander, daar kan ik niet zoveel heen.
Ik kan even het web op gaan voor je. Dan hoef ik nog steeds niet naar het, naar mijn grote broer Opus, want ik kan ook Safari gebruiken op de achtergrond.
Maar [schraapt keel] weet je, als jij wil kan ik, kijk, dit moeten ze goed gaan branden als een soort van, uh, deep thought of zo.
Apple moet het even lekker branden, uh, van: ik kan ook omhoog nu de cloud in en dan, uh, en dan is nu, wat ik nu heb gezien qua ideeën daarbij is: je kan een knopje omzetten dat je zegt: je mag nooit naar Opus, gewoon nooit.
Ik accepteer jouw limieten. Op het internet bedoel je? Ja. Je mag nooit het internet op. Of, of, hoe? Nee, je mag nooit naar het datacenter om daar met een grotere AI te praten. Je mag wel op mijn toestel apps openen.
Ja, ja.
Maar ik bedoel, want, uh, uh, dat klinkt misschien als een hele kleine nuance, maar er is zo'n verschil tussen een haiku modelletje op jouw telefoon die door jouw notities heen gaat versus een datacenter model die door jouw notities heen gaat.
Ja, nee, snap ik. Daar gebeurt iets heel wezenlijks. Ja, natuurlijk. Ja, en, uh, m-mijn punt is eigenlijk dat je zou kunnen zeggen: joh, je mag support krijgen vanuit het datacenter, maar je moet me erom vragen. Ja.
Of je mag support krijgen vanuit het datacenter. Stop alsjeblieft met vragen, val me niet lastig. Ik vertrouw dit gewoon. Doe niet zo mal. Die mensen respecteer ik. Moet je zelf weten.
Of: jij mag nooit naar het datacenter. Mhmm. En, uh, ik zou het heel erg prettig vinden, dit is gewoon echt een oproep aan iedereen die deze software maakt: geef ons deze opties. Ja. En dit kan. Ja.
Dit kunnen we zo bouwen. Ja, en het, het kan steeds meer. Het kan steeds beter. Grote snelheid wordt steeds beter. En die labs bewegen hier ook naartoe, hè, dus ik ben hartstikke enthousiast.
En hebben die labs anders dan, uhm, dat het hen geld bespaart als er di-, meer dingen op jouw telefoon gedaan worden, want dan betaal je zelf de energierekening in plaats van zij. Ja, jij mag opladen.
Maar hebben zij andere incentives om meer lokaal te laten doen? Nou ja.
Je zou zeggen: hun incentive is juist om alles in hun serversparken te doen, want dan leren ze meer over mij en dan kunnen ze mij advertenties gaan geven en ze kunnen modellen beter maken, et cetera.
Ja, dit is waarom waarschijnlijk de Apple modellen altijd een beetje, uh, matige modellen zullen blijven, omdat zij de data niet hebben, want die willen ze niet. Precies. Uhm.
Dus wat is dan de incentive om meer naar de, naar de, naar de persoon die de AI zelf gebruikt te, te duwen?
Nou ja, kijk, ik ben, ben, uh, dit hier een beetje aan het verkopen als het ware als visie, omdat ik denk dat de markt ook moet gaan vragen om dit soort opties, om bewust te worden van wat het verschil tussen- Ja, wij als gebruikers en bedrijven.
Ja, zodat, ik noem even Apple als voorbeeld, uh, zij die private AI of hoe ze het ook gaan noemen, uh, dat daar ook vraag naar is.
Dat mensen ook gaan zeggen: oh, ja, tof man, ik gebruik wel AI, maar ik heb dat vinkje even aangezet dat hij nooit naar Big Brother kan. Mhmm. Zoiets. Mhmm. Dan wordt dat een verkoopbaar product, hè.
Hopelijk groter dan kleine iPhones, want die zijn we nu kwijt, want dat waren niet genoeg mensen [gniffelt] die die wilden kopen. Dus dit moet een, er moet een vraag komen.
Dat is vanuit de particulier gedacht, vanuit de co-, uh, individuele consument. Ik denk dat de case voor het bedrijfsleven allang gemaakt is. Ja.
En als jij wil weten waarom is Google of all places, die zo'n databroker zijn, uh, Gemma's aan het bouwen? Dat doen zij. Lokale modellen aan het bouwen.
Ja, omdat zij die on premise belofte, hè, want zo heet het dan in die wereld, uh, allang, uh, willen inlossen. Je, er wordt nu zelfs vanuit Google aangeboden: Gemini on premise.
Ja, dus je bedoelt te zeggen: er is eigenlijk al vraag naar door zowel gewone consumenten die denken: hmm, ik vind het toch wat ongemakkelijk om al mijn, uh, diepste geheimen aan, uh, ChatGPT te v-vertellen, want God knows wat er allemaal mee gebeurt.
En bedrijven hebben dit ook, want ik, ik, ja, ik hoor heel vaak mensen die zeggen: ja, ik mag dit niet doen, ik mag dit soort vragen niet aan AI stellen van mijn baas.
Want, uh, ja, dit is gewoon, uh, beperkt in ons bedrijf, want we, we vertrouwen dat niet. Ja.
En als ik jou goed begrijp, zeg je: dan is er dus, hoe dit gaat zijn, is dat er een soort van, die, de bedrijfsleven of de AI-bedrijven hebben er belang bij om goede lokale modellen te bouwen die op de servers van een, weet ik veel, groot advocatenkantoor lokaal kunnen draaien.
Want daar is nou eenmaal vraag naar. Dus gaan zij dat ontwikkelen en dan verkopen ze het gewoon een soort van abonnement of zo. Ja, want hier ook. Om het lokaal te kunnen draaien.
Ja, hier zijn dus ook a-, een aantal smaakjes in. Je kunt zeggen: we maken een open source versie van onze modellen. Die is net altijd wat dommer. Gemma, Gemma in plaats van Gemini. Maar gratis.
Ja, en dan, uh, dan, dat is, en dan volledig gratis, als in: je mag ermee doen wat je wil. Die bestaat, hè. Dan kan je zeggen: wacht even. Ja, je mag Gemma installeren.
Ja, je mag het ook gebruiken, maar als je er echt een beetje geld aan begint te verdienen, moet je ons alsnog bellen. Llama model. Uh, die doen dat, uh, alleen bij groot gebruik. Dan is er een smaak.
Ja, ja, dus dat is een open source model waarbij als je er geld mee gaat verdienen. Als het echt leuk wordt.
Dat is dus de licentie, zeg maar, die, die Meta dan heeft uitgegeven, is als je echt geld gaat verdienen, dan moet je alsnog dokken. Ja, want dat is, ik bedoel, [schraapt keel]
ik maak nog even mijn rijtje af, want anders spring ik in het volgende gat. Uh, helemaal open. Draai het zelf maar, zie maar wat je ermee doet. Leuk.
Dan helemaal open, maar als het uit de hand loopt, moet je ons toch bellen en moet je ons gaan betalen. Ja.
En dan heb je ook nog een, uh, Google die dus nu zegt: je mag zelfs Gemini, hè, onze grote kri-, uh, kristal of onze grote geheim mag jij bij jou draaien, maar dan ga jij tekenen dat jij het niet gaat kopiëren. Oh wauw.
Gemini on premise. Natuurlijk, er zijn partijen die zeggen: luister Google, wij, wij vinden jullie Gemini helemaal te gek voor onze programmeurs hier, maar no way dat we met jullie datacenter gaan praten.
Oh, wat grappig, dit kan gewoon. Je kan gewoon. Dit is science fiction hoor, maar ja. Zeg maar wat ChatGPT met, met, wat zij met een enorme datacenter moeten hebben staan om dat in de cloud te laten draaien.
Dan kan je een soort van, als je vertrouwd wordt door die AI-bedrijven, waaronder Google, ja, een soort vanEigen kloon krijgen van die AI Ja, met hele strenge regels eromheen.
Even voor jouw beeld: het was vroeger zo dat jij shared source kon hebben met Microsoft. Als jij software maakte voor Windows, dat je de broncode van Windows mocht zien. Oh ja.
Dan kon je heel goed software erop bouwen, maar dan moest je hele goede aspe-, als jij, dat was dus niet open source, maar shared source, van: jij mag even meekijken.
Dus ook hier- Alle bedrijfsgeheimen krijg je dan eigenlijk. Ja, dus dan moet je heel goed weten wie daarbij mag en wie mag kijken, et cetera.
En ook hier is het zo: Google komt echt niet zomaar even Gemini in een bestelbusje bij jou brengen. Dan heb jij en een hele diepe portemonnee en hele goede legal afdeling en heb je heel veel afspraken gemaakt.
Maar dat is Google daartoe in be-, toe bereid. Dat is voor de grootste bedrijven, voor die Zuid-Oost Azië kantoren die over de hele wereld, uh, die, dan, dan hebben ze echt iets gaafs, zeg maar. Ja. Oké. Ja.
Dus eigenlijk schets jij een situatie waar dit soort modellen, die lokaal kunnen draaien, steeds goedkoper zijn en ook steeds beter weet wat ze niet weten, waardoor ze het internet op kunnen gaan, en als het aan jou ligt,
uh, alleen maar na expliciet verzoek van de gebruiker. Dat is de technische situatie waar we naartoe gaan. Of in ieder geval de, en, en daar is duidelijk ook markt voor en mensen vragen daar om.
Wa-waarom hebben we dan straks nog, zeg maar, b-, gaat, gaat dit alles veranderen? Ga je, denk je, standaard met lokale AI praten?
En is dat hele idee van een OpenAI app die niet beschikbaar is via het internet, is dat, is dat een soort van verleden tijd over een paar jaar?
Of blijft er nog steeds een, blijven gewone mensen en gewone bedrijven nog steeds redenen hebben om standaard alles in de cloud te doen, denk je? Nou.
Want dat is nu wel de, weet je, we hebben die hele cloud beweging gehad met Word en, weet je, dat, daar zijn, ja, o-oprecht, daar zijn we het van gewend.
Van iets wat eerst lokaal draaide, namelijk M-Microsoft Word, die op je computer dat, en opeens ging alles naar de browser en zijn we standaard alles in browsers gaan doen. Nou, ik wil, mag ik hem nog iets breder maken?
Ja. Want ik vind dat wat je zegt heel, heel belangrijk. Het, het, de status quo was local compute, namelijk mensen en breinen die op een planeet rondliepen zonder computers. Alles lokaal. Ja. Ja, even daar.
Daar komen dan in eerste instantie hele grote computers bij ter grootte van klaslokalen, waarin iedereen op domme terminals, dumb terminals heetten die toen, net een soort thin clients, computertijd mocht kopen om op afstand te mogen praten met die supercomputer.
Jij hebt het nu over de jaren 80, 90, waarin dit soort supercomputers stonden bij universiteiten en, ja. Dat begon als een soort cloudmodel. Ja.
Die cloud was wat lokaler op de plek, maar de computer stond niet op jouw bureau. Nee, tering slimme computer ergens verderop in het gebouw.
Ja, en het enige wat jij had was een dumb terminal, een toetsenbord en een scherm met een hele lange kabel naar een kamer ergens. Ja. Toen gingen we naar de personal computer.
Wil je niet die supercomputer in het klein op jouw bureau hebben staan? Ja. Dat was de pc revolutie. Dit is Windows 95, Windows 3.1. Alles is daar gebeurd. Ja. Want
dan kon jij zonder internet, want dat was er niet- Nee...thuis met WordPerfect 5.1 je briefjes tikken en uitprinten. Disquettes en cd-roms.
Ja, en er lag geen ADSL glasvezel naar jou, hè, dus je had, dus zie even die beweging, hè. Mhmm. Van een soort s-p-pseudo cloud terug naar hyperlokaal op je bureau.
Dan krijgt iedereen steeds dikkere en betrouwbaardere en altijd aan internetverbindingen en begint al die computerkracht zich weer, die kruipt als het ware je huis uit, hè, die pakken zich spullen en die v-vertrekken [lacht] en die gaan allemaal datacenters in.
Ja, en nu zijn we eindelijk allemaal over op de cloud, want ons is jaren verteld dat dat moest gebeuren, want dat was allemaal beter en slimmer en efficiënter en goedkoper.
En inmiddels is de hele overheid en alle bedrijven zijn om. Ja, niet allemaal, [gelach] maar wel veel. Grotendeels.
En ik bedoel, uh, iemand die video's bewerkt bijvoorbeeld doet video bewerken nog het liefst op een hele zware computer. Ja, oké. Nee, maar goed, hè, dus er is nog local compute, heavy compute. Maar ik ben met je eens.
De trend is me toch een partij stevig om eigenlijk, jouw computer thuis wordt steeds dunner- Ja...en die computer in het datacentrum wordt steeds groter.
Dus wat is dan de reden waarom we nu, uh, zeg maar, even, uh, even afgezien van privacy en, en autonomie, wat, waar we ook nog bij gaan komen, hoor.
Maar er zijn andere redenen waar mensen de cloud in zijn gegaan en ik denk ook dat er veel mensen denken dat dat een trend is die zich juist zal doorzetten op dit moment.
Dat is in ieder geval iets waar, waar grote AI bedrijven ook wel een beetje op rekenen. Nou, kijk. AI is gewoon een verlengstuk van cloud. Weet je, die cloud.
Er is een hele pract-- de, de pra-, de praktische kant hiervan, even los van de twee onderwerpen die we later nog gaan aanraken.
Ja, als je één warmtepomp kan hebben voor de hele buurt waar warm water naar de hele buurt kan. Ja, best wel chill.
Veel handiger dan allemaal cv-keteltjes ophangen die je allemaal moet onderhouden, die allemaal in brand kunnen vliegen. Dus goedkoper.
Ja, en dus systeembeheerders die, en ik ben oud genoeg en jij ook, dat er heel veel bedrijven waren die, het on premise was de norm. Er was gewoon een kast ergens, een rack in dat bedrijf. Waar alle documenten stonden.
En, en, en later alle computers hingen op dezelfde plek. En als je die deur opentrok was het heel warm en heel veel herrie. Ja.
Al die racks, ik heb die letterlijk in mijn werk vroeger leeg staan halen- Mhmm...om die cloudmigraties te doen. Ja, die harde schijven eruit, internetkabels erin. Ja. En, uh, precies.
En wat, en dan werd het dunner in de kast en dikker in, ergens moet het naartoe. Uiteindelijk verschuif je het van het ene naar het andere. En dat voelde als vooruitgang, Wytse.
Nou, het prettige is dat je dan dus al die systeembeheerlast kan delen in de cloud, hè, want die bedrijven zijn ook weer niet zo uniek allemaal met hun vraagstukken over: we willen e-mail opslaan, documenten delen, Teams meetings hebben.
Ja. Oké, zullen we in plaats van allemaal lokale video encoders gewoon één grote plek hebben waar we het allemaal doen? Gigantische efficiencyslag. Veel praktischer.
Al, ge-, uh, systeembeheer, één systeembeheerder kan in een cloudomgeving aan elkaar klikken wat vroeger een team van 20 bij jij, bij jou intern aan het beheren was.
Je kunt, uh, certificering van je security makkelijker doen. Oh, dit is gelukt omdat het praktisch en betaalbaar en efficiënter is. En wat zou nou het argument zijn dat dit zo blijft?
Dus dat, dat AI iets blijft wat we in de cloud gaan blijven doen. [schraapt keel] Mijn heleUh, speech is dus ook niet een anti cloud speech of een anti AI in de cloud speech.
Ik wil naar een hybride model toe en ik ben dan ook nog zo streng dat ik zeg: voor bepaalde delen van de samenleving, bijvoorbeeld het transcriberen van een gesprek tussen een psycholoog en een cliënt, dat gaan we bij wet vastleggen onder normen dat dat niet via een datacenter gaat.
Nee, maar dat is niet mijn vraag. Mijn vraag, want ik, ik snap dat we hier gaan uitkomen, namelijk dat het lokale AI voor jou een cruciaal element is van onze toekomst.
Maar mijn vraag is een, is het tegenovergestelde, namelijk: waarom blijven er alsnog clouds?
Omdat ik denk dat, uh, uh, net als één energiemaatschappij op één plek in een regio waar alle kolen verbrand worden of, uh, zonnepaneel, zonnepaneelparken, dat centralisatie in heel veel gevallen heel oké is. Mhmm.
Ik, dus centralisatie heeft zijn plek binnen onze samenleving. En wat gaan we daar, wat gaan we kunnen dankzij die centralisatie, denk je, als je soort van een paar jaar in de toekomst probeert te kijken?
Als je kijkt naar AI bijvoorbeeld? Ja. Nou. Alleen maar over AI.
Wat, wat blijft dan, uh, ondanks dat het, de computerkracht van lokale modellen blijft toenemen, wat voorzie jij dat alsnog in de cloud moet blijven gebeuren? Nou, ik kan me voorstellen dat, uhm, het, oef.
Eigenlijk ben ik op zoek naar de beperkingen van lokale AI. Want als, als, Mmm. als jij gelooft dat er altijd soort van een cloud nodig blijft dan, ik ben aan het zoeken, wat is nou de,
w-wat is de, het, uh, wat kan er nou wel en niet lokaal versus in de cloud? En jij blij-, jij gelooft dat er altijd iets in de cloud blijft, dus, of in ieder geval voor de komende jaren.
Wat kan daar dan zo goed en wat is, wat is ook het economische belang van die bedrijven om zoveel mogelijk in de cloud te blijven?
Nee, maar ik, ik, ik denk dat je, als je, uh, je moet je voorstellen, uh, zeker in het geval van compute, hè, dus de rekenkracht, dus het denken van de AI, dat het, uh, heel onverstandig is om idle compute, oftewel een brein die 90% van de dag zit te wachten op opdrachten en een beetje daar s-staat, zeg maar, en onderhouden moet worden, et cetera.
Wat een lokale computer- Als je het allemaal zou doen, hè. Ja, uhm, dat. Is gewoon tering inefficiënt. Absoluut. Ja. Dan heb je een duurzaamheidsvraagstuk, Ja. da-, wa-wat daar niet meer klopt. Uh, onderhoudsvraagstuk.
Uh, dus, d-dat daar, eigenlijk zou je dan kunnen zeggen: joh, niet alle data is zo privacygevoelig. Als we daar nou eens een goed onderscheid tussen maken en al dat overduidelijke, uh, d-d-data uit, uhm,
bepaalde systemen die hele basale taken doen, uh, die niet cruciaal zijn voor onze samenleving. Uh, ik, ik zit heel de tijd na te denken over voorbeelden. Iedere keer denk ik: dat is wel cruciaal. Een to do app of zo.
Ja, gewoon, gewoon, uh, uh, data die- Toch fijn dat die in de cloud staat, want ik wil dat dat op mijn telefoon staat. Ja. En als ik op vakantie ga, wil ik er ook nog steeds bij kunnen via een internetcafé.
Dat is een grapje. Ja. Internetcafé. Nee, maar ik snap je. Een lokale computer daar.
Nee, dus ik denk dat, dat, dat er voor onszelf, samenlevingsbreed, maar ook als individuen, allerlei data is die we prima in de trein hardop zouden delen met elkaar. Ja. Nou, laten we daar gewoon de cloud voor gebruiken.
Nou, en ik ga er toch van uit dat door die, uh, centralisatie hebben ze meer computerkracht, want zij kunnen datacenters bouwen die tering groot zijn, die geen bedrijf nooit, weet je, wat ze nu in woestijnen aan het bouwen zijn, uh, met, met een, uh, met een atoom, uh, kernreactor ernaast.
Dit is, in wat die, wat die Saudi's aan het doen zijn, wat de Ka-Qatari aan het doen zijn. Dat is allemaal vanuit de gedachte van centralisering juist.
Uhm, ik ga er toch van uit dat de beste modellen altijd in de cloud zullen zijn. Want centralisatie maakt, ja, het is ev-evident dat daar de meeste computerkracht is, dus dat, dat de beste modellen gaan zijn.
En gaan we niet naar een wereld toe
waarin de beste computerkracht gelijk staat aan, uh, weet je, de beste AI collega's kunnen leveren en de beste, weet je, de, de beste denkers, de beste wetenschappers, de beste AI versies daarvan gaan altijd in die cloud zitten, toch?
Ja, maar dan meet jij- En niet op een lokale server in een middelbare school. Maar dan, en dan meet jij beste- Ja. als in meest intelligente. Ja. En ik ga dan zeggen: dat is één- Dat is helemaal niet nodig.
Nou, dat is één van de kwaliteiten van een AI, is de intelligentie van de AI. Mhmm. En dan kan je daarnaast ook zetten: impact op het milieu, uh, bewa, uh, waarborgen van privacy. Ja.
En dan ga je daar een score op maken. Ja. En dan komt jouw centrale superintelligente AI in dat scoresysteem waarschijnlijk lager uit dan een, de helft zo slimme, meer lokale AI. Mhmm.
En ik denk dat we moeten kijken naar de totaalscore van die AI systemen en niet alleen maar hoe slim ze zijn. Ja, dus we gaan naar een, een hybride systeem toe waarin een heel groot deel lokaal ge-gedekt kan worden.
En in, in de meeste gevallen van het meeste werk van de meeste mensen, zoals je nu naar AI kijkt, kan het allemaal lokaal gedaan worden.
Maar we gaan naar een wereld toe, denk ik, waarbij, uh, er allerlei taken en opdrachten en, nou ja, werk wat nu gewoon door mensen gedaan wordt, door een AI gedaan gaat worden. Dat is een aanname die ik doe. Ja.
Die ik doe. Prima aanname.
En dan vervolgens denk ik, als ik dan, als je dus dat ziet in de context van een economische strijd tussen bedrijven, bedrijven die met elkaar concurreren, advocatenkantoren bijvoorbeeld, dat zij er allemaal belang bij hebben dat ze de beste AI hebben.
Oftewel dat het niet een AI is die lokaal, uh, alleen maar- Maar ze hebben er belang bij dat hun data beschermd is, toch? Dus dat, dat duwt weer terug.
Ja, maar dat is wel, dat zijn wel, uh, ja, het is ook, het is ook concurrentie tussen bedrijven, tussen advocatenkantoren.
Die cliënt, zeg maar, je hebt twee kantoren, die zijn tegen elkaar aan het vechten, want ze hebben een cliënt die ze allebei willen verdedigen.
Dan is er toch een belang voor die bedrijven even, ja, ze hebben een belang om hun data goed te beschermen, maar ze hebben ook een belang om de zaak te winnen.
Ja, dus ik denk, nee, maar ik denk als jouw punt is: er is een enorme, uh, stuwende kracht die centralisatie veroorzaakt. Ja. Dat ben ik met je eens. Ja. Dus daar heb je gelijk in.
En ik denk ook, dus, uhm, zolang je, uhm, enkel score meet op, uhm, de intelligentie en impact van een AI, dat dat, als dat je scoresysteem is binnen het spel, zeg maar, dat daar dan een enorme centralisatie plaats gaat vinden.
WantHet wereldbrein is het grootste, sterkste brein. Dus dan zie je altijd, hè, alle, uh, uh, neuronen naar elkaar toe groeien in één groot superbrein. Ja.
Totdat je zegt: er moet een ander scoresysteem komen waarbij we meer meenemen dan enkel hoe krachtig is deze AI?
Want we moeten-- en als je die scores dan gaat doen, dan wil je eigenlijk een, het is heel abstract wat ik nu allemaal zeg, maar een scoresysteem hebben waarbij eigenlijk automatisch een vorm van decentralisatie ontstaat.
Niet radicale decentralisatie, maar in ieder geval iets wat tussen die iedereen een AI in zijn zak en één AI in de woestijn in zit.
Maar ik ga er helemaal van uit en ik denk ook dat- Nou, daar moeten we wel nog wat voor doen, hoor, want, voo-- om dat te laten gebeuren. Ja. Want nu, de trend is nu centralisatie. Mhm.
Dat, dat, ik denk dat jij heel erg gelijk hebt als je zegt: volgens mij kan jij, dat hoor ik een beetje, uh, ik snap je, Wytse. Ik zie ook de belangen ervan. Ik vind het gaaf dat er mooie oplossingen zijn.
Wat tof dat er in die labs allemaal aan gewerkt wordt. Maar zie ook die enorme, uh, tendens en beweging naar centralisatie.
We hebben nu een meer politiek klimaat waarin gepraat wordt over soevereiniteit en wat meer decentraliseren. Ja. Dus dat is een nieuwe kracht die daar wat harder op drukt nu.
Maar we hebben, uh, wel een, een, wat, nog wat meer, uh, uh, waarde of kwaliteitseisen nodig aan AI voordat we beginnen te begrijpen waarom enkel intelligentie niet het enige is wat we zouden moeten meten. Snap ik,
snap ik. Maar ik probeer de ui af te pellen en ik probeer te constateren: is het, uh, in ieder geval economisch, want dat is nu even de bril waar ik door kijk. En dan, dan neem ik twee advocatenkantoren als voorbeeld.
Is het economisch,
uh, gaat de incentive niet zo zijn dat die bedrijven van elkaar gaan willen winnen en dat degene met de beste AI, die dus in een cloud zit en niet in een lokaal datacentrum waarschijnlijk zit, de grootste kans maakt om de rechtszaak te winnen.
Is dat niet zo? Uh, je zou ook kunnen zeggen dat ze een on premise AI hebben die zij steeds verder specialiseren binnen hun eigen advocatenkantoor. Ja, ja. Waar de concurrent niet bij kan.
Want als je allebei dezelfde intelligentie gebruikt, heb je ook allebei dezelfde limieten.
Dus ik zou zeggen: ga op zoek naar andere vormen van Kapitaal met hoofdletter K, oftewel kennis, kapitaal ook, waarbij je zegt: wij hebben een, uh, AI intern doorontwikkeld, gefinetuned en getraind op data die wij alleen hebben, die een, uh, strategisch voordeel heeft tegenover onze concurrent, omdat het iets unieks is en niet een, uh, generaal, uh, general supermodel.
Dus die zou ik ook kunnen, uh, teruggeven in dat, in dat- En dat is, en denk je dat dat, uh, dat dat wezenlijk kan zijn, dat een, een lokale AI die, laten we zeggen een groot advocatenkantoor hier in Nederland op de Zuidas, dat die met
iets wat getraind is voor hun, ja, hun praktijk en voor, op hun, uh, ja, data die ze hebben van allerlei interne rapporten en zo.
Dingen die nooit echt hun, waar ze altijd heel voorzichtig mee zijn geweest, met, met hun eigen proprietary data. Zie-- denk jij dan dat, dat, dat je daarmee kan, kan concurreren met
die, die cloud van Microsoft in Qatar? Uh, dat weet ik niet.
Dat hoop ik eigenlijk ergens, want ik, ik bedoel, ik wil wel even zeggen: kijk, als je het, als je de, het speelveld zo indeelt en zegt efficiëntie en economie is wat leidend is en dan is er een open veld waar geen regels van bovenop gelegd worden.
Dus die twee spelers staan tegenover elkaar en het enige wat ze weten is economie en efficiëntie. Ja, dat probeer ik even te isoleren. Als je dat helemaal zo isoleert, dan krijg je centralisatie. Juist.
Want, en- Dat is gewoon zo. Dan wint, dan wint per definitie het grotere datacenter. Ja, omdat je dan in, in, dat, dat is een vrij eenvoudig, denk ik, vooruit te spoelen spelsituatie. Ja.
Dus daar moet dan een arbiter boven die regels gaat stellen. Ja, maar [lacht]. En samenleving die meer- Het is onmogelijk om met jou dit gesprek te voeren.
Nee, maar anders zitten we toch met elkaar in een soort, het vacuüm of het isolement wat jij nu beschrijft? Ja. Uh,
ze, ja, als je, als jij tegen mij zou zeggen: als ieder mens op aarde alleen maar voor zichzelf leeft en alleen maar om geld, wat voor wereld krijgen we dan? Dan kan ik daar antwoord op geven.
Uh, dan, dan krijgen we een, een vrij, uh, koude, kille, uh, uh, wereld als resultaat. En dat is deel van waar we nu in leven met elkaar en waar, waar we ook een beetje naartoe bewegen, helaas.
Maar ja, ik, ik kan niet anders dan- Ik probeer eerst te begrijpen wat er dan, zeg maar, wat er dan gebeurt voordat ik aankom bij: oké, hoe voorkomen we dat? Ja, ik ga een stap te snel. Ja. Oké.
Want ik denk dat het, dat het verstandig is om uit te pakken wat dat dan betekent, die soort van, s-uh, strijd om compute.
Want als we nu de, als we nu volgen hoe nu de, uh, uh, hoe, hoe nu de, de, de weg die nu voor ons ligt.
Als we, zeg maar, gewoon doorgaan op de huidige weg, dan zijn lokale modellen zijn heus wel onderdeel van het hele, hele plaatje.
Maar zijn al die, zeg maar, het is niet voor niks dat al die, al die apps die wij nu gebruiken thin clients zijn die allemaal in een groot datacenter zitten.
Want die, al die grote AI-bedrijven hebben er ook baat bij dat wij hun AI's gebruiken.
Want hoe meer hun AI gebruikt wordt, hoe slimmer ze worden en hoe meer bedrijven op die AI's zijn aangesloten, hoe meer, uh, macht ze krijgen. En dat is een, dat is een zelfversterkend effect.
En daar kan de EU van alles van vinden en daar kunnen activisten van alles van vinden. Dat is allemaal prima en daar gaan we het ook zo over hebben. Maar dit is wel de, het pad waar we nu op zitten.
En ik zit te denken: hoe als dit pad soort van, even afgezien van regelgeving, want dat ga ik niet verwachten uit China en dat verwacht ik ook niet uit de Verenigde Staten.
Dus ik denk dat het wezenlijk is om na te denken over deze situatie waarin de EU werkelijk niets in de melk te brokkelen heeft. Wat voor situatie stevenen we dan op af? Heb je dan,
is het dan, is het zo simpel als dat, uh, het advocatenkantoor die met de grootste cloudprovider, de beste AI-provider samenwerkt en de, het meeste geld overheeft voor computerkracht, dat die per definitie iedere rechtszaak gaat winnen in de toekomst?Eigenlijk is volgens mij het antwoord ja, als ik jou goed begrijp.
Uhm. Ja, goed, ik kan me, ik kan me voorstellen dat, kijk, als ze allebei toegang hebben tot hetzelfde systeem niet toch? Ik bedoel, dan is het gewoon een kracht A tegen kracht B en die zijn allebei even krachtig.
You tell me hoe dit, hoe dit gaat werken. Wat is dan je onderscheidend vermogen als advocatenkantoor? Ja, [lacht] ik denk dus door te zorgen dat er iets is wat jij hebt wat die ander niet heeft. Ja, precies.
En dat is dan, wat is dat dan eigenlijk? Dat de, de data eromheen en de manier, de strategieën die jij hebt om, om die zaak te voeren, dat je die, uh, bij jou zelf houdt. Ja.
Dus dan wordt iets wat één is al in tweeën gesplitst. Ja, maar ik vind het zo moeilijk, want w-we leven in een tijd waarin AI's om beter te worden synthetische data genereren waarmee die mo-modellen beter worden.
En dan zeg jij: maar voor een advocatenkantoor gaat het om data die zij alleen hebben. Dat ze, dat soort.
Ik begrijp dan gewoon niet waarom Google niet een beter advocatenkantoor zelf zou kunnen beginnen als dit allemaal waar is.
Ja, maar dat is dan nog, ik bedoel dan, dan hebben we een soort andere maar ook belangrijke discussie en dat gaat veel meer over, uh, als je een soort superintelligentie hebt, als het richting AGI gaat.
En deze systemen zijn, uh, honderd keer zo goed als het gemiddelde advocatenkantoor en Google wordt de everything company, hè, als dat de, het toekomstscenario is waar we naartoe bewegen.
Ja, ik denk dat Google dat hoopt. [lacht] Dat weet ik eigenlijk niet zo goed. Nee? Ik bedoel, nee, want, ja goed, de, uh, één bedrijf die de hele wereld runt of zo. Ja, ik, ik.
Is dat niet de ultieme dystopie van dit, dit vraagstuk? Dat is wel de ultieme dystopie, maar dat maakt hem niet, uh, de logische volgende stap. Nee? Nee, omdat [lacht].
Ja, goed, j-jij, je wil niet dat ik daar heen ga, maar omdat wij daar nog wel iets in de melk te brokkelen hebben. Nou, ik, ik betwijfel het eerlijk gezegd. Hoe wil de EU hier in de melk te brokkelen?
Nou, jij noemt het de EU, maar ik heb het veel meer over bottom up. Dus dat is ook het punt, zeg maar, die, die, uh, wat ik geloof is dat we
door mensen beter te laten begrijpen wat hier daadwerkelijk het stake is, zeg maar, wat de belangen zijn en wat het belang is van een deels gedecentraliseerde mens. Ja.
Een mens die niet volledig afhankelijk is van zijn of haar omgeving. Uh, dat we daarmee een bepaalde hybride, een balans kunnen vormen waarin AI een rol heeft en ons helpt. Want het kan ons ook zoveel helpen.
Maar niet, uh, dat de prijs die we daarvoor betalen door centralisatie en de macht die we daarmee verliezen als individuen en als groepen en als samenleving, dat die prijs zo hoog is dat het misschien niet eens de prijs van medische doorbraken of welke andere mooie vruchten die we van AI denken te gaan plukken, uh, waard is.
Ja, omdat ik, ik denk dat, uhm,
ja, jij kunt ook, uh, beetje gek voorbeeld misschien, maar zeggen: ik ga in Italië op een berg wonen in een fantastisch mooie villa, samen met mijn gezin, want daar is schoon water en de zon en de bergen.
Ja, maar dan ben je ook ver weg van de rest van je familie en je vrienden, hè. Dus als jij gaat optimaliseren op een vrij dunne, uh, kwaliteit of een dun variabel, dan, dan ga jij een prijs betalen ergens. Mhmm.
En dat is waarom ik een beetje ageer tegen dat optimaliseren op die twee enkele economische efficiëntie, uh, variabelen. Ik ben met je eens dat dat het spel is wat nu gespeeld wordt. Dat is de wereld waarin we leven.
Maar ik verwacht, ik hoop, ik roep op tot een complexere score, een langere rekensom maken met meerdere variabelen erin en waarden die wij belangrijk vinden. En hoe zie je dat dan voor je? Nou. Wie moet dit doen?
Ja, ik, wij. En dat, dat klinkt heel cheesy.
Maar, uhm, kijk, ik geloof wel een beetje in, uh, een onderdeel van wat politiek is, is dat wij bepaalde dingen verlangen, concepten voor creëren, namen aangeven en toekomstscenario's scheppen waar we achter kunnen gaan staan met elkaar en kunnen zeggen: dit is niet de enige weg.
Er zijn ook nog andere wegen, ook nog eens andere wegen waarin al die andere spelers die meespelen in dit spel, hè, commerciële belangen, uh, politieke belangen, et cetera, ook een rol hebben, hè.
Dus daarom probeer ik een beetje dan van dat radicale weg te blijven van volledige decentralisatie en iedereen zijn eigen AI thuis. Kansloos.
Ik denk dat het niet gaat gebeuren, dus ik zou altijd op zoek willen gaan naar een plek waarin je in overleg met de partijen die nu, uh, soms willen ze het niet eens trouwens, maar als in, die nu heel veel macht hebben en dat soms niet eens willen hebben.
Ik denk dat Dario Amadeï van Anthropic eigenlijk tegen ons zegt: ik wil dit helemaal niet, hè, ik bouw het, want het wordt toch gebouwd. Maar waarom geven jullie mij zoveel macht? Help! Ik trek aan de alarmbel.
Geef mij regels en geef ons allemaal regels. Ja, omdat ik denk dat we,
we, je kunt over de politieke geschiedenis van [lacht] de westerse samenleving, laat ik het daar even bij, bij houden, over zeggen wat je wilt, maar er zijn wel successen geweest waarop we medicijnen zijn reguleren, de nucleaire, uh, ontwikkeling zijn gaan reguleren.
Het is allemaal niet perfect, het schuurt en het kraakt. Ja. Maar laten we het in ieder geval proberen. Maar laat, wie moet dit doen? En wat moet er dan gebeuren?
Er moeten, uh, alternatieve technische implementaties komen van AI op een andere manier dan in een groot datacenter. Die krijgen we nu, die worden ontwikkeld. Ik ben daar echt blij mee. Ja, hoe snel dat gaat. Ja.
En blijkbaar is er ook een economisch incentive om die modellen te ontwikkelen. Zelfs een duurzaamheidsincentive.
Het is wel lekker dat daar een aantal andere dingen op drukken dan enkel privacy, want dat is niet eens mijn hoofdmoot, maar een van de belangrijke onderdelen, dat je een beetje weet waar je data staat.
Uhm, dan is een, uh, vervolg: oké, leuk dat jullie die infrastructuur nu hebben. Is die infrastructuur ook bruikbaar?
Dit is iets waar jij en ik elkaar de hand kunnen schudden, want volgens mij zijn we het daar heel erg mee eens. Het moet ook mooi zijn, het moet ook goed werken, het moet een prettige ervaring zijn voor de eindgebruiker.
Daar hebben we nog een lange weg te gaan met elkaar, want het lukt ons vrij goed om idealistische backend software te maken, hè, infrastructurele, uh, onderdelen.
Maar als het eenmaal aan de voorkant is, is het vaakNiet mooi, het werkt niet prettig en het voelt je lelijk.
Ja, om een voorbeeld te geven: het is een stuk makkelijker om ChatGPT te installeren op je telefoon dan een open source model op je telefoon te installeren. Daar moet ik een handleiding van drie pagina's voor schrijven.
Ja. Als het, en als het je dan al lukt, omdat dat zipje is weer weg. Ja. Ja, dus daar zijn we nog wel even voor gebruikersgemak, zeg maar. Niet onoplosbaar, maar nog niet opgelost.
Ja, Apple werkt er hard aan om lokaal zo'n model in eerste instantie te laten draaien en van de data.
Om het helemaal te verstoppen, ook achter allerlei animaties en dat het helemaal, maar je ziet het, het is er nog niet, want het is dus heel erg moeilijk. Ja.
Uh, dus wat Apple probeert te doen en dan nog tien alternatieven ervan van andere partijen en bedrijven die zoiets proberen neer te zetten op alle apparaten waar mogelijk. Uhm,
nou, dan heb je op een gegeven moment, uh, de ideeën hebben we. Ik probeer ze hier nu een beetje naar voren te brengen.
De technische implementaties van die ideeën hebben we eigenlijk ook al, in ieder geval, we zitten duidelijk op een goede koers.
Dan de mogelijkheid om die dingen makkelijk te gebruiken voor de gemiddelde burger, zijn we nog niet. Daar is, daar hebben we gewoon hulp nodig.
Ik roep letterlijk mensen op nu die luisteren: ben je UX-ont-, uh, ontwikkelaar, doe je design, kom alsjeblieft helpen om software met de juiste waarden mooi genoeg te maken. Mhm.
Je ziet het misgaan. [snuift neus] Nou, ik denk dat die, dat die technische implementatie, zeg maar,
op dat vlak zijn we al best wel lang aan het proberen om alternatieve infrastructuur te bouwen die meer past bij een samenleving waar veel van ons onderdeel van zouden willen zijn. En het lukt maar niet, bedoel je?
Nou, het lukt wel op het, op het technische vlak een beetje, maar het is zo moeilijk, uh, om het aantrekkelijk te maken. Mhm. Maar waarom raakt het je zo?
Nou, omdat ik echt denk dat het heel, heel, heel erg belangrijk is en dat, uhm, ik niet zo goed-- ik heb ergens wel ideeën hierbij en ik kan ook een soort toekomstscenario schetsen van
hoe dit dan wel, uh, de goede kant op gaat. Maar ik zie het ook allemaal met een snelheid ontwikkelen op dit moment. Uhm, en er is nog zoveel, het kost mij zoveel moeite,
en je probeert me heel erg te helpen, dat waardeer ik. Nou, ik maak het heel scherp. Ja. En dat komt, en dus, en je wordt er alleen maar scherper van omdat er iets te verdedigen valt hier. Dat voel ik aan je. Ja.
Ja, en het, het, het gaat, het is niet het goede pad waar we op zitten. Nee, en dit gaat echt niet vanzelf. Nee. Uhm, en- Want, want de hele zwaartekracht trekt juist naar het dystopische pad toe.
Dat is waar jij bang voor bent. Ja, en, en ik denk dat we, ik zie dat ook bij de jongere generatie die, uh, ontzettend veel verhou-vertrouwen heeft in chat, zoals zij het dan noemen. Ja. Hun buddy.
Ik denk ook uit een stuk naïviteit, omdat ze niet goed begrijpen, uh, wat ze allemaal aan het vertellen zijn, wat ze allemaal aan het delen zijn en hoe dat, uh, effect op je kan hebben.
En dat kan zo basaal zijn als een TikTok-feed die zich heel mooi op jou aanpast, maar ook gewoon data die je misschien niet in handen wil hebben van een aantal grote partijen.
En dat we daar met elkaar, uhm, toch een stukje naïviteit hebben. Mensen zijn gewoon best wel naïef. [zucht] Maar je, je, je, uh,
kijk, het is een heel scherp gesprek en het is een belangrijk onderwerp en ik weet dat dit je, dat dit gesprek je raakt.
Maar wat is dan de, waarom, waarom, waarom breekt, [lacht] waarom breekt dit je dan toch een beetje? Dat begrijp ik niet zo goed. Uuuh, nou, er zit, er zit wel veel, ik, ik, ik, maar ben wel bezorgd. Ja.
Ik ben bezorgd over dit alles, uhm, omdat ik zie, uh, dat, we hebben gewoon heel veel, uh, uitdagingen.
En, uh, AI voelt daar, AI in al zijn vormen, als een soort, uh, potentiële redder in. Uh, uh. Mhm. Ons com-complexe problemen kan laten oplossen, ons beter met elkaar kan leren communiceren.
Van individuele relatieproblemen tot volledige organisaties. Er is gewoon zoveel potentie daar. Mhm.
En, uh, ik merk bij mezelf: ik blokkeer gewoon heel vaak op het inzetten van AI-toepassingen, omdat ik het niet kan loslaten dat het gecentraliseerd is, dat het gekoppeld is aan grote databases en dat het er nu qua infrastructuur niet uitziet zoals ik denk dat het eruit zou moeten zien.
Mhm. En ik baal daarvan en ik probeer daar een soort van alternatief voor te scheppen. Dat ik denk: uhm,
als, als we een AI-systeem zouden hebben, uh, op een, een lokaal niveau, regionaal voor het gemak, waarbij we goede afspraken maken over wat er met data gebeurt en mensen wel een gesprek kunnen voeren met een soort synthetische psycholoog om hen door een moeilijke periode heen te helpen.
Mhm. Ik zou daar zeker niet meteen nee op roepen. Mhm. En, uh, ik merk nu dat ik heel vaak nee roep op AI-toepassingen, omdat dat, uh, infrastructurele deel gewoon niet goed gewaarborgd is.
Dus ik, ik, ik voel de urgentie en ook de, uh, de, de noodzaak om bij te sturen, want anders gaat het de verkeerde kant op.
Maar er zit een, daar zit een, er zit een soort van wereldbeeld onder waar, wat jij aanneemt, wat ik niet helemaal begrijp, want ik, ik probeer, ik probeer dit gesprek toe te sturen naar: wat proberen we hier nou te voorkomen [lacht]
. En dan zeg je: ja, maar we moeten het voorkomen en, en, en dit is wat we moeten doen en daar moeten we hard aan werken. Maar het raakt je omdat er een beeld is wat je, waar je juist niet naartoe wil. Wat is dat dan?
Wat is dan het scenario waar je zo, uh, waar je zo van, uh, van schrikt? Nou, het, het moment dat wij hele dunne mensen worden. Mhm.
Thin clients, zoals we in de onderwijsaflevering ook hebben aangeraakt, die wel degelijkBijna volledig afhankelijk zijn van een lijntje naar een datacenter ergens.
Een datacenter wat niet een datacenter is, wat, uh, altijd van jou is, uh, wat nooit uitgezet mag worden, wat een mensenrecht is, maar een datacenter wat je moet huren, inkopen en waar, uh, een groep bedrijven bepaalt wat er wel of niet gaat gebeuren.
Mhmm. En, uh, ik denk dat die verhoudingen niet kloppen. Maar wat denk je dan eens door, zeg maar, oké, maar dit is nu, ik zou kunnen zeggen hiertegen: dit is nu ook al zo.
Gmail kan nu ook uitgezet worden en dan moet ik, ben ik mijn e-mail kwijt. Ja, en ik denk dus dat, dat daarin, uh, een gezondere balans kan zijn. En ik denk dat alle- Dat snap ik, maar, de, dus.
Nee, maar e-mail is namelijk best wel gedecentraliseerd tot op een bepaald, het is een protocol. Je kunt wel je eigen mailserver starten als je wilt. Waarom is dit dan erger?
Omdat dat nu niet is waar we naartoe aan het bewegen zijn. Mhmm. Wat voorzie je dan?
Uh, dat als wij met elkaar bedrijfstechnisch en als consument van AI niet de noodzaak inzien waarom het belangrijk is om AI ten dele dicht bij jou te houden, bij jouw organisatie, bij jouzelf als individu.
Dat als jij niet die teek-, tegenkracht geeft dat die AI van jou wegvliegt en zich als een soort magneet op één of twee of drie, uh, grote plekken begint te centraliseren. Wat gebeurt er dan?
Nou, in het geval van, uh, centralisatie heb je best wel afhankelijkheid, de, uh, van elkaar. Als bedrijf heb je afhankelijkheid van, van, van een aantal kleine spelers. En ik denk dat- Grote spelers.
Sorry, een aantal grote spelers. Weinig grote spelers. Ja, en ik denk uiteindelijk is het een, een stuk politiek vraagstuk waarin wij als mens, als individu met elkaar, uh, kracht uitoefenen in een samenleving.
En dat die krachten allemaal verdeeld zijn over verschillende entiteiten.
En dat ik denk dat in een spelvorm leven met verschillende spelers die elkaar allemaal scherp houden een prettigere plek is dan als er één of twee spelers zijn. Aha.
Dat kan je zelf invullen, uh, ik hou het een beetje abstract, want anders wordt het een heel politiek filosofisch verhaal.
Maar onze positie als Europa is dan wel ingewikkeld, want wij hebben weinig in de melk te brokkelen anders dan dat we een grote markt hebben. Dat is geen klein ding. Dat is een enorm ding.
Maar ik bedoel, technologisch hebben we weinig in, in de melk te brokkelen. We hebben ASML. Nou oké, dat, dat is fijn, dat is een groot ding. Maar we hebben anders dan Mistral, uh, weinig eigen modellen.
Er is computerkracht in Barcelona en ik geloof in, uhm, in de Nordics is er wat, maar, weet je, als Nederland weinig. Misschien als, als Europa poelen, dan hebben we wel wat.
Maar het is niet, staat niet in verhouding tot wat, uhm, wat andere wereldmachten hebben.
Dus de vraag is, is natuurlijk ook een beetje, en dat, ik, ik vind dat moeilijk om hier los van te zien, dat je, dat je het moet zien in een soort machtsstrijd met, nou ja, met de Amerikanen en met de Chinezen, waarin beide partijen er, je zou kunnen zeggen een belang bij hebben dat hun bedrijven, of hoe je dat dan ook in China wil noemen,
uh, er belang bij hebben om te centraliseren en door te stomen op, op hoge snelheid.
Uhm, en dat je dus die situatie krijgt van centralisatie omdat er geopolitieke druk daarop is en dat Europa kan reguleren wat ze willen met cookiemeldingen, maar dan het equivalent naar tool calls.
Uh, m-, ja, dat geldt dan voor de Europese markt. Of dat die bedrijven gewoon zeggen: flikker maar op, we gaan, wij gaan gewoon, uh, we gaan gewoon door met het ontwikkelen wat we doen. Wat is dan de,
ja, dus, wil je er gewoon niet over nadenken wat er, wat er gebeurt als dat echt een soort van heel platgeslagen strijd wordt?
Nee, maar ik bedoel, we kunnen, we kunnen een soort Black Mirror scenario uitwerken om de mensen thuis, uh, bang genoeg te maken dat we iets willen. Mhmm. Kijk, ik, uh, heb een bepaalde intuïtie. Uh,
ik, ja, dat, dat klinkt misschien suf, maar
het heeft niet zoveel zin voor mij om uit te werken hoe een wereld eruit ziet waar een kleine groep mensen heel veel macht heeft en wij, uh, dat hebben we namelijk al gehad in de wereldgeschiedenis.
Ik zou daar gewoon niet naar terug willen. Ja. Ik is heel simpel. Nuff said. Ja, sorry man, uh, laten we vooruitgaan. Ja. En, uhm, tegelijkertijd predik ik daarbij niet, uh, uh, ultieme macht voor ieder individu.
Ik ga weer, ik wil een midden. Ja. En de, ik denk dat we even per ongeluk expres in de wereldgeschiedenis op bepaalde stukjes van de aarde een redelijke balans hebben gehad tussen die twee uitersten.
Ik zie nu die naald van die meter, zeg maar, schuiven. Daar zit niet eens een bewust plan achter in mijn ogen.
Volgens mij is dat gewoon een gevolg van ontwikkelingen in markt en in spelsystemen waar we het steeds over hebben. En nu zeg ik eigenlijk: ik zou die naald het liefst een beetje terugduwen naar het midden. Ja.
Het maakt me emotioneel, omdat ik merk: wauw, wat een kracht die eigenlijk duwt die andere kant op. Ja. En hoe krijgen we het nou toch voor mekaar met elkaar om, uh,
die, al die AI-technieken en, en, en, en wat er allemaal uit ont-, ont-, uh, spruit, of hoe zeg je dat, wat eruit groeit, om dat een, een plek te geven in de samenleving, uh, zonder dat we ineens in hele andere machtsverhoudingen terechtkomen met elkaar.
Ja. En, en je zou daarvan kunnen zeggen: ja, oké, misschien is de menselijke geschiedenis ook een verhaal van nieuwe technologieën die worden geïntroduceerd.
Dan ontstaat er eerst een hele sterke centralisatie, want alles moet onder controle gehouden worden.
We kunnen het nog niet geven aan iedereen, maar als we op een gegeven moment beter doorhebben wat iets is, kunnen we het langzaam gaan distribueren de samenleving in.
Ik, ik sta open voor die, uh, dynamiek, maar dan wil ik al wel paden zien waarin die, uh, distributie en hybride oplossingen mogelijk zijn.
Ja, en dan kom je wel uiteindelijk terecht bij regulering, want als je het aan de markt overlaat gaat dit allemaal niet gebeuren. Ik bedoel, ik probeer even weer te denken aan die, aan die twee advocatenkantoren.
Dan zou, dan is het een oneerlijke strijd als degene die de centraal, die de centrale AI gebruikt, moet vechten met de, met de partij die alles lokaal doet omdat ze nou eenmaal, uh, g-g-Rechtschapen burgers zijn die, uh, een soort van, uh, hart voor de zaak hebben.
Als je het helemaal aan de markt overlaat, dan wint die centr-, wint die centralistische AI altijd. Of is het niet zo simpel? Nee, maar ja. Is er ook een markt incentive om, uuuh, ja, lokale AI te hebben? Kijk, ik, ik.
Ja, ook zou ik zeggen, ja. Ja, dus dat, dat, dat haal ik een beetje uit onze discussie net dat ik denk: hmm, uh, als jij even een wereld schept waarin je, uh, dat is eigenlijk de state of nature in politieke filosofie.
Oftewel: er is geen arbiter, er is geen scheidsrechter. Je staat gewoon tegenover elkaar. That's that. Ja. Good luck. Vechten.
En, uh, nou ja, op het hoogste geopolitieke niveau van de planeet zitten we in die state of nature. Mhm.
Daaronder hebben we allerlei rechtsstaten en arbiters et cetera, waaronder bijvoorbeeld de Europese Unie die jij een aantal keer hebt aangehaald. Ja.
Ik denk dat, uhm, het heel moeilijk is om in een spel waarin geen arbiter is, uuuh, uh, tot waarden te komen die meer zijn dan enkel overleven, overleven. En als jij het niet doet, doe ik het, zeg maar.
Dit is letterlijk het nationale debat over AI is grotendeels de grote geopolitieke spelers. En ja, uh, lief dat je allemaal waarden hebt, maar hé, blijf realistisch jongen.
Uh, maar goed, ik ga dan toch, en misschien is dat laf, want ik kan daar niet zoveel in mijn gedachten als ik eerlijk ben in die, in die spelsituatie. Ik vind dat zo'n basaal ding. Het is realiteit, maar ik heb daar.
Dat er arbiters zijn, bedoel je? Ja. Een wereldwijde arbiter maken, dat vind ik zelf ook weer eng. Ja. Hè, dus ik merk gewoon dat ik, uh, heel eerlijk, a-ik heb daar niet zoveel, uhm, aan je aan te bieden. Mhm.
Op, op dat niveau. Waar ik dan naartoe ga is meer regionaal. Kom ik weer met mijn lokaal. Daar heb ik heel veel te bieden. Mhm.
En jij kan dan terecht tegen mij zeggen, ik leg even de woorden in je mond: dat lokale is toch ook helemaal afhankelijk van dat globale, Wietse?
Hoe kan je nou dat globale even in de kast zetten, zeggen: daar kan ik geen regels verzinnen en dan lekker lokaal regels gaan verzinnen omdat dat de enige plek is waar ik regels kan verzinnen. Mhm.
Dat vind ik even heel suf dit, omdat het heel moeilijk is om van die ruwe spelsituaties op, op globaal niveau iets van een, uh, interventie te doen.
Wat ik wel weet is dat, hè, uh, als we het dan terugbrengen naar een middelbare school waar een schooldirecteur hartstikke graag iets met AI wil, dan heb ik daar ineens van alles te vertellen. Ja.
En allemaal opties te bieden en paden te bieden. Ja. En ik zou dan zeggen: als dan die, uh, middelbare scholen onderling met elkaar concurreren, zet daar, hè, uh, regelgeving op: dit mogen ze wel, niet.
Ja, maar dat is natuurlijk van heel andere orde. Want daar, daar gaat het niet over, weet je, de, de grote, uh, grote, uh, uh, weet je, rechtszaken die beslecht worden.
Dan gaat het gewoon over: hoe geven we onze kinderen het beste onderwijs?
En zo zijn er natuurlijk talloze midden- en kleinbedrijven, is er gewoon, er is een, je gaat naar een huisarts toe, dat, dat, die huisarts werkt op een bepaalde manier, neemt beslissingen op een bepaalde manier, weet je, deelt data met andere huisartsen op een bepaalde manier.
Er zijn allerlei processen in onze maatschappij en je hebt helemaal gelijk, dat is een onwaarschijnlijk groot deel van ons leven, waarbij lokale AI's dat eigenlijk prima zouden kunnen doen.
Waarbij de situa- de, de uitgangssituatie ten opzichte van nu eigenlijk veel beter kan worden door, door AI. Omdat het helpt met beslissingen, omdat het helpt met, uh, ja, dingen die we als mensen belangrijk vinden. En,
uhm, het feit dat daar, dat daar z-, dat daar vanuit de industrie, vanuit die AI-bedrijven eigenlijk zo'n belang gevoeld wordt om dat te produceren, is eigenlijk al heel erg goed nieuws.
Dit is het wat je er tegenover kan zetten. Er zijn tekenen die zeer hoopvol zijn. Ja. Absoluut.
Ja, want het zijn niet de activisten of zo die, uh, die dit aan het doen zijn in open source, uh, uhm, ja, zoals ik een beetje zie dat Nextcloud gemaakt wordt of zo, zo, zoals je een beetje ziet dat Signal gemaakt wordt.
Dat zijn toch een beetje een paar gekken die, uh, tegen de stroming in aan het roeien zijn en, en denken: het zijn allemaal maar WhatsApp en Telegram en zo en allemaal, fuck die lui, we gaan een, een heel goed beveiligd alternatief neerzetten.
En ik, weet je, ik ben heel blij dat dat gebeurt, maar hier zijn het gek genoeg, of gek genoeg, dan fijn genoeg, de grote AI-labs die allemaal belang hebben bij centralisatie, die stuk voor stuk lokale AI's aan het produceren zijn.
Ja. Die allemaal steeds beter worden. Omdat er mensen werken. Omdat er mensen werken misschien. En, en ook omdat ze misschien voelen dat daar vraag naar is.
Dat wij met zijn allen toch ongemak ervaren bij de, de, de, de kracht en de magie van die AI-systemen en, en, weet je, uh, ons inhouden. Uh, in ieder geval oudere generaties hebben dat nog.
Niet alles zomaar overleveren aan die, uh, aan die bedrijven. Omdat dus bedrijven als Apple, die ook gewoon constateren: wij kunnen ons afzetten tegen Google, want niemand vertrouwt Google.
Dus de manier waarop wij gaan differentiëren is juist een privacyvriendelijk alternatief in de markt zetten, waarmee zij druk zetten op Google om dat te volgen, om zich ook. Iets wat erop lijkt in ieder geval. Precies.
En daarmee in ieder geval niet achter te gaan lopen als je het over de as van privacy bekijkt in plaats van over de as van technische capaciteit.
Dus er zijn allerlei marktbewegingen eigenlijk, uhm, die, uh, die, die wel hierbij helpen. En als je nou, als je nou een, een, uh, als je nou denkt: ik vind dit belangrijk en ik, ik wil hier zelf iets in doen.
Want ik heb je veel horen zeggen over wat de soort van de waarde is die we als, als, als continent moeten verdedigen.
Je hebt als la-, als, als bedrijf heb je evident allerlei voordelen aan het draaien van allerlei lokale AI. Maar als je als individu nu, zeg maar, hoe gebruik jij het nu?
Hoe, hoe, hoe kies jij er nu voor wat jij lokaal doet en wat je in, in een, in een cloud doet? Hoe, hoe, hoe navigeer je tussen deze twee uitersten? Hier zit het stukje,
uh, jaloezie wat ik een paar keer heb aangeraakt al de laatste maanden. Uh, jaloezie naar jou. Jij doet wat meer van jezelf vertellen, uh, aan ChatGPT. Ik ben totaal naïef. Ja, nou, dat doe je bewust.
Zolang dat bewust is, kan ik dat respecteren.
[lacht] En de jaloezie is dat ik natuurlijk eigenlijk ook best wel gaaf zou vinden om gesprekken te voeren met filosofen van vroeger en dan misschien wat dieper te gaan dan een paar abstracte theorietjes die ze ooit hebben bedacht.
Ja. Uh, ik doe dat dus nu niet. Uhm, dus eigenlijk gebruik ik veel cloud AI.
Ik test heel veel lokale AI om te begrijpen waar we staan, of de software er al beter uitziet en of de modellen al slim genoeg zijn om ze te integreren.
Ik, ik volg ook om een stukje hoop, hè, van: hé, daar gebeurt een, uh, er gebeurt heel veel, maar ik kies er eigenlijk voor omDe cloud AI's op een manier te gebruiken dat ik ze niet vertrouw.
En daarmee bedoel ik te zeggen dat ik het gewoon, uh, bij een gesprek hou als ik in de trein hou. Ja, ja. Dus als jij nu zegt van: hoe, hoe maak je de keuze daartussen?
Er komt een, uh, moment en dat gaat ergens in de komende, uh, jaren gebeuren, uh, misschien wel in het komende jaar, dat ik iets lokaal draaiende heb omdat ik de investering heb willen maken
en de modellen, uh, uh, goed genoeg zijn en die tool calls met consent kunnen doen.
Dat ik wat meer zal gaan proberen om wel, uh, eens een goed gesprek te hebben over lokaal en globaal en speltheorie met een aantal oude filosofen op mijn Mac, Mac Ultra, Mac Studio Ultra. Ja. Dit is toch vet?
De personal computer. Ja, met de wifi uit. Met de wifi uit, ja.
En dat, want ik zou dat, uh, ik vind dat sowieso, uh, als ik met vrienden rond een kampvuur zit en niemand heeft een pendulum om of een, of een camera aanstaan.
Een cameraploeg die ernaast staat te draaien, toch een iets ander gesprek.
Ja, dan zijn wij daar, uh, net als dat jij met een goede vriend kan gaan zitten om het te hebben over welk onderwerp dan ook, wat je niet zo graag op tv zou vertellen. M-hm.
Dat daar een gevoel van, uh, veiligheid en, uh, uh, een soort cocon is. En ik denk dat we die coconnen ook zouden moeten willen, uh, kunnen creëren met, uh, AI.
En die kunnen zo klein zijn als tussen een individu en een AI, tussen een werkgroep en een AI, tussen een middelbare school en een AI, uh, noem het maar op.
Er moeten smaakjes komen, er moeten, uh, keuzes gemaakt worden en
uiteindelijk is het een, een groot, uh, uh, uh, uh, relaas, een, een, een oproep voor AI-geletterdheid, voor, uh, uh, ik weet even niet hoe we dit dan zouden moeten noemen.
Wat ik daarmee bedoel is: het kost mij bijzonder veel moeite om jou, omdat het zoveel bewegende onderdelen heeft in mijn hoofd, uit te leggen hoe eigenlijk die AI op de achtergrond werkt, hè.
Dan heb ik het nog niet eens over de wiskunde, maar gewoon dat er een datacenter is, dat die app wisselt, dat als die app, nou ja, wat we helemaal aan het begin van deze aflevering hebben, uh, uiteengezet.
Ik vind eigenlijk, en dat is een beetje streng hoe ik dat nu zeg, dat iedereen dit zou moeten begrijpen. M-hm.
En daarmee bedoel ik dat iedereen begrijpt wat het verschil is tussen iets wat op jouw telefoon draait, op jouw computer thuis draait, op jouw server van het bedrijf draait of de organisatie versus een heel groot datacenter ergens.
En dat jij bewust de keuze maakt. In deze context kan ik prima een datacenter aanroepen, beter zelfs voor het milieu, efficiency et cetera. Ik heb die computerkracht nodig.
In deze context is denk ik een lokale AI in het hoofdkantoor genoeg. En in deze context is een AI waar ik zelf de stekker uit kan trekken de juiste plek. M-hm. En eigenlijk wil ik,
is mijn oproep voor mensen om zich meer te verdiepen in de verschillen tussen die verschillende, in die opties die ik net heb aangeboden. Wezenlijke verschillen met allerlei gevolgen.
En dat we, uh, rustig met elkaar kunnen zeggen: ah, inderdaad, we hebben wat regels gemaakt voor dat bedrijfsveld.
Dan doen we die optie, die, die kleur, die geur, uh, voor dat deel van de samenleving kan het prima in een datacenter draaien. Gaat het eigenlijk over weerbaarheid?
Over de, de mate waarin je kan dealen met, uh, andere, andere landen die, uh, controle over je kunnen uitoefenen, die, die jouw data kunnen uitzetten. Onder andere.
Het gaat over, uhm, uhm, uhm, ja, uh, als je, uhm, je kan bang zijn dat data lekt bijvoorbeeld. Dus dat als je alle informatie op één plek hebt, dan is ook het risico van lekken groter.
Dus de, uh, als bedrijf heb je er ook belang bij om, uh, data in een cloud te hebben, want je zou kunnen zeggen: dat is minder risicovol. Nou, weet ik eigenlijk niet. Het is ook weer risicovol.
Misschien is het, misschien is dit punt niet zo heel sterk.
Nee, maar ik denk dat waar je een beetje naartoe gaat, is: je zou kunnen zeggen dat je er een heel, uh, idealistisch, bijna activistisch lokaal AI-standpunt van kan maken.
Dat hoeft helemaal niet, want daartussen zitten nog allemaal dingen die gewoon voor bedrijven ook logisch zijn qua intellectual property. Ja.
Die logisch zijn voor consumenten, dat ze zeggen: nou, bij de dokter niet, maar, uh, bij het CBR wel. Ik noem maar dingen. Ja.
Dus, dus je hoeft helemaal niet zo, uh, radicaal te denken om in te zien hoe, als wij bijvoorbeeld in heel Nederland één waterleiding zou liggen naar Engeland en één, uh, stroomkabel naar Engeland.
Ja, dat is niet echt een chill idee. Dat, dat vindt toch iedereen weird? Ja.
Dus, dus volgens mij, alleen wat er gebeurt in het geval van, uh, informatietechnologie, IT, is dat je het zo ver kan weg abstraheren in allerlei zwarte dozen, bewust en onbewust. Ja.
Dat die intuïtie die wij bijvoorbeeld hebben bij voedsel, elektriciteit en schoon water, uh, op een bepaalde manier niet helemaal, a-aankomt als het gaat om, uh, soevereiniteit op het gebied van IT-infrastructuur. M-hm.
Vaak snappen we dat pas als de ChatGPT-app het niet doet omdat er een landelijke storing is, hè. En dan ineens: oh, zitten we dan, zitten we eigenlijk allemaal op dezelfde computer. Precies.
En wat is dan je advies aan Nederlandse, Nederlandse politici? Wat voor regels zouden ze die, wat voor regels zouden die moeten maken? Of Europees? Maar niet zo, daar, daar gaat het me niet om.
Maar wat voor aanbevelingen zou je doen? Ik hoorde je al zeggen: gesprekken verwerken moet gewoon lokaal. Whisper kan prima lokaal draaien. Draai dat niet in een andere database. Het heeft geen enkel voordeel.
Het is misschien sneller. That's it. Ja, maar dat weegt niet op. Nee. Zou ik zeggen. Nee. Nee, dus transcriberen, ik vind het lekker hoe concreet je dit maakt. Transcriberen is een absolute lokale taak. Ja.
Dat is, het slaat helemaal nergens op dat we dat in datacenters doen. Ja. Dan kan je altijd nog later zeggen dat je dat transcript de cloud in plakt met de stukjes die jij wil. Zo werk ik bijvoorbeeld.
Ik transcribeer alles op mijn laptop en daarna ga ik lekker met Claude praten over de delen van het transcript die ik belangrijk vind. M-hm. Dus daar heb ik toch nog een antwoord gegeven op je lokaal-cloudvraagstuk.
Letterlijk wat ik doe. Uhm, dus ik denk dat we daarin,
uh, uh, met elkaar, en als jij dan zegt, uh, als het op het geval van politiek is, uh, ik vind het heelPrettig dat ik nu dingen als soeverein en lokaal en, uh, kijk uit voor hyperscalers en al dat soort termen meer om me heen hoor.
Maar het vereist wel meer dan die talking points, uh, in je mond nemen om echt goed beleid te gaan voeren.
En dat zal toch betekenen dat je je zal moeten verdiepen in iets meer van deze technologie om echt goed te begrijpen, uh, ik weet het, dat, dat, uh, politici over het algemeen werken met adviezen en dat het helemaal niet logisch is voor iedere politicus [gniffelt] om, uh, na te gaan denken over taalmodellen en lokaal zijn.
Maar daarom vraag ik het nu aan je. Wat moeten ze dan doen?
Nou, ik denk je, je toch wel, uh, uh, dieper informeren door de juiste boeken, adviseurs om je heen en vragen uit te stellen van: leg nou eens uit, hè, dat is de vraag die een politicus moet stellen.
Leg nou eens uit waarom dit zo belangrijk is. Mhmm. Behalve dat ik het steeds om me heen hoor en behalve dat het inderdaad niet handig zou zijn als er maar één energievoorziening voor heel Europa zou zijn, hè.
Uhm, omdat het best wel een, uh, nieuwe, moeilijk te doorgronden, i-ik ben de, ik ben iemand van metaforen. Het is me in deze aflevering amper gelukt om metaforen te maken voor hoe complex het is.
Het lukt gewoon niet, uh, dus we hebben met elkaar nog wel wat, uh, onderwijs te doen.
Ja, eigenlijk schets je een, een situatie waarin we, waarin we, waarin het zomaar zou kunnen dat we minder weerbaar worden en waarbij er actie is, nodig is om weerbaarder te worden, maar dat het ook niet zo simpel is dat je nu vijf adviezen hebt.
Je wil dat politici, de mensen die de regels maken, dit hele, dit hele probleem in al zijn facetten doorgronden. Je wil ook, je bent hier niet om hen te vertellen wat ze moeten doen, maar je wil dat ze de kern begrijpen.
Ja, en dan, en dan ga ik even misschien iets, uh, verbazingwekkends zeggen. Daar kan je bijvoorbeeld deep research voor gebruiken. Ja. Dat meen ik echt. Ja.
Want, uh, ik, ik bedoel [Niels gniffelt] het voelt, nee, maar dat is heel gek dat ik dat misschien. Dan kan je zeggen: ja, maar dan vertrouw je.
Kijk, ik ben dus niet zo, uh, ik, ik ben iemand die gelooft dat de wereld op, in onprettige configuraties terechtkomt waarin macht niet meer klopt. Uit een stukje naïviteit en dingen die uit de hand lopen.
Niet per se omdat mensen zulke snode plannetjes hebben. Nee. Dus dat is een vrij optimistisch wereldbeeld. Want hoe kan je dat dan dus voorkomen? Door mensen minder naïef te maken en te informeren.
Ja, dan ben ik misschien een idealist. Ja. Ik denk dat we hier op dit moment niet de juiste keuzes maken op een aantal vlakken. Omdat we met elkaar, van, uh,
w-wetgevend, uh, regerend tot en met d-Jan met de pet, niet goed doorhebben waar we eigenlijk beslissingen over zouden moeten nemen. Omdat het zo moeilijk is en zo complex, uh, deze technologie.
En saai [gniffelt] voor heel veel, het is ook supersaai. [lacht] Ja. Ja. Ik vind het niet saai, maar heel veel mensen vinden dit wel allemaal heel saai. Wat vond je van dit gesprek, Wietse?
Uuuh, nou ja, het is, ik bedoel, ik, het is me niet goed gelukt denk ik om, om uit te leggen waar, waar het nou zo goed v-, waar het nou wringt.
Uh, het helpt, heeft mij nu vooral geholpen om erachter te komen waar ik dus nog wat langer over na moet denken en waar ik een paar mooie metaforen voor moet gaan bedenken die, die intuïtie bij mensen aanzetten.
Dat, dat, dat het gevoel wat meer erin gaat van: natuurlijk moeten we dat niet doen. Je hebt gelijk, dit klinkt eigenlijk wel heel gek wat je nu uitlegt. Mhmm. En jij dan? Uhm,
ja, nou op het eind vind ik het een beetje onbevredigend, omdat ik dan denk: oké, dit allemaal bij elkaar opgeteld. Wat verwacht, je verwacht een hoop van regulering,
uh, en, maar we kunnen niet expliciteren wat dan precies de verwachting is die we van politici hebben. En dat merk ik bij mezelf, ik heb daar zelf ook geen antwoord op.
Ik vind het gewoon buitengewoon complex en ik verwacht gewoon basiskennis van politici. En misschien is dat ook het minste wat we kunnen vragen.
Maar het voelt toch onbevredigend, want je wil, het liefst wil je zeggen: nou, A moet je doen, B moet je doen, C moet je doen, D moet je doen. Daar zijn we ook, daar zijn wij zelf ook niet, Wietse.
Nee, dus, dus mijn, mijn oproep is ook dan, uh, dat we dus voorbeelden nodig hebben van verhalen, van, van, van, uh, concrete apps, hè, van heel, van, van, v-, van conceptuele verhalen naar concrete apps en voorbeelden- Ja...die we kunnen aanbieden als: kijk, dit is een, zo kan het ook.
Ja. Dit is ook een manier om het te doen. Dat er in ieder geval keuzes, uh, helder gemaakt worden.
Ik zou heel graag- Want een deel van mij denkt: moeten wij niet gewoon, als, als wij, als wij, zeg maar, zou-k-, zouden we ons eigen, zouden we ons eigen,
supercomputers kunnen maken en dan gewoon ons eigen, zeg maar, Europese internet. Is dat dan een manier om te concurreren? Nou ja. Poolen dat allemaal. [lacht] We hebben, we hebben wel heel veel talent, uh, in Europa.
Ja, wij ook. Uhm, en misschien duurt het dan allemaal wat langer en is het allemaal niet, is het 90% zo slim of 80% zo slim. Dat kan nog steeds. Als we gewoon GPT-4 zouden hebben, zeg maar, hebben we al heel wat. Ja.
Uhm, ik denk tegelijkertijd ook dat daarin nu een soort van alle luiken wereldwijd sluiten naar elkaar. In het dorp gaan alle luiken voor de ramen dicht en iedereen gaat binnen zitten. Ja. Vind ik ook, uh, jammer.
Ik, ik ben ook nog steeds wel op zoek naar samenwerking. Ja. Uh, want die interafhankelijkheid van elkaar wereldwijd heeft ons ook heel veel gebracht.
Dus nu maak ik even een gekke sprong misschien, maar ik ben niet zozeer op zoek naar totale onafhankelijkheid tussen iedereen. Nee. Maar ik ben op zoek naar een, uh, een prettige machtsbalans.
Nee, je punt is tering gedu-genuanceerd. Ja, hybride. Dat is ook prima. Nou, het was weer wat. Uh, ik dank u voor het luisteren, lieve luisteraar. Wij danken Sam Hingeveld ook voor de edit. Pankras voor de vormgeving.
Als je een lezing wil over AI van Wietse of van mij, dan kan dat. Mail ons op lezing@aireport.email.
En als je op de hoogte wil blijven van al het laatste AI-nieuws twee keer per week en wil horen waar je AI nou echt kan voor gebruiken in je werk, dan ga je naar aireport.email.
En als je vandaag nog wil beginnen met AI binnen jouw bedrijf ga je naar deptagency.com/aireport. Ik dank u zeer voor het luisteren. Wij zijn hier volgende week weer. Dag. Dank je wel.
[muziek]