WEBVTT

1
00:00:00.080 --> 00:00:10.180
Welkom bij Poki, de Nederlandse podcast over kunstmatige intelligentie waar we uitzoeken welke invloed AI gaat hebben op ons werk, ons leven en de samenleving. Tegenover mij zit Wytse Hagen.

2
00:00:11.160 --> 00:00:19.020
Kijk, Wytse, als luisteraar van deze podcast kwam die hele DeepSeek-saga natuurlijk niet als een verrassing.

3
00:00:19.200 --> 00:00:33.200
Maar wat wel degelijk als een verrassing voor mij kwam, is de mate waarin de pleuris is uitgebroken op beurzen, de voorpagina's van kranten en familie-apps. Ik zeg niks overdrevens, toch? Nee, mijn familie-app stond vol.

4
00:00:33.720 --> 00:00:45.720
Ik denk dat niet sinds de introductie van ChatGPT er een AI-techniek is geweest die voor zoveel ophef zorgde. We bespreken DeepSeek als cultureel fenomeen en belichten wat er tot nu toe onderbelicht is gebleven.

5
00:00:45.960 --> 00:00:58.280
En je zou het bijna vergeten, maar OpenAI presenteerde deze week hun langverwachte operator agent, een AI die zelfstandig websites kan bedienen. Dat en nog heel veel meer bij Poki. Veel plezier!

6
00:01:08.039 --> 00:01:20.020
[muziek] Wytse, wat vond je ervan om bij het televisieprogramma EVA te zijn? Want gisteren was jij mee achter de schermen. Ik mocht praten over humanoids. Een, uh, geoliede operatie. Ja.

7
00:01:20.280 --> 00:01:31.240
Het is echt bizar omdat het ook live is natuurlijk. Het moet gewoon goed gaan. Ja. En ik, ik ben daar heel erg van, want dat creëert een authenticiteit en een soort van, iedereen voelt die soort echte stress.

8
00:01:31.560 --> 00:01:41.280
Het is gewoon niet zo gelikt en daarom goed. Maar ik voelde wel een beetje die stress ook daar van, dingen moesten ook goed gaan. Robots staan daar. De wifi moet werken. Ik weet niet.

9
00:01:41.300 --> 00:01:50.640
Ja, en tijdens de repetitie deden, deden veel robots, deden het niet. Ja. En dat was wel echt zielig, want het was een bedrijf uit Eindhoven. Laten we dat nu maar even zeggen. Manus. Manus.

10
00:01:51.140 --> 00:01:59.900
En zij maken best wel vet een, uh, handschoen, uhm, waar, waar sensoren in zitten waar je dus robots mee kan trainen. Ja.

11
00:01:59.960 --> 00:02:06.340
Want die, die sensoren zijn zo nauwkeurig dat dus hele specifieke kleine handbewegingen opgepikt kunnen worden.

12
00:02:06.400 --> 00:02:14.260
En ze hadden dus een handschoen en een robothand naast elkaar, waardoor ik dan, ik zou een demonstratie geven door met mijn vingers te bewegen en dat die robothand dat dan nadoet.

13
00:02:15.080 --> 00:02:17.800
Uhm, [klikt met tong] uh, maar dat ding raakte oververhit.

14
00:02:17.980 --> 00:02:30.100
En dat is echt jammer, want daarmee hadden we het punt kunnen maken dat Elon Musk deze handschoenen uit dit Nederlandse bedrijf, uit, van dit Nederlandse bedrijf uit Eindhoven gebruikt om de Optimus-robots te trainen hoe ze dingen moeten pakken.

15
00:02:30.140 --> 00:02:38.720
Maar ja, dat heeft het publiek dus moeten missen omdat ze oververhit raken. In deze tijden van AI voelt dat dan [beiden lachen] als, uh, beetje raar. Alles wordt anders, maar het is wel oververhit gewoon.

16
00:02:38.780 --> 00:02:46.600
Ja, hij is wel oververhit gewoon. Ik kreeg nog wel een berichtje van mijn vader na de aflevering, want die wist dat ik daar ook zat. Hij zo: "Wat was nou die hand? Waarom gingen jullie die hand niet gebruiken?"

17
00:02:46.750 --> 00:02:53.880
[lacht] Oh ja. Dus, dus, nou, het is wel een soort geteased. Ja. Mensen hebben die hand zien staan. Het zij zo, het zij zo. Oké, we gaan naar het nieuws.

18
00:02:54.080 --> 00:03:03.880
Maar niet voordat we eerst wat nieuws over onszelf gedeeld hebben, Wytse. Want Poki krijgt een nieuwe naam. Ja, dit zorgt natuurlijk voor donderwolken bij de luisteraar. Mensen hebben nu al buikpijn. Ik wel.

19
00:03:03.980 --> 00:03:15.820
Nu al buikpijn. Uh, een nieuwe naam, maar, uh, wees gerust. Ja, wees eigenlijk niet ge-- het is verschrikkelijk. [lacht] Ja, het, het, het gaat heel erg wennen zijn. Dat is wat het is. Uh, Pe-Poki wordt AI Report.

20
00:03:15.900 --> 00:03:25.060
Het is voor ons heel handig, want inmiddels is onze nieuwsbrief groter geworden dan deze podcast, Wytse. Met alle respect voor ons, maar er zijn heel veel mensen die stiekem die nieuwsbrief hebben genomen.

21
00:03:25.360 --> 00:03:33.700
Ja, en er zijn ook heel veel mensen die in Spotify zoeken op AI en niet op Poki. Ja. Dus het helpt ook. Slecht voor SEO bedoel je? Ja, er moeten gewoon meer luisteraars. Je moet aan je SEO denken.

22
00:03:33.720 --> 00:03:42.720
Je moet meer luisteraars hebben. Uh, nee, we zijn, uh, uhm, ja, die nieuwsbrief is uit de hand gelopen. Dat zou je kunnen zeggen. En we willen dat dat samenvalt met deze podcast.

23
00:03:42.920 --> 00:03:52.420
Ja, en we willen wel, ja, jullie als luisteraars, uh, serieus nemen. Dus wij houden ook van de naam Poki. Wij vinden het ook ingewikkeld. Ik heb er best wel even over gedaan. Doet ook een beetje pijn.

24
00:03:52.460 --> 00:03:59.320
Veel over gediscussieerd. Maar, uhm, ja, het staat je vrij om het Poki te blijven noemen. [lacht] Ja, zoals Twitter. Ja, doe je ding.

25
00:03:59.580 --> 00:04:07.280
En, uhm, ja, ik denk dat we uiteindelijk onder AI Report niet zo heel veel verandering zullen merken, behalve een aantal punten die we nu nog gaan opnoemen.

26
00:04:07.360 --> 00:04:17.480
Ja, nee, kijk, uiteindelijk verandert er natuurlijk niks anders dan een andere naam en een, uhm, nieuwe look. Daar zijn we overigens ook voor op de foto geweest bij de fotograaf van het koninklijk huis.

27
00:04:17.980 --> 00:04:24.820
Wytse Hagen is op de foto geweest bij de fotograaf van het koninklijk huis, dames en heren. Ik stond daar- Dat is heel bijzonder. Bijzondere ervaring.

28
00:04:24.880 --> 00:04:33.280
Cringe, uh, nerdy, uh, daar awkward te zijn, maar het was echt een hele leuke middag. Nou, die foto's in onze fantastische nieuwe huisstijl, uh, is vanaf volgende week te zien.

29
00:04:33.300 --> 00:04:43.860
En je ziet al een kleine, een klein, klein glitchje, kun je al zien in de, in de vormgeving van deze week. Dan is er nog meer nieuws, want je bent van ons gewend dat er allemaal reclame om deze podcast heen zit.

30
00:04:43.920 --> 00:04:54.100
En dat is sinds een tijdje niet meer zo, want we zijn gestopt met losse adverteerders. En wat we vanaf nu gaan doen is werken met één hoofdsponsor. En we zijn er heel trots op dat dat Dept is.

31
00:04:54.160 --> 00:05:03.620
Dat is een digital agency die bedrijven helpt om qua tech en marketing voorop te blijven lopen. Gigantisch bedrijf overigens, met 2.500 specialisten in vijf continenten, Wytse.

32
00:05:03.700 --> 00:05:15.880
Dus laten we zeggen: er is nog ruimte voor groei met betrekking tot AI Report. Zeker. Uhm, zij werken voor, uh, nou ja, Google, Bol, Philips, Eneco, Just Eat Takeaway en nog veel meer. En nu dus ook met ons.

33
00:05:16.060 --> 00:05:24.580
Dat vinden we heel erg leuk en dat is, uh, goed nieuws ook voor de luisteraar. Dept zorgt er dus eigenhandig voor dat de podcast vrij beschikbaar blijft.

34
00:05:25.340 --> 00:05:32.680
En dat is belangrijk in deze tijden, want AI heeft veel inv-invloed op, uh, nou ja, ons allemaal als, als gewone mensen, maar ook op bedrijven.

35
00:05:32.920 --> 00:05:43.880
En Dept helpt bedrijven door die woeste zee te navigeren en in de tussentijd komen zij lessen tegen. En die lessen gaan ze voor-voortaan wekelijks in een speciaal segment in deze podcast delen.

36
00:05:44.400 --> 00:05:56.340
Uh, dus ik kijk daar, uh, kijk daar zeer naar uit. Poki blijft gratis, maak je daar geen zorgen over. Onder een andere naam. Dan een vraag die ik vaak krijg: waar is Milou gebleven? Ja, waar is Milou gebleven?

37
00:05:56.420 --> 00:06:10.304
Ja, dat, dat is een goede vraag. En, uh, wij doen deze podcast nu een jaar en dat is een eeuwigheid in AI-termen, want er is nogal veel gebeurd het afgelopen jaar. Maar je zou ook kunnen zeggenHet is een jaar.

38
00:06:10.424 --> 00:06:19.164
Het is best wel kort en in die tijd hebben we veel dingen geprobeerd, want deze podcast zijn we eigenlijk nu nog steeds pas aan het opzetten. En, uh, in het begin dachten we: we doen het met z'n tweeën.

39
00:06:19.184 --> 00:06:25.844
Toen dachten we: moet toch, moet er niet iemand bij? Toen dachten we, dus dat werd Milou. Moet er niet iedere week een gast bij? Dachten we op een gegeven moment.

40
00:06:25.874 --> 00:06:29.164
Toen werden we ook weer een beetje, soort van, dus heel erg aan het zoeken geweest naar de vorm.

41
00:06:29.224 --> 00:06:39.344
En we, we hebben, ons, ons gevoel is: we moeten de kern met z'n tweeën houden en daar dan steeds af en toe iemand, uhm, bij halen als dat nodig is.

42
00:06:39.374 --> 00:06:48.003
Dat kan bijvoorbeeld zijn als wij ziek zijn of, uh, op vakantie willen of zo. Of als we bepaalde expertise willen. Dan schuifelt een van ons eruit en komt er een ander in.

43
00:06:48.024 --> 00:06:53.404
En Milou is, uh, bijvoorbeeld bereid om dat te doen en dat is heel erg fijn. Een pak van ons hart eerlijk gezegd.

44
00:06:53.504 --> 00:07:03.124
Uh, en goed nieuws als je meer van Milou wil horen, want dan kun je namelijk iedere week luisteren naar de podcast: AI, je nieuwe collega. Daar is ze namelijk sinds kort ook bij aangeschoven.

45
00:07:03.164 --> 00:07:15.184
Dus moet je nagaan, dan kun je ook gewoon dat erbij doen. Dat is toch vrolijk nieuws. TL;DR Wytse. Alle losse advertenties eruit. Dep komt erin. Podcast blijft vrij beschikbaar.

46
00:07:15.384 --> 00:07:26.944
Nou, ik zou zeggen: dat is genoeg administratie voor deze week. Let's go! Oké. [muziek] Want OpenAI lanceerde vorige week Operator, een AI-agent die zelfstandig taken kan uitvoeren.

47
00:07:26.984 --> 00:07:34.663
Je zou het bijna zijn vergeten in deze, het is een soort van pre-DeepSeek wereld, die voelt als een eeuwigheid geleden. Maar dit is één week geleden. Daar gaan we het over hebben, hoor luisteraars.

48
00:07:34.724 --> 00:07:42.244
Ja, uh, voor de mensen die dat gemist hebben: er is een research preview beschikbaar gekomen voor Amerikaanse gebruikers in het ChatGPT Pro-abonnement.

49
00:07:42.304 --> 00:07:53.604
Oftewel voor Amerikanen die €200 per maand betalen voor hun ChatGPT-abonnement. Later voor Plus en Team en Enterprise gebruikers. En volgens Sam Altman zal de uitrol in Europa een tijdje duren.

50
00:07:54.164 --> 00:08:06.064
Oftewel Wytse, we kijken wel even. Wat is het? Het is de agent die we al heel lang verwachten, namelijk een browser die zichzelf kan bedienen na het invoeren van een prompt.

51
00:08:06.344 --> 00:08:13.724
En de voorbeelden die dan genoemd worden, zijn altijd een beetje uitgekauwd, namelijk vliegtickets boeken. Op een of andere manier is dat wat, waar- Moet niet te spannend zijn. Nee.

52
00:08:13.844 --> 00:08:19.624
Uh, online winkelen, zodat hij kan restaurantreserveringen maken. Werkt in een soort van browservenster binnen een browservenster.

53
00:08:19.704 --> 00:08:26.924
Een beetje space in ervaring en je ziet dan hoe langzaam een muis, uh, klikt op alle knopjes voor jou als die zijn taak uitvoert.

54
00:08:26.944 --> 00:08:37.144
Op het moment dat hij een captcha tegenkomt of een wachtwoordveld, dan zegt hij keurig in een soort van ChatGPT-stijl: wil je het even overnemen? En dan gaat hij, uh, zelf weer verder. Wat vind je ervan, Wytse?

55
00:08:37.424 --> 00:08:43.184
Nou, ik denk dat, uh, voor de mensen die nog zich afvragen: hoe word ik dan straks precies vervangen?

56
00:08:43.244 --> 00:08:49.724
Of in dit geval in eerste instantie: hoe word ik straks geholpen, uh, door AI op mijn eigen computer, thuis en op werk?

57
00:08:50.284 --> 00:09:00.684
Dat is dus in zo'n operator-vorm, uh, een soort copilot die ook je muis en toetsenbord overneemt en allerlei taken voor jou gaat uitvoeren. Die kan je natuurlijk tijdelijk even macht geven op jouw computer.

58
00:09:00.984 --> 00:09:09.804
Of misschien wel een nachtje. Of misschien wel, uh, uh, meerdere tegelijk op meerdere computers. En dit zijn de babysteps van: oké, hoe ziet, hoe ziet het er dan uit?

59
00:09:09.844 --> 00:09:21.504
En vooral: hoe zorg je er dan voor dat zo'n systeem, uh, geen gekke dingen gaat doen en snapt wat je eigenlijk bedoelt? Extra tabjes openen en daar ook jouw creditcardgegevens invullen, zeg maar.

60
00:09:21.624 --> 00:09:31.184
Ja, maar je zegt babystapjes. Bedoe-- hoor ik daarmee tussen de regels door dat je het eigenlijk een beetje saai vindt inmiddels? Nou, ik ben nog nie-- ja, dat komt ook een beetje door Cloud Computer Use.

61
00:09:31.704 --> 00:09:39.584
Die zijn niet zo goed in branding bij Anthropic. Operator is een beetje- Ja, nou ja, het is, maar ook dat is moeilijk te installeren en kunnen wij ook niet bij, dus de vergelijking gaat daar ook op.

62
00:09:40.093 --> 00:09:50.024
Maar ik denk, nee, ik ben, uhm, dit is denk ik een logisch gevolg van het aan elkaar koppelen van allerlei soorten modellen die kunnen kijken, die kunnen horen, die kunnen schrijven en nu ook kunnen typen en muizen. Ja.

63
00:09:50.324 --> 00:09:58.664
Uhm, maar het is allemaal nog heel erg, uh, versie 0.1. Ja. En dus als je dan, je vraag is: wanneer ben je wat meer onder de indruk? Ja.

64
00:09:59.024 --> 00:10:04.563
Is als het wat sneller gaat, want het gaat toch, het is heel, het is een heel traag systeem. Als in: die muis beweegt letterlijk traag.

65
00:10:04.604 --> 00:10:08.124
Ja, dit is allemaal op te lossen, maar daardoor vind ik hem nog niet zo indrukwekkend.

66
00:10:08.604 --> 00:10:20.924
En als het echt, uh, ja, lange taken zijn, dus dat hij snel dingen doet die, waar ik normaal 10 apps tegelijk open en door elkaar klik. Dus echt multitaskend, 10 keer zo snel als een mens.

67
00:10:21.124 --> 00:10:31.044
Een bestaande taak die ik wekelijks uitvoer. Dan, dan ga ik wel, uh, meer onder de indruk zijn. Toch nog even die voorbeelden, want het is inmiddels echt volstrekt uitgekauwd.

68
00:10:31.244 --> 00:10:37.644
Namelijk vliegtickets boeken, wat mij een beetje, zo'n beetje de laatste use case zou zijn waar ik het mezelf kan zien, uh, gebruiken.

69
00:10:37.684 --> 00:10:49.444
Want ik vind dat, uh, een heel ingewikkeld ding waar ik volledige controle over wil, uh, en dat ik echt niet uit handen ga geven aan die computer. Maar oké, ze-zelfs restaurantreserveringen of zo.

70
00:10:50.264 --> 00:11:02.264
Dit wordt dan gebruikt als voorbeeld, maar dat, ik, ik zie mezelf gewoon dat niet doen, heel eerlijk gezegd. In, zoals dit systeem nu werkt. Kan jij je- Hoe bedoel je doen? Ja, ik, ik, ik.

71
00:11:02.804 --> 00:11:11.204
Eén: het levert geen tijdswinst op. Het is, het is op dit moment gewoon echt, het is een researchdemo en dat, dat is het, dat blijft het ook als het zo is zoals het nu is.

72
00:11:11.764 --> 00:11:21.284
Kan jij je voorstellen zoals het nu is, dat je het ergens voor zou gebruiken vandaag? Nee, nee, want ik, ik denk ook niet dat wij meer, uh, mee gaan kijken op de manier dat je nu meekijkt.

73
00:11:21.764 --> 00:11:24.464
Dit is, voelt ook echt meer als iets voor ontwikkelaars. Ja.

74
00:11:24.644 --> 00:11:43.704
Concreet gaat het zijn dat jij een e-mail stuurt naar iets of, ja, iemand, uh, tussen aanhalingstekens, een niet-bestaande collega, die dan toegang heeft, die AI, die nieuwe AI-agent, uh, tot een computer met software erop, die operator gebruikt en jou dan een PDF terugmailt 1,5 uur later.

75
00:11:43.824 --> 00:11:53.924
Ja. Dus dan heb je dit helemaal niet gezien. Of een berichtje stuurt: joh, ik ben al een heel end, maar ik ben nu met betaalgegevens bezig. Kijk je even mee? En dan doe jij wat stukjes en dan laat je hem weer los. Ja.

76
00:11:54.424 --> 00:12:03.203
Het is een korte interventie, zeg maar. Nou, misschien dat het voor dingen is, bijvoorbeeld stel je stuurt soms bloemen naar mensen en, uh, en, en je doet altijd hetzelfde.

77
00:12:03.824 --> 00:12:11.804
Dan kan ik me wel voorstellen dat je tegen ChatGPT zegt: stuur bloemen aan Wytse. En dat hij dan de rest wel echt fixt allemaal. Dat kan ik me wel voorstellen. Moet ook helemaal op de achtergrond gebeuren.

78
00:12:11.824 --> 00:12:21.344
Wil ik verder niet over nadenken. Nou, het kan. En ik kan me ook voorstellen dat, uhm, zeker omdat er best wel watOpen source software beschikbaar is, dus het scheelt heel veel gedoe qua licenties.

79
00:12:21.384 --> 00:12:33.424
Ik ga ergens naartoe met dit verhaal, uh, is dat jij een hele-- ik, ik kijk wel eens me-mee met mensen die de ChatGPT app gebruiken en dan, uh, kijk ik in hun, mag ik, zeg: mag ik even in je history kijken?

80
00:12:33.484 --> 00:12:45.604
Dat doe ik niet zomaar. En dan zie ik best wel, uhm, intense vragen dat ik denk, denk, ik denk dan zelf, zeg maar als, als techneut denk ik: dacht je echt dat hij dit kon of zo?

81
00:12:45.764 --> 00:12:54.824
Want dat, en dit is voor, laat ik zo zeggen, voor de niet per se technisch onderlegde ChatGPT gebruiker is het soms heel vreemd wat ChatGPT wel kan en wat ChatGPT niet. Noem eens een voorbeeld.

82
00:12:54.884 --> 00:13:02.944
Nou, dan zeg jij bijvoorbeeld: ik heb hier een Excel-sheet. Ik wil dat je alle deze data eruit haalt en daar een pdf van maakt voor mij of zo. Ja.

83
00:13:02.984 --> 00:13:12.304
En dan, dan, dat lukt dan heel vaak niet, want hij kan wel een soort printje maken in pdf van die Excel, maar niet een soort analyse doen zoals jouw collega dat zou kunnen doen. Ja.

84
00:13:12.484 --> 00:13:23.724
Of voeg deze vier Excel-sheets samen en maak er een pdf van met een paar mooie grafieken erin. Ja. Kijk, ik kan me voorstellen wat ChatGPT nu mag, soms, is dat hij iets mag programmeren en dat doet hij ook wel eens.

85
00:13:23.764 --> 00:13:29.744
Dus dan gaat hij op de achtergrond vlug een programmaatje maken. Je ziet het nu ook heel erg in ChatGPT Canvas, die laatst geüpdatet is van OpenAI.

86
00:13:30.404 --> 00:13:39.644
In Canvas zie je ook, jij vraagt dan: uh, kan je dit en dat voor me doen? Dan zegt ie: ja, ik ga wel even software bouwen nu ter plekke voor jou om dat te doen. Ja. En jij krijgt dan het resultaat uit die software.

87
00:13:40.204 --> 00:13:49.944
Wat ik, wat je denk ik straks zal zien is dat hij, uh, operator mag callen op de achtergrond. Die hebben dan een machientje draaien ergens met allemaal open source software erin. Open source Word, open source Excel.

88
00:13:49.984 --> 00:13:59.584
Die bestaan allemaal. Ik zeg open source omdat ze dan Microsoft niet hoeven te betalen. Het is gewoon een volledige desktopcomputer in de cloud van OpenAI, die die taak op de achtergrond uitvoert zonder dat jij dat ziet.

89
00:13:59.704 --> 00:14:13.444
Dus het zijn heel veel woorden om te zeggen: de skillset van ChatGPT zal de komende maanden, het komende jaar uitgebreid gaan worden, omdat ChatGPT op de achtergrond een computer aan kan sturen om jouw vraag op te lossen.

90
00:14:14.184 --> 00:14:23.344
Het ligt toch helemaal in de lijn der verwachting dat hij daadwerkelijk Microsoft Word gaat gebruiken in, in OpenAI. Gezien de deals die er zijn, denk ik dat Microsoft gaat zeggen: doe nou gewoon echt onze software.

91
00:14:23.384 --> 00:14:34.164
Ik zag, uh, Sam Altman alweer, alweer sma-, selfies delen met lachende CEO van Microsoft erop deze, deze week. Volgens mij zit dit soort meuk er eerder aan te komen dan wij allemaal zin hebben. Office 365. Ja, precies.

92
00:14:34.174 --> 00:14:43.064
[muziek] Meer OpenAI nieuws. Zij lanceerden deze week ChatGPT Gov. Een speciale editie voor de Amerikaanse overheid. En wat doet dat dan?

93
00:14:43.084 --> 00:14:52.904
Nou ja, meer beveiliging voor gevoelige gegevens, uh, die ingevoerd moeten worden door ambtenaren, uh, in de modellen van OpenAI binnen een beveiligde hostingomgeving die dan voldoet aan van die overheidseisen.

94
00:14:53.484 --> 00:15:00.084
En, uhm, waar gebruiken ambtenaren het nou voor? Nou, dat, dat wil Chat-- of wil OpenAI wel zeggen in een persbericht.

95
00:15:00.124 --> 00:15:06.084
Namelijk het vertalen en samenvatten van documenten, het schrijven van beleidsmemo's, het genereren van code en het bouwen van applicaties. Nou, jip, ja, jee.

96
00:15:06.784 --> 00:15:15.464
Uhm, de mogelijke bezwaren zijn eindeloos, zou je kunnen zeggen. In een tijd waarin Sam Altman openlijke steun heeft betuigd aan president Trump.

97
00:15:15.864 --> 00:15:26.084
Zo heeft hij gezegd: Trump zal in veel opzichten ongelooflijk zijn voor het land. Hij steekt het niet echt onder stoelen of banken en blijft benadrukken dat, uh, de Verenigde Staten de AI-race wint van China.

98
00:15:26.124 --> 00:15:34.904
En daar ligt natuurlijk, uh, sinds diepsiek weer extra nadruk op. En ik zag, in deze context zag ik een, nou, toch enigszins verontrustende video.

99
00:15:35.184 --> 00:15:51.824
Uh, een moment uit de persconferentie van Stargate waar Larry Ellison, de baas van Oracle, die dus meedoet aan dat grote investeringsproject voor meer Amerikaanse, uhm, datacentra, investeringen, over de potentie van het gebruik van AI binnen de Amerikaanse overheid.

100
00:15:51.844 --> 00:16:00.204
Luister even mee wat hij daar, te, over te zeggen heeft en bij voorbaat excuses voor de dramatische muziek die eronder zit. [achtergrondmuziek] The police will be on their best behavior

101
00:16:01.124 --> 00:16:12.234
because we reco-, we, we're constantly recording, watching and recording everything that's going on. Citizens will be on their best behavior because we're constantly recording and reporting everything that's going on,

102
00:16:13.244 --> 00:16:20.524
uhm, and it's unin, it's unimpeachable. The, the cars, the cars have camera, you know, cam-cameras on them. All right?

103
00:16:20.644 --> 00:16:26.193
We, we, we have, I think we have a squad car here someplace, uh, but th-those kind of applications using

104
00:16:27.244 --> 00:16:43.824
AI, if we can use AI and we're using AI to monitor the video, and if there's a problem, AI will report the problem and report it to the appropriate author-, uh, person, whether it's the sheriff or the chief, or whom-whomever we need to, uhm, take control of the situation.

105
00:16:43.864 --> 00:16:52.024
We have dro-- you know, same thing with, we have drones. We just, if there's something going on in a shopping cent-- and I'll stop. A drone goes out there, it get there way faster than a police car.

106
00:16:52.964 --> 00:17:01.904
There's no rea-reason for, by the way, high speed chases. You shouldn't have high speed chases between cars. Uh, you just have a drone follow the car. I mean, it's very, very simple.

107
00:17:02.314 --> 00:17:12.004
A ne-new generation, generation of autonomous drones. Dat vind ik heel gezellig klinken. Ja, het is altijd verfrissend als iemand het stille gedeelte hardop zegt. [lacht] Met een dramatisch muziekje eronder. Zeker.

108
00:17:12.184 --> 00:17:22.384
Maar da-, ik heb deze zonder dat muziekje gezien. Uhm. Voegt veel toe. Ja, ik denk als wij, uh, deze toekomst niet willen, uh, dan hebben we daar wat keuzes in te maken. Ja, maar dit is natuurlijk, ja, god.

109
00:17:22.484 --> 00:17:26.094
Kijk, ik koppel deze twee dingen nu aan elkaar, want het heeft in principe niks met elkaar te maken.

110
00:17:26.124 --> 00:17:38.944
Het feit dat, uh, OpenAI een speciale versie voor de Amerikaanse overheid lanceert is ook weer niet helemaal, ja, het is niet raar, uh, maar in deze, uh, tijden van Trump en laten we zeggen de, hoe zouden ze dat bij NRC zeggen?

111
00:17:39.024 --> 00:17:40.824
De rechtsstatelijkheid die onder druk staat.

112
00:17:41.284 --> 00:17:50.964
Uh, en deze, ja, deze alignment met deze, al deze AI-bazen die ook nog eens nu een extra motief hebben gekregen om meer geld te krijgen van de Amerikaanse overheid, namelijk defensie.

113
00:17:51.624 --> 00:17:58.884
En hier gaat het dan nog ook over het servieren van Amerikaanse burgers. Nou, pik dat er lekker bij. Dat is ook nog een, een aardige hap uit het budget.

114
00:17:59.304 --> 00:18:11.224
Uh, er is hier, ja, ik, je hoeft geen, uh, complotgekkie te zijn denk ik, om hier, uh, ja, om te, om, om je te kunnen fantaseren hoe deze technologie misbruikt kan worden.

115
00:18:11.284 --> 00:18:21.404
Ja, en ik denk dat, ik bedoel, we belanden, we zijn al beland en belanden steeds meer in een wereld waar van alles technisch mogelijk is. Ja. En de vraag is: moeten we dat willen? Ja. En ten koste van wat? Ja.

116
00:18:21.464 --> 00:18:31.252
Want ja, een, uh, samenleving zonder enig incident waarin niemand meer iets durft te zeggen. Ik weet niet of dat klopt qua afweging.Nou, doe er mee wat je wil luisteraar.

117
00:18:31.632 --> 00:18:41.352
En dan tenslotte: vorige week was er een, uh, medewerker van OpenAI die wij in deze podcast, uh, aanhaalden omdat hij opzienbaarde door te stellen dat we met AI een god aan het scheppen zijn.

118
00:18:41.392 --> 00:18:50.792
Ik weet niet of je je dit nog kan herinneren, Wytse? Zeker. Uh, een beetje voorspelbaar. Hij was op dat moment al opgestapt, zegt hij nu. Some personal news begon de, begon die tweet. Nou, dan weet je het wel.

119
00:18:51.292 --> 00:18:55.462
Honestly, I'm pretty terrified, schrijft ie, by the pace of AI development these days.

120
00:18:55.492 --> 00:19:04.352
When I think about where I'll raise a future family or how much to save for retirement, I can't help but wonder: will humanity even make it to that point?

121
00:19:04.892 --> 00:19:12.972
In my opinion, the AGI race is a very risky gamble with a huge downside. No lab has a solution to AI alignment today.

122
00:19:13.892 --> 00:19:23.332
The faster we race, the less likely that anyone finds the time, uh, finds one in time, uh, alignment bedoel ik. Today it seems like we're stuck in a really bad equilibrium.

123
00:19:23.992 --> 00:19:34.872
Even if a lab truly wants to develop AGI responsibly, others can still cut corners to catch up. Maybe disastrously, and this pushes us all to speed up.

124
00:19:35.212 --> 00:19:45.952
I hope that labs can be candid about real safety regs needed to stop this. Nou, ik weet niet of je hier nog wat over wil zeggen. Nee. Een soort van de a-, het alarmisme is nu compleet in deze podcast.

125
00:19:46.052 --> 00:19:56.292
Nee, maar ik denk dat wat je ziet is dat best wel veel mensen die, uh, diep betrokken zijn bij het ontwikkelen van deze technologie, een substantieel deel daarvan afstand aan het nemen is van die technologie.

126
00:19:56.652 --> 00:20:02.132
En dat zegt wel iets. Met afstand bedoel ik: ik heb ontslag genomen, ik wil niet meer bij OpenAI werken, want ze hebben geen ethics board. Ja.

127
00:20:02.352 --> 00:20:10.792
Ik ben een beetje geschrokken van wat we zelf in een korte tijd hebben kunnen maken. Ja. En ja, als die dan merken dat mensen hardop gaan zeggen wat ze ermee van plan zijn. Ja.

128
00:20:10.982 --> 00:20:16.432
Hè, bijvoorbeeld, ik maak even die link nu tussen het fragment en wat jij zojuist voorleest. Dan is daar wel stress en ik denk terecht.

129
00:20:16.712 --> 00:20:23.332
Het is ook goed, uh, voor de makers van al deze, van al het speelgoed om, uh, een beetje verantwoordelijkheid te nemen voor je eigen speelgoed, toch? Vind je dat?

130
00:20:23.372 --> 00:20:28.872
Want deze opsomming die ik nu maak heb ik ook een beetje expres zo. Ja, je zit me wel lekker neer te zetten hier [lacht].

131
00:20:28.932 --> 00:20:36.332
Nou ja, en dit geeft jou natuurlijk ook een kans om terug te duwen en te zeggen: doe niet zo alarmistisch. Dat, ik, eerlijk gezegd dacht ik dat gisteren in Jinek ook.

132
00:20:36.352 --> 00:20:46.652
Dan heb je een heel item over, voor mensen die het niet gezien hebben, over, over humanoids. Een item wat wij in deze podcast natuurlijk ook al bespraken. En dan, je kan heel veel kanten op daarmee.

133
00:20:46.712 --> 00:20:51.352
Je kan het heel erg gezellig maken en ik kies er dan toch voor om het ongezellig te maken.

134
00:20:51.572 --> 00:20:57.832
Ja, maar je zei ook heel mooi tegen mij: als ik merk in een groep, als ik in een groep met mensen ben die het niet zo serieus nemen, dan word ik een alarmist. Ja.

135
00:20:57.992 --> 00:21:03.632
En als ik in een groep van alarmisten zit, dan ga ik het, ga ik uitleggen waarom het ook mooi is, toch? Ja. En dat voelde je gisteren daar niet. Nee.

136
00:21:03.672 --> 00:21:09.072
En nu zit je met een mede alarmist, dus dat is toch een beetje ingewikkeld. Ja. Maar ik wo-, ik wil die, ik wil hem wel omdraaien, hoor. Zal ik het eens proberen?

137
00:21:09.532 --> 00:21:17.272
Ja, maar de, deze, hè, wat wij nu gedaan hebben qua nieuws. Zeker. Kijk, uhm, op het moment dat je, uh, pak een drone.

138
00:21:17.452 --> 00:21:25.672
Ja, uh, hier kan je een, uh, granaat onder hangen, maar ook een doosje met een hart erin wat bezorgd moet worden bij een ziekenhuis binnen 10 minuten. Ah, een echt hart. Sorry, ja. Een donorhart.

139
00:21:25.772 --> 00:21:32.172
Ja, ze worden nu een, een, een, nog een, een, nog een, ja, levend is dan misschien het wo-woord, maar, uh, geschikt voor transplantatie zijnd hart.

140
00:21:32.232 --> 00:21:39.092
Wat normaal over de snelweg gereden wordt met 200 kilometer per uur en dat kan nu door de lucht en dat wordt dan gedropt in een speciale bay op een ziekenhuis. Ja.

141
00:21:39.172 --> 00:21:44.932
Volgens mij, uh, uh, zeggen de meeste mensen: wauw, wat een mooie technologie. Uh, laten we die drones inderdaad daarvoor inzetten.

142
00:21:44.992 --> 00:21:55.712
Op het moment dat je een zelfrijdende auto hebt die 1.200 verkeersongelukken per jaar, dodelijke ongelukken voorkomt, en daar zitten ook, uh, uh, v-vrienden, familie en kinderen bij, zegt iedereen: ja, doen, toptechnologie.

143
00:21:55.992 --> 00:22:03.612
Kijk, dus uiteindelijk heb je allemaal, uh, dit is wat dan het dual use probleem heet, hè, dus al die technologie hebben een minimaal een dubbel gebruik, zeg maar. Ja.

144
00:22:03.672 --> 00:22:12.802
Ik kan het voor duizenden dingen gebruiken, maar de dual use is: het is net zo goed een wapen als dat het iets is wat de samenleving een stukje mooier maakt. En me-, als je aan mij vraagt: wat bedoel je met mooier?

145
00:22:12.872 --> 00:22:21.552
Zeg ik altijd: onnodig lijden verminderen. Ga ik nog wel een keer langer over praten wat ik daarmee bedoel, maar dat is voor mij waar veel mensen het wel over eens zijn. Het is niet zo leuk als mensen lijden.

146
00:22:21.792 --> 00:22:31.272
Laten we dat een beetje verminderen met elkaar. Ja. Hè, dus dat mensen niet overlijden door een auto en dat een hart eerder aankomt in een ziekenhuis. Dat is voorkomen van heel veel onnodig lijden.

147
00:22:31.372 --> 00:22:35.512
Uhm, maar je kunt ook heel veel lijden creëren met die precies dezelfde technologieën.

148
00:22:36.012 --> 00:22:46.312
En waar mijn persoonlijke zorg zit, is, uhm, dat als we daar niet met elkaar hardop, uh, voor strijden en keuzes in maken en zeggen: dit willen we wel en dit willen we niet.

149
00:22:46.682 --> 00:22:55.822
Het gaat dan in mijn ogen niet vanzelf goed dat we alleen maar leuke AI-dingen krijgen en dat alle stomme en minder prettige AI-dingen vanzelf niet gebeuren. Nee.

150
00:22:55.872 --> 00:23:02.212
En weet je wat me, wat ik aan jouw voorbeeld ingewikkeld vind? Ik was vorige week bij een lezing van Timothy Snyder.

151
00:23:02.612 --> 00:23:15.871
De, dat is een, uh, uh, onder, een, een professor aan Yale die een boek heeft geschreven over, die is een expert op het gebied van au-authorianism. Hoe zeg je dat in het Nederlands? Wat ben je dan?

152
00:23:15.952 --> 00:23:18.592
Autori-- a-over autoritaire leiders, zou ik zeggen. Mooi.

153
00:23:19.172 --> 00:23:36.172
En hij schrijft heel veel over Rusland, over Poetin, uhm, uh, begaan met wat er in Oekraïne is gebeurd en, en schrijft in zijn meest recente boek ook over de opkomst van social media en technologie en de manier van de nieuwe oligarchen om ons ermee eronder te houden.

154
00:23:36.532 --> 00:23:51.272
Aha. En hij zegt: vrijheid is ook iets, uhm, staat op een bepaalde menent, op een bepaalde manier haaks op efficiëntie. Hij zegt: in veel autoritaire regimes het volk eronder gehouden kan worden is als het volk, uhm,

155
00:23:52.232 --> 00:24:03.692
vo-voorspelbaar, zich voorspelbaar gedraagt. En hij zegt: dat is, dat is jammer, want dat zie je nu ook gebeuren. Mensen gaan allemaal bubbels in, vinden allemaal hetzelfde en ze worden de hoeken ingedreven.

156
00:24:04.052 --> 00:24:08.972
Er is weinig verrassing meer. En dat op een bepaalde manier, uh, kost dat ons vrijheid.

157
00:24:09.672 --> 00:24:24.120
En, uh, werken naar een weg met meer efficiëntie doordat er meer levens gered worden door zelfrijdende auto's of door, zou je zeggen, dat levert dus iets op aanUh tijdswinst en andere vormen van efficiëntie en zelfs het redden van levens.

158
00:24:24.320 --> 00:24:30.320
Oké, maar daar staat dus ook tegenover dat daarmee de wereld voorspelbaarder en, en daarmee minder vrij wordt.

159
00:24:30.620 --> 00:24:41.620
Ja, maar ik zou hem dan iets scherper maken, want het woord efficiëntie, ja, bedoelt hele efficiëntie en innovatie denken uit Silicon Valley is: de hele samenleving is een soort softwaresysteem wat we moeten optimaliseren.

160
00:24:41.720 --> 00:24:52.220
De, de machine kan beter lopen. Dit, dit kunnen wij beter. Ik denk dat daar ook een heel deel, uh, risicovermijding, uh, bij zit, hè. Dus een, uh, risicovermijdende samenleving, een risk averse society.

161
00:24:52.260 --> 00:24:58.780
Daar is ook veel over geschreven. Wij, zeker als Nederlanders, het zal vast een culturele oorsprong hebben, zijn best wel risicovermijdend.

162
00:24:58.820 --> 00:25:07.180
Aan de ene kant zijn ze, zeggen: we zijn stoer, we innoveren en we doen van alles. Maar aan de andere kant vinden we het toch ook wel heel prettig als alles mooi in banen geleid wordt en dingen niet te spannend worden.

163
00:25:07.740 --> 00:25:18.580
En, uh, de vraag is of het zin heeft om een samenleving, uiteindelijk wil je een samenleving beschermen. Die wil je beschermen in de breedste zin van het woord.

164
00:25:18.840 --> 00:25:27.480
Daar heb je allerlei instituten voor en methodieken voor om te zorgen dat dingen, uh, goed lopen, dat een kind veilig naar school kan, dat een ambulance aankomt. Je noemt het maar op.

165
00:25:28.060 --> 00:25:42.300
Allemaal om, uh, daarmee te zeggen dat we al die onnodige, uh, problematiek die we zouden kunnen oplossen door het beter af te vangen in processen, softwaresystemen en, uh, andere technologieën, dat we die, dat we wat we kunnen verbeteren, verbeteren.

166
00:25:42.580 --> 00:25:47.020
Maar op me-, op een gegeven moment is de prijs van die systemen, hè.

167
00:25:47.040 --> 00:25:55.780
En tot antifraudesystemen, even heel concreet: je hebt een antifraudesysteem en dat antifraudesysteem heb je ingesteld dat je zegt: over drie jaar hebben wij 0% fraude. Dat is het doel.

168
00:25:56.440 --> 00:26:13.720
Om die laatste 5% fraude weg te halen, is de prijs van de controle, zeg maar de KYC, know your customer, zoals dat heet in het bankwezen, is gigantisch groot, want je gaat enorme datasets maken, je gaat iedereen controleren en je gaat mogelijk ook mensen in je netje vangen, toeslagenaffaire, die niet in dat netje gevangen hadden moeten worden.

169
00:26:14.160 --> 00:26:22.620
Kijk, ik ben met mijn naïviteit, ik zeg het er maar even bij, van mening dat we nooit zouden moeten praten over 0% van iets, maar over hoeveel kunnen we accepteren.

170
00:26:22.660 --> 00:26:33.700
Zoals creditcardmaatschappijen dat doen, die een x procent fraude accepteren omdat ze zeggen: die laatste procent is het niet waard, want op een gegeven moment hebben we dan allemaal boze klanten en een kapotte reputatie en hebben we niks meer aan dat fraude bestrijden.

171
00:26:33.980 --> 00:26:41.300
Nou, op die, op precies diezelfde manier geloof ik dat wij als samenleving, en dat is een hele moeilijke discussie, die moeten we niet alleen hebben, die moeten we met elkaar hebben.

172
00:26:41.860 --> 00:26:58.720
Wat zijn wij bereid te accepteren aan risico binnen onze samenleving waar we van zeggen: we gaan de technologieknop in de breedste zin van het woord systemen, processen en instituten niet zo ver omhoog draaien, zo hard dat volume aanzetten dat we proberen nul verkeersdoden.

173
00:26:58.760 --> 00:27:09.160
Ik, ik zeg het is even heel cru wat ik nu zeg. We gaan naar nul verkeersdoden, want, en dan zijn, omdat je uiteindelijk, ik sla nu even een stap, paar stappen over, dan krijgt pros-, uh, operatie geslaagd.

174
00:27:09.360 --> 00:27:20.040
Patiënt overleden. Oftewel er is geen enkel risico meer in onze samenleving. Maar die samenleving is er eigenlijk ook niet meer. Dus als jij mij, mij vraagt: moeten we nou die tech wel of niet inzetten?

175
00:27:20.320 --> 00:27:31.140
Moet AI nou doorontwikkeld worden of niet? Niet jouw vraag, maar als zij dat mij vragen, dan zou ik zeggen dat we met elkaar moeten afspreken met welk doel en tot hoever. We worden nu zo vaak beschermd, hè, door gewoon

176
00:27:32.280 --> 00:27:36.620
incompetentie en technische onmogelijkheid om dingen voor elkaar te krijgen.

177
00:27:37.180 --> 00:27:50.620
En nu zitten er straks in Amerika in ieder geval mensen aan de knoppen die de grootste techbedrijven, uh, leiden en ook heel erg bereid zijn om dat in de overheid te verweven. Ja, de, nou ja, goed.

178
00:27:50.660 --> 00:27:55.160
Nee, maar ik bedoel, dat bedoel ik, dat, dat is het laatste wat ik er dan even ze-, over zeg voor deze aflevering.

179
00:27:55.600 --> 00:28:07.180
Als je kijkt naar Das Leben der Anderen, film over, uh, afluistertechnologieën tijdens, afluisterpraktijken tijdens de, uh, nog voor de val van de Muur, Oost- en West-Duitsland. Kijk, dat is niet zo lang geleden.

180
00:28:07.560 --> 00:28:15.260
Als dat regime daar toegang had gehad tot de technologie die we nu al hebben, nog los van wat er ontwikkeld wordt. Ja. Dat is best wel spannend en het is gewoon niet zo lang geleden.

181
00:28:15.620 --> 00:28:23.920
Zijn wij dan nu ineens radicaal psychologisch veranderd allemaal als mens in vijftig jaar of in zeventig jaar? Ik geloof dat gewoon niet. Nee. Nou, heb je nog iets gezelligs te vertellen?

182
00:28:24.220 --> 00:28:40.180
[lacht] Ja, dat, nou, dat, dat ik wel, uh, geloof en dat, dat is ik, ja, dat is, ik ben een discipel van mijn opleiding in Enschede, dat, uh, technologisch determinisme, dus het idee dat alles toch wel gaat gebeuren en dat we daar weinig over te zeggen hebben, dat is gewoon niet waar.

183
00:28:40.760 --> 00:28:45.400
Dat is alleen maar, dat is sowieso waar als je dat gelooft, want dan doe je er gewoon aan mee en dan wordt het waar door wat je gelooft. Ja.

184
00:28:45.560 --> 00:28:56.660
Maar het is gewoon niet waar, omdat we in het verleden nee hebben gezegd tegen dingen. En we kunnen ook dingen terugdraaien. Maar we, we bevinden nu ons wel langzaam, hè, wat dan een iron cage heet, zoek er eens op.

185
00:28:56.680 --> 00:29:04.380
Is veel over geschreven, in een soort stalen kooi die we aan het bouwen zijn voor onszelf. Ja, oké, maar dan moeten wij hier ook niet aan mee gaan doen, aan dat technologisch determinisme.

186
00:29:04.420 --> 00:29:14.580
Betekent dat, is dat een oproep aan jezelf om optimistisch te blijven of om te blijven zoeken waar de gaten zit waarbij je het voor het goede kan inzetten? Mijn optimisme is dat we er vorm aan kunnen geven. Ja.

187
00:29:14.700 --> 00:29:22.620
Uhm, ik denk dat ik nu, en dat klopt misschien niet, mensen uitnodig om urgentie te voelen onder actieve vorm. Dat is stap één.

188
00:29:22.820 --> 00:29:29.030
Ja, maar het moeilijke daarvan is dus wat we dan doen is alarmisme gebruiken om urgentie te creëren. Om positieve dingen te bereiken.

189
00:29:29.060 --> 00:29:34.980
Ja, en ik merk dat dit, dit, dit ding, ik, hij lijkt niet helemaal lekker te werken nog. Nee. Misschien is het niet het juiste.

190
00:29:35.400 --> 00:29:45.400
Alleen dan te zeggen: je moet mensen betrekken bij het, uh, uhm, uh, technologie vormgeven in de breedste zin door ze enthousiast te maken. Ja. Ja, uh, ook misschien.

191
00:29:45.440 --> 00:29:58.880
Ja, en het is ook ergens, denk ik, heel beperkt aan ons om mensen, uhm, uhm, alarmist, zeg maar, om al, al, ik vind het ergens ook een beetje krom dat we alarmistischer over dingen zouden doen.

192
00:29:58.920 --> 00:30:04.320
Ik geloof niet dat echt dat we dat doen, maar alarmistischer zouden doen dan dat we echt denken om mensen wakker te schudden.

193
00:30:04.360 --> 00:30:13.564
Want daarmee sla je ook je geloofwaardigheid, uhm, nou ja, werp je ten grabbelNou ja, er is sowieso veel cynisme rondom het hele alarmisme, dus het werkt gewoon niet zo goed.

194
00:30:14.344 --> 00:30:25.284
Alleen er is ook heel veel cynisme om er wordt, er wordt mij de wereld beloofd en Silicon Valley gaat de hele wereld genezen van alle ailments die er zijn nog. Dus ik denk dat het voor ons nu hardop puzzelen is.

195
00:30:26.684 --> 00:30:36.584
Hoe zorg je ervoor dat mensen gaan geloven dat ze invloed kunnen hebben op hoe technologie zich vormt in, op, bij en met een samenleving?

196
00:30:37.164 --> 00:30:49.464
En hoe zorg je ervoor dat mensen snappen dat je dat vormen al vrij vroeg moet doen? Want achteraf nog iets vormen wat al geïntegreerd is, is wel heel moeilijk gebleken. Ja, nou luisteraar, we doen dit ook voor, voor jou.

197
00:30:49.684 --> 00:30:57.264
Dus als je denkt mag allemaal, jullie missen dit element, het mag wel wat gezelliger, laat het vooral weten. Wie weet hebben we er wat aan.

198
00:30:57.924 --> 00:31:11.724
[muziek] De afgelopen twee jaar heerste er in de technologiesector de overtuiging dat voor de ontwikkeling van AI alleen de allerbeste chips, de grootste datacenters en de meeste en kwalitatieve data en heel veel geld je naar de top zouden brengen.

199
00:31:12.184 --> 00:31:25.004
En daardoor leek het alsof alleen de grootste en rijkste techbedrijven in staat waren om echt te concurreren qua AI-ontwikkeling. Maar toen was daar DeepSeek en dat hadden we op zich al een tijdje in de gaten.

200
00:31:25.104 --> 00:31:32.664
Maar het moment dat het helemaal uit de klauwen liep, was toen DeepSeek opeens de meest gedownloade gratis applicaties in Apples App Store was.

201
00:31:32.804 --> 00:31:40.964
En sinds de lancering van ChatGPT eind 22 is er geen AI-product geweest met zo'n intense wereldwijde reactie.

202
00:31:41.384 --> 00:31:51.404
Beleggers zagen in DeepSeek een soort keerpunt voor de manier waarop we tot nu toe omgaan met AI-investeringspla-plannen van grote technologiebedrijven. De Nasdaq crashte

203
00:31:52.384 --> 00:31:59.764
en, uh, nou ja, uh, ondanks dat dat dinsdag enigszins herstelde, is er wel een soort van vibe shift geweest, zou ik zeggen.

204
00:32:00.344 --> 00:32:13.564
Donald Trump benadrukte dat Amerikaanse bedrijven uiterst gefocust moeten zijn op concurrentie, aangezien de VS nu het risico loopt, uh, de voorsprong op het AI-gebied te verliezen aan rivaal China.

205
00:32:13.684 --> 00:32:19.864
Laten we beginnen, Wytse, met de heftigheid van die reactie. Nog even voordat we het over DeepSeek verder technisch gaan hebben, maar

206
00:32:21.664 --> 00:32:33.764
verbaast je dat dit het, zeg maar, sinds ChatGPT, toen iedereen in rep en roer was, dat dit het ding zou zijn waarop iedereen opnieuw in rep en roer zou, uh, raken? Of begrijp je het wel? Nou, nu begrijp ik het.

207
00:32:34.184 --> 00:32:45.133
Maar toen dit gebeurde en ik vanuit allerlei hoeken in mijn omgeving van mensen die zich niet zo druk maken om AI allemaal appjes kreeg met: jij bent toch met AI bezig? Heb je dit DeepSeek-ding al gelezen?

208
00:32:45.224 --> 00:32:49.464
Wat ik altijd heel lief vind, want het zijn eigenlijk mensen die gewoon zeggen: we willen met jou verbinden.

209
00:32:49.584 --> 00:33:00.164
Uh, dan voel ik, ja, dat is gewoon mijn soort, uh, intuïtie ding dat ik denk: hé, wat is hier ineens aan het gebeuren? Nou, dan ga ik naar NOS helemaal vol met DeepSeek en NU.nl vol met DeepSeek.

210
00:33:00.484 --> 00:33:08.224
En toen dacht ik: hé, dit heeft op een of andere manier is die hele grote ijsberg, hè, onder water waar jij en ik heel de tijd omheen aan het varen zijn met een onderzeeër.

211
00:33:08.564 --> 00:33:18.024
Die prikt blijkbaar nu boven het water uit en mensen zijn er allemaal over aan het praten, hè. Het is zichtbaar geworden in de, voor de meeste mensen. Toen dat gebeurde was ik wel een beetje verbaasd.

212
00:33:18.464 --> 00:33:28.504
Maar nu we, en ik ben niet de enige. Er zijn allemaal ana-analisten geweest die hebben proberen achteraf te begrijpen wat gebeurde hier nou? Want het was een soort perfect storm ook wel van verschillende dingen.

213
00:33:28.604 --> 00:33:34.284
Uh, en dit, dit is mijn lezing tot nu toe die ik bij elkaar heb kunnen rapen. Ten eerste, nee, niet ten eerste.

214
00:33:34.644 --> 00:33:45.744
Een van de dingen die zo is, is dat er een app in de App Store staat die gratis is, die even slim is als o1 van ChatGPT waar jij en ik al aan gewend zijn geraakt.

215
00:33:45.784 --> 00:33:54.704
We hebben afleveringen achter elkaar opgenomen over chain of thought en o1 kan nadenken en controleert zijn eigen huiswerk, maar dat was alleen beschikbaar voor de plusgebruikers.

216
00:33:55.144 --> 00:34:01.104
Dus net als de vorige keer toen we Pokie begonnen, AI-report. Ik moet nog wennen [gelach] aan dat we deze podcast begonnen,

217
00:34:02.124 --> 00:34:13.284
is dat, uh, toen iedereen na onze lezingen en afleveringen zei: ja, ik heb ChatGPT nog gebruikt, het is niks. En dat wij zeiden: ja, je moet wel vier gebruiken, want vier is beter. Nou, dat is nu weer gebeurd met o1.

218
00:34:13.744 --> 00:34:21.284
Wat gebeurt er bij DeepSeek? Die is gratis, het is o1-achtig en nog veel belangrijker: het laat expliciet zien hoe het denkt.

219
00:34:21.644 --> 00:34:31.904
Dus, want ik heb letterlijk mensen in mijn omgeving opgebeld en gezegd: wil je me alsjeblieft uitleggen waarom jij ineens die DeepSeek ex-app zo cool vindt? Want ik ben zo disconnected als supernerd.

220
00:34:32.264 --> 00:34:41.864
Ik snap het gewoon niet. En zij zei: ja, maar hij denkt, hij denkt. En dan moet ik me echt inhouden om niet zo'n snob te zijn die dan zegt van: oh, wist je dat nog niet? Weet je wel. En ik zei: hoe bedoel je, hij denkt?

221
00:34:41.874 --> 00:34:48.344
Nee, ik kan gewoon helemaal meelezen. Ik vind eigenlijk het denken nog leuker dan de antwoorden, hè, dus daar is een soort cultureel fenomeen.

222
00:34:48.404 --> 00:35:01.324
Dus, uh, de gratis beschikbaarheid van expliciet nadenkende chain of thought-modellen voor de gemiddelde, uh, uh, mens. Ja, natuurlijk, voor mensen die niet $20 willen betalen voor een kutapp. Mega revolutie dus.

223
00:35:01.364 --> 00:35:10.024
En dan dat gekoppeld nog aan, hè, het is een Chinees bedrijf. Spannend China, dus dat creëert nog een soort extra boost heb ik het idee, uh, uh, voor mensen.

224
00:35:10.064 --> 00:35:19.244
En dan ook nog de media die erop springt en zegt: dit is gemaakt in een garage voor €30 en een Mars. En, uh, uh, het is veel beter en slimmer. En haha die Amerikanen, dat ga ik wel nuanceren.

225
00:35:19.484 --> 00:35:20.564
Dat is gewoon niet helemaal waar.

226
00:35:20.704 --> 00:35:34.064
Maar het is zo gek, want, zeg maar, het duurde, nou, een paar dagen sowieso, maar eigenlijk in, in de praktijk langer voordat het, wat, wat voor, wat de kern van het verhaal economisch lijkt te zijn, is: het kan heel goedkoop.

227
00:35:34.724 --> 00:35:47.044
Dit is een soort van factor 10 tot 100 goedkoper dan hoe OpenAI dit doet. En daarmee vervalt het hele businessmodel van die grote techbedrijven zoals ze ons dat voorspiegelen. Dus de beurs stort in.

228
00:35:47.384 --> 00:35:54.784
Maar dat feit, ik verwacht van beleggers dat zij erop zitten als het over geld gaat. En hij viel pas bij de app. En het viel pas bij de app.

229
00:35:54.844 --> 00:36:07.124
Dus het is alsof die app en dat mensen daar dan over gaan praten, dan pas het moment is waarop die hele Nasdaq, uh, beleggers wakker, of wakker worden, of in ieder geval gaan reageren erop. Ik vond dat gewoon zo raar.

230
00:36:07.144 --> 00:36:22.440
Maar het is wel zo dat, uhm, het is wel zo, wat, wat zo zou kunnen zijn, is datKijk, ik, ik begreep, het is al een aantal maanden de meme dat de hele techsector omhoog gehouden wordt door Nvidia-stock, hè.

231
00:36:22.480 --> 00:36:28.940
Dus als jij nu een ETF hebt, een verzameling van allemaal techaandelen, dan zit Nvidia daartussen, waardoor jouw heel, hele portfolio stijgt.

232
00:36:29.000 --> 00:36:36.780
Maar eigenlijk wordt het hele schip omhoog getrokken door één superaandeel, hè, en nog een paar van die, maar Nvidia is wel een opvallende. Keer acht in anderhalf jaar of zo. Niet normaal.

233
00:36:37.420 --> 00:36:44.860
Uhm, dat maakt het dus ook een heel erg fragiel aandeel, want er zit zo, dat is zo op, dat is zo'n plofkip inmiddels. Dat kan natuurlijk eigenlijk niet.

234
00:36:44.900 --> 00:36:52.160
[lacht] Er zit heel veel lucht in die kip of heel veel water in dit geval. Sorry, dus het schiet niet op. Dus dat, dat was al een vrij wankel aandeel.

235
00:36:52.240 --> 00:37:03.500
Wat je dan nu ziet, omdat het voor zoveel, uh, beleggers, uh, en daar zijn heel veel particuliere beleggers bij tegenwoordig, uh, heel moeilijk is om echt te begrijpen wat die fundamentele technologie nou is.

236
00:37:03.560 --> 00:37:10.980
En wij zitten hier te, te horten en te stotteren iedere week om het zelf uit te leggen. [lacht] Het is best wel complex met allemaal lagen, een hele spekkoek aan lagen en infrastructuur.

237
00:37:11.540 --> 00:37:25.980
En, uhm, dan blijkt dus dat pas op het moment dat alles samenkomt, hè, het is het typische last mile ding, hè, the last mile was crossed, namelijk: hier heb je een gratis app voor op je iPhone die iedereen kan downloaden in de Apple App Store en Android tegelijk gelanceerd.

238
00:37:26.080 --> 00:37:34.760
En dan valt het kwartje bij iedereen ineens. Wat krijgen we nou? Dit is even goed als ChatGPT, maar dan gratis en leest nog leuker. En dan, dan valt dat kwartje.

239
00:37:34.980 --> 00:37:43.700
Wat gek is, want het R1-model, wat ook nog eens open source is, gaan we straks over praten. Dat hou-- laten we dat nog even erbuiten deze discussie. Er is meer aan de hand.

240
00:37:44.580 --> 00:37:56.340
R1 van DeepSeek is inmiddels, uit mijn hoofd, anderhalve week oud. Niet zo heel lang dat wij hem op Hugging Face konden downloaden. Ja. Ja, uh, en dat hij beschikbaar was in de API van DeepSeek op de website. Ja.

241
00:37:56.660 --> 00:37:59.600
Pas toen de app uitkwam brak, brak de pleuris uit.

242
00:37:59.680 --> 00:38:17.220
Ik zeg het maar even op zijn Rotterdams, uh, maar V3, het model waarop R1 eigenlijk een variant is, is van kerst en daarvan werd toen al gezegd: hé, dit is gewoon GPT-4, getraind voor 25 keer of 25 keer zo snel, 10 keer zo weinig hardware voor gebruikt.

243
00:38:17.280 --> 00:38:25.380
Ja. Oh, en by the way, dit is in China getraind. Die mochten die GPU's niet eens hebben. Ja. Hoe hebben ze-- dit was met kerst, hè? Hoe hebben ze dit nou weer voor elkaar gekregen?

244
00:38:25.800 --> 00:38:34.760
Maar toch moesten er wat extra druppels in die emmer, moesten er wat gewichtjes op dat balansje gezet worden. Maar laten we dan toch omdraaien. Waarom heb jij toen niet aan de bel getrokken als je dit allemaal al wist?

245
00:38:34.940 --> 00:38:46.520
Nou, ik heb het- In deze podcast. Ik wil a-allereerst even mijn excuses aanbieden. [lacht] Luisteraars. Ja, godverdomme. Jammer, hè. Zit we weer met onze ETF's. Ja, jammer. Perp, had je bij kunnen zijn.

246
00:38:46.920 --> 00:38:53.420
Had je, je had, uh, longs moeten zetten. Of hoe heet dat? Nou ja, je shorts moeten zetten. Shorts moeten gaan. Laten we voor, voordat dit BNR wordt.

247
00:38:53.460 --> 00:39:01.560
Ja, maar joh, als ik shorts en longs door elkaar haal, weet je, kan je niet naar mij meer luisteren. Je moet zeker, je moet zeker niet naar mij luisteren als het om investeren gaat. Uhm.

248
00:39:01.600 --> 00:39:11.400
Waarom heb jij het niet gezegd met de kerst, Wytse? Oké, ik, ik ga v-, proberen te analyseren wat hier misgegaan is bij mij. Uhm, ik ga eerst even flexen dat ik DeepSeek natuurlijk al veel langer ken.

249
00:39:11.440 --> 00:39:14.500
Nou ja, dat maakt het probleem alleen maar erger. Ja, [lacht] dus ik had het moeten weten.

250
00:39:14.960 --> 00:39:24.660
Ik, uh, gebruikte DeepSeek soms omdat er een DeepSeek V2 coder was, dus dat is het model voor die V3 waar je mee kon programmeren, die echt cheap was om te gebruiken.

251
00:39:24.900 --> 00:39:27.640
Niet zo goed als wat ik normaal gebruikte, maar wel echt een tiende van de prijs.

252
00:39:27.670 --> 00:39:36.060
Dus ik was toen al, de Nederlander die ik ben, soms aan het switchen naar hun API, want ik denk: ja, hier gaat toch geen persoonlijke informatie in, het is mijn eigen software. Ik vind het allemaal niet zo spannend.

253
00:39:36.400 --> 00:39:50.060
Dus ik kende, met alle respect, DeepSeek als het goedkope alternatieve modelletje op Cloud 3.5 Sonnet. Ja. In de V2-vorm. Toen kwam de V3 uit. Daar stond: ja, dat heeft een g-, beetje GPT-4-achtige kwaliteiten.

254
00:39:50.070 --> 00:39:53.300
Toen dacht ik: ja, dat heeft Llama 3.3 ook van Meta. Mhmm.

255
00:39:53.340 --> 00:40:03.790
En het verschil was toen al, daar had ik beter op moeten letten, ben ik met je eens, dat Zuckerberg met miljarden heeft lopen strooien om Llama 3.3 te maken, om in de buurt te komen van GPT-4.

256
00:40:03.890 --> 00:40:10.620
Toen had er een belletje moeten gaan rinkelen. Ja, en toen kwam met kerst V3 uit van DeepSeek, die dat ook deed, terwijl er een export verbod was op die chips. Ja.

257
00:40:10.680 --> 00:40:17.880
En ze ook in de paper heel trots zeggen: we hebben dit gemaakt met een aardappel. Dat is niet waar. Het is niet waar. Het is, ja, ik moet het toch even zeggen, hè? Het is gewoon niet waar.

258
00:40:17.980 --> 00:40:26.960
Het is gemaakt met een aardappel. Dat is wat ik ga onthouden. [lacht] Ja, een aardappel van Nvidia. Even voor de duidelijkheid. Ja, precies. Niet speciale chips, daarom, nee, gewoon Nvidia-chips.

259
00:40:27.300 --> 00:40:30.640
Alleen de H- Meer grilletjes. Ja, precies. [gelach] Nvidia-grilletjes.

260
00:40:30.680 --> 00:40:40.060
Maar, hè, iedereen kan dan kopen in de hele wereld, behalve in China en nog een aantal plekken, koopt iedereen de H100, hè, dat is die gold bar van $ 20.000 superkaart.

261
00:40:40.100 --> 00:40:49.920
Als je die allemaal op elkaar stapelt kan je als Meta zijnde, als Elon Musk zijnde en noem maar op, daar je modelletjes op trainen. Ja, dat is wat iedereen deed. Dan kon je de H800 kopen.

262
00:40:49.960 --> 00:40:57.380
Dat is een lobotomized, hè, dus een versie van de H100 die ze expres een beetje minder krachtig hebben gemaakt. Wat hebben ze bij DeepSeek gedaan?

263
00:40:57.680 --> 00:41:03.860
Gekeken naar hoe die minder krachtig was en daar via software omheen gewerkt. Dat is, ik bedoel die credit is gewoon credits due.

264
00:41:04.280 --> 00:41:14.340
Dat vindt iedere, iedereen die hier op diep niveau in zit zegt: wauw jongens, even applaus. Knap gedaan. En zijn die Silicon Valley bedrijven die wel toegang hadden tot de beste chips dan gewoon lui geweest?

265
00:41:14.420 --> 00:41:25.580
Is dat hoe ik dit moet interpreteren? Uhm, ik denk dat, ja, het is toch een beetje zo'n, uh, ze zijn niet-- het stond lager op het lijstje als iemand- Om het efficiënt te maken.

266
00:41:25.640 --> 00:41:31.400
Als iemand in zo'n-- kijk, het gaat uiteindelijk, ik kan het wel even uitleggen. Die chips zijn allemaal aan elkaar verbonden via zo'n, zogenaamde interconnect.

267
00:41:31.460 --> 00:41:37.420
Dat houdt, houdt in dat je van heel veel kleine stukjes een hele grote virtuele chip kan maken waarop je kan trainen.

268
00:41:37.910 --> 00:41:43.860
Dat stukje is uitgezet in die H800, zodat je er niet zo makkelijk daar zulke brute modellen op kan trainen.

269
00:41:44.320 --> 00:41:53.370
Kijk, als dan iemand in het team bij Meta had gezegd: hé guys, we hebben een werkende interconnect, maar zal ik toch software gaan schrijven om die interconnect met software na te doen? Ja, ja.

270
00:41:53.400 --> 00:42:02.540
Dan hadden ze gezegd: hoezo dude? We hebben die interconnect. Ja. En dan had die persoon kunnen zeggen: moet je je voorstellen als we die, als we op dat level die kaart kunnen besturen, wat we nog meer allemaal.

271
00:42:02.580 --> 00:42:13.200
Ze zijn eigenlijk met dat DeepSeek-team gaan graven en alle mogelijke optimalisaties, hè. We hebben het wel eens over de demo scene gehad. Hoe draai je een 3D-spel op een Commodore 64 wat eigenlijk niet kan?

272
00:42:13.240 --> 00:42:22.980
Ja, dat hebben ze gedaan. Dit is het. Het is zo'n team. Doom op een tandenborstel. Ja, het is gewoon Doom op een tandenborstel. Maar wel een, ik wil het toch nog even zeggen, een Nvidia-tandenborstel. Ja.

273
00:42:23.020 --> 00:42:28.780
Dus het feit dat het Nvidia-aandeel daalt is niet helemaal logisch als je hem alleen zou bekijken op, uh.

274
00:42:28.920 --> 00:42:37.520
Kijk, als ze nu zouden zeggen: oh trouwens, we hebben ook zelf de Nvidia-chips nagemaakt en ze zijn ook nog 10 keer zo snel. Ja. Dan had ik iets beter begrepen dat Nvidia onder druk staat.

275
00:42:37.580 --> 00:42:47.752
Ja.Maar nu is het eigenlijk- Maar die factor, want er is een beetje discussie over, over de factor, uh, waarmee, waarmee ze daar daadwerkelijk een soort van energiegebruik winst geboekt hebben.

276
00:42:47.792 --> 00:42:55.792
Dat varieert een beetje tussen de tien en honderd keer. Doet er misschien ook niet zo heel veel toe. Het is een flinke slag goedkoper, want tien keer goedkoper is ook al heel relevant.

277
00:42:55.832 --> 00:43:02.672
Dat, er is toch een belang voor die techbedrijven om dat te bereiken. Helemaal omdat ze ook die hele tijd die kleinere modellen aan het maken zijn en daarmee te koop komen.

278
00:43:02.692 --> 00:43:13.992
Zeker, dus in dat- Wat, wat hebben zij dan gemist? Ik begrijp dat gewoon niet. Uhm, het, nou, als ik, als, hoe ik het nu zie, want het zijn ook nog eens heel veel teams naast elkaar die hetzelfde hebben gemist, hè. Ja.

279
00:43:14.032 --> 00:43:24.312
Dus dat is boeiend. Ja, maar daarom. Fascinerend. Ja. Uhm, en waarom heeft bijvoorbeeld Mistral, uh, we hebben, om toch nog even onze Europese trots. Laten we ze even noemen. Ja. Mistral.

280
00:43:24.762 --> 00:43:32.972
[lacht] Waarom is die daar- Zijn we niet vergeten. Ja, die moesten toch ook met heel weinig middelen binnen Europa- Precies. Waarom hebben die dit niet bedacht? Ja, nou ja, dus dat is, uh, uh, goeie vraag. Uhm,

281
00:43:34.092 --> 00:43:43.392
wat, wat nu, uh, gebeurt, het is toch even belangrijk om te zeggen, want dat is, vind ik niet zo goed uitgelicht in de meer populaire media die ik ook meelees.

282
00:43:44.492 --> 00:43:56.672
Je kunt trainen en je kunt inference doen, oftewel het model uitvoeren. Dus je hebt het leerproces en er dan later mee praten. Beide heb je GPU's voor nodig. Beide is Nvidia.

283
00:43:57.132 --> 00:44:01.672
Hè, dus wat er nu ook gebeurt: je bouwt een supergroot datacenter, zo'n, hoe heet het, Stargate, zo hebben ze het genoemd.

284
00:44:01.932 --> 00:44:12.812
Nou, dat zijn, het, uh, in essentie is dat een investering in datacentera, uh, energiecentrales, kabels en chips. Dan ga je een enorm groot model op trainen. Dat model ga je niet meer vrijgeven publiek.

285
00:44:12.852 --> 00:44:17.272
Dat hebben we inmiddels door. Ze houden hem privé en trainen daar kleinere modelletjes mee. Maar soit.

286
00:44:17.572 --> 00:44:24.752
Dan heb je het leerproces gehad en dan zou je kunnen zeggen: nou, bulldozer maar weer weg, hè, of begin het trainen van het volgende model. Nee, wat doen ze?

287
00:44:24.832 --> 00:44:32.752
Zeggen ze: oh, nu het model getraind is, kunnen we een deel van het datacenter bewaren voor trainen en een ander deel gaan we het op uitvoeren. We hebben het niet voor niks gemaakt, hè.

288
00:44:32.792 --> 00:44:43.492
Dus als jij v-vragen stelt aan ChatGPT of aan DeepSeek is er ergens een datacenter met exact dezelfde kaarten die op dat moment jouw vraag gaat beantwoorden. Nou, wat is er nu bij DeepSeek gebeurd?

289
00:44:43.532 --> 00:44:52.872
Het trainen hebben ze gedaan op kaarten die eigenlijk afgeknipt waren en uitgezet waren en minder krachtig. Krieltjes. Ja, het is gelukt op krieltjes van Nvidia. Wauw!

290
00:44:53.512 --> 00:45:02.792
En met, ze hebben niet alleen trucjes in het trainingsproces, maar ook in het inference proces. Dus het uitvoeren van het model doen ze ook nog ongeveer twintig keer goedkoper.

291
00:45:03.432 --> 00:45:07.352
Daar is nu wel de vraag van, en dat is zo interessant aan open source, daar is de brug.

292
00:45:09.412 --> 00:45:25.652
Ik, ik kreeg op een gegeven moment een mail deze week, iemand die zei: wauw, R1 van DeepSeek draait zelfs goed op CPU's, want er is nu de roddel dat ze bij DeepSeek niet eens Nvidia gebruiken om hun model uit te serveren in de app, maar daar gewoon normale processoren voor gebruiken.

293
00:45:26.072 --> 00:45:36.432
En toen ben ik gaan uitzoeken, want ik dacht: dit is gewoon te valideren, want je kunt het model gewoon downloaden. Ja. Hè, dus ik ga in al die community's zoeken. Jongens, wie heeft dit al geïnstalleerd?

294
00:45:36.512 --> 00:45:45.312
Want het is best wel, het hele model is gigantisch groot, hè. Daar moet je echt, uh, serieuze hardware voor hebben. Serieuze hardware als in zeven Mac mini's. Hoe serieus is dat nog? Zesduizend dollar.

295
00:45:45.392 --> 00:45:51.952
Ja, zesduizend dollar, zeven Mac mini's en een MacBook en dan kan je ongeveer zes tokens per seconde krijgen, dus dat kan je thuis gebruiken. Is best wel grappig.

296
00:45:52.352 --> 00:46:01.042
Maar- Goed, jij pakte jouw Intel Celeron processor erbij uit de jaren 90. Ik ga natuurlijk gewoon lezen op, in die community topics, want je hebt mensen die, die, is een uitdaging.

297
00:46:01.052 --> 00:46:12.392
Dat zijn de mensen die geen GPU's willen gebruiken voor AI, uhm, want om welke reden dan ook. Die vinden dat gewoon, die hebben iets heel groots staan van oude klassieke CPU's, bedoeld voor, uh, weerberekeningen, uh.

298
00:46:12.452 --> 00:46:17.852
Maar oké, whatever. Ja, en die hebben dat allemaal staan en die kunnen dit gewoon installeren. Dat doen ze ook en die, die sturen dan gewoon netjes.

299
00:46:17.892 --> 00:46:26.392
Nou jongens, ik heb het op, uh, op mijn supercomputer gezet die ik thuis heb, uh, staan. Uh, twaalf tokens per seconde. Ik denk dan: nou, dat is niet de truc, dit is onzin.

300
00:46:26.432 --> 00:46:38.652
Dit, er is niet, uhm, het is, het is nu niet zo dat dat R1-model vanuit zichzelf extreem veel geoptimaliseerder kan draaien op de bezel, op dezelfde hardware.

301
00:46:38.682 --> 00:46:48.252
Dat is niet wat we nu zien, maar wel een stuk sneller dan de eerdere modellen. Dus wat ik eigenlijk probeer te zeggen is: ik wil een beetje ingaan tegen het volgende.

302
00:46:48.462 --> 00:47:01.632
Het is niet getraind op een aardappel, maar op krieltjes. Is wel een nuance. En het model zelf als je het uitvoert is niet een of ander pixie dust of zo. Een of ander fantastisch bizar model. Nee, het is een open source.

303
00:47:01.672 --> 00:47:10.792
Wauw! MIT license, echt open source dus, niet zoals Meta, model wat je kunt draaien en wat veel sneller draait op bestaande hardware, maar niet extreem veel sneller.

304
00:47:11.152 --> 00:47:19.812
Dit alles bij elkaar heeft ervoor gezorgd dat we nu ineens wereldwijd iets beschikbaar hebben met dezelfde kwaliteit als O1, wat je kan downloaden als een zip-file. Wauw!

305
00:47:20.292 --> 00:47:31.532
Wat je kan draaien op zeven Mac mini's plus een MacBook thuis. Wauw! Wat ervoor zorgt dat de hele, het hele speelveld wereldwijd, zowel geopolitiek als tussen de bedrijven, aan het schuiven is.

306
00:47:31.592 --> 00:47:39.852
Toch even terug naar mijn vraag, want wat is er dan zoveel efficiënter in het uitvoeren van dat model? En waarom hebben die Silicon Valley bedrijven dat dan niet gedaan?

307
00:47:40.932 --> 00:47:54.132
Ja, ik denk dat in, uh, optimaliseren doe je in software vaak pas aan het eind. Ja. En dat, er is nu geen eind, want het is chaos. Ja. Dus, uh, er is gewoon, uh, hardware tegen het probleem aan gegooid. Ja.

308
00:47:54.692 --> 00:48:01.672
En dat is wat nu bewezen wordt. En dat is misschien wel een leuke brug naar wat dan Nvidia's stok, wat ertegenaan gegooid is. Wat dan Nvidia's stok.

309
00:48:01.712 --> 00:48:07.592
Want er zijn heel veel mensen die die aardappelen uit de vuist hebben gehaald. Nou ja, precies. Dus je hebt een, je hebt een stuk software dat ongelooflijk populair is.

310
00:48:07.652 --> 00:48:14.372
Laten we het even bij OpenAI houden voor het gemak van het gesprek. Die hebben een ChatGPT-app die, uh, uh, aan het begin ook constant down ging.

311
00:48:14.432 --> 00:48:23.272
Anthropic gaat nog steeds down iedere paar uur, dus de, de vraag is gigantisch. Dan kan je je softwareontwikkelaars vragen: kunnen jullie alsjeblieft gaan optimaliseren? Dat is wel deels gebeurd.

312
00:48:23.282 --> 00:48:29.592
Ze zijn minimodellen gaan maken en modellen getraind op modellen en al dat soort trucjes om maar te zorgen dat de boel blijft draaien.

313
00:48:30.012 --> 00:48:50.572
Maar een echte optimalisatieronde, o-, diep, een diepe optimalisatie op de hele spekkoek die achter zo'n model zit, is nog niet gedaan, want DeepSeek heeft hem nu gedaan en die vonden daar minimaal zes, zeven dingen- Ja, ja, ja...die ze tegelijk hebben getweakt, die allemaal op elkaar zijn gaan inwerken om tot, en ze zijn, ze moesten welWant anders kon het niet draaien.

314
00:48:50.752 --> 00:49:02.552
Ja. Dus ik denk dat wat jij nu een beetje, uh, naar, naar, naar, naar boven krijgt eigenlijk in ons gesprek is interessant, dat op het moment dat je een team ontwikkelaars enorme barrières geeft in wat ze kunnen.

315
00:49:02.672 --> 00:49:14.182
Hier is je aardappel, zoek het maar uit. Ja. Dat daar dus net als met Twitter, als je weinig woordjes mag gebruiken, enorme creativiteit loskomt. Ja. Dat is gebeurd. Ja, en, en wat zou jij nu zeggen?

316
00:49:14.212 --> 00:49:21.312
Want daar hoor ik d-, ook de hele tijd verschillende dingen over. Wat zou je nu zeggen dat, dat de betekenis voor Nvidia? Want ik begrijp, dat begrijp ik gewoon ook niet.

317
00:49:21.352 --> 00:49:29.892
Je zou zeggen: k-, de vraag naar compute neemt alleen maar toe, dus waarom is dit slecht voor Nvidia? Ja, ik denk dat het op de korte termijn, uh, kortzichtig gedacht.

318
00:49:29.962 --> 00:49:39.182
Met alle respect voor mensen [lacht] die hun Nvidia-aandelen gedropt hebben. Met alle respect voor alle wereldwijde, wereldwijde beleggers. Ja. Maar. Ja, de vraag is hoeveel die plofkip nodig had om te vallen.

319
00:49:39.212 --> 00:49:51.312
Het kan ook een heel, uh, fragiel aandeeltje zijn geweest inmiddels. Uhm, wat er gebeurt is dat er nu heel veel hardware tegen het probleem aangegooid is. Oftewel heel veel Nvidia tegen het probleem aangegooid is.

320
00:49:51.372 --> 00:49:57.632
Oftewel heel veel bestellingen bij Nvidia voor heel veel hardware om de problemen op te lossen in plaats van de software te optimaliseren.

321
00:49:58.072 --> 00:50:02.072
Nu heeft DeepSeek laten zien: er zit nog veel meer onder in de kan dan jullie hebben gedacht.

322
00:50:02.332 --> 00:50:10.932
Je kunt zelfs op H800 hele gave dingen doen, wat ervoor zorgt dat eigenlijk als jij nu een datacenter hebt en je hebt al al die kaarten hangen, dat je- Ja, is die keer 10 gegaan.

323
00:50:11.232 --> 00:50:19.012
Ja, ja, j-, ten eerste als je de optimalisaties van DeepSeek doorvoert, die zijn gewoon openbaar. Die paper staat online, die pdf kan iedereen downloaden. Model ook.

324
00:50:19.592 --> 00:50:27.292
Uh, dan kan je eigenlijk zeggen: zet die orders naar Nvidia maar even stil. We gaan eerst eens even kijken wat we eigenlijk allemaal in huis hebben nu, als we software veranderingen maken.

325
00:50:27.392 --> 00:50:29.412
Die krijgen we gratis vanuit China, uit DeepSeek.

326
00:50:30.132 --> 00:50:45.992
En dus, u-u-je zou kunnen zeggen, en ik weet helemaal niet hoe dit soort supply chains werken, dat degene die de head of operations is van we zijn nu A-AI aan het trainen zegt: hoe jongens, heel even die order voor die 3.000 extra kaarten volgende week, laat maar even, want ik heb er eigenlijk in voor software 3.000 bijgekregen gister [lacht].

327
00:50:46.472 --> 00:50:54.912
Hè, ik hoef even niet meer, ik hoef er geen hardware meer tegenaan te gooien. Het is even tijdelijk een softwareprobleem. Waar jij en ik allebei van denken: wat is dat voor rare onzin?

328
00:50:55.032 --> 00:50:59.612
Nee, je blijft hardware bestellen terwijl je ook je software optimaliseert met je gratis nieuwe dingen.

329
00:50:59.642 --> 00:51:13.672
Maar is het echt zo dat dan nu O1 bij wat van, wat draait in datacentra van, van Microsoft, dat, dat, dat zij opeens het model 10 keer krachtiger kunnen maken? Dat lijkt me ook weer niet zo.

330
00:51:13.752 --> 00:51:23.002
Ja, ik vind die, ik vind die 10 keer vrij radicaal, maar zullen we zeggen twee keer? Kan je twee keer zoveel op de datacenter doen. Is niet normaal. Alsof je gratis, uh, containers vol met Nvidia-kaarten krijgt.

331
00:51:23.012 --> 00:51:32.832
Denk je dat dat is wat echt gebeurd is? Ja. Stiekem. Nee, maar dit bedoel, het is gebeurd als in: ze hebben het over de war room bij Meta nu, hè. Ja. Uhm, ik ga dat- The year war room. Ja. Wauw.

332
00:51:33.192 --> 00:51:42.951
[lacht] Hè, dus oftewel een paniekkamer waarin, uh, mensen moeten gaan puzzelen: wat is er gebeurd? Wat gebeurt er nu? En dat is ook heel logisch. Dat is niet eens speculatie, maar gewoon een superlogisch gevolg.

333
00:51:42.992 --> 00:51:51.432
Bij alle bedrijven die nu AI in tekstvorm en beeldvorm aan het verkopen zijn aan de eindgebruiker en via API's aan hun, uh, B2B-klanten.

334
00:51:51.992 --> 00:52:03.792
Die hebben nu een gratis paper van DeepSeek gehad waarin als zij hun teams even boos maken, ze een O1.1 kunnen maken of een O1 slim, whatever. Hè, dat gaat even kosten, want dat moet, dat is niet morgen klaar.

335
00:52:04.512 --> 00:52:11.752
Waarvan ze weten: het moment dat we die deployen in ons datacenter kunnen we twee keer zoveel gebruikers aan en de antwoorden zijn even goed als de week daarvoor.

336
00:52:12.212 --> 00:52:18.292
Ja, dat, dat is, dat is, daar gaan mensen, daar hebben mensen wel even twee cola lightjes extra voor gedronken ja, vorige week, dat weet ik zeker.

337
00:52:18.312 --> 00:52:22.672
En eigenlijk twee weken geleden al, want het is niet dat ze bij Meta hebben zitten wachten op die app.

338
00:52:23.332 --> 00:52:34.952
Het is eigenlijk heel raar dat dan de reactie is zoals die geweest is, namelijk: oh mijn god, uh, we gaan kapot door China. Dat is, dat klinkt dan zo dom als ik, als, als ik jouw verhaal moet geloven.

339
00:52:35.672 --> 00:52:45.112
Ik denk dat het, wat er gebeurd is, is, uhm, de magie die OpenAI al die tijd in handen bleek te hebben is niet zo magisch. Ja. Dat is een feit.

340
00:52:45.752 --> 00:52:57.392
De open source modellen zijn gelijk aan, net voor en gelijk aan het worden aan de g-, closed source modellen, is ook gebeurd. Hè, er zijn een paar dingen- Publiek beschikbaar is. Uuuhm.

341
00:52:57.452 --> 00:53:03.412
Dat is wat jij ook zegt, dat ze stiekem Anthropic en OpenAI op de achtergrond veel krachtiger modellen hebben draaien.

342
00:53:03.492 --> 00:53:13.292
We gaan er even van uit, en dat is denk ik niet een gekke aanname, dat er bij DeepSeek niet een O, uh, sorry, R3 bestaat intern die eigenlijk R1 getraind heeft voor zover ik weet.

343
00:53:13.832 --> 00:53:22.332
Hè, dus als het goed is heeft Anthropic Opus nog achter de hand en bij, bij OpenAI hebben ze GPT 4,5 of 5 ook nog draaien als een soort supermodel die de rest aan het trainen is.

344
00:53:22.772 --> 00:53:26.472
Dus die mode, om er even terug te komen op dat ding, is niet per se ineens weg.

345
00:53:27.132 --> 00:53:39.752
Maar, ja, ik denk, kijk, ik las ergens wel een mooie analyse van iemand die zei: als OpenAI nu publicly traded was geweest, hè, dus een IPO heeft gedaan en een, uh, uh, op de beurzen, dan had dat aandeel klappen gehad.

346
00:53:40.392 --> 00:53:49.472
Uh, veel grotere klappen nog dan het Nvidia aandeel. Want dat, daar ben ik het wel mee eens. Maar dat, die worden alleen, uh, privé verhandeld, dus dat weten wij. Maar waarom ben je het daar dan mee eens?

347
00:53:50.452 --> 00:54:01.812
Omdat, uh, ja, goed, je weet, uh, als in uit eerdere afleveringen, ik ben niet zo, uh, bullish op OpenAI. Ja. Omdat ik denk dat het op operating system niveau zit.

348
00:54:01.852 --> 00:54:07.892
Dat zelfs, zelfs als Apple nog drie jaar lang door de modder loopt te duwen, dat ze nog steeds een enorme, uh, kans maken. Ja.

349
00:54:07.952 --> 00:54:20.912
Ik denk dat OpenAI's allergrootste vijand op dit moment Google is, a-als ik eerlijk ben, want die is ook aan het uitrollen binnen al hun, uh, uh, operating systemen. Het ging al niet zo goed met OpenAI eigenlijk.

350
00:54:20.972 --> 00:54:30.732
Hè, veel mensen weggegaan. Uh, ze hebben geen eigen operating system. Ze, open source modellen beginnen hun in de nek te hijgen. Er is wel veel aan de hand. Is dit dan ineens het einde van OpenAI?

351
00:54:31.052 --> 00:54:38.812
Nee, want zo, zo zit OpenAI ook in elkaar. Die lanceren dan over 1,5 week O4 ineens, whatever ze gaan doen en dan zitten wij hier allebei weer van: het is allemaal weer gek.

352
00:54:38.832 --> 00:54:45.592
Dus ik, ik wil even alvast de slag om de arm nemen. Wytse kondigt het einde van OpenAI aan. Nee, dat wordt niet de titel van deze aflevering.

353
00:54:46.232 --> 00:54:52.332
Maar, uhm, als ik investeerder zou zijn in OpenAI nu, dan zou ik wel even drie keer a-, in mijn nek krabben.

354
00:54:52.532 --> 00:55:01.820
Wil ik dat nog wel?Want ik, ik denk dat die groei, ik zou niet weten wat maakt hun nu nog zo bijzonder, behalve early mover advantage en brand, die allebei heel veel waard zijn.

355
00:55:01.860 --> 00:55:08.120
Omdat ze dus een model hebben waarvan zij nu de, de, de, de cheatcode hebben gekregen om hem twee keer zo hard te laten gaan.

356
00:55:08.520 --> 00:55:22.519
Ja, nou, de, en de-- kijk, als het, uhm, OpenAI lukt om o3, dus niet o3-mini, hè, want Sam Altman heeft een tweet geplaatst na de lancering van R1 zonder de app. Uh, we gaan o3-mini gratis aanbieden.

357
00:55:22.560 --> 00:55:34.040
Dat was al hun schaakzet van: oeps, we gaan nou ook, we gaan ook maar iets aanbieden wat slimmer lijkt, uh, in zijn denken. Ik denk dat OpenAI er nu voor moet gaan kiezen om o3 in zijn geheel gratis aan te gaan bieden.

358
00:55:34.080 --> 00:55:43.300
Want o3- Gratis? Ja. Voor, ja. Wauw. Ja, ik neem niet genoegen met o3-mini. Nee. Mazzel. En ik ben echt niet de enige. Ja. Uh, daarbij wel nog even een public service announcement voor de luisteraars.

359
00:55:43.590 --> 00:55:53.560
Weet wel, zowel voor OpenAI als voor DeepSeek: als je de apps gebruikt, stuur je alle data de cloud in. Ja, ja, ja, ja. Ja. Draai o1, draai R1 lekker thuis. [lacht] Maar goed.

360
00:55:53.620 --> 00:56:04.140
Nee, ik zeg: ja, ja, ja, maar het voelt even, ja. Ja, oké. Ik, goed punt gemaakt. Public service announcement. Uhm. o3 wordt voor iedereen, dus daar zit je dan met je abonnement van $200 per maand.

361
00:56:04.220 --> 00:56:14.300
Ik denk dat, kijk, OpenAI is een, uh, gesloten, closed AI, uh, uh, bedrijf die geld verdient door het verkopen van tokentjes, oftewel stukjes tekst en plaatjes.

362
00:56:14.880 --> 00:56:27.800
Uhm, Meta, Zuckerberg, uh, die heeft gezegd: ik ben al open source. Die gaat nu ook al deze dingen doorvoeren, waardoor we straks, en met straks bedoel ik binnen drie maanden, krijgen we een Lama M1 of zo.

363
00:56:27.900 --> 00:56:39.060
Hoe heet nu, nu, Lama, er iets met M of een één. Uh, de reasoning Lama gaan we krijgen. Daar zitten alle trucjes in van DeepSeek, plus alle training die in de tussentijd al gedaan is.

364
00:56:39.440 --> 00:56:51.860
Dat is pas een bombshell, [lacht] want dat is iets wat binnen het hele Facebook-ecosysteem uitgerold kan worden. Het Meta-ecosysteem. Voor hoe de kaarten nu geschud worden, reshuffled, heeft OpenAI het zwaar. Ja.

365
00:56:51.920 --> 00:57:05.400
Omdat zij geen public traded company zijn, is Nvidia denk ik een proxystock geworden voor OpenAI en zijn daardoor mensen, omdat ze niet snappen, ik kom ook amper uit mijn woorden, hoe dit spinnenweb aan afhankelijkheden werkt, heeft Nvidia harde klappen gekregen.

366
00:57:05.780 --> 00:57:18.480
Een deel daarvan onterecht. Om het verhaal, uh, een beetje rond te krijgen en meteen te reageren op jouw uitnodiging naar ons als makers om ook- Om het even gezellig te houden. Om het even gezellig te houden. Het feit,

367
00:57:19.480 --> 00:57:30.200
ik raad je aan als je als luisteraar denkt: joh, ik heb dat R1 eigenlijk helemaal niet geprobeerd, waar hebben ze het over? Die interne dialoog die R1 doet is op een bepaalde manier cute.

368
00:57:30.260 --> 00:57:40.340
Ik weet even niet welk ander woord ik hiervoor moet gebruiken, maar ik krijg van veel mensen om me heen die weinig met AI hebben, die zeggen: het is echt aandoenlijk om mee te lezen hoe dat ding struggled over zijn eigen gedachtegang.

369
00:57:40.470 --> 00:57:49.479
Ja. Het, het, het heeft iets menselijks. Jazeker, het raakt, het raakt je op meer niveaus dan alleen maar in je hoofd. Ja, het doet je ook reflecteren op hoe je zelf in elkaar zit. Ja.

370
00:57:49.520 --> 00:58:03.340
Het feit dat dat model, precies datzelfde model als jij kan gebruiken in die DeepSeek-app, te downloaden is en nu thuis te draaien is voor mensen met een grote portemonnee en over twee jaar, drie jaar, misschien vier jaar op een smartphone.

371
00:58:03.480 --> 00:58:16.520
Ja. Dat is een democratisering van synthetisch denken voor de hele wereld. Ik vind dat, uh, als iemand die zich tegelijk zorgen maakt en tegelijk de nerd in mij best, ik, stiekem ook gezagt is.

372
00:58:16.580 --> 00:58:23.200
Ja, maar het is een, het is een, een, uh, een, een soort van level playing field wat ontstaat toch? Ja. Hierdoor. Ja,

373
00:58:24.120 --> 00:58:49.800
en ik denk dat, ik, ik heb nog steeds het misschien ietwat naïeve idee, maar de tijd zal het leren, uh, dat de brede uitrol van deze technologie, dus de democratisering daarvan in de vorm van toegankelijkheid voor iedere wereldburger om zijn eigen synthetische intelligentie in huis, in het dorp, in de stad, uh, waar je worteltjes ook wil maken, uh, gedecentraliseerd neerzetten, dat dat ons de beste kans geeft op een goede toekomst.

374
00:58:49.950 --> 00:58:58.540
Want? Uh, deze technologie in handen van een aantal grote, uh, vaak ook nog commerciële spelers. Alleen maar in handen van commerciële spelers. Alleen, precies.

375
00:58:58.880 --> 00:59:08.920
Het is een samenwerking tussen alle verschillende, uh, partijen en daarin moeten we elkaar allemaal een beetje accountable kunnen houden. En ik hou wel van een, uh, gebalanceerd speelveld. Ja.

376
00:59:08.980 --> 00:59:17.320
Ja, ja, jij ziet echt, uh, jij ziet het feit dat je dit lokaal kan draaien als, uhm, dat, als een soort van tegenkracht tegen cloudsystemen.

377
00:59:18.060 --> 00:59:28.980
Nou ja, ik heb zelf, uuuh, ben ik teleurgesteld dat er niet een Europees initiatief is om ons eigen Europese model te trainen of Mistral zoveel geld te geven dat zij het voor ons maken.

378
00:59:29.040 --> 00:59:39.140
Je kunt toch dat Chinese model gewoon gebruiken? Exact. Ja. Wat hebben we nu gekregen? Een cadeautje uit China, namelijk een open model waar we nog zeven Mistrals mee kunnen bouwen. So let's go!

379
00:59:39.620 --> 00:59:45.520
En wat bedoel je dan, hierop doorbouwen? Dat, dat, want dat was in het begin een beetje, soort van, werd natuurlijk geopolitiek bekeken.

380
00:59:45.549 --> 00:59:53.700
In die context wordt jouw opmerking ook over je, de, de veiligheid van de gegevens die je invoert bij DeepSeek. Uh, daar kun je heel veel vraagtekens bij zetten en dat begrijp ik.

381
00:59:54.400 --> 01:00:16.720
Uhm, maar je, je, je zou natuurlijk kunnen zeggen: dit is dan het, de, het zelfvertrouwen wat, uh, vijandelijke staten zoals Rusland en Iran en nog een aantal andere, die, die zouden door DeepSeek opeens het zelfvertrouwen kunnen krijgen dat ze, ja, ook denken: oh, wij, wij, wij dachten dat we dit niet zouden kunnen, uh, maar wij, ook wij, ook wij kunnen dit soort modellen maken.

382
01:00:17.500 --> 01:00:27.520
Zou Europa datzelfde kunnen hebben? Dit zou een soort van hernieuwing voor ons zelfvertrouwen moeten zijn dat wij door kunnen bouwen op dit. En wij, en wij hoeven niet te bouwen op krieltjes, hè. Nee.

383
01:00:27.560 --> 01:00:37.380
Wij kunnen die kaarten gewoon kopen. Ja. En sterker nog, we hebben die kaarten. We hebben die kaarten. Dus ik denk, ik denk daarin dat, uhm, hè, à la CERN, Large Hadron Collider.

384
01:00:37.660 --> 01:00:45.460
Wij zijn de uitvinders van het internet hier in Europa. Kom op, schouders eronder, pak die modellen en laten we daar mooie Europese versies van maken.

385
01:00:45.920 --> 01:00:56.100
Uh, of hoe je die versies ook wil noemen, zodat we een paar mooie labs hier hebben die, uh, kunnen meten aan DeepSeek. Ik vind het heel knap hoe je dit recht gebreid hebt.

386
01:00:56.180 --> 01:01:07.540
Van, van het duistere begin naar opeens deze nivellerende kracht door een Chinese paper. Ik had het niet van tevoren gedacht als ik een weddenschap had moeten leggen over hoe dit jaar zou gaan aflopen.

387
01:01:07.580 --> 01:01:18.580
En we zijn pas eind januari, dames en heren. Ik kijk geen CI5 meer. Ik lees de krant. Ja. Goed, dit was Poki. De allerlaatste keer. Allerlaatste keer. Uh, volgende week dus AI Report.

388
01:01:18.680 --> 01:01:29.420
We danken Sam Hengeveld voor de edit. Als je een lezing wil over AI van Wietse of van mij, dan kan dat. Daarvoor kun je ons mailen op lezing@poki.show. Vergeet je niet te abonneren op de nieuwsbrief.

389
01:01:29.660 --> 01:01:34.420
Kijk daarvoor op AIReport.email. Tot volgende week. Tot volgende week.

390
01:01:34.480 --> 01:01:50.350
[muziek]