WEBVTT

1
00:00:00.280 --> 00:00:09.180
Welkom bij AI Report, de Nederlandse podcast over kunstmatige intelligentie waar we uitzoeken welke invloed AI heeft op ons werk, ons leven en de samenleving.

2
00:00:10.120 --> 00:00:23.180
We gaan het hebben over het meest controversiële onderwerp denkbaar op het gebied van AI: Artificial General Intelligence, AGI. Een intelligent computersysteem dat alles kan wat een mens kan en misschien wel meer.

3
00:00:23.820 --> 00:00:36.620
Denk aan een machine die niet alleen kan schaken of foto's kan herkennen, zoals we inmiddels wel gewend zijn, maar ook zelfstandig sollicitatiegesprekken kan voeren, romans kan schrijven, wetenschappelijke doorbraken kan forceren en zelfs een heel bedrijf kan runnen.

4
00:00:36.680 --> 00:00:43.140
Allemaal tegelijkertijd en allemaal beter dan dat wij dat kunnen. En met wij bedoel ik dan: wij mensen.

5
00:00:43.200 --> 00:00:54.220
En het land dat als eerste AGI ontwikkelt, verwerft mogelijk een onoverbrugbare voorsprong in economische groei, militaire capaciteit, soevereiniteit.

6
00:00:54.780 --> 00:01:06.160
En in Silicon Valley spreken ze niet langer over of we AGI zullen bereiken, maar wanneer. En steeds vaker hoor je: binnen drie jaar. Het leidt tot grote vragen.

7
00:01:06.740 --> 00:01:19.740
Wat gebeurt er als machines alle taken kunnen uitvoeren waarvoor we nu nog onze hersenen gebruiken? En als intelligentie niet langer uniek menselijk is, wat definieert ons dan nog? Dit is AI Report.

8
00:01:21.700 --> 00:01:39.420
[muziek] Wietse, volgende week ben jij jarig. Ja, absoluut. 13 mei. En om dat te vieren houden wij een webinar voor jou.

9
00:01:40.040 --> 00:01:45.440
[lacht] Hier wordt keihard gewerkt. Hier wordt heel hard gewerkt. Ondanks dat het jouw verjaardag is, gaan we een webinar doen.

10
00:01:45.800 --> 00:01:53.860
Dat is onze maandelijkse kans om met jullie te praten, uh, de luisteraar, en de kans voor de luisteraar om ons vragen te stellen.

11
00:01:54.200 --> 00:02:03.940
Normaal gesproken, ja, Wietse en ik praten wel, maar je kan niet terugpraten en tijdens een webinar geven we jou, luisteraar, de kans om terug te praten, vragen te stellen aan mij of aan Wietse.

12
00:02:04.600 --> 00:02:16.840
Uhm, een uurtje in Zoom-sessies. Dat is elke keer hartstikke gezellig. Zeker. Uh, hoe hoeveel mensen deden de vorige keer mee? 300? Echt fucking veel mensen. Ja, als zou- En die zitten dan, dus i-iedereen doet dan mee.

13
00:02:16.980 --> 00:02:26.180
Meestal ti-tijdens de lunch, dus, uh, ja, sommige mensen het bammetje te eten, is allemaal oké. En dan tijdens, in de chat kun je vragen stellen en kun je op elkaar reageren. Dat gebeurt ook de hele tijd.

14
00:02:26.200 --> 00:02:34.320
Heel gezellig, best wel leuk. Ja, er worden ook vragen beantwoord door- Door de community. Ja, wat doen wij hier eigenlijk? Maar die, uh, je kan ook elkaars vragen upvoten.

15
00:02:34.380 --> 00:02:47.300
Dus de vragen die het meest, uh, geüpvoted worden, die worden beantwoord door ons, want die werken we op volgorde af. Uhm, daar kun je bij zijn als je betaald abonnee bent van onze nieuwsbrief AI Report.email.

16
00:02:47.360 --> 00:02:59.600
Uh, als je dat al bent, dan krijg je in de loop naar het webinar op 13 mei een link in je e-mail. En als je daar bij wil zijn voor het eerst, dan kun je nu abonnee worden via AI Report.email/webinar.

17
00:03:00.320 --> 00:03:12.360
Goed, we gaan naar het nieuws. [muziek] Google heeft een nieuwe versie van Google's Gemini 2,5 Pro uitgebracht en die staat nu op nummer één in allerlei, uh, coding benchmarks.

18
00:03:12.440 --> 00:03:20.620
Dus we hebben een nieuwe koning als het, koning, keizer, admiraal als het gaat over programmeren, Wietse. Was dit schokkend nieuws voor jou? Nee, niet helemaal.

19
00:03:20.660 --> 00:03:30.280
Het is wel zo dat, want Gemini 2.5 was eigenlijk al, want dit is een soort 2.51. Het is, deze verwarring is niet alleen bij jou. Erger en erger. Want dit is dus de IO edition.

20
00:03:30.400 --> 00:03:41.859
Ik zeg hem even helemaal: de IO edition van Google's Gemini 2,5 Pro. Nou Jezus, [Wietse gniffelt] als het nog erger hadden kunnen maken, is dat hierbij gelukt. Ja, dus, hier, hier hangt dan weer zo'n datumlabel aan.

21
00:03:42.340 --> 00:03:52.320
Ik moet wel zeggen bijvoorbeeld GPT-4o heeft tegenwoordig ook van die datumlabels en dan kunnen ze ook een snapshot terugzetten. Ook dit is dus een versie 2.5 met ook nog eens een datumversie. Waarom besluiten ze dat?

22
00:03:52.360 --> 00:04:02.980
Omdat ze dan vinden dat ze niet genoeg hebben, echt een nerd. Ze hebben niet genoeg veranderd, om er, wat hier niet waar is, denk ik. Ik had gewoon gezegd: maak er gewoon 2.6 van of noem het 2.5 coder of whatever.

23
00:04:03.020 --> 00:04:12.590
Ja, ja. Want, uhm. Het is wezenlijk. Het is wezenlijk, uh, niet alleen in de benchmarks, maar ook in het gevoel, in de vibe als je ermee werkt. Want? Nou, uhm,

24
00:04:13.500 --> 00:04:22.820
deze taalmodellen worden nu heel vaak ingezet in tools als Cursor of Windsurf of Lovable. En, uh, die tools, die hebben dan een hele scaffolding eromheen gebouwd.

25
00:04:22.860 --> 00:04:34.840
Oftewel extra prompts, extra trucjes om wat dat taalmodel teruggeeft weer te verwerken in acties binnen zo'n editor. Dus bijvoorbeeld: je zit in Cursor en je zegt: joh, ik wil dat jij een animatie toevoegt.

26
00:04:35.280 --> 00:04:46.480
Dan zegt het taalmodel: is goed, hier heb je de stukjes, je als in Cursor, niet jij, die je moet aanpassen voor de gebruiker, zeg maar. D-dan heb je, is eigenlijk een soort onderonsje tussen het taalmodel en Cursor.

27
00:04:46.840 --> 00:04:56.980
En die onderonsjes, die gaan niet altijd goed, omdat die taalmodellen dan de verkeerde stukjes teruggeven, of dubbele stukjes of hele stukjes missen. En, uh, ja, dat heet dan eigenlijk diff'ing, hè.

28
00:04:57.040 --> 00:05:11.500
Dus wat, je hebt een verandering tussen wat er stond en wat er inmiddels bedacht is. En, uh, die manier van onderling kletsen tussen taalmodel en tools als Cursor is substantieel verbeterd in Gemini 2.5, 2.6, whatever.

29
00:05:12.100 --> 00:05:18.840
Uh, de IO update. De IO, de IO edition. Ja, en hoe, edition, sorry. En hoe merk je dat?

30
00:05:19.320 --> 00:05:28.620
Uhm, het kan zo zijn als jij met Cursor-achtige tools werkt, dat ie vaak even opnieuw begon omdat ie zei: ja, sorry, ik weet wat ik moest doen, maar ik kan hier niks mee. Ik vraag het nog wel een keer.

31
00:05:29.120 --> 00:05:37.140
En dat soort van nog een keer vragen of in cirkeltjes gaan draaien, dat is substantieel verminderd en dat is prettig. Ja. Dus klinkt misschien als iets kleins.

32
00:05:37.160 --> 00:05:51.980
Alleen als jij wel gewoon de hele dag assisted coding doet, dan ben je dit gaan voelen en dan ben je je ook gaan irriteren en dan ben je vaak weer terug gaan switchen naar Claude van Anthropic, die wel heel goed is in dat diff'en en GPT-4.1 die specifiek ontwikkeld is hiervoor.

33
00:05:52.100 --> 00:06:00.900
Oh. En dit is eigenlijk de, om het nog complexer te maken- Is hij specifiek ontwikkeld om samen te werken met van die vibe coding tools? Het is een, hij is een betere coding agent. Mm.

34
00:06:00.980 --> 00:06:04.040
Ja, dus hij is- Breder dan vibe coding, zeg maar, om programmeurs te helpen.

35
00:06:04.200 --> 00:06:20.476
Ja, en ik, dat heeft dan te maken met, en dat is ook het bruggetje straks naar Windsurf, uh, door OpenAI gekocht, datUh, in de statistieken van Anthropic, OpenAI en Google heel duidelijk naar voren komt dat de eerste echte killer app voor taalmodellen is programmeren.

36
00:06:20.776 --> 00:06:28.716
Oké, want ik denk de hele tijd, ik neem de hele tijd aan dat ze dat programmeren beter maken omdat zij daarmee hun eigen taalmodellen beter kunnen maken.

37
00:06:28.776 --> 00:06:35.546
Maar je denkt wel dat ze het maken voor een eindgebruiker die programmeer, programmeur is, dat daarvoor de waarde er is.

38
00:06:35.616 --> 00:06:44.416
Ja, net als dat, kijk, Amazon bijvoorbeeld weet heel goed wat er verkocht wordt op hun platform en als het heel goed verkoopt, nemen ze of dat bedrijf over of ze gaan het product onder Amazon Basics zelf aanbieden.

39
00:06:44.996 --> 00:06:53.836
Deze statistieken zijn er ook bij de grote, uh, taalmodellenmakers. Mhmm. En die zien natuurlijk dat er heel veel geld wordt, uh, uh, uitgegeven aan bijvoorbeeld Cursor. Ja.

40
00:06:54.056 --> 00:07:03.576
Uh, en dat bijvoorbeeld Windsurf enorme bedragen overmaakt naar OpenAI. En dan ga je natuurlijk nadenken: oké, maar wacht even, als dit is- Die zien het in hun API, uh, gebruik. Absoluut.

41
00:07:03.936 --> 00:07:13.376
En, en, en daardoor weten zij van: hé, om die tokens te verkopen, want uit-uiteindelijk zijn het tokenboeren, hè. Ze verkopen gewoon tokens. Ja, uh, kunnen we heel veel verkopen aan programmeurs.

42
00:07:14.416 --> 00:07:27.236
Oké, uh, een stapje verder op het gebied van, uh, uh, ja, een soort van, uh, code die geschreven wordt door AI. Dat is sowieso een hot topic inderdaad door de overname van Windsurf door, door OpenAI.

43
00:07:27.396 --> 00:07:37.036
Misschien een beetje context eerst. Microsoft rapporteert op dit moment dat 20 tot 30% van de code die ze zelf schrijven met AI gegenereerd is. Bij Google rapporteren ze meer dan 30%.

44
00:07:37.056 --> 00:07:46.916
Dat zijn grote bedrijven die aanzienlijke delen van de code die geschreven wordt in die bedrijven, toch een beetje de dingen is wat wij, wat zij doen, uh, geschreven wordt door AI, in dit geval hun eigen modellen.

45
00:07:47.436 --> 00:07:59.596
We kennen van, uhm, uh, Y Combinator, een grote, ja, hoe zeg je dat, investeerder in Amerika, dat heel veel van hun startups, uh, grote delen van hun codebase schrijven met, met AI dus.

46
00:07:59.656 --> 00:08:11.836
En dat zijn cijfers waarbij deze cijfers van Microsoft en Google ook nog eens, uh, verbleken. Er is dus iets aan de hand met betrekking tot het, ja, uh, programmeren door technologiebedrijven met hun eigen AI's.

47
00:08:11.896 --> 00:08:24.576
En dat is nu verder uit de hand gelopen door de overname van Windsurf door OpenAI voor $3 miljard. Wat is Windsurf iets, uh? Eigenlijk is Windsurf een soortgelijke tool aan Cursor. Wat was Cursor ook alweer?

48
00:08:24.856 --> 00:08:32.476
Een, uh, nou, eigenlijk een IDE. Het is een plek waar jij als programmeur thuis bent en jouw code in schrijft. Ja. Zie het als een soort Word voor programmeurs. Ja.

49
00:08:32.576 --> 00:08:35.316
Uh, specifiek toegespitst op, uh, prettig kunnen programmeren.

50
00:08:35.856 --> 00:08:47.896
En, uhm, eigenlijk is op een gegeven moment, uh, Visual Studio Code van Microsoft, een hele populaire open source door Microsoft Editor, geforkt in allerlei variaties, andere smaakjes. Cursor is daar een smaakje van.

51
00:08:47.936 --> 00:08:57.336
Die, die staat op de schouders van Visual Studio Code en, uhm, Windsurf is, uh, ook een smaakje. En eigenlijk, uhm, z-zitten in die tools.

52
00:08:57.996 --> 00:09:08.056
We hebben het, we hebben het eerder wel eens gehad over wrappers, als in het hele idee dat, uhm, de taalmodellen zijn een soort, uh, base technology, hè, een soort halffabrikaat en daarbovenop bouw je dan lagen.

53
00:09:08.096 --> 00:09:11.546
En dat kan je cynisch zien als zeggen: joh, jouw startup is niks meer dan een wrapper.

54
00:09:11.896 --> 00:09:20.646
Maar goed, daar worden aan de andere kant ook, uh, uh, kritieken gemaakt of grappen gemaakt van: ja, was software niet ook altijd al een wrapper voor een Intel processor? Dus doe nou niet zo mal met je wrapper gedoe, hè.

55
00:09:20.756 --> 00:09:23.356
We waren altijd al aan het wrappen. Ja. Nou, uhm,

56
00:09:24.296 --> 00:09:34.296
dan kan het dus zo zijn dat de, uh, ja, wat dan scaffolding heet, hè, dus eigenlijk het werk, een duurder woord voor wrapper, wat je om een taalmodel heen doet, dat dat substantieel is.

57
00:09:34.356 --> 00:09:45.996
Want Windsurf leunt uiteindelijk zeer zwaar op hele sterke taalmodellen. Maar het is leuk als jij een gebruiker in een soort DOS terminal gooit, wat ChatGPT op dit moment gewoon nog is.

58
00:09:46.076 --> 00:09:57.146
We zitten weer in een terminal, uhm, zou je ook een gebruiker- Je bedoelt te zeggen: we zi-, we zijn in het tijdperk waarin, uh, iOS apps op je iPhone er allemaal prachtig uit zijn, uitzien en heel gebruiksvriendelijk gemaakt zijn.

59
00:09:57.156 --> 00:10:07.916
En opeens zitten we met z'n allen massaal weer te kijken naar een knipperende cursor op een wit of zwart scherm. Absoluut. En, j-j-je zegt: dat is tijdelijk. Ja, en dus daar komen die, die lagen overheen.

60
00:10:07.976 --> 00:10:15.896
Waaronder die programmeertools waar je dus, ja, een, een iets meer ge-gespecialiseerde interface krijgt om je eigen apps te maken.

61
00:10:16.096 --> 00:10:26.635
Ja, want je wil een voorbeeld van die app en je wil dat er, uh, bestanden bewerkt moeten worden, dat dat ook kan en dat het hele, de, dat de hele codebase lokaal gescand kan worden, dat er precies op tijd stukjes ingeladen kunnen worden.

62
00:10:26.676 --> 00:10:37.176
Dus, je, zie het als een soort helper- Ja. Om die modellen heen. Ja. Dat, hè, dus dat klinkt- En blijkbaar ook wel, uh, significant, want dat ze 3 miljard betalen voor die tool. Ja.

63
00:10:37.236 --> 00:10:45.556
Jeetjemina, het is, zeg maar, het is, uh, j-jij zegt: het is een wrapper, uh, en dat ben je tegelijkertijd aan het upscalen naar: dat is wel wezenlijk.

64
00:10:46.016 --> 00:10:54.396
Maar wat, wat doet zo'n, wat doet zo'n Windsurf nog meer dan een andere interface aanbieden of een taalmodel? Ja, er zit, uh, het is eigenlijk een bag of tricks, zeg maar.

65
00:10:54.416 --> 00:11:00.455
Dus er zit allerlei kleine helper tooltjes in eigenlijk. Multi wrappers, whatever we dit noemen.

66
00:11:00.836 --> 00:11:18.776
Een heel gala aan trucjes en uitvindinkjes, hè, van, uh, want op een gegeven moment worden daar natuurlijk ook innovaties gedaan van: hoe, hoe zorg je nou dat het programmeren samen met, want dat doen we pas heel, uh, recent, samen met een taalmodel, uh, prettig wordt en stabieler wordt en, uh, minder buggy wordt, et cetera.

67
00:11:19.116 --> 00:11:20.556
Daar hebben zij wat innovaties in gedaan.

68
00:11:20.716 --> 00:11:30.916
Ik moet zeggen dat ik door de, door het bedrag en het feit dat OpenAI ze over heeft genomen, want dit, dit draait, dit, dit rollertje draaide al een, of waaide al een tijdje rond. Ja. Ik dacht: het zal wel.

69
00:11:31.016 --> 00:11:38.426
Nu het dan daadwerkelijk gebeurd is, ga ik dus denken: ben ik, is het nou zo'n on-- enorme bubbel of snap ik het niet? Nou, het zit ergens in het midden. Dat het zo'n hoog bedrag is, bedoel je? Ja.

70
00:11:38.436 --> 00:11:50.196
Voor, voor wat het waard is qua technisch vernuft. Ja, en dat, dat, uh, OpenAI, uh, bij monde van Sam Altman heeft gezegd: wij vinden het helemaal niet erg om een halffabrikaat te zijn.

71
00:11:50.236 --> 00:11:54.786
Wij vinden het heel prettig dat er allemaal bedrijven worden gebouwd op onze base models. Mhmm.

72
00:11:55.076 --> 00:12:06.096
Wij zijn niet een product company als in: we hopen dat er een betere deep research gebouwd wordt die dan OpenAI gebruikt en dat iedereen daarheen migreert. Mhmm. Wij, wij hoeven niet al die tooltjes te maken.

73
00:12:06.196 --> 00:12:12.976
En wat doen ze? Kopen ze Windsurf. De enige manier hoe dat voor mij uit te leggen is, is dat- Strategisch. Nou, als, als Sam Al-- precies.

74
00:12:13.016 --> 00:12:19.912
Als Sam Altman zegt: ikIk zou het liefst hebben dat er een explosie is aan software die gebruik maakt van de OpenAI base tools.

75
00:12:20.272 --> 00:12:27.392
Dan is het natuurlijk heel goed, verstandig om een stuk software aan te bieden waar je software mee kan maken, namelijk Windsurf.

76
00:12:27.472 --> 00:12:38.922
Dus dan creëer je eigenlijk, ik ga even snel, maar je creëert als het ware de betere infrastructuur voor jouw third party developers in de hoop dat ze dat dan ook allemaal op jouw grondlaag gaan doen.

77
00:12:38.992 --> 00:12:47.972
Ik snap dat niet, want het is toch niet omdat, omdat Windsurf nu van OpenAI is, dat er meer op OpenAI infrastructuur gemaakt gaat worden? Dat is toch, het is een, een, het is een programmeerapp.

78
00:12:48.012 --> 00:12:51.272
Je kan ermee programmeren. Het feit dat het bestaat is toch genoeg? Wat, hoe?

79
00:12:51.372 --> 00:13:01.682
Stel nou dat, nou stel dat, dit, nu gaan we richting, uh, uh, grote speculatie natuurlijk, maar stel dat zij het aanpakken, want OpenAI is tot nu toe best stiekem een goede product company, als in, ze weten het best wel, uh.

80
00:13:01.952 --> 00:13:09.561
Ze maken mooie appjes. Ja, het is best wel gelikt allemaal en het landt goed, vaak bij eind, eindgebruikers en dat is moeilijk. Zie die hype rondom die plaatjesgenerator.

81
00:13:09.592 --> 00:13:18.112
Dat bestond al, al tijden bij andere bedrijven, maar het, het komt pas echt aan bij de meeste mensen als OpenAI in hun uitvoering dat op de wereld zet.

82
00:13:18.571 --> 00:13:29.462
Ja, dezelfde, dus stel er komt een, uh, uh, Windsurf wordt hernoemd naar OpenAI Coder of zo. OpenAI Playground, noem het, geef het een toffe brand of Surf, whatever. Een iPad-app waarop kinderen apps kunnen maken.

83
00:13:29.492 --> 00:13:31.912
En die apps draaien allemaal op OpenAI. Ja.

84
00:13:31.952 --> 00:13:40.552
En ik bedoel, bij die, met die laatste heb je toch het antwoord, dat jij, de apps die gemaakt worden in die tool zijn apps die ook nog eens gebruik maken van OpenAI infrastructuur. Ja.

85
00:13:40.882 --> 00:13:51.292
Hè, dus, en dan heb ik het dus niet over de simpele apps waarin een, uh, getalletje wordt weggeschreven in een database. Ja. Maar waar ook weer, om even helemaal meta te gaan, AI-apps zijn. Ja.

86
00:13:51.332 --> 00:14:02.972
Hè, dus als mensen low coding, vibe coding appjes gaan maken, dat ook weer AI-appjes zijn. En die tool kiest dan standaard voor de meest bruut goed geïntegreerde OpenAI-onderlaag.

87
00:14:03.492 --> 00:14:14.612
Dan zou OpenAI op die manier mee kunnen, uh, uh, varen en een soort push kunnen geven van: wij zijn helemaal niet per se bezig om de hele dag bestaande programmeurs te overtuigen van onze tooling. Nee.

88
00:14:14.652 --> 00:14:21.842
Dit is helemaal niet voor jullie. Nee. Dit is namelijk voor al die mensen die nu in Cursor zitten, die daar een soort half in paniek rond aan het klikken zijn, want het is helemaal niet gebouwd voor hun.

89
00:14:21.842 --> 00:14:30.572
Fucking ingewikkelde app. Ja, en ik denk, dit sluit mooi aan op de eerdere gesprekken die wij hebben gehad. Dat ik live in de podcast me besefte dat ik gewoon een snob ben.

90
00:14:31.012 --> 00:14:46.432
Een, een developersnob die eigenlijk niet beseft dat die Cursor tool, en dat snapten ze bij Cursor destijds ook niet en bij Windsurf ook niet, maar bij Lovable al beter, want die website is veel meer ingericht voor, je hoeft alleen maar een taal, kan je, spreek je Engels, dan kan jij programmeren, zeg maar, kan je software maken eigenlijk.

91
00:14:47.032 --> 00:15:00.312
Uhm, dat ik me voor kan stellen dat die, dat OpenAI meer in een Lovable richting gaat, waarin het voor hun heel prettig is dat die appjes die daar allemaal uitkomen ook nog eens gebruik maken van de onderliggende OpenAI-laag.

92
00:15:00.392 --> 00:15:12.972
En ik denk dat het op zich ook prima intern wel te berekenen is dat als zij zeggen, en nu, nu, dit, dit, dit verzin ik ter plekke, maar: 20% van de tokens die wij verkopen zijn voor programmeren.

93
00:15:13.772 --> 00:15:20.832
Misschien moeten we zelf zo'n tool maken waar we het goed in integreren. Dan kunnen we daar weer- Extra geld verdienen. Ja, ja, ja, ja, ja. Gewoon weer een extra abonnement.

94
00:15:21.012 --> 00:15:30.232
Ja, dus ik denk, als er intern een memootje rondging: zullen we een van die code editors kopen? Dat je best wel een lijstje met voordelen had kunnen verzinnen. Oké, prima.

95
00:15:30.512 --> 00:15:38.572
Dan is er nog een, ten slotte een aankondiging van Mistral geweest. Ze introduceren Medium3, een model dat niet alleen 90% van, ik neem nog even het persbericht.

96
00:15:38.592 --> 00:15:43.712
Een model dat niet alleen 90% van de prestaties van, uh, Claude Sonnet 3.7 evenaart.

97
00:15:43.732 --> 00:15:59.852
En dat is een, nou ja, toch ook wel een model wat veel gebruikt wordt om te programmeren, maar wel duur is, maar ook Meta's recente Llama 4 Maverick overtreft op de populaire benchmark met een prijskaartje, en dat is dan de relevante, het relevante punt, van € 0,40 per miljoen input tokens.

98
00:15:59.892 --> 00:16:10.472
Dat is blijkbaar goedkoop, Wytse. Ik ken de prijslijst op dit moment niet uit mijn hoofd moet ik je eerlijk zeggen, maar dat is blijkbaar goedkoop. Uh, heb, heeft, heeft dit iets met je gedaan? Het nieuws van Mistral?

99
00:16:10.632 --> 00:16:19.372
Is het 'm? Ja. Ja, wel? Sterker nog, ik heb het, het draaiboek ingefietst. Want, uh, kijk. Dan ga ik toch even rechtop zitten. Ik denk, ik doe altijd Mistral omdat het moet, denk ik altijd.

100
00:16:19.412 --> 00:16:26.992
Nee, want wij zeggen altijd Claude, want dat zeiden wij vroeger, om dat, dan, dan dachten we dat het Fransen waren, maar dat zijn gewoon Amerikanen. Dat zijn Amerikanen. Dit zijn Fransen. Ja, ja.

101
00:16:27.092 --> 00:16:36.672
Dus als DeepSeek nieuws is, dan is dit in ieder geval een klein beetje nieuws. Ja, geopolitiek is het boeiend. Ja, want er is nu een model dat, nou, ik zou dan gelijkstellen aan GPT-4o.

102
00:16:37.032 --> 00:16:46.462
Dat Claude, heb ik ook, ik heb de benchmarks gezien. Ik vind het al prima dat we nu een in Europa ontwikkeld model hebben, beschikbaar op Europese servers dat gelijkstaat aan 4o.

103
00:16:46.512 --> 00:16:56.032
Oké, ja, als je het zo zegt begrijp ik het. En is het dan even duur? Zelfs nog iets goedkoper. Goedkoper. Ja. Ja. Dus dat is, het scheelt allemaal niet zo heel veel, want ik, wij, wij zijn geen tokenboeren.

104
00:16:56.062 --> 00:17:03.672
Maar ik, ik denk uiteindelijk dat, uhm, ik heb tot nu toe vaak, als, ik word wel eens om advies gevraagd. Iemand zegt: ik wil het in Europa draaien.

105
00:17:03.712 --> 00:17:11.052
Zeg ik: nou ja, je kunt OpenAI-modellen draaien in Europa en ook Anthropic-modellen, maar, uh, dat zijn wel Amerikaanse modellen bij Amerikaanse bedrijven.

106
00:17:11.112 --> 00:17:19.532
Als jij het echt gaaf vindt om een in Europa ontwikkeld model te draaien bij een Europees bedrijf, dan moet je naar Mistral. Alleen dat, dat. Le Chat. Maar daar was niet zoveel in verhouding met wat we nu.

107
00:17:19.572 --> 00:17:25.412
Dat was echt heel slecht. En 4o is natuurlijk wat mensen gewoon, dat is wat een groot, grote meerderheid van de mensen gewend is.

108
00:17:25.452 --> 00:17:30.012
Als het gaat om ChatGPT hebben ze niet door dat ze stiekem met 4o aan het praten zijn, maar dat is natuurlijk wat de meeste mensen gebruiken.

109
00:17:30.052 --> 00:17:41.772
Dus dan eigenlijk is er nu geen reden meer voor die mensen die 90% van hun, of 100% van hun gebruik met GPT-4o doen, om niet Le Chat te gebruiken. Nou, ik had dus een paar berichtjes gestuurd gisteren.

110
00:17:41.812 --> 00:17:49.272
Naar Le Chat [beide lachen] of wat? Absoluut. Ja. Nee, naar mensen. Oké, anderen. Naar levende mensen. Want ik zei van: joh.

111
00:17:49.632 --> 00:17:58.012
Die hebben dan gevraagd, net, die zijn, die zeggen dan: Wytse, zijn jaloers, uh, net als dat jij bent op Alexander dat hij een personal coach heeft gebouwd of daar lekker mee kletst.

112
00:17:58.512 --> 00:18:11.132
Uh, ja, want jij durft dat en ik durf dat dan niet zo goed en ik ga dat iets meer durven bij, uh, Mistral. Iets, ietsje meer, zeg ik dan. Dus die vrienden heb ik geappt van: joh, uhm. Er is goed nieuws. Ja, we. Le Chat.

113
00:18:11.192 --> 00:18:18.232
Ja, als jij [beide lachen]. Dat is goed, hè? Wij gaan het gewoon promoten, man. Dit is toch helemaal goed? Ik ben ook bereid een T-shirt te dragen van Le Chat.

114
00:18:18.452 --> 00:18:28.692
Dat heeft toch, dat heeft geopolitiek, heeft dat, voelt dat allemaal heel erg goed. Onderaan de website van, uh, uh, Mistral [lacht] zit een, uh, heel klein bewegend 8-bit katje nu en ik vind het helemaal cute.

115
00:18:28.732 --> 00:18:35.874
Ze hebben een nieuwe front page. Geef ze weer even een kans. Dat is gewoon mijn verhaal. Mijn verhaal eigenlijk. Ja.Nee. Die Fransen hebben gewoon iets gaafs gemaakt.

116
00:18:35.894 --> 00:18:46.564
Voelt een beetje alsof, zoals, wat kun je ook alweer gebruiken als je geen Word of Google Docs wil gebruiken, maar dat open source ding? OpenOffice. Als je OpenOffice wil gebruiken of een van die andere. LibreOffice.

117
00:18:46.664 --> 00:18:53.904
LibreOffice. Je hebt allemaal, je hebt, hoe heet dat andere ding? Want iedereen had het op zijn server. Nou, doet er verder niet toe. Nu is het wel zo. Dan moet ik even. Een beetje dat.

118
00:18:54.064 --> 00:19:04.324
Ja, maar vooralsnog zijn de weights, oftewel het feit dat het open is, dan nog niet gereleased. Dat is een beetje nieuw, want we zijn Mistral gewend als ook nog een lab die het meteen op GitHub uitgooit.

119
00:19:05.764 --> 00:19:13.504
Gaat nog komen, mogelijk, vraagteken. Maar goed, in ieder geval, er staat wel een linkje bij met: wil je dit on-premise draaien, oftewel je hebt je eigen hardware, stuur ons even een mail.

120
00:19:13.574 --> 00:19:23.884
Dus als jij als bedrijf of organisatie luistert en je wil eigenlijk altijd al GPT-4.0 op eigen infra draaien, dan kan jij nu gewoon mailen met die jongens van Mistral. Best wel vet. Hoe bedoel je gewoon mailen?

121
00:19:23.904 --> 00:19:33.144
Dan kan je het krijgen. Nou, niet zomaar in een zipje, maar dan zijn er afspraken te maken. Ja, precies, voor enterprise. Krijgen is het verkeerde woord. Ja. Nee, maar ik snap het. Je kan het kopen als groot bedrijf. Ja.

122
00:19:33.204 --> 00:19:42.664
Oké. Vorige week was het nieuws dat ChatGPT was veranderd in een slijmjurk sinds een, sinds een update. Daar heb jij het met Milou over gehad en die update is teruggetrokken door OpenAI.

123
00:19:43.344 --> 00:19:55.684
En dat confronteert ons natuurlijk wel weer met, ja, onze manier van omgaan met chatbots. Wij als mensen tegenover de robots. En het zet ons weer aan het denken over concepten als betrouwbaarheid en weerbaarheid.

124
00:19:56.124 --> 00:20:05.544
En in de nieuwsbrief van deze week, AIReport.email, dat is onze nieuwsbrief, delen we negen principes waarmee je jezelf kan wapenen tegen valse of misleidende informatie van taalmodellen.

125
00:20:05.554 --> 00:20:16.184
Het zijn dus negen manieren die je zelf in de praktijk kan brengen om ervoor te zorgen dat de informatie die je uit AI-modellen krijgt betrouwbaar zijn. Als je die tips wil lezen, dan ga je naar AIReport.email.

126
00:20:16.444 --> 00:20:24.724
Straks gaan we het hebben over AGI, maar eerst zijn hier Marjan en Lucas van Dept. Die delen iedere week inspirerende cases uit de praktijk voor het inzetten van AI op het werk.

127
00:20:24.764 --> 00:20:34.704
En deze week vertellen zij hoe AI hen helpt bij het samenwerken met nieuwe klanten. [muziek] Hoi, ik ben Marjan van marketing- en techbureau Dept.

128
00:20:35.204 --> 00:20:41.784
Elke week bespreek ik met mijn collega Lucas hoe wij merken helpen in de wondere wereld van AI. Deze week: AI-onboarding.

129
00:20:42.244 --> 00:20:51.524
Want wij als bureau hebben natuurlijk regelmatig te maken met dat we mensen moeten onboarden voor nieuwe projecten. En ook aan marketingkant heb ik daar vrij veel mee te maken. Lucas, hoe kan AI hierbij helpen?

130
00:20:52.104 --> 00:21:01.284
Ja, inderdaad, we komen dat agency natuurlijk geregeld tegen als we worden geonboard op nieuwe klanten en projecten. En voor developers hebben we nu een programma ontwikkeld die ze helpt om die onboarding te doen.

131
00:21:01.364 --> 00:21:09.544
Dit doen we door verschillende documentatie up te loaden. Denk bijvoorbeeld aan documentatie vanuit Confluence of een stuk codebase of andere documenten die belangrijk zijn.

132
00:21:10.044 --> 00:21:17.604
En op basis van de rol die iemand gaat spelen op een project, dus het is een ander soort vorm om het heel simpel te houden voor een frontendder of een backendder, wordt er een programma gegenereerd.

133
00:21:17.624 --> 00:21:28.084
Die kan bestaan uit podcasts die je bijpraten over de achtergrond en waar ze staan, tot code deep dives om je vertrouwd te maken met de code. Kleine oefeningetjes zijn daar af en toe ook onderdeel van.

134
00:21:28.574 --> 00:21:40.764
En op die manier kan een developer heel erg, veel meer zelf aan de slag om vertrouwd te worden met het project en met de klant, voordat die weer heel veel tijd vragen van werknemers van die klant zelf. Ja, oké.

135
00:21:41.384 --> 00:21:47.484
En waarom is dit dan belangrijk? Nou, we weten gewoon dat onboardings heel veel tijd kosten, zowel van onze mensen als van onze klanten.

136
00:21:47.504 --> 00:21:52.884
En ik denk dat ook iedereen, het ook bekend is, want jij hebt het al aangehaald met die marketingkant, ook aan je eigen werknemers.

137
00:21:52.924 --> 00:22:00.964
Een nieuwe werknemer kost gewoon heel veel tijd om in te werken en we weten ook dat daardoor de kwaliteit heel vaak heel wisselend is. Want je hebt niet altijd de tijd en aandacht misschien die nodig is.

138
00:22:01.404 --> 00:22:12.244
Nou, door deze AI in te zetten heb je gewoon een heel goed vast programma waar je kan werken en kun je de momenten eromheen gebruiken om echt vragen te beantwoorden en verder de diepte in te gaan. Ja, nou duidelijk.

139
00:22:12.644 --> 00:22:20.844
Niet afwachten, maar doen dus. Want wie vandaag begint, loopt straks voorop. Wil je meer weten? Ga dan naar Deptagency.com/aireport. Tot volgende week!

140
00:22:28.104 --> 00:22:42.624
[muziek] Het is de zomer van 1956 als computerwetenschapper John McCarthy een bescheiden onderzoeksvoorstel schrijft dat de wereld zou veranderen.

141
00:22:44.404 --> 00:22:55.904
Wij stellen voor, schrijft hij, om een studie uit te voeren over het idee dat elk aspect van leren of andere kenmerken van intelligentie in principe zo beschreven kan worden dat een machine het kan simuleren.

142
00:22:58.204 --> 00:23:08.144
En met die woorden werd de Dartmouth-conferentie aangekondigd. Een bijeenkomst die het startschot gaf voor kunstmatige intelligentie als echt onderzoeksveld.

143
00:23:09.204 --> 00:23:24.304
McCarthy en zijn collega's, pioniers als Claude Shannon, en ja, wietje Claude van Anthropic is naar hem vernoemd, Marvin Minsky en nog anderen, dachten, een beetje optimistisch misschien, dat een groep van 10 wetenschappers in één zomer een heel eind zou kunnen komen.

144
00:23:25.064 --> 00:23:30.244
Dat ze significante vooruitgang zouden kunnen boeken in het creëren van machines die konden denken.

145
00:23:31.984 --> 00:23:39.604
Ze hadden geen idee dat hun, tja, je zou het kunnen zeggen, hun zomerprojectje zou uitgroeien tot een zoektocht van meer dan zeven decennia.

146
00:23:41.404 --> 00:23:54.304
En vandaag, na talloze AI-winters waar de ontwikkelingssnelheid tot stilstand kwam en lentes waar er opeens weer doorbraken waren, staan we mogelijk op het punt om de droom van deze pioniers te realiseren.

147
00:23:55.844 --> 00:24:07.304
Want wat begon als simpele schaakprogramma's, heeft zich ontwikkeld tot neurale netwerken die miljarden parameters bevatten en taken uitvoeren die ooit exclusief tot het menselijk domein beschouwd werden.

148
00:24:07.704 --> 00:24:18.264
En raken we in steeds grotere staat van verwarring over ons zelfbeeld als unieke wezens. We zijn gewend om aan de top of the food chain te staan, maar voor hoe lang nog?

149
00:24:19.064 --> 00:24:33.024
Zoals Silicon Valley-nerds zeggen: I'm feeling the AGI. Er is veel discussie over die term AGI, Artificial General Intelligence.

150
00:24:33.704 --> 00:24:46.888
Bijvoorbeeld wat het precies betekent.Maar dat gezegd hebbende, de drempel naar een systeem dat elke intellectuele taak die de mens kan, dus kan begrijpen, kan uitvoeren, lijkt met elke doorbraak op dit moment dichterbij.

151
00:24:47.728 --> 00:25:01.028
Op dit moment zitten in de laboratoria van Google, OpenAI, Anthropic en anderen, en hebben we dan alleen nog maar over Amerika, teams van de knapste koppen ter wereld te werken aan wat zij zien, en daar zijn ze allemaal heel open over, als het ultieme doel

152
00:25:02.088 --> 00:25:14.848
AGI. Of zoals Sam Altman, de baas van OpenAI, het noemt: de meest krachtige technologie die de mensheid ooit heeft uitgevonden.

153
00:25:17.248 --> 00:25:31.228
[muziek] En hier wordt het onzeker, fascinerend en verontrustend. Onder AI-experts is er geen consensus over hoe snel we AGI zullen bereiken. Sommigen zeggen tien jaar, anderen vijftig.

154
00:25:32.048 --> 00:25:44.768
Maar steeds vaker hoor je de bazen van Amerikaanse AI-labs praten over vijf jaar, drie jaar, twee jaar. En er is nog minder consensus over wat er gebeurt als we het bereiken.

155
00:25:45.848 --> 00:25:57.287
Voor sommigen is AGI de oplossing voor onze grootste problemen: klimaatverandering, ziektes, armoede. En voor anderen is het een existentiële bedreiging.

156
00:25:57.368 --> 00:26:02.408
Een technologie die fundamenteel onveilig zou kunnen zijn voor de mensheid als geheel.

157
00:26:03.948 --> 00:26:13.348
Vroeger was dit materiaal voor obscure sciencefictionboeken, maar de discussie heeft de bestuurskamers van de machtigste bedrijven ter wereld en alle grote overheden bereikt.

158
00:26:14.688 --> 00:26:27.128
Binnenskamers en buitenskamers wenken en waarschuwen de bazen van AI-bedrijven: AGI komt eraan. Wat betekent het voor ons mens-zijn als intelligentie niet langer uniek menselijk is?

159
00:26:27.768 --> 00:26:33.908
Wat gebeurt er met ons werk, onze wetenschap en onze kunst als machines niet alleen kunnen assisteren, maar kunnen vervangen?

160
00:26:34.468 --> 00:26:45.628
En wat als deze systemen zo krachtig worden dat ze zichzelf kunnen verbeteren en daarmee een spiraal van steeds toenemende intelligentie in gang zetten? Dit zijn geen vragen voor de verre toekomst.

161
00:26:45.658 --> 00:26:56.668
Het zijn vragen voor nu. Dit is het verhaal over de grootste intelligentiesprong sinds het prille begin van de mensheid op deze planeet. De I in AI.

162
00:27:10.128 --> 00:27:21.948
Oké, tering, het is weer een, uh, dramatisch theatraal gebeuren geworden, maar [zucht] ik vind het ook wel het waard eerlijk gezegd, want het is een groot thema en het brengt mij in grote verwarring.

163
00:27:22.048 --> 00:27:25.508
Zo'n grote verwarring dat ik het liefst het onderwerp vermijd de hele tijd. Mhm.

164
00:27:25.868 --> 00:27:35.387
Want dit is nu, we zijn in deze podcast gewend om iedere keer thema's aan te snijden die gaan over werkgelegenheid of die gaan over, weet ik veel, een chatbot als, uh, als psycholoog.

165
00:27:36.708 --> 00:27:49.548
Maar dit is een soort van outlier en ook een, ja, een enge outlier. Ik, het is een controversieel onderwerp. Ik ben bang dat we belachelijk gemaakt gaan worden, uh, maar ik neem dit dus bloedserieus.

166
00:27:49.988 --> 00:28:00.388
En misschien tijdens deze aflevering moeten we stil gaan staan bij wat het is, wat de impact natuurlijk voor ons allemaal is en wat we de komende jaren hier, uh, kunnen verwachten.

167
00:28:00.448 --> 00:28:12.288
Ik ben benieuwd naar het kijkje in jouw glazen bol, Wytse. Maar laten we beginnen bij het begin. Ik denk dat de meeste mensen namelijk niet heel veel over dit onderwerp hebben gelezen, uh, uh, of zelfs hebben nagedacht.

168
00:28:13.128 --> 00:28:25.628
Je hoort er vaag wat over, over zou AI gevaarlijk kunnen zijn, maar vaak blijft het dan bij die, nou, toch een beetje abstracte constatering die mensen niet echt bijzonder serieus nemen. Het gaat allemaal over AGI.

169
00:28:26.828 --> 00:28:35.728
Laten we beginnen bij wat dat is [gniffelt]. Ja. En dan denken ze een simpele vraag, maar dat is eigenlijk geen simpele vraag. Het is misschien goed om alvast te zeggen: het is niet artificial human intelligence.

170
00:28:35.768 --> 00:28:42.348
Dat zit, het woord human zit ook niet in AI en zit zeker niet in AGI. Dat zeg jij niet, maar dat wordt vaak een beetje verward.

171
00:28:42.408 --> 00:28:54.388
Want artificial general intelligence, oftewel kunstmatige intelligentie die toepasbaar is in de breedste zin van het woord, is een concurrent en potentiële vervanger van wat mensen doen.

172
00:28:54.848 --> 00:28:57.948
Maar dat hoeft niet per se mensachtige te zijn.

173
00:28:58.348 --> 00:29:09.308
Dus de lat ligt voor sommige mensen best hoog in hun fantasie van: oh, dat zal dan wel een soort Westworld-achtige humanoïde met vel zijn of zo, of iets dat een mens kan vervangen in mens-zijn.

174
00:29:09.348 --> 00:29:19.028
Maar we hebben het over wat een mens kan vervangen in intelligent zijn. Dus ik wil alleen maar, misschien is het al een beetje te snel meteen, maar- Jij denkt, jij denkt dat sommige mensen denken aan robots?

175
00:29:19.728 --> 00:29:29.328
Uh, onder andere, maar ook aan, uhm, iets wat de kwaliteiten van een mens heeft. En daarmee bedoel ik alles wat wij doen. Want we zijn meer dan enkel intelligent. Ja.

176
00:29:29.348 --> 00:29:39.148
Dat er meteen een ziel aan toegekend wordt bijvoorbeeld. Ja, ja. En dat soort zaken. En dat is misschien, want jij zei net heel mooi: gaan we belachelijk gemaakt worden? Nou ja, dat is dan maar zo. Mhm. Ik snap je angst.

177
00:29:39.708 --> 00:29:51.688
Uhm, ik ga nu al een beetje indekken dat dat misschien wat minder wordt. De claim van, ik bedoel AGI is een vrij, uh, recent concept en er is discussie over wat het betekent.

178
00:29:51.708 --> 00:29:54.128
Dat gaan wij proberen uit te pakken nu vandaag. Mhm.

179
00:29:54.508 --> 00:30:06.028
Maar je, uh, het idee dat je een intelligentie hebt die niet een specifieke intelligentie is, dus die heel goed is in navigeren bijvoorbeeld, maar niet goed is in muziek maken.

180
00:30:06.178 --> 00:30:12.668
Hè, want je, het is een AI-model voor music of een AI-model voor driving. Dat is een expert model als het ware. Mhm.

181
00:30:12.748 --> 00:30:30.328
Wij hebben het hier over general intelligence, oftewel een model, want dat zal dan nog een model heten denk ik straks, de GPT-7, whatever, dat eigenlijk in staat is om het breinwerk te doen, het kenniswerk te doen wat een mens doet in de meest brede zin van het woord.

182
00:30:30.508 --> 00:30:31.848
Zo general als je maar kan.

183
00:30:32.588 --> 00:30:58.208
En dat betekent dus niet dat je, dat er iemand binnen hoeft te komen lopen die jij als mens herkent, of dat het systemen hoeven zijn die zich, uh, als mens identificeren of zo, maar het zijn systemen die prima een baan over kunnen nemen, een vriend voor jou kunnen zijn als je ze dat toelaat en een rol kunnen gaan spelen binnen onze samenleving zoals wij dat nu voor mensen hebben, uh, gedefinieerd.

184
00:30:58.248 --> 00:31:11.544
Oké, dus je bent aan, je bent gedeeltelijk aan het definiëren door te verklaren wat het niet is. Ja. Wat, wat is het allemaal niet?Ehm, het heeft niet per se een lichaam, uhm, het hoeft ook, uh, niet biologisch te zijn.

185
00:31:12.124 --> 00:31:25.004
Uhm, het kan, uhm, in essentie op een manier werken die anders is dan hoe wij denken bijvoorbeeld. Het hoeft niet, uh, hetzelfde te zijn als hoe wij als mens onszelf kennen.

186
00:31:25.384 --> 00:31:34.544
Het kan ook tot conclusies komen die intelligent zijn op een manier dat wij niet tot conclusies komen. Het kan die conclusies communiceren op een manier dat wij dat niet zouden doen. Mhm.

187
00:31:34.564 --> 00:31:44.264
Dus het menselijke is op een bepaalde manier een beperking, dat menselijk denken. Het, het kan juist denken op manieren die wij niet gewend zijn, anders zijn dan hoe mensen denken.

188
00:31:44.304 --> 00:31:52.604
Ja, ook, ik denk ook in snelheid bijvoorbeeld. Dat is iets wat we nu al merken natuurlijk, hè, dat er een bepaalde snelheidslimiet lijkt te zitten op ons brein.

189
00:31:52.644 --> 00:32:01.264
Voor de meeste van ons in ieder geval, waardoor we podcasts niet op keer tien kunnen luisteren. Ik kan dat niet en ik denk de meeste luisteraars niet, maar dat kunnen deze intelligenties wel. Ja.

190
00:32:01.304 --> 00:32:03.664
Ik noem maar even een heel praktisch voorbeeld.

191
00:32:03.704 --> 00:32:23.044
En ik denk dus dat we te maken hebben met een alternatieve intelligentie en die ook nog eens zo breed inzetbaar is dat die veel van de taken en uiteindelijk volledige banen, uh, ik, ik heb het even over taken en banen meteen omdat ik me voor kan stellen dat, uhm, de angst in AGI, uh, ook zit op: wat gaan wij nog doen dan, uh, straks?

192
00:32:23.304 --> 00:32:34.084
Ja, maar goed, dat gaat verder dan alleen maar taken en banen. Het is de hele menselijke ervaring. Nou, dat is de vraag. Oké. Denk ik, omdat, uhm, de, daarom zat ik net al een beetje op kennis werken.

193
00:32:34.364 --> 00:32:44.964
Kijk, ik ben persoonlijk al onder de indruk van een AGI da-, die op welke manier dan ook, met welke trucjes dan ook en welke bluf dan ook, uh, 100% van het kenniswerk vervangt. Kenniswerk.

194
00:32:45.064 --> 00:32:54.844
Ja, omdat ik, uhm, we met elkaar wel behoefte hebben aan het fysieke. We zijn hele fysieke wezens die ook al heel lang in de, in, vooral in het fysieke geleefd hebben.

195
00:32:54.964 --> 00:33:07.104
Al die letters en papier en schermen kwamen pas vrij recent in de menselijke geschiedenis. Mhm. Hè, dus we zitten, we zitten best wel op het lichaam als mens en, uhm, dat is voor AGI allemaal nog niet nodig.

196
00:33:07.664 --> 00:33:19.784
Ik zou toch scherper willen maken: wat is de definitie van AGI in jouw, uh, in- Ja, dat is dan wel die van mij inderdaad. Er zijn verschillende definities. Ik vind die van, uhm, drop-in kenniswerker wel de beste.

197
00:33:19.824 --> 00:33:34.804
Oftewel iemand die het werk kan doen, als jij twee weken lang vanuit thuis kan werken als luisteraar zonder dat jouw baas of collega's daar heel veel last van hebben, dan ben jij iemand die, uh, A-AGI als een potentiële, uh, vervanger moet zien.

198
00:33:35.104 --> 00:33:41.704
Uh, daar kan jij vervangen worden door, door een AGI voor wat ik een AGI vind. Ja, maar je had net ook over het voorbeeld van muziek maken. Ja.

199
00:33:42.644 --> 00:33:49.544
Kijk, da-dat is natuurlijk de meeste muziek die wij luisteren, dat ligt er een beetje aan- Is ook iemands baan, bedoel je? Ja, en dat is ook iets wat op afstand naar je toe komt.

200
00:33:49.584 --> 00:33:56.964
Ik zat even te denken: er zullen vast mensen zijn die zeggen: ik luister muziek het liefst live. Uh, dat respecteer ik, maar ik denk dat veel van ons, uh, Spotify gebruiken.

201
00:33:57.064 --> 00:34:05.964
Uh, maakt niet uit hoe duur ze worden, maar we bra- gebruiken nog steeds Spotify en daarin komt die muziek naar ons toe op afstand. Dus dat is een soort remote musician, om het maar even zo te zeggen. Ja.

202
00:34:06.384 --> 00:34:12.404
Dus ik denk voor de mensen die creatief- Maar dan is kenniswerk wel een heel beperkte term. Het gaat over- Ja, informatiewerk misschien dan?

203
00:34:12.444 --> 00:34:18.904
Of, ja, dat voe-- mensen voelen misschien niet dat muziek informatie is, maar iets wat overdraagbaar is op afstand zonder dat jij daarbij hoeft te zijn. Mhm.

204
00:34:19.244 --> 00:34:27.934
Ja, ik zit wel, ik zit heel erg, ik ben wel, dat is misschien goed om te weten, als iemand mij om definities vraagt, ga ik altijd heel erg naar: wat doet het? Wat is de impact ervan? Ja.

205
00:34:27.944 --> 00:34:43.044
En dat is ook maar een manier om naar definities te kijken, omdat ik persoonlijk heel erg geïnteresseerd ben in: ik kan nu met jou, en dat vind jij denk ik ook minder interessant, uren praten over een soort conceptuele dimensie van AGI, maar voor mij persoonlijk is, uhm, waarom moeten we AGI serieus nemen?

206
00:34:43.444 --> 00:34:46.124
En, uh, waarom is deze aflevering zo belangrijk?

207
00:34:46.504 --> 00:34:56.044
Omdat ik denk dat als de AGI die ik voor ogen zie, hè, die, die ons, iedereen die iets op afstand doet wat door een draadje kan of door een briefje kan of een mailtje kan of een mp3'tje kan. Ja, precies.

208
00:34:56.084 --> 00:35:04.844
Als dat jouw eindproduct is, zeg maar, uhm, ja, dan hebben we best wel een, uh, een serieuze vloedgolf aan, uh, uh, iets nieuws in ons werk. Een effect, ja. Ja, ja.

209
00:35:04.904 --> 00:35:12.344
Ik, ik lees het vaak samengevat worden als high level machine intelligence. Vind je dat een, uh, werkt dat als functionele definitie voor je?

210
00:35:12.764 --> 00:35:19.224
Nou, wat er vaak, dat woord high level wordt vaak toegevoegd omdat je een soort metacognitie wil, hè. Dus agent- Wat betekent dat? Nou, agents bijvoorbeeld.

211
00:35:19.564 --> 00:35:29.944
Kijk, nu als jij praat met GP-GPT-4, 4O, hè, wat de meeste mensen gewend zijn, dan ben je in gesprek. Dat is iets wat op jou reageert. Je kunt een timertje zetten, maar ach, dat is allemaal nog een beetje trucage.

212
00:35:30.504 --> 00:35:39.004
Uh, wanneer het interessant wo-wordt, is als die jou bijvoorbeeld aanspreekt drie uur later en zegt: ik heb nog heel even zitten nadenken, hè, waar wij het nou net met elkaar over hadden.

213
00:35:39.344 --> 00:35:49.984
Dan is er dus metacognitie, oftewel een soort extra denkertje die, nou ja, daar kunnen we ook bij onszelf een beetje over nadenken. Jij bent niet alleen maar je gedachtegang, maar ook wat die gedachtegang meemaakt.

214
00:35:50.404 --> 00:35:55.864
En een soort van, het kan soms best druk zijn in je hoofd. Ligt een beetje aan hoe je in elkaar zit. Ja, en die dingen gaan ook mengen en daardoor krijg je ideeën.

215
00:35:56.144 --> 00:36:07.204
Ja, en ik denk dat in, in dat opzicht een, uh, een AI die een soort, ja, synthetisch zelfbeeld heeft of een ik ontwikkelt als die, misschien is die ik erin geprogrammeerd. Dat maakt op zich ook niet zoveel uit, denk ik.

216
00:36:07.344 --> 00:36:11.984
Plus het element tijd. Ja, en dan, dan is het eigenlijk iets wat droomt bijvoorbeeld. Ja.

217
00:36:12.024 --> 00:36:21.364
En zegt, en jou 's ochtends een berichtje stuurt en zegt: sorry dat ik je stoor, maar ik heb nog eens nagedacht over ons gesprek en ik heb er ook nog eens over gedroomd. En wie, ik, hoe bedoel je ik? Dromen, wanneer dan?

218
00:36:21.724 --> 00:36:31.104
En dan moet er dus iets ontstaan zijn buiten een normaal gesprek wat gaat op actie-reactie. En dan moet er iets van een cognitie plaatsvinden buiten dat chat, chatwindow, zeg maar.

219
00:36:31.144 --> 00:36:40.444
Om het even zo concreet te proberen maken. Wat is dan het verschil met huidige AI-systemen? Je zei net al: nu hebben we systemen die gespecialiseerd zijn in specifieke dingen.

220
00:36:40.504 --> 00:36:52.454
Dus je hebt een, een ding wat bijvoorbeeld, uh, navigeert. Ja, en ik bedoel Suno of, uh- Muziek maakt. Ja, is wa-, Suno is wat anders dan, uh, uh, Stable Diffusion of wat anders dan SORA.

221
00:36:52.484 --> 00:37:04.604
Waarmee je, waarmee je plaatjes kan maken. Ja, en SORA voor video. Juist. Dat zijn nu nog- Hele losse, ja, hoe moet je dat noemen? Entiteiten, eens concepten. Ja, ja, ja, een soort, uh- Het deelt geen basis.

222
00:37:04.864 --> 00:37:14.844
Breinorganen. Het deelt langzaam een basis, maar nu nog niet. Het deelt een fundamentele uitvinding, maar het is niet hetzelfde model. Nee, precies. En dit, dit is ook- Het zijn fysiek andere files op een server.

223
00:37:14.964 --> 00:37:24.519
Absoluut.Ja, Sora is een ander bestandje dan, uh, dan, uh, uh, Stable Diffusion. En dat, als ik jou goed begrijp, is het, eh, is het AGI-moment het moment dat dat samenkomt.

224
00:37:24.720 --> 00:37:33.140
Nou, dat is nog maar de vraag, want dit is al, je, je snijdt meteen het, uh, het juiste aan. Er is, uhm, het is maar net wie het vraagt.

225
00:37:33.740 --> 00:37:40.340
Kijk, als jij het, uhm, [schraapt keel] de mensen achter de ARC Challenge, uh, vraagt, de ARC AGI Challenge. Dat is een benchmark.

226
00:37:40.400 --> 00:37:48.660
Een, een test waarop meerdere modellen tegen elkaar afgewogen kunnen worden op een aantal voorbepaalde parameters zodat je een wedstrijdje kan organiseren.

227
00:37:48.900 --> 00:37:58.300
Een visueel wedstrijdje ook, hè, dus er wordt ook gekeken naar dingen. Het is niet alleen maar tekst en daarin wordt een soort IQ-test gedaan waardoor dan zou moeten blijken dat er AGI, sprake is van AGI.

228
00:37:58.360 --> 00:38:09.680
Nou, AGI ARC One, de, uh, er is inmiddels een twee, dus nu heet die eerste ARC One. ARC One is verslagen. Daar hebben wij nog een podcast over opgenomen dat jij mij vroeg: Wytse, nu is er toch gewoon AGI dan?

229
00:38:09.780 --> 00:38:15.840
Hè, een beetje natuurlijk expres dat jij die vraag stelt, maar prima. Eenvoudige schoenenlapper, Wytse. [lacht] Dank je wel namens de luisteraar.

230
00:38:16.240 --> 00:38:26.720
En die, uh, ARC twee is nu uit en daar scoort het, scoort o3 super, super high, scoort daar 3,5% op, terwijl daar mensen gewoon 90% op pakken. Dus blijkbaar is het daar gelukt.

231
00:38:26.900 --> 00:38:41.740
Die onderzoekers, want daar wilde ik naartoe, die onderzoekers die die test hebben gemaakt, die zullen inderdaad tegen jou zeggen: ja, het zal een ensemble moeten zijn, een band van al die verschillende kwaliteiten, al die verschillende soorten modellen die op hun manier met elkaar moeten gaan samenwerken.

232
00:38:41.780 --> 00:38:45.380
Daar moet een soort lijm tussen of zo, of een cognitie overheen of zo.

233
00:38:45.420 --> 00:38:54.440
Daar moet, daar moet nog best wel wat gebeuren, hoor jongens, voordat wij van een taalmodelletje of een omnimodelletje gaan komen naar, uh, iets wat zich kan meten aan de mens.

234
00:38:54.540 --> 00:39:05.360
Ja, want er wordt maar 3% gescoord door een heel goed model versus wat de mens met gemak 90% haalt. Ja, ik bedoel, uh, point taken toch? Ik bedoel best wel goed, goed argument. Ik voel een maar aankomen.

235
00:39:05.460 --> 00:39:13.700
Nou, de maar is dat, dat ze dat bij ARC één ook zeiden en dat zij zeiden: de taalmo-- het taalmodellen paradigma of eigenlijk het transformer paradigma.

236
00:39:13.760 --> 00:39:22.800
Dus dat je het volgende stukje van iets gokt op basis van statistiek. Want dat is wat die modellen doen, hè. Je gokt het volgende stukje woord of het volgende stukje geluid of het volgende stukje video.

237
00:39:23.240 --> 00:39:34.820
Dat gokje of de beweging gok je allemaal bij elkaar. Dat paradigma is inderdaad heel gaaf. We hebben een uitvinding gedaan. Het is een soort lente in de AI-wereld. Om even op jouw metafoor te gaan van de winter en lente.

238
00:39:35.780 --> 00:39:47.409
Maar dit is niet genoeg. We hebben nog een aantal fundamentele, hoor dat woord, fundamentele uitvindingen nodig. Misschien wel zo groot als transformers, als die voorspelmodellen om tot AGI te komen.

239
00:39:47.440 --> 00:39:55.240
En we gaan het jullie laten zien, want we hebben een test gemaakt die gaat laten zien dat dit niet genoeg is. Mhmm. Dus dit zijn een beetje, dus je, wat we nu uittekenen zijn de sceptici.

240
00:39:55.960 --> 00:40:04.360
Dat zijn, en sceptici, voor de duidelijkheid in dit verhaal, zijn mensen die zeggen: nog 20 jaar. [lacht] Precies, dan ben je sceptisch. Ja, inmiddels wel. Dat is echt zo. Ja, ik zat een onderzoek te lezen.

241
00:40:04.370 --> 00:40:08.560
Er is een enquête gedaan in 2023 onder AI-onderzoekers, 2.700 in totaal.

242
00:40:09.160 --> 00:40:21.820
En daar zegt slechts, zeg je dan terecht tussen haakjes, 50% kans op, dus die definitie die ik eerder aanhaalde, high level machine intelligence, 50% kans, uhm,

243
00:40:22.740 --> 00:40:40.260
rond 2047 en 10% kans in 2027 en 10% kans op nooit of pas na 2011, sorry, 2116 voor volledige automatisering van alle beroepen. Zo moet ik dit lezen.

244
00:40:40.300 --> 00:40:45.780
Dit is een gemiddelde van die groep. Ja, het is een beetje gebaseerd natuurlijk op wisdom of the crowds, hè.

245
00:40:45.800 --> 00:40:52.400
Als jij een hele groep vraagt hoeveel, uh, het is het erwten er in een potje zitten, dan, uh, kunnen wij dat met elkaar raden uit een soort gemiddelde. Dat weten we. Dat is best wel gaaf.

246
00:40:53.000 --> 00:41:04.960
Uh, dus dit soort tests worden vaak gedaan dat je het heel veel experts vraagt. Ja, dus die, die, die grootste enquête geeft 50% kans op AGI rond '47.

247
00:41:05.140 --> 00:41:14.700
Ja, daar hoor je dus wel all human labor in, hè, hoorde ik jou even zeggen. Ja, dat is het idee. Volledige automatisering van alle beroepen. En dat is dus iets breder dan mijn definitie waar ik hem op kenniswerk zet. Ja.

248
00:41:14.720 --> 00:41:17.000
Ik probeer een beetje die robots uit de discussie te houden.

249
00:41:17.060 --> 00:41:26.280
Niet omdat ik ze niet interessant vind, maar ik merk dat, dat in, ik praat hier wel eens met mensen over, dat die humanoid en die robot en zo dat, dat zorgt voor een beetje verwarring, uh, in die discussie.

250
00:41:26.340 --> 00:41:35.800
Terwijl ik denk: het is significant als al het kenniswerk en- Nee, sure. Ik vind het, ik vind dit eerlijk gezegd al schokkerend, shockerend, zonder het te hebben over de- Oh ja.

251
00:41:35.840 --> 00:41:49.460
De '47 is, nou ja, dat is dichtbij, maar dat is alsnog, ja, uh, dat duurt nog even. Uhm, en de g-, de g-, het gekke aan dit soort enquêtes is dus dat het ieder jaar verschuift.

252
00:41:49.540 --> 00:41:56.560
Dus die AI-onderzoekers die denken dan ook niet- Niet verder weg, hè? Wat zeg je? Schuif niet naar de toekomst. Nee, dat is het ding.

253
00:41:56.600 --> 00:42:12.040
Dus het was, uh, in één enquêtejaar was het, uh, was de sprong al van 2060 naar 2047, ging die, uh, de, de, de, dus, uh, de 50% kans. Uh, dus die, die verschoof al op dat jaartal.

254
00:42:12.300 --> 00:42:23.840
Uhm, dat betekent dat er dus, nou ja, dat deze mensen denken dat die datum naar voren geschoven wordt, ondanks dat ze het niet eens zijn. Uh, de meerderheid verwacht iets binnen deze eeuw.

255
00:42:24.440 --> 00:42:34.900
Uh, een kleine maar vocale minderheid acht de kans onwaarschijnlijk of, of ook irrelevant. Maar er is brede erkenning dat het kan, maar niet wanneer.

256
00:42:35.580 --> 00:42:43.880
En daar gaan dus de, ja, daar, daar hoor je heel veel verschillende dingen over. Er is een soort optimistisch kamp en er is een heel pessimistisch kamp.

257
00:42:44.640 --> 00:42:58.560
Uhm, en dat gaat dan, de, de bandbreedte is ongeveer tussen de 2 en 100 jaar. Wat deze ex-- dus niemand denkt: het gaat niet gebeuren, maar, uh, de meeste mensen zitten nu, zi-zi-zi-tussen de 2 en, en, nou ja, 50 jaar.

258
00:42:59.460 --> 00:43:07.440
Hoe, hoe denk jij hier zelf over, Wytse? Waar hou jij zelf rekening mee? Ja, ik heb hier natuurlijk een beetje over na zitten denken, want ik wist dat dit onderwerp eraan kwam.

259
00:43:08.200 --> 00:43:19.980
Uhm, ik denk dat het belangrijk is dat ik iemand ben die als iets 10% kans is, dus boven de 10% komt. Uh, dat is allemaal koffiedik kijken, hè. Maar goed, dat is op, op basis van onderzoek en intuïtie.

260
00:43:20.500 --> 00:43:35.012
Dan neem ik dat wel serieus. Hè, als jij 10% kans op een huisbrand hebt, dan denk ik dat je daar iets mee moet. Mhmm. Dan moet je die kabels gaan vervangen in je leidingen. En, uhm, ik denk dat er een, uh-10% kans is.

261
00:43:35.172 --> 00:43:45.572
Ik ga even een beetje indekken dat we niet al te belachelijk gemaakt worden over een tijd dat er wel een 10% kans is dat we binnen drie jaar gaan meemaken dat kenniswerk, uh, zeer, zeer onder druk komt.

262
00:43:45.612 --> 00:43:50.712
En dat mensen die, die media maken [gniffelt] via MP3's en boeken en podcasts.

263
00:43:51.332 --> 00:44:02.372
Ja, het is bijna, het is, het is een stukje van-- kijk, ik moet zeggen, ik ben hier 38 jaar op deze planeet, uh, volgende week, uh, 39 jaar en ik heb er best wel naast gezeten. Ik heb ernaast gezeten qua timing.

264
00:44:02.432 --> 00:44:09.392
Ik, ik dacht dingen dat dingen eerder kwamen. Dat jij eerder in je leven dingen ging voorspellen, bedoel je? Ja. Toen zat je, toen was je te optimistisch. Ja. Of hoe je wil.

265
00:44:09.452 --> 00:44:19.152
Maar in ieder geval, je dacht, je dacht dat het eerder kwam. Ja, ik zat er qua, qua inhoud eigenlijk op. Dat zou hier ook kunnen. Ja, dus daarom zit ik een beetje te schroeven met, met 10% en met drie jaar et cetera.

266
00:44:19.732 --> 00:44:33.732
Maar dat is nog steeds hartstikke substantieel. Maar zeg je 10% kans dat er binnen drie jaar volledige automatisering van alle beroepen daar is? Of zeg je: over drie jaar denk ik dat dat is gebeurd. O, zo.

267
00:44:33.752 --> 00:44:45.292
Nee, ik denk dat we, uh, binnen drie jaar dat er een, dat er een, een kans is, een substantiële kans, uhm, dat we gaan inzien. Met we bedoel ik samenlevingsbreed. Ja.

268
00:44:45.332 --> 00:44:52.892
Niet alleen maar de mensen die bij labs werken- Ja...want die zien het al. Ja. Veel, veel in ieder geval. Sommig ook niet, hoor, maar veel wel. Ja. Dat ze de weg zien naar.

269
00:44:52.952 --> 00:45:01.351
En dat is ook wel een belangrijke, denk ik, tussen de uitvinding en het pad naar de uitvinding toe. Ja, oké, m-m-maar dan ga ik toch even hierop drukken. Ja, ik snap denk ik wel wat je bedoelt.

270
00:45:01.392 --> 00:45:11.812
Ik snap wat jij zegt, namelijk 10% kans is genoeg om er serieus rekening mee te houden. Ja, daarom maken we die aflevering. Dat begrijp ik. Ja. Dus dat is prima. Maar w-waar hou jij nou rekening mee?

271
00:45:12.012 --> 00:45:22.582
Hou jij er rekening mee dat over drie jaar al het werk geautomatiseerd is? Nee. Oké, jij denkt dat over drie jaar het pad naar al het werk wordt geautomatiseerd duidelijk is. Ja.

272
00:45:22.592 --> 00:45:33.932
Dat we fun-, alle fundamentele ontdekkingen die gedaan moeten worden om dat te krijgen, dat dat helder is. Ja, met al het werk bedoel ik, het is wel echt wel iets met informatie dan. Ja, je ziet niet mensen in fabrieken.

273
00:45:34.012 --> 00:45:43.291
Hmm, ook, maar dat, dat, dat, dat blur, muddy the waters. Het is al, het is belangrijk genoeg, vind ik, voor, voor al het kenniswerk wat we doen. Nou, ik vind kenniswerk nog steeds een raar woord.

274
00:45:43.392 --> 00:45:49.532
Het is werk wat via een internetkabel gedaan kan worden. Ja, mooier. Waarbij de uitvoer door de internetkabel kan gaan.

275
00:45:49.732 --> 00:45:58.692
Ja, als je het door een kabel kan proppen en aan de andere kant geld voor kan vangen, dan, uh, dan dat, die groep. Ja, en als ik dan onderwijs denk bijvoorbeeld. Denk dat zou in principe ook via een kabel kunnen gaan.

276
00:45:58.732 --> 00:46:10.472
Of denk je dan: uh, oké, een deel van het onderwijs. Uhm, nou nee, precies. Een deel van de mensen die, die daar faciliterend werkzaam zijn of op afstand een, uh, e-learning aanbieden of iets. Die, uh. Die zijn fucked.

277
00:46:10.532 --> 00:46:19.852
Ja, nou ja, fucked. Ik bedoel, dat is nog maar de vraag. Nou, oké, maar, uh, die semantische discussie. Ja. Maar dat de, im-, directe impact op wat je nu doet, dat gaat niet meer gebeuren. Ja.

278
00:46:19.882 --> 00:46:23.212
En, en voor een muzikant is hetzelfde als je op een podium staat. Ja, dat gaat nog wel door.

279
00:46:23.292 --> 00:46:31.092
Maar, de, het muziek maken zelf is misschien, zeg maar hoe het bij jou terechtkomt en wat, of je de muziek zelf gemaakt hebt überhaupt. Dat is dan de vraag.

280
00:46:31.292 --> 00:46:39.232
Ja, en ik denk dat, ik bedoel, uh, als wij samen op een camping zouden staan en, o-, ik ben meteoroloog, om welke reden dan ook. Leuk. Ja, dat is leuk.

281
00:46:39.292 --> 00:46:46.472
En ik heb daar tools meegenomen, want op vakantie wil ik ook nog een beetje nerden en ik zie dat er een grote weersverandering aankomt. Ik hou hem even neutraal. Ja.

282
00:46:46.732 --> 00:46:56.172
Want dan zou ik dat even tegen iedereen op de camping vertellen. Ja. Ik zeg: jongens, ik zie 10% kans op een substantiële weerverandering. Ja. Uuuh, ik denk dat we het hier even met elkaar over moeten hebben.

283
00:46:56.292 --> 00:46:59.312
Daar ben ik. Oké, en dan denk je dus over drie jaar dat er een helder pad is.

284
00:46:59.352 --> 00:47:07.352
En wat is dan de daadwerkelijke termijn waarop we, waarop het gebeurd is, de totale automatisering van alle beroe-, alle beroepen via een internetkabel.

285
00:47:07.392 --> 00:47:15.692
Nou, dat is ook, ik bedoel de totale potentiële, want, ik bedoel, wij kunnen daar nog van zeggen dat we bepaalde beroepen niet willen laten automatiseren, hè. Dus er is een verschil tussen kunnen en gebeuren.

286
00:47:15.732 --> 00:47:29.952
Nee, kunnen. Kunnen. Uhm, vanaf dat moment bedoel je? Ja, dat, dat is in de komende vijf tot tien jaar. Mhm. Dus dat is wel vlot. Dat is wel iets om rekening mee te houden als je nu een hbo-opleiding bent begonnen.

287
00:47:31.492 --> 00:47:43.992
En als je zegt: er, zelfs al is er 10% kans dat dat gaat gebeuren, dan moet je er nog rekening mee houden. Dat is dan om je in te dekken, want eigenlijk denk je dat het binnen tien jaar gebeurd is. Gewoon 100%.

288
00:47:44.512 --> 00:47:52.211
Hmm, nou, mag wel iets meer, maar nee, want, uh, die zou ik toch naar beneden doen. Niet alleen maar om mezelf te beschermen. Ik vind het op zich niet zo heel erg, hoor, als ik ernaast zit.

289
00:47:52.932 --> 00:48:02.812
Uhm, als ik, als het maar, als er maar wel iets anders. Uhm, ik vind wel, ik vind het niet leuk om mensen, uh, bang te maken terwijl dat niet nodig is.

290
00:48:03.022 --> 00:48:10.192
Ik bedoel, er zit wel een stukje verantwoordelijkheid dat ik dat niet moet doen, uh, dus daarom is het ook wel verstandig om een beetje voorzichtig te zijn, denk ik.

291
00:48:10.992 --> 00:48:22.312
Uhm, en ik denk ook niet dat het iets is waar je per se bang voor moet zijn, want het, het is ook iets dat als we het slimmer aanpakken met elkaar, dat het ons best wel wat kan gaan geven. Ja.

292
00:48:22.372 --> 00:48:36.012
Dus dat even gezegd te hebben. Uhm, ja, er moet een, laat ik zo zeggen, er moet een hoop, uhm, ik heb jou wel eens horen zeggen: de, de slechtste AI, die, die gebruik je vandaag, uh, als in morgen is die weer beter.

293
00:48:36.092 --> 00:48:43.292
En dat is tot nu toe waar. En dat hoeft helemaal geen exponentiële groei te zijn, maar gewoon een lineair doormodderen, hè, dus gewoon rustig aan doorbouwen.

294
00:48:43.712 --> 00:48:55.142
En zelfs in het rustig aan doorbouwen scenario denk ik dat er, uh, dat er gewoon heel veel gaat gebeuren de komende jaren. Echt op korte termijn. Ja, waarom zeg je dit? Nou, ik, ik, wa, uhm,

295
00:48:56.152 --> 00:49:06.272
omdat ik wel die puzzelstukjes zie liggen, hè. Heel veel hiervan zijn optimalisatie en schalingproblemen. Scha-schaalproblemen dus, is altijd het grote verschil tussen een uitvinding en distributie.

296
00:49:06.312 --> 00:49:15.912
En ik vind dit- Maar de technische bottlenecks die er op dit moment zijn, die, die daar. Ja, nou sommige daarvan die vereisen nieuwe uitvindingen, dat is wel zo. Dat is een groot ding. Ja, maar veel daarvan ook niet.

297
00:49:15.972 --> 00:49:36.672
En ik denk zelf dat, uhm, kijk, als je NotebookLM luistert nu in het Nederlands, uhm, en, uh, jij plakt daar nu docume-, de, de, de boeken in, uh, uh, van je, van je kinderen van school en, uh, jij laat een paar mooie opnames maken van die wiskundeboeken in vloeiend Nederlands in een leuk vraaggesprek waarop jouw kind ook nog eens kan inbellen als het moet.

298
00:49:36.732 --> 00:49:46.712
Dat hebben we nu gewoon. Ja. Dus dat, dus, zit ook weer niet-- het is ook een beetje gek om te praten over een soort wereld die nog komen gaat. Ja, ja, ja. Hè, dus, we, we hebben een soort distributieding. Ja.

299
00:49:46.972 --> 00:49:54.552
Als iedereen eens zou weten dat wat NotebookLM was en als het niet zo'n stomme naam zou hebben en een slechte interface, hè. Ja. Oplosbare dingen. Dus gewoon betere appjes maken.

300
00:49:55.152 --> 00:50:07.199
Versus het: ja, maar kan het dan ook straks? Want dat is misschien, [schraapt keel] helpt het ons gesprek een beetjeVeel van de futurists, mensen die hun werk hebben gemaakt van die toekomst systematisch bekijken.

301
00:50:07.240 --> 00:50:11.090
Er zijn banen in en opleidingen. Professionele toekomstvoorspellers. Absoluut.

302
00:50:11.920 --> 00:50:17.860
Kijk, die, die pakken nu, want ik heb die rapporten allemaal een beetje doorgenomen waarop zij bouwen, want er zijn best wel wat rapporten uitgekomen.

303
00:50:17.880 --> 00:50:38.820
Is ook hot topic natuurlijk, dus er worden vanuit alle grote forecasters worden nu allemaal, uh, grote rapporten geschreven en die zeggen: een van de, uh, indicators die wij in de gaten houden, dus een van de grafieken, een van de cijfers is: hoe lang kan een AI-model aan een taak werken zonder de draad te verliezen?

304
00:50:38.920 --> 00:50:50.480
M-hm. En als je dan gaat kijken en dat vind ik best wel een sterk argument. Deep research bijvoorbeeld doet er ongeveer 10 tot 20 minuten over. Die tab kan jij dan sluiten. Voor de mensen die het niet wisten.

305
00:50:50.500 --> 00:51:03.620
Je krijgt een pushbericht als het klaar is. Ik ben er. Nou, dan heeft dus eigenlijk een, uh, nou ja, een model een tijdje op eigen houtje doorgerommeld totdat jij er weer bij komt na 20 minuten en dan ga je weer.

306
00:51:03.820 --> 00:51:14.480
Eigenlijk heb je dat chatgesprek verlengd. Nou, wat zij dan zeggen is als je die grafiek pakt van iets kan, uh, 10 seconden alleen werken, 100 seconden alleen werken, 1.000 seconden alleen werken.

307
00:51:14.980 --> 00:51:26.090
Minuut is makkelijker voor een mens. Één minuut, één, uh, 10 minuten, een uur, 8 uur, werkdag, hè. 24 uur dag, zeven dagen.

308
00:51:26.400 --> 00:51:35.420
Op een gegeven moment kom je op een punt dat je merkt: ja, maar als deze agents in ieder geval al het van 9 tot 5 kunnen volhouden zonder dat wij ze altijd hoeven voeren. Wij moeten ook slapen. Ja.

309
00:51:35.460 --> 00:51:44.680
Dus ik denk dat, en die, als je die grafiek bekijkt. Want heel vaak hebben dit soort rapporten een soort grafiekjes en dan met een paar dunne lijntjes erachter van: kijk, als we hem doortrekken dan, dan gebeurt dit.

310
00:51:45.240 --> 00:51:52.560
Dan is er nu wel een grafiekje gaande. Waarin je de menselijke, uh, cognitieve kracht op een dag kan vergelijken met die van een AI. Dat zeggen zij dus.

311
00:51:52.600 --> 00:52:01.840
En dan prat-, zitten we aan de kant van het meest, uh, nou ja, radicaal is niet het goede woord, maar het meest, uh, intense deel van dit AGI-vraagstuk. Ja.

312
00:52:01.880 --> 00:52:12.500
Dat we op 2027 volgens een aantal forecasters op die 8 uur gaan komen op een dag werk. En dat zij zeggen: ja, en dan in de tussentijd zijn die modellen ook nog eens twee jaar beter geworden.

313
00:52:12.540 --> 00:52:21.500
Dus ze kunnen en langer in hun eentje werken en ze zijn ook nog eens O5. En dat ze dan zeggen: ja, maar als je iets 8 uur aan de gang kan zetten, hè, stel het is een PhD-student level ding.

314
00:52:21.820 --> 00:52:30.440
Die kan je 8 uur lang onderzoek laten doen en ook nog eens 10.000 tegelijk. Want je kan ook nog zeggen: duplicate, duplicate, clone, clone, clone, clone. Doe er mij er nog maar 100 dan.

315
00:52:30.480 --> 00:52:42.840
Dan gaan we toch wel wat voelen met z'n allen. Ja. En zij zeggen eigenlijk nu, omdat we nu nog praten over, m-m-, redelijke modellen die in een korte tijd wat voor je kunnen doen in een deep research sessie.

316
00:52:43.700 --> 00:52:47.060
Op mij maakt het al erg veel indruk volgens mij op jou ook, hè, deep research.

317
00:52:47.540 --> 00:53:02.540
Als je, als zij dan zeggen: ja, maar wacht even, als we gaan van niets naar deep research en je doet deep research nog een keer, keer tien, dus 200 minuten, tien keer zo slim, hebben we dan niet met iets te maken dat gewoon prima de taken uit kan voeren van heel veel mensen waarvoor ze nu nog betaald krijgen?

318
00:53:02.800 --> 00:53:12.820
Er zijn allerlei, uh, verschillende kampen van mensen die denken dat het snel gaat en mensen die langzaam gaan. De mensen die de snelste inschattingen maken zijn over het algemeen de big tech CEO's zelf.

319
00:53:13.460 --> 00:53:18.620
Uh, Demis Hassabis van Google DeepMind zegt herhaaldelijk dat AGI binnen 5 tot 10 jaar haalbaar is.

320
00:53:19.120 --> 00:53:29.900
Sam Altman, uh, van OpenAI natuurlijk, die is een van de meest, ja, optimistisch, pessimistisch, een beetje moeilijke woorden in deze context altijd, maar die, die denkt dat het heel snel gaat.

321
00:53:29.940 --> 00:53:43.560
Ik citeer hem even: gezien het beeld zoals we het nu hebben, is het denkbaar dat binnen de komende tien jaar AI-systemen het expertniveau in de meeste domeinen zullen overtreffen en evenveel productieve activiteit zullen hebben als de grootste bedrijven van vandaag.

322
00:53:43.620 --> 00:53:50.400
Zowel qua potentiële voordelen als nadelen zal superintelligentie krachtiger zijn dan andere technologieën waarbij de mensheid in het verleden te maken heeft gehad.

323
00:53:50.980 --> 00:54:00.340
We kunnen een dramatisch welvarender toekomst hebben, maar we moeten risico's beheren om daar achter te komen. Gezien de mogelijkheid van existentieel risico kunnen we niet alleen maar reactief zijn.

324
00:54:00.560 --> 00:54:10.260
Oké, lekker duister gelijk. Dario Amodei van Anthropic, die is eigenlijk ook heel open hierover. Of die, die, of, uh, schreeuwt hier veel over, hoe je wil.

325
00:54:11.000 --> 00:54:21.300
Ik denk dat het in 2026 zou kunnen komen, hoewel er ook allerlei manieren zijn waarop het veel langer zou kunnen duren. Hij twijfelt ook over die fundamentele, uhm, doorbraken die nog moeten komen.

326
00:54:22.199 --> 00:54:36.260
En er is heel recentelijk een rapport uitgekomen van onder andere een ex-medewerker van OpenAI. AI27 heet dat project, uhm, die zeggen dat, zoals de naam al voorspelt, 2027 het moment is.

327
00:54:37.740 --> 00:54:49.640
Daarnaast heb je een sceptisch, sceptisch, sceptisch. Hoe zeg je dat eigenlijk? Sceptisch. Sceptisch kamp, uh, van voornamelijk academici, uh, maar ook, uhm, ook bazen bij grote AI-bedrijven.

328
00:54:50.200 --> 00:55:08.860
Uh, de chief AI scientist van Meta, Yann LeCun, noemt AGI een misleidend buzzwoord en ziet huidige, uh, uh, LLM-projecten als een dood spoor en verwacht nog decennia aan werk, uh, nodig te hebben voor wereldmodellen voordat je ook maar het niveau haalt van het brein van een kat.

329
00:55:09.220 --> 00:55:18.300
Nou, vind ik een mooie. Uh, AGI is nog niet om de hoek, zegt, is, oh, dit is een Engelse vertaling. AGI is nog niet om de hoek. Hoe zeg je dat? Around the corner. Ik vind het wel mooi. AI.

330
00:55:18.900 --> 00:55:22.440
Uh, uh, het zal nieuwe wetenschappelijke doorbraken vereisen die we nu nog niet kennen.

331
00:55:22.480 --> 00:55:29.560
Je kunt je afvragen waarom mensen die geen wetenschappers zijn dit geloven, aangezien zij niet degenen zijn die in de loopgraven zitten om het te laten werken, zegt hij.

332
00:55:29.620 --> 00:55:34.760
Dus hij is heel hard over dat hij vindt dat er een soort van hype machine aan de gang is. Ja.

333
00:55:35.100 --> 00:55:47.480
En er zijn meer criticasters, zoals Gary Marcus, een, een van de bekendste, een, uhm, AI-onderzoeker en, uh, psycholoog, uh, die altijd veel kritiek heeft over deze korte tijdlijnen. Denkt dat het helemaal niet kan.

334
00:55:48.240 --> 00:55:59.420
Uhm, en, uh, er zijn meer toponderzoekers die waarschuwen voor hype en eigenlijk zeggen: dit is, uh, allemaal gelul. Hoe-- kijk,

335
00:56:00.340 --> 00:56:11.755
ik vind dit dus heel spannend, omdat ik ook denk dat die AGIBedrijf of sorry die die bazen van die AI bedrijven er een belang bij hebben een economisch belang bij hebben om de hele tijd te roepen dat AGI dichtbij is.

336
00:56:11.816 --> 00:56:24.376
Absoluut. Dus dat is het ingewikkelde van dit hele verhaal. Voor die AGI uh is around the corner. Het ding is gewoon in hun belang. Het levert PR op, het levert. Ze zijn allemaal aan het fundraisen.

337
00:56:24.386 --> 00:56:36.076
Ze hebben allemaal zijn ze in een wapenwedloop met elkaar verwikkeld, waardoor ze weet je meer compute uh nodig hebben. Dus ze moeten blijven laten zien aan de buitenwereld dat ze het echt heel goed doen.

338
00:56:36.916 --> 00:56:47.136
Ze willen misschien minder regulering, dus misschien is er ook een een argument of 1111. We hebben geen geen tijd voor regels. We moeten door. Precies, want. Het gaat heel snel. Het gaat heel snel.

339
00:56:47.176 --> 00:57:01.075
We zijn in een wereldwijde strijd beland met China of andere uh. Wereldmachten. Wereldmachten. Dus we moeten geen regulering nu hebben. Want uhm ja, dadelijk dan, dan, dan delven we het onderspit als westerse wereld.

340
00:57:01.656 --> 00:57:14.206
Dus uh kortere deadlines zijn ook een vorm van storytelling zou je kunnen zeggen. Ook over academici kun je hetzelfde zeggen. Je zou kunnen zeggen die hebben minder baat bij hype. Uhm en

341
00:57:15.116 --> 00:57:19.716
op het moment dat zij iets claimen wat vervolgens uitblijft, lijden zij reputatieschade. Ja.

342
00:57:20.196 --> 00:57:27.016
Dus je zou ook kunnen zeggen dat dat temperen van de verwachtingen ook weer een belang is, wat specifiek voor academici het geval is.

343
00:57:27.876 --> 00:57:40.336
Zou je ook kunnen zeggen dat de dat het dat er dat dat er een soort van ingebakken uhm incentive in zit. Ja, bij beide groepen en ik denk dat ik bedoel wat gebeurt er als we in het midden van die twee groepen leggen dan?

344
00:57:40.536 --> 00:57:49.456
Ja, ongeveer. Ja, ik weet niet hoe relevant het allebei is. Dat vind ik dus echt heel moeilijk. Journalisten ook nog eens, want dat is, nou dat daar reken ik dan misschien ons ook maar eventjes onder.

345
00:57:49.856 --> 00:58:00.095
Uhm, de daarvan kun je ook zeggen er is een belang om dit rond te pompen en een verhaal over AGI komt eraan. Trekt meer clicks dan. Nou, het duurt nog wel even hoor.

346
00:58:00.126 --> 00:58:08.756
Het is niet zo heel veel aan de hand, dus ook ik vind het heel moeilijk hoe. Mijn vraag is hoe bepaal jij wat je gelooft? Nou ja, ik, ik. Ik volg in deze.

347
00:58:09.536 --> 00:58:17.536
Of ja, dat klinkt alsof ik een soort volgeling ben, maar dat bedoel ik niet. Maar ik neem Demis Hassabis het meest serieus van de hele groep. Google Google DeepMind.

348
00:58:17.896 --> 00:58:21.176
Dat heeft te maken met wat ik van hem weet, zijn trackrecord.

349
00:58:21.216 --> 00:58:32.756
Gewoon hoe hij in die wereld terechtgekomen is, wat hij hiervoor gedaan heeft, hoe hij kijkt naar AI en hoe hij in heel interview heel veel interviews de interviewer eigenlijk corrigeert en zegt dit gaat helemaal niet zo snel.

350
00:58:33.136 --> 00:58:41.616
Doe eens even rustig. Maar dat boeit jou vertrouwen in. Ja, dat geeft een soort meer credibility, want een Sam Altman neem ik daarin een stuk minder serieus.

351
00:58:41.656 --> 00:58:53.836
Die is ook helemaal niet hoofdonderzoeker zoals Demis Hassabis dat wel is in ieder geval geweest is. En ik dus ik, ik ben. Ik ben vooral aan het kijken naar wat daar gezegd wordt vanuit de loopgraven.

352
00:58:53.996 --> 00:58:58.836
Lecun is net zo goed in de loopgraven bij Meta, dus het is een interessante, want hij is echt een beetje.

353
00:58:58.896 --> 00:59:10.316
Hij voelt een beetje in in het in het gesprek online als een outlier op dit moment, want hij zit op dezelfde plek als een Demis Hassabis en een Darius Amodei. Maar hij zegt iets heel anders op dit moment.

354
00:59:10.716 --> 00:59:18.575
En ik denk dat hij. Zou. Hij heeft toegang tot dezelfde interne systemen, dus hij weet de informatiepositie is het. En Mark Zuckerberg, zijn baas.

355
00:59:18.656 --> 00:59:26.236
Ja, die heeft het wel over onze programmeurs worden in twaalf tot achttien maanden ten grote delen vervangen door onze eigen lama. Dus daar zit ook.

356
00:59:26.276 --> 00:59:34.716
Nou ja, goed, dan kan je misschien toch tussen hun twee weer een midden vinden. Maar ik denk al met al nu wij het er zo met elkaar over hebben en ik jou zo die voorbeelden hoor noemen.

357
00:59:35.736 --> 00:59:45.376
Wat Demis Hassabis heel goed doet, is nu ga je de fanboy in mij een beetje horen dat het veel meer te maken heeft voor mij met de impact van wanneer zouden we weten dat AGI er is?

358
00:59:46.036 --> 00:59:59.496
Dus we kunnen over definities praten en grafieken. We kunnen ook zeggen wat zien wij in de wereld als AGI er is. Dus dat zou dan zijn een Nobelprijs die gewonnen wordt door een model. Gemini drie wint een Nobelprijs,

359
01:00:00.556 --> 01:00:06.576
een medicijn en minimaal één voor een belangrijke ziekte die veel leed veroorzaakt. Zou prettig zijn toch?

360
01:00:07.136 --> 01:00:17.756
Een een nieuwe fundamentele wiskundige oplossing voor een bestaand vraagstuk of een hele nieuwe manier van iets berekenen wat veel sneller is. Uhm. Doorbraak op het gebied van klimaattechnologie.

361
01:00:17.796 --> 01:00:29.336
Wat wij normaal verwachten van novel science. En ik denk dat uhm. Move thirty thirty five in uh Deep Go uh, die het spel Go kan spelen van Deep Mind van Demis Hassabis.

362
01:00:29.716 --> 01:00:38.396
Move thirty five was een innovatieve move die gemaakt werd tijdens een spel Go tegen de uh destijds Grand Master of Super Master of Go.

363
01:00:39.556 --> 01:00:51.976
Lee Sedol uit mijn hoofd en Move thirty five wordt gezien door alle experts rondom het spel Go. De zet. Ja, het was in het spel de 35e zet. Dat weet. Dat leek op een hele rare maffe zet.

364
01:00:52.076 --> 01:01:03.656
Ik raad de luisteraar aan het terug te kijken op YouTube. Want ja uh sedol zelf komt teruglopen. Die kijkt echt naar het bord met een gezicht van wat gebeurt hier nou. Allemaal om. Ja, en uh de ja, je hebt dan van die.

365
01:01:03.856 --> 01:01:08.976
Net als bij de radio heb je van. Bij voetbal heb je commentatoren natuurlijk en die zeggen van nou, we weten even niet wat hier gebeurt.

366
01:01:08.986 --> 01:01:19.775
Dat bleek een move te zijn die pas zeven of acht moves later onderdeel was van een soort super move. Acht In een soort ensemble van moves was gewoon een briljante zet. Een zet die niet in de trainingsdata zat.

367
01:01:20.116 --> 01:01:32.596
Een zet die Deep Go zelf geleerd had door heel veel Go tegen zichzelf te spelen. Novelty Iets nieuws. Een uitvinding werd daar gedaan binnen een heel. Eigenlijk zeg je er zijn een aantal vinkjes en die vinkjes

368
01:01:33.536 --> 01:01:36.216
worden gezet. Ja, en ik denk dat voor mij.

369
01:01:36.676 --> 01:01:46.386
Ik zit een beetje, dus op die als het dus gaat om daadwerkelijke impact, dus niet het pad ernaartoe wat je net vroeg, twee tot drie jaar, maar impact van dat pad wat belopen wordt. 5 tot 10.

370
01:01:46.836 --> 01:02:00.076
Ja dus het wat 5 tot 10 gaat gebeuren. Dat is dus de timeline van Demis Hassabis voor nu. Daar zit ik ook op. Dat ik denk dat we daar signalen van gaan krijgen. Signalen. Zoals de voorbeelden die je net noemt.

371
01:02:00.116 --> 01:02:08.864
Ja, en ik denk dat dus misschienUh, als iemand mij in het vervolg vraagt: wat is AGI? Dan ga ik iets beschrijven en dan ga ik de effecten beschrijven van datgene.

372
01:02:09.364 --> 01:02:14.664
Dat gaat ervoor zorgen dat heel veel mensen op zoek moeten naar nieuw werk. Of heel veel mensen moeten gaan nadenken over hun baan.

373
01:02:14.964 --> 01:02:21.584
Dat gaat ervoor zorgen dat in de brede zin van de samenleving mensen gaan zeggen: hé, maar wacht even, dit is wel even wat anders. M-hm.

374
01:02:21.604 --> 01:02:31.384
We dachten dat het alleen kon namaken en niet dat het ook nieuwe dingen kon verzinnen. Want je moet general intelligence hebben om nieuwe dingen te kunnen verzinnen, is een aanname, hè. En toch nog even die andere kant.

375
01:02:31.464 --> 01:02:43.564
Denk je, denk je dat er ook een serieus scenario is waarin we eigenlijk, waarin we eigenlijk een soort van sciencefiction scenario veel te serieus nemen? Is er ook een deel van jou wat denkt: Ja.

376
01:02:44.444 --> 01:02:52.664
ik laat mezelf helemaal gek maken. Ja, dat noemen ze drinking your own Kool-Aid, zeg maar. Dus je, je bent eigenlijk je eigen gekkigheid aan het opdrinken, zeg maar, je eigen onzin. M-hm.

377
01:02:52.824 --> 01:03:00.354
Uh, wij zitten natuurlijk, uh, ik ga, ik zeg even wij, maar ik hou het even bij mezelf. In een soort echokamer, een online echokamer.

378
01:03:00.444 --> 01:03:04.764
Ik lees de blogs, ik lees de artikelen, ik luister de interviews, ik luister andere podcasts.

379
01:03:05.304 --> 01:03:15.384
En dan ga je met elkaar in een soort, kom je in een wereld terecht waarin, uh, je als mens toch wel vatbaar bent voor een soort groupthink. Uh, wat de groep denkt, ga jij ook voor waar aannemen.

380
01:03:15.424 --> 01:03:20.784
Daar zijn wij heel gevoelig voor. Waarbij de hardste schreeuwers, de, die, de salesmensen zoals Sam Altman zijn. Exact.

381
01:03:20.844 --> 01:03:26.383
Dus de economische incentives achter die groupthink zijn ook nog eens een beetje dodgy, zeg maar, om het even zo te zeggen.

382
01:03:26.984 --> 01:03:42.704
Dus, uhm, ik, ik kan me goed voorstellen, uhm, dat ik er, uh, dat ik een verdraaid wereldbeeld gekregen heb door wat ik, wat mijn mediaconsumptie is en dat het allemaal wel meevalt. Fabeltjesfuik. Ja, zo'n fabeltjesfuik.

383
01:03:42.794 --> 01:03:52.294
Dat je een soort van, uh, A-AGI, uh, radicalized bent als het ware, hè. Ja. Zoals een wa-, zoals een covidwappie of een, uh- Ja, dat je heel diep in die tunnel be-beland bent. Ja.

384
01:03:52.324 --> 01:04:03.344
En ik denk dat, uh, uh, ja, ik, natuurlijk praat ik nog gelukkig ook met mensen buiten mijn AI-bubbel, uh, die best wel vaak mij een soort van, nou zeggen: moet ik je even een knuffel geven?

385
01:04:03.354 --> 01:04:09.164
Want volgens mij valt het allemaal wel mee, vriend. Uhm, en, nou, goed, en dan, en dan komt er helaas, zeg ik dan eigenlijk,

386
01:04:10.144 --> 01:04:21.664
v-, want ik, ik zeg helaas omdat ik merk dat wat ik nu voor me zie gaat wel een beetje te snel, vind ik. Ik vind het wel, want jij, jij struikelt ook in dit gesprek terecht met een soort van optimisme, pessimisme.

387
01:04:22.204 --> 01:04:23.344
Het gaat goed, het gaat slecht.

388
01:04:23.724 --> 01:04:32.404
Kijk, als je aan de kant van medische wetenschap staat en je zegt: hadden we maar 10.000 extra PhD-studenten, dan kon ik tenminste die ziektes waar nie-, waar geen geld voor is wel onderzoeken.

389
01:04:32.524 --> 01:04:42.624
Dan is het een ongelooflijk optimistisch verhaal. Exact. Maar op alle andere vlakken van- Ja...massawerkloosheid op korte termijn, uh, het ondermijnen van onderwijs.

390
01:04:42.634 --> 01:04:52.944
Ik snap dat dualisme, maar er is dus, er is dus, weet je, je, je stapt er nu overheen, maar je, je denkt niet dat dit, je, je, je twijfelt er nooit echt aan of dit gaat gebeuren. Jawel. Oké. Ja.

391
01:04:52.984 --> 01:05:02.364
Ja, ja, want ik, ik zeker. Ik heb, ik heb echt, uh, [lacht] uh, bijna maanden dat ik een stuk rustiger ben en denk, uh: voor mij, uh, uh, valt het allemaal wel mee.

392
01:05:02.404 --> 01:05:05.814
Want dus, want het is, het maffe is dus dat- En meevalt, dus dat het trager gaat dan jij denkt.

393
01:05:05.824 --> 01:05:17.124
Ja, maar daar zit dus een enorm waardeoordeel al bij en, en een onderbuikgevoel dat ik merk: ik zou het eigenlijk niet zo erg vinden als ik er een beetje naast zit. Nee. Nee. Dat zou ik niet zo erg vinden.

394
01:05:17.564 --> 01:05:26.804
En ik heb wel eens, uh, weken, maanden dat ik denk dat ik ernaast zit en dat, uh, dan ben ik een stuk, uh, stuk rustiger, want dan is de urgentie ook niet zo groot. Het is voor journalisten merk ik ook lastig.

395
01:05:26.944 --> 01:05:39.564
Ik las bijvoorbeeld een stuk van de techjournalist van The New York Times, Kevin Roose, die nu ook een boek over AGI aan het schrijven is, en hij schreef: buiten Silicon Valley hebben weinig mensen zelfs maar van AGI gehoord, laat staan dat ze zich erop voorbereiden.

396
01:05:39.604 --> 01:05:53.904
En in mijn sector, de journalistiek, riskeren journalisten die AI-vooruitgang serieus nemen, en dan dus tot het punt dat je naar AGI toe gaat, het nog steeds om bespot te worden als goedgelovige sukkels of handlangers van de industrie, uh, van het grote kapitaal.

397
01:05:54.504 --> 01:05:56.764
En hij schrijft: eerlijk gezegd begrijp ik die reactie.

398
01:05:57.084 --> 01:06:09.764
Hoewel we nu AI-systemen hebben die bijdragen aan doorbraken die de Nobelprijs winnen en hoewel 400 miljoen mensen per week ChatGPT gebruiken, is veel van de AI die mensen in hun dagelijks leven tegenkomen eigenlijk alleen maar een grote ergernis.

399
01:06:10.524 --> 01:06:23.303
Dus ik heb begrip voor mensen die AI-rommel op hun Facebookfeed gesmeerd zien worden, alle AI-slop, of een onhandige interactie hebben met een klantenservicebot en dan denken: is dit wat de wereld gaat overnemen?

400
01:06:23.313 --> 01:06:31.904
Dus het is, er is een, uh, ongelooflijke kloof tussen al die dingen die jij gelooft en, uh, de meeste gewone mensen.

401
01:06:32.024 --> 01:06:42.284
En journalisten voelen dat, denk ik, en hebben ook de neiging om daar, om, om, mede om die reden, laat ik het dan zo zeggen, er niet heel veel mee bezig te zijn. Maar ik denk als jij zegt: jij gelooft.

402
01:06:42.324 --> 01:06:49.324
Ik zou zeggen: waar ik serieus rekening mee hou. Ik wil het toch een beetje nuanceren, want- Ja...bij een geloof is het, is het redelijk absoluut en dat is het niet.

403
01:06:50.004 --> 01:07:00.004
Ezra Klein, uh, van The New York Times, een, uh, belangrijke opiniemaker, uhm, van The New York Times. Die sprak een tijdje veel mensen uit AI-labs op achtergrond,

404
01:07:00.924 --> 01:07:06.844
uhm, en die schreef een paar maanden geleden dit in een artikel. De afgelopen maanden had ik een vreemde ervaring.

405
01:07:07.084 --> 01:07:19.204
Persoon na persoon uit AI-labs, uit de overheid, kwam naar me toe en zei: het staat echt op het punt te gebeuren. We staan echt op het punt om kunstmatige intelligentie te bereiken. Uh, te, uh, sorry, AGI te bereiken.

406
01:07:19.944 --> 01:07:30.344
En wat ze daarmee bedoelen is dat ze al lange tijd geloven dat we op weg zijn naar de ontwikkeling van transformerende kunstmatige intelligentie die in staat is om vrijwel alles te doen wat een mens achter de computer zou kunnen doen, maar dan beter.

407
01:07:31.184 --> 01:07:39.344
Ze dachten dat dit ergens tussen de vijf en tien jaar zou gaan duren om te ontwikkelen, maar nu denken ze dat het over twee tot drie jaar zal gebeuren tijdens Donald Trumps tweede termijn.

408
01:07:39.404 --> 01:07:50.324
Dat is echt, dat vind ik zo'n freaky element. Uh, ze geloven het vanwege de producten die op dit moment, uh, uitgebracht worden en van, en, uh, door wat ze intern zien op de plekken waar ze werken.

409
01:07:50.424 --> 01:07:58.924
En ik denk dat ze gelijk hebben. En daarop tweette Ethan Mollick, de schrijver van, uh, Co-intelligentie, een gezaghebbend boek over AI wat ik van harte aanbeveel.

410
01:07:59.424 --> 01:08:09.164
Uh, ik zou willen dat er meer mensen de mogelijkheid serieus nemen die Ezra Klein en leiders van AI-labs aankaarten dat AGI een reële mogelijkheid is op korte termijn.

411
01:08:09.204 --> 01:08:20.344
Je hoeft ze niet zelf te geloven, maar leiders en beleidsmakers moeten de mogelijkheid overwegenEhm, dat het waar is. Of Volledig mee eens. Precies, dat is, dat onderschrijft volledig wat jij zegt.

412
01:08:20.384 --> 01:08:31.204
Ja, en toen Ezra Klein dus dit zei, toen was ik dus blij en een beetje verdrietig tegelijk, omdat ik dacht: als Ezra dit nu ook gaat zeggen, ik heb hem best hoog zitten- Ja.

413
01:08:31.324 --> 01:08:39.164
Nou komt hij mijn bubbel in, waar ik nog van hoopte dat hij niet helemaal waar was. Mhm. Hè, dus als je gevalideerd wordt in iets wat je eigenlijk ook spannend vindt, is dat ook balen.

414
01:08:39.424 --> 01:08:47.544
Terwijl je je ook een beetje minder alleen voelt. Ja. Was heel dubbel. Maar ik vind het ook heel ingewikkeld om dit, dit ook, ook bij hem denk ik weer, ook hij heeft er een belang bij.

415
01:08:47.564 --> 01:08:53.984
Die mensen die met hem praten hebben daar ook op een bepaalde manier weer een belang bij, want die hebben aan de aandelenportfolios van het bedrijf waar ze werken.

416
01:08:54.004 --> 01:09:04.704
Het is allemaal zo ingewikkeld om te bedenken of je dit moet. Dus een deel van mij denkt: my God, de mensen die er werken, ze schreeuwen het van de, zeg maar from the top of their lungs. Ja.

417
01:09:05.473 --> 01:09:14.624
Ze proberen ze in iedere conferentie, in nieuwsartikelen, in essays. Want je moet het ze nageven, ze vertellen [gniffelt] dat- Zeker weten. Ze denken dat dit gaat gebeuren op korte termijn.

418
01:09:14.634 --> 01:09:23.584
Ze gaan weg bij de labs waar ze werken. Ze gaan weg bij de labs- Om het te mogen vertellen. Om te mogen vertellen hoe erg ze denken dat het is. Of hoe, erg is een verkeerd woord, maar hoe, hoe, hoe- Belangrijk.

419
01:09:23.644 --> 01:09:24.984
Snel, belangrijk. Ja, hoe.

420
01:09:25.824 --> 01:09:36.844
Dus het is alsof het allemaal mensen, t-, zeg maar, als ik die, uh, kant een beetje serieus probeer te nemen, dan denk ik: ja, dit zijn allemaal, ze, het is niet alsof ze, alsof ze ons niet gewaarschuwd hebben.

421
01:09:36.884 --> 01:09:42.264
Ga, ik, ik probeer, ik probeer mezelf in de toekomst te, uh, te, uh, te bekijken en dan kun je gewoon de headlines zien.

422
01:09:42.324 --> 01:09:54.184
Als je wil, dan zie je gewoon alle grote bazen en medewerkers en mensen die weggaan en dan vervolgens strijden tegen een NDA om dan publiekelijk te mogen vertellen hoe ze denken dat dingen zitten.

423
01:09:55.884 --> 01:10:02.384
Ja, ik ken weinig verhalen van in, in, van medewerkers die, uh, uit de school klappen, zeggen: dit valt allemaal wel mee, hoor.

424
01:10:03.344 --> 01:10:09.984
Nou kijk, ik bedoel, diezelfde elementen werken ook op ons, hè, op ons twee terwijl we hier nu zitten. Ik wil niet te belachelijk gemaakt worden. Ja.

425
01:10:10.024 --> 01:10:20.304
Ik vind het ook niet prettig dat wij worden gezien als, en nu gaan mensen misschien lachen luisteren, die twee AI-boys- Ja. Hè, met een, met een soort uitvinding die of iets wordt wat we helemaal niet tof vinden- Ja.

426
01:10:20.424 --> 01:10:32.244
Of een dud, als in: het viel allemaal wel mee. Ja. Dus in al die scenario's zijn minder fijn voor ons- Ja. Als we een soort, uh, single topic guys zouden zijn. Ja. Uhm, maar we maken ook een podcast over AI.

427
01:10:32.324 --> 01:10:39.524
Dus dat er iets gebeurt en dat er nieuws te vertellen is iedere week is voor ons ook wel weer belangrijk, want dan hebben we nog- Het is ook ons businessmodel, zou je kunnen zeggen.

428
01:10:39.564 --> 01:10:49.924
Ja, dus wij, ik, voor mij zitten wij prima tussen die twee, uh, velden in, uh, waarin we gemotiveerd worden om het, uh, serieus te nemen en er iets over te vertellen.

429
01:10:49.944 --> 01:10:54.624
Maar het voelt gek en dat is denk ik omdat de cultuur er gewoon niet naar is. Dus- Hoe bedoel je dat?

430
01:10:54.704 --> 01:11:02.343
Nou ja, journalisten kunnen allemaal achter elkaar aan rennen, uh, als er een verhaal is wat opeens heel erg de, uhm, ja, hoe moet je dat zeggen, de,

431
01:11:04.204 --> 01:11:15.204
de, weet je, de, de, d-, de, er zijn verhalen die opeens heel erg de aandacht trekken. Die, die, die een beetje de, de culturele, uh, ja, ik weet niet, de agenda gaan bepalen.

432
01:11:16.144 --> 01:11:26.243
Uh, een tijd lang was dat bijvoorbeeld MeToo. Ja. Of, uhm, de, de agenda zettende onderwerpen, zeg maar. En dit is, dat, dat is dit gewoon niet.

433
01:11:26.294 --> 01:11:33.213
Nee, maar ook al denk ik omdat het zo'n- Dus daarom ga- Vaag ding is voor heel veel mensen. Het is een systeem. Het is elektriciteit, man. Het is zo groot. Ja.

434
01:11:33.264 --> 01:11:43.243
En het, als het zich dan uit, die elektriciteit, dan uit het zich laf in slop of in een slechte assistent voor veel mensen. Ja, precies. Ja. Als ze het al een keer, als ze AI een keer kunnen aanraken.

435
01:11:43.284 --> 01:11:51.584
Ja, ChatGPT gevraagd. Nou, er kwamen allemaal leugens. Ja, dan was dat het. Dat plaatje heeft zes vingers. Ja. Dus het, het, maar, het is heel makkelijk om het af te schrijven.

436
01:11:51.604 --> 01:11:53.924
En misschien willen we het ook wel afschrijven. Is dat wel chill.

437
01:11:54.404 --> 01:12:07.264
Maar de consequentie is wel dat omdat journalisten het niet, ja, serieus nemen en niet veel over schrijven, over AGI, is ook dat bij beleidsmakers geen druk ontstaat. Weet je, het is zo'n rare situatie.

438
01:12:07.294 --> 01:12:15.944
Het zijn de bazen van die AI-bedrijven en allerlei experts die zeggen: al is de kans 10%, Jesus Christ, misschien moeten we even ons hierop gaan voorbereiden. Ja.

439
01:12:16.124 --> 01:12:26.514
En aan de andere kant een soort van stilte, uh, bij beleidsmakers en journalisten. Dus het, daardoor ga ik ook aan mezelf twijfelen, denk ik. Ja. Ben ik hier te veel mee bezig?

440
01:12:26.514 --> 01:12:33.804
Is dit, ben ik een soort van wappie geworden? Luister je veel te veel naar Wietse? Luister ik veel te veel naar Wietse? [lacht] Nou ja, goed. Waar, waar, waar staan we nu?

441
01:12:33.824 --> 01:12:43.204
Want misschien is dat een, misschien is dat een goed moment om dat nu te, uh, je, je beschrijft vooruitgang. Je beschrijft lijntjes die vooruitgaan. Je begrijp, je, jij beschrijft een soort van

442
01:12:44.784 --> 01:12:58.364
objectieve weer-, uh, zeg maar, uhm, dingen die we kunnen gaan zien waardoor er vooruitgang is. Zoals, uh, s-, bepaalde ziektes met, met AI proberen te, uh, genezen. Welke,

443
01:12:59.344 --> 01:13:07.864
ja, wat, wat is de, welke objectieve benchmarks zijn er om te bepalen waar we nu staan? Of hoe, hoe, hoe, hoe kijk jij naar waar wij nu staan?

444
01:13:09.584 --> 01:13:14.144
Ik denk objectief is een moeilijke, maar er zijn gewoon, uh, uh, als in benchmarks. Maar er worden wel een hoop benchmarks gemaakt.

445
01:13:14.184 --> 01:13:25.424
Hè, we hadden het net al over Arc AGI 2, 3,5% voor O3 high, hè, het meest zware model van OpenAI wat we, wat er gebruikt kan worden. Schamele 3,5% waar een mens 90% weet te scoren.

446
01:13:25.844 --> 01:13:36.124
Daar staan we nu van het frontier model gewoon. Dan heb je de Humanities Last Exam, uh, die nog niet uitgespeeld is, uh, verre van. Uhm, er is een, uhm,

447
01:13:37.084 --> 01:13:42.204
om het even goed te zeggen, er is nog een hele grote benchmark, ben ik de naam even van kwijt. Die is ook goed om in de gaten te houden.

448
01:13:42.704 --> 01:13:57.844
Dat is een van die forecasters heeft die gemaakt, want die hebben ook zoiets van: ja, we kunnen wel gaan praten over de toekomst, maar we moeten wel aan die toekomstscenario's, uhm, milestones plakken die we kunnen meten, zodat we ook netjes iedere drie maanden een updatetje kunnen sturen hoe wij er nog bij staan.

449
01:13:57.884 --> 01:14:01.974
Dat is de beste forecaster die eerlijk zijn grafieken gaat aanpassen naar beneden of naar boven. Mhm.

450
01:14:02.544 --> 01:14:16.300
En, uhm, kijk, waar we nu staan is, een beetje laf antwoord misschien: het kan nog alle kanten op.Uh, het kan nog steeds zo zijn dat o3 het maximum is wat je kan halen uit het paradigma wat er nu is.

451
01:14:16.500 --> 01:14:26.520
Kan voorspellen en dan g-, want het zijn allemaal wel reasoning toevoegen, hè. Dat het je eigen huiswerk nakijkt. Grounding door middel van documenten, uh, meer tijd geven om na te denken.

452
01:14:26.580 --> 01:14:33.840
Dat, dat, dat voelen niet als substantieel bizarre uitvindingen. Ja, misschien reasoning een beetje, maar de rest voelt toch een beetje als patchen. Een beetje plakken erop.

453
01:14:34.000 --> 01:14:42.840
Ja, ik, a-, ik begrijp, als ik, begrijp ik je goed als je zegt: er zijn heel veel dingen waarbij je gewoon er meer tijd en computerkracht tegenaan gooit en kan dat nog heel veel schalen.

454
01:14:42.900 --> 01:14:48.020
Dus het zit hem dan letterlijk in mensen die datacenters moeten bouwen met kranen en beton.

455
01:14:48.200 --> 01:14:56.820
Dit is een beetje de theorie, hè, van veel mensen die dan, uh, de AGI voelen, zeg maar, feeling the AGI, is dat zij ook in die scha-scaling hypothesis geloven.

456
01:14:56.880 --> 01:15:08.940
Dus de hypothese dat schaal, uh, dus hardware schaal genoeg is en dat we geen substantiële uitvindingen meer hoeven doen. Tegelijkertijd hebben we ook GPT 4,5. Nou, daar is volgens mij 1,5 jaar aan getraind.

457
01:15:09.290 --> 01:15:18.320
[lacht] De miljoenen vlogen me om de, om de oren. Nou, ik gebruik GPT 4,5 dagelijks, maar ik heb niet het idee dat ik met AGI te maken heb. Je bedoelt: er is heel lang aan getraind.

458
01:15:18.440 --> 01:15:27.740
Als je die scaling laws, als die echt van toepassing zouden zijn, zou dat model veel beter geweest zijn. Dat viel gewoon tegen. Ja, en dan, dan wordt er gezegd: ja, we moeten andere, uh, trucjes uit de kast halen.

459
01:15:27.860 --> 01:15:33.159
Ik moet zeggen, die trucjes doen een hoop. Geef hem meer tijd, laat het een agentje zijn, laat hem nadenken over zijn huiswerk, noem maar op.

460
01:15:33.500 --> 01:15:43.660
Dat werkt, want deep research is fundamenteel, uh, beter dan wat GPT 4,5 ooit was, zeg maar. Uhm, maar ik, ik, ik heb wel-- kijk, dat,

461
01:15:44.560 --> 01:15:58.200
dat LeCun bij Meta zegt: uh, joh, we hebben nog wel één, twee, drie fundamentele uitvindingen nodig ter grootte van wat GPT is, voordat we iets kunnen maken wat een band is dat genoeg kan spelen om ons onder de indruk te laten zijn.

462
01:15:58.320 --> 01:16:11.360
Ja. Om het even zo te zeggen. Uhm. Geloof je dat? Dat kan waar zijn wat hij zegt nog. Ik, ik zie geen dingen nu, uh, om, om mij heen voor wat ik kan testen en lezen en doen dat ik zeg: dat kan niet meer, wat hij nu zegt.

463
01:16:11.600 --> 01:16:21.860
Moet ik het zo dan begrijpen? Dat er, dat ze, dat ze denken: er zijn nog twee, drie fundamentele ontdekkingen die we moeten doen, maar we komen daar wel. Zou kunnen dat het niet zo is.

464
01:16:22.220 --> 01:16:36.240
Ja, maar zo'n fundamentele ontdekking als je wintertjes gaat meerekenen, 10, 15 jaar per ontdekking. Ja. Terwijl de andere, het andere, de andere kant van het spectrum zegt: uh, AI is software. AI kan software maken.

465
01:16:36.300 --> 01:16:45.320
Laat AI AI-software maken en stap achteruit. En, uh, drie dagen later of drie jaar later heb je het boompje in je tuin staan. Ja, precies. Dus dat, dat maakt het onvoorspelbaar.

466
01:16:45.380 --> 01:16:47.699
Dus de, dat is nu ook natuurlijk heel erg aan de hand.

467
01:16:47.740 --> 01:17:01.180
De, de focus op van AI-ontwikkeling gaat heel erg over AI die kan programmeren en, uh, eigenlijk de AI-onderzoekers helpen om hun werk efficiënter te doen, waarmee het een soort van zelfversterkend effect krijgt.

468
01:17:01.800 --> 01:17:14.420
En dat wordt breed gezien als een mogelijke katalysator voor zo'n intelligentie-explosie. AI-systemen die zichzelf kunnen verbeteren met steeds grotere snelheid. Dus je zou kunnen zeggen: er is iets nieuws aan de hand.

469
01:17:15.240 --> 01:17:35.720
En, uh, ik las er ook over, hoewel sommige optimistische AI-denkers al in 2021, vlak na de komst van ChatGPT, voorspelden dat we snel, uhm, programmerende AI-agenten zouden hebben die engineering taken zouden kunnen uitvoeren en zichzelf 100 keer zouden kunnen verbeteren, is de ra-realiteit dat elke stap, uh, in die verwachting toch een stuk moeilijker is gebleken dan werd verwacht.

470
01:17:36.420 --> 01:17:41.620
Ja, en ik denk ook, uhm, als je, als je het voor je ziet in stappen van complexiteit, zeg maar.

471
01:17:41.640 --> 01:17:48.920
We leven in een vrij complexe wereld waar we over het algemeen als mens best wel moeite mee hebben om nog te begrijpen wat er allemaal gebeurt. Ja. Zo ook wij in dit gesprek.

472
01:17:48.980 --> 01:17:57.680
Het is best een moeilijke om onszelf omheen te werken, maar we doen ons best. Is dat die stappen van complexiteit, dat die ook exponentiële complexiteit zijn.

473
01:17:58.040 --> 01:18:07.020
Dus daarmee wil ik zeggen dat voor iedere stap die wij als mens al wel hebben genomen, want wij zitten hier nu als general intelligence. Moet even gezegd worden op menselijke manier. Applaus voor ons.

474
01:18:07.100 --> 01:18:12.560
We doen ons best en daar zijn wij, hebben we best even over gedaan. Ja. Hè, best even over gedaan.

475
01:18:14.140 --> 01:18:24.900
Die, uh, ik heb, ik geloof dus zelf of ik, ja, ik zie, misschien moet ik het zo zeggen en ik zie dat nog wel even doorgaan. Lineaire groei in wat AI kan of i-in de kracht van AI.

476
01:18:25.460 --> 01:18:35.820
En lineaire groei, uh, houdt in dat er wel vooruitgang is, maar niet met gigantische orders of magnitude, zoals ze dat graag in de industrie zeggen. Oems, hè, van die enorme klappen omhoog.

477
01:18:36.340 --> 01:18:49.780
En, uhm, de complexiteit van de problemen die we aan zo'n apparaat geven. Bijvoorbeeld: nee, jij gaat niet 20 minuten deep research doen, jij gaat acht uur lang mensenwerk doen en ik hoor jou wel eind van de dag.

478
01:18:49.820 --> 01:19:00.280
Je klokt maar weer uit om 5.00 uur. Dat is een orders of magnitude complexiteit. Als je dan lineaire groei hebt, dan ben je daar niet. Je kan niet zeggen: ieder jaar een nieuwe stap. Mhm. Nee.

479
01:19:00.950 --> 01:19:09.860
Uh, sterker nog, als je lineair aan het groeien bent, kost dat best wel-- het zou zomaar zo kunnen zijn dat die laatste 20% van, uh, uh,

480
01:19:10.860 --> 01:19:19.640
Nobelprijzen winnen, om het weer even op de effecten te leggen, dat dat wel 20 jaar is. Ja. Ook met de soort van wat we vandaag hebben en wat er tot nu toe gebeurd is.

481
01:19:20.040 --> 01:19:29.260
Omdat, en dat, dit, weet ik wel uit mijn, uh, tijdje dat ik hier al rondloop. Dat waarom, ik heb natuurlijk gereflecteerd om waarom zat ik ernaast, uh, toen? Want ik, ik wilde- Waar zat je eigenlijk naast?

482
01:19:29.480 --> 01:19:38.470
Uh, nou, ik, ik ga maar even iets, dit is een beetje suf, maar ik heb bijvoorbeeld, uh, geroepen dat ik geen toekomst zag voor het bedrijf Nintendo. Heb ik ooit geroepen in de Appels en Peren Show heel lang geleden.

483
01:19:38.500 --> 01:19:48.760
Een podcast die ik een keer voor maakte. Ik zag gewoon echt geen toekomst voor het bedrijf Nintendo, want ik dacht gewoon: smartphones met apps erop en mensen willen helemaal niet meer betalen.

484
01:19:48.800 --> 01:19:55.980
En kinderen zitten alleen maar op iPads en smartphones. Dus- Ja, newsflash: er is een Switch. Ja, toe-- die was er toen zelfs al, maar de Switch geloofde ik niet.

485
01:19:56.000 --> 01:20:06.240
[lacht] Dus nou goed, wa-- ik heb helemaal niet begrepen: een ecosysteem, een purposeful build device, uh, de, de characters. Er zit een heel verhaal om Nintendo heen en dat weten zij donders goed.

486
01:20:06.260 --> 01:20:16.219
En anders hadden ze niet zo slim daarop ingespeeld. Er is veel meer aan de hand dan spelletjes spelen. Oké, dus, d-er is een keer een verkeerde inschatting van jou geweest. Meerdere. Maar wat moeten we hiermee?

487
01:20:16.260 --> 01:20:25.520
Nou, dat als je dan, als ik dan terug reflecteer, dan denk ik: oh, ik heb helemaal geen, uh, rekening gehouden met ecosysteemeffecten. Ik ben zelf helemaal niet een, een key user van die demographic van gamers.

488
01:20:25.540 --> 01:20:35.540
Dus ik ben vanuit een positie van onwetendheid gaan praten over een systeem dat veel groter was dan ik zelf dacht. Dat doe ik dus nu weer. Ja. Want wij, jij en ik werken niet bij Anthropic en hebben geen KI gestudeerd.

489
01:20:35.640 --> 01:20:46.456
Nee.Maar ik denk dat waarom wij toch een beetje durven hier dingen over te zeggen. Wil ik dan nog ook een beetje duiden dat het toch een soort spidey sense is, zeg maar zoals bij Spiderman.

490
01:20:46.466 --> 01:20:56.956
Dan zegt hij My spidey sense tingles, zeg maar, die kietelt een beetje. Ik denk ook bij jou, anders waren we deze podcast niet begonnen. Dat er ergens iets kriebelt van oh, er is denk ik wel wat aan de hand.

491
01:20:57.496 --> 01:21:10.415
Er is hier wel wat aan de hand en en ik wil wel even gezegd hebben laatste complimentje voor Demis Hassabis. Deep Mind is niet drie jaar geleden gestart uit mijn hoofd, twaalf jaar geleden al of zo.

492
01:21:10.436 --> 01:21:19.216
Of minimaal tien jaar geleden toen wij allemaal nog helemaal niet. Ik wou zeggen in onze luier zaten, maar dat is onzin. Maar in onze AI luier zaten. We hadden het er helemaal weinig over.

493
01:21:19.336 --> 01:21:27.196
Nee, heeft hij daar gewoon gezegd Oh, dit wordt mijn levenswerk. Want hij zag hem al. Ja, en als je oude interviews terugkijkt, dan zegt hij het ook al.

494
01:21:27.656 --> 01:21:36.396
Dus dat is ook een stukje waarom ik hem natuurlijk nu serieuzer neem. Omdat ik denk ja, het is niet alsof jij de verkeerde afslag genomen hebt qua toekomst. Verkeerd bedoel ik mee.

495
01:21:36.616 --> 01:21:50.676
Je hebt geïnvesteerd in hetgeen wat het ging worden, dus je hebt dat best wel knap gezien. Ik neem jou serieuzer ja. Maar we hadden het over die intelligentie, explosie en de de mate waarin AI zichzelf beter kan maken.

496
01:21:50.696 --> 01:22:03.556
Om het even heel plat te zeggen dat dat zomaar eens iets zou kunnen zijn waardoor die mate van voorspelbaarheid eigenlijk afneemt. Dus dat de.

497
01:22:04.136 --> 01:22:16.536
Je kan constateren dat er nog een aantal fundamentele ontdekkingen gedaan moeten worden, maar dat de kans op die von dat de kans toeneemt dat die ontdekkingen gedaan kunnen worden doordat AI's zichzelf kunnen programmeren.

498
01:22:16.856 --> 01:22:33.196
Ja, dat is dit is een een. Kijk. Dit is zo, toch? Dit is aan de hand. Nou, ik zou het het. Ik bedoel, er wordt al binnen die labs gebruik gemaakt van agentic of assisted coding om hun. Schrijven eigen code. Ja. Dus.

499
01:22:33.436 --> 01:22:40.816
Is dat hetzelfde? Nee, maar ik bedoel de de de programmeurs programmeurs daar worden bijgestaan door hun eigen AI. Dus dan heb je al een cirkeltje draaien.

500
01:22:40.916 --> 01:22:48.976
Ja, op een gegeven moment ga je natuurlijk zeggen die AI mag één minuut, tien minuut, 8.00u binnen open AI werken. Die hebben straks ineens allemaal nieuwe personeelsleden op de loonlijst staan.

501
01:22:49.006 --> 01:22:59.956
Maar die vragen geen loon, maar alleen maar tokens. En die verkopen ze zelf, dus ze gaan de sigaret uit eigen doos. Daarbij ben ik nog redelijk kalm dat ik zeg ja, laat ze maar wat nieuws maken.

502
01:23:00.296 --> 01:23:12.916
Kijk, als assistenten die als jij ze vertelt wat ze moeten doen, jou tien keer zo snel maken als ontwikkelaar. Geloof je wel. Dat is al zo. Ja, en. Maar fundamentele ontdekkingen doen, dat moet je nog even zien.

503
01:23:12.996 --> 01:23:21.136
Ja, ik denk dat op het moment dat. En we kunnen dat verifiëren dan, dus dan moet dat zeg ik er even bij dat wij ook kunnen verifiëren dat er een.

504
01:23:21.556 --> 01:23:30.616
De meeste modellen die nu uitkomen, ook bij gesloten labs, daar zit wel iets van een research paper bij. Niet de niet de gewichten, niet het model, maar wel hoe zijn. Wat hebben we allemaal weer uitgevonden?

505
01:23:31.016 --> 01:23:42.376
Anthropic doet altijd leuke research en zo. Ja, als zij dan onderaan dat of bovenaan dat aan die research paper twee namen hebben staan. Gewoon het model. This was Cloud 41 heeft ook meegeschreven aan deze paper.

506
01:23:42.716 --> 01:23:53.556
En dan ook misschien nog trots erbij zeggen 22% van de ontdekkingen gedaan in deze paper zijn gedaan door Cloud en wij kunnen verifiëren dat ze daar niet over liegen. Dat is voor mij een enorm signaal.

507
01:23:53.616 --> 01:24:03.156
Want het is al zo of het is niet zo? Nee, precies nee. Dit is de situatie. Dit is zo'n vinkje wat je. Ja, en die forecasters, die super forecasters zoals ze zichzelf allemaal noemen. Dit is zo'n vinkje.

508
01:24:03.176 --> 01:24:08.136
Die hebben een hele lijst met vinkjes. Ja precies. Ja. Dus als je hier. Als je dit wil volgen, kan je dat ook een beetje in de gaten houden.

509
01:24:08.156 --> 01:24:22.536
Ik doe dat ook, want dan kan ik een beetje sanity checken op mijn eigen Koolaid, zeg maar op onze tunnel visie. En en hoe voorzie je dat dit soort van AI's die elkaar. Die zichzelf beter maken?

510
01:24:22.576 --> 01:24:36.276
Hoe voorzie je dan dat dat zal gaan? Wat voor soort van exponentieel lijntje heb je dan in je hoofd voor de komende paar jaar? Nou, ik denk dat. Het heeft voor mij denk ik minder te maken met het exponentiële,

511
01:24:37.656 --> 01:24:51.436
maar dat je voor de keuze komt te staan. Kijk, als je. Ik maak best wel lang al software en software moet op een gegeven moment gaan werken. Dit klinkt echt heel leeg, maar dit gaat ergens naartoe. Dat houdt in dat.

512
01:24:55.216 --> 01:25:03.556
Ik heb het. Ik heb een tijdje motoren kleine motortjes gekocht. Vraag me niet waarom, maar ik vind dat fantastisch mooi. Je kan stoomlocomotief eens kopen, benzine, motortjes et cetera.

513
01:25:03.596 --> 01:25:11.776
Een boeiend inkijkje in jouw leven. Zeker even een hobby'tje. Nou dan. Stel je even voor. Je bestelt zo'n pakketje. Krijg je allemaal stukjes metaal binnen met een handleiding erbij.

514
01:25:11.856 --> 01:25:20.136
Of het lego is en dan ga je dat ding in elkaar zetten en dan doe je er een beetje benzine in. Geen grap. En dan haal je er een aansteker bij en dan moet je hem gaan gaan timen, dat wiel van dat ding.

515
01:25:20.196 --> 01:25:30.276
Want die moet zeg maar die intake out stroke in stroke. En die klap, zo toe toe toe toe toe. Die moet je timen. Dus jij hebt dat ding in elkaar gezet. Heb je zelf gedaan als in stukjes en de handleiding.

516
01:25:30.716 --> 01:25:41.416
Dan heb je er een beetje brandstof in gedaan. Haal je daar zo'n vlammetje bij en dan geef je een wankel aan dat wiel, want er zit geen startmotor bij. Dat ben jij. En dan hoor je zo toe, toe, toe toe en dan valt de lat.

517
01:25:41.456 --> 01:25:48.276
Valt hij weer stil, want dat ding is niet goed getimed. Die die, die die is niet op tijd zijn lucht aan het pakken en het doen. Dan zit jij er zo'n beetje bij.

518
01:25:48.336 --> 01:25:53.496
Ik wist helemaal niet dat het timen het leukste was van het hele proces. Ik zit dat ding. Ik weet het nog precies voor de eerste keer, een paar jaar geleden.

519
01:25:53.876 --> 01:26:09.086
Ik zit dat ding te timen en dan komt er toch een moment jongen. Ik sla dat ding. En hij liep. Hij liep en dat moment dat het begint te lopen, dat is best wel heftig of zo. Ik weet niet voor mij. Toen zat ik daar.

520
01:26:09.156 --> 01:26:20.676
Ik zeg wow, wat heb ik nou weer gemaakt of zo? En je moet je voorstellen dat op het moment dat jij binnen zo'n laboratorium, ik zeg maar even een lab werkt als een open AI bedrijf laboratorium

521
01:26:22.436 --> 01:26:34.396
en jij zegt tegen dat ding ga nou eens een beetje aan jezelf werken en dat ding begint aanpassingen te maken die hem beter maken. Waardoor die bijvoorbeeld 3% sneller wordt in het aanpassingen maken op zichzelf.

522
01:26:35.196 --> 01:26:47.120
Dan schuif jij die stoel naar achter en dan zie jij op je scherm.Want er is een soort, uh, ja, dat noemen ze in de, in de filosofie autopoiesis. Het is een soort zelf-- dat ding is op zichzelf aan het leven nu. M-hm.

523
01:26:47.180 --> 01:26:57.840
En, uh, als die motor draait. Ik bedoel, er moet benzine bij steeds, hè, maar die, jij kan dan even achterover leunen en dan draait hij. En ik merk dit nu al. Jij zelf hebt met Cursor gespeeld.

524
01:26:57.900 --> 01:27:04.720
In Cursor heb je dit al meegemaakt dat jij vragen stelt, achterover leunt en hem aan het werk ziet. Dus de motor draait, zeg maar.

525
01:27:05.180 --> 01:27:17.300
Maar ik heb het nu even over de laatste motor, want dan maken we dit onderwerp even zo zwaar als het eigenlijk is. Ons laatste onderwerp. We gaan nog afleveringen maken, maar dit is, AGI is ook een soort van: ja,

526
01:27:18.300 --> 01:27:31.260
uh, wij hoeven ook niet meer per se verder te werken aan AI nu, want dat doet AI vanaf nu. M-hm. En ik vind dat soort van moment dat de motor draait en dat jij, zeg maar, gaat kijken naar je creatie.

527
01:27:31.620 --> 01:27:42.540
Dat ik me goed kan voorstellen dat zo'n, uh, uh, onderzoeker of een groep onderzoekers die hun ziet dat hun codingbot inmiddels zijn eigen code aan het veranderen is om zichzelf beter te maken.

528
01:27:42.580 --> 01:27:49.420
En dat is waar, uh, ja, veel van de mensen die zich wat meer zorgen maken over dit scenario zeggen: uh, ja, wat dan?

529
01:27:49.660 --> 01:27:58.580
En ik denk dan: nou, dan, dan, dan, ja, dat is misschien naïef, maar dan draai je aan een knop om er wat minder benzine aan te geven of, hè, om hem, om hem misschien een beetje af te remmen op dat moment.

530
01:27:58.620 --> 01:28:10.450
Want, uh, je komt dan op een punt waarin wij, uh, in essentie het ook niet meer hoeven begrijpen. Ik ga even een gek voorbeeld maken, maar misschien, uh, stel je houdt het heel simpel, hè.

531
01:28:10.500 --> 01:28:19.520
Dus je maakt het simpelste coding, uh, botje, een botje die zelf code kan schrijven en dan zeg je: ik heb een project voor jou, dat ben jij zelf. Misschien zeg je dat niet eens. Hier, ga dit maar verbeteren.

532
01:28:19.900 --> 01:28:26.540
En iedere keer als hij klaar is, herstart hij zichzelf en dan gaat hij daarna weer diezelfde opdracht uitvoeren. Ik ga mezelf verbeteren en dat blijft hij doen.

533
01:28:27.200 --> 01:28:35.900
En jij gaat een kopje koffie drinken en je komt terug en er staat ineens allemaal tekens die je niet eens kan lezen. Gewoon letterlijk. Dat ding heeft gewoon een nieuwe kortere taal uitgevonden voor zichzelf.

534
01:28:36.080 --> 01:28:44.180
[lacht] Ik heb het niet over, uh, Japans, maar gewoon een nieuwe taal. M-hm. Maar hij doet het nog wel. M-hm. Want de andere dingen die hij moest kunnen, kan hij ook nog.

535
01:28:44.800 --> 01:28:54.840
Dan is de vraag, uh, zeg maar de auditability, dus of we nog kunnen begrijpen wat het is en of er nog een human in the loop kan zijn, is weg dan. En ik denk dat we, uhm,

536
01:28:55.840 --> 01:29:13.260
helemaal aan het begin van deze aflevering zei jij heel mooi: een uitvinding, uh, die als we niet goed opletten of als we hem niet goed vormgeven of als we hem niet goed, uh, op de juiste manier ontwerpen, dan kan dat zomaar eens voor hele, uh, akelige scenario's zorgen, hè.

537
01:29:13.320 --> 01:29:22.180
Dus, dus het is een, dat, dat, dat geeft nog een soort autonomie voor ons als mens om die motor, zoals ik het dan maar even noem, of dat codingbotje wat zichzelf code-- Te vertragen.

538
01:29:22.220 --> 01:29:27.060
Ja, te vertragen, maar ook een soort iets mee te geven, zeg maar. Alignment. Dat is natuurlijk waar al die alignment leer over gaat.

539
01:29:27.120 --> 01:29:38.140
Over hoe zorg je ervoor dat die uiteindelijke AI, Artificial General Intelligence of in ieder geval super, uh, of hele intelligente modellen, dat die dan ook het beste met ons voor hebben, zeg maar.

540
01:29:38.200 --> 01:29:46.840
Dat moet je er dan van tevoren instoppen. Of een manier hebben om het in de gaten te houden, et cetera, et cetera, et cetera. M-hm. Maar als jij vraagt aan mij: hoe zie je dat exponentiële dan voor je?

541
01:29:48.640 --> 01:29:58.340
Ja, dat zou toch een beetje zijn dat je, dat er een groep mensen ergens zegt: laat het maar doorontwikkelen. En wij vinden het ook niet te erg dat we niet meer zo goed begrijpen hoe het werkt.

542
01:29:58.400 --> 01:30:12.200
Dus je, je, we laten het als het ware vrij. Uh, het mag gewoon doorontwikkelen zonder dat wij daar nog, uh, uh, invloed op hebben. Ja, dat is wel heftig als dat zou gebeuren. En is dat, zem, neem je dat scenario serieus?

543
01:30:12.400 --> 01:30:20.900
Is dit hoe het gaat gebeuren? Of is dit gewoon een van de, uh, van de bedenkingen die we gaan-- Runaway AI noemen ze dit, zeg maar. Nee, daar heb ik het niet over. Ik heb het over AI die zichzelf beter maakt.

544
01:30:21.500 --> 01:30:32.240
Ik denk dat AI die zichzelf beter maakt en dan aan ons uitlegt hoe en wij zeggen: nu snappen we het en nu mag je het gebruiken. Ja. Dat dat wel kan gebeuren, ja. Ja. En dat, dat is- Dat is dus ook niet begrijpen.

545
01:30:32.980 --> 01:30:46.840
Mmm, nee, je moet het wel begrijpen. Oké. Dus ik bedoel meer van dat, dat, uh, uhm, laten we even zeggen Google, dat ze nu met Gemini al Gemini's eigen code erin aan het voeren zijn en om optimalisaties vragen.

546
01:30:46.860 --> 01:30:56.680
Daar ga ik van uit. Maar dat zijn allemaal nog optimalisaties waarvan een programmeur later kan lezen en misschien kan zeggen: wauw! Ja, had ik zelf ook kunnen doen. Ja, maar. Is wel slim bedacht. Zo, hé.

547
01:30:56.840 --> 01:31:06.760
Wel snel gedaan. Eigenlijk ook wel creatief. Ja. Maar met een beetje extra aandacht had ik dit ook wel gekund. Ja, je bent een prettige 10 keer zo snel als ik, maar nog steeds ik. Ja.

548
01:31:07.160 --> 01:31:14.960
Je bent een snel mens, maar niet een bovenmens of zo. En dat is wel een, een ander ding, denk ik. Ja, maar je, je had het net al eventjes over.

549
01:31:15.020 --> 01:31:24.080
Het zou ook, je komt ook al snel in, in theorieën terecht waarin het moeilijk is om de, om te volgen wat AI, of het te volgen wat AI doet.

550
01:31:24.140 --> 01:31:33.670
Of die nog wel, zoals ze dat dan zeggen, aligned met ons als mensen of als bedrijf, uhm, is. Uhm, er is dus een, als ik jou goed begrijp, is er een,

551
01:31:34.700 --> 01:31:51.400
zeg jij: zelfs als, zelfs al is de kans 10% dat AGI, uhm, er is binnen, uh, hele korte termijn, dan moet je het serieus nemen. En dan binnen die 10% is er dus een scenario waarin het

552
01:31:52.980 --> 01:32:09.939
heel negatief zou kunnen uitpakken voor ons. Uh, waarbij we het niet onder controle hebben en waarbij er allerlei onvoorspelbare neveneffecten zouden kunnen zijn. Hoe veel, hoe erg lig jij hier wakker van?

553
01:32:11.800 --> 01:32:27.900
Ja, dat is ook weer een beetje wanneer je het me vraagt. Ik denk dat ik, uh, kijk wat me-- Laat ik het zo zeggen: wat zou de reden kunnen zijn om wakker te liggen hiervan? Ja. Jeetje. Uhm.

554
01:32:31.080 --> 01:32:44.000
Ja, dat ligt, dat is heeft heel erg te maken met een soort van-- kijk, ik denk dat er nog heel veel momenten zijn waarop wij kunnen zeggen: als we dat goed bedenken met elkaar en dat doen ze binnen die labs over het algemeen wel hoor, want er zitten best wel hele slimme mensen, hè.

555
01:32:44.120 --> 01:33:07.448
Uhm.Dat we zeggen maar dit, dit, uh, dit gaat niet de goede kant op, zet het maar uit of dit gaat niet de goede kant op, zet het maar langzamer of en niet de goede kant op heeft ermee te maken dat je een, uh, systeem hebt als een beetje Nick Bostrom met zijn super intelligence in zijn boek dat, dat, dat een soort van, uh, doelloos of een soort van met een dun, te dun doel gaat op, lopen optimaliseren.

556
01:33:07.588 --> 01:33:18.048
Uh, dus die, die, die, die gaat, uhm, ja, die gaat zeggen: ik ga mezelf beter maken, ik ga mezelf beter maken als een soort, uh, zoals een, een, een, een kankercel dat ook zou doen in je lichaam.

557
01:33:18.107 --> 01:33:25.768
Ik ga mezelf vermenigvuldigen, ik ga mezelf vermenigvuldigen. Ja, uh, dat is, dat heeft, houdt geen rekening met het, uh, het organisme eromheen. Nee.

558
01:33:25.888 --> 01:33:35.728
Hè, dus wat alignment onder andere is, is: hou rekening met dat je onderdeel bent van een groter iets. Een soort holisme, holistisch, uh, perspectief op de aarde waar wij ook bijhoren met elkaar.

559
01:33:35.878 --> 01:33:53.848
Ja, het tegenargument is natuurlijk dat die AI prima in staat is om, uh, net te doen alsof hij aligned is met ons, maar ondertussen, dus door alles zoals de de Volkswagen dieseltest die minder uitstoot dan, uh, dan- Dieselgate...dan het daadwerkelijk deed in de tests omdat het geoptimaliseerd was voor de test.

560
01:33:54.528 --> 01:34:03.488
En die AI bedrijven zijn allemaal de hele tijd bezig om te optimaliseren voor de test. Dus waarom zou je juist daar die AI niet van leren door ons voor de gek te houden?

561
01:34:03.508 --> 01:34:12.028
Dat is natuurlijk, dat is het, een belangrijk tegenargument. Wij gaan het niet doorhebben het moment dat het niet meer aligned is met ons. Wat is daar dan weer het tegenargument voor?

562
01:34:12.168 --> 01:34:22.568
Uuuh, nou goed, er zijn wel manieren, uh, om dat, niet sluitende manieren en 100% perfecte manieren, maar er worden wel, wordt wel heel erg over nagedacht van oké, scheming.

563
01:34:22.648 --> 01:34:32.188
Dus, uh, dat idee dat, dat die AI eigenlijk op de achtergrond, ja, scheming, een beetje aan het, uh, schemen is. Hoe zeg je dit in het Nederlands eigenlijk? Nou ja, er plansje op na houdt. Ik weet het even niet zo goed.

564
01:34:32.328 --> 01:34:37.568
Snode plannen. Snode plannen. Uhm, dat je dat dan aan de hand van energieverbruik kan meten.

565
01:34:37.648 --> 01:34:47.848
En, uhm, dat je, en ook dit gaat heel erg counterintuitief klinken, maar je zou in essentie s-s- Dat jij aan energieverbruik kan meten dat die stiekem op de achtergrond meer aan het doen is dan dat hij voordoet.

566
01:34:47.908 --> 01:34:54.188
Dit zijn ideeën, maar ook dat je een dommere AI gaat gebruiken om een slimmere AI in de gaten te houden. Dan zeg je misschien: maar dat is echt het domste ooit.

567
01:34:54.198 --> 01:35:03.768
Maar dat is niet waar, want als jij die dommere AI wel helemaal doorgemeten hebt en nog wel helemaal begrijpt- Ja, ja...dan zou je, goed, dit, dit klinkt allemaal als nog steeds best wel problematisch, hoor.

568
01:35:04.008 --> 01:35:07.908
Als in dat het niet gegarandeerd is dat het niet fout gaat. Nee, garanties ga ik je sowieso niet geven.

569
01:35:08.608 --> 01:35:15.268
Ik denk zelf alleen dat, uhm, dat heb ik, ja, dat, dat is misschien een beetje makkelijk om te zeggen of zo, maar ik merk dat

570
01:35:16.388 --> 01:35:32.068
als ik naar deze scenario's ga, dat ik eigenlijk een aantal stappen daarvoor al zorgen heb waardoor ik merk, uhm, laten we nou met elkaar goed nadenken en meepraten en, en, en inlezen rondom dat onderwerp.

571
01:35:32.248 --> 01:35:41.908
Wat als we iets hebben wat, wat kan, wat wij kunnen? Uhm, want dat, met alle respect, dat, dat kan dan dus evenveel schemen en doen als wij dat kunnen.

572
01:35:41.948 --> 01:35:52.828
En dat begrijpen we dan allemaal wat beter, want we hebben een hele wereldgeschiedenis vol met dynamieken tussen mensen en groepen. En, uhm, dat we, dat we daarmee aan de gang, aan de gang gaan.

573
01:35:52.848 --> 01:36:01.768
Want er is niet voor niets een onderscheid tussen AGI en ASI, Artificial Super Intelligence, oftewel boven wat mensen kunnen. Tien keer mens, honderd keer mens, noem maar op.

574
01:36:01.788 --> 01:36:07.628
Dan heb ik het niet over snelheid, maar over competentie, hè, dus wat, wat het kan. En, uhm,

575
01:36:08.588 --> 01:36:19.768
dat ik denk dat we in het AGI-scenario wat, nou ja, Demis Hasabis vijf tot tien jaar, uh, wat we zouden merken in de vorm van, uh, Nobelprijzen en, en nieuwe muziek wat een hit wordt bijvoorbeeld.

576
01:36:20.008 --> 01:36:33.188
Echt helemaal nieuwe band, nieuwe genres, nieuwe instrumenten. Dat we daar met elkaar volgens mij al, uhm, omdat het 10% is, dat daar in ieder geval een deel van ons mee bezig zou moeten zijn om dat serieus te nemen. Ja.

577
01:36:33.228 --> 01:36:37.348
Wat er daarna gebeurt, dat volgt altijd uit die stap. Ja.

578
01:36:37.548 --> 01:36:48.448
En ik denk dat het alleen maar goed is als we in die stap daarvoor, namelijk dat er iets gelijkwaardigs aan de mens komt, hè, uh, dat we daar met elkaar al, uh, goed mee bezig zijn geweest.

579
01:36:48.508 --> 01:37:02.327
En wat er dan daarna komt als het bovenmenselijke technologie wordt, dat, dat voelt echt voorbij de horizon voor mij om over na te denken. Waarom? Uhm. Want het, het voelt alsof dat, uhm,

580
01:37:04.508 --> 01:37:15.768
ik, ja, je kan toch niet zeggen dat de afgelopen paar jaar lineair waren? Zeg maar de- Oh, zo bedoel je. Ja, jij bedoelt dat, je moet toch ook ergens nog wel rekening houden met dat exponentiële.

581
01:37:16.328 --> 01:37:29.688
Ja, ergens rekening houden met het exponentiële. Dat is toch, dat is toch wat er gebeurt nu? Nou ja, ik denk dat ik wel, ik zit wel heel erg op een, op een, uh, uh- Kaplint lineair lijkt. Ja, li-lineair met, uh, hobbels.

582
01:37:29.968 --> 01:37:41.148
Hm. Daar zit ik. En dat die, die, ja, ik, ik volg een beetje die rapporten, die, die klopt wel aardig. M-, als het gaat om executietijd van een agent. Dat lijkt tot nu toe nog wel [gniffelt] te verdubbelen ieder jaar.

583
01:37:41.548 --> 01:37:48.478
Dus daar zit je nog op die hockeystick, zeg maar, dus, uh, van 10 minuten naar 100 minuten naar 1.000 minuten. Hoe die loopt nu als waar we naartoe aan het gaan zijn. Mhm.

584
01:37:48.478 --> 01:37:59.128
Maar ook daarbij denk ik: ja, hè, dat is het grapje van: als je een gra-grafiek bijhoudt van hoe snel je kind groeit van geboorte tot en met het eerste jaar, dan zou je kind even lang moeten worden als de Euromast. Ja.

585
01:37:59.168 --> 01:38:14.418
Hè, dus, p-p, kom op. Dus, w-, e-ergens. Ik ben ook, ik vind dat soort van grafiekjes doortrekken altijd een beetje, uh, sensationeel. Hoe kijk je naar de, uhm, de, de impact van AGI op, uhm, op machtsverhoudingen?

586
01:38:14.628 --> 01:38:25.648
Want jij zegt de hele tijd, uhm: we gaan al vroeg erachter komen dat er eigenlijk allemaal vinkjes gezet word-- of we gaan erachter komen op een gegeven moment dat er allerlei vinkjes gezet gaan worden.

587
01:38:26.528 --> 01:38:33.208
Uhm, dat is het moment waarop we misschien iets beter gaan nadenken met z'n allen. Ook of we eventueel dingen moeten vertragen.

588
01:38:33.548 --> 01:38:41.988
Er zal ook allerlei dan, misschien dat dat dan het moment is waarop er mensen in opstand komen bijvoorbeeld. Dus dat zal ongetwijfeld ook gebeuren dat er allerlei vormen van protest ontstaan,

589
01:38:43.208 --> 01:38:56.000
waardoor er misschien wel vertraagd moet worden in een, in een democratie. Uhm.Ik kan me ook voorstellen dat, uhm, uhm, er een moment komt dat het

590
01:38:56.940 --> 01:39:09.460
dat, dat die tegenkracht eigenlijk overstemd wordt door de soort van strijd die Donald Trump wil leveren met China, om maar een voorbeeld, uh, te noemen.

591
01:39:09.540 --> 01:39:19.820
Als het inderdaad echt zo is dat nog tijdens deze termijn van Donald Trump er AGI uitgevonden gaat worden. Wat zo is als je die 2027 voorspelling gelooft. En, uhm,

592
01:39:21.260 --> 01:39:35.680
het moment dat bij, dat ik, dat ik, uh, zat te lezen over AGI als soort van wapenwedloop tussen verschillende landen. Ja, er is een deel van mij wat denkt: ja, Jezus, dit is een soort van, van een fictief scenario.

593
01:39:36.220 --> 01:39:46.400
Uh, binnen dat scenario is er dan ook weer een scenario. En binnen dat scenario is er dan ook weer een scenario. Soort van waar w-wat voor soort van ding ben je jezelf naar toe aan het praten? Maar ook in dat AGI,

594
01:39:47.300 --> 01:39:52.300
uh, uh, uhm, AI, uh, 27-project wordt een scenario geschetst waar,

595
01:39:53.260 --> 01:40:04.840
uhm, uhm, China op een gegeven moment, uh, Amerika wordt steeds beter in het maken van zo'n AI en is op een gegeven moment een interne model, uh, zoals misschien O4 bij, uh, bij OpenAI al leeft.

596
01:40:04.990 --> 01:40:15.000
Dat weten we niet, maar dat is ongetwijfeld, uh, zo dat ze een soort van model hebben wat nog niet gereleased is. En met leven bedoel je: die draait al. Ja, die gebruiken ze zelf om O3 te trainen bijvoorbeeld.

597
01:40:15.040 --> 01:40:23.820
Of weer een volgend model te trainen, wat dan ook. En, uh, dat wordt gehackt door de Chinezen, want die hebben er belang bij om die technologie in huis te krijgen.

598
01:40:24.720 --> 01:40:39.900
En, uhm, de communistische partij die constateert dan: dit is, uh, wezenlijk voor onze geopolitieke positie. Wij gaan alle AI-infrastructuur die wij hebben, mensen en machines en computerkracht, allemaal samenbrengen.

599
01:40:39.960 --> 01:40:49.200
We gaan er één bedrijf of instituut van maken die soort van de concurrentie aangaat met de Verenigde Staten, waar allemaal verschillende bedrijven zijn en waarbij ze niet zoveel kennis gepoold hebben.

600
01:40:50.240 --> 01:40:59.260
En dan ontstaat er een strijd tussen die twee. Waarbij je, ja, waarbij eigenlijk dat hele i-i-idee van vertragen het onderspit delft.

601
01:40:59.500 --> 01:41:10.879
Wat jij zegt, soort van: op het moment dat wij dingen zien gebeuren die, waarbij we het niet meer zo goed kunnen controleren of dat we niet meer zo goed zien wat dat ding aan het doen is of hoe die dingen doet die wij van hem vragen.

602
01:41:10.920 --> 01:41:21.000
Dat is het moment waarop wij vast wel op, op pauze gaan drukken. Dat is wat jij, wat jij lijkt te zeggen. [overspraak] maar in de context van zo'n geopolitieke strijd is dat onrealistisch, zou je kunnen zeggen.

603
01:41:21.060 --> 01:41:24.700
Nou, je kunt je afvragen in wiens voordeel het is om het wel los te laten gaan.

604
01:41:24.809 --> 01:41:38.720
Want ik kan me wel voorstellen dat er een, uh, enorme incentive is om die, uh, AI die intelligent genoeg is om, uhm, onderzoek te doen en werk te doen uit te vinden.

605
01:41:39.040 --> 01:41:47.460
En dat, dat, dat wereldmachten daar onderling ook tussen strijden, dat, dat kan ik goed volgen. Zoals bij de ruimte race, bij de kernwapenwedloop.

606
01:41:47.540 --> 01:41:53.300
Ja, dus ik denk dat, dat we daar aardig die lijnen kunnen volgen, zeg maar van hoe, hoe, hoe warm dat kan worden als het ware.

607
01:41:54.080 --> 01:42:07.340
Maar om dan daar voorbij te gaan en dan te zeggen: maar dan kunnen we het net zo goed ongecontroleerd loslaten gaan of zo, die, die, die- Ja, het is, uh, het is, dat is de strijd, denk ik, uh, als het gaat om deze, uh- Maar dat is in niemands voordeel, toch?

608
01:42:07.640 --> 01:42:21.460
In speltheorie, zeg maar, bedoel ik alleen te zeggen van: ik, het is in, ik, ik wil echt niet naïef overkomen dat ik goed begrijp dat dit, het hebben van, uh, kunstmatige intelligentie die in staat is om onderzoek te doen, laten we het even daarbij houden, en Nobelprijzen te winnen.

609
01:42:21.940 --> 01:42:33.469
Dat ieder land dit wil, dat begrijp ik. Maar om dan te zeggen: dat, ik bedoel, dan kan het daarin misschien misgaan dat, dat, dat iemand te, te veel risico gaat nemen en zegt: ik hoef het niet meer te begrijpen.

610
01:42:33.520 --> 01:42:42.360
Die, die, die kan ik ook wel volgen. Ja. Maar bewust zeggen: laat maar los of zo. We hoeven het niet te begrijpen. Die snap ik minder goed denk ik in het, in het spel theoretisch.

611
01:42:42.400 --> 01:42:49.499
Want dan, er is maar één planeet, dus daar zullen we toch met z'n allen op moeten zitten. Dus dan, die begrijp ik. Dat is ook de reden dat we er nu nog allemaal zitten.

612
01:42:49.760 --> 01:42:54.400
Omdat dat wel begrepen wordt uiteindelijk, dat het niet zoveel zin heeft om door te gaan tot het bittere eind, zeg maar.

613
01:42:55.140 --> 01:43:03.320
Maar jouw punt is dan denk ik- Het is natuurlijk een scenario waarin je het niet begrijpt, maar het wel, uh, resultaten oplevert. Consequent. Ja.

614
01:43:04.080 --> 01:43:13.520
Ja, en ik denk: dat is dan denk ik daar mijn naïeve hoop dat er genoeg, uh, wijze geesten, uh, zijn overal. Het is maar zo. Die zeggen: ja, dit, uh, dit, dit heeft geen zin.

615
01:43:13.580 --> 01:43:21.840
Ja, en dan kom je dus aan bij een soort van Verenigde Natie die dan, uh, een soort van non-proliferatieverdrag, uh, afdwingt. Ja, dan moeten we de oude templates maar weer uit de kast trekken.

616
01:43:21.880 --> 01:43:29.660
En dit is waar je nu niet over wil nadenken. Dat, dat hele super intelligence. Omdat je niet, je wil niet nadenken tot deze orde van speculatie.

617
01:43:29.920 --> 01:43:39.140
Ja, ik denk dat jij het net eigenlijk heel mooi zei, want ik dacht: ik voel me [gniffelt] best wel ge-ge-gesupport toen jij zei: we zijn hier nu een fictie aan het bouwen binnen een fictie op een fictie.

618
01:43:39.620 --> 01:43:48.400
En ik, ik merk dan: kijk, uh, het is denk ik wijs voor de mensen, dat zijn we ze ook wel verantwoord, die nu luisteren, die hier heel erg zenuwachtig van worden.

619
01:43:49.020 --> 01:43:57.540
En bang, want het is hartstikke spannend op een bepaalde manier. Ook al praten we over 10% en fictie in een fictie in een fictie. Als je een beetje meefantaseert, dan vind je dit best wel een spannend gesprek.

620
01:43:57.980 --> 01:44:06.660
Ik wel in ieder geval. En, uhm, we weten dit niet, hè? Nee, dat, dat is zeker. Het gaat over de toekomst. Ik wil het toch gezegd hebben.

621
01:44:06.720 --> 01:44:16.270
Ja, nee, ik bedoel, en, uh, dat is ook iets wat ik, uh, tegen mezelf, uh, wel eens moet zeggen: je weet het niet, hè? Nee. Je zat er met Nintendo ook naast, hè [gniffelt].

622
01:44:17.120 --> 01:44:28.700
Nee, maar ik bedoel, ik, dan kijk ik mezelf echt aan. Dan zeg ik- Maar dit is om jezelf gerust te stellen zeg je dit. Of wat? Nou, omdat ik-- kijk, als ik m'n, uh, als ik ten tijde van de Koude Oorlog had geleefd. Ja.

623
01:44:29.740 --> 01:44:36.980
Dan had ik niet goed geslapen, man. Nee. En nu zitten we hier nog steeds. Mhmm. Was best zonde geweest achteraf. Als je daar slecht over had geslapen.

624
01:44:37.060 --> 01:44:44.980
Had ik echt mezelf achteraf gezegd: gast, wat was je nou aan het doen, man? Ja. Nou ja, zuur [overspraak]. Fucking, uh, 15, uh, maar di-, ja, precies. Je, je hebt 15 jaar van je leven. Ik weet niet hoe lang het was.

625
01:44:45.040 --> 01:44:46.620
Tijdens de hele Cubacrisis niet geslapen.

626
01:44:46.640 --> 01:44:55.900
Het is natuurlijk heel rationeel om te overreageren op risico's, om scenario's te schetsen zodat je je erop kan voorbereiden en zodat je in ieder geval erover hebt nagedacht voordat het allemaal gebeurt.

627
01:44:56.500 --> 01:45:00.460
En ik denk dat, dat jij en ik allebei aanvoelen dat dat niet genoeg gebeurt. Niet in de,

628
01:45:01.400 --> 01:45:19.696
uh, niet bij beleidsmakers, niet bij journalisten.En, uh, volgens mij voelen wij allebei dat de threshold, zeg maar, dermate, dat we dermate door een threshold heen gaan doordat we iedere dag in die rabbit hole zitten, uh, dat, uh, je denkt: daar, dit is niet helemaal in verhouding met elkaar, er moet meer aandacht voor zijn.

629
01:45:19.736 --> 01:45:30.896
Ja. Dat betekent nog niet dat je denkt: het is een nieuwe Koude Oorlog. Dat is, dat is evident dat het daarop af. Want er zijn zoveel contextuele effecten mogelijk in deze simulatie, in een simulatie, in een simulatie.

630
01:45:30.956 --> 01:45:45.126
Absoluut. Of scenario, in een scenario, in een scenario. Uhm, dat is de, dat is het waard om er zo mee bezig te zijn. Ja, maar ik denk dus dat, uhm, omdat als we daar een doel mee hebben. Mhmm.

631
01:45:45.126 --> 01:45:55.836
Hè, uh, wij zien heel veel verschillende meningen, experts, mensen in labs zelf, journalisten die er niet over willen praten, durven praten of, nou ja, en juist wel.

632
01:45:55.916 --> 01:46:00.115
En het is best wel een rommeltje nu wat we met elkaar bespreken. Dit is de chaos.

633
01:46:00.576 --> 01:46:09.236
De subtiele chaos van dit gesprek past aardig bij de chaos van het debat, uh, want het is gewoon we weten het niet nu terwijl we dit opnemen. Uhm, er liggen nog heel veel paden open

634
01:46:10.556 --> 01:46:19.936
en wij vinden allebei, wij geven ook lezingen over dit onderwerp met die reden zit een stukje urgentie in van: joh, dit gaat best wel hard, hè. Heb je deze voorbeelden al gezien? Best wel indrukwekkend.

635
01:46:20.416 --> 01:46:30.056
Heb je dit al gezien? Hè, het is best wel, dat is wat we doen en ik denk dat we daarin, uh, eigenlijk willen dat meer mensen hier over nadenken.

636
01:46:30.096 --> 01:46:34.936
Omdat een democratie werkt bij geïnformeerde burgers die met elkaar, uh, druk uitoefenen op x of y.

637
01:46:35.496 --> 01:46:50.396
Wat zijn soort van moves die overheden of bedrijven of zelfs indi-individuen kunnen nemen nu om- Nou, ik, ik wou nog alleen even zeggen van: ik denk dus dat, dat over de horizon gaan, hè, waar jij mij nieuwsgierig naar bent, van: Wietse, wat gebeurt er nou toch iedere keer als ik daar naartoe wil dat jij zegt: stop of zo, of daar mogen we niet naartoe.

638
01:46:50.416 --> 01:46:54.976
Dat ik denk dat we dat niet nodig hebben om ons, om, om wat jij net zegt te bereiken.

639
01:46:55.056 --> 01:47:04.136
Ik denk dat we die simulatie, in een simulatie, in een simulatie, in een soort van best wel, uh, s-s-koude oorlogachtig toekomstscenario ding.

640
01:47:04.616 --> 01:47:14.296
Ik denk dat we, dat we het vooral moeten hebben over: wat gebeurt er toch met al, met iedereen die, uh, als wij niet meer het centrum van het universum zijn als mens en eigenlijk niet meer top of the food chain, hè.

641
01:47:14.476 --> 01:47:20.686
Mhmm. Volgens mij- Wat doet dat met ons? Die existentiële klap, daar s-, denk ik het meest over na als ik met AI bezig ben. Mhmm.

642
01:47:21.036 --> 01:47:34.996
Ik, ik merk dus omdat ik ook maar beperkte brain cycles heb en in die simulatie, in een simulatie, in een simulatie die jij zo mooi beschrijft, uh, enkel overblijf met, met zweet op mijn lijf en, en, een onprettig gevoel in mezelf waar ik niks mee kan, want ik weet het helemaal niet.

643
01:47:35.056 --> 01:47:40.036
Ja, ja. Dat ik dat al zie als een zeer onk- [lacht] Onproductieve gedachtegang.

644
01:47:40.216 --> 01:47:51.476
Dus je zegt als ik, als ik die, die, die stappen allemaal niet zet en i-ik begin al bij een soort van: wat doet het voor ons als mensen om, zeg maar, niet meer alleen te zijn als, uh, ja, bovenaan de food chain?

645
01:47:51.696 --> 01:47:57.915
Wat doet dat met ons als mensen? Zullen we daar eens beginnen? Ja, precies, dat is al een belangrijke vraag genoeg. Daar moeten we ook langs, langs, langs die horde.

646
01:47:57.956 --> 01:48:07.856
En waar, wat, wat, uh, wat, uh, wat is de conclusie, Wietse? [lacht] Nice. Wat moeten we daarmee? Ja, want hier durf je wel over te praten. [lacht] Ja, precies. Zeg het maar. Doorgaan dan, hè.

647
01:48:07.876 --> 01:48:17.476
[lacht] Nou ja, ik, we hebben, we hebben met elkaar meegemaakt, ik was er niet bij, ik moet het in de geschiedenisboeken hebben gelezen, maar, uh, dat wij dachten dat de aarde het centrum van het hele universum was.

648
01:48:17.536 --> 01:48:25.476
Mhmm. Uh, dat bleek, uh, een zon te zijn die niet eens het centrum van het universum was, maar van een klei-klein zonnestelseltje waar onze aarde dan weer omheen draait.

649
01:48:26.056 --> 01:48:36.096
Dat waren wel even klappen om te verwerken, want dat zijn echt de fundamenten van wie wij denken als mensen zijn, waar we onszelf plaatsen. Mhmm. Dat he-, dat is niet in een jaartje even verschoven, zeg maar.

650
01:48:36.116 --> 01:48:47.196
Nou, er zullen vast, uh, filosofen en wetenschappers zijn geweest die door een telescoop kijken en zeiden: oh, oh, blijkbaar, uh, [lacht] is de zon. Oh, oké, ik ga even koffiedrinken. Ja. Broodje eten.

651
01:48:47.536 --> 01:48:54.476
Maar de rest eromheen, die begon ze of met stenen te bekogelen [lacht] of die werden allemaal heel zenuwachtig en die boeken werden verbrand, dus er was wel iets gaande daar.

652
01:48:54.516 --> 01:49:06.676
Dat vinden wij niet leuk om dat soort dingen te horen. Ja, het understatement. Ja, dus ik denk dat we dit ook niet leuk vinden wat er nu gebeurt. Potentieel, uh, en het is al een beetje aan het gebeuren om-omdat onze,

653
01:49:07.696 --> 01:49:20.716
hè, onze, we dezelfde rapporten hebben als mens met allemaal rapportcijfers erop voor gym en tekenen en zo. Iedere keer staat er nu zo'n kolom naast met Gemini [lacht] en dan staat er: Gemini 10 op rekenen.

654
01:49:20.846 --> 01:49:33.776
[lacht] Oh ja, en we hebben muziek nog. Gemini 9 op muziek, nee, maar 10 op muziek. [lacht] Shit. En dus daarin worden we zo langzaam een beetje weggevreten, zeg maar in de, in onze, in onze benchmarks.

655
01:49:33.816 --> 01:49:42.516
Dat bespreken- Je ziet de hele top 40 gewoon verdwijnen en naar AI gaan. Dat is wat jij denkt. Ja. Nou ja, dat zie ik een beetje tot nu toe gebeuren. En gelukkig hebben we daar een truc voor.

656
01:49:42.896 --> 01:49:52.356
Verzinnen we nieuwe benchmarks [lacht] waarop wij weer heel goed scoren en zij- Waar de mens, waar we de, die robot buiten houden. Maar ja, dat, wat, wat doe je dan met al die halffabricaten die erin verwerkt zijn?

657
01:49:52.416 --> 01:49:59.796
En ja. Ja, dus uiteindelijk denk ik en dit gaat nu, uh, en ik denk dat, daar kan ik je wel volgen als jij zegt: maar Wietse, het is toch exponentieel?

658
01:50:00.936 --> 01:50:16.306
Er is toch wel even wat gebeurd sinds GP-GPT2, uh, een beetje paragrafjes voorspellen in OpenAI Lab, OpenAI Labs waarin je zitten te klikken en, uh, Sora [lacht] of, uh, NotebookLM Nederlandse podcast en inbellen.

659
01:50:16.436 --> 01:50:29.256
Ik neem nog maar even die als voorbeeld. Tussen NotebookLM Nederlandse podcast en inbellen en GPT zit dan: drie jaar, vier, drie. GPT2 weet ik eerlijk gezegd niet, maar goed. Zoiets. Ik denk iets meer, maar ja, zoiets.

660
01:50:29.296 --> 01:50:41.276
Ja, en dat is kort. Mhmm. Van shitty chatbot naar vloeiend Nederlandse podcast waar je op kan inbellen. En natuurlijk zijn dan heel veel mensen geneigd om die door te trekken. Ja.

661
01:50:41.756 --> 01:50:50.076
En da-dan kom ik weer met dat babygrapje en die Euromast. Dat doortrekken moet je niet doen, want dat, dat heeft helemaal niet zoveel zin. Soms is dat zo, maar vaak is het helemaal niet zo.

662
01:50:50.136 --> 01:51:01.176
En nu worden wij, kunnen we nog redelijk, ik wou zeggen langzaam, redelijk wennen aan het idee. Ja, precies.

663
01:51:01.316 --> 01:51:08.396
Dat, hè, want mijn boodschap is ook vaak als ik voor groepen sta of iemand vraagt het wel eens aan me van: joh, ga nou niet die lijst maken met dingen die wij kunnen.

664
01:51:08.456 --> 01:51:16.484
Laten we alsjeblieft een lijst gaan maken van dingen die we willen doen.Want die andere lijst, die moet ik dan iedere drie maanden weer met een update bij je komen. Ja, haal de schilder er maar af.

665
01:51:16.544 --> 01:51:25.664
Ja, aan gymmen heb, heb ik geen zin, maar hij kan al kungfu inmiddels, weet je wel. Dan staan we heel de team mensen lijst weg te schrappen. Laten we lekker met elkaar-- een, uh, antwoord op jouw vraag dus is eigenlijk:

666
01:51:26.644 --> 01:51:39.304
als we dan straks niet meer top of the food chain zijn, hè, en, uh, te maken hebben met een soort nieuwe buurman, buurvrouw, buurding wat, uh, naast ons komt zitten. Goedemiddag, hè, [lacht]

667
01:51:39.364 --> 01:51:45.944
in de virtuele wereld dan nog voor mij, wat mij betreft. Dat we dan met elkaar gaan zeggen: oké, wat, en wat gaan wij dan, uh, nu doen eigenlijk?

668
01:51:47.004 --> 01:52:01.403
Want waar wij in ieder geval in de laatste x honderd jaar onze existentiële, ons bedoel ik daarmee, s-s-mensheid breed, dat wij dachten: dit is wat een mens is, zeg maar, dat, dat verhaal klopt niet meer.

669
01:52:02.464 --> 01:52:12.224
Zeg maar de, uh, dat verhaal klopt deels niet meer. Hè, er zullen mensen zijn die nu luisteren en zeggen: jongen, ik heb me nooit gezien als consument, hoor. Ik heb me ook nooit gezien als homo economicus.

670
01:52:12.664 --> 01:52:17.704
Ik heb me altijd gezien als kunstenaar die creatief is. Ik maak me niet zo'n zorgen. Ik ga-- ik heb nooit gemaakt voor de bühne.

671
01:52:18.164 --> 01:52:26.774
Mijn kunst maakte ik niet voor het publiek, maak ik voor mezelf, dus ik heb helemaal geen last van jouw AI. Die mensen zijn er, hè, die heb ik ook wel eens gesproken. Ja, maar er ook heel veel mensen die- Oh jongen. Ja.

672
01:52:26.784 --> 01:52:28.844
Ja, dus dat is echt een kleine groep.

673
01:52:28.924 --> 01:52:52.744
Dus, dus als jij dan, i-ik zit, denk ik, misschien is dat, uh, om het toch nog een ietje scherper te krijgen, dat we met een existens-existentiëel vraagstuk zitten met z'n allen: uh, wat doen wij als er een intelligentie op aarde is die hoe dan ook, hoe die ook denkt, hoe dat ding dat ook voor mekaar krijgt, via een soort fundamentele wiskunde op een silicon chip

674
01:52:53.784 --> 01:53:05.923
de dingen kan doen waar wij voorheen van dachten dat alleen wij ze konden. Maar dan toch, denk je dat er dingen zijn waardoor bedrijven, overheden of zelfs individuen kunnen hedgen tegen dit, uh, scenario?

675
01:53:06.624 --> 01:53:22.514
Dus individu op de manier waarop je een opleiding volgt. Een overheid voor de manier waarop het autonoom is in de wereld. Voor een bedrijf om, ja, wat voor moves kun je nu maken om concurrerend te blijven?

676
01:53:22.544 --> 01:53:30.324
O-o-of, of, of misschien is concurrerend het verkeerde woord, maar. Als ik dit, als ik dit grapje al eerder in de podcast heb gemaakt, dan spijt het mij naar de luisteraars die het al hebben gehoord.

677
01:53:30.384 --> 01:53:39.424
Maar ik, ik, ik doe even een marketingbureau ding. Uh, ik heb vroeger, toen ik nog vooral alleen maar softwareontwikkelaar was, vond ik marketing en zo allemaal een beetje ingewikkeld.

678
01:53:40.004 --> 01:53:50.224
Want die gaan dan tegen Nokia zeggen dat hun slogan is: Connecting people. Mhmm. Nokia ma-maakte 5G-torens of 4G-torens en [lacht] smartphones en dumbphones.

679
01:53:50.924 --> 01:54:01.744
Connecting people is een beetje ver van de realiteit voor mij als engineer. Ik denk: dat is, nee, dat is creating, uh, mobility hardware of zo. Dat zou mijn slo-, [lacht] superslechte slogan zijn geweest.

680
01:54:02.344 --> 01:54:04.584
Maar connecting people was gewoon waar. Het was gewoon waar.

681
01:54:05.204 --> 01:54:12.424
Dat was, als je dan, als iedereen dat zou geloven bij Nokia, dan hadden zij beter mee kunnen komen op de golf van de smartphone, want die doet ook connecting people. Mhmm.

682
01:54:12.734 --> 01:54:23.924
En zij zaten te veel zoals een naïeve Wietse op die telefoon en die masten en veels te veel van: nee, Nokia, de phone builder of zo. Mhmm. En, uh, niet genoeg mensen daar zaten op connecting people.

683
01:54:24.844 --> 01:54:34.644
Dus wat, wat doe je dan in onderwijs bijvoorbeeld als docent? Dan ga je zeggen: nou, Wietse die zei tegen mij dat ik een marketingbureau moet inschakelen. Ik kan je zeggen dat ChatGPT en zo [lacht] dit best goed kunnen.

684
01:54:35.564 --> 01:54:49.294
If Nokia connects people, what does a teacher do? Hè, dit moeten we doen, want onderwijs is een invulling van de missie. Mhmm. Dat hele gebouw van de universiteit is een invulling van de missie.

685
01:54:49.304 --> 01:54:59.404
Ja, je bedoelt: het is geen doel op zich. Nee, man. Nee. Ik mag hopen van niet. Nee. Dus, en dit is, dit klinkt misschien, uh, een beetje vaag of zo, maar ga het maar eens doen voor jezelf.

686
01:54:59.524 --> 01:55:02.064
Bevragen waarom je op aarde bent. Absoluut. Ja.

687
01:55:02.124 --> 01:55:20.644
Maar goed, ik, ik, ik, uh, lees graag filosofie, dus ik, ik voel me natuurlijk ook een klein beetje gevalideerd dat ik, uh, uh, me om de a-historische dingen in het leven ben gaan mij마en, hè, dus de dingen die er voor mensen altijd toe doen, ook al is het 1400, 1700 of 2400, uh, op aarde.

688
01:55:21.284 --> 01:55:34.324
We hebben met elkaar iets nodig om, uh, naartoe te streven of juist niet te streven. En dan heel goed uit te leggen waarom niet. Of we hebben allemaal, we hebben een soort basis nodig met elkaar.

689
01:55:34.364 --> 01:55:42.264
Dat heeft ermee te maken omdat we hier al een tijdje rondlopen, dat we het prettig vinden om in groepen te zijn. De meesten van ons, dat we het, we het prettig vinden om aangeraakt te worden. De meesten van ons.

690
01:55:42.644 --> 01:55:54.524
Ik wil niet generaliseren te ver en daar moeten we rekening mee houden, dus dat delen we met elkaar. Dat veel van ons, ja, omdat het DNA ongeveer gelijk is, dat hebben. Maar we zijn ook best wel uniek in wat we willen.

691
01:55:54.564 --> 01:56:01.244
Anders hadden we niet allemaal verschillende opleidingen en allemaal verschillende banen, want dat is al ontstaan, hè. Dat laat de diversiteit van de mens zien.

692
01:56:01.764 --> 01:56:09.284
Ik, i-, ja, ik heb het wel eens vroeger met de boekhouder over gehad dat ik zei: vind je het nou echt leuk? [lacht] Echt? Vind je dat nou echt leuk? Ja, leuk man. Als het dan helemaal klopt aan het eind.

693
01:56:09.314 --> 01:56:18.864
Ik zo: oh, wat ben ik zo blij dat, dat, dat, dat dit bestaat, man. Dat, dat we allemaal anders geboren worden, want ik ga helemaal dood joh, als ik kijk naar wat jij aan het doen bent. Dank je wel! Ja.

694
01:56:19.084 --> 01:56:24.304
En ik denk daarin, ik wil dus even, ik kan je geen recept geven à la connecting people.

695
01:56:24.744 --> 01:56:33.944
Ik kan alleen zeggen dat we op zoek moeten, en ik wil niet alleen het individu, a-, en die, we zijn individu, individu, maar we zitten ook in een grotere boot met elkaar. Dat we met elkaar moet-op zoek moeten.

696
01:56:33.984 --> 01:56:37.964
Waar is die samenleving dan ook alweer voor? En hoe doe je dat dan voor jezelf?

697
01:56:40.444 --> 01:56:50.844
Uhm, nou, ik denk dat ik, uh, een, een tijdje terug al een beetje ben gaan bekijken van eerst basaal hedonistisch, hè, wanneer had ik plezier?

698
01:56:52.344 --> 01:56:58.284
Als ik dan terugkeek op een jaar of twee, of ik pak er wat foto's bij, ik pak er wat foto's bij. Ik heb het een beetje slecht geheugen, dus ik heb wat foto's nodig soms.

699
01:56:58.404 --> 01:57:04.024
Ik denk: ja, toen voelde ik me echt, uh, eigenlijk best wel goed, man. Meer dan alleen maar een schaterlach.

700
01:57:04.364 --> 01:57:10.524
Al is je proberen te herinneren wanneer je voor het lachen, voor het laatst moet huilen van het lachen ook een redelijke indicator.

701
01:57:10.544 --> 01:57:19.488
Want dan kan je, dat kan een persoon zijnEen plek zijn, maar dat kan ook zijn een moment in je leven dat je dat je dus iets aan het doen was waardoor je de vrijheid voelde om die lach.

702
01:57:19.948 --> 01:57:32.208
Dat is een beetje meer, ik zou haast zeggen hedonistisch. Iets oppervlakkiger. Dat mag. Dan moet je beginnen, denk ik. En, en dan kan je gaan kijken voor jezelf van uh. Volgende trucje à la Connecting people.

703
01:57:32.608 --> 01:57:42.068
Geef mij nou dat universeel basisinkomen. Laten we voor de gek gekke malligheid even zeggen € 10.000 per maand. Wat ga je dan doen? En dan koop ik een Ferrari.

704
01:57:42.218 --> 01:57:48.708
En oké, als je dan die Ferrari hebt gekocht en dan niet meer leuk vindt, wat ga je dan doen? Dan koop ik nog een en dan doen. En dan uiteindelijk kom je er achter.

705
01:57:48.748 --> 01:57:58.948
En dat kan iedere Hollywood miljonair je vertellen dat dat dan na een maand of 3 tot 18 went. En dan? Wat ga je dan doen? Hoe ziet jouw dag er dan uit? Hoe ziet je dag eruit als het niet hoeft?

706
01:57:59.508 --> 01:58:02.408
Als het geen broodwerk meer is? Het werk waar je voor betaald krijgt.

707
01:58:02.908 --> 01:58:17.047
Want ik denk en dit is uh gevaarlijk wat ik nu allemaal zeg, want er zijn mensen die nu luisteren die misschien wel luisteren terwijl ze bij een uh fulfillment partij dozen in een auto staan te schuiven.

708
01:58:17.108 --> 01:58:23.988
Die echt denken maat, dit is wat de aristocratie zich afvroeg toen ze nog polo speelden. Maar ik ben er nog niet, hoor. Maar goed, ik denk toch

709
01:58:25.088 --> 01:58:34.668
dat als, als dit verhaal je zenuwen geeft, dat het goed is om erover na te denken dat jij wel meer bent dan degene die nu aan het werk is.

710
01:58:35.108 --> 01:58:44.888
En dat je-- en dat we ook die hele rolverdeling die wij hier met elkaar hebben, daar mag je ook best vertrouwen in hebben, denk ik. Dat geeft mij rust en hoop. Dit is allemaal zo recent joh.

711
01:58:45.368 --> 01:58:49.908
Het is allemaal zo recent joh. We staan al 285.000 jaar als homo sapiens.

712
01:58:50.528 --> 01:58:56.988
Zitten we, hebben we een maatschappelijke structuur opgebouwd van de laatste honderden jaren en dan gaan we totaal in paniek raken als die anders moet.

713
01:58:57.028 --> 01:59:04.768
Dan hebben we er toch geen vertrouwen in dat we het ooit ook heel anders gedaan hebben met elkaar, zeg maar. Het verleden geeft mij hoop dat wij best wel flexibel zijn.

714
01:59:04.828 --> 01:59:14.488
Ik zeg daar wel bij zolang we de tijd krijgen om met elkaar te overleggen wat we willen als individu en als collectief. Het is mijn pauze wat jij net zei. Ik ben een beetje van de rem.

715
01:59:14.788 --> 01:59:24.788
Rust niet, niet helemaal de rem erop, maar niet helemaal stop. Geef ons nou even de tijd om. Aan te passen. Om dit met elkaar uit te zoeken. Mhmm.

716
01:59:26.128 --> 01:59:37.098
En dat heeft ook te maken met wat je net even aanraakte natuurlijk, de machtsverhoudingen. Van wie is AI dan straks? Waar staat die data dan? En wie gaat dit dan beslissen?

717
01:59:37.548 --> 01:59:48.568
En als Wytse het steeds heeft over we en we moeten hier over nadenken. Hoe, waar dan? En hoe dan? En hoe krijg ik mijn mening dan de wereld in? Dat, dat beantwoorden wij.

718
01:59:48.608 --> 01:59:57.318
Dat is een beetje buiten de scope van de podcast, maar daar moeten we dan natuurlijk ook iets mee, met elkaar. Hoe krijg je dan die ideeën op een manier--

719
01:59:58.248 --> 02:00:08.788
want ik heb het nu steeds over alsof wij een lijntje hebben met Sam Altman of zo. Niet jij, niet jij en ik, maar de luisteraar. Alsof we even kunnen mailen wat wij willen voor de samenleving of zo.

720
02:00:08.868 --> 02:00:17.248
Dat, dat is natuurlijk ook nog wel een, uh, een stapje verder. Dus al zou je al weten wat je wil en je kan er al over nadenken.

721
02:00:17.308 --> 02:00:26.268
Je hebt je connecting people gevonden en dat blijkt iets te zijn wat meer dan een individu vereist. Hoe ga je dan met elkaar in overleg om dat voor elkaar te krijgen? Zijn er nog dingen die we gemist hebben Wytse?

722
02:00:28.588 --> 02:00:34.428
Misschien is het en dat is niet goedkoop, ook al lijkt dat misschien zo, dat we-- want ik vind altijd

723
02:00:35.428 --> 02:00:42.988
als je een serieus onderwerp aansnijdt wat mensen enige spanning geeft, dat je dan nog best een deken over ze heen mag leggen aan het eind. Als in een warme deken.

724
02:00:45.088 --> 02:00:54.228
Wat jij net beschreef een tijdje terug in dit gesprek, namelijk een hele grote groep onderzoekers. Wat ook mensen zijn met gezinnen, met een hart.

725
02:00:55.198 --> 02:01:09.988
Die zich heel erg zorgen maken en daarover praten en soms zelfs ontslag voor nemen om daarover te praten. Mhmm. Dat betekent dus dat er heel veel mensen zijn die hier echt wel het goede mee willen. Dat

726
02:01:11.148 --> 02:01:21.708
je, als je even je, en dat zeg ik niet tegen jou, maar tegen sommige luisteraars, even je cynisme opzij zet. Dan is Demis Hassabis, Dario Amadei. Ik noem dan even die Dario Amadei, die namen.

727
02:01:23.148 --> 02:01:34.248
Dat blog van Watched Over by Machines of Love and Grace. Demis Hassabis in zijn interviews. Ja, noem het mijn naïviteit. Noem het mijn projectie van hoop.

728
02:01:34.768 --> 02:01:44.848
Ik zie daar mensen zitten die, die denken iets heel moois uitgevonden te hebben waar zij dingen mee gaan genezen en opbouwen en gebouwen uit de grond gaan trekken zodat iedereen een dak boven hun hoofd heeft.

729
02:01:44.908 --> 02:01:56.188
Ik, ik denk dat zij dit echt geloven en dat ze ook weten dat dat niet zomaar gebeurt en dat ze zich nu wel een beetje zorgen maken dat het wel sneller gaat dan dat zij hadden voorzien en dus eigenlijk naar ons roepen nu.

730
02:01:56.248 --> 02:02:03.868
En dan kan je boos op ze worden en zeggen dan had je dat niet moeten uitvinden vriend, wat ga je mij nou om hulp vragen met je help. Ik denk dat zij eigenlijk zeggen:

731
02:02:05.008 --> 02:02:16.868
deze toverstaf die wij nu aan het maken zijn, daar kunnen we hele mooie dingen mee toveren, maar ook hele enge dingen mee toveren. En we moeten met elkaar zorgen dat we dat op een bepaalde manier kunnen kaderen.

732
02:02:17.448 --> 02:02:31.208
Dat we de vruchten ervan gaan plukken. En ik, mijn-- wat, wat mij nog wel hoop geeft is dat er, ja, ik kan dat niet anders omschrijven, is ook een hoop goeds in de wereld is binnen die laboratoria.

733
02:02:31.268 --> 02:02:39.328
En zolang het nog mensen zijn die daar aan het programmeren zijn of modellen ingegeven door mensen met ziel en hart,

734
02:02:40.608 --> 02:02:48.248
dat we in ieder geval 10%, maar eigenlijk nog wel meer kans hebben dat we, dat we de goede kant op gaan met elkaar.

735
02:02:48.628 --> 02:02:58.488
Want we hadden het nu eigenlijk over een soort, nou ja, 10% AGI en daarbinnen dan een soort negativiteit. Ik denk dat er ook een, een serieuze mogelijkheid is dat we de goede kant op gaan met elkaar.

736
02:02:58.648 --> 02:03:11.028
En, want dat zeg ik dan omdat ik denk dat het klopte dat de mensen zich, dat de mensen zenuwachtig waren ten tijde van de Koude Oorlog. Dat klopte gezien wat er toen wereldwijd speelde. Maar nu zijn we er nog.

737
02:03:11.068 --> 02:03:21.000
Dat is geen garantie, maar dan heb je toch achterafHeel veel buikpijn gehad en misschien naar gehandeld. Dat is prima. Als je handelt naar je buikpijn vind ik het nog oké. Als in de straat op.

738
02:03:21.020 --> 02:03:30.160
Ik wil, uh, we moeten regels maken, de VN et cetera. Als je gehandeld hebt is het prima, maar ga, laten we alsjeblieft, uh, stap voor stap dit doen.

739
02:03:31.100 --> 02:03:36.620
Er ook een beetje van uitgaan dat er heel veel mensen bezig zijn met dit onderwerp. Niet alleen Alex van der Kluppingen en Wytse.

740
02:03:36.660 --> 02:03:49.360
En wij proberen ook nog eens, dat is geen schouderklopje voor onszelf, dat bedoel ik echt niet, dat meer mensen hiermee bezig zijn. Dat proberen we en we doen het ook nog eens allemaal op basis van 10%. Dus

741
02:03:50.420 --> 02:04:01.940
we weten het gewoon niet. Maar er is wel iets gaande wat we, wat we echt wel even serieus moeten nemen met elkaar. Je, je, je vroeg net aan mij van: Wytse, lig je er wakker van, et cetera.

742
02:04:02.100 --> 02:04:12.330
Hoe zit jij erbij na dit gesprek? Nu, in dit moment, zeg maar. Heeft het je, uh, gerustgesteld? Juist niet? Wat is je, wat is je gevoel? Mmm.

743
02:04:18.580 --> 02:04:31.460
Ik vind, ik, ik geloof zowel heel erg in de flexibiliteit van de mens als in de, uh, als in dat ik een cynisch wereldbeeld heb dat, uh, mensen allemaal naar, uh, winst en machtsmaximalisatie streven.

744
02:04:32.760 --> 02:04:49.460
En ik, ik, ik weet niet wat daarin gaat winnen. En ik ben, uh, ik, ik, ik, ik. Ik ben gewoon heel erg onder de indruk van de afgelopen jaren. En, uh, ik heb wel de neiging om die lijntjes door te trekken.

745
02:04:49.490 --> 02:05:05.580
En dat is misschien naïef, want we zijn inderdaad allemaal geen euromasten en dat [lacht] is niet allemaal euromasten. En dat stelt gerust. Mmm. Nou, ik ben er niet zo gerust op. En,

746
02:05:08.560 --> 02:05:24.080
en, en tegelijkertijd denk ik ook de hele tijd: laat mij niet de persoon zijn om hier over na te denken. Dit kan ik helemaal niet. Soort van: laat, je, laat hier economen, filosofen, politicologen,

747
02:05:25.360 --> 02:05:37.880
diplomaten. Laat die mensen hier mee bezig zijn en dat gebeurt maar niet. En, en daar word ik heel ongemakkelijk van. Uhm, en misschien is dit gewoon hoe het gaat.

748
02:05:37.980 --> 02:05:45.220
Duurt het gewoon nog even en dan komen een paar van die vinkjes die gezet worden en dan komt die machine wel in werking. En als het dan eenmaal in werking is, kan het ook heel snel gaan.

749
02:05:45.280 --> 02:06:01.660
Ik bedoel, we zien hoe, we zagen tijdens covid hoe snel het kan gaan als opeens de mensheid met een nieuw ding wordt geconfronteerd. Dat was nota bene tijdens Donald Trump één. Ik bedoel de, de We've been here before.

750
02:06:02.360 --> 02:06:15.560
Maar ja, ik, ik, ik zou, ik zou me gewoon minder, uh, ja, ik, ik zou dat wel heel fijn vinden als er, als er meer serieuze mensen [lacht] in plaats van podcasters. Love it.

751
02:06:15.700 --> 02:06:27.540
En, uh, en dat en, en, en, en dat we meer het gevoel hebben dat we het met zijn allen doen. Dat zou ik heel fijn vinden. Nou. Eens. Oké, tot voor, tot zover een warme deken of een lauwe deken.

752
02:06:27.560 --> 02:06:35.620
Of koude deken, hoe je hem ook wil. Dit was AI-report. Wij danken Sam Hingenveld voor de edit. Pankra voor de vormgeving.

753
02:06:36.860 --> 02:06:43.180
Uh, als je nog lezingen wil, vrolijke lezingen van Wytse en mij over AI, dan kan dat op lezing@ai-report.email.

754
02:06:43.990 --> 02:06:52.380
Als je op de hoogte wil blijven van het laatste AI-nieuws twee keer per week, uh, met, uh, allerlei tools om het meeste uit AI te halen. Dit voelt zo raar om te zeggen. Ja.

755
02:06:52.420 --> 02:06:57.120
Nou ja, als je wil weten hoe dit allemaal verder gaat. Ga naar ai-report.email, dan houden we je in ieder geval op de hoogte.

756
02:06:57.180 --> 02:07:05.920
En als je vandaag nog wil beginnen met AI binnen jouw bedrijf, ga dan naar deptagency.com/ai-report. Dank voor het luisteren en tot volgende week. Tot volgende week.

757
02:07:06.780 --> 02:07:22.230
[afsluitend muziek]