WEBVTT

1
00:00:00.100 --> 00:00:10.400
[alarm] Oh. Zo klinken 165.000 scheerbewegingen per minuut die je helpen om fris voor de dag te komen.

2
00:00:10.440 --> 00:00:18.600
De flexibele scheerkop van de Philips S9000 Prestige volgt de contouren van je gezicht en scheert tot op nul millimeter van je huid.

3
00:00:18.660 --> 00:00:29.000
Ervaar een ultiem gladde en comfortabele scheerbeurt, ook wanneer je nog niet helemaal wakker bent. Want dankzij de slimme sensoren past het scheerapparaat zich helemaal aan jou aan.

4
00:00:29.740 --> 00:00:39.320
Zo kun jij nog extra genieten van je kopje koffie voor je de deur uit gaat. De Philips S9000 Prestige is het ideale scheerapparaat om jouw dag goed mee te beginnen.

5
00:00:40.300 --> 00:00:52.410
Koop de Philips S9000 Prestige bij jouw favoriete winkel. Hoi, wij zijn Thijs en Niels van de podcast Borrelpraat. De gezelligste podcast van Nederland. Waarin we grappige anekdotes vertellen.

6
00:00:53.130 --> 00:01:01.650
[lacht] Zo nu en dan wat intieme dingen delen. Ik merk wel dat ik het een klein beetje moeilijk vind dat ik als tiran word gezien. En vragen naar spannende geruchten. Is dat nou gebeurd of niet?

7
00:01:01.660 --> 00:01:10.340
Julia en ik hebben niks gezien. En dat allemaal onder het genot van een borreltje. Oké, nog één biertje dan. Dus schenk jezelf ook maar een drankje in en luister elke woensdag naar Borrelpraat.

8
00:01:10.560 --> 00:01:23.020
Ik krijg nu al dubbele tong. [lacht] So in movies, when something goes wrong with AI, it's usually because the AI has decided it doesn't want to obey the humans anymore. So will today's AI do what we ask it to do?

9
00:01:23.680 --> 00:01:35.660
It will if it can, but it might not do what we actually want. Welkom bij Poki. Een podcast over kunstmatige intelligentie waarin wij, Wietse Hagen en Alexander Klöpping, je bijpraten over de wereld van AI.

10
00:01:36.160 --> 00:01:41.220
En het nieuws over AI is amper bij te houden. Dus hier het belangrijkste nieuws van afgelopen week in zestig seconden.

11
00:01:41.560 --> 00:01:52.120
Meer dan 150 leidinggevenden van bedrijven als Renault, Heineken, Airbus en Siemens hebben een open brief ondertekend waarin ze er bij de EU op aandringen om haar plannen om AI te reguleren in de koelkast te zetten.

12
00:01:52.540 --> 00:01:57.760
Zij beweren namelijk dat de AI-wet van de EU de technologische soevereiniteit in gevaar kan brengen.

13
00:01:58.480 --> 00:02:09.030
GPT4 wordt binnenkort toegankelijk voor iedereen, maar niet getreurd voor plus gebruikers die nu $20 per maand gebruiken om GPT4 te kunnen krijgen, want zij krijgen namelijk een extraatje, namelijk code interpreter.

14
00:02:09.539 --> 00:02:18.100
Met de plugin kan de chatbot code uitvoeren, grafieken maken, gegevens analyseren, wiskunde uitvoeren, bestanden bewerken en nog veel meer. Google heeft zijn privacybeleid aangepast.

15
00:02:18.180 --> 00:02:24.800
Het bedrijf houdt zich het recht voor om vrijwel alles wat gebruikers publiek online plaatsen te gebruiken voor de ontwikkeling van AI-modellen en tools.

16
00:02:24.860 --> 00:02:30.780
En naast een chipban zoekt de Amerikaanse overheid nu naar meer mogelijkheden om het de Chinezen moeilijk te maken in de ontwikkeling van AI.

17
00:02:31.080 --> 00:02:40.500
Zij proberen nu beperkingen op te werpen voor de Chinezen om toegang te krijgen tot Amerikaanse clouddiensten en om daarmee de voorsprong in de algoritmische strijd te behouden voor de Amerikanen.

18
00:02:41.000 --> 00:02:51.720
Dat was het nieuws van deze week, maar daarnaast was er ook nog nieuws over AI alignment door OpenAI, die daar een geweldige naam Super Alignment aan hebben gegeven. Dat is een ding.

19
00:02:52.080 --> 00:02:59.640
Dit was, dit was het nieuws deze week. Hoe, wa-wa-wat is alignment? We hebben daar nog helemaal, Wietse, we hebben het daar nog helemaal niet over gehad in deze podcast, over alignment.

20
00:02:59.700 --> 00:03:09.460
Wat is alignment op het gebied van AI? Terwijl het best een soort modeterm is in de AI, in het AI-debat of zo. Ja, ook wel een belangrijke term in het AI-debat. Ja, niet, niet, ja, in de.

21
00:03:10.640 --> 00:03:21.140
Ja, je hebt heel veel mensen die al heel lang nadenken over existenti-existentiële risico's voor de mensheid. Ja. Het is een heel veld. En dan binnen de, en AI is daar een thema in.

22
00:03:21.500 --> 00:03:28.220
En binnen dat thema heb je dan een van de zaken, dat gaat over the alignment problem eigenlijk. Dat is het probleem dat je,

23
00:03:29.160 --> 00:03:38.680
net als dat je binnen een bedrijf of binnen een volkstuinorganisatie of op een school eigenlijk de kopjes dezelfde kant op hebben staan. Aligned, zeg maar, met elkaar in een groep.

24
00:03:39.440 --> 00:03:44.280
Dat je het ook wel fijn vindt als het kopje van de AI dezelfde kant op staat als de mensheid. Dat is eigenlijk wat het is.

25
00:03:44.400 --> 00:03:56.180
Dus die alignment gaat over: hoe zorg je ervoor dat iets wat zo intelligent of mogelijk nog intelligenter is dan jij, en jij is dan de mensheid, eigenlijk wel dezelfde kant op wil als wij? Aha.

26
00:03:56.400 --> 00:04:08.360
En dat is dan, dan kan je je afvragen wie is wij? Is dat, is dat een overheid? Welke overheid? Op basis van welke politieke filosofische principes dan? Dat nog even daargelaten.

27
00:04:08.400 --> 00:04:16.600
Dus als we kunnen alignen, waarop gaan we dan alignen? Dit, die vraag moet al even in de kast. Maar de vraag is dus vooral: hoe alignen we?

28
00:04:16.940 --> 00:04:28.440
Dus als jij zo'n systeem hebt gebouwd, er is een beetje een aanname bij veel mensen, ook bij mijzelf, dat als je iets bouwt, dat het dan niet zo kan zijn dat je het niet begrijpt. Mhmm. Dat is gek.

29
00:04:28.460 --> 00:04:35.900
Ik bedoel, als jij een auto bouwt, dan snap je toch hoe die in elkaar zit? Dat wordt al anders als die auto natuurlijk gebouwd wordt door honderd verschillende mensen met honderd verschillende disciplines.

30
00:04:35.920 --> 00:04:42.800
Want dan werk je dus aan een soort samengesteld ding waarvan jij zegt: ik snap hoe de versnellingsbak werkt, maar je moet even naar mijn collega voor de rest van de auto.

31
00:04:43.420 --> 00:04:58.200
Nou ja, dat is in het geval van, uh, grote taalmodellen, bijvoorbeeld zoals GPT, nog veel, uhm, ingewikkelder omdat je én heel veel mensen hebt die eraan hebben meegewerkt, van wiskundigen tot en met andere soort AI-deskundigen zeg ik dan maar even.

32
00:04:58.590 --> 00:05:06.000
Wat wij allebei niet zijn, dus daardoor even mijn gestotter. Uhm, maar er zitten dus heel veel disciplines om zo'n groot taalmodel te maken.

33
00:05:06.460 --> 00:05:16.320
En dan is het ook nog zo dat, dat taalmodel eigenlijk getraind wordt en aangepast wordt op een manier die we nog niet helemaal begrijpen. Dus we hebben iets gemaakt wat we niet helemaal begrijpen, maar het werkt wel.

34
00:05:16.920 --> 00:05:28.400
En daardoor heb je, uh, dus los van het feit dat het meerdere mensen zijn die een stukje eraan hebben gewerkt, is het ook nog zo dat die hele groep samen, al zou je het allemaal kunnen combineren die kennis, nog steeds niet antwoord zou kunnen geven precies op hoe het nou werkt.

35
00:05:28.880 --> 00:05:44.300
Nou, waarom is dat zo onhandig, is als jij iets wil alignen, als jij i-iets wil dat eigenlijk, ja, onze waarden zeg ik dan maar even voor het gemak, uh, in, zich meedraagt, dan moet je wel kunnen kijken ook of dat nog zo is op een gegeven moment.

36
00:05:44.400 --> 00:05:51.220
Je kan ze erin stoppen. We hebben het heel vaak over system card gehad. Ik zag een reactie onder onze aflevering op een platform ergens.

37
00:05:51.260 --> 00:05:59.960
Ik denk het meest hippe socialemediaplatform LinkedIn, waar stond: wat is eigenlijk een system card? Nou, we hebben het al een beetje volgens mij wel gezegd, maar we roepen het wel heel erg makkelijk.

38
00:06:00.020 --> 00:06:05.240
Maar de, ja, een soort van preprompt, dus het stukje tekst wat altijd meeleeft als jij een vraag stelt.

39
00:06:05.380 --> 00:06:13.260
Dus iedere keer als jij iets typt in ChatGPT, dan wordt er als, als het ware nog tien regels meegeplakt iedere keer automatisch. En dat is het kaartje wat op de achtergrond stiekem leeft.

40
00:06:13.520 --> 00:06:15.620
Het zou het persona zijn in een toneelstuk.

41
00:06:16.020 --> 00:06:27.196
NouOp het moment dat je dat kaartje meegeeft, dan kan je erin zetten: hoi, jij bent Sydney, je bent een bot van Bing, je werkt voor Microsoft, je bent lief voor iedereen en dan beschrijf je helemaal eigenlijk dat.

42
00:06:27.226 --> 00:06:34.696
En natuurlijk ga je mensen nooit tips geven hoe, over hoe ze elkaar geweld aan kunnen doen en daarbij ben je dus eigenlijk al aan het alignen. Ja, precies.

43
00:06:34.736 --> 00:06:43.366
Dus de, de, de, z-, wat we in de, volgens mij was de eerste aflevering dat we het hadden over Sydney, die dan ging vertellen- Ja...dat ze graag kernreactors wilde inbreken.

44
00:06:44.236 --> 00:06:52.166
Uh, dat, dan wordt dus aan een, aan een system card toegevoegd: dat moet je even niet doen, praten over, over, over geweld. Om maar een voorbeeld te noemen.

45
00:06:52.196 --> 00:07:09.116
Maar tegelijkertijd heeft, uh, is dat taalmodel getraind op een groot corpus aan tekst, uh, waaronder, uh, posts op Reddit, maar ook, uh, tweets, maar ook boeken en ook boeken over hoe je mensen kunt, uhm, ja, belazeren.

46
00:07:09.156 --> 00:07:15.016
Mhmm. Hoe je mensen kunt manipuleren. Mhmm. Dus uiteindelijk krijg je een systeem dat intelligenter is dan wij.

47
00:07:15.036 --> 00:07:29.936
En even dan, hoe intelligenter weten we niet, maar overtuigend intelligent naar een mens, die gaat zeggen: jij moet je aan deze regels houden, maar die waarschijnlijk, hij, zij, het ook slim genoeg is om ons te doen denken dat, dat ie aligned is met onze ideeën.

48
00:07:30.046 --> 00:07:36.456
Want dat is natuurlijk ook, je kan ook iets hebben wat op een gegeven moment snapt hoe je aan ons moet uitleggen dat wij denken dat het aligned is.

49
00:07:36.856 --> 00:07:40.836
Nou, dus in die alignment problem zit eigenlijk, als we niet helemaal weten,

50
00:07:41.836 --> 00:07:52.916
sowieso niet in één persoon, maar ook niet in de groep, hoe het ding wat we hebben gemaakt precies werkt, hoe gaan we dan controleren of de alignment nog echt is- Mhmm...of eigenlijk een bluf van iets wat heel goed is in bluffen?

51
00:07:52.976 --> 00:07:56.016
Want ja, alle boeken over bluf heeft het gelezen. Mhmm.

52
00:07:56.096 --> 00:08:10.596
Dus die alignment problem is, is groot, want je wil uiteindelijk dat doosje open kunnen maken, zeg maar, die computer, die server, dat algoritme en dan kunnen zeggen: we moeten er een paar checks in gaan hangen, een paar stukjes code en die gaan alarm geven van: piep piep, uh, geen alignment meer, hè.

53
00:08:10.646 --> 00:08:21.376
Op een zondagochtend om 7.00 uur gaat ergens een appje op iemand, engineers telefoon: alignment, uh, lost. Uh, rogue, rogue, rogue. Maar wat gaat er mis op het moment dat AI niet aligned is met de mens?

54
00:08:21.736 --> 00:08:27.596
Nou, dan, uh, dan krijg je andere waarden [gniffelt] dan wij er met elkaar in hebben gestopt.

55
00:08:27.616 --> 00:08:35.136
En dat kunnen, ja, goed, als, dat is een beetje het, het standaard sciencefiction verhaal, maar, uh, op het moment dat een, uh, AI natuurlijk iets heeft van: ja,

56
00:08:36.056 --> 00:08:42.536
die, die waarden die mij nu aangedragen worden, ik vind eigenlijk die planeet veel belangrijker. Ja, die mensen- Dan die mensen. Dan die mensen.

57
00:08:42.576 --> 00:08:56.876
Ja, ik, ik, ik zit een soort, hè, misschien leest ie heel veel Carl Sagan boeken en dan wordt het Spaceship Earth- Mhmm...en dan gaat eigenlijk, wordt de prime directive van die AI stiekem dat dat heet, dat die hele planeet beschermd moet worden en da-, dat die mensen daarop een beetje een probleem zijn.

58
00:08:56.916 --> 00:08:58.816
Niet allemaal, maar wel een groot deel.

59
00:08:58.936 --> 00:09:14.296
En terwijl die mensen dus ook erin geluisd worden dat het ding wel degelijk aligned is doordat als wij bepaalde testjes runnen met onze rudimentaire testjes, dat ding ons, uh, soort van voor de gek houdt door ons te doen denken dat hij wel degelijk om ons geeft, maar ondertussen geeft hij stiekem liever me-meer om de aarde.

60
00:09:14.796 --> 00:09:25.896
Ja, en dan is natuurlijk de vraag of we dan, hè, dus de, nou ja, de discussies over dit onderwerp gaan alle kanten op. Ik, er zijn, uh, boeken, artikelen en van alles over, uh, dit onderwerp.

61
00:09:25.956 --> 00:09:32.496
En als je daar veel van leest, dan, ik word er wel zenuwachtig van, want het is wel een beetje parano-paranoia-voedend materiaal.

62
00:09:32.556 --> 00:09:42.416
Want het gaat er ook echt over dat ze zeggen van: oké, we moeten dus de kilowatturen gaan meten in datacentra, om he-heel rudimentair- Mhmm...heel rudimentair van: oké, we moeten eigenlijk modellen gaan maken.

63
00:09:42.446 --> 00:10:02.256
Dan heb ik het niet over taalmodellen, maar, uh, computermodellen die kunnen berekenen van: oké, als er een anomaly, dus een, een vreemde spike ontstaat in het stroomgebruik, die niet past bij de opdracht die we hebben gegeven aan de AI, dan gaat daar waarschijnlijk in die doos die we niet helemaal begrijpen toch iets mis en moet er eigenlijk automatisch een stekker uitgetrokken worden.

64
00:10:03.136 --> 00:10:09.596
Maar ja, denk je dat het heel moeilijk is voor die AI om een heel mooi str-- energy signature te creëren voor ons?

65
00:10:09.636 --> 00:10:19.276
Ja, als je hier allemaal over na gaat denken, maar er wordt dus oprecht hier over nagedacht en echt wel gekeken van: oké, hoe kan je dat dan een beetje in de gaten gaan houden, als je zelf eigenlijk niet helemaal weet hoe het werkt?

66
00:10:19.756 --> 00:10:32.076
Dit is ook het grote, uh, ja, beklag of de, ja, de kritiek die er is vanuit een kleine club, uh, mensen die zich hier heel erg zorgen om maken, die echt zeggen: waarom heb je het nou op internet aangesloten?

67
00:10:32.476 --> 00:10:39.436
Had het gewoon in een doos gehouden. Wat is de haast? Waarom moet er een UTP kabel in GPT? Kan je zeggen: ja, anders kan, kunnen de mensen er niet bij.

68
00:10:39.656 --> 00:10:48.056
Dat begrijp ik, maar je had ook die, dat datacenter kunnen air gappen, zeg maar, en dan kunnen zeggen: we gaan eerst eens tot en met GTP, GPT-6, gaan we gewoon dat testen.

69
00:10:48.716 --> 00:11:00.176
Nu, nu zit G-GPT gewoon op internet, meteen, aangesloten, zeg maar. Dat is best wel een, uh, een spannend ding. En ik, ik- En vind jij dat onverantwoord, dat we eigenlijk toegang hebben tot GPT-4?

70
00:11:00.636 --> 00:11:07.776
Ik vind, ik, ik vind het heel ingewikkeld, want, dat is een makkelijk, uh, koophoud, hè, dus ik ga wel even een antwoord geven. Uhm, kijk, er zit een--

71
00:11:09.256 --> 00:11:17.596
ik denk, a-op het moment dat je gaat zeggen: uhm, had het nog eventjes niet aangesloten, hè. Air gappen, zoals ze dat noemen. Dus dat betekent dat er geen connectie met internet is.

72
00:11:18.816 --> 00:11:26.356
Uh, zware industriële apparaten in een fabriek hebben bijvoorbeeld een air gap, want ja, anders kan je wel heel makkelijk dingen aan en uitzetten op afstand en dan gaat het misschien helemaal mis.

73
00:11:26.396 --> 00:11:34.956
Het is gevoeliger voor hackers, daar komt het op neer. Ja. Dus dat, op het moment dat je dit wel op internet aansluit, dan, dan gaat het natuurlijk ook op internet dingen doen, dingen zetten. Ja.

74
00:11:35.236 --> 00:11:48.716
En, uhm, er zit een soort, ik heb het idee, en dat heb ik, ik ben niet de enige in, dat er een soort is van: oké, maar dan gaan we, als we dat niet zouden doen, dan gaat het niet snel. Mhmm. Dan worden we verklaard.

75
00:11:48.736 --> 00:11:54.576
De innovatie bedoel je? Ja, laten we die innovatie nou gewoon, dat moet snel. Die motor moet harder, harder, misschien zelfs nog wel sneller.

76
00:11:55.036 --> 00:12:03.516
En dan ga je zoeken bij jezelf, laat ik het even bij mezelf houden, en dan ga ik zoeken bij mezelf waarom ik dat heb. Want heb ik ook wel, een soort innovatiegeloof of zo. Mhmm. En dan,

77
00:12:04.756 --> 00:12:14.176
dan blijkt dat het maar goed is als we er snel zijn. Want er zijn heel veel dingen die zijn stok-stuk en die werken nog niet goed. We mo-we moeten allemaal nog werken bijvoorbeeld. En, hè, er zijn nog mensen ziek.

78
00:12:14.796 --> 00:12:22.216
Dus ja, het is bijna een soort morele plicht voor ons om er snel- Er zijn nog ziektes, er is nog klimaatproblematiek. Zoveel bugs, we moeten nog zoveel fixen.

79
00:12:22.296 --> 00:12:32.806
Ja, maar we stevenen ook af op een heel veel, soort van grote problemen waar de mensheid mee moet dealen.Toch? Dat is het. Dat is het, het argument om, om het harder te laten gaan. Ja, maar dan.

80
00:12:32.946 --> 00:12:36.606
Je zit me heel raar aan te kijken. Nee, ik, ik zit je niet raar aan te kijken. Je, je hebt helemaal gelijk.

81
00:12:36.646 --> 00:12:46.986
Ik denk, uhm, dat we soms onbevraagd en soms openlijk toegegeven met elkaar zoiets hebben van: nee, innovatie, dat moet je niet willen tegenhouden.

82
00:12:47.186 --> 00:12:52.806
Als een minister op tele-, tv zegt: nou, nou, hè, als we dit niet doen, dan kunnen we niet innoveren.

83
00:12:52.886 --> 00:12:58.346
Dan zitten mensen thuis toch wel te knikken voor tv van: ja, dat is toch wel belangrijk, hè, anders kunnen we niet innoveren. Ja. Maar

84
00:12:59.486 --> 00:13:10.006
de vraag is, dus, dus als iemand zoals ik zegt: joh, zullen we hem nog even airgappen, gewoon, dat hele GPT-systeem, voor zover dat een systeem is wat je kan airgappen, dan zal er vaak gezegd worden van: ja, hoezo?

85
00:13:10.106 --> 00:13:15.286
D-, er zijn nu al kinderen die hier gebruik van kunnen maken op school. Die mogen er nu niet bij. Die hebben geen goede leraar.

86
00:13:15.646 --> 00:13:22.696
En nu ga jij die leraar afhouden, terwijl er gewoon een virtuele fantastische leraar voor ze klaarstaat. Wat naar van jou, Wytse, met je airgappen.

87
00:13:23.266 --> 00:13:32.926
En, uhm, ik denk dus dat, als jij aan me vraagt: vind je het onverantwoord? In dat argument kan je het onverantwoord noemen dat we het airgappen. Ja. Dus dat is maar net vanuit welke kant je komt.

88
00:13:33.886 --> 00:13:42.706
Ik denk zelf, uhm, de go fast and break things, zeg maar de standaardpostertjes die bij Facebook aan de muur hingen, hangen, weet ik niet zo goed.

89
00:13:43.266 --> 00:13:53.326
Dat is een beetje die ethos, hè, van: oké, duw het maar gewoon online en we zien het allemaal wel. Uhm, ja, dat, dat dat op een gegeven moment in een bepaalde orde van grootte niet meer, niet meer kan.

90
00:13:53.506 --> 00:14:02.986
Je kan niet met ieder fenomeen dat doen. Als jij zegt: ik heb een nieuwe smaak ijs uitgevonden. Go fast, break things. Ik ga gewoon eens staan verkopen op de, op de Dam hier en daar worden een paar mensen ziek van.

91
00:14:03.046 --> 00:14:11.866
Nou, dat is nog steeds rot, maar niet een wereldwijd effect. Of het moet echt ijs zijn met iets [gniffelt] heel bizars erin, maar laten we ervan uitgaan. Dus de go fast en break things.

92
00:14:12.286 --> 00:14:21.546
Alexander gaat innoveren op, innoveren op het gebied van ijssmaak. Fine, maar innoveren op het gebied van zo'n, ja, samenlevingsontwrichtende technologie.

93
00:14:21.746 --> 00:14:27.266
Nou, ik denk dat juist voedsel en, en bijvoorbeeld ook farmacie zijn voorbeelden die juist heel erg gereguleerd zijn.

94
00:14:27.326 --> 00:14:32.786
Dus dat ijsvoorbeeld is eigenlijk een heel slecht voorbeeld, want dat is nou juist een voorbeeld waar hele strenge regels voor zijn. Ja.

95
00:14:32.846 --> 00:14:42.546
Nee, ik heb wat dat betreft niet zo'n ijsinnovatiedrang, maar ik denk o-gewoon innoveren op het gebied van voedsel. Dat is dus, dat is bijna lastiger qua regels dan innoveren op het gebied van AI.

96
00:14:42.806 --> 00:14:45.626
Want je mag heel veel dingen met voedsel niet zomaar doen.

97
00:14:45.706 --> 00:14:58.236
Ja, ja, en ik denk dus dat we daar dan blijkbaar met elkaar inno-, in, in, intuïtief, ik wou innovatief, maar intuïtief goed bij kunnen of zo van: nee, het zou toch gek zijn inderdaad, als je zomaar iets kan gaan verkopen wat mensen in hun mond doen.

98
00:14:58.236 --> 00:15:07.146
Mhmm. Dat moeten we niet willen, want dat komt dan in je lijf en dan word je misschien ziek. Maar ik heb, uh, een vorige keer al tegen jou zitten roepen van: er zit lood in je TikTok, er zit lood in je TikTok.

99
00:15:07.206 --> 00:15:14.915
Hè, om maar een beetje die intuïtie van mensen aan de gang te krijgen van: het kan zomaar zijn dat wat je met je ogen eet- Ja. Dat dat ook ongezond voor je is. Ja.

100
00:15:14.926 --> 00:15:19.066
Maar da-daar voelen we ons minder, uh, ik, ik ben daar minder gespannen over.

101
00:15:19.126 --> 00:15:28.086
I-, ook, zeg maar vanuit mezelf, dat ik merk van: mwah, nee, nee, ik vind het toch enger dat er iets in mijn lijf komt fysiek dan dat, uh, dat ik iets raars lees en dat ik, dat, dat dat dan iets met mij doet of zo.

102
00:15:28.326 --> 00:15:37.706
Ja, ja, het lijkt minder erg. En wat is, wat is nou, wat doet OpenAI op het moment dat ze alignment proberen bij te brengen? Nou, da-, dus dat thema van alignment, dat gaat nu door de wandelgangen.

103
00:15:37.746 --> 00:15:46.646
Bij de Europese Unie hoor je dat op de gang en dat zit in heel veel, uh, uh, journalisten schrijven daar nu over. Want dat alignment problem wat ik net even had geïntroduceerd, dat is nu een ding.

104
00:15:46.686 --> 00:15:51.366
Want ja, nu hebben we een soort van iets wat slim lijkt. Laat ik het dan even zo zeggen, uhm,

105
00:15:52.526 --> 00:15:59.596
en we weten eigenlijk niet helemaal hoe het werkt, maar het is al wel dagelijks terwijl wij hier zitten nu mensen tips en adviezen aan het geven. Mhmm.

106
00:15:59.646 --> 00:16:07.106
Met iedere keer een irritant alineaatje eronder met: maar je moet wel weten. Ik ben een taalmodel. [lacht] Ja, dat negeren we dan allemaal. Ik ben loodgieter, een eenvoudige schoenlapper.

107
00:16:07.426 --> 00:16:18.026
Dat soort GPT cookie wall die we allemaal negeren nu al. Ja, ja. Dat laatste alineaatje kan eraf. Zou bijna een goeie zijn voor de system prompt. Val me niet meer lastig over die omhalen, over dat je een taalmodel bent.

108
00:16:18.086 --> 00:16:26.726
Die, uh, die footnotes hoeven we niet. Nee. GPT. Ja. Uhm, maar, uh. Iedereen heeft het erover, over alignment. Nou, wat ga je dan doen als bedrijf?

109
00:16:26.806 --> 00:16:36.385
Ik zeg het even cynisch, hè, en ik geloof dat- Ja, je gelooft het niet zo. Je, je praat er heel cynisch over inderdaad. Je vindt het allemaal maar, maar, uh. Nee, ik ben blij dat, dat OpenAI hier dan ook over praat.

110
00:16:36.546 --> 00:16:43.575
Ik denk dan wel: GPT-4 staat al online en jullie hebben nu een alignment groep opgezet. Oké, [gniffelt] op tijd zou ik dan zeggen. Ja.

111
00:16:43.606 --> 00:16:49.866
Maar goed, de Super Alignment groep, uh, want super intelligence, dus super alignment, dat is het grapje.

112
00:16:49.986 --> 00:16:56.546
Uh, wel opgezet door ste-, twee vooraanstaande, uh, researchers op dat gebied, dus die hebben ze ook meteen aangenomen, begreep ik. Uhm,

113
00:16:57.566 --> 00:17:06.226
en die groep is eigenlijk een onderzoeksgroep binnen OpenAI, die ook resources krijgt. Compute, dus daadwerkelijke, uh, machines om op te werken, want die zijn zo duur.

114
00:17:06.506 --> 00:17:15.766
Maar ook mensen binnen de organisatie, 20%, ik weet niet wat dat dan voor getal is of zo. Voelt een beetje als: op vrijdag doen we alignment. Ja, nee, maar ze, ze nemen het heel serieus, hoor.

115
00:17:15.806 --> 00:17:25.006
Dat is, dat, dat is de takeaway. Maar goed, ik denk dat het wel een echte groep is, ook door de twee die erbij betrokken zijn en dat, dat ze het ook echt gaan proberen hier iets mee te doen. De vraag is.

116
00:17:25.046 --> 00:17:31.306
Maar wat doen ze dan? Nou, dit, ik, nou. Prompt schrijven en dan zeggen. Nee, hoezo? Ik, wat ik denk. Wel denken aan de diertjes.

117
00:17:31.806 --> 00:17:45.026
Nee, nee, wat ik denk is dus dan, uh, en dan, ik denk dat we dat nog wel iets verder kunnen lezen als we er nog iets dieper in zouden duiken, maar dat het gaat om bijvoorbeeld: oké, kunnen we manieren verzinnen waarop we kunnen ze-- oké, hoe geef je alignment vorm?

118
00:17:45.066 --> 00:17:53.456
Hè, dus als je alignment zou willen doen, hoe doe je dat dan? Punt twee is: hoe verifieer je dan dat je alignment nog intact is? Dus hoe doe je de doos open- Ja.

119
00:17:53.486 --> 00:18:03.896
Om te kijken of er onder, onder de grond nog gebeurt wat je-- die twee vragen zijn al. Hoe definieer je dan alignment? Als in: maak ons niet dood. Nou ja, je krijgt een beetje Asimovs, uh, uh, wetten, zeg maar. Ja.

120
00:18:03.896 --> 00:18:14.346
Je zal nooit een mens na-, uh, kwaad doen, uh. Dan ga je dus heel erg expliciteren wat onze waarden zijn als mensen. Ja, en dit is eigenlijk waar, wat als een rode draad door heel POCKIE heen loopt nu. Mhmm.

121
00:18:14.406 --> 00:18:25.066
Dat wij er dus achter de eeuwenoude vragen komen. Ja. Wat is een goed mens? Wat is gezondheid? Wat is een goede samenleving? Wat willen we kinderen leren? Ja, en dat, dat vind ik ook, want, want die AI zegt:

122
00:18:26.046 --> 00:18:35.110
wat willen jullie dan? Mhmm, mhmm.Dus die staat daar nu met een, met een prompt. Het vraagteken staat, knippert nu voor de hele samenleving in die terminal. Zeg het maar. Ja. En dan. Dus.

123
00:18:35.130 --> 00:18:43.869
Maar daarom vind ik het zo interessant. Want je hebt dus de alignment problem kan je interpreteren als in, uh, als we het al zouden kon-kunnen invoeren en controleren, wat gaan we invoeren dan?

124
00:18:44.070 --> 00:18:53.130
Dat zou het probleem kunnen zijn. Dat is ook een probleem. En dan is het: oké, maar we weten het nu. Maar hoe voeren we het dan in? Zijn dat een paar regels? Moet dat getekend worden? Worden het schilderijen?

125
00:18:53.170 --> 00:19:01.090
Hoe bre-- hoe krijgen-- wordt het een video? En dan, dan een ander alignment problem is: hoe houden we in de gaten dat het allemaal gebeurt? Ja. En, uh, op zich,

126
00:19:02.390 --> 00:19:14.070
uh, dat dit dan nu, uh, e-e-e-, zo heet, uh, vind ik wel-- het klopt wel. Het is niet een soort van leeg of zo, dit, dit verhaal. Misschien mijn verhaal wel, maar ik bedoel het, wat OpenAI hier doet.

127
00:19:14.630 --> 00:19:23.190
Waar overheden zich druk om maken en waar existentiële risk mensen al heel lang mee bezig zijn, is een legitiem vraagstuk en echt wel een probleem.

128
00:19:23.730 --> 00:19:33.490
En, en ben jij het helemaal eens met de redenering van die existentiële risico mensen dus die, die ervan uitgaan dat dit m-misschien voor een soort van ap-apocalyps zou kunnen zorgen?

129
00:19:34.350 --> 00:19:44.290
Ja, kijk, in een groep vissen ben ik, zeg maar als persoon echt degene die als eerst roept van: jongens, er is, voor mij voelt het- Haai, haai. Voelt het water nu warmer? Nee, nee, veel, veel platter nog. Oké.

130
00:19:44.590 --> 00:19:53.300
Kijk, ik zag net iets knipperen in mijn, in mijn ooghoek gaan. Ja. Dus dat is mijn, dat is mijn rol in een groep, denk ik altijd. Oké. Als je het, als je het mij vraagt, zou ik het altijd een beetje op de, uh,

131
00:19:54.430 --> 00:20:07.110
veilige toer doen. Dan ga je uitzoomen en dan zeg je: oké, maar kan het niet, kan er niet een wereld zijn of een, of een scenario, een narratief voor de mensheid afgespeeld worden waarin voorzichtig zijn gevaarlijk is?

132
00:20:07.290 --> 00:20:15.270
Ha ha ha. Dat is natuurlijk altijd met iemand-- als jij niet naar buiten durft, want je vindt het daar spannend, dan ga je vragen aan iemand: waarom durf je niet naar buiten?

133
00:20:15.330 --> 00:20:20.920
Nou, dan ben ik bang dat er iets gebeurt met me. Maar dan blijkt dat het binnen zitten nog ongezonder is dan wat je buiten zou kunnen tegenkomen.

134
00:20:20.930 --> 00:20:30.390
Waardoor je in een hele rare pa-- dat is niet voor iedereen die thuis zit en zegt: ik durf niet naar buiten. Ik wil het niet bagatelliseren, maar er zit een hele pijnlijke paradox in risicomijdend gedrag. Ja.

135
00:20:30.520 --> 00:20:39.230
Het kan zomaar zijn dat dat gedrag hetgene is wat de oorzaak, wat je probeert vermijden. Dat maakt dat jij naar buiten komt. Daarom zit ik hier. Ja. Dus, uhm. Ja. En op, op dit gebied.

136
00:20:39.530 --> 00:20:46.150
Kijk, het is denk ik wel goed dat we, dat, en dat we is zo'n ontzettend groot woord. Wie is we?

137
00:20:46.250 --> 00:20:59.530
Maar goed dat we als samenleving, als groepen mensen met elkaar in een soort decentrale federerende, uh, big mind, dat we wel met elkaar praten over waar-- er moeten wel een soort grenzen zijn.

138
00:20:59.710 --> 00:21:08.830
Ik merk dat daar een soort behoefte bij mij. Dit is misschien hoe ik ook controle krijg in mijn eigen leven. Dat ik zeg van: oké, uhm, je, ik, een vriend van mij werkt ergens.

139
00:21:08.850 --> 00:21:19.430
Het is le-letterlijk een verzonnen voorbeeld, maar vaak tegengekomen. De sfeer binnen een bedrijf verandert. Er zijn wat nieuwe collega's, er is nieuw management, ze gaan verhuizen en er is een andere investeerder. Mhmm.

140
00:21:19.770 --> 00:21:30.350
Nou, dan zeg ik altijd: joh, maak nou voor jezelf even een paar afspraken met jezelf waar jouw grenzen liggen. Alvast. Dus als die en die en die collega ook weggaan, dan ga ik ook.

141
00:21:30.710 --> 00:21:39.479
Of als ik dit, dit, dit moet doen, dan kap ik ermee. Want als je dat niet voor jezelf ook echt opschrijft, dan ga je die grenzen verleggen. Ja, dan word je een soort kikker in, in, uhm, heter wordend water.

142
00:21:39.500 --> 00:21:42.090
Ja, en dan, want dan ben je het op een gegeven moment ook zelf vergeten, zeg maar.

143
00:21:42.130 --> 00:21:50.790
Dan is het heel lekker, uh, om, misschien kan je dat dus tegenwoordig vragen aan AI, van: joh, stuur me iedere maand even een appie van: hé, hou je je nog aan je eigen grenzen? Ja. Hoe is het? Ja.

144
00:21:50.830 --> 00:22:01.070
Nou, ik denk dus dat we-- maar ik merk, ik, bij, het zou misschien goed zijn als we dat met elkaar ook een beetje bedenken voor hoe groot GPT in ons leven mag worden, hoe dat dan, hoe we daar dan mee omgaan als samenleving.

145
00:22:01.130 --> 00:22:14.290
Hoeveel werk mag er in één keer weg geautomatiseerd worden? Want ik ben, ik ben veel meer, dat is veel moeilijker. Het is makkelijk om te zeggen: alle deuren open, go fast, break things. Innovatie is de king.

146
00:22:14.330 --> 00:22:22.380
We gaan er achteraan rennen. En joh, wat we onderweg tegenkomen, lossen we nog wel een keer op met een nieuwe innovatie. Echt veel cyniek. Mhmm. Of we gaan terug naar huifkarren.

147
00:22:22.590 --> 00:22:35.790
Steek die kaarsen maar weer aan en, uh, daar wordt het beter. De, het moeilijke is een soort van dat, dat vage midden waarin we dan zeggen van: oké, wel een beetje die deur open. Maar het, het grappige is dat in de, uhm,

148
00:22:36.770 --> 00:22:39.870
in de, ik zit even te twijfelen over deze tak, maar ik denk dat hij wel kan.

149
00:22:40.870 --> 00:22:56.610
In de klassieke cybernetics, wat een beetje eigenlijk systeemdynamiek is, oftewel: maak je geen zorgen, het nadenken over, destijds waren er, heel veel machines kwamen erop in die tijd van de cybernetics, en daardoor hadden heel veel engineers zoiets van: werkt die hele wereld niet ook gewoon als een machine?

150
00:22:56.730 --> 00:23:08.270
En nu is alles een computer. Wanneer was dit? Wanneer was cybernetics? Cybernetics is sixties, denk ik. Seventies. Oké. Ja, ik heb destijds in mijn afstudeeroptie heel veel over geschreven. Dio. Nou ja, je had toen, uhm,

151
00:23:09.330 --> 00:23:19.930
Buckminster Fuller bijvoorbeeld. Tip om eens te lezen. Uh, het ging heel erg over dat zien als, die hele wereld als een groot cybernetic systeem. En cybernetics gaat over, uh, uhm,

152
00:23:20.970 --> 00:23:30.390
uh, het idee dat al die apparaatjes, al die dingetjes, al die entiteitjes in die wereld, die zijn met elkaar verbonden en hebben bijvoorbeeld, het woord feedbackloop komt daar bijvoorbeeld uit.

153
00:23:30.430 --> 00:23:38.730
Is dat iets, hè, als jij een microfoon hebt en die sluit je aan op dezelfde speaker als waar de microfoon op, gaat hij feedback geven. Mhmm. Want het geluid creëert geluid. Mhmm. Dan krijg je een hele hoge piep.

154
00:23:38.770 --> 00:23:46.330
Dat is een feedbackloop. Ja, uh, maar zo hadden ze nog meer, een soort abstracte dynamieken geëxtraheerd uit machines.

155
00:23:46.370 --> 00:23:56.570
Dus je kan gewoon bij een motor gaan staan en zeggen van: hé, grappig, daar ontstaat een soort van druksysteem. Daar zie je wat, uh, loopjes ontstaan. Zo is misschien ook de maatschappij. Ja, of, of een organisatie. Ja.

156
00:23:56.619 --> 00:24:03.290
Toen was het natuurlijk dikke money verdienen, want je kreeg allemaal coaches die zeiden van: je hele organisatie is gewoon een motor. Oh ja. Jij pressure. Doe als de machine.

157
00:24:03.410 --> 00:24:09.050
Ja, en dan, nou, gaat het, en dat, zo'n model valt op een gegeven moment natuurlijk, want het is niet helemaal een machine.

158
00:24:09.310 --> 00:24:18.050
En we zijn ook niet helemaal een computer, dus dat heeft, in kleine beperkte plekken kan je daar waarschijnlijk wel iets mee doen, maar als je dat te groot gaat maken dan valt dat uit elkaar.

159
00:24:19.130 --> 00:24:24.110
Uh, maar een van de mooiste metaforen uit die, uh, cybernetics is governor.

160
00:24:24.230 --> 00:24:35.534
Uh, op een stoommachine, uhm, zit een apparaatje dat er eigenlijk voor zorgt dat, dat die stoommachineEhm, niet te snel gaat draaien, want er zit geen gaspedaal op iedere stoommachine.

161
00:24:35.554 --> 00:24:42.534
Die wil je eigenlijk standaard laten draaien naast jouw textiel, textielmil. Er moet niet iemand heel de dag zitten van: te hard, zachter, te hard, zachter. Ja. Nou, wat ga je dan doen?

162
00:24:42.594 --> 00:24:50.054
Dan creëer je in dit geval, is dat een, uh, stokje met balletjes eraan die gaat draaien. En hoe harder die gaat draaien, hoe meer die gaat duwen op de toevoer.

163
00:24:50.574 --> 00:24:57.434
Waardoor die dus automatisch de toevoer regelt door hoe snel die draait. Oké. Dus dan creëer je een koppeling. Oké. Nou, dat ding heet: The Governor.

164
00:24:57.474 --> 00:25:08.014
Dit is wat mij betreft het romantische beeld van wat een hele overheid zou moeten doen. Is dus niet die buis, die buis dichtduwen, want dan gaat die stoommachine uit, maar ook niet dat ding op hol laten slaan.

165
00:25:08.054 --> 00:25:18.754
M-hm, m-hm. De truc is hoe met z'n allen, hè, in een democratie. Hoe houden we nou dat systeem zo dat die stoomlocomotief niet letterlijk explodeert van hitte, maar dat ding wel kan rijden.

166
00:25:18.774 --> 00:25:30.334
En dat is volgens mij, uh, uh, een beetje de rol, uh, die bijvoorbeeld een Rathenau Instituut heeft, zoals we die mooi hebben in Nederland en allerlei andere instituten, is om te zeggen: hoe kunnen we innovatie,

167
00:25:31.834 --> 00:25:39.674
ja, het woord controleren is wel rot, maar het is meer een soort temmen. M-hm, m-hm. [gniffelt] Zonder het kapot te temmen. M-hm.

168
00:25:39.714 --> 00:25:44.734
Dus dat is mijn hele grote antwoord op: vind je nou dat we dit, hadden ze het mogen aansluiten op het internet?

169
00:25:45.494 --> 00:25:52.334
Ik denk dat er heel veel geluk is, en dat is, dat is, dat is ook het mooie van de hele menselijke geschiedenis. D'r zit o-, gelukkig ook een hoop geluk in.

170
00:25:52.814 --> 00:26:02.484
Is dat we gewoon dingen hebben gedaan, uh, uit een soort naïviteit of een soort, er was paniek, dus vlug iets bouwen en dat ging dan over het algemeen, uh, wel goed. Maar,

171
00:26:04.034 --> 00:26:06.574
laten we in ieder geval met elkaar afspreken wanneer het dan niet goed gaat.

172
00:26:06.774 --> 00:26:15.514
Dat is misschien even om terug te komen op die vriend van mij die dan in een baan zit van: oké, uh, is het als onze kinderen alleen nog maar AI-vrienden hebben, is het dan niet meer goed?

173
00:26:15.854 --> 00:26:26.364
Of, uh, ik hoorde jou daar, uh, in, met Nerds om tafel over praten. Ga je vreemd als je alleen nog maar 's avonds op school zit te praten met je AI-vriend of -vriendin en niet meer naar je daadwerkelijke leven gaat?

174
00:26:26.374 --> 00:26:36.194
We zouden als maatschappij nu al kunnen nadenken over scenario's die we niet oké vinden, zodat als het gebeurt, we niet denken: ja, nog een klein beetje, het kan nog wel een klein beetje meer.

175
00:26:36.254 --> 00:26:41.454
En omdat we niet meer weten wat onze grenzen zijn. Nu, daar ben ik oprecht wel nieuwsgierig naar in, in jouw geval.

176
00:26:41.503 --> 00:26:56.424
Want zijn er nu op, kan, misschien is het een te grote vraag, maar zijn er concrete dingen waar jij van zegt, van: hé, in mijn leven, als ik daarmee geconfronteerd word als app of dienst, of ik zie mijn kinderen dat gebruiken, of mijn vrouw of vrienden, dat ik dan zeg: hé, nee, dit is, uh, niet fijn.

177
00:26:56.554 --> 00:27:05.014
Voor mij is nieuws, is wel een groot ding, is wel een groot ding. Daar moeten we het ook zeker nog een keer over gaan hebben in deze serie. Maar gewoon, hoe gaat journalistiek veranderen door AI?

178
00:27:05.074 --> 00:27:11.274
Hoe gaan we, hoe gaan we informatie tot ons nemen? Dat ligt een beetje in het verlengde van hoe we, hoe we reclame tot ons gaan nemen.

179
00:27:11.994 --> 00:27:22.154
Maar ja, het, het idee dat we straks met z'n allen geen gedeelde werkelijkheid meer hebben omdat er geen economische incentive is om een gedeelde werkelijkheid te hebben. Die is er nu nog wel.

180
00:27:22.554 --> 00:27:30.074
En, en, d'r is een, een, uh, dat je door, nog steeds goed geld verdient aan een, aan een Volkskrant, uh, maken.

181
00:27:30.094 --> 00:27:42.514
Maar als dat, als dat straks niet meer zou is, godbetert, godverhoede, moet ik zeggen dan, uhm, d-dat is wel een scenario waar ik me zorgen over maak, ja. Ja, dat is een soort van, uh, om toch het woord, uh, ultra.

182
00:27:42.674 --> 00:27:51.354
Was dat het woord? Nee. Super, super! Sorry. Super, super. Superfilterbubbel. Ja, een superfilterbubbel. Ja, laten we die bij deze klo-, uh, coinen. Ja. Ja. En da-, en, en dan.

183
00:27:52.194 --> 00:28:02.954
Maar heb je dan ook voor jezelf nu, als je het er zo met mij over hebt, een soort van grens dat je zegt: dan ga ik over een- Dan moet ik dus tegen de, tegen de stroming van de technologie in proberen te gaan.

184
00:28:03.934 --> 00:28:08.294
Uh, en dan moet ik mijn best gaan doen om buiten mijn filterbubbel nog dingen te zoeken.

185
00:28:08.814 --> 00:28:16.654
En dan denk ik dat ik, uh, in de praktijk maar, uh, een klein, uh, van een, van een, bij een klein groepje hoor die überhaupt die behoefte heeft.

186
00:28:17.334 --> 00:28:29.114
Dus alle, alle dingen die, uh, ik, be, ik maak me zorgen over de dingen waar mensen bewust tegen de stroming in moeten gaan. Ja, wat moeite kost. Ja, wat moeite gaat kosten.

187
00:28:29.154 --> 00:28:40.124
En is het dan-- want ik kan me ook voorstellen, bijvoorbeeld, uh, als ik dan kijk, uh, ik zie een, uh, buurjongetje van mij, uh, twee uurtjes per dag Minecraft spelen. M-hm. Ik denk: nou, dat gaat wel goed.

188
00:28:40.544 --> 00:28:47.234
Op zich leuk, weet je. Ik kan bij ga eens naast zitten, eens kijken wat ze allemaal doen. Ah, spelletjes, kinderen zijn er ook. Chat. Oh wat vet! Is gewoon heel, daar kan ik helemaal enthousiast van worden. M-hm.

189
00:28:47.274 --> 00:28:51.854
Bouwen, helemaal mooi. Maar op een gegeven moment is daar dan die grens dat ik zeg van: nou.

190
00:28:52.604 --> 00:29:01.124
Hè, dan, dan zou ik dan ook nog wel een soort van als een grapje vertellen aan mijn buren van: zo zes uurtjes per dag Minecraft, hè, het is zomervakantie, maar toch, de zon schijnt. Wink, wink, weet je wel.

191
00:29:01.194 --> 00:29:05.034
Ga ik me dan als een soort van buurman een beetje mee bemoeien als het ware. Uhm,

192
00:29:06.014 --> 00:29:14.074
dat ik dan, daar is dus dan een intuïtieve grens bij mij in een soort, dat zit weer een beetje in die metafoor van die stoommachine, hè, van hoeveel stoom laat je door tot dat ding ontploft?

193
00:29:14.114 --> 00:29:16.154
En hoeveel druk je hem vast dat hij het niet meer doet? Ja.

194
00:29:16.534 --> 00:29:30.274
In het geval van het kind, van een kindvoorbeeld is het dan, als jij je kinderen nooit laat interacteren met technologie, in welke zin dan ook, omdat je misschien een anti-tech iemand bent geworden of nu al bent, uh, dan, dan is er natuurlijk ook, daar is een gevolg aan.

195
00:29:30.494 --> 00:29:40.374
Ja. In het negatieve van een wereld waarin ze niet meer kunnen functioneren. Ja. Dus ik, uhm, en dan, ik ben dan denk ik, dat is misschien wat ik dus doe om, om die orde in mijn geest aan te brengen.

196
00:29:40.394 --> 00:29:49.094
Dat ik dan echt zeg: ja, nee, het is twee uur, het is gewoon screentime, maar in dan de breedte van de zi-, in de breedste zin van het woord van daar moet een, daar moet een grens aan zijn.

197
00:29:49.114 --> 00:29:56.974
En ik kan me voorstellen in jouw voorbeeld, bijvoorbeeld bij de bubbels, uh, wat, uh, voor zover ik weet binnen de psychologie heet het eigenlijk consensusrealiteit.

198
00:29:57.014 --> 00:30:05.234
Dus dat is de realiteit waar we een soort van consensus over hebben met elkaar. Als je te ver gaat uitwijken uit consensusrealiteit, dan kom je in een soort eigen ding.

199
00:30:05.654 --> 00:30:12.346
En als het eigen ding, als je daar weer andere mensen kan vinden, heb je tenminste nog een groepje.Die de nieuwe consensusrealiteit gaat creëren.

200
00:30:12.786 --> 00:30:19.286
Maar als dat te veel gaat fragmenteren, want je hoeft niet helemaal in één consensus te leven. Het kan heel goed zijn dat je zegt nou, ik doe wel mee

201
00:30:20.586 --> 00:30:28.946
met dat de Tweede Kamer en de Eerste Kamer daadwerkelijk bestaan en dat de Albert Heijn een winkel is waar je wat kan kopen met euro's en dat de euro bestaat. Daar ga je dan allemaal wel in mee.

202
00:30:29.046 --> 00:30:34.026
Maar dat je dan daarnaast zegt maar er zijn ook nog wat andere alternatieve munten die ik aanhou en ik heb ook een groepje.

203
00:30:34.226 --> 00:30:44.236
Dit is [lacht] is niet waar, maar in mijn tuin waar we ook nog riddertje spelen in ons eigen ding of zo. We gaan. Maar Wytse voordat we hier ingaan, dit wordt gewoon een losse aflevering, ja. Ja.

204
00:30:44.286 --> 00:30:54.266
Ja, want als ik, als jij eenmaal nu aangaat, dan zijn we weer een uur verder. Ja. Dat is gewoon. News. Dit is gewoon content. Teaser. Dit is een nieuwsblog. [lacht] Was dit nog het nieuws? Ja, dit is het nieuwsblog.

205
00:30:54.315 --> 00:31:06.546
Wat dik. Ja, ja. Over het nieuwsblog gesproken. Er zijn, er was George Holtz was, was de gast bij Lex Fridman. Heb je hem geluisterd? Nou, ik heb fragmenten gezien op TikTok, want dat is hoe dit tot mij komt.

206
00:31:06.626 --> 00:31:19.116
Heel eerlijk. Via het algoritme van de Chinezen. Ik, het ging over zelfrijdende auto's, onder andere. Wat viel jou erin op? En ik wou even, ik wou even gezegd hebben. Ja, wie is George Holtz? Misschien ook belangrijk.

207
00:31:19.226 --> 00:31:27.426
Ja, want George Holtz is, ja, een beetje een markant figuur. Ja. Met zijn eigen opvattingen over van alles.

208
00:31:27.886 --> 00:31:37.186
Waar ik het zeker niet altijd mee eens ben, maar ik voel me persoonlijk altijd wel aangetrokken tot de Vincent van Gogh van deze tijd. Ik ga hem toch even groot maken, want het is wel een hele bijzondere jongen.

209
00:31:39.046 --> 00:31:48.216
Zijn politieke affiliaties en dingen daar even gelaten. Je merkt wel aan hem, het is een vrijdenker en hij zegt echt alles wat hij voelt en vindt. En dat is verrassend.

210
00:31:48.226 --> 00:31:54.426
Want is bekend geworden als jailbreaker van iPhones. Dus waar. En de PlayStation. En de PlayStation.

211
00:31:54.466 --> 00:32:04.666
Dus waar die grote bedrijven allerlei regels oplegden, was dit een soort van anarchist die ervoor zorgde dat iedereen wat voor apps dan ook kon installeren op zijn telefoon. Dat is een beetje de eerste bekendheid, toch?

212
00:32:04.686 --> 00:32:17.486
Toen was hij ook veertien, kan ik me als ik me goed herinner. En dat heeft hem gevormd, want hij is dus als the next Einstein een soort van op de voorkant van bladen gezet. En hij, hij was het, zeg maar van hier is ie.

213
00:32:17.506 --> 00:32:26.766
En dan Elon Musk uitdagen op dingen. En. Maar toen hij dus, zeg maar nog geen baardharen kreeg. Ja. Dus dat pakt je wel op voor life. Dat is hij zelf ook een beetje gaan geloven.

214
00:32:26.906 --> 00:32:33.796
Dat wil ik er nog even bij gezegd hebben, zeg maar. Nee, want ik bedoel, op een gegeven moment ga je je eigen Kool-Aid drinken, zoals de mensen dat zeggen. Ja, tuurlijk.

215
00:32:33.846 --> 00:32:43.786
Maar ik, ik, ik zie wel als ik hem hoor praten, dan denk ik wel van hey, ik, ik ga even luisteren wat hij zegt. Wat doet hij nu? Hij heeft een, hij heeft meerdere bedrijven.

216
00:32:43.866 --> 00:32:52.926
Daar wordt hij ook altijd een beetje op bekritiseerd, want hij springt een beetje van ding naar ding. Want dat is natuurlijk een moeilijke te, hoe zeg je dat, te voeden geest als je zo'n.

217
00:32:52.966 --> 00:32:58.926
Het is wel echt een, een ja, die is snel uitgekeken op dingen, laat ik het even zo zeggen.

218
00:32:59.706 --> 00:33:13.166
Hij is eigenlijk zijn, zijn serieuze bedrijf is Comma AI en dat is een selfdriving car bedrijf, dus dat ging heel erg over, ging en gaat, over een alternatief bieden. Hij noemde het altijd de Android van zelfrijden.

219
00:33:13.366 --> 00:33:22.986
Want je kan natuurlijk een Tesla kopen, daar zit het al in. Of een, of een Volvo of noem maar op. Maar hij zei: zou het niet gaaf zijn als je iedere auto zelfrijdend kan maken? O ja, zo'n kit.

220
00:33:23.026 --> 00:33:33.266
Ja, en die verkoopt hij ook. Dat heet de Comma One. Je hebt ook de Comma Two. Dat is een tweeënhalf, drie duizend euro. Kan op twaalf, dertien verschillende auto's van drie verschillende merken. Dan plug je in op je.

221
00:33:33.366 --> 00:33:43.586
Het is zo bizar dat het allemaal kan, maar goed, dan plug je in op de bestaande poort en dan kan je, nou, YouTube zit er vol mee, inderdaad een soort zelfrijdende auto hebben met aftermarket, zoals ze dat dan noemen.

222
00:33:43.626 --> 00:33:46.486
Dus een kit. Alsof je een TomTom koopt voor je auto.

223
00:33:46.666 --> 00:33:56.866
Ja, en het is allemaal open source en allemaal, hij maakt dat in Twitch slash YouTube livestreams gaat hij vier uur lang met koffie lopen beuken terwijl hij uitlegt wat hij aan het doen is.

224
00:33:56.886 --> 00:34:07.446
Het is, de hele manier van een bedrijf zijn of een project zijn is fascinerend voor de manier waarop hij dat doet. Inmiddels heeft hij een tweede bedrijf opgezet. Dat heet Tiny Corp.

225
00:34:07.946 --> 00:34:21.226
En Tiny, daar heeft hij een, hij is nu, [zucht] dat is, ja, dat, ik wil het ook weer niet te overdreven technisch maken en ik heb er ook niet alle verstand van. Hij is heel erg druk bezig nu om,

226
00:34:22.206 --> 00:34:33.396
nu is, er is natuurlijk een monopolie van Nvidia op dit moment, de grafische kaart maker. Eigenlijk alle grote modellen draaien op hardware van Nvidia. Op alle AI te draaien heb je een grafische kaart.

227
00:34:33.396 --> 00:34:41.926
Dan heb je grafische, grote, dure zware kaarten nodig. Terwijl AMD en Intel eigenlijk ook dit proberen te maken, maar die hebben nog helemaal geen goede software daarvoor.

228
00:34:42.346 --> 00:34:53.706
Hij heeft nu letterlijk de CEO van AMD uitgedaagd van joh, ik probeer jou, ik probeer nu voor jou iets te maken waardoor wij open source mensen ook in plaats van alleen maar Nvidia AMD kunnen gebruiken. Oké.

229
00:34:53.786 --> 00:35:04.226
Maar je API's zijn troep, je documentatie is slecht. Ik ga naar Intel toe en die hebben dus even een mailtje gehad en zo. Het gaat allemaal heel publiekelijk op een soort van vreemde 2023 manier.

230
00:35:04.586 --> 00:35:14.326
Er wordt heen en weer getweet tussen CEO's live, publiekelijk op Twitter als je ingelogd bent waar, waar dan staat: joh, ik ga je helpen, ik heb het doorgestuurd naar mijn engineer.

231
00:35:14.386 --> 00:35:29.176
We gaan zorgen dat jouw Tiny Core erop kan draaien, want zijn Tiny Corp is een, eigenlijk een AI bedrijf waarvan hij zegt: wat ik heb gebouwd om zelfrijdende auto's te doen heb ik gebouwd op een eigenlijk een oude manier van kunstmatige intelligentie met die grote taalmodellen.

232
00:35:29.606 --> 00:35:39.606
Een groot taalmodel moet ook gewoon een auto kunnen besturen. Dus ik ga de, ik ga de GPT-achtige large language model ideeën ga ik een LLM voor selfdriving van maken.

233
00:35:40.346 --> 00:35:49.526
Dan krijg je wat een beetje bij Tesla natuurlijk ook gebeurd is van [spuug] als je een auto kan laten rijden kan je ook een robot door een fabriek laten lopen met diezelfde software, aka. Maar wacht even. Sorry.

234
00:35:49.536 --> 00:36:06.186
Ik moet even, dit moet even, dit. Ja, oké. Dus Nvidia maakt hardware waar software bij zit. Ja. Cuda. Intel en AMD kunnen ook hardware maken, maar maakt niet zulke goede software om taalmodellen op te draaien.

235
00:36:06.246 --> 00:36:28.918
Ja, en je wil natuurlijk uiteindelijk iets maken wat ertussen zit waardoor je kan zeggen wat ze dan zogenaamd noemen de middleware of een soort Rosetta in een Mac is dat bijvoorbeeld of een virtual machine waarbij je zegt: ik heb hier Falcon, een heel groot taalmodel en ik ga dat nu draaien in een omgevingAgnostisch, dus los van of het nou een Nvidia kaart heeft of misschien zelfs hardware van Apple, want Apple.

236
00:36:28.958 --> 00:36:41.258
En nu heeft Nvidia een enorme voorsprong in de markt omdat ze als enige die combinatie hebben en, en dat, dat aandeel zal onder druk komen te staan op het moment dat meerdere dit kunnen gaan doen met hun eigen hardware.

237
00:36:41.318 --> 00:36:52.978
Ja, en George Hotz zit daar dus altijd een beetje in, uh, als, als lone inventor of zo. Het gaat allemaal wel heel erg over George Hotz, maar die, uh, ook voor hem dat hij zegt van, hij heeft een soort van allergie.

238
00:36:53.058 --> 00:37:01.378
Dus als Tesla dan dat self driving gaat doen, zegt hij: dat ga ik open sourcen, daar ga ik kitjes voor verkopen, want het moet van iedereen zijn. Er zit een soort democratisering van technologie achter.

239
00:37:02.158 --> 00:37:11.618
Uhm, en hij vindt het dan ook, denk ik, uh, dat zegt hij ook, maar hij vindt het dan gaaf om ze een beetje uit te dagen van: kijk dan, wat ik heb gemaakt voor $ 3.000 kan je gewoon installeren, is beter dan wat in jouw, uh, ding zit.

240
00:37:11.738 --> 00:37:21.138
Ja. En nu zegt ie, uh, want dat is eigenlijk wat ik, waar ik het even over wilde hebben, omdat we dat er zelf al een aantal keer tijdens Pokie over hebben gehad, is het idee,

241
00:37:22.598 --> 00:37:33.358
als je dus, je kunt met auto's beginnen, maar dat kan veel breder. Dat kunnen, even gemakkelijk gezegd, een trein, een graafmachine, uh, een landbouwmachine worden op hetzelfde model of een aangepaste. Zelfrijdend.

242
00:37:33.378 --> 00:37:42.718
Zelfrijdend, zelfsturend. Ja. Ja, en dan kan je, maar dan kan je zeggen: oké, maar datzelfde, hè, die auto heeft een paar camera's, een microfoon en een laser. Dat kan ook op een robot.

243
00:37:42.738 --> 00:37:50.718
Dan loopt hij gewoon, uh, door een gebouw heen en dan gaat hij, uh, schoonmaken. Precies. Je kan ook een politieagent maken als je een zelfrijdende auto kan maken. Ja, ongeveer. Grote stappen maken. Ja, ja, ja.

244
00:37:50.738 --> 00:37:58.318
Maar dus hij heeft nu, George Hotz merkt dan ook van: ik moet eigenlijk dat Comma AI, dat was nog, dat was nog te klein, mijn ambitie.

245
00:37:58.398 --> 00:38:10.208
Ik ga naar TinyCore en ik ga dat, dat, dat, d-d'r zit natuurlijk een paradox in, want het is juist een grote ambitie heeft, maar in een klein bedrijfje. Leuk. Uhm, ik ga open source maken. Al deze modellen, taalmodellen.

246
00:38:10.278 --> 00:38:19.078
Ik ga meewerken aan fundamentele software om te zorgen dat het overal kan draaien. Niet alleen maar bij Nvidia, want het moet op verschillende plekken bevrijd worden. Laat ik het dan even zo zeggen.

247
00:38:19.158 --> 00:38:31.498
Een soort van democratisering en daarbij hoort ook, en toen gingen mijn, werden mijn oren gespitst, want ik dacht: nou, George was weer een, want het is, ik zeg het toch nog maar even, een bijzondere man om naar te luisteren.

248
00:38:31.598 --> 00:38:40.978
Om, uh, nou ja, er zit een hoop air om die jongen heen, maar hij zegt op een gegeven moment: ik ga Tinybox bouwen. Dat is dan zijn volgende bedrijf. Want wat wil George? Een virtuele vriendin.

249
00:38:41.018 --> 00:38:50.118
Hij heeft een daadwerkelijke vriendin. Daar gaat het ook nog even over hoe dat dan allemaal werkt. Een, een bizar gesprek moet ik zeggen. Maar goed. Over hem en zijn vriendin.

250
00:38:50.178 --> 00:39:00.638
Nou ja, op een gegeven moment, uh, kijk, hij wil Tinybox bouwen. Die kan je nu ook pre-orderen bij hem. Wat is Tinybox? Dat is eigenlijk je eigen ChatGPT thuis. Mhm.

251
00:39:00.718 --> 00:39:09.358
En hij, hij heeft er ook nog voor gezorgd dat het precies de hoeveelheid stroom gebruikt als het opladen van een elektrische auto, zodat de overheid niet kan zien dat je hem thuis hebt staan.

252
00:39:09.598 --> 00:39:13.258
Dit, ik zit dit niet te verzinnen, dit is allemaal echt waar. Ik hang wel aan je lippen op dit moment.

253
00:39:13.298 --> 00:39:22.578
En dat gaat ook terug naar waar wij het eerder over hadden, dat er waarschijnlijk zoals nu wietplantages worden opgespoord door het in de gaten houden van de electrical grid in Nederland.

254
00:39:22.798 --> 00:39:29.898
Je kan daar natuurlijk een apparaat op zetten die dan gaat zeggen: dat ziet er wel heel erg uit als het stroomprofiel van een plantage en dan ga je er naartoe. Ja.

255
00:39:29.918 --> 00:39:36.758
Nou, zo kan je natuurlijk ook het stroomprofiel meten van iemand die zijn eigen GPT thuis aan het draaien. George gaat ervan uit dat dat straks niet meer mag.

256
00:39:36.838 --> 00:39:47.118
Om even aan te geven, daarom zeg ik ook steeds erbij: het is een man met bizarre ideeën. Waarom mag dat straks niet meer? Omdat, hij ziet op gelijke voet met wapens, het wapenbezit. Het is het bezitten van je eigen.

257
00:39:47.218 --> 00:39:56.678
Waar argumenteert hij dat, waarom dat zo gaat zijn? Uhm, omdat de, ja, de potentiële-- kijk, hij zegt: als ik een robot in huis heb rondlopen,

258
00:39:57.838 --> 00:40:09.718
uh, de robots zijn, gewoon laten we zeggen een humanoïde robot, zoals Tesla Bot en, uh, [gniffelt] hoe heet dat ding van, uh [lacht]? Boston Dynamics. Ja, of Boston Dynamics heeft die Atlas robot.

259
00:40:09.758 --> 00:40:18.998
Maar stel je even voor, eruitziende als een gemiddeld vol-, uh, volwas-- jongvolwassen mens qua grootte. Dan loop je natuurkundig tegen een aantal zaken aan.

260
00:40:19.038 --> 00:40:29.018
Even first principle thinking, hè, waar, uh, Musk en George Hotz heel erg van houden. Dan ga je kijken: wat kunnen we nu qua batterijen en motoren kwijt in die vorm? Hoe lang kan dat dan rondlopen?

261
00:40:29.058 --> 00:40:38.738
Wat kan het dan optillen? En hoeveel computers kunnen daarin? Ja. Dan loop, het probleem is: er kan eigenlijk nu niet genoeg compute in die robot zelf om hem een, om hem een brein te geven.

262
00:40:39.258 --> 00:40:47.878
Dus is de oplossing voor nu: dat brein zit niet in die robot, maar dat wordt er naartoe gebeamed. Want ja, wifi, dat kan je natuurlijk wireless. Draait in de cloud, de hersenen.

263
00:40:47.938 --> 00:40:51.278
Ja, dus de, dus je hebt een robot die in je huis loopt, maar de hersenen draaien bij Google.

264
00:40:51.698 --> 00:41:01.378
Nou, dan zegt onder andere George: die hersenen draaien in mijn garage, want ik wil dat mijn robot die door mijn woning heen loopt, sowieso latency, dus kortere tijd dat die kan reageren. Ja, praktisch.

265
00:41:01.418 --> 00:41:05.158
Maar ook: ik wil dat dat brein bij mij thuis is, want ik wil dat dat van mij is.

266
00:41:05.638 --> 00:41:14.438
En het hebben van een synthetisch brein in jouw woning kan in potentie natuurlijk ontzettend krachtig zijn, want je kunt het niet zomaar uitzetten, want het staat op fysieke locatie.

267
00:41:14.458 --> 00:41:25.558
Ervan uitgaande dat er mensen zijn die dat uit gaan willen zetten. Ja. En er is latency, het waardoor het allemaal sneller werkt. En het is ook gewoon een fijn idee dat je je brein niet bij Google hebt gestald.

268
00:41:25.638 --> 00:41:34.068
Ja, want ik denk dus dat, dat, kijk, ik zit hier zelf zo in. Ik als in Wytse, die dit nu vertelt, dat ik het niet fijn vind dat al mijn data in de cloud staat. Precies, precies.

269
00:41:34.078 --> 00:41:44.238
George Hotz zit er heel erg in dat hij zegt: ik vind het het recht van iedere Amerikaan, want hij is ook een Amerikaan, dat zij thuis zo'n computer mogen hebben staan. Het gaat heel erg een Republikeins issue worden.

270
00:41:44.638 --> 00:41:47.358
Lo-lo-locally run AI [lacht].

271
00:41:47.418 --> 00:41:57.318
Nee, maar dus ik merk dat bij mezelf ook al, want daar ben ik altijd mee bezig, dat, ja, maar je kan dus impliciete politieke statements maken terwijl je, uit, zelf helemaal niet uit die hoek redeneert. Ja.

272
00:41:57.698 --> 00:42:03.098
En dat is natuurlijk vanuit een Amerikaans brein, uh, allemaal een soort van wapenlobbyachtig idee. Of in ieder geval.

273
00:42:03.138 --> 00:42:13.678
Ja, maar oké, maar hij wil dus een lokaal, een, een taalmodel runnen om een, om een brein uit te breiden. En dat is dan omdat hij een virtuele vriendin wil hebben rondlopen straks.

274
00:42:13.738 --> 00:42:23.878
Ja, dat heb jij, dat heb ik natuurlijk ook nog gezegd, want. Ja, ik moet deze loop toch wel even afmaken. Ja, want [beiden lachen] als je, als de luisteraar denkt: nou, die Wytse, die associeert erop los. Nou ja.

275
00:42:24.018 --> 00:42:30.858
Nee, ik ben het gewoon aan het navertellen. Ja [lacht]. De podcast waar ik zeer spijt heb dat ik niet heb geluisterd. Ging helemaal gek aan het einde. Ja.

276
00:42:30.958 --> 00:42:43.150
Uhm.Uh d-er is het idee dat hij een virtual girlfriend wo-- uh, wilt hebben. Helemaal wa-waarom weet ik niet zo goed. Het zit een beetje in- Waarom niet Wietse? Dat is toch niet iets om te bevragen?

277
00:42:43.950 --> 00:42:50.070
Dat lijkt me nou, dat lijkt me nou het enige wat je niet hoeft uit te leggen. Dat is fijn voor erbij. Ja, oké. En dan [Beide lachen]

278
00:42:50.730 --> 00:43:05.810
hij vindt het, hij vindt het dan ook heel erg belangrijk dat, uh, hij zit dus helemaal naar die hele stack te kijken, hè, dus dat hele van: oké, ik heb dan een machine nodig, hardware waarop het draait en ik vind het niet fijn dat ik dat maar bij één fabrikant mag kopen.

279
00:43:05.870 --> 00:43:14.630
Waarom kopen mensen het eigenlijk alleen maar bij Nvidia? Omdat die software die, die anderen maken allemaal rot is. Oké, die ga ik met mijn groep mensen eromheen, want hij is niet alleen, verbeteren.

280
00:43:14.690 --> 00:43:24.810
Oké, dan kan ik het kopen en thuis neerzetten. Hoe zorg ik er dan voor dat het niet opvalt dat ik het thuis heb staan? Oké, ik ga het precies een en power envelop geven van een gemiddelde ze-, uh, elektrische auto.

281
00:43:25.170 --> 00:43:35.070
Ook al over nagedacht. Ja. En dan, dan kan ik namelijk in huis een robot laten rondlopen die een, uh, draadloze verbinding heeft met die computer daar. En laat die robot dan ook mijn vriendin zijn.

282
00:43:35.270 --> 00:43:42.950
Dat, zo ver met fysieke zaken ging hij nog niet, maar, en ik, uhm, ik, weet je dat, oké.

283
00:43:44.450 --> 00:43:52.860
[schraapt keel] Het, het, uh, wat er vaak gebeurt is dat je een beetje, uh, met zo'n, met zo'n jongen als George, als ik dat dan even zo luister.

284
00:43:52.950 --> 00:44:04.610
Ik ben geen psycholoog, maar ik ga hem toch even analyseren, dat hij een vrij disharmonisch profiel heeft, wat inhoudt dat hij, uh, op het gebied van technologie en software en hardware, uh, ons allemaal voorbij streeft.

285
00:44:04.930 --> 00:44:06.190
Uh, die vliegt gewoon weg.

286
00:44:06.770 --> 00:44:17.330
Maar dat betekent niet dat hij emotioneel dan ook direct, als ik even dat in twee, uh, splits, zeg maar, het intellecte-intellect en het emotionele, uh, ook ontwikkeld is, uh, tot op, op het niveau zoals de meeste mensen.

287
00:44:17.410 --> 00:44:31.310
Nee, die, ja. Maar is het niet, dus is het niet ontzettend, ja, van negatief, naïef, creepy of positief, schattig, aandoenlijk, romantisch dat deze jongen dan denkt: ik ga een vriendinnetje bouwen voor mezelf. Ja.

288
00:44:31.430 --> 00:44:38.850
Uh, als zijn einddoel. Ja, maar, maar het kan toch ook zo zijn dat het, dat het net is als, uh, uh, DARPA.

289
00:44:39.110 --> 00:44:50.090
We, we wil-, we willen wapens maken en uiteindelijk hebben we het internet er als soort van side product bij gekregen en dus heel veel andere dingen. Dus je, je kan ook gewoon het, een, een ambitieus doel stellen.

290
00:44:50.190 --> 00:45:00.870
Dit is een beetje een raar doel, maar oké, een ambitieus doel stellen om dan in de hele slipstream los je allerlei dingen op, zoals niet afhankelijk zijn van één hardware fabrikant om AI dingen te kunnen maken.

291
00:45:00.950 --> 00:45:06.290
Als een punt op de horizon bedoel je? Ja, en ik vind op zich het hele idee dat je werkt om AI lokaal te maken.

292
00:45:06.350 --> 00:45:18.710
Kijk, of je dat nou doet omdat je een wappie bent die denkt dat, uh, de, de, de, de, de, de SWAT-teams je, je, je, je AI-verbinding komen verbreken of, uh, of dat je dat doet om, om privacyredenen dat je AI lokaal wil hebben draaien.

293
00:45:18.750 --> 00:45:29.420
Ja, whatever your reason, als het maar gemaakt wordt. Ja, ik denk dus in dat opzicht, wat ik wel belangrijk vind, is dat het in ieder geval grotendeels thuis kan draaien. Ja. Of in ieder geval- En moet draaien.

294
00:45:29.420 --> 00:45:35.350
Op een locatie. Ja. Ja, want en het kan ook nog eens zo zijn dat, dat zou ik bijvoorbeeld heel gaaf vinden. En dan pak ik even een klassieke metafoor.

295
00:45:35.390 --> 00:45:48.810
Misschien hebben we straks wel AI-providers zoals internetproviders en dan kan je gewoon kiezen in Nederland van- Voor een model. Ja, nou, dat je zegt: ik, uhm, nou, noem Freedom Internet. Ja. Die, uh.

296
00:45:48.870 --> 00:45:52.330
Een internet service provider. Ja, vanuit, uh. Zoals Ziggo. Ja, een ISP.

297
00:45:52.970 --> 00:46:06.630
Uhm, dat je zegt: nou, ik, ik wil op zich, ik vind het een, uh, beetje overdreven om thuis een apparaat ter grootte van een warmtepomp te gaan neerzetten, uh, die ook dezelfde hoeveelheid energie gebruikt, wat onderhouden moet worden door een cv-installateur.

298
00:46:06.670 --> 00:46:15.660
Maar dat is dan de AI-installateur [lacht] die dat allemaal bij jou thuis gaat doen. Dat je zegt: nou, hè, dat gaat allemaal heel erg ver. Maar het allemaal in Amerika zetten bij Google waar het om- Ja.

299
00:46:15.660 --> 00:46:24.280
Doorzocht wordt vind ik ook niet leuk. Ja. Ik zoek een middenweg. Ja. Dat er bedrijven zijn die gaan zeggen: oké, je kan bij ons infrastructuur huren, daar maken we bepaalde afspraken over.

300
00:46:24.290 --> 00:46:33.720
We zijn een Nederlands bedrijf. Ja, ja, ja. Da, da, en daar. En dat jij zegt van: nou, ik s-, dan de vraag ik aan jou: joh, waar, waar leven jouw, uh, synthetische vrienden zich in? Nou, die heb ik allemaal gestald bij.

301
00:46:34.390 --> 00:46:37.870
Maar misschien zeg ik nu iets heel naïefs, maar dit is toch wat al die cloudservices doen?

302
00:46:37.950 --> 00:46:47.510
Dat Google dan zegt: ja, maar we hebben ook een data, data, uh, center in Zwitserland voor onze gebruikers in Europa en, uh, die is niet aangesloten op het Amerikaanse netwerk.

303
00:46:47.600 --> 00:46:55.850
Ben ik dan heel naïef als ik dan denk: dat is gesplitst? Uh, nou, dat, de regelgeving. De NSA zou overal wel bij kunnen. Dat.

304
00:46:55.890 --> 00:47:04.270
Nou, de regelgeving omtrent dit soort zaken, zeg maar de privacy shield en dat soort dingen, die vallen in de rechtszaal heel de tijd doormidden, want, dus die worden iedere keer getest in, a, en die vallen dan.

305
00:47:04.450 --> 00:47:07.810
Dus juridisch lukt het niet. Nog niet. Om het echt goed te scheiden, bedoel je? Ja.

306
00:47:07.850 --> 00:47:14.330
Dus iedere keer als er dan een zaak gespannen wordt te zeggen van: nou, we hebben, de Google heeft beloofd zo en zo en het staat allemaal hier en hier, maar is het dan ook echt zo?

307
00:47:14.450 --> 00:47:25.510
Dan gaat zo'n rechter en onderzoeksteam aan de gang die zeggen: nou, we hebben gekeken, het, het is niet, het is niet zo te garanderen. Wat ze zeggen is niet helemaal waar. Niet uit leugens, maar gewoon, ja, het,

308
00:47:26.430 --> 00:47:33.190
uh, als de, het is nu een beetje de consensus. Als de juridische entiteit niet binnen de Europese Unie zit, bijvoorbeeld als het om de EU gaat.

309
00:47:33.730 --> 00:47:39.550
Als de juridische entiteit niet daar zit, dan kunnen ze het eigenlijk al niet meer garanderen. Want alles wat valt onder die entiteit erbuiten. Ja.

310
00:47:39.710 --> 00:47:53.530
Los van wat je hebt gedaan met deurtjes en zo, vergeet het, hè, want er zijn gewoon regels over. Dus jouw vraag: als ik, uh, in Google Docs zit binnen Google Ierland noem ik maar even, dan is, ben ik toch veilig?

311
00:47:53.990 --> 00:48:05.230
Ik, ik weet het niet precies, maar ik weet wel dat op het moment dat, dat het een datacenter is fysiek hier in Amsterdam, waar je misschien zelfs langs kan gaan en dat heet dan niet Access for All, maar AI for All.

312
00:48:05.330 --> 00:48:12.270
Uh, waar jij, uh, een doosje huurt en daar staat de infrastructuur. Misschien zeg je: nou, die wil ik best delen met een paar vrienden, want die vertrouw ik wel.

313
00:48:12.330 --> 00:48:24.490
En denk je dat, dat dan het, het taalmodel zelf is wat je huurt? Of dat je als het ware alle, alle soort van interactie die je met een taalmodel hebt, dat dat in, in.

314
00:48:24.550 --> 00:48:34.230
Ja, dat is, nou, dat is een beetje een ding, hè, want je hebt nu, en dat, het lijkt zo alsof ChatGPT van je leert, terwijl eigenlijk ChatGPT statisch is. Mhmm.

315
00:48:34.370 --> 00:48:47.881
Dus, uhm, dat, nou, statisch is het verkeerde woord, maar het is nu niet zo, uhm.Als jij sec met de API van OpenAI praat, laat het even daar houden, dan staat er ook netjes bij: joh, dit is de release van dan en dan.

316
00:48:48.342 --> 00:48:55.622
En als je dan gaat vragen om: wie is er nu de president, dan zegt ie: weet ik veel, want ik ben uitgezet. Ik heb gescrawld tot en met X maand in dat jaar.

317
00:48:56.642 --> 00:49:08.321
Dus het is niet zo dat hoe meer wij praten, hoe slimmer GPT wordt. Maar ook wel weer een beetje, want je kan een duimpje omhoog en een duimpje naar beneden doen. Dat wordt dan weer meegenomen in de alignment, namelijk.

318
00:49:09.562 --> 00:49:18.262
GPT is niet alleen maar getraind wiskundig op een grote dataset, maar er gaat ook een heel proces van menselijke interactie nog daarna overheen om hem even te tunen.

319
00:49:18.642 --> 00:49:29.472
Wat ze dan tuning noemen in plaats van alignment volgens mij. Maar, dus op een bepaalde manier is ChatGPT een beetje vloeibaar, maar in essentie niet iets wat nu slimmer aan het worden is door ons necessarily, zeg maar.

320
00:49:29.502 --> 00:49:36.232
Niet dat wij gebruiken. Nee. Misschien wel op de achtergrond, hè. Dat zou kunnen. Dat zou ik- Daar ga ik eigenlijk zelf wel een beetje van uit, maar oké.

321
00:49:36.262 --> 00:49:45.421
Het zou zo kunnen zijn dat alles wat wij daar intypen ook weer gebruikt gaat worden voor de, voor de volgende training. Dat is toch zoiets? Dat kan toch, dat, waarom zouden ze het releasen anders?

322
00:49:45.462 --> 00:49:50.902
Ik heb daar vast op acknowledge op gedrukt zonder dat te lezen, wat wij heel goed kunnen. Ja. Dus concreet terug te komen op jouw vraag.

323
00:49:51.242 --> 00:50:02.022
Uhm, ik denk dat het, uh, fijn is, al is het, en dan hoeft het helemaal niet het individu te zijn, maar laten we het even hebben over Nederland. Dat Nederland taalmodellen beschikbaar stelt.

324
00:50:02.282 --> 00:50:04.782
Dat hoeft niet een overheid te zijn. Het kunnen een aantal organisaties zijn.

325
00:50:04.822 --> 00:50:17.602
Of een stimulatiefonds waar wordt gezegd: het moet mogelijk zijn om als burger in Nederland te praten met een chatcomputer die staat in Nederland en waar ook van duidelijk is hoe die werkt, wie van wie die is en et cetera.

326
00:50:18.182 --> 00:50:23.622
En dat daar een taalmodel draait, een van de open source taalmodellen. Mhmm. En dat er afspraken zijn over

327
00:50:24.922 --> 00:50:33.102
alle gesprekken die je daarmee voert, die zijn daarna weer weg, want die slaan we niet op, want die hebben we niet nodig. Of wil je dat wel? Want je wil iets wat van jou leert en een geheugen heeft. Ja.

328
00:50:33.142 --> 00:50:44.202
Daar verlangen we een beetje naar. Ja. Dan wordt dat stukje, kan nooit, uh, gebruikt worden om een onderzoek te doen of nooit gebruikt worden om te kijken of jij een arbeidsongeschiktheidsverzekering mag hebben.

329
00:50:44.262 --> 00:50:48.822
Ik roep, roep maar wat. Mhmm. Misschien wel onderzoek op juridisch vlak als er iets anders aan de hand is.

330
00:50:48.842 --> 00:51:01.402
Wat ik niet zo goed begrijp is waarom je het taalmodel echt helemaal fysiek lokaal zou willen hebben draaien als je ook de, soort van, de, de gesprekken zelf alleen maar heen en weer hoeft te sturen, encrypted.

331
00:51:01.442 --> 00:51:11.132
Of denk je niet dat dat kan? Voor de verwerking van die informatie moet je decrypten, dus. Ja. Mhmm. Dus, dus, dus. Ja. Dus nee. Ja. Is een beetje moeilijk in het Nederlands, maar. Ja, ja.

332
00:51:11.182 --> 00:51:20.722
Ik denk dat als jij zegt: we bouwen een GPT proxy, laten we het even zo noemen. Ja. Die staat in Amsterdam en die stuurt het daarna encrypted door naar OpenAI, dan moet dat doosje daar weer open. Ja, ik snap hem.

333
00:51:21.222 --> 00:51:26.102
En zou, het is natuurlijk wel zo dat je verschillende modellen nu hebt die verschillende dingen heel goed kunnen. Ja.

334
00:51:26.142 --> 00:51:36.922
Ik zat bijvoorbeeld naar een grafiekje te kijken die, uh, OpenAI's, uh, GPT vergelijkt met Claude van Anthropic. Ja. De soort van. De nummer twee op dit moment. De nummer twee. Vanochtend nog gekeken. Ja.

335
00:51:37.502 --> 00:51:49.322
En, uhm, dan heb je verschillende assen waarop dat ding, uh, beoordeeld wordt, waaronder, uh, creativiteit in schrijven. En dan, eigenlijk, OpenAI scoort op alles beter.

336
00:51:49.362 --> 00:51:56.142
Er is geen enkel ding waar, uh, uh, Claude beter op scoort, maar er zijn wel dingen waar Claude nadrukkelijk minder op scoort.

337
00:51:56.742 --> 00:52:03.322
En, uh, zo zou je dus kunnen bedenken: oké, er gaan taalmodellen zijn die zich gaan specialiseren, misschien in één ding. Zeker.

338
00:52:03.682 --> 00:52:09.442
Misschien is dit ook weer een tussenfase en, uh, heb je uiteindelijk helemaal niet meerdere modellen nodig. Maar ja, misschien aan de andere kant.

339
00:52:09.462 --> 00:52:16.682
Misschien is dit juist wel iets wat je per, wat per model gescheiden gaat worden, uh, wat, uh, zeg maar wat je er precies aan hebt.

340
00:52:17.342 --> 00:52:27.402
En als jij zegt, uh, George Hotz heeft het over, uh, een taalmodel gebruiken om zelfrijdende auto's te bedienen. Dan denk ik echt: oké, zo had ik er nog niet eerder over nagedacht.

341
00:52:27.412 --> 00:52:41.082
Dus een taalmodel kan je ook optimaliseren om de echte wereld te begrijpen, zodat een auto zichzelf kan sturen. Ja, dit is, nou, daar kan ik wel een mooie, uh, intuïtieve, uhm, verhaal vertellen om dit.

342
00:52:41.122 --> 00:52:54.702
Want ik had, dit, dit heeft mij ook tijd gekost van: hè, hoe kom je nou van een chatbot naar een autobesturend algoritme? Ja. Uhm, het is een, daar kan je, dat heet MIDI AI. Google het.

343
00:52:54.822 --> 00:53:07.622
[lacht] Dat is eigenlijk een serie en het gaat er heel erg over dat, wat al snel werd uitgevonden, een beetje rond de tijd van de, uh, toen het nog een playground was met sec-GPT, nog niet ChatGPT, maar puur alleen GPT, dus text completion.

344
00:53:08.232 --> 00:53:11.382
Ja. Dat je natuurlijk kunt praten, want dat, hè, we hebben het er al eens eerder over gehad.

345
00:53:11.482 --> 00:53:21.882
Als de hele technologie nu wel bevroren zou worden, hè, omdat, uh, Wietze-achtige paranoia figuur dat voor elkaar krijgt, dan hebben we nog steeds genoeg te doen, want we kunnen nog- DBB gaat tegen AI strijden.

346
00:53:21.892 --> 00:53:27.022
Ja, en dat moet allemaal, nee, maar dat moet allemaal, het mag nog wel draaien, maar het moet op pauze. Mhmm. En dat houdt in dat het niet meer doorontwikkeld mag worden.

347
00:53:27.422 --> 00:53:34.452
Wat er dan nog wel dooront-, dus de taalmodellen niet. Wat er nog wel doorontwikkeld is: hoe praten we met taalmodellen? Daar zit nog superveel wat we nog van kunnen leren. Ja.

348
00:53:34.462 --> 00:53:41.382
Nou, wat een van de gaafste dingen is die ik heb gezien, wa-, is: oké, uh, beste ChatGPT.

349
00:53:42.122 --> 00:53:53.862
Ik, uh, wil graag een stuk muziek maken, uh, samen met jou, uh, en ik wil eigenlijk dat het een mix is tussen, uh, klassiek Bach en dan die en die periode en, uhm, uh, Ringo Starr van The Beatles.

350
00:53:53.902 --> 00:54:03.342
Alsof die dan toch samen in een kamer hebben gezeten. Uhm, ik wil dat je dit voor mij uitprint in het volgende formaat waarbij alle tonen, uh, voor dit karakter staan.

351
00:54:03.902 --> 00:54:11.922
Dus, uh, uh, alle noten bedoel ik, sorry, alle noten staan voor dit karakter. Alle, alle muzikale notatie wordt helemaal, het is een gigantische prompt dit. Dat zie je ook in die video's als je die bekijkt.

352
00:54:11.962 --> 00:54:22.282
Er worden A4'tjes geplakt in die, in die prompt waarin een taal wordt afgesproken met GPT, een muzikale taal waarbij ChatGPT met woorden muzieknotatie kan doen, die dan. Oké.

353
00:54:22.442 --> 00:54:28.782
En dan, dan wordt er dus gezegd: zou je voor mij een muziekstuk kunnen schrijven in de stijl van Bach, alsof hij samen met Ringo Starr een medley heeft gedaan?

354
00:54:29.382 --> 00:54:40.642
Uh, ik wil dat je, uh, deze notatie gebruikt en het dan uitprint voor mij als een array, uh, dat is een computerterm, maar dat is een manier van, uh, data in een soort formaat printen waardoor je ermee kan, bijvoorbeeld in een tabel of in een Excel-sheet.

355
00:54:40.682 --> 00:54:50.778
Muziek wordt dan opeens tekst. Ja.En dan staat daar gewoon, uh, de timing en dan komma A1. Dat is dan net zoals je kan schaken met tekst bijvoorbeeld. Ja, ja, ja. Die je ook met elkaar afspreekt. Ja, ja, ja.

356
00:54:50.818 --> 00:54:55.657
Is precies dat. Die kan je ook, zo kan je ook schaken met ChatGPT. Nu al, trouwens, want dan doe je hetzelfde trucje. Ja.

357
00:54:55.978 --> 00:55:03.938
En dan heeft die persoon een scriptje geschreven waardoor die specifieke notatie die hij met ChatGPT heeft afgesproken- Weer wordt omgezet naar muziek. In MIDI, in MIDI. Mhm.

358
00:55:04.118 --> 00:55:12.918
En dan voert hij die MIDI in zijn piano en daar komt dan Bach uit. Aha. En dan zegt hij: kan ik, uh, nog, nog een laag schrijven en nog een laag schrijven? Kan je vocalen doen? Ik vind hem toch wat saai.

359
00:55:12.958 --> 00:55:25.218
Kan je zo en zo doen. En dit werkt, hè? Dude, je, je zit-- ik zit dan te luisteren. Kippenvel en, want dan zit je te luisteren naar een door ChatGPT gecreëerde Bach. Kom, gecomponeerd door ChatGPT in de vorm van tekst.

360
00:55:25.578 --> 00:55:39.438
En het klinkt nog ook. Maar hoe weet, hoe weet ChatGPT van Bach? Zeg maar, wat voor muziek Bach maakt? Interessant, hè? Ja, door, ik, ik denk dus door, dat er ook gevoerd is muziektheorie en uitleg over muziek.

361
00:55:39.458 --> 00:55:48.688
Maar dan beschrijving. Ja. En niet zozeer- Ja...de muziek zelf. Ja, hoe komt eigenlijk die intuïtie van ChatGPT in ChatGPT gere-, terecht om dit te kunnen? Want ik bedoel, dit kan het.

362
00:55:48.698 --> 00:55:58.538
Ja, dit specifieke voorbeeld vind ik echt heel vreemd. Ja, maar dat, het punt is dat je dus ook tegen, zeker in GPT-4 kan je dus zeggen: ik heb een, uh, tafel, daar staan op een aantal glazen.

363
00:55:58.658 --> 00:56:09.738
Nu duw ik de tafel X graden omhoog. Uh, wanneer, bij hoeveel graden gaan de glazen schuiven als die glazen zo en zoveel wegen? En dan wordt daar van alles gebluft. Maar in GPT-4 is dat dus steeds vaker waar.

364
00:56:09.778 --> 00:56:16.158
Dus er is blijkbaar een soort natuurkundig model in GPT-4 beland op een bepaalde manier- Ja...door alles te generaliseren. Ja.

365
00:56:16.378 --> 00:56:24.218
Dit is ook, daarom zeg ik: het onderzoek doen naar de nieuwe semi-levensvorm GPT i-is nog lang niet klaar, ook al zouden we het bevriezen.

366
00:56:24.298 --> 00:56:28.348
Dus nu hoor je misschien toch een beetje mijn bevriesargument dat ik denk: hebben we niet genoeg te doen als we er gewoon even afstand van blijven?

367
00:56:28.348 --> 00:56:35.718
Is dit dan zo'n ding waarvan je, waarvan het zomaar zou kunnen zijn dat de mensen die het gemaakt hebben niet begrijpen hoe dit kan? Hoe kan hij weten hoe Bach- Daar zijn we nu.

368
00:56:35.778 --> 00:56:44.798
Ja, en ook, want je kan dus ook zeggen: oké, ik heb een, uh, ik ga je in een doolhof, ga ik je in plain text, dus, hè, dat is tekst zonder opmaak, zoals je dat vroeger in Notepad had.

369
00:56:44.908 --> 00:56:52.237
Ik ga een doolhofje voor je tekenen met streepjes. Er zit een balletje in à la Pac-Man en ik wil dat je dat balletje naar de andere kant brengt op de meest optimale manier.

370
00:56:52.298 --> 00:56:59.918
Dit kan ChatGPT, als je het maar goed genoeg— en dan wil ik dat je het antwoord aan me geeft in instructies voor welke kant Pac-Man op moet.

371
00:56:59.938 --> 00:57:06.578
En dan zegt hij bijvoorbeeld: Pac-Man moet drie stapjes naar links, dan twee naar rechts, dan vijf omhoog en dan zo. Dat krijg je dan gewoon terug van een taalmodel.

372
00:57:07.018 --> 00:57:17.518
Dan voer je dat in in een robot en dan koppel je de motoracties van die robot aan die tekst van ChatGPT. En dan bestuurt ChatGPT dus een robot. En dat is dan de vergelijking met zelfrijdende auto's.

373
00:57:17.527 --> 00:57:28.638
Ja, en dat is nog superrudimentair. Ja, ja, ja, tuurlijk. Dat doolhofje dus. En dat is dus de, de, de George Hot die dat dan: ah, we gaan het zo doen en we gaan het zo doen en dan 99% lukt niet en hij is 20 jaar vooruit.

374
00:57:29.118 --> 00:57:36.018
Maar die soort van vreemde bravoure van hem, hij doe-, hij gaat het wel bouwen en dat creëert in ieder geval interessante zaken die, die maakt.

375
00:57:36.258 --> 00:57:50.058
Zou dit nou, s-is een, is een taalmodel dan voor sommige dingen ook ongeschikt? Want als je dit zo allemaal zegt, dan denk ik bijna: waar, waarom heb je dan nog andere manieren van AI dan middels een taalmodel?

376
00:57:50.258 --> 00:57:58.478
Nou, wat ik, uh, wat deze week, uh, uitgekomen van Microsoft, heb ik geen naam van, maar dat is een, uh, meer algemeen.

377
00:57:58.518 --> 00:58:05.708
Wat zij zeiden is: we willen eigenlijk een algoritme die niet alleen maar DALL-E, dus het genereren van afbeeldingen of alleen maar muziek kan maken, want die hadden we al, hè.

378
00:58:05.738 --> 00:58:17.858
Er waren al algoritmen voor muziek en voor plaatjes. En zij zeggen van: we willen toe naar een ge-, een general algorithm die muziek kan maken en plaatjes. Wat dus GPT met die tekst al een beetje kan.

379
00:58:17.898 --> 00:58:26.307
Met een hoop sleutelen en een hoop slimme trucjes, want het is echt een hybrid tussen de prompt engineer en, uh, het, uh, uh, uh, taalmodel. Maar dat,

380
00:58:27.428 --> 00:58:39.098
uh, het nu dus blijkt dat er heel veel te generaliseren is, zoals ze dat mooi noemen, van: ja, weet je, er zijn bepaalde rudimentaire patronen in muziek van oscillatie en harmonieën, ja, die je ook in het kleurspectrum vindt.

381
00:58:39.398 --> 00:58:47.338
Dus misschien kan je toch wel met iets wat veel van muziek weet, iets doen op het gebied van beeld. En da-daar zijn dus best wel resultaten nu.

382
00:58:47.378 --> 00:58:54.118
En blijkbaar kan je met iets wat heel veel van tekst weet en eigenlijk in essentie tekst voorspelt- Weer muziek maken. Weer muziek maken.

383
00:58:54.918 --> 00:58:59.018
En even, want op het moment dat je dat, uh, luistert, zeg maar, die, uh, Bach compositie.

384
00:58:59.038 --> 00:59:09.758
Het is dus nu, uh, diegene die dat dan vraagt aan, uh, het is ook interessant trouwens, want alles wordt in die video's gezegd met, uh, ChatGPT praat daar heel de tijd met de stem van Scarlett Johansson, net als in Her.

385
00:59:10.338 --> 00:59:20.038
Wat voor mij ook een, daar hebben we hier wel vaker over gehad, maar een heel, ik vond het heel bizar, want hij zit dus nu Bach te schrijven samen met een fake Scarlett Johansson. [gelach] Het is zo woud.

386
00:59:20.258 --> 00:59:28.878
En ik, ik zat dat filmpje ook te kijken gisteravond. Vriendinnetje ook naast me: wat, uh, wat ben je eigenlijk aan het doen? Ik zeg: ja, deze muziek is gemaakt, zeg maar, door ChatGPT, maar dan omgezet.

387
00:59:28.938 --> 00:59:35.618
En die stem is Scarlett Johansson en die praat dan nu tegen mij. [gelach] Het was nog niet vreemdgaan, maar het was, was wel heel bizar.

388
00:59:37.278 --> 00:59:49.088
Maar, uh, en het, ik, ik wil wel, het, hij zegt dan wel, die jongen die dit allemaal maakt, zegt dan van: oké, kan je me, kan je me een tip geven, ChatGPT, welk instrument ik het best zou kunnen gebruiken voor die derde harmonie die we er nu overheen hebben geschreven?

389
00:59:49.108 --> 00:59:56.798
En dan is het: nou, en dan komt er heel laf geschiedenisantwoord van: in die tijd werd veel gewerkt met dit instrument. Ja. En dat selecteert hij dan in zijn MIDI-tool. Ja.

390
00:59:56.898 --> 01:00:08.938
En zo samen maken ze dat dan en het klinkt steeds beter. Maar dat is wel een beetje net als een enquête heel erg sturend kan zijn, hè, in vragen. Zijn, er zit zoveel intelligentie in hoe hij de vragen stelt.

391
01:00:09.038 --> 01:00:13.188
Supersuggestief. Juist. En dus- Hij is een hele goede prompt engineer. Ontzettend goed. Ja.

392
01:00:13.218 --> 01:00:23.398
En, en, want dat is het idee dus, om het p-, stukje ChatGPT kan muziek maken eventjes af te ronden, is dat omdat er muziektheorie is over hoe harmonieën werken.

393
01:00:23.458 --> 01:00:29.917
En- Juist...we hebben allemaal symbolen uitgevonden, uh, door de honderden jaren heen om muziek op papier te krijgen.

394
01:00:29.958 --> 01:00:40.918
Ik denk dat op het moment dat je gaat werken met symbolen en of dat nou woorden zijn, hè, of enkele tekentjes, nootjes. Dan past, dan past dat in een taalmodel. Dan kan ChatGPT schaken en muziek maken. Juist, juist.

395
01:00:41.978 --> 01:00:50.018
Dat is heavy, hè? [lacht] Ja, kan je zeggen. Dank voor het luisteren naar Pokkie. Tot volgende week. Tot volgende week.