WEBVTT

1
00:00:00.100 --> 00:00:09.480
[alarm] Oh! Oh. Zo klinken 165.000 scheerbewegingen per minuut die je helpen om fris voor de dag te komen.

2
00:00:10.420 --> 00:00:18.620
De flexibele scheerkop van de Philips S9000 Prestige volgt de contouren van je gezicht en scheert tot op nul millimeter van je huid.

3
00:00:18.680 --> 00:00:29.000
Ervaar een ultiem gladde en comfortabele scheerbeurt, ook wanneer je nog niet helemaal wakker bent. Want dankzij de slimme sensoren past het scheerapparaat zich helemaal aan jou aan.

4
00:00:29.740 --> 00:00:40.260
Zo kun jij nog extra genieten van je kopje koffie voor je de deur uit gaat. De Philips S9000 Prestige is het ideale scheerapparaat om jouw dag goed mee te beginnen.

5
00:00:40.300 --> 00:00:53.020
Koop de Philips S9000 Prestige bij jouw favoriete winkel. Laat me je voorstellen aan Pim Verlaan. Ik begin op een hele jonge leeftijd met beleggen. Die horizon die jij hebt gaat zoveel voordeel opleveren.

6
00:00:53.180 --> 00:01:03.420
Pim is een man met een missie. Iedereen veilig en verantwoord leren beleggen. Als je echt iets wil leren, leer het van iemand die één stapje vooruit loopt. Hij legt je uit op welke manieren je kan beleggen.

7
00:01:03.520 --> 00:01:15.740
Elke bank heeft eigenlijk zijn eigen beleggingsfonds. Ik hou daar helemaal niet van. Op welke manieren je beter kan beleggen en hij rekent je voordeel op de euro nauwkeurig uit. € 192.000 minder rendement.

8
00:01:15.800 --> 00:01:21.340
Zelf leren beleggen. Niemand vertelt dit. Pim dus wel in Jong Beleggen de podcast. Nou, dat is toch fantastisch?

9
00:01:30.080 --> 00:01:46.360
[muziek] Welkom bij Poki. Een podcast over kunstmatige intelligentie waarin wij, Wytse Hagen en Alexander Klöpping, je meenemen in de wereld van AI.

10
00:01:47.340 --> 00:02:02.060
Alexander, hoe was het in Estland? Ik heb met alle CIO's, want Estland heeft een CIO. Ze hebben ook een CDO en allerlei andere corporate IT-achtige namen in hun overheid zitten.

11
00:02:02.080 --> 00:02:11.020
En ik heb met alle CIO's gesproken sinds dat het land bevrijd is door de Russen in de jaren negentig. Of van de Russen bedoel ik in de jaren negentig, sinds de val van de Sovjet-Unie.

12
00:02:11.900 --> 00:02:23.760
En, uh, dat was wel vet, want dat beteke- Estland is een van de meest gedigitaliseerde, uh, overheden op aarde, misschien zelfs wel de meest gedigitaliseerde overheid op aarde.

13
00:02:24.600 --> 00:02:32.500
En zoals die, die mannen dat vertellen is in de jaren negentig was er dus geen infrastructuur. Uh, ze hadden geen manier om.

14
00:02:32.940 --> 00:02:43.500
Ze moesten alles opbouwen van een manier tot belasting te innen tot een database bij te houden met wie er eigenlijk in het land woonde tot, nou ja, gewoon de basale functies van een overheid moesten ze vanaf nul opbouwen.

15
00:02:44.100 --> 00:02:54.180
En aangezien ze geen geld hadden om Capgemini in te huren of, uh, weet ik veel wie er, wie wij zouden inhuren van die kut consultancybedrijven om dit allemaal op te zetten, hebben zij gewoon alles zelf gebouwd.

16
00:02:54.220 --> 00:03:02.900
En wat in Nederland, zeg maar, uh, die hele generatie van Rob Gonggrijp en Marleen Stikker ook wel die, die, die vroege internetmensen,

17
00:03:04.040 --> 00:03:13.820
uhm, die in Nederland, ja, uh, ISP's zijn begonnen en maar, maar, maar, uh, niet echt in de overheid hebben gezeten, zaten bij Estland juist in de overheid.

18
00:03:13.860 --> 00:03:17.380
En die hebben daar gewoon de digitale infrastructuur van de overheid gebouwd.

19
00:03:18.060 --> 00:03:30.260
En het gevolg is dus dat ze, ja, zij hebben een soort van, uhm, ze hebben een i-, ze hebben een i-, ze hebben een aantal basisprincipes, waaronder informatie mag altijd maar in één database staan.

20
00:03:30.300 --> 00:03:31.940
Dat noemen ze het only once principe.

21
00:03:32.620 --> 00:03:45.800
Dus als jij een, uh, uh, je geboortedatum ooit hebt ingevoerd bij de overheid, dan mag geen ander deel van de overheid daar nog om vragen omdat het, ja, één, één database of één deel van de overheid is dus verantwoordelijk voor dat stukje data.

22
00:03:46.460 --> 00:03:56.020
En als jij dan als andere, stel weet ik veel, je krijgt een kind of zo en je, je moet dan jouw inf-, jouw geboortedatum, uh, moet aan jouw kind gekoppeld worden in een database.

23
00:03:56.540 --> 00:04:05.600
Dan moet dus dat deel van de overheid dat opvragen bij de plek waar jouw, uhm, geboortedatum staat. En dat gaat via een systeem dat heet de X-road. Zo noemen ze dat.

24
00:04:05.640 --> 00:04:15.060
Dat is een soort middleware die ze gebouwd hebben al heel vroeg, waarmee alle overheden, uh, met elkaar kunnen praten via dit gestandaardiseerde protocol.

25
00:04:15.560 --> 00:04:26.820
Dat betekent dus dat omdat alle informatie maar één keer ergens mag staan, dat dat ding dus de hele tijd informatie aan het uitwisselen is en, uhm, dat jij controle hebt als burger over waar je informatie heen gaat.

26
00:04:27.480 --> 00:04:33.500
Uh, want voor sommige stukjes informatie moet je zelf toestemming geven voordat een overheid dat mag gebruiken.

27
00:04:33.520 --> 00:04:42.060
En aan de andere kant sommige dingen worden automatisch uitgewisseld, waardoor bijvoorbeeld je belastingaangifte vanzelf wordt ingevoerd. Dus aan de ene kant heb je een soort van logging dat je.

28
00:04:42.100 --> 00:04:48.760
Ze maken nu een app waardoor je elke keer als jouw data wordt opgevraagd je een pushbericht krijgt op je telefoon zodat je kan zien gaat dat goed?

29
00:04:48.800 --> 00:04:55.280
En als er dan mensen bij je data komen van de overheid die daar geen toestemming voor hebben, dan gaan ze de gevangenis in, want er staat een gevangenisstraf op.

30
00:04:55.920 --> 00:05:01.660
En aan de andere kant zijn sommige dingen gewoon zo automatisch dat je niet eens doorhebt dat er een overheid, uh, is.

31
00:05:02.580 --> 00:05:14.300
Nou ja, om dat verhaal te horen van hoe ze dat gedaan hebben en wat ze daar dan vervolgens mee willen, dat was echt heel erg cool. Kan je dan ook een soort audit log opvragen van wie dan bij jouw data geweest is?

32
00:05:14.460 --> 00:05:28.040
Zo van dit, dit zijn de. Wat vet! En je zei net zelf van allemaal zelf gebouwd ook, dus het is niet iets wat ze hebben gekocht of, uh, van een andere ander land hebben geïmporteerd. Nee, nee.

33
00:05:28.080 --> 00:05:37.260
En exporteren ze het inmiddels? Ja, volgens mij maken ze sommige delen open source. Uh, en dat X-road, dat proberen ze inderdaad actief te exporteren.

34
00:05:38.320 --> 00:05:48.200
Uhm, maar er zijn ook heel veel deeltjes, want het bestaat gewoon uit heel veel deeltjes, dit hele systeem. Heel veel is gemaakt in een soort van pri- publiek-private samenwerking.

35
00:05:48.220 --> 00:05:57.580
Er zijn ook allemaal commerciële b- bedrijfjes juist die dingen gebouwd hebben voor bijvoorbeeld het onderwijs. Ze hebben het beste onderwijssysteem ter wereld volgens de PISA-score

36
00:05:58.480 --> 00:06:07.844
en daar speelt onderwijs ook een rol in. Dus ze hebben een soort van Magister on steroids voor ouders die kinderen hebben en gewend zijn dat, uhmScores in magister verdwijnen.

37
00:06:08.524 --> 00:06:16.804
Uh ze hebben een soort van systeem gemaakt waardoor ouders uh heel goed hun kinderen kunnen helpen uhm met onderwerpen waar ze een beetje op achterlopen.

38
00:06:16.854 --> 00:06:26.584
En dat schijnt dan een van de dingen te zijn waardoor het zo goed gaat. Dus betere informatievoorziening voor uhm voor, voor ouders om te weten hoe het met hun kind gaat. Uh en dat is dan weer private samenwerking.

39
00:06:26.604 --> 00:06:39.444
Dus uh het is echt niet alleen maar dat er Estse overheid programmeurs zijn die alles maken. Ja, interessant. En uh en jij was daar uitgenodigd om, dat ze trots zijn om dat aan jou te laten zien?

40
00:06:39.484 --> 00:06:48.504
Of zat daar wel iets van een thema omheen of iets? Nou, ik heb mezelf uitgenodigd [gelach] want ik dacht uh. Dat is wel nieuwsgierig. [lacht] Ik dacht: ik wil dat gewoon zien.

41
00:06:48.854 --> 00:06:53.384
Maar ze hebben dus, ze hebben dus wel, ik ben niet de enige natuurlijk die dit interessant vindt.

42
00:06:53.464 --> 00:07:08.904
Ze hebben een soort van informatiecentrum waar dus de hele dag allerlei uh groepjes langskomen van mensen over de hele wereld die dan gaan horen hoe zij hun gezondheidszorg gedigitaliseer, gedigitaliseerd hebben, hoe hun rechtssysteem gedigitaliseerd hebben.

43
00:07:08.924 --> 00:07:18.984
Hun, ze hebben gewoon alles gedigitaliseerd. Dus als je, noem een niche uh binnen de overheid en ze hebben daar wel een presentatie en me-mensen bij die dat gemaakt hebben en dat vinden ze wel leuk om te vertellen.

44
00:07:19.024 --> 00:07:27.564
Ik heb wel het idee dat ze daar een soort van geopolitieke macht vandaan halen. En ze zijn natuurlijk het centrum van de NAVO qua cyber uhm aanvallen.

45
00:07:28.004 --> 00:07:36.884
Dus ze, zij zijn de, het land die de, ja de cyber defence van de NAVO zit in Tallinn en dat trekt ze ook een beetje naar zich toe.

46
00:07:36.944 --> 00:07:47.164
En dit, zoals zij zelf zeggen: het is niet de vraag of we nog een keer uh door de Russen bezet worden, maar vr-vooral wanneer dat gaat gebeuren. En daar willen we klaar voor zijn.

47
00:07:47.664 --> 00:07:57.784
Uhm dus hun hele digitale infrastructuur is ook ingericht op dat het op ieder moment aangevallen kan worden, met name door de Russen, en dat dat niet, uh dat ze, ze hebben een soort van

48
00:07:58.764 --> 00:08:08.284
uh kopie van de hele Estse digitale overheid uh in Luxemburg onder andere draaien, zodat ze, zodat dat gewoon ze over geswitcht kan worden mocht dat nodig zijn.

49
00:08:08.344 --> 00:08:19.863
En informatie zit in allerlei losse clusters waardoor als je één database binnenvalt, dan hebben ze een soort van economische afweging gemaakt van hoe duur het is om de keys van één database uhm ja, te, te, te hacken.

50
00:08:20.604 --> 00:08:23.164
Uh en ik, uh hebben ze gewoon een afweging gemaakt.

51
00:08:23.184 --> 00:08:32.264
Nou, als we het goed genoeg soort van clusteren in verschillende silo's, dan kun je wel één database pakken, maar dan heb je nog steeds niet uh heel relevante informatie.

52
00:08:32.504 --> 00:08:39.024
Vw uh dus dan heeft het geen zin als het ware om het te hacken. Dus ze zitten heel erg in de kern. Boeken zijn.

53
00:08:39.284 --> 00:08:46.604
Er zal vast wel, er zal vast wel, want je zegt deels open source, maar er zal uh iemand die er soort trots daar aan heeft gewerkt en daar een mooi boek van geschreven heeft.

54
00:08:47.404 --> 00:08:57.083
Soort van uh, weet je wel, The History of Developing uh E-governance in uh Estonia of zo. Zo'n boek. Ik heb het niet kunnen vinden en daarom heb ik alles maar uit eerste bron proberen te trekken. Ja, ik snap het.

55
00:08:57.144 --> 00:09:17.074
Uh en uh ja, het is wel, het is wel echt grappig en, en ze hebben dus dit jaar zijn ze klaar, want ze hadden een roadmap dus sinds de jaren 90, uhm om alle overheidsdingen te digitaliseren en het enige wat nog niet gedigitaliseerd was, was uh trouwen en uh sterven [beide lachen]

56
00:09:17.074 --> 00:09:30.624
. Dat is een beetje de middels van dingen. Ja, daar moest je nog voor langs bij een kantoor en, en die roadmap is dus sinds dit jaar af [lacht]. Dus ook die dingen kunnen nu uh via hun uh overheidsportal.

57
00:09:31.184 --> 00:09:40.664
En nu is dus de, de volgende, de volgende stap, want dit was een belangrijke soort van uh strik eromheen. Nu is de volgende stap dat ze allerlei proactieve dingen willen gaan doen.

58
00:09:40.724 --> 00:09:52.384
Dus nu zit het, nu hebben ze veel meer, ze runnen het bijna als een startup. Nu willen ze KPI's bereiken rondom gezondheidszorg en rondom klimaat uhm en andere grote onderwerpen waar ze.

59
00:09:52.804 --> 00:09:58.004
Ze hebben dus een kwart van de bevolking uh DNA hebben ze in kaart gebracht.

60
00:09:58.404 --> 00:10:11.744
Dus nu willen ze kijken: kunnen we p-persoonlijke gezondheidszorg gaan leveren middels AI uhm met de data die we aan elkaar kunnen koppelen, uh omdat we die data hebben van onze uh ingezetenen.

61
00:10:12.464 --> 00:10:20.244
Uh dus nu zijn er allerlei- Ik vind het wel interessant, want ji-jij zei natuurlijk net ook al aan het begin dat ze, ja, uh ze een principe hadden van alles één database.

62
00:10:21.204 --> 00:10:32.804
Uhm en is er, is er een soort principelijst ook of zo? Want het klinkt alsof ze het wel niet naïef aan het bouwen zijn. Er zitten wel allerlei idealen achter. Ja, nee, dus het is uh only once is een principe.

63
00:10:33.524 --> 00:10:40.604
Uhm en daarnaast is er ook een principe over het minimaliseren van de, de hoeveel, van de hoeveelheid data die opgevraagd mag worden.

64
00:10:40.644 --> 00:10:57.824
Dus iemand noemde een voorbeeld van dat, van de uh openbaar vervoer bedrijf in Tallinn, de hoofdstad, die uh OV-chipkaarten heeft en dat systeem wilde controleren of er een burger van Tallinn incheckte in de bus of dat het iemand was van buiten Tallinn.

65
00:10:57.864 --> 00:11:02.344
Want burgers van Tallinn mogen gratis met het OV en mensen van buiten Tallinn moeten ervoor betalen.

66
00:11:02.404 --> 00:11:11.904
Dus die systeem, de mensen die dat systeem maakten van die OV-chipkaart, die wilden weten van XRoad, dus dat, die middelwerker die informatie aan elkaar uh koppelt.

67
00:11:12.544 --> 00:11:19.524
V, mogen wij adresgegevens van de mensen die inchecken, want dan kunnen we checken of ze gratis mogen reizen. En toen zei het zo: [lacht] dit, was dan heel trots.

68
00:11:19.574 --> 00:11:31.144
[lacht] Natuurlijk hebben we dat niet gegeven, want het enige wat mensen, het enige wat zij nodig hebben om die specifieke ja dienst te kunnen verlenen, dus gratis, is weten: komt iemand uit Tallinn ja of nee?

69
00:11:31.244 --> 00:11:40.244
Dus toen hebben ze uhm, uh gespecificeerd dat het enige wat het OV-bedrijf mocht opvragen was een ja of een nee op de vraag- Ja mooi. Of die inwoner.

70
00:11:40.844 --> 00:11:54.003
En dat i, en dat wordt dus dan r-in real time gepullt uit die XRoad database op het moment dat jij je pasje bij die uhm bij die automaat in de bus ha-ha-hangt, uh houdt, uh om te checkken of je, of je gratis mag rijden ja of nee.

71
00:11:54.044 --> 00:12:05.944
Dus het is ook nog minimalisatie van uhm, uhm, uh van data. Uh logging is een belangrijk onderdeel, dus iedere burger heeft toegang tot de access logs. Ja.

72
00:12:06.004 --> 00:12:16.272
Die hebben ze een beetje naar beneden gedraaid omdat er te veel machine tot machine communicatie was.Ehm, in dat logging dus dat de, de echte verzoeken van mensen raakte daarbij ondergesneeuwd.

73
00:12:16.322 --> 00:12:26.892
Dus mensen snapten het niet meer. Dus ze zijn nu die hele logging interface aan het optimaliseren waardoor mensen beter begrijpen wanneer een aanvraag onderrecht is, zodat ze daar ook bezwaar tegen kunnen maken.

74
00:12:27.532 --> 00:12:43.432
Je kan dus zelf aangeven welke, bijvoorbeeld dokters welke delen van jouw patiëntendossier mogen bekijken. Dus je hebt, je kunt zelf je, de toegangsrechten instellen per medische, uh, uh, deel van je dossier.

75
00:12:44.072 --> 00:12:55.212
Zodat je bijvoorbeeld als een arts een second opinion wil, uhm, als je wilt dat een arts een second opinion geeft, dat die arts dan niet het, het resultaat of de analyse van de oorspronkelijke arts kan lezen en jij wel.

76
00:12:55.472 --> 00:12:58.972
Dat soort dingen. Ja, dit is toch goud? Ja, ik vind het heel vet.

77
00:12:59.052 --> 00:13:08.532
Ik, uh, voelt ook als een soort, uhm, dat zeg ik even naïef met wat ik nu van jou hoor, maar een, een soort Europees alternatief op een digitale overheid zoals je die in China ziet.

78
00:13:09.592 --> 00:13:19.712
Hè, in China is het, is het heel veel al, al deze data ook registreren, maar heb ik het idee dat je niet bij de access logs kan en niet consent gaat geven als er iets opgevraagd wordt et cetera. Dat vermoeden heb ik.

79
00:13:20.352 --> 00:13:35.132
En wat je nu beschrijft is, en dat sluit ook wel een beetje aan op waar we de vorige aflevering eindigden, hè, want toen, toen deed jij ook een soort appèl voor: joh, kunnen we niet ook fantaseren over hele mooie toekomsten met daarin technologie, zonder daar meteen een hamer op te gooien bij ieder idee.

80
00:13:35.712 --> 00:13:52.972
En wat je nu eigenlijk beschrijft is een, een digitale overheid, in ieder geval in hoe ik het nu hoor, waarbij er geprobeerd is om een balans te vinden tussen het gemak van al die data die opvraagbaar is, uh, en wat je daar allemaal voor voordeel uit kan halen versus: maar dat gaan we niet zomaar opengooien.

81
00:13:53.402 --> 00:14:02.912
Uh, we zorgen er wel voor dat het op een manier gedaan wordt dat andere waarden van de, die we als overheid, als burger belangrijk vinden ook, uh, uh, beschermd zijn. Ik vind dat wel, uh, wel heel mooi.

82
00:14:03.152 --> 00:14:13.292
Dit, dit klinkt dan wel als een, als een soort case study voor: je hoeft niet als je heel veel data hebt, dat dan ook maar meteen allemaal open te gooien. En, uh, het klinkt wel als veel meer werk.

83
00:14:14.112 --> 00:14:20.911
Vind ik niet erg, want, ja, je kent me inmiddels een beetje. V-van mij mag het tien jaar langer duren als het moeilijker is, wa-, als het goed, als het goed gebouwd wordt. Maar,

84
00:14:21.852 --> 00:14:25.732
uhm, en ik vind het boeiend dat je aan het begin zei dat dit de groep mensen is

85
00:14:26.732 --> 00:14:38.832
die misschien, uh, dat leg ik dan even in jouw mond, maar, uh, hier nu in Nederland veel meer tegen de overheid ageert of in ieder geval daar veel kritiek op heeft en dat het daar gebouwd is door diezelfde mensen van binnenuit.

86
00:14:39.352 --> 00:14:47.512
Het is misschien ook wel een beetje de historie, hè, dat gaf je zelf ook al aan van als er een soort blank slate is van een systeem, uh, ja, dan, dan kan je natuurlijk ook meer.

87
00:14:47.832 --> 00:14:57.712
Dat is, iedere ontwikkelaar die luistert denkt: ja man, lekker een nieuw bedrijf beginnen of, uh, hè, een, een project n-n-, versie twee gaan bouwen van een project en dan lekker opnieuw beginnen. Dat klinkt wel goed.

88
00:14:57.752 --> 00:15:01.332
Nee, zeker. Nou, dat heeft geholpen, dat ze opnieuw konden beginnen in de jaren negentig.

89
00:15:01.372 --> 00:15:21.912
Natuurlijk heeft dat geholpen, maar toch, het neemt niet weg dat je, als je een soort van fundamenteel idee over logging bijvoorbeeld, gewoon dat je als burger toegang hebt, uh, tot de, tot de, tot de access log, zeg maar, dat, dat voelt als een fundamentele waarde die we in Nederland gewoon niet, uh, belangrijk genoeg achten.

90
00:15:22.352 --> 00:15:30.892
Dus de, er zijn geen burgers die hier actief om vragen. Er zijn geen politici die actief hiervoor, uh, aan het, uh, ja, dit eisen, zeg maar.

91
00:15:30.932 --> 00:15:37.692
Van huisarts ging ik wisselen en dan moet je een formuliertje invullen waarin je consent geeft dat die data dan tussen die huisartsen uitgewisseld mag worden.

92
00:15:38.452 --> 00:15:46.792
En ik, ik, ja, ik gaf dat en dat was ook soort van sfeer van: sorry dat we dit moeten doen, naar mij. Zo van: hè, hier heb je nog dat formulier. Wij willen dit ook niet.

93
00:15:46.892 --> 00:15:57.252
Terwijl ik dan, ja, goed, ik sta daar, denk: wat mooi, weet je wel. Dus het is ook een soort sfeer van: hè, dat privacygedoe weer, die molen. Ja, ja. Die tand. En ik begrijp hem, hoor. Ik ben echt niet naïef.

94
00:15:57.312 --> 00:16:06.952
Ik snap dat, want het is frictie en het is gedoe en het klinkt allemaal paranoia. Maar ja, u, en dat vond ik ook mooi aan jouw verhaal dat je net zei: die access log was veel te, een log heb je maar zoveel aan.

95
00:16:07.592 --> 00:16:13.492
Uh, je hebt maar wat aan een log als die data, zeg maar, uh, goed gesorteerd wordt en je moet een soort, je moet UI hebben.

96
00:16:13.552 --> 00:16:24.412
Eigenlijk wil je gewoon een lekkere app die, die, die soort van ma-, met iconen en kleuren mensen helpt en er doorheen loopt van: joh, hier hoef je je geen zorgen om te maken. Dit is inter, dit is exter, extern.

97
00:16:24.472 --> 00:16:33.692
Het is, ja, heel, heel interessant. En dat doen ze dus ook, dat, dat UI-probleem een beetje aanpakken. In ieder geval. En het gaat wel echt heel erg iteratief allemaal.

98
00:16:33.752 --> 00:16:43.972
Dus sommige systemen zien er echt nog steeds uit alsof ze in het jaar 2000 gemaakt zijn. Dat dan dus ook weer wel echt. Dus er zijn hele lelijke dingen zitten er o-, zijn er ook onderdeel van.

99
00:16:44.012 --> 00:16:54.912
Als je die app ziet waarmee je stemt, want je kan dus stemmen in die verkiezingen, wat heel cool is, allemaal digitaal. Het gaat dus op de fucking blockchain een, een, uh, een hele, de hele ledger van de verkiezingen.

100
00:16:55.852 --> 00:17:02.431
Uhm, maar die app ziet eruit, dat is gewoon echt, zeg maar, je, je schaamt je dood als je ziet hoe het eruit ziet.

101
00:17:02.452 --> 00:17:10.412
Dus dan aan de ene kant is het heel vooruitstrevend en aan de andere kant voelt het als een reliek uit de oudheid die wij helemaal niet meegemaakt hebben, want wij hebben natuurlijk nog nooit online kunnen stemmen.

102
00:17:10.452 --> 00:17:21.332
Dus dat wel. Maar je, je merkt het, overal zitten dus die, die waarden van die hackers, de hackers uit de jaren negentig die het oorspronkelijke internet gemaakt hebben, die waarden, die zijn

103
00:17:22.372 --> 00:17:29.112
v-verankerd in het systeem en vervolgens raakt dus ook de hele bevolking doordrongen van die waarden. Omdat je toegang hebt tot logging.

104
00:17:29.372 --> 00:17:38.272
Dat, dat is mijn volgende vraag aan jou van: uh, ik heb in het verleden op veel kleiner niveau gewoon binnen bedrijven systemen gebouwd met daar bepaalde waarden in.

105
00:17:38.772 --> 00:17:40.972
Uh, niet in de orde van grootte van wat jij beschrijft.

106
00:17:41.472 --> 00:17:55.712
Maar wat je dan vaak ziet is dat die checks and balances die zijn ingebakken er op een gegeven moment uitgehaald worden of, ja, omzeild worden, want de mensen die die er ooit hebben ingestopt, die waarden zijn nooit expliciet ge, gea-, verankerd in de organisatie.

107
00:17:55.772 --> 00:18:04.232
Dus die techniek wordt uiteindelijk geërodeerd en dat waait dan gewoon, ja, dan gaat, er wordt een backdoor omheen gezet of een, uh, of een dingetje. Heb jij niet het idee dat dat daar ook,

108
00:18:05.192 --> 00:18:07.992
ja, ik doe, alles kan altijd gebeuren, maar heb je het idee dat dat daar

109
00:18:09.032 --> 00:18:18.172
door de bevolking en de mensen die er nu aan werken, beide partijen nog, uh, beschermd wordt?Nou, het valt me dus op hoe vaak zij veel van die dingen zijn.

110
00:18:18.232 --> 00:18:31.852
Dus sommige dingen zijn principes en sommige dingen zijn echt verankerd in de wet. Maar zoiets als gegevens niet mogen op of gegevens opvragen die je niet mag opvragen eindigt dus gewoon in gevangenisstraf voor mensen.

111
00:18:31.892 --> 00:18:38.171
En dat is iets, een verhaal wat ze elkaar ook de hele tijd vertellen. Dus mensen kennen allerlei anekdotes.

112
00:18:38.632 --> 00:18:47.972
Dat hebben ze dan op de voorpagina van de krant gestaan van mensen die in de gevangenis gegaan zijn omdat ze medische gegevens hebben opgevraagd van bekende Esten, om maar een voorbeeld te noemen.

113
00:18:48.372 --> 00:18:58.292
Dus het is gewoon onderdeel van de. Het is een soort meme als mensen de soort van de. En ik zit ook te denken dat zal dan. Ik weet dan weer te weinig van de geschiedenis van Estland. Wel een beetje, maar

114
00:18:59.952 --> 00:19:08.912
zit daar ook niet iets in dat het nog toen het gebouwd werd ook heel erg leefde van dit. Als we dit soort systemen gaan opzetten, dan moeten we gewoon heel erg oppassen.

115
00:19:08.972 --> 00:19:21.332
Want wie weet wie straks deze systemen in handen krijgt. Als dat er echt in zit, ja dan dan. Dan is dat een levend waardesysteem en niet een dogmatisch waardesysteem. Ja, ja, nee, maar dat, dat helpt.

116
00:19:21.372 --> 00:19:31.951
En misschien is het dus een, een ja. Misschien kan, kan je niet zoiets zo radicaal maken op het moment dat je niet die hele context meekrijgt van Estland inderdaad met de Sovjet-Unie.

117
00:19:31.972 --> 00:19:42.172
En dat het allemaal recent is en dat er toevallig te weinig geld is waardoor de nerds het dan maar gingen fixen omdat er. Nou ja, ze konden niet naar IBM gaan zeg maar om het gewoon uit een doosje te kopen allemaal.

118
00:19:42.612 --> 00:19:54.172
Misschien dat al die context nodig is om dit te krijgen, maar aan de andere kant. Maar het is er. Kan je natuurlijk. Dat is interessant. Ja en je en je kan alsnog je erdoor laten inspireren en bedenken dat is wel.

119
00:19:54.662 --> 00:20:08.132
Het is eigenlijk wel heel erg cool nu. Nu kunnen zij dus omdat het zo modulair is opgezet allemaal. En dus als je eenmaal in die aan die XRoad verbonden bent, dan moet je aan allerlei eisen voldoen.

120
00:20:08.172 --> 00:20:18.312
Dus ze kunnen ook allerlei beveiligingseisen opdringen. Om die reden Nerds zijn de baas over de XRoad, dus dat maakt dat telecomoperators die dan ook private bedrijven dus ook aangesloten. Dus iedereen logt.

121
00:20:18.512 --> 00:20:30.132
Het is alsof iedereen het is alsof je op je op je KPN account inlogt met je DigiD. Dat is in feite hoe het daar gaat. Meteen rillingen van als je het in onze context zegt. Maar in die context is het anders. Ja.

122
00:20:30.172 --> 00:20:36.352
Zij vinden dat volkomen normaal. Sterker nog, ze vinden dat heel handig, want betekent dat je ook niet je hoeft. Als je je aanmeldt bij.

123
00:20:36.692 --> 00:20:45.552
Bij een nieuw abonnement afsluiten hoef je niet opnieuw al je gegevens in te voeren, want dat gaat allemaal automatisch, want het is met hetzelfde login gedaan. En

124
00:20:47.832 --> 00:21:00.512
ja, het gevolg is dus dat die nerds ook al hun beveiligingseisen kunnen opdringen aan die private bedrijven. Op die manier omdat zij de baas zijn over een soort van het het smeermiddel wat in het midden zit.

125
00:21:00.632 --> 00:21:09.212
Dat vind ik ook nog wel grappig. En het betekent dus omdat het zo modulair is opgezet dat het bouwen van nieuwe diensten erop eigenlijk relatief makkelijk is.

126
00:21:09.232 --> 00:21:20.812
Want de hele data-uitwisseling, dat data-uitwisseling shit is allemaal al geregeld, dus betekent dat ze nu. Ze zijn nu met zo'n heel AI-project bezig. Ze gaan. Dit jaar willen ze dertig miljoen uitgeven. Dat is voor.

127
00:21:20.912 --> 00:21:31.332
Dit was mijn volgende bruggetje van oké, hoe zit het dan met het onderwerp kunstmatige intelligentie en dit hele verhaal daar? Nou, dat is dus dit is iets waar ze nu mee beginnen.

128
00:21:31.372 --> 00:21:39.812
En dan hebben ze een project voor gemaakt en hebben ze tachtig initiatieven die ze met AI willen ontplooien. En dat gaat dan van geautomatiseerde rechtspraak.

129
00:21:40.172 --> 00:21:49.172
Daar gaat bij ons in Nederland ook gelijk de haren van overeind staan. Want automatisch. Zij zijn dus heel erg trots. Ja, dat is het. Het heel. Het is best wel kapitalistisch land.

130
00:21:49.732 --> 00:21:57.532
Dat is misschien een soort van tegenbeweging van die van van, van, van de situatie in de jaren negentig. Maar het ook.

131
00:21:58.052 --> 00:22:03.982
Ik vind het wel heel verfrissend om met zoveel plezier te horen hoe zij zeg maar hun rechtssysteem dan efficiënter willen maken.

132
00:22:04.002 --> 00:22:14.652
Want ze zeggen er zijn gewoon heel veel dingetjes binnen het rechtssysteem die gewoon ongelooflijk veel tijd kosten voor advocaten en voor rechters. En met AI kunnen wij processen gewoon versnellen door beslissingen.

133
00:22:15.292 --> 00:22:23.092
Voorbeeld wat ik hoorde was beslissingen onder de € 7.000 boetes onder de € 7.000. Dat dat gewoon door een AI besloten wordt.

134
00:22:23.452 --> 00:22:27.752
En je zal always wel in beroep kunnen gaan en dan kan je alsnog kun je alsnog bij mensen terechtkomen.

135
00:22:27.792 --> 00:22:42.012
Maar om maar aan te geven de, de mate waarin ze bereid zijn om ja IT in, in, in die in die zone zich mee te laten bemoeien. Een ander voorbeeld was dat ze satellietfoto's gebruiken om

136
00:22:44.272 --> 00:22:55.332
satellietbeelden door AI laten analyseren om voor boeren om hun subsidie te krijgen. Want een, een, een voorwaarde om subsidie te krijgen is dat je je velden maait en ze kijken.

137
00:22:55.492 --> 00:23:05.532
Ze gebruiken dus die satellietbeelden om te kijken of je dat gedaan hebt en pas dan krijg je krijg je geautomatiseerd je subsidie. En, en een ander ding was dat ze werkzoekenden en

138
00:23:07.452 --> 00:23:12.752
werkgevers die banen in de aanbieding hebben ook al. Ook die shit is allemaal gestructureerd.

139
00:23:13.132 --> 00:23:24.532
Al die data is gestructureerd opgeslagen, dus de overheid kan actief mensen die een baan zoeken koppelen aan plekken waar banen zijn. En ook daar willen gebruiken ze AI om die koppeling te maken.

140
00:23:25.112 --> 00:23:31.732
Het is mooi dat data gestructureerd is, maar je moet ook nog wel even de koppeling maken. Dus die software moet je bouwen. Dat doen ze dus ook. Dus het is een.

141
00:23:31.752 --> 00:23:40.972
Het zijn heel veel voorbeelden van dingetjes die zij kunnen maken in heel veel verschillende disciplines van de overheid. Ook tussen die disciplines.

142
00:23:41.072 --> 00:23:51.252
Omdat al die gegevens gestructureerd opgeslagen zijn en er data-uitwisseling is. Als jij daar als consument toestemming of als consument als burger toestemming voor geeft.

143
00:23:51.492 --> 00:24:00.232
En in Nederland kunnen we niet, kunnen we niet meer doen dan binnen departementen een beetje klooien. En zij kunnen dat echt door een hele overheid doen.

144
00:24:00.592 --> 00:24:13.432
Is het dan misschien een te specifieke vraag, maar is het dan zo dat de boer toestemming geeft om zijn of haar land te laten scannen? Nou, sommige dingen leggen ze natuurlijk gewoon op. Ik bedoel ik, ik ga ervan.

145
00:24:13.472 --> 00:24:24.072
Ik weet het, ik weet het niet, maar ik ga ervan uit dat dat dit gewoon een voorwaarde is voor die subsidie. En sommige dingen doen ze omdat doen ze gewoon automatisch. Dus ik bedoel je, je belastingaangifte.

146
00:24:24.492 --> 00:24:29.252
Ze gaan niet vragen of je je banksaldo wil doorgeven of zo.

147
00:24:29.412 --> 00:24:39.472
Dat wordt gewoon gepolld.Ja en uh als er onderdeel iets onderdeel is van een van een recht uh van een recht rechterlijke uitspraak, dan wordt dat ook gewoon overruled.

148
00:24:39.492 --> 00:24:43.032
Maar wat ik voor me zie is een soort systeem met allerlei toegangsrechten.

149
00:24:43.072 --> 00:24:51.932
En sommige processen hebben gewoon hogere toegangsrechten en sommige mensen hebben hogere toegangsrechten en sommige dingen heb je geen keuze over. En over dingen waar wij in Nederland

150
00:24:52.872 --> 00:25:03.612
uh denken dat we de keuze over hebben en op de achtergrond toch allerlei informatie wordt uitgewisseld en dat het toch niet helemaal lekker werkt en zo. Zij hebben in ieder geval een systeem gemaakt wat transparant is.

151
00:25:03.672 --> 00:25:14.872
Ja, ik denk ook voor mijzelf persoonlijk dat in ieder geval het feit dat de data die er is, dat er bekend is wat er is en dat er bekend is wie er wanneer bij is geweest of bij wil.

152
00:25:15.072 --> 00:25:23.832
En dat ik daar ook nog zeggenschap over heb. Dat is volgens mij altijd een goed idee. Dat is gewoon goud. En dan gaan zij natuurlijk nog wel een aantal stappen verder.

153
00:25:23.872 --> 00:25:40.132
Ik zit ook tijdens jouw verhaal te denken uhm, dat vind ik dan wel weer mooi aan een soort gefedereerd Europa waarin we niet één grote groot blok zijn op alle vlakken, maar intern binnen dat binnen de Europese Unie een Estland hebben die op hun eigen manier dit doet.

154
00:25:40.292 --> 00:25:52.462
Want dit is wel binnen de EU, dus het moet dan ook wel weer voldoen vanuit boven aan wat daar dan opgelegd wordt. Uhm maar ik ben dus ik vind het ik ben. Ik ben eigenlijk hoe zeg ik dat?

155
00:25:52.792 --> 00:26:01.732
Ik vind het mooi dat zij dit lekker allemaal kunnen doen. Dat ik er zelf geen onderdeel van ben. Want ik vind het gewoon mooi dat zij dat. Dat ik. Dat ik daar geen burger ben, hoe gek dat ook klinkt.

156
00:26:02.352 --> 00:26:10.952
Totdat zij op een gegeven moment kanker genezen omdat ze die DNA scannen. En dan willen wij het ineens allemaal hebben. En dan zeggen wij thanks dat jullie wel jezelf hebben opgeofferd in die database, maar uhm

157
00:26:11.872 --> 00:26:20.712
ik ben wel een soort van. Ik vind het wel interessant dat zij dat met elkaar als een soort van sociaal experiment kunnen doen. Kijk, ieder kind die geboren wordt in Estland heeft daar natuurlijk weinig over te zeggen.

158
00:26:20.732 --> 00:26:29.552
Die wordt geboren in dat experiment. Maar goed, uhm experiment klinkt een beetje alsof ik het naar beneden haal, maar dat bedoel ik helemaal niet. Ik denk wel dat zij. Ja, maar het moet. Je moet meedoen. Je mag niet.

159
00:26:29.632 --> 00:26:43.452
Je kan niet op de uit uit die. Dan moet je verhuizen. Dan moet je naar een andere lidstaat of naar een ander land buiten de EU gaan. Uhm ja, het voelt ik ik zelf. Er zit altijd iets in.

160
00:26:43.512 --> 00:26:55.072
Hebben we toen ook tijdens de aflevering met Onno erbij over onderwijs gehad dat er intuïtief ook iets bij mij zit. Dat ik denk dat het goed is voor systemen om deels kapot te zijn

161
00:26:56.072 --> 00:27:02.992
omdat daar een soort ruimte door ontstaat. Dat is zeg maar eigenlijk het uh het beklagen op een soort totalitair iets.

162
00:27:03.412 --> 00:27:19.772
Er zit natuurlijk een als je een totalitair systeem bouwt dat alles kent, alles weet, dan kan je zeggen ja, maar als je dan jezelf gewoon goed gedraagt en je subsidies aanvraagt en lief bent en je hond netjes aangeeft bij de belasting, dan hoef je geen zorgen te maken dat die hondendrol gescand wordt met een satelliet.

163
00:27:20.372 --> 00:27:21.632
Uhm maar ik denk dat het.

164
00:27:22.292 --> 00:27:36.332
Ik denk dat het ergens uh ja, dat dat is hetzelfde als met iedere iedere wet die we hebben dat dat je een soort van periferie van de wet wil hebben waarbinnen je toch uhm in ieder geval in het klein dingen kan doen die misschien pas later legaal worden bijvoorbeeld.

165
00:27:36.732 --> 00:27:46.232
Er zijn best wel dingen die vandaag de dag legaal zijn, die vroeger illegaal waren en altijd in een soort schaduw waren. En dat dat. Ik weet niet hoe groot die schaduw moet zijn.

166
00:27:46.272 --> 00:27:48.232
Ik weet niet hoe breed die periferie moet zijn.

167
00:27:48.872 --> 00:28:05.792
Uhm als ik het dan even terughaal naar onderwijs voor de luisteraars die denken waar hij over wat voor drugs heeft, Wiet zit dan uhm in de In onderwijs zou je zeggen dat er een keer even de andere kant op gekeken wordt of een toets op een andere manier nagekeken wordt voor een student die niet helemaal binnen het systeem past.

168
00:28:05.852 --> 00:28:08.752
En die leraar kan toch nog even draaien aan een knopje links of rechts.

169
00:28:08.812 --> 00:28:27.152
Ik denk dat we, als we terugkijken in ons leven eerlijk kijken naar momenten dat dat kan van een docent tot en met een scheidsrechter tot een agent zijn geweest die zei van joh, knipoog doen we niet meer vriend, want je komt anders echt heel erg in de problemen en ik kijk nog één keer weg dat die ruimte in de in de samenleving waardevol is.

170
00:28:27.452 --> 00:28:35.272
Tegelijkertijd besef ik me dat in diezelfde ruimte gebeurt zoveel naars in die schaduw. Dus ik vind dat. Ik heb daar ook zelf een soort gevecht mee altijd.

171
00:28:35.612 --> 00:28:47.172
Het is een grappig punt wat je maakt, want ik heb dus ook met onderwijsexperts gesproken daar en die zeggen dus Estland heeft het beste onderwijs ter wereld volgens de PISA score methodiek.

172
00:28:47.852 --> 00:29:02.932
En uhm uhm je zou dus verwachten dat uh dat dat komt omdat ze elke test uh dat ze de hele tijd aan het testen zijn en dat dan in een of ander systeem gooien en dat dan een of ander algoritme bedenkt waar je waar je nu onderwijs moet krijgen.

173
00:29:02.972 --> 00:29:13.132
Maar ik denk dat we juist dus in Nederland die neiging heel erg hebben om alles te willen opslaan en alles alles te willen uh proberen te controleren.

174
00:29:13.672 --> 00:29:24.752
En wat ze dus in Estland doen is juist dat ze testen niet bijna niet en hebben en en gooien juist alle alle autonomie op de onderwijzers en de scholen.

175
00:29:25.312 --> 00:29:33.832
Dus ze maken ook weer een soort van vreemde tegenbeweging daar in een land waarin alles gereguleerd wordt om juist dat in het onderwijs heel erg vrij te laten. Je gaat daar pas op je

176
00:29:34.912 --> 00:29:48.612
zevende krijg je überhaupt pas voor het eerst inhoudelijk onderwijs waar we in Nederland met vier jaar al beginnen met basisonderwijs. Je hoeft pas heel laat te kiezen over om een beroeps uh richting te kiezen.

177
00:29:49.572 --> 00:29:56.012
Uhm en heel weinig wordt gedaan op basis van, van toetsen. Dus gek genoeg in.

178
00:29:56.232 --> 00:30:08.152
Ik snap heel erg wat je zegt, maar ik denk dat diezelfde ja, die chaos of die ruimte die je dus die die je beschrijft dat wij echt dat wij de neiging juist hebben om die in te vullen met allerlei controledrift.

179
00:30:08.752 --> 00:30:18.492
En dat in een in een land waarin dus in ieder geval een hele overheid in in een systeem hangt echt een heel goed gedocumenteerd strak systeem hangt.

180
00:30:18.952 --> 00:30:24.352
Dat ze dus juist in het onderwijs de neiging hebben om dat los om dat dan weer los te laten omdat ze.

181
00:30:24.892 --> 00:30:35.326
En ik weet niet, misschien idealiseren idealiseer ik dit nu allemaal en denk ik het is het beloofde land en we moeten alles doen zoals Estland en ik zit wel een beetje op een roze Estland wolk, dat geef ik dan gelijk wel toe.Maar

182
00:30:36.316 --> 00:30:51.236
ze zijn niet gestopt met nadenken, zullen we maar zeggen bij het, bij het soort van idee dat alles in een systeem kan. Ja, ik denk dat dat dat is ook wat ik je nu heel erg hoor zeggen die uhm met al die technologie.

183
00:30:51.256 --> 00:30:55.836
Ik zit te denken aan een beetje een vreemde metafoor misschien, maar als je denkt aan een mes.

184
00:30:56.186 --> 00:31:12.076
Stel dat jij uit een vliegtuig in een grote houten kist een hele collectie messen zou droppen op, op een land waarin koken heel belangrijk is, dan gaan die messen natuurlijk naar de keukens, want die gaan ze mee koken en dan denken ze wauw, we gaan tomaten snijden, want wij vinden hier koken is een grote waarde.

185
00:31:12.316 --> 00:31:16.195
Gooi dat in een ander land neer waar ze elkaar allemaal niet vertrouwen, dan wordt het een wapen.

186
00:31:16.556 --> 00:31:27.156
En er zit, er zit dus die, die technologie, die die is, is gestut op dat waardesysteem, op die cultuur, op die historie van zo'n land. En ik kan me heel goed voorstellen dat als je de software

187
00:31:28.116 --> 00:31:48.016
van Estland één op één pakt en geeft aan, ik noem het maar even de Nederlander die niet bestaat, maar de gemiddelde Nederlandse waarde en dat wij daar misschien hele andere data in zouden gaan stoppen of zouden zeggen zo te gek man, die kunnen we om de ombouwen naar een nieuwe magister, dan kunnen we die kinderen in de gaten terwijl, terwijl die Esten, terwijl ze in Estland misschien zouden zeggen van nee, nee, nee, tuurlijk niet.

188
00:31:48.076 --> 00:31:59.136
Dat is duidelijk binnen do, binnen dit domein. Dat is een domein gescoopt stuk software. En natuurlijk ga je onderwijs niet op dezelfde manier aanvliegen. En dat dit, dit is ja, dit is wat ik zelf

189
00:32:00.716 --> 00:32:08.076
fascinerend vinden en al jaren mee bezig ben, is van ja, wat zit er nou ingebakken in technologie? Want er zit heel veel in.

190
00:32:08.716 --> 00:32:15.536
Je zou het liefst geloven dat het allemaal neutraal is, maar inmiddels zijn we er wel een beetje vanuit verschillende hoeken mee bezig. Dat die neutraliteit er eigenlijk niet is.

191
00:32:15.696 --> 00:32:25.416
Want iemand die op het moment dat jij een hamer in je hand hebt, dan ga je toch een beetje op zoek naar dingen om op te slaan. Dat dat, dat is gewoon, snap je? En als je in een, met een auto rondrijdt, dan ben je een.

192
00:32:25.436 --> 00:32:33.376
Ben je een wezen in een auto. Dat doet toch wel iets met je. Dat maakt je niet meteen een heel ander mens forever. Maar in die auto en met die hamer in je hand ben je net even anders bezig.

193
00:32:34.056 --> 00:32:47.796
Tegelijkertijd is het maar net aan wie je die hamer geeft. Ook weer. Dus er zit een soort van kracht of een ma, ja, er zit een soort vormgeving in vanuit die gebruiker en een vormgeving in vanuit die techno, technologie.

194
00:32:47.836 --> 00:33:04.776
En die samen komen dan tot een soort van moeilijk te voorspellen ding. En dat vind ik wel ja, interessant aan, aan jouw verhaal. Dat het dan zo anders gaat op het onderwerp onderwijs. Dat is echt boeiend. Mm hmm. Mm hmm.

195
00:33:04.816 --> 00:33:14.156
Ja. De vraag is ook of het een controledrang was, dat hele systeem wat zij hebben gebouwd. Want dat is dus mijn blik erop, mijn, mijn Nederlandse blik. Dat ik denk o ja, dan kan je alles lekker in de gaten houden.

196
00:33:14.496 --> 00:33:28.136
Kan je in dit geval niet eens lekker in de gaten houden, maar dan kan je lekker voorkomen dat er enge dingen gebeuren. Want voor mij is controledrang komt voort uit het niet willen dat dingen misgaan. Ja, denk ik ook.

197
00:33:28.376 --> 00:33:39.936
Denk ik ook. Ja, het is een, het is. Het is zeker niet gebruikt voor controledrang, want dat was juist het systeem waar ze vandaan kwamen. Het moest vooral eerlijk worden. En uhm.

198
00:33:43.436 --> 00:33:51.976
Ja, het is heel moeilijk om te voorspellen dat inderdaad wat er zou gebeuren als je gewoon het hele systeem daar zou plakken en je zou dat kopiëren naar een Nederlandse situatie, zou het dan even.

199
00:33:53.296 --> 00:34:04.856
Ja, je kopieert de waarden niet mee zullen we maar zeggen. En ik, ik las een of ander onderzoek dat ze dat de, de hoe ze, ze polsen de hele tijd bij de bevolking in, in welke mate de digitale systemen vertrouwd worden.

200
00:34:05.876 --> 00:34:11.536
Uhm, want ja, dat, dat daar valt of staat het natuurlijk allemaal mee. Uhm.

201
00:34:11.736 --> 00:34:28.556
En, en elke keer als zij westers, west, westerse overheden voorbijkomen of westelijker dan Estland voorbij krijgen, dan, dan, dan zijn hier natuurlijk allemaal kritische vragen over in hoeverre dit niet een, een soort van de basis is voor een surveillance, surveillance staat.

202
00:34:28.736 --> 00:34:41.936
Maar de grap is natuurlijk dat zij daar uitkomen juist. Zij zeggen ja, punt één Facebook en Google weten veel meer van jou, dus waar heb je het nou eigenlijk over? De overheid is echt niet, weet echt niet zoveel meer.

203
00:34:42.696 --> 00:34:51.656
Nou, daar kun je over discussiëren of wat je daarvan vindt. En het het tweede punt is in ieder geval geven we onze burgers controle over wat ze, wat er allemaal is.

204
00:34:51.876 --> 00:35:00.176
Eén want een Nederlander heeft geen flauw idee in welke databases hij of zij allemaal staat en twee geen flauw idee waar die data allemaal heen gaat.

205
00:35:00.726 --> 00:35:08.296
En drie geen flauw idee hoe die waar die data, hoe die gebruikt wordt en hoe dat dan geïnterpreteerd wordt en wat het dan zeg maar zie.

206
00:35:08.336 --> 00:35:15.336
Zie de toeslagen affaire of dingen die we die een beetje doorsijpelen over hoe gegevens over gezichtsherkenning, dingen.

207
00:35:15.436 --> 00:35:31.396
Er is een een of andere ANPR-camera die registreert een nummerbord en dan vervolgens gaat die data van de politie gaat naar de marechaussee en marechaussee doet er weer zijn eigen slag overheen en die kopieert het dan weer naar de belastingdienst en die kopiëren en die combineren dat ook weer met allerlei gegevens.

208
00:35:31.436 --> 00:35:45.956
En je hebt geen flauw idee meer als burger hoe beslissingen genomen worden over, over jou. Het is vaak niet te herleiden. Vaak weten die overheden dat zelf niet eens en, en ontstaat er een soort beeld van jou

209
00:35:48.216 --> 00:35:58.256
waar je zelf geen controle meer over hebt. In dat opzicht. Zou ik, denk ik als ik jouw verhaal zo hoor. Wat ik zou willen pakken van Estland is de transparantie.

210
00:35:58.856 --> 00:36:12.636
Dus als het in een fantasie IT-project voor de Nederlandse overheid, dan zou ik zeggen we gaan geen nieuwe data opslaan na vandaag. Even pauze. Ja. Ik wil nu alles in kaart. Alles op één snelweg.

211
00:36:13.176 --> 00:36:24.256
Alles audit, alles logs, alles met push notifications in een app ontworpen door een team kickass UX-designers. En dan gaan wij eens even kijken wat er nu al gebeurt. Laten we daar beginnen.

212
00:36:24.556 --> 00:36:35.176
En als er dan weer vertrouwen komt toch? Ja, en als er dan weer vertrouwen komt. En als er dan het gevoel is van oké, we willen meer, dan kunnen we met z'n allen stemmen om te zeggen we doen een blokje erbovenop.

213
00:36:35.216 --> 00:36:46.176
Maar nu weet ik helemaal niet welke blokjes er zijn. Ja. Laat staan dat er blokjes op gaan zetten.Ja, en dat vertrouwen, want dat was inderdaad waar ik, waar ik, waar ik mee begon. Dat ze, ze, ze pollen dus de hele tijd.

214
00:36:46.216 --> 00:36:54.416
Wat is het vertrouwen in die IT-systemen? En dat vertrouwen is dus al sinds het begin consequent hoger dan de politici die op dat moment het land runnen.

215
00:36:54.816 --> 00:37:03.516
Dus er zijn meer mensen die vertrouwen in dat overheidssysteem, wat je zou kunnen zien als een soort van Big Brother ding, dan de daadwerkelijke mensen die aan de knoppen zitten.

216
00:37:04.096 --> 00:37:13.136
Nou ja, dat is toch, dat is toch wel grappig. Helemaal in een land waar ze dus zelfs de verkiezingen, uh, online doen. Ook dat weer eens vet jongen. En die ledger van hun zeg maar.

217
00:37:13.176 --> 00:37:24.516
Dus die database die daar, die draait niet mee als mirror, maar is de waarheid. Ik weet wel van projecten waar er gestemd wordt digitaal als een soort kopie en boven op papieren stemmen, maar dit is hun enige waarheid.

218
00:37:25.496 --> 00:37:35.576
Ja dus hoe het werkt is je stemt dan, uh, eerst kan je een week lang digitaal stemmen, uhm, dan stopt de digitale stemming en dan is er nog twee dagen stemmen op papier.

219
00:37:36.416 --> 00:37:45.356
Die stemmen die op papier zijn, die overrule de digitale stemmen als dat zo is. Dus iemand kan zijn digitale stem overrule met, door gewoon met papier te stemmen.

220
00:37:46.176 --> 00:38:00.136
En er is dus een ledger waarin jouw, uhm, uh, uh, waar een of andere hash gemaakt wordt van jouw, uh, BSN-nummer of in ieder geval het equivalent in Estland. Een hash van je BSN-nummer die, die verdwijnt in die ledger.

221
00:38:00.156 --> 00:38:13.856
Diezelfde hash is er dan ook van een digitale, uh, stem. En dus in die ledger wordt, cancelen die twee elkaar uit of cancelt een papieren stem de digitale stem uit als die er is.

222
00:38:14.736 --> 00:38:25.436
Uhm, en de eerste, dus dat is één ding en de eerste dertig seconden nadat je je digitale stem hebt geplaatst. En dan moet je dus een pas met die, met, met zo'n chip erop in je computer duwen.

223
00:38:25.516 --> 00:38:32.636
Ze hebben dus ook allemaal van die IBM laptops die we in Nederland alleen zien bij, als je bij Shell werkt en zo, maar dat zie je daar dus heel veel.

224
00:38:32.736 --> 00:38:44.376
Pasjes die in een computer verschijnen, uh, verdwijnen en dan, uh, stem je dus in een of andere Windows app. En dan, of hij is er ook voor de Mac. Maar goed, uh, ze, zij doen echt alles op Windows valt me op.

225
00:38:45.076 --> 00:38:56.176
Uhm, en dan krijg je een QR-code en die QR-code, de eerste dertig minuten dat je die QR-code scant met je telefoon kan je dan zien: oh, dit is mijn BSN-nummer en dit is mijn stem.

226
00:38:56.616 --> 00:39:05.296
Die twee datastukjes zijn aan elkaar gekoppeld en dan na dertig seconden of na dertig, uh, minuten, uh, breken ze die twee gegevens delen op.

227
00:39:05.736 --> 00:39:18.976
Eén gaat naar de ledger, uh, voor zeg maar de, de stembusresultaten en ander gaat naar, uhm, uh, het statistiekbureau om gewoon over langere periode statistieken te maken over hoe mensen in Estland stemmen.

228
00:39:20.396 --> 00:39:28.746
En die zijn dan niet meer aan elkaar te koppelen. Dus de stem op de partij is niet meer te koppelen aan jouw, uh, aan jouw persoonsgegevens, zeg maar. Uh, en, uh,

229
00:39:29.816 --> 00:39:42.376
uiteindelijk heb je dan verkiezingsresultaten die voor iedereen te bekijken zijn in een publieke ledger. Ik zit te denken aan, uh, heb ik je die metafoor van de, uhm, weerwolf wel eens verteld? Nee.

230
00:39:42.396 --> 00:39:45.676
Dat je, dat je, de, die is niet van mij hoor, maar dat is het een beetje het idee dat.

231
00:39:45.696 --> 00:39:55.666
Ik zit me nu zo voor te stellen dat stel dat, uh, jij en ik zo'n systeem, uh, uh, zouden bouwen als wat jij nu beschrijft, op welke manier dan ook, eigenlijk als overheid. En dan word je eigenlijk,

232
00:39:56.576 --> 00:40:08.236
uhm, als je het even op Star Wars houdt met de dark side. En, uh, de, is dat de Empire versus, uhm, de, uh, Jedi? Ik weet eigenlijk niet wat is dit slecht van mij, maar goed, de twee kanten. [lacht] De lichte.

233
00:40:08.246 --> 00:40:14.956
Ik weet er ook geen fuck van Wietse. Ja, de [Ivar lacht] wat slecht is dit? Oké, uhm. Iets met de Empire, ja.

234
00:40:14.976 --> 00:40:19.536
De mensen die de Force, de mensen die de Force hebben en de mensen die een minder mooie Force hebben, zeg maar.

235
00:40:20.116 --> 00:40:27.316
Is dat je eigenlijk, je begon het gesprek dat je zei: in Estland gaan ze ervan uit dat de Russen weer komen binnenvallen. Dat is gewoon een gegeven voor hen.

236
00:40:27.996 --> 00:40:39.476
En die metafoor van, uh, de weerwolf is eigenlijk dat je dus overdag als jij een weerwolf bent, je huis zo inricht dat als je 's nachts een weerwolf wordt, dat je jezelf al in een kooi hebt gestopt. Mhmm.

237
00:40:39.556 --> 00:40:43.816
Dus dan ga je, als je ziet dat het donker wordt buiten, sluit je jezelf op. Doe je een bakje water.

238
00:40:43.856 --> 00:40:53.476
Nou, dan breek je 's nachts die hele kooi af en 's ochtends word je wakker in die kooi met je kleren kapot en het bakje water is in, tegen de muur aan gegooid en dan weet je: nou, mijn huis staat er nog, want ik had mezelf netjes opgesloten.

239
00:40:53.636 --> 00:41:03.636
En het idee van die metafoor is dat je qua, uh, technische systemen als jij een groep, stel dat jij een groep mensen hebt, honderd mensen die bouwen aan dat systeem en alle honderd hebben ze de oorlog meegemaakt.

240
00:41:03.716 --> 00:41:10.736
Alle honderd zijn ze, uh, het is het cijferfreaks. Die willen het mooiste voor, uh, Estland. Dat je met z'n honderden een systeem bouwt

241
00:41:11.716 --> 00:41:20.176
wat je eigenlijk zegt dat het moment dat er honderd mensen zijn die het tegenovergestelde willen van dat die honderd mensen in het begin wilden, namelijk de nacht, de weerwolven.

242
00:41:20.736 --> 00:41:34.876
Dat jij een computersysteem hebt gebouwd dat zo redundant is dat je kan zeggen: oké, we kunnen op een knop drukken om het te wissen, of we kunnen, hè, we kunnen met een knop kunnen we het naar Luxemburg halen, waar we dan met die honderd, uh, overdag mensen naartoe gaan, zodat die honderd weerwolven niks hebben.

243
00:41:34.886 --> 00:41:40.376
Want dat is wel wat ik me bijvoorbeeld met stemcomputers, uh, waar ik het een en ander over gelezen heb.

244
00:41:40.386 --> 00:41:47.336
Wat mij toen raakte was heel erg het idee dat die papieren stemmen in die kasten kunnen sowieso door meerdere mensen opnieuw gelezen worden, hè.

245
00:41:47.356 --> 00:41:58.076
In de tussentijd kan je dan, ja, dan kost best wel veel tijd om dan al die stemmen te gaan vervalsen. Dus het is een soort, er zit een soort traagheid in die materiële wereld versus die digitale. Dat is één.

246
00:41:58.456 --> 00:42:05.016
En die zijn allemaal gefedereerd in stembureaus door een heel land op papier. Dus je moet ook nog overal naartoe rijden waar camera's hangen om dat te doen.

247
00:42:05.476 --> 00:42:13.516
Terwijl een digitale ledger, hè, in het geval van een, een blockchain zou je zeggen dat wetenschappelijk, theoretisch gezien kan je het niet aanpassen.

248
00:42:13.596 --> 00:42:20.946
Dat is nou juist de kracht van zo'n ketting van encryptie aan elkaar, hè. Een, een, een ketting van blokken die met elkaar versleuteld zijn, een blockchain.

249
00:42:21.516 --> 00:42:36.116
Uhm, maar toch is mijn, is, is mijn, ben ik dan benieuwd of zij, dat is m'n verhaaltje even rond, die dit hebben ontworpen, het hebben ontworpen op een manier dat ze zeggen: stel er zijn straks allemaal andere mensen die deze ze, achter het toetsenbord gaan zitten.

250
00:42:36.756 --> 00:42:51.246
Wat kunnen die dan? En hoe kunnen we nu al zorgen dat die dan weinig kunnen? JaJa, dat hoop ik dat ze aan de weerwolf denken in Estland. Ja, ja, ik heb het idee dat het zo is, maar. Dat denk ik ook als ik.

251
00:42:51.276 --> 00:42:55.466
Zie het antwoord hoe ze het hebben ingericht. Dat dat moet ik je, moet ik je voor schuldig blijven.

252
00:42:55.486 --> 00:43:04.716
Het is in ieder geval wel grappig dat degene die er in Nederland voor heeft gezorgd dat dat we nog steeds met pen en papier stemmen en ik, ik, ik vrijwillig dus vaak in stembureaus.

253
00:43:04.756 --> 00:43:15.656
Dus ik weet wat de consequentie daarvan is van het tellen van die stemmen. Dat is dus dat je duizenden papieren van A3 groot eerst moet uitvouwen en op stapels leggen.

254
00:43:15.756 --> 00:43:25.916
Dan leg je ze van die stapels weer op een andere stapel, dan leg je ze weer op een andere stapel en uiteindelijk gaat er dan een elastiek omheen en dan is het 4.00u s nachts en dan zijn je knieën naar de klote omdat je de hele tijd op je knieën hebt gezeten.

255
00:43:26.856 --> 00:43:36.756
Degene die ervoor heeft gezorgd dat we dat nog steeds doen is Rob Gonggrijp. En het is dus grappig dat ik zou zweren echt. En deze twee kennen elkaar blijkbaar niet.

256
00:43:36.816 --> 00:43:46.256
Rob Gonggrijp en de Estse Rob Gonggrijp, want er is dus een Rob Gonggrijp van Estland. Die die heeft daar gewoon dit systeem helpen bedenken.

257
00:43:46.726 --> 00:43:58.356
Terwijl in Nederland heeft Rob Gonggrijp geageerd tegen digitaal stemmen, terwijl ze dus daar hebben bekeken hoe kunnen we dit wel doen? En. Ja, dat is toch ik?

258
00:43:58.476 --> 00:44:08.366
Ik ben altijd tegen digitaal stemmen geweest door precies wat jij zegt. Het lijkt toch wel alsof ze een systeem hebben bedacht waardoor het wel degelijk kan. En het is bijna. Ik heb wel het idee dat.

259
00:44:08.416 --> 00:44:23.036
In Nederland is het inmiddels een dogma geworden om. Precies op papier te stemmen. Dan ben ik, als ik dan nog even dan. Wat is het voordeel behalve efficiëntie? Want die moet ik dan even als je efficiëntie zeg maar.

260
00:44:23.116 --> 00:44:33.596
Of is dit dat? Ja, nou dit zijn Er zijn voordelen, namelijk dat mensen die jonger zijn makkelijker stemmen. Dus op het moment dat je op je computer kan stemmen en binnenkort.

261
00:44:33.656 --> 00:44:45.696
Of ze willen een tijdje dit ook via de telefoon doen. Dat het dus laagdrempelig is om te stemmen dus dat meer jongeren gaan stemmen. Dat is één. Ja en twee is dat je de resultaten na 2.00u hebt in plaats van

262
00:44:46.696 --> 00:44:57.096
een week later. Ja, want voor mij. Kan je zeggen ja boeien. Maar persoonlijk denk ik als er als er een informatiesysteem is wat bruut traag mag zijn als dat ervoor zorgt dat het eerlijk blijft, is het.

263
00:44:57.136 --> 00:45:07.496
Het stemsysteem mag van mij een week duren en dan en dan met allemaal mensen met paard en wagen. Want zo zit ik er dan in omdat ik denk die snelheid dat dat de snelheid heeft niet zoveel voordeel in mijn ogen.

264
00:45:07.596 --> 00:45:19.716
Behalve het kost minder geld en tijd. Maar de opkomst en het gemak en daarmee dus de representatie aandragen als argument, daar ben ik dan wel weer iets gevoeliger voor.

265
00:45:20.196 --> 00:45:29.196
Nou, nu gebiedt de eerlijkheid te zeggen dat de opkomst in Estland altijd structureel laag is. Dus ongeveer de helft van de bevolking gaat stemmen. Dus dat is in Nederland veel meer.

266
00:45:29.536 --> 00:45:38.916
Nederland ligt toch al snel rond de 60%. Dus misschien. Maar ja, god, je weet niet als je digitaal stemmen in Nederland zou doen, hoeveel meer mensen dan zouden gaan stemmen.

267
00:45:38.936 --> 00:45:52.066
En op zich het idee dat ik geloof wel dat en dat is een aanname dat op het moment dat je de drempel verlaagt om te stemmen, dat dan ook meer mensen gaan stemmen. Maar ja, zeker weten doe ik. Niet.

268
00:45:52.336 --> 00:46:00.176
Die werkt dan natuurlijk weer op tegen de drempel dat de stemmen niet eerlijk zijn en wat je dan met wetenschap moet gaan bewijzen. Maar dat moeten dan genoeg mensen begrijpen. Want dat is natuurlijk bij hun ook.

269
00:46:00.556 --> 00:46:04.936
Jij en ik begrijpen dit eigenlijk ook niet, toch? Hoe dat dan zou moeten werken eigenlijk?

270
00:46:05.116 --> 00:46:14.336
Ik snap wel de stukken die je zou moeten koppelen aan elkaar en wat een ledger is en dat je dat kan encrypten en aan elkaar kan koppelen. Maar een papier snap ik, daar staat iets op, dat kan ik.

271
00:46:14.396 --> 00:46:27.536
Je kan zelfs zelf meedoen. Dat vind ik helemaal om eerlijk te zijn supergaaf dat je zelf mee kan kijken toch? Ja. Ja, behalve dat niemand dat natuurlijk doet. Dat is de maar het kan. Het kan, dat is waar. Het kan.

272
00:46:27.856 --> 00:46:38.256
Dat is waar. Wat heb jij deze week gedaan op AI gebied? Nou, ik was. Ik heb hier al een tijdje eerder naar gekeken en dat. Ik weet niet waarom ik dat erbij zeg, want dat doet er helemaal niet toe.

273
00:46:38.276 --> 00:46:47.016
Maar ik volg het al een tijdje. Dat vind ik dan waarschijnlijk cool als ik dat al een tijdje volg. Dat is een initiatief. Het heet Petals bloemblaadjes zeg maar. En

274
00:46:48.536 --> 00:47:01.436
dat is eigenlijk ja, ze noemen het zelf een een mix van taalmodellen en BitTorrent. Dat klinkt al goed toch? Gewoon even die samen zeker toch? Gewoon BitTorrent vet en. En voor de luisteraar BitTorrent.

275
00:47:01.936 --> 00:47:05.496
Dat is niet alleen maar te gebruiken om films illegaal te downloaden, maar je kan er ook bijvoorbeeld.

276
00:47:05.576 --> 00:47:13.136
Dat is het grote standaard argument altijd maar de nieuwe een nieuwe Linux distributie mee downloaden vanaf meerdere computers tegelijk.

277
00:47:14.036 --> 00:47:23.716
BitTorrent en een torrent, oftewel een wervelwind van bits waardoor je van iedere computer in de hele wereld in kleine stukjes weer iets in elkaar zet.

278
00:47:24.196 --> 00:47:33.336
Alsof zo poëtisch ja, alsof al je vrienden één zin van een boek hebben. En dan bel je ze allemaal op en heb je het hele boek weer terug. Ja, kon nog. Kon nog poëtischer.

279
00:47:33.736 --> 00:47:44.296
En in het geval van als je dat dan combineert met grote taalmodellen, dan krijg je petals. En die zeggen eigenlijk joh, we hebben allemaal niet allemaal.

280
00:47:45.616 --> 00:47:51.116
Veel van ons in die community hebben een grote GPU in hun machines in en dat kan zitten.

281
00:47:51.176 --> 00:48:14.736
Dat kan zelfs zijn een Mac machine, want daar zit de GPU en de CPU in één pakketje zeg maar de M1 en de M2 van Apple hebben best wel een bruut stuk GPU erin zitten en de meeste Windows machines hebben dan of een dedicated GPU chip in je laptop erbij zitten, want je bent een gamer of je hebt een dikke kaart gekocht want je moet video bewerken of je bent serieus onderzoeker en je kijkt naar dingen rondom kunstmatige intelligentie.

282
00:48:14.886 --> 00:48:17.476
Nou, heb het al vaak over gehad. Daar heb je specifieke hardware voor.

283
00:48:18.176 --> 00:48:29.276
Wat ze eigenlijk bij Petals zeggen is zullen we die nou gewoon allemaal op één hoop gooien met elkaar als een community, zodat we elkaars hardware kunnen gebruiken? En in essentie heel concreet is het dus zo

284
00:48:30.216 --> 00:48:44.020
als voorbeeld OpenAI heeft Whisper. Whisper is eenSpeech to tekst model taalmodel. Die hebben ze geopend source. Een van de weinige dingen die OpenAI daadwerkelijk op GitHub heeft gezet. Wat kan je daar dan?

285
00:48:44.780 --> 00:48:55.240
Ja sorry, daar kan je. En anders moet je jezelf niet open noemen. Dan vraag je erom, hè? [lacht] Als jij mister nice guy heet en je scheldt iedereen de hele dag verrot, dan heb je een slechte naam. Die.

286
00:48:55.630 --> 00:49:04.500
Heeft Elon bedacht. Elon Musk heeft de naam bedacht. Dat is ook niet de schuld van de huidige bewindvoerders. Precies. Maar met Whisper mp3'tje met tekst erin.

287
00:49:04.720 --> 00:49:13.660
Aan de andere kant een tekstfile met die tekst in de taal waarin de tekst gesproken is. Dat is fantastisch dat ze dat doen. Dat kan jij thuis draaien op een redelijk beefy machine.

288
00:49:14.060 --> 00:49:24.100
Heel concreet heb je daar vandaag de dag ongeveer acht gigabyte videogeheugen voor nodig. Dus dat is eigenlijk het intern geheugen op je videokaart. Verwar het niet met het intern geheugen van je computer.

289
00:49:24.760 --> 00:49:32.880
En zo'n acht gigabyte videokaart voor in jouw eigen computer of een recente Mac. Daar betaal je een X bedrag voor.

290
00:49:33.360 --> 00:49:43.500
Nou kan je dat leuk thuis doen, maar wat nou als jij een model wil draaien wat twintig gigabyte inneemt of veertig, of vijftig, of zestig? Misschien wel iets ter krachtig van GPT 3.5.

291
00:49:43.660 --> 00:49:52.339
Want je wil niet een tekst of speech naar tekst, maar je wil een soort fake intelligentie taal ding waar we nu al de hele week over praten, namelijk chatbots.

292
00:49:53.020 --> 00:50:04.760
Nou, als je dat dan wil draaien dan kan je eigenlijk petals gebruiken om in die. Ja, dat is. Dit komt iets dichter bij een cloud computer dan de meeste partijen die zeggen dat ze een cloud computer hebben.

293
00:50:04.770 --> 00:50:16.060
Want het is eigenlijk een combinatie van alle mensen die meedoen in die zwerm van petals die hun eigen GPU's, dan al niet Apple processoren, beschikbaar stellen om met elkaar als een soort,

294
00:50:17.500 --> 00:50:31.040
ja, publiek goed als het ware daar berekeningen op te doen. Het is een soort, ja, gedeelde supercomputer van mensen die meedoen aan dat project en ik voel wel een beetje aan.

295
00:50:31.660 --> 00:50:41.100
Vaak volg je dan iets en op een gegeven moment ga je een beetje kijken van is het de eerste hype voorbij? Want de eerste drie weken wil iedereen meedoen en dan zakt zoiets weer in. Dit, dit groeit wel, dit gaat goed.

296
00:50:41.180 --> 00:50:51.599
Er wordt veel aan ontwikkeld en ik vind het een mooi, een mooi initiatief om te zorgen dat het niet bij vijf hele grote partijen blijft. Al die processor kracht.

297
00:50:52.120 --> 00:51:00.120
Ja, maar is er, is er dan wel een soort van transactie op de achterkant? Er is nog iemand die moet betalen voor die videokaart, dus hoe verdient die dan zijn geld weer terug?

298
00:51:01.040 --> 00:51:11.760
Dit is allemaal net als hoe dat destijds ging met de Dutch Power cows op Tweakers. Voor de mensen die luisteren Dutch Power cows was proteïne folding met z'n allen. En je hebt, je hebt.

299
00:51:11.780 --> 00:51:18.280
Toen, daar had je ranglijsten, dus dan deed je het puur voor de fame. Ik, ik, ik ga ervan uit dat het hier. Er zit geen,

300
00:51:19.880 --> 00:51:29.620
hoe zeg je dat, incentive model achter met een blockchain waar je dan weer tokens kan verdienen of zo. Die bestaan ook, maar die heb ik dan weer even expres niet gelinkt omdat ik dan deze gaver vind.

301
00:51:29.980 --> 00:51:36.340
Hier gaat het echt op een soort van: ik geef het, want ik wil zelf ook mee kunnen doen, achtig ding. Maar als ik het goed begrijp kun je dus.

302
00:51:36.860 --> 00:51:49.960
Je hebt dus allerlei hele zware videokaarten waarbij die van Nvidia het gaafst zijn omdat ze de grootste capaciteit hebben, dus je de grootste modellen ermee kan trainen. Als ik het goed begrijp is dit dan eerder.

303
00:51:50.080 --> 00:52:01.080
Het is niet zo'n hele dure kaart zoals die, maar het is gewoon wat jij en ik in onze laptops hebben zitten en die bij elkaar allemaal opgeteld leveren dan alsnog veel computerkracht op. Begrijp ik dat goed?

304
00:52:01.440 --> 00:52:07.500
Je zegt het helemaal goed en ik heb ook antwoord op jouw vraag, want we zitten voor de verandering remote op te nemen nu voor de luisteraars.

305
00:52:07.520 --> 00:52:15.120
Normaal zit ik tegenover Alexander, nu zie ik hem op het scherm, maar ik kan daar. Dan hebben we een chat. Jee! En er is dus een health monitor voor petals.

306
00:52:15.600 --> 00:52:24.280
En daarop, dat is wat in hun GitHub omschreven staat van: joh, doe je mee en help je ons? Zet je naam erin, want dan kom je op onze ranglijst.

307
00:52:24.300 --> 00:52:28.360
Dit lijkt eigenlijk wel heel erg op de Dutch Power cows waar ik het in eerste instantie over had.

308
00:52:29.200 --> 00:52:41.720
Dutch Power Cows was trouwens niet het initiatief, maar de grootste groep vanuit Nederland, de Dutch Power Cows, die meededen aan, aan dat project. Moet ik even erbij pakken wat het was, want dat is wel eventjes netjes.

309
00:52:41.840 --> 00:52:55.420
De Dutch Power cows. Die deden aan van alles mee. Rosetta at home dus dat ging over signalen zoeken in het universum. Allerlei leuke, gave grote data dingen.

310
00:52:55.460 --> 00:53:05.420
En dan een beetje die Wikipedia vibes, weet je wel van waarom bestaat Wikipedia? Dat. Maar ik zal het even uitleggen voor de mensen, want je hebt echt de meest vage beschrijving ooit gegeven. Sorry.

311
00:53:05.460 --> 00:53:18.960
Het waren dus grote hoeveelheden data. Bijvoorbeeld signalen verzameld door satellieten die de, de, in de ruimte, naar de ruimte gericht stonden. En er gingen mensen op zoek naar patronen in de chaos.

312
00:53:19.060 --> 00:53:27.160
Normaal gesproken heb je daar hele grote computers voor nodig en hier waren er dus concurrerende teams van nerds. Want laten we wel wezen, geen normaal mens doet dit.

313
00:53:27.640 --> 00:53:34.640
Die een programmaatje op de achtergrond van de computer hebben draaien die dan een deeltje van die hele grote dataset ging proberen te verwerken op je eigen computer.

314
00:53:34.680 --> 00:53:43.600
En dan deed je samen een team, deed je een groter deeltje. En als jouw team dan dingen had gevonden die significant waren, dan was jij gaaf. Ja, en ik, ik ben het.

315
00:53:43.640 --> 00:53:55.280
Ik ben nog even aan het checken, maar het merendeel ging wel over folding. Dus het vouwen van proteïne. Ja, en daar waren wij, zeg ik even wij, want ik ben geboren in Nederland, als Dutch Power cows vrij groot in.

316
00:53:55.680 --> 00:54:03.840
Het is wel grappig, want die tijden zijn wel een beetje veranderd merk ik bij mezelf. Kijk, toen had je ook gewoon foto's van mensen die.

317
00:54:04.180 --> 00:54:15.660
Kijk, als jij natuurlijk werkt bij een IT partij of een universiteit en er worden servers weggedaan, want die worden afgeschreven na drie, vijf, acht jaar en die mocht je dan mee naar huis nemen en dan ging je een rek in je in je kelder maken.

318
00:54:15.800 --> 00:54:28.580
Is dit zo? Ja, dan had je van die. Had je mensen die heel trots gingen posten van: ja, kijk dan, ik heb dit, dit cluster thuis draaien. Maar dat gaat natuurlijk wel een beetje uit van één lage energiekosten.

319
00:54:28.880 --> 00:54:36.180
[lacht] Want uiteindelijk je geeft niet alleen maar je tijd, maar je geeft letterlijk je kilowatt dan aan, in dit geval proteïne folding.

320
00:54:36.340 --> 00:54:42.800
Dus dan zou je nog kunnen zeggen: joh, het idee ervan is dat we meer met medisch het een en ander kunnen daarmee.

321
00:54:43.360 --> 00:54:49.200
Dus dan lever jij je persoonlijke kilowatts in voor the greater good als het gaat om lichamelijke gezondheid.

322
00:54:49.700 --> 00:54:58.580
Maar dat waren.Eh, ja, het was wel een beetje je, zeg maar, met een hele dikke auto op video gaan lekker roken, die één op drie rijdt om te laten zien dat hij veel herrie maakt.

323
00:54:59.080 --> 00:55:06.680
In deze tijd is dat misschien, uh, iets minder handig of zo. Maar hoe makkelijk is het nu om, uhm, om, om rekenkracht te kopen?

324
00:55:06.740 --> 00:55:15.840
Want ik heb, ik, ik zat een stuk te lezen van, uhm, twee investeerders die in AI-bedrijven investeren en die hebben gewoon een eigen supercluster gebouwd.

325
00:55:15.880 --> 00:55:24.500
Dus die zijn gewoon duizenden Nvidia H100's gaan kopen om, uh, om, uh, om rekenkracht in te, re-rekenkracht in te kopen.

326
00:55:24.560 --> 00:55:30.960
En dan is dus het voordeel van investeringen van deze VC aannemen dat je er rekenkracht bij cadeau krijgt, zullen we maar zeggen.

327
00:55:31.260 --> 00:55:42.440
Er zijn-- ik las ook dat, uh, er waren allerlei videokaarten van Nvidia die Nvidia vorig jaar nog heeft afgeschreven. Uh, die lagen in magazijnen weg te rotten omdat niemand ze wilde hebben.

328
00:55:42.900 --> 00:55:51.780
En toen opeens kwam dus deze hele AI-hype en opeens konden ze een paar weken geleden de prijzen verhogen met 20% omdat er opeens weer zoveel vraag naar is. Ja.

329
00:55:52.000 --> 00:56:03.900
En dat in feite ieder cloudcentrum waar je rekenkracht wil kopen nu, uh, om een model te, te trainen, als je dus je eigen model wil trainen, dat dat al volgeboekt zit de komende jaren.

330
00:56:04.000 --> 00:56:13.900
Dus dat het heel moeilijk is om daar, om daar tussen te komen. Hoe, hoe doe je dat nu als je een bedrijf, uh, hebt? Dat vind ik een mooie en het is bijna eng, want alsof je mijn lijstje hebt gelezen.

331
00:56:13.940 --> 00:56:20.020
Want mijn volgende link was, die ik nu in de chat heb gezet, dat gaat over training a cluster as a service by Hugging Face.

332
00:56:20.660 --> 00:56:32.680
Uhm, even voor, voor de, ja, voor de helderheid: je hebt dus het trainen van modellen en het resultaat ervan is dan een model. Bijvoorbeeld Whisper, hè, dat model kan je dan thuis draaien.

333
00:56:32.710 --> 00:56:45.000
Je hebt het trainen en het daadwerkelijk draaien noem ik het maar even. Hè, het mooie, het mooie daarvan is dat je eenmalig dan, niet eenmalig, maar een keer een heel groot, uh, model traint.

334
00:56:45.620 --> 00:56:54.280
Wat je dan ook vervolgens op een veel kleiner stuk hardware, want je traint dat op een supercomputer en daarna kan je het op één grafische kaart uitvoeren. Uh, dus je hebt- Ja, grappig.

335
00:56:54.300 --> 00:57:04.460
En in, maar in beide gevallen worden er kilowatts verstookt. Je gaat kilowatts verstoken tijdens het trainen en daarna ga je kilowatts verstoken tijdens het in gebruik nemen van en gebruiken van dat getrainde model.

336
00:57:04.760 --> 00:57:12.340
Dus dat zijn twee dingen eigenlijk. Ja. Nou nu, wat ik je nu heb gelinkt is en dat vond ik zelf fascinerend, want dat had ik eigenlijk nog niet helemaal zo concreet gezien.

337
00:57:12.720 --> 00:57:21.580
Hugging Face hebben we het wel eens eerder over gehad. De GitHub voor AI, zullen we het maar even zo noemen, waarop allemaal modellen staan, uh, uh, die je zelf kan, uh, gebruiken.

338
00:57:22.020 --> 00:57:29.080
Moet je altijd even goed letten op de licentie die erbij zit, maar je kunt ze in ieder geval testen. Uh, die hebben, bieden nu aan training clusters, clusters as a service.

339
00:57:29.180 --> 00:57:39.380
Dus stel dat jij een model wil trainen op hele specifieke data, hè. Je hebt bijvoorbeeld, uh, allemaal oudere Nederlandse geschiedenisboeken en je zegt: ik wil eigenlijk een taalmodel maken op oud, uh, Nederlands.

340
00:57:39.880 --> 00:57:42.540
Dan zou je dat doen door zo'n cluster te huren.

341
00:57:42.780 --> 00:57:54.360
En dan zeg ik hier, hè, met mijn lekenverstand zeg ik: ik wil een 30 miljoen, 30 miljard parameter multimodaal, en nu zeg ik het allemaal of ik dit allemaal weet, hè, dat weet ik helemaal niet, model.

342
00:57:54.740 --> 00:58:03.720
Zes, doe maar 6 miljard tokens met 500 accelerators. Ik ga ervan uit dat die hoe meer- Het klinkt alsof dit dus iets te maken heeft met de grootte van de trainingsset.

343
00:58:03.760 --> 00:58:10.800
Dus bijvoorbeeld jij bent een advocatenkantoor en je wil gaan trainen op alle ju-, alle juridische documenten die jij ooit hebt geproduceerd.

344
00:58:10.829 --> 00:58:19.200
Dan gooi je die hele drive wordt een, wordt een, een, wordt de basis om een model op te trainen die dan uiteindelijk in jouw stijl nieuwe contracten gaat maken.

345
00:58:19.660 --> 00:58:28.960
Dat heet, dat, dat is die, die, het aantal tokens, dus het, het aantal letters in feite die in de contracten staan, staan in verhouding tot het aantal tokens. Ja, het is en- Te gebruiken. Ja, precies.

346
00:58:28.980 --> 00:58:36.120
Dus de tokens is inderdaad ook als jij bijvoorbeeld praat met, uh, ChatGPT, dan heb je ook een token limit en dat is eigenlijk hoeveel je erin mag gooien.

347
00:58:36.160 --> 00:58:46.780
Een token is bijna een woord, maar niet helemaal, dus daarom noemen ze het niet words, maar tokens. Maar dat, dat, dat is, uh, hoe zeg je dat? O, ja. Dat is verbonden aan het aantal woorden, maar dat, niet helemaal.

348
00:58:47.360 --> 00:58:56.320
Uhm, het, en het aantal parameters, daarvoor, uh, moet je, a-, uh, kunstmatige intelligentie gestudeerd hebben of meer weten over hoe AI werkt. En dat weet jij en ik niet helemaal.

349
00:58:56.360 --> 00:59:05.340
Misschien moeten we ons er eens wat meer in verdiepen, maar ik weet wel dat hoe meer parameters, ook niet helemaal waar, maar dan he-, dan wordt het een groter model en daarmee een slimmer model.

350
00:59:05.400 --> 00:59:13.560
Maar groter is niet altijd beter. Dus een beetje gevaarlijk wat ik nu zeg, want je kan ook, je hebt ook hele sterke kleine modellen die heel erg goed gefinetuned zijn achteraf bijvoorbeeld. Ja.

351
00:59:13.940 --> 00:59:16.040
En je hebt weer hele grote modellen die heel erg dom zijn.

352
00:59:16.820 --> 00:59:29.440
Maar als we hier met 30 miljard parameters multimodaal model met 600 miljard tokens gaan trainen met 500 accelerators en ik zie als ik, als ik, als ik die accelerators verhoog naar 1.000 of naar 500, dan gaat het sneller.

353
00:59:30.100 --> 00:59:38.720
Dan zouden we 16 dagen op 500 accelerators voor $358.000, uh, [gelach] zouden wij ons model hebben getraind.

354
00:59:38.940 --> 00:59:48.790
Om even aan te geven over wat voor orde van groot-- en dan hebben we een model wat we daarna nog moeten gaan draaien op ons GPU-cluster om het uit te voeren, wat veel kleiner kan zijn. Ja.

355
00:59:48.840 --> 01:00:00.680
En, uh, het is wel interessant want ik kreeg hier een vraag over. Een luisteraar, uh, die zei: hoe zit het eigenlijk met al die kilowatts? Hoe zit het eigenlijk met de footprint van die grote, uh, AI-modellen?

356
01:00:00.800 --> 01:00:05.240
En tre-, en dat was niet eens het onderscheid tussen trainen en uitvoeren. Daarom maak ik dat onderscheid alvast even.

357
01:00:05.740 --> 01:00:27.420
En ik ben het een beetje gaan uitzoeken, want ik had al gezien op, uhm, Hugging Face, uh, waar we het nu ook over hebben, dat zij, dat sommige partijen, waaronder Meta en nog een aantal, bij de, de, uh, omschrijving van hun getrainde modellen er ook bij zetten hoeveel kilowatt het gekost heeft om het te trainen en wat de bron van die kilowatts waren, hè.

358
01:00:27.480 --> 01:00:28.840
Als een soort energielabel.

359
01:00:28.940 --> 01:00:42.480
Ja, het is, en Meta zet er dan, en Meta zet er dan, uh, bij, uh, want ze, want het is natuurlijk ook wel een beetje dat de enige die het erbij zetten zijn natuurlijk de partijen die trots zijn op het feit dat ze het getraind hebben met, in hun, met hun woorden groene energie.

360
01:00:42.940 --> 01:00:52.480
Dus hier staat bijvoorbeeld een kopje carbon footprint, hè, dit staat bij een van hun grotere taalmodellen. Uhm, uh, 3.3 miljoen GPU hours.

361
01:00:52.980 --> 01:01:05.908
Nou, dat staat er bij een H100, hè, dat is de kaart op dit moment, de goudstaaf van Nvidia, TDP dus, uh, thermalDissipation weet ik niet zo goed, maar in ieder geval 350 tot 400 watt trekt zo'n kaart als die onder load zit.

362
01:01:06.508 --> 01:01:21.588
En dan 300, 539 is dat ton? Nou ja, een hoop. En dan staat erbij 100% offset bij Meta Sustainability Program. Uhm. O ja, grappig ja. En dan, en dan zijn ze daar trots op.

363
01:01:21.628 --> 01:01:32.248
Maar daar heb je in ieder geval een beetje een idee. Want ik wat jammer vind nu van deze pagina van trainingen clusters service. Niet alleen, zet dan niet alleen die $ 358.000 daar neer, maar ook die kilowatts eronder.

364
01:01:32.488 --> 01:01:42.248
En dan misschien kan je zelfs nog een source kiezen. Ik noem maar wat, want ik denk wel dat, uhm, dat is een beetje hoe ik er dan in sta. Uh, kan je ook een beetje koppelen.

365
01:01:42.258 --> 01:01:55.148
Je bedoelt een source voor energie, bedoel jij? Ja, want nu zeg ik eigenlijk, uh, ik wil een cluster trainen. Ik zet een paar knopjes aan en uit en aan onder, onderaan de streep staat daar een getal $ 358.768.

366
01:01:56.388 --> 01:02:05.168
Compute plus service. Ik ga ervan uit dat er nog een beetje geholpen wordt in een paar uurtjes. Het liefst wat ik hier ook bij zou zien is wat dat dan kost in energie, want dat zit erin verpakt.

367
01:02:05.188 --> 01:02:11.148
Je gaat een significante hoeveelheid energie verstoken. Dan wil je ook kunnen kiezen waar dat vandaan komt.

368
01:02:11.408 --> 01:02:21.148
Ja, en mijn punt was een beetje, uh, toen ik daar wat meer over nadacht, dat ik dacht: hmm, weet je, het lijkt ook een beetje op het cryptomining, uh, uh, verhaal, hè.

369
01:02:21.208 --> 01:02:28.368
Daar zit een enorme carbon footprint aan Bitcoin en dat, dat heeft, nou, daar zijn de meningen over verdeeld. We moeten nog maar zien hoeveel waarde dat heeft.

370
01:02:28.608 --> 01:02:32.528
Volgens sommige mensen vandaag de dag al, volgens sommige mensen voor de toekomst, voor sommige mensen nooit.

371
01:02:33.128 --> 01:02:40.948
Uh, uh, je mag zelf kijken in welk team je zit, maar het komt er wel op neer dat we daar wel wat energie aan het wegblazen zijn. Uhm. Ja.

372
01:02:41.028 --> 01:02:48.648
In dit geval zou je natuurlijk kunnen zeggen, dat is een beetje mijn, uh, ja, hoe zeg je dat, uh, uh, manier om die discussie helder te krijgen.

373
01:02:49.128 --> 01:03:05.108
Als het een cluster is die aan het trainen is om, uh, kernfusie mogelijk te maken, dan ben je natuurlijk eigenlijk die kilowatts aan het gebruiken om te zorgen dat je minder kilowatts nodig hebt in de toekomst, hè, dus dan, dus dan heb je eigenlijk, daar zou niemand tegen moeten zijn bijna in mijn ogen.

374
01:03:05.148 --> 01:03:12.168
Want als je, als jij met tien kilowatt kan zorgen dat je straks 20 miljard kilowatt niet hoeft te gebruiken, dan is die trade off gewoon fantastisch.

375
01:03:12.608 --> 01:03:16.248
Als je zou weten dat je zeker weten iets uitvindt waardoor je die kernfusie kan maken.

376
01:03:16.828 --> 01:03:26.788
En hierbij denk ik dat stap één in ieder geval zou zijn om wat Meta nu al een beetje doet, hè, omdat ze zo mooi al die energie certificaten hebben ingekocht. Waarschijnlijk willen ze die ook kunnen laten zien.

377
01:03:26.848 --> 01:03:35.828
Ik ben even cynisch, maar ik snap dat wel, uh, dat we de kosten ook weergeven, in ieder geval in kilowatt, zodat je een beetje een footprint idee hebt.

378
01:03:35.888 --> 01:03:47.468
Want, uh, het is, het is niet iets kleins in het geval van, uh, kunstmatige intelligentie. Die twee zijn wel een beetje met elkaar verweven. Dat energieverbruik en modellen trainen en uitvoeren.

379
01:03:48.768 --> 01:03:52.168
Zijn het nou allemaal open source modellen die je op Hugging Face kan gebruiken?

380
01:03:52.228 --> 01:04:01.628
Of zijn er dan ook, uh, zijn er, zijn, zijn het ook proprietary dingen die je alleen maar mag proberen en dan als je er echt serieus dingen mee wil doen, dan moet je ervoor betalen zoals bij OpenAI.

381
01:04:01.688 --> 01:04:05.348
Ja, ik maakte net al een beetje die asterisk, uh, of die voegde ik al toe.

382
01:04:06.008 --> 01:04:16.488
Waar ik achter kwam is, en daar ben ik, uh, ik was met Whisper bezig en toen zei iemand tegen mij: heb je wel gecheckt eigenlijk of je dan Whisper ook wel commercieel mag inzetten? Want dat is iets van OpenAI.

383
01:04:16.528 --> 01:04:26.148
En mijn grapje heb ik al eerder gemaakt, maar je weet nooit hoe open het is. Nou, in het geval van Whisper zit daar best wel een, een brede license op. Maar Meta bijvoorbeeld, die ook heel veel uitbrengt.

384
01:04:26.188 --> 01:04:34.728
Al die lama's en alpaca's, die komen allemaal bij Meta vandaan. Daar, uh, is wat ge-, gesteggel rond geweest, want ze waren er heel erg vaag over.

385
01:04:34.768 --> 01:04:41.508
Nu zijn ze er iets, uh, duidelijk in geworden, maar het is niet een: joh, zie maar wat je ermee doet license.

386
01:04:42.268 --> 01:04:50.668
Kijk, als jij, als jij natuurlijk het werk van Meta, open source werk van Meta pakt, dat hernoemt en dan aanbiedt één op één als commerciële dienst op het internet. Ah, oké.

387
01:04:50.888 --> 01:04:56.128
Dat is, hè, dat is een beetje die open source achtige ethos. Dat zit er een beetje achter. Uh. Dat willen ze niet.

388
01:04:56.348 --> 01:05:09.468
Nee, maar het is wel, dat was een beetje mijn naïviteit, uhm, want ik heb ook wat mensen om me heen naar dingen toegewezen op Hugging Face en daar zeiden zij toen later van: joh, kijk, als je een GitHub repository met iemand deelt met code erin en je zegt: kijk, een gave

389
01:05:10.788 --> 01:05:13.248
plug-in voor Chrome waardoor je x of y kan.

390
01:05:13.908 --> 01:05:24.728
En, uh, dan, dan zit daar vaak een license bij, hè, een, een open source license, MIT of een GPL waar dan in staat van: joh, je mag het best gebruiken, maar je mag het niet anders noemen bijvoorbeeld.

391
01:05:24.868 --> 01:05:35.048
Of je moet altijd laten weten dat je ons was, uh, dat je ons gebruikt. Ja. Of als je er iets aan verandert, moet je teruggeven. Heb je allemaal regels. In die AI modellen wereld is dat nog een beetje aan het ontstaan.

392
01:05:35.828 --> 01:05:51.188
Zijn we nog een beetje aan het zoeken hoe dat eigenlijk werkt en wat is train-- want je hebt bijvoorbeeld nu ook, wat heel veel gebeurt, is, uhm, je hebt een model, uh, zeggen we dat we even heel veel parameters pakken waar heel veel tokens in kunnen, dus dat is lekker groot, maar die willen we dan eigenlijk nog finetunen, hè.

393
01:05:51.208 --> 01:05:59.668
Een van de trucs die OpenAI doet waardoor GPT-4 zo krachtig is en indrukwekkend, is omdat daar heel veel alignment gedaan is. Hebben we het eerder al eens over gehad, hè.

394
01:05:59.788 --> 01:06:10.388
Die, die antwoorden worden getoond aan mensen en die klikken dan: ja, goed, nee, niet goed. Wel goed, ja, niet goed. En dan, ma-maak je hem eigenlijk, nadat het model al getraind is, ga je hem daarna nog even finetunen.

395
01:06:10.428 --> 01:06:19.588
Letterlijk. Je gaat hem, uh, schaven. Wat nu gebeurt is dat. Heel veel mensen in Nigeria in, in sweatshops. Reken erop dat dat mensen zijn. Krijgen allerlei. Precies.

396
01:06:19.628 --> 01:06:27.948
Die niet met een, uh, goede arbeidsvoorwaarden dat doen, uh, met een, met een mooie lamp en goede koffie zeker niet. Een soort van hele enorm digitale sweatshops. Precies.

397
01:06:27.958 --> 01:06:37.488
Die zijn keuzes voorgelegd krijgen over wat is, uh, als, als, als dit de input is, is het dan, dus bijvoorbeeld, uh, weet ik veel. Schrijf een gedicht en dan komen er twee voorbeelden van een gedicht.

398
01:06:37.528 --> 01:06:46.728
Welk gedicht is beter? En dan moeten die mensen kiezen welke beter is. En dat is dan weer een heel klein beetje extra informatie voor dat model om te, om te begrijpen wat mensen goed vinden. Ja.

399
01:06:46.748 --> 01:06:58.428
En zo is dat model ge-, uh, gefinetuned. Precies. En de, uh, reactie vanuit partijen als een OpenAI of Meta of noem ze allemaal maar op zou zijn: dat hoeft gelukkig dan maar één keer.

400
01:06:58.668 --> 01:07:10.696
Als we eenmaal dat gevangen hebben, dieMenselijke intelligentie. Dus we, dat is, dat is een heel eng argument, want de geschiedenis zit vol met: als we nu even door het moeilijke bos lopen, daarachter schijnt de zon.

401
01:07:10.786 --> 01:07:21.356
En wat er allemaal in het bos gebeurt geeft dan niet zo heel erg. Het is een heel gevaarlijke logica. Maar wat is er nu gebeurd, is dat bijvoorbeeld, dat is niet, dat weet ik niet, maar ik noem het even als voorbeeld.

402
01:07:21.376 --> 01:07:30.836
Je hebt Claude, uh, de, een van de GPT, uh, grote taalmodellen, concurrenten van OpenAI vanuit Entropic heten hun volgens mij.

403
01:07:31.096 --> 01:07:44.696
Wat die zouden kunnen doen, dat weet ik niet zeker, maar ik weet dat andere partijen het wel doen, is zeggen: we trainen een model en daarna gebruiken we GPT-4 van OpenAI om hem te finetunen. [lacht] O, ja.

404
01:07:44.756 --> 01:07:53.016
Ik weet, ik bedoel, ik weet niet dat zij dat doen, maar ik weet wel dat het heel erg gebeurt met open source modellen. En dan krijg je dus: jullie mochten ons open source model niet gebruiken.

405
01:07:53.056 --> 01:07:59.996
En dan zeg jij: maar dat doe ik ook niet. Ga dan maar eens bewijzen dat jouw model gefinetuned is door hun model. Nou ja. Ja. Dit soort gekkigheid.

406
01:08:01.056 --> 01:08:15.636
Maar toch, want er zijn dus allerlei, uh, modellen die met elkaar, uh, concurreren, uhm, om de grootste hoeveelheden developers aan zich te, te binden die ermee gaan werken. Of, uh, uhm, ja, wat kun je nog meer?

407
01:08:16.236 --> 01:08:24.276
Zorgen dat zoveel mogelijk mensen het gaan gebruiken waardoor je meer API calls kan verwerken waar je betaald voor krijgt. Dan heb je een aantal grote bedrijven die met elkaar concurreren.

408
01:08:25.116 --> 01:08:31.056
Facebook kiest er nadrukkelijk voor om het model te open sourcen, dus eigenlijk het aan de gemeenschap te geven.

409
01:08:31.086 --> 01:08:44.656
En dat als jij nu een bedrijf begint, dan kun je daadwerkelijk, uhm, Llama in je app gebruiken waardoor je, uh, waardoor je een eigen, ja, model verder kan finetunen op een manier zoals je dat zelf wil. Uhm,

410
01:08:45.616 --> 01:08:52.976
waarom denk je dat, dat, dat Facebook er nu voor kiest om dat te open sourcen in plaats van de strategie van Microsoft en van Google te volgen?

411
01:08:53.716 --> 01:09:08.516
Ik denk, en dat zou in essentie zou de Microsoft en Google dat ook kunnen doen. Maar dan maakt Meta allemaal, uh, hoe zeg je dat, uh, uh, gokken, uh, inleven, fantaseren, wat ik nu doe. Ik kan me voorstellen dat

412
01:09:09.436 --> 01:09:17.856
de moat, zoals we dat in VC-wereld noemen, dus eigenlijk wat, dat wij, als jij een bedrijf, uh, gaat, gaat investeren, dan wil je eigenlijk zien van: wat is jullie moat?

413
01:09:17.896 --> 01:09:28.516
Want als je alleen maar een UI bent over OpenAI heen, dan kan OpenAI jou heel makkelijk Sherlocken. Ik ga veel aan dingen aanhalen uit eerdere afleveringen om, om te checken of iedereen ons allemaal luistert.

414
01:09:28.536 --> 01:09:37.756
Het is een soort, ik creëer een soort thought chain, niet een blockchain van. [lacht] Dus je kan het alleen maar blijven luisteren als je het allemaal opstapelt in je hoofd. Maar goed, uh.

415
01:09:37.776 --> 01:09:41.136
Is je moat groot genoeg om niet gesherlockt te worden, ja. Jij hard. Heel mooi.

416
01:09:41.306 --> 01:09:51.996
[lacht] Uhm, nu is het zo dat ik denk dat voor Facebook slash Meta om die modellen te open sourcen, dat zij gezien hebben, want Facebook heeft wel heel erg een open source verleden.

417
01:09:52.056 --> 01:10:01.656
Ik, er zullen veel mensen zijn die luisteren, die denken: boe, Facebook, bababa. Maar ik bedoel met React en ik kan een lijstje afgaan aan dingen die zij aan de, aan de wereld geschonken hebben.

418
01:10:02.356 --> 01:10:05.796
Uh, uh, ze hebben best wel mooie dingen gedaan op het gebied van open source, ook.

419
01:10:06.536 --> 01:10:14.436
Uh, maar kijk, al die dingen die zij de wereld ingooien, die krijgen ze daarna weer terug, hè, even in een gek beeld, twee weken later, beter.

420
01:10:14.716 --> 01:10:24.036
Het is alsof ze een auto maken vanuit de Volkswagengroep die vervolgens de wereld ingaat en dan krijgen ze hem terug geüpgraded, gratis door de community en die kunnen ze dan weer intern gebruiken.

421
01:10:24.076 --> 01:10:54.036
Dus, uh, de vraag is dan: als de modellen die Facebook naar buiten gooit niet hun moat zijn, hè, dus niet de IP, niet de waarde hebben, dan is het waarschijnlijk de data die Facebook hee-heeft, dat denk ik, waardoor voor Facebook om een Llama te releasen, hè, een large language model, uh, Llama, die vervolgens twee maanden later weer binnen komt lopen bij hun, drie keer geüpgraded, gratis door de open source community en die ze daarna kunnen gaan toepassen op hun dataset waar de open source community niet bij kan.

422
01:10:54.056 --> 01:10:56.996
Ja, ja. Ik denk dat het best wel een goede deal is voor hen.

423
01:10:57.036 --> 01:11:11.796
En ook omdat ze niet first mover waren, hè, want OpenAI, uh, en eigenlijk Google, die had het op de plank liggen, is het denk ik wel als je die, als je dat een beetje afweegt van: oké, we zijn niet de eerste, dus we moeten iets bieden waardoor we s-ze kunnen inhalen of bij kunnen benen.

424
01:11:12.396 --> 01:11:17.655
En we hebben eigenlijk dat model niet nodig, want we hebben de data en daar kan niemand bij.

425
01:11:18.356 --> 01:11:27.176
Het zou bijvoorbeeld voor een partij als, uh, Google met hun YouTube waar we het de vorige keer ook over hebben gehad of Twitter met hun, uh, uh, tweets realtime.

426
01:11:27.676 --> 01:11:42.676
Zij zouden prima hun modellen kunnen open sourcen, want zolang je geen toegang krijgt tot die firehose van Twitter met recente tweets of in het geval van YouTube de recente video's en het hele archief, denk ik dat je model zelf niet jouw, uh, intellectual property hoeft te zijn.

427
01:11:43.376 --> 01:11:50.016
I-- gekeken vanuit een puur, ja, kapitalistische mindset van: wat is waarde en wat kunnen we, waar kunnen we waarde uit halen, zeg maar.

428
01:11:50.616 --> 01:12:02.056
Het is zo moeilijk om je, om het in het Engels te zeggen: to, to wrap your head around de soort van strategische keuzes die nu op dat niveau worden, worden gemaakt met de hoeveelheden geld en dus ook CO₂.

429
01:12:02.156 --> 01:12:12.416
Want het is in dit geval redelijk, uh, ja, met elkaar, uh, dat loopt eigenlijk met elkaar op, zeg maar. De hoeveelheid wat het kost om een model te trainen, omdat het voor grootste deel energiekosten zijn.

430
01:12:14.316 --> 01:12:24.796
De, de miljarden die nu worden uitgegeven aan het trainen van die modellen en dus de onderliggende keuzes over hoe je zo'n model, uh, released en welk, welk doel je daar dan in, uiteindelijk mee hebt.

431
01:12:25.436 --> 01:12:27.856
Ik weet niet, het, het laat mijn hoofd toch wel een beetje spinnen.

432
01:12:27.876 --> 01:12:48.456
Als je zo le-- net, net opleest wat het kost om even een clustertje op, uh, Hugging Face aan te zetten, wetende dat, zoals het OpenAI kreeg eerst een investering van een miljard van Microsoft en toen was het geld op en toen, uh, waren ze, toen waren ze in paniek en toen, uh, hebben ze met na, na wat kleinere investeringen uiteindelijk nog een keer 10 miljard opgehaald.

433
01:12:48.466 --> 01:12:52.896
Mijn dollar. Maar god, miljardje meer of minder, wat maakt het ook uit? Wat maakt het ook uit, ja.

434
01:12:52.906 --> 01:13:06.496
Het gaat gewoon allemaal op aan compute power en het feit dat Amazon dit waarschijnlijk ook aan het doen is en dat Google dit ook doet en dat Facebook dit dus ook doet. Ja, het is gewoon, ik weet niet.

435
01:13:07.396 --> 01:13:10.200
Ik weet het, ikZo moeilijk om voor te stellen.

436
01:13:10.460 --> 01:13:31.960
En als je hem nu, als je het cirkeltje dan rond maakt met petals waar we net over hadden, met die BitTorrent for language models, is het natuurlijk hilarisch als, uh, mensen Llama gaan downloaden van Meta, dan met petals allemaal gaan distributed retrainen en dan gaat, dan gaat Facebook zelf naar die pagina toe, downloadt weer dat ding en gaat hem intern toepassen.

437
01:13:32.000 --> 01:13:42.880
Dus op die manier hebben ze eigenlijk over onze rug met onze kilowatts die we allemaal samen in hoop en hoop en ooit hebben hun model verbeterd. [lacht] Ja. Kan Mark Zuckerberg weer een extra huis kopen.

438
01:13:42.960 --> 01:13:58.460
Het scheelt ze wel carbon credits inkopen, want die leggen ze gewoon bij ons. Ik, uh, vraag me af wat de Estse overheid ermee zou doen. Misschien een, uh, Llama gebruiken om dan een, uh, een chatbot te maken. Die, uh,

439
01:13:59.760 --> 01:14:12.780
die, uh, die waardoor je kan zeggen dat je dood bent gegaan en dan dat de Xroad automatisch, uh, die data verwerkt bij de belangrijkste instanties. En dan hopen dat het klopt, zeg maar.

440
01:14:13.099 --> 01:14:21.920
[lacht] Het nieuws over mijn dood is grotendeels overtre-, overgebracht, toch? Dat was hem. Maar, en ik zit nog te denken dat, ik heb ooit gezien, uh, ik heb dat nooit

441
01:14:23.180 --> 01:14:26.200
behalve op een plaatje in het echt gezien, maar het is zo'n logische stap.

442
01:14:26.900 --> 01:14:35.860
Dat waren, in de datacenters heb je allemaal maten, net als met containers heb je allemaal van die, uh, ISO-gecertificeerde maten, zodat alles- Standaardmaten. Ja, standaardmaten. M-hm.

443
01:14:36.420 --> 01:14:48.680
En, uh, zo heb je in die, heb je in een rack, in een rack heb je 1U, 2U, uh, noem maar op en dat is, een 1U is eigenlijk als iemand wel eens in audio gewerkt heeft zit dat, die werken ook vaak met racks in van die, uh, flight cases.

444
01:14:48.700 --> 01:14:59.280
Het zijn van die grote zwarte dozen die op het podium staan met wieltjes eronder en daar zit allemaal apparatuur in die voldoen ook aan diezelfde standaard. Uhm, 1U is, is echt, uhm, niet zo hoog.

445
01:14:59.340 --> 01:15:07.920
Dat is echt een pizzadoos. Platgeslagen computer wordt ook vaak pizzadoos genoemd door de mensen die in die industrie werken. Die gaan dan weer even een paar pizzadozen in het sch-, in het rack schuiven.

446
01:15:08.360 --> 01:15:19.640
Nou, dat, dat, uhm, dat waren vroeger meer mensen dan tegenwoordig, want ik heb dat ook nog gedaan. Lang, lang geleden. Ik ben ook al oud, maar tegenwoordig is het allemaal weg geabstraheerd achter API-calls en.

447
01:15:19.660 --> 01:15:23.900
Maar er is uiteindelijk iemand die ergens weer iets gaat ophangen. Misschien is het tegenwoordig een model. Ja, zeker.

448
01:15:23.980 --> 01:15:30.680
Maar er zijn gewoon blazende, dat is ook, uh, als we hem nog even koppelen aan, uh, het kilowatt verhaal.

449
01:15:31.300 --> 01:15:42.990
Je, als je za-, zou gaan luisteren wat zo'n Nvidia cluster doet als daar een model op getraind wordt, dat is gewoon een schreeuwend warme bom is dat gewoon. Rawr. Echt heftig. Wat wou jij zeggen?

450
01:15:43.010 --> 01:15:49.100
Want je bent ook in datacenters geweest denk ik. Ja, ja, nee, ik, ik, ik knik alleen maar. Jouw zo van: zeker, het is heftig.

451
01:15:49.160 --> 01:16:00.170
Ja, nee, want ik, en ik zat te denken dat, uh, wat ik toen heb gezien, dat was eigenlijk een, uh, nou stel je do-voor een pizzadoos en die kunnen heel, uh, diep zijn. Dus leg even drie pizzadozen achter elkaar. Of 2,5.

452
01:16:00.360 --> 01:16:06.700
Heb je ongeveer een server. Die heb je ook weer allemaal maten in. Maar een beetje gemiddeld server is zo 2,5 pizzadozen naar achter en de hoogte is een pizzadoos.

453
01:16:06.960 --> 01:16:15.259
En die schuif je dan op elkaar op een stapel in zo'n rack en dan weer racks naast elkaar en dan weer verdiepingen. Je ziet het wel voor je hoe dat blijft stapelen. Uhm, [slikt]

454
01:16:15.420 --> 01:16:23.120
dit was een partij en die zei: "Zullen we die gewoon aan je muur hangen thuis? Draai gewoon die 2,5 pizzadozen op zijn zij, schroef hem aan op de plek waar je verwarming hangt."

455
01:16:23.700 --> 01:16:33.080
En toen was het van: zet er een, zet er een bitcoin miner op en als het dan koud is in je huis klappen we dat ding aan, gaan we bitcoin minen en warmen we je kamer op. Nu zou ik dan zeggen: hang hem in petals.

456
01:16:33.520 --> 01:16:43.220
Hang een GPU-cluster in de vorm van een mooie radiator met een mooie hoes eromheen aan je muur en let's go! Wauw. Toch? Laten we dan slim zijn als we het toch overal gaan ophangen.

457
01:16:43.800 --> 01:16:54.660
Maar Mies, dan wil ik wel gewoon er iets voor terugkrijgen, hè. Ja, nee, dat begrijp ik. Nou ja, goed, dan zou je misschien moeten zeggen van daardoor doe jij mee en kan jij tegen dat model praten. Alleen als je meedoet.

458
01:16:54.680 --> 01:17:00.510
Een soort tit for tat. Ja, oké. Dan, uh, bouw je een soort karma op. Je hebt het trouwens in Bitcoin ook. Geef mij gewoon. Je wil geld, hè.

459
01:17:00.520 --> 01:17:11.680
Gewoon tokens en dan kies ik wel of ik het wil geven aan tijd op dat cluster of dat ik gewoon euro's voor terug wil. Prima, als dit toch is waardoor het toegankelijk wordt, die, die data, die datakracht.

460
01:17:11.720 --> 01:17:19.520
Ja, ik vind het wel een, uhm, ja, het is nooit te zonde om iemands zwembad op te warmen of zo, maar dat je in ieder geval wat nu, ja, ik weet niet.

461
01:17:19.560 --> 01:17:29.460
Het idee dat je dan een datacenter hebt waar het kneiterheet wordt binnen, wat dan teruggekoeld wordt door de airco en zo is, kan eigenlijk allemaal niet meer zo goed nu. Als, die warmte moeten we iets mee. Ja.

462
01:17:30.340 --> 01:17:32.600
Ik, ik, ik den- ik denk trouwens, dit is puur naïviteit, hoor.

463
01:17:32.620 --> 01:17:41.500
Ik ga ervan uit dat er, daar ga ik gewoon even van uit voor de luisteraars die een datacenter runnen, dat er inmiddels buizen doorheen liggen die de grond ingaan en gewoon teruggeleverd worden aan het netwerk.

464
01:17:41.640 --> 01:17:54.060
Ik mag het hopen, mag het hopen, maar, uhm, ja, die warmte moeten we- Het is ongetwijfeld zo. Maakt het niet minder vet om een taalmodel te trainen, uh, aan de, op de plek waar nu een radiator hangt.

465
01:17:54.920 --> 01:18:05.760
Kan het wel iets hebben. Toch? Dat is mooi. En er zijn dus cases of zo waardoor je zo'n server op zijn zij, uh, aan je muur kan, uh, kan hangen. Nou, het is een lichte dystopische aflevering geworden.

466
01:18:05.780 --> 01:18:13.940
Het Estland verhaal heeft voor jou ook een dystopisch bijklankje. En, uh, dit, uh, eindigt toch ook weer op een dystopische wijze. Het is ons weer niet gelukt om je vrolijk nieuws te brengen.

467
01:18:14.360 --> 01:18:20.850
Volgende week proberen we het weer nog een keer. Tot volgende week! Tot dan! Doei. [lacht] [afsluitend muziekfragment]