WEBVTT

1
00:00:00.100 --> 00:00:10.400
[alarm] Oh. Zo klinken 165.000 scheerbewegingen per minuut die je helpen om fris voor de dag te komen.

2
00:00:10.420 --> 00:00:17.860
De flexibele scheerkop van de Philips S9000 Prestige volgt de contouren van je gezicht en scheert tot op nul millimeter van je huid.

3
00:00:18.660 --> 00:00:29.000
Ervaar een ultiem gladde en comfortabele scheerbeurt, ook wanneer je nog niet helemaal wakker bent. Want dankzij de slimme sensoren past het scheerapparaat zich helemaal aan jou aan.

4
00:00:29.760 --> 00:00:39.920
Zo kun jij nog extra genieten van je kopje koffie voor je de deur uit gaat. De Philips S9000 Prestige is het ideale scheerapparaat om jouw dag goed mee te beginnen.

5
00:00:40.300 --> 00:00:53.020
Koop de Philips S9000 Prestige bij jouw favoriete winkel. Laat me je voorstellen aan Pim Verlaan. Ik begin op een hele jonge leeftijd met beleggen. Die horizon die jij hebt, gaat zoveel voordeel opleveren.

6
00:00:53.160 --> 00:01:03.440
Pim is een man met een missie. Iedereen veilig en verantwoord leren beleggen. Als je echt iets wil leren, leer het van iemand die één stapje vooruit loopt. Hij legt je uit op welke manieren je kan beleggen.

7
00:01:03.480 --> 00:01:15.720
Elke bank heeft eigenlijk zijn eigen beleggingsfonds. Ik hou daar helemaal niet van. Op welke manieren je beter kan beleggen en hij rekent je voordeel op de euro nauwkeurig uit. € 192.000 minder rendement.

8
00:01:15.800 --> 00:01:21.380
Zelf leren beleggen. Niemand vertelt dit. Pim dus wel. In Jong Beleggen de podcast. Nou, dat is toch fantastisch?

9
00:01:29.820 --> 00:01:46.440
[muziek] Welkom bij Poki. Een podcast over kunstmatige intelligentie waarin wij, Wietse Hage en ik, Alexander Klöpping, je bijpraten over de wondere wereld van AI.

10
00:01:47.220 --> 00:01:58.500
Een paar weken geleden kwam er een Nederlands taalmodel uit waar je waarschijnlijk nog nooit van gehoord hebt. Geitje. Het grootste en best functionerende Nederlandse taalmodel wat er is en je kan dit proberen.

11
00:01:58.860 --> 00:02:09.560
Wij hebben de ontwikkelaar ervan gesproken. Dat hoor je zo. En we gaan verder doorpraten over de ontwikkeling van open source taalmodellen, want daar gebeurt heel erg veel. Goed, maar ook kwaad.

12
00:02:09.840 --> 00:02:23.560
We gaan het over allebei hebben. Veel plezier! [muziek] Precies een maand geleden kwam het eerste echt Nederlandse taalmodel uit. Het heet Geitje. Een bijzondere naam. Een, een taalmodel.

13
00:02:23.680 --> 00:02:32.460
Een open source taalmodel gebaseerd op Mistral, uh, dat getraind is op grote hoeveelheden Nederlandse data. Gemaakt door een Nederlander, Edwin Reijgersberg.

14
00:02:32.520 --> 00:02:45.360
Hij is machine learning engineer bij het NFI en daar past hij data science en AI toe bij opsporing. Dat doet hij dus op zijn werk, uhm, maar dit project doet hij niet namens het NFI, maar het is een, een hobbyproject.

15
00:02:45.480 --> 00:02:58.600
Het beste Nederlandstalige model op dit moment en wij hebben hem hier in de podcast. Edwin, welkom! Hoe kwam je op het idee om een, uhm, Nederlands taalmodel te maken? Dank je.

16
00:02:58.720 --> 00:03:09.320
Uhm, ja, het zit eigenlijk al een tijdje in mijn hoofd, zo'n taalmodel. Uh, misschien net zoals bij jullie heb ik natuurlijk vorig jaar ChatGPT, uh, zien ontstaan, uhm.

17
00:03:09.360 --> 00:03:14.260
Ik was daarvoor ook al in de taalmodellen, uh, in het toepassen van taalmodellen en wat er allemaal bestaat.

18
00:03:14.829 --> 00:03:23.180
Maar met ChatGPT zag je echt dat er een soort van grens over ging van: oeh, dit is toch echt een stuk beter dan wat we tot nu toe hebben gehad. Een hele gave toepassing.

19
00:03:24.000 --> 00:03:31.020
Uhm, en sindsdien heb ik eigenlijk zoiets van: nou, ik wil weten hoe dat werkt. Uh, wat voor gave dingen kan je ermee doen? Wat zijn de risico's daarvan?

20
00:03:31.740 --> 00:03:39.120
Uh, en natuurlijk de eeuwige interesse van nou, ik ben Nederlander, ik woon in Nederland, ik spreek Nederlands. Uh, hoe goed werkt dit allemaal in het Nederlands?

21
00:03:40.140 --> 00:03:48.000
Uh, nou, ChatGPT weten we allemaal, werkt best goed in het Nederlands. Uh, maar er kwamen natuurlijk ook veel open source modellen, uh, uh, naar boven de laatste jaren.

22
00:03:48.560 --> 00:03:54.800
En daar zag je dat de focus toch meer lag op Engels. Een beetje programmeercode en misschien een beetje Chinees.

23
00:03:55.680 --> 00:04:05.440
Uh, nou, dat hebben we natuurlijk al, uh, vaker gezien in de machine learning wereld, want Nederlands is een beetje een ondergeschoven kindje. Dus ik dacht: nou, dat is een mooie uitdaging om eens te kijken.

24
00:04:06.160 --> 00:04:18.300
Kan ik niet, uh, met beperkte middelen, uh, een soort van ChatGPT, uh, maken voor het Nederlands? Uh, volledig open source. Ja, want hoe, hoe? Want dit is gebaseerd op Mistral. Hun, uh- Yes.

25
00:04:18.360 --> 00:04:29.060
Zeven miljard parameter model. Hoe, hoe kwam je erachter? Of zeg maar hoe constateer je: het Nederlands is eigenlijk niet goed genoeg. Is dat proefondervindelijk? Of is daar een soort van benchmark voor?

26
00:04:30.320 --> 00:04:38.860
Uuuh, nou, er waren nog geen benchmarks voor, dus het was vooral proefondervindelijk. Uh, je pakt gewoon zo'n model zo groot als je kan draaien.

27
00:04:38.940 --> 00:04:46.080
Dus we, nou een tijdje terug waren dat de LLaMA-modellen zeven miljard parameters, dertien miljard parameters. Dat krijg je nog wel op een laptop of een goedkope GPU.

28
00:04:46.880 --> 00:05:00.140
Uhm, ja, je gaat er gewoon mee praten met die chatmodellen en dan merk je, tenminste ik merkte dat je, uh, af en toe best wel een conversatie kan houden, maar dat hij na een tijdje toch uitloopt op in één keer op het Engels, die gaan over op het Engels.

29
00:05:00.240 --> 00:05:15.900
Oké. Of, dus dat, dat het, uh, hoe heet het? Dat het, uh, het gesprek niet heel coherent is, maar of dat er gewoon Nederlandse kennis, uh, ontbreekt. Oké. In een model. Zoals wat? Dat merk je wel.

30
00:05:16.480 --> 00:05:27.380
Uuuh, nou een collega van mij die heeft daar een goede test voor en noemt die de Bassie en Adriaan test. [lachen] Uhm, dus nou jullie zijn, uh, opgegroeid met Bassie en Adriaan neem ik aan? Zeker.

31
00:05:27.480 --> 00:05:39.740
Dus als ik aan jullie de vraag stel, uh, van, uhm, met, uh, met wie trok, uh, clown Bassie altijd op? Acrobaat Adriaan. Acrobaat Adriaan. Bam!

32
00:05:40.160 --> 00:05:46.040
Nou, als je dat vraagt aan Mistral of aan LLaMA, dan krijg je wel iets terug, maar meestal niet, uh, Acrobaat Adriaan.

33
00:05:46.920 --> 00:05:56.740
Uh, nou, dat is een hele simpele test voor iets wat echt heel diep in onze cultuur zit en dus ook in onze taal, uh, uh, wat die modellen gewoon niet, niet weten, niet paraat hebben. Mhmm.

34
00:05:57.900 --> 00:06:09.652
Dus daaruit kon je al zien van oké, hier is veel verbetering, uh, mogelijk. Maar dat is dus cultuur.Ja ja, zeg maar hoe? Hoe breng je een taal model cultuur bij? Wat? Wat zit daar dan? Hoe doe je dat?

35
00:06:09.772 --> 00:06:19.772
Ja, dat dat is het mooie van taal modellen. Taal modellen zijn nou hebben een soort van intelligentie en die hebben ze geleerd door gewoon teksten te lezen en het volgende woord te voorspellen.

36
00:06:21.372 --> 00:06:27.052
En door heel veel teksten te, te lezen en het volgende woord te voorspellen, zijn ze goed geworden in het voorspellen van het volgende woord.

37
00:06:27.792 --> 00:06:37.952
En je kunt je voorstellen, uh, het is handig om een soort van wereldkennis te hebben om het volgende woord te voorspellen. Ja, als ik zeg aan jou vraag van

38
00:06:39.132 --> 00:06:52.072
de hoofdstad van Frankrijk is en dan moet ik jou het volgende woord laten, laten vertellen. Nou, dan zeg jij Parijs omdat je dat hebt geleerd ooit. Ehm, nou, dat is vrij triviale kennis, maar als het moeilijker wordt.

39
00:06:52.192 --> 00:07:06.932
Dus, uh, nou stel je hebt de zin. Ik liep op straat en ik schrok opeens heel erg, want ik zag een zwarte piano. En dan is aan jullie de vraag wat is de volgende? Het volgende woord? Ja, ik zag.

40
00:07:07.172 --> 00:07:17.372
Ik zag opeens een zwarte piano vallen. Kijk. Ja, vallen. Ja, dat is interessant dat je dat zegt. Want zeg maar een klassiek taal model. Een oud taal model. Die zou geleerd hebben van nou ja, een zwarte piano.

41
00:07:17.402 --> 00:07:26.792
Wat doet hij meestal? Die die staat ja. Ja, als hij niet zo goed in grammatica is, zegt hij misschien hij speelt. Nou, dat is dan fout. Maar dat zijn woorden die je associeert met piano.

42
00:07:27.512 --> 00:07:37.572
Maar jij hebt in je hoofd als ik op straat loop, ben ik niet gewend om een piano te zien. Ik schrok, dus ik heb ook nog iets onverwachts. En in jouw wereldmodel is het van nou, wat heb ik gezien?

43
00:07:37.612 --> 00:07:47.332
Nou, ik heb blijkbaar veel cartoons gezien waar piano's naar beneden vallen. Ik heb het goede antwoord gegeven Edwin, als ik het goed begrijp. Nou ja, er is geen goed antwoord natuurlijk.

44
00:07:47.372 --> 00:07:53.712
Dat is dat is het mooie ja, maar het is wel het antwoord wat ik zou geven. Vallen, bungelen, zeg maar dat soort antwoorden.

45
00:07:54.872 --> 00:08:06.292
En dat helpt dus als taal model om intelligent te zijn, om kennis te hebben over de wereld, om goed woorden te kunnen voorspellen. Nou, daarmee leer je dus wereldkennis en een soort van intelligentie tegelijk.

46
00:08:06.692 --> 00:08:21.572
En die zijn verstrengeld. Je kan niet een model eerst intelligent maken en hem dan zeg maar Wikipedia leren of zo. Maar die zijn verstrengeld. Dus hoe leer je dan zo'n taal model Nederlandse taal en kennis en cultuur?

47
00:08:21.832 --> 00:08:26.612
Nou, door hem gewoon heel veel Nederlandstalige teksten voor te schotelen.

48
00:08:27.352 --> 00:08:36.472
Nou, die gaan over het algemeen Nederlandstalige teksten over dingen die wij hier in Nederland en België meemaken of die in onze cultuur zitten, of die vertaald zijn uit andere talen.

49
00:08:38.072 --> 00:08:48.712
Dus de oplossing is eigenlijk heel simpel van je neemt een taal model, je voert hem grote hoeveelheden Nederlandse tekst om het volgende woord te voorspellen en tada, hij wordt tegelijkertijd beter in Nederlands.

50
00:08:48.992 --> 00:09:01.332
En hij wordt beter in Nederlandse onderwerpen. Ja, zodat de klambitie van acrobaat Adriaan onderscheiden kan worden. En en wat heb je hem gevoerd aan Nederlandse teksten? Ehm, nou, dat was de grote uitdaging.

51
00:09:01.472 --> 00:09:11.612
Want ik ben natuurlijk in mijn eentje. Het is een hobbyproject en ik heb dus niet de mogelijkheid om hele grote hoeveelheden data zelf te gaan verzamelen. Dus ik heb gekeken wat is er beschikbaar?

52
00:09:12.232 --> 00:09:24.372
Nou, ik heb eigenlijk twee grote bronnen gebruikt voor Geertje. Het eerste is het Nederlandse Giga Korpus. Dat is een dataset. Die kan je gewoon downloaden. Je kunt naar Giga Korpus punt NL gaan.

53
00:09:24.532 --> 00:09:35.012
Kan je de torrent downloaden en dan heb je. Van wie? Van wie is die? Wie zit daar achter? Die is van Bob Lucassen. Dat is ook een hobbyprojectje. Daar zat ook bij van nou, ik heb die data verzameld.

54
00:09:35.832 --> 00:09:45.212
Ik denk dat het goed is voor een Nederlands om die dataset te hebben. Misschien wil iemand wel een keer een model optrainen. Nou, ik kwam langs van nou ja, ik wilde wel een model optrainen. Was dat al eerder gebeurd?

55
00:09:47.652 --> 00:09:57.852
Niet naar mijn weten, maar het zou kunnen dat het eerder gebeurd is. Ik heb nog niet de schaal. Op de website staat Giga Korpus punt NL staat voorspelbaar. Wikipedia. Oké, dat snap ik dat je dat kan downloaden.

56
00:09:57.912 --> 00:10:05.262
Er staat op een Creative Commons bestanden. Ik weet niet precies wat het dan inhoudt, maar in ieder geval artikelen die dan blijkbaar onder die licentie verstrekt zijn.

57
00:10:05.312 --> 00:10:19.292
Ik kan me ook nog voorstellen, maar ook heel veel dingen zoals rechtspraak. Vind ik grappig. Boeken 32 of 82 gigabyte aan forumberichten. En zo gaat dat nog eventjes door. Heb je.

58
00:10:19.332 --> 00:10:33.052
Heb je enig idee daarvan wat daar nou, wat daar dan, wat daar dan in zit? Kijk, rechtspraak kan ik me nog voorstellen, maar 82 gigabyte aan foragesprekken, wat is dat? Nou ja, daar ga je gang. Ik wou zeggen dat is Fok!

59
00:10:33.092 --> 00:10:44.372
Forum en Tweakers. Gathering of Tweakers denk ik. Of de Viva. Ja, meer dat soort fora. Kijk, het is natuurlijk die. Die dingen zijn een soort van een subset van een webcrawl zeg maar.

60
00:10:44.412 --> 00:10:52.312
Als je het hele internet zou crawlen dan krijg je ook al die al die fora mee. Maar ja, dat zijn gewoon de grote Nederlandstalige fora. Volgens mij zijn het er elf uit mijn hoofd.

61
00:10:52.832 --> 00:11:02.852
Ik heb een overzichtje gemaakt, maar het zijn inderdaad de grote fora die je die je verwacht. Grappig, hoor. En er zit ook bijvoorbeeld een Twitter dataset zit daar ook bij.

62
00:11:02.932 --> 00:11:13.052
En is het een soort Common crawl, want dat is meer een een grotere dataset in het Engels volgens mij. De Common crawl dataset Is dit dan een een soort Nederlandse? Ja. Vergelijkbaar?

63
00:11:13.092 --> 00:11:19.432
Ik denk dat dat Giga Korpus iets specifiekere uitgangspunten heeft genomen van ik wil deze en deze databronnen hebben.

64
00:11:20.472 --> 00:11:35.372
Maar om geitje te trainen heb ik ook gebruik gemaakt van een soort van common crawl, de zogenaamde Mat Lad 400. En ja, de naamgeving in in in dit gebied is is altijd feest en met zet.

65
00:11:35.632 --> 00:11:47.832
Mat Lad 400 is volgens mij door Google samengesteld uit Common crawl uit allerlei versies van Common crawl in 400 verschillende talen. Daar komt die 400 vandaan en een van die 400 talen is het Nederlands.

66
00:11:48.152 --> 00:11:58.712
Voor de voor de luisteraar Common crawl is een is een gigantische dataset echt bedoeld om bijvoorbeeld op te trainen of dingen op te testen of noem maar op, maar dan volgens mij grotendeels Engelstalig.

67
00:11:58.752 --> 00:12:01.272
Maar er zit dus ook wel Nederlands in Common crawl begrijp ik.

68
00:12:02.152 --> 00:12:17.580
Ja, er zitten meer dan 400 talen in, dus dat is ook een flinke hoeveelheid Nederlands.Nou, als ik het dus goed begrijp is er, uh, een hele grote hoeveelheid, uh, aan gigabytes met Nederlandse taal, uh, uit allerlei verschillende bronnen, uit alle hoeken van de samenleving zou je kunnen zeggen.

69
00:12:17.620 --> 00:12:28.520
Best wel grappig om zo, om zo te kijken naar, nou ja, het corpus van ons land zullen we maar zeggen. Uhm, en dan wat? Want dan heb je die, dan heb je die, uh, die bestanden.

70
00:12:28.550 --> 00:12:41.080
Wat is, zeg maar, hoe gaat dat dan vervolgens verder? Ku-kun je ons meenemen in hoe dit dan werkt, zo'n, zo'n, zo'n taalmodel maken? Ja, zeker. Uhm, wat je nodig hebt is--

71
00:12:42.200 --> 00:12:48.820
nou, je hebt eigenlijk, eigenlijk drie stappen om een taalmodel te maken. Uhm, om te beginnen moet je een basismodel hebben.

72
00:12:49.500 --> 00:12:59.220
Nou, grote bedrijven als, uh, als Facebook en Mistral, die beginnen gewoon met een leeg basismodel. Die beginnen gewoon met niks. Uh, maar ik begin met het basismodel Mistral. Mhmm. Dus die is al getraind.

73
00:12:59.880 --> 00:13:10.600
Die heeft miljarden woorden aan, uh, nee, niet miljarden woorden, duizenden miljarden woorden aan, uh, nou ja, voornamelijk Engelstalige tekst gezien. En daar is hij op getraind, uh, en die kan je gewoon downloaden.

74
00:13:10.900 --> 00:13:20.400
Je kunt gewoon, uh, naar Hugging Face gaan en zeggen van: uh, het Mistral-model is, uh, open source, uh, ik wil het graag downloaden op mijn computer hebben, uh, en dan heb je het. Mhmm.

75
00:13:21.080 --> 00:13:29.860
En dan kan je het, uh, toepassen natuurlijk. Je kunt er een chatbot van maken, enzovoort. Uh, maar je kunt het ook trainen. Uhm, en het trainen gaat als volgt.

76
00:13:29.980 --> 00:13:41.440
Uh, wederom van Hugging Face, uh, is er een zogenaamde, uh, uh, library, een Python library genaamd Transformers. Nou, Mistral is een transformer model, uh, en die kan je gebruiken om, uhm, te trainen.

77
00:13:41.960 --> 00:13:48.600
Dus wat je dan maakt eigenlijk is een, een klein train scriptje. Het stelt niet zoveel voor. Het is een paar honderd regels aan programmeercode,

78
00:13:49.580 --> 00:14:02.420
uhm, waarin je de dataset inlaadt, uh, het model inlaadt, uh, wat keuzes maakt in parameters, uhm, en zegt tegen dat model: nou, van deze dataset, ga maar het volgende woord voorspellen.

79
00:14:03.360 --> 00:14:10.260
Als je het fout hebt, uh, dan leert het model van: oh nee, dat had net wat anders moeten zijn. Dan wordt het model aangepast, dat hij de volgende keer beter in is. Oké.

80
00:14:10.790 --> 00:14:14.840
Uhm, en dan laat je hem een hele tijd, uh, draaien op, uh, wat flinke GPU's.

81
00:14:15.539 --> 00:14:23.840
Is het dan zo dat je, wanneer je-- ik heb een aantal vragen eigenlijk, want is het de, zijn dat de gewichten die je dan downloadt, de weights van zo'n model? Ja, klopt.

82
00:14:24.000 --> 00:14:33.740
Uhm, en is het dan zo dat, de verf is eigenlijk nog nat dus als je die downloadt? Ik zit een beetje in mijn hoofd met dat dingen uiteindelijk vaak gecompileerd worden, hè, dus dat jij, uh, je, iemand heeft de broncode.

83
00:14:34.080 --> 00:14:43.360
Die haalt er nog een slag overheen en wat jij krijgt is een soort, uh, zwarte doos, uh, en daar mag je mee werken. Maar het klinkt alsof zo'n Mistral-model eigenlijk, uh, ja, gewoon doorgetraind kan worden.

84
00:14:43.580 --> 00:14:53.180
Jij, zij zijn gestopt en jij gaat gewoon verder. Zeg ik dat goed? Ja, klopt. Oh, interessant. Ja. Ja, dus, dus je, wat, wat je downloadt zijn dus die 7 miljard parameters van dat model.

85
00:14:54.100 --> 00:15:05.420
Uh, nou, ze zijn elk twee bytes, dus dat is, uh, 14 gigabyte aan getalletjes die je binnenhaalt. En die getalletjes die vormen de lagen van het neuraal netwerk waar de data ingaat en, uh, voorspellingen uit.

86
00:15:05.780 --> 00:15:15.680
Dus waar zij gestopt zijn ga jij eigenlijk verder. Alleen, maar jij gaat verder met een andere input dan waar zij op aan het trainen waren. Jij gaat er ineens allemaal Nederlands tegenaan gooien. Ah, interessant. Ja.

87
00:15:16.260 --> 00:15:22.740
En da-, en dat kan je dan, een, een, dat doe je dan een x tijd. Wanneer stop je dan weer? Dan kan weer het geld op is. Want het is, het is niet goedkoop, maar.

88
00:15:23.500 --> 00:15:29.660
[lacht] Precies wanneer je data op is o-of wanneer je, uh, je budget op is. Uh, in mijn geval wanneer het budget, uh, op is.

89
00:15:30.360 --> 00:15:38.480
Uhm, ja, als je het traint, uhm, er is een zogenaamde metriek over hoe goed het model is terwijl hij aan het trainen is. Dat heet de loss.

90
00:15:38.680 --> 00:15:47.600
Dat is de, het getal wat hij lager probeert te krijgen, wat meet of hij, of hij goed aan het voorspellen is. Terwijl hij aan het trainen is? Terwijl hij aan het trainen is. Oké.

91
00:15:49.080 --> 00:15:56.900
Ja, en, en die zie je gewoon naar beneden gaan. Nou, die gaat, in het begin gaat hij vrij steil naar beneden omdat hij zoiets heeft van: oh, Nederlands, uh, ik ga snel, snel, zeg maar, de grote,

92
00:15:58.430 --> 00:16:05.400
hoe heet het, uh, de grote, uh, bar strokes, uh, leren, zeg maar, de, de ruwe dingen die, die hem beter maken in het Nederlands. Aha.

93
00:16:05.700 --> 00:16:11.280
En dan, hoe verder je gaat, hoe gaat hij langzaam ook de kleine nuances, uh, steeds beter krijgen.

94
00:16:12.300 --> 00:16:20.120
En is het dan zo dat je echt, uhm, ja, als je aan die samples aanlevert of ik weet even niet welke term daarbij hoort, maar dat je zegt: ik heb hier een zin, ik geef je de halve zin.

95
00:16:20.180 --> 00:16:29.680
Ik heb de hele zin eigenlijk al wel, maar die ga ik je niet geven. Voorspel maar. En dan vergelijk je de voorspelling met wat je had verwacht en dan geef je een score en die moet gewoon steeds hoger worden. Of lager.

96
00:16:29.720 --> 00:16:38.060
Het kan maar net hoe je het wilt. Ja. Hè, dus, uh, ja, a-en uiteindelijk zeg je: het zou mooi zijn als je gewoon een x procent van al deze zinnen die ik jou heb gegeven gewoon kan afmaken.

97
00:16:39.660 --> 00:16:48.960
Ja, klopt, je doet hem eigenlijk, uh, uh, nie-niet eens per zin, maar je geeft hem gewoon een hele bak met, met zinnen. Laten we zeggen enkele tientallen of honderden zinnen achter elkaar.

98
00:16:49.840 --> 00:16:58.460
Uhm, en je vraagt hem eigenlijk één voor één om elk woord te ver-te voorspellen. Dus hij begint met, met die hele bak met zinnen. Moet hij eerst het allereerste woord voorspellen.

99
00:16:58.520 --> 00:17:08.240
Nou, dat is moeilijk, want er zit niks voor. Dus dan moet hij, uh, gokken. Maar vervolgens laat je hem het tweede woord voorspellen, terwijl je het eerste woord geef je hem. Ja. En daarna het derde woord.

100
00:17:08.300 --> 00:17:13.800
Dan geef je hem de eerste twee woorden, enzovoort. Dus op een gegeven moment heeft hij echt een hele flinke context, uh, noem, noem je dat. Een flinke hoeveelheid tekst die hij heeft,

101
00:17:14.700 --> 00:17:18.180
uh, een, uh, een heel verhaal of een halve website of zo. En dan moet hij het volgende woord.

102
00:17:18.640 --> 00:17:28.830
En als ik het goed begrijp is het dan zo dat de grootte van het model, omdat je dus die parameters heb je vaststaan, begrijp ik, die, het model wordt eigenlijk niet groter. Nee, het model wordt niet groter.

103
00:17:28.830 --> 00:17:33.340
Dus dan moet hij slechter worden in iets anders. Hij wordt slechter in Engels. Ja. Oh, wat grappig zeg.

104
00:17:34.180 --> 00:17:40.480
Ja, hij moet, uh, uh, j-je past het aan op basis van wat je hem aan het trainen bent en, nou ja, dan moet hij noodzakelijkerwijs wordt hij ergens anders slechter.

105
00:17:40.490 --> 00:17:44.180
Maak je er een, maak je er een beetje een Nederlander van. [lacht] Een beetje, ja.

106
00:17:44.600 --> 00:17:51.560
Misschien is het ook wel zo met ons als wij een nieuwe taal leren, dat we een van de andere talen die we spreken een klein beetje inleveren. Inleveren. En als er een overlap is kunnen we natuurlijk versterken.

107
00:17:51.600 --> 00:17:59.220
Dat is zo mooi aan meerdere talen. Ik zit te denken, uhm, als je jezelf, even misschien een vreemde uitstap, hoor, maar als ik mezelf, ik heb mezelf leren typen.

108
00:17:59.540 --> 00:18:08.000
Is nooit handig, want nu, als ik nu probeer officieel te typen op een of ander Dvorak-keyboard of zo gaat alles mis, want ik heb het mezelf geleerd. Zitten er ook nadelen aan?

109
00:18:08.040 --> 00:18:11.720
Het voelt ook alsof jij iets aan het ombuigen bent naar Nederlands. Snap je wat ik bedoel?

110
00:18:11.840 --> 00:18:22.190
Of is, is er genoeg voorbeeld, voordeel bij om iets wat al getraind is om te trainen?Nou, dat was wel een vraag toen ik begon met trainen van: ga ik niet het helemaal kapot trainen?

111
00:18:22.350 --> 00:18:33.030
Om even zo kort door de bocht te zeggen. Want het model is natuurlijk, uh, slim geworden tussen aanhalingstekens doordat Mistral daar heel veel data doorheen heeft gegooid.

112
00:18:33.830 --> 00:18:41.330
Data waarvan wij niet weten hoe, hoeveel data en welke data. Dat vertellen ze je niet, helaas. Uhm, maar

113
00:18:43.710 --> 00:18:56.050
je hebt het risico dat als je dat te hard doet, als je zeg maar alles omgooit om maar wanhopig een paar woordjes Nederlands te, te laten leren, dat hij dan zijn intelligentie daarmee kwijtraakt.

114
00:18:57.070 --> 00:19:00.430
Nou is dat op zich een probleem dat je vaker tegenkomt in de machine learning.

115
00:19:00.810 --> 00:19:11.270
Je hebt een parameter die heet de learning rate en de learning rate die, die bepaalt hoe, hoe hard jij, uh, zeg maar het model verandert op basis van de zinnen die je hem voert.

116
00:19:12.130 --> 00:19:15.910
Als je die learning rate te hoog zet, dan heb je kans dat je het model meteen kapot traint.

117
00:19:16.350 --> 00:19:34.510
Als je hem te laag zet, nou, dan leert hij heel langzaam en dan duurt het eeuwig voordat je wat En zijn dit dan allemaal getallen die inmiddels gevonden zijn door de jaren heen, waar we misschien niet eens van weten waarom dat zo'n goed getal is, maar in de industrie is inmiddels bekend of in de, in de space van: doe maar een beetje zo rond de 0.4, dat le-levert wat goeds op.

118
00:19:34.550 --> 00:19:42.410
We gaan wel een keer theoretisch uitzoeken waarom. [lacht] Ja, in de wetenschappelijke literatuur noemen ze dat empirisch vastgesteld, maar dat is inderdaad van: ja, dit werkt goed.

119
00:19:42.710 --> 00:19:53.210
Ja, we hebben het tegen de muur aan gegooid. Het bleef plakken. Ja. Ja. Interessant. En hoe lang heeft nu die, uhm, die, die computer staan draaien om die Nederlandse taal te verwerken?

120
00:19:54.230 --> 00:20:03.430
Die computer, die heeft, uh, ongeveer tweeëneenhalve dag staan draaien. Uhm, maar dat was niet mijn eigen laptop. Dat was, uh, een server in de cloud.

121
00:20:03.670 --> 00:20:16.270
Uh, daar zaten de allernieuwste GPU's in, de zogenaamde H100 van, uh, Nvidia. En daar zaten er acht van die dingen in die, uh, in totaal, uh, meet je dit soort trainingsprocessen vaak in GPU-uren.

122
00:20:16.710 --> 00:20:32.290
Dus aantal GPU's maal aantal uur. En het kwam neer op, uh, uh, 500 GPU-uren. Oké, dat is dus, uh, pak 'm beet, uh, twintig dagen of zo aan, uh, aan, aan totale computertijd. Ongeveer.

123
00:20:32.630 --> 00:20:43.869
Wat hangt daar voor prijskaartje aan? A-a-als ik vragen mag? Of is dat iets wat je liever niet vertelt? Uhm, dat hing ongeveer € 1.300 prijskaartje aan. Ja, zo.

124
00:20:44.270 --> 00:20:55.470
Uhm, maar dat is omdat ik vrij slim ben omgegaan met de beschikbare GPU's, uh, die er zijn. Uhm, ik heb gebruik gemaakt van een goedkope cloudprovider, uh, uh, Lambda Labs.

125
00:20:56.290 --> 00:21:08.110
Uhm, want als jij gewoon bij Google of bij, bij Microsoft Azure of bij, uh, AWS je, je GPU's huurt, uh, die zijn een flink stuk duurder. Uhm, dat is niet hun corebusiness, zeg maar.

126
00:21:08.130 --> 00:21:16.930
Hun corebusiness is, uh, hun andere diensten. En die dure GPU's, nou, die doen ze erbij. En als jij graag een dure GPU wil, dan zal je wel veel geld hebben, dus, uh, daar rekenen ze lekker veel voor.

127
00:21:17.730 --> 00:21:32.270
Uh, maar je hebt dus prijsvechters die cloudinfrastructuur leveren puur gericht op GPU's en op trainen. Prijsvechters voor mensen zoals jij. Ja. Uhm, een nadeel is: ik ben niet de enige die dit doet.

128
00:21:32.850 --> 00:21:42.570
Uhm, dus die, uh, GPU's van Lambda Labs, die zijn vaak niet beschikbaar omdat het allemaal vol. Ja. Ja. Uh, en best wel eigenlijk altijd als je erheen gaat, is het eigenlijk altijd vol.

129
00:21:43.290 --> 00:21:47.830
Uh, dus een van de dingen die ik heb gedaan is, uh, ze hebben een, een API bij Lambda Labs.

130
00:21:47.970 --> 00:21:56.830
Dat betekent dat je er tegenaan kan praten met een computerscript, uh, tegen hun servers waarin je kan vragen van: hé, heb je een GPU voor me? Nou, dan krijg je het antwoord nee.

131
00:21:57.470 --> 00:22:06.170
Uh, dus ik heb opgezocht hoe, hoe vaak mag je dat vragen voordat ze dat vervelend vinden bij die API? Ja. Uh, dat was één keer per seconde. Oké. Oh. Dat was het maximum.

132
00:22:06.610 --> 00:22:17.710
Dus ik heb een scriptje geschreven wat, uh, iets meer dan, uh, v-, uh, één keer per seconde ongeveer een, uh, aan ze vraagt van: hé, is er al een GPU? Hé, is er al een GPU? Nou, dan krijg je heel vaak nee terug.

133
00:22:17.750 --> 00:22:28.930
Tot je opeens, uh, krijgt van: ja, er is een GPU. Nou, dat scriptje deed dan automatisch: oké, die wil ik. Uh, en dan krijg ik een pushnotificatie op mijn telefoon van: hé. Rennen. De GPU is beschikbaar.

134
00:22:28.950 --> 00:22:39.140
[lacht] Jij rennen. Bart begin, begin te lopen. Ja, laat hem ook vanzelf lopen. Ja. En dan mag je hem ook wel blijven gebruiken dan. Of zit er dan een maximum op en hoe lang je hem mag gebruiken?

135
00:22:40.630 --> 00:22:49.350
Je mag hem zo lang gebruiken als je wil. Oké. Toen hij eenmaal begon te lopen, toen was het, uh, toen, toen Ja, dan, dan is hij van jou zolang je creditcard het volhoudt. Ja, begrijp ik. Begrijp.

136
00:22:49.400 --> 00:22:59.810
Het is een soort restaurant waarin alle tafeltjes de hele tijd volgeboekt zijn. En, uh, er was één afzegging en die heb je net op tijd gesnapt. Maar dan met, uh, met videokaarten. Nou, heel bijzonder.

137
00:22:59.830 --> 00:23:09.950
Wat een bijzondere leef-leefwereld. Is dit nu dan, uh, die, die € 1.300 is dan een gift to humanity en dat gooi jij even de common goods in of zo, zeg maar. Dat ligt in het park op straat nu, mogen we allemaal oppakken.

138
00:23:11.130 --> 00:23:21.910
Uhm, ja, het is verbrand in een GPU, uh, uh, center. Maar ja, ik had van tevoren bedacht van: oké, ik vind dit een leuk hobbyproject, ik ga dit doen. Uhm, het is nuttig en het is heel leerzaam voor mij.

139
00:23:22.410 --> 00:23:30.630
Uh, ik ga er een budget voor vrijmaken. Uh, dus ja. Het is een schijntje in vergelijking met wat, uh, wat, wat een echt model trainen kost toch?

140
00:23:30.670 --> 00:23:40.010
Wat, wat, w-w-waar denken we dan aan als we het aan een, uh, uh, vanuit het niets model trainen? Want dat is niet in twee dagen gedaan. Uh, nee.

141
00:23:40.110 --> 00:23:52.990
Uhm, een voorbeeld waarvan we het weten is dus van, uh, van Llama 2 van, uh, van Meta. Daar hebben ze gezegd ook het 7-miljardmodel, dat kostte ze uit mijn hoofd 180.000 GPU-uren. Oké.

142
00:23:53.810 --> 00:24:07.082
Dus dan, nou, dan heb je het over honderdduizenden tot miljoenen euro's.Ja, is wel grappig, hè, dat dan het toevoegen van een taal dan zo'n, zo'n fractie is op het geheel. Plus het slim scripten dan, denk ik, hè.

143
00:24:07.092 --> 00:24:17.722
Het is een beetje een combinatie van op de schouders van Mistral gaan staan, plus, uh, spot instances pakken bij, uh, uh, het is het, uh, hoe heten ze? Lambda Labs. Lambda Labs. Ja. Ja.

144
00:24:17.762 --> 00:24:24.182
En, en ik zit dan even te denken, hè, de, weet je dat, weet je van waar Geitje gebruikt wordt, zeg maar? Want mensen spelen er waarschijnlijk mee.

145
00:24:24.342 --> 00:24:29.862
Ik ga zo vragen waarom het Geitje heet, maar, mensen spelen er natuurlijk met Geitje. Maar wordt Geitje ook commercieel ingezet?

146
00:24:29.882 --> 00:24:38.042
Want er zit, denk ik, een, ja, we hebben het vaak al een paar keer open source gehad, hè, maar is het een hele, hele vrije open source licentie die erop zit? MIT of zo? Wat zit erop?

147
00:24:38.702 --> 00:24:45.382
Ja, het is, uhm, Apache 2.0, net zoals Mistral. Ja, je hebt hem overgenomen eigenlijk. Of niet aangepast eigenlijk, de licentie. Niet aangepast.

148
00:24:45.422 --> 00:24:51.242
Dat betekent, nou ja, kort gezegd dat je het voor bijna alles gewoon mag, uh, mag gebruiken zoals je wil. Dus, uh, commercieel, niet commercieel.

149
00:24:51.362 --> 00:24:59.542
Je mag het, uh, uh, kopiëren, je mag het verkopen als je daar zin in zou hebben. Nou, namens alle bedrijven van Nederland zeg ik: dank je wel. Ja, dat is wel weer nog een gift, ja.

150
00:24:59.562 --> 00:25:06.732
En, maar ik bedoel, jij hebt jou al mailtjes gehad van, uh, commerciële partijen die zeggen: joh, we gebruiken Geitje, te gek! Bedankt man, ons product is nu ineens AI infused.

151
00:25:07.362 --> 00:25:18.662
[lacht] Nou, ik, Geitje heb ik net vorige keer vrijgegeven, dus het is nog vrij pril, maar ik heb wel al contact gehad met mensen die zeggen van: we zijn ermee aan het experimenteren. Waar gebruiken mensen het voor?

152
00:25:18.742 --> 00:25:28.342
Wat hoor je nu? Voor allerlei taken. Uhm, om te spelen, uh, om chatbots te maken. Mhmm. En te kijken hoe die vergelijken met ChatGPT.

153
00:25:29.282 --> 00:25:37.802
Uhm, samenvatten is altijd een, uh, een zeer belangrijke taak waar mensen graag, uh, large language models voor gebruiken. Uhm,

154
00:25:38.842 --> 00:25:48.842
ik heb zelfs gehoord dat iemand aan, aan het kijken is, uh, of die suggesties kan doen voor mensen hun cv, hoe, hoe ze dat beter zou-zouden kunnen, uh, kunnen presenteren. Mhmm.

155
00:25:49.442 --> 00:26:00.302
Je kunt je voorstellen dat een cv is gedeeltelijk is dat gestructureerde data, gedeeltelijk ongestructureerd. Uh, en zo'n taalmodel, als je die juist prompt, dan kan je, uh, eigenlijk een cv laten analyseren.

156
00:26:00.842 --> 00:26:11.662
Kan je bijvoorbeeld kijken van: is het, uh, toegankelijk taalgebruik? Of, uh, heb je concrete voorbeelden genoemd van de, uh, van de projecten die je gedaan hebt op je werk? Uh, dat soort dingen. Mhmm.

157
00:26:11.742 --> 00:26:26.582
Ja, wat ik ook nog wel wilde zeggen tegen dat voorbeeld wat je had over die Bassie en Adriaan test, vond ik wel grappig, want ik zat in eerste instantie te denken: het voorbeeld van de piano vind ik wat minder sterk, want als jij zou zeggen, uhm, ik heb de zin: ik loop op straat en ik zie een zwarte piano.

158
00:26:26.662 --> 00:26:33.002
Ik weet niet meer of dat de zin was, maar dat is hoe ik hem heb onthouden. En die vertaal je dan eerst naar het Engels en dan voer je hem pas aan een taalmodel.

159
00:26:33.062 --> 00:26:39.962
Dan gaat hij natuurlijk zeggen: falling, waarschijnlijk, hè? Ja. Dat is het. Maar bij Bassie en Adriaan, dan ben je ineens: nee, nee, nee, dat is cultuur.

160
00:26:40.142 --> 00:26:51.702
En dus ik zit meer te denken dat, het, ik had me nog niet bedacht dat het Nederlands trainen, wat mij betreft zit de waarde dan vooral in hem in, uh, ja, wat is eigenlijk het, de, de culturele corpus van Nederland?

161
00:26:51.802 --> 00:26:57.502
En hoe krijg je die soort van logisch erin dan? Je kan er vloeiend Nederlands mee spreken.

162
00:26:57.802 --> 00:27:05.782
Dat, dat is vind ik echt wel een interessant inzicht, want ik dacht heel de tijd: ja, zet er een vertaalstukje tussen en stel de vraag alsnog aan, uh, een GPT.

163
00:27:06.102 --> 00:27:16.482
Of, uhm, in dit geval als we het over open modellen hebben en lokale modellen aan een Llama. Ja, dat is zeker waar, uh, ben ik ook me-me-met je eens. Ik denk dat het een combinatie is van, van en taal en de cultuur.

164
00:27:17.142 --> 00:27:28.982
Uh, maar je ziet ook, ook als je het, uh, zo'n chatbot niet wil gebruiken als een soort van Wikipedia vervanging, maar als je hem echt, uh, taken wil laten doen, dan zie je dat, ja, dat die cultuurkennis, dat die ook helpt.

165
00:27:29.682 --> 00:27:42.742
Uh, in mijn demo van, uh, Geitje Chat, één van de voorbeelden die je daar hebt is het samenvatten van een artikel. En dat artikel, dat gaat over een kartel van wortelverkopers, die hebben een boete gekregen van de ACM.

166
00:27:44.142 --> 00:27:54.082
Uhm, maar wat grappig is, in dat hele artikel staat nergens vermeld wat de ACM is of waar de afkorting voor staat. Mhmm. Dat is de Autoriteit Consument en Markt.

167
00:27:54.942 --> 00:28:01.962
Uhm, en je ziet dus als je Mistral dat laat samenvatten, dat ie dat niet voor je gaat uitspellen. Ja, ja, ja. Dat dat, wat de ACM is.

168
00:28:02.042 --> 00:28:07.322
Maar, uh, Geitje, ja, het is stochastisch, dus af en toe wel, af en toe niet, maar die weet in elk geval dat ACM

169
00:28:08.222 --> 00:28:16.502
Autoriteit Consument en Markt is en dat presenteert hij dan ook spontaan in zo'n samenvatting, omdat hij dan doorheeft van: hé, dit zijn, een afkorting die ik eigenlijk moet uitleggen. Ja.

170
00:28:17.402 --> 00:28:26.962
Ik vind het wel grappig hoor, want ik zit nu ook te denken dat, uhm, wa-wanneer bijvoorbeeld een, uh, Italiaan Engels spreekt, dan is het, dan is dat, uh, dan zit de melodie van het Italiaans door het Engels heen.

171
00:28:27.522 --> 00:28:35.962
En als jij met ChatGPT gaat praten klinkt het als Eva Jinek. Want het, het Amerikaans zit in die, in die taal, uh, uh, qua audio. En ik merk nu ook dat ik denk: ja, interessant.

172
00:28:36.662 --> 00:28:41.982
Waarschijnlijk als ik met die ChatGPT dingen praat zit daar toch Amerikaanse cultuur in. Of in ieder geval niet Nederlandse cultuur.

173
00:28:42.362 --> 00:28:53.301
En wat Geitje eigenlijk voor elkaar krijgt, is die cultuur er echt in te krijgen waardoor je, waardoor het minder gaat voelen als een, uh, Amerikaan die zich voordoet als een Nederlander. Behoorlijk hoor. Ja, zeker.

174
00:28:53.722 --> 00:29:06.082
En Geitje, vertel, wa-, je zit al een paar keer te hinten naar rare namen in jouw wereld. Uh, of jouw wereld, de, de LLM, uh, de AI wereld. Wat, wat is er met die namen? Ja, je moet een naam geven aan je model.

175
00:29:06.142 --> 00:29:14.722
Dat is een beetje traditie. Ik had hem ook Mistral, uh, doortraind op Nederlands kunnen noemen. Ja, saai. Op zich heel, heel beschrijvend, maar dat is saai. Dat--

176
00:29:15.782 --> 00:29:29.362
uhm, dus je hebt in, in de wereld van de taalmodellen al sinds een jaar of vijf, begon eigenlijk met Bert, de Bert-generatie. Nou, je had model Bert van Google, je had Ernie, je had, uh, uh, uh, Big Bird, zeg maar, Pino.

177
00:29:29.392 --> 00:29:32.051
[lacht] Er was een hele generatie van- Wat grappig.

178
00:29:32.082 --> 00:29:42.942
Van onderzoekers, van onderzoekers van verschillende, uh, bedrijven of, of, uh, of universiteiten die allemaal met elkaar meegingen in een soort van thema van- Ja, ja, ja, ja. Van naamgeven.

179
00:29:43.522 --> 00:29:55.042
Uhm, en toentertijd, uh, is er dus ook een Nederlandstalige variant van Bert getraind, uh, door Wietse de Vries van de Universiteit Groningen. Uh, die moest ook een naam verzinnen en die had hem toen Bertje genoemd.

180
00:29:56.202 --> 00:30:09.442
Met het idee van: nou, die uitgang -je, dat maakt meteen duidelijk dat het, uh, iets Nederlands is. Ja.Nou uh, de karakters van Sesamstraat waren denk ik een beetje op. Dus uh, de trend nu is uh, uh, de lama's.

181
00:30:09.902 --> 00:30:22.682
Sinds Meta met Lama is gekomen. Nou, toen kwam daar een alpaca, een guiana, een vicuña en, en toen waren dus allemaal de lama-achtigen waren op. Uhm, maar in dat thema wilde ik, uh, een beetje doorgaan.

182
00:30:23.702 --> 00:30:36.862
Uh, mijn oorspronkelijke plan was om, uh, Geitje te baseren op Lama, maar voordat ik ermee aan de slag kwam, uh, ging, toen kwam uhm, Mistral uit. Of Mistral, zoals jullie het noemen. Uhm.

183
00:30:37.522 --> 00:30:48.992
[lacht] Wij zelf, wij denken dat dat beter is. Ja, dat is beter. Mistral. Ja. Ik, ik, ik ben, ik ben het nou ook zo gaan noemen. Mistral. Wij weten het niet. Nou, [lacht] maar goed, dat is dus een wind in Frankrijk.

184
00:30:49.142 --> 00:31:01.042
Dus ik dacht: nou, is er nou een wind in Nederland waar je je taalmodel naar kan vernoemen? Dus ik heb nog gedacht aan een noordwester of westenwind. Maar ja, Westenwind was geloof ik een soapserie in de jaren negentig.

185
00:31:01.302 --> 00:31:12.542
Uhm, ik dacht: weet je wat, ik hou het op een dier. Uh, het is niet zo'n heel groot taalmodel, dus het is, moet een beetje een klein schattig dier zijn. Nou, wat is er nou beter dan een geit?

186
00:31:12.822 --> 00:31:21.941
Een geit kan je heel veel dingen voeren, heel veel data voeren en dan begint ie, uh, te blaten, zeg maar. Nou, dat vond ik wel een mooie beschrijving van het taalmodel. Ja. Dus het is Geitje geworden.

187
00:31:22.602 --> 00:31:36.942
Wat was nou het meest bevredigende moment tijdens het werken aan, uhm, aan, aan Geitje? Ik denk dat het meest bevredigende moment was dat ik Geitje had getraind, uhm, en dat hij het deed. Ja. Dat ie, [lacht]

188
00:31:36.962 --> 00:31:46.342
want het was nogal een risico, want voor hetzelfde geld is hij in één keer heel, uh, heel dom geworden. Of, uh, of heb ik hem toch niet goed Nederlands geleerd? Uhm. En hoe ging dat dan?

189
00:31:47.962 --> 00:31:56.942
Nou ja, je maakt dat taalmodel, je traint het, uhm, en dan kan je het gebruiken om gewoon zinnen af te maken. Dus dan ga je wat dingen proberen. Ga je Bastiaan Adriaan proberen.

190
00:31:56.982 --> 00:32:09.302
Je gaat wat andere, uh, wat testjes proberen die je in de benchmarks tegenkomt, uh, dat soort dingen. Uhm, maar wat nog, uh, nog leuker werd het toen ik er ook een chatbot van getraind heb.

191
00:32:09.801 --> 00:32:15.802
Uh, dan moet je hem nog eventjes doortrainen op voorbeelden van, van chatgesprekken zeg maar, zodat hij zich gaat gedragen als een goede chatbot. Mhmm.

192
00:32:16.262 --> 00:32:20.681
Nou, en toen ik daar tegenaan het praten was en hij, uh, ja, hij kende Bastiaan Adriaan.

193
00:32:20.842 --> 00:32:34.242
Hij kan, uhm, wat, uhm, wat logisch redeneren over dieren en, uh, en over geiten en, uh, over auto's en hoe die verschillend zijn en dat soort dingen. En dan ging yes. Oké, top! Het is gelukt. [lacht] De GPU's zijn uit.

194
00:32:34.822 --> 00:32:46.722
Het model is er. Uh, ja, nu kan ik verder kijken naar, uh, de toepassingen hiervan. Heel erg nice. Komt er een nieuw geitje? Dat is een goede vraag. Het is nu aan de community, denk ik. Uhm,

195
00:32:47.682 --> 00:32:53.762
ik heb, uh, ja, Geitje het basismodel getraind. Iedereen k-kan het gebruiken om, uh, voor allerlei toepassingen.

196
00:32:54.522 --> 00:33:01.962
Uhm, ik heb met de beschikbare data een zo goed mogelijke chatbot getraind, maar daar is nog heel veel winst mogelijk.

197
00:33:02.462 --> 00:33:11.982
Uh, de, de echt goede chatbots zijn zeg maar getraind met veel meer voorbeelden van, uh, van chatgesprekken. Die zijn ook met, uh, uh, met voorkeuren getraind.

198
00:33:12.062 --> 00:33:17.722
De preferences, uh, heet dat, dus dat hij echt onderscheid kan maken, nou, tussen goede antwoorden en, uh, en slechte antwoorden.

199
00:33:18.302 --> 00:33:24.862
En ik denk dat, uh, dat we daar de komende weken of maanden uit de open source community wel wat, uh, wat leuke dingen uit gaan krijgen.

200
00:33:24.871 --> 00:33:35.282
En dan, dan, mijn laatste vraag is, vo-vo-voor de luisteraar ben jij een tovenaar, maar voor mij eigenlijk ook, want ik, ik kan dit niet. Uhm, kunnen mensen dit ook? En, uh, waar moeten ze dan beginnen?

201
00:33:35.622 --> 00:33:45.462
Want ik kan me voorstellen dat er mensen zijn die zeggen: nou, ik, ik heb wel heel veel verstand van taal of ik heb een heel, een niche waarin ik me be-bevind van tuinieren en ik zou, ik heb heel veel boeken en data.

202
00:33:45.782 --> 00:33:58.362
Help! Waar moeten ze beginnen? Uh, ik denk dat je het best kan beginnen door te, te oefenen. Uhm, het is eigenlijk helemaal niet zo heel ingewikkeld. Als je die programmeercode ziet, het valt eigenlijk best wel, uh, mee.

203
00:33:58.462 --> 00:34:06.442
Je hoeft niet enorm hard te kunnen, uh, rekenen en wiskunde of dat soort dingen, dat wordt allemaal voor je gedaan. Uhm, er zijn cursussen.

204
00:34:06.662 --> 00:34:12.102
Uh, Hugging Face heeft een aantal cursussen, waaronder een NLP-cursus en een Natural Language Processing cursus.

205
00:34:12.802 --> 00:34:21.922
Volgens mij laten ze daar gewoon alle soorten taalpro-, uh, processing langskomen, waaronder ook, uh, taalmodellen en ik denk ook grote taalmodellen.

206
00:34:22.602 --> 00:34:31.682
Dus, uh, ja, als je daar wil, uh, wil beginnen en je hebt een beetje programmeeraanleg, uh, huggingface.co en, uh, The Course.

207
00:34:32.422 --> 00:34:39.662
Nou Edwin, uh, namens, uh, alle Nederlanders, uh, zeg ik bedankt voor Geitje en, uh, dat we dat gratis allemaal maar mogen gebruiken, uh, dankzij jou.

208
00:34:40.242 --> 00:34:48.892
En, uh, kom vooral terug als er updates zijn en als er nieuwe dingen ontdekt zijn. Heel erg leuk! Dank je wel. Dank je wel. Graag gedaan en dank je wel voor de uitnodiging.

209
00:34:49.022 --> 00:35:00.072
[overgangsgeluid] en dan nu een bericht van onze sponsor. Als echte nerd zit je waarschijnlijk veel achter je laptop, maar wil je eens van het scherm af en als digital commerce professional het jaar goed beginnen?

210
00:35:00.662 --> 00:35:08.462
Stel je dan eens voor: meer dan tweehonderd experts en duizenden digitale collega's onder één dak, klaar om jouw digitale horizon te verbreden.

211
00:35:08.502 --> 00:35:20.522
Bij de Webwinkel Vakdagen in de Jaarbeurs Utrecht ontmoet je laagdrempelig gelijkgestemde professionals, krijg je inspirerende inzichten die je nergens anders vindt en ontdek je de laatste tools. En dat allemaal gratis.

212
00:35:21.062 --> 00:35:33.382
De Webwinkel Vakdagen 23 en 24 januari in de Jaarbeurs Utrecht. Claim je gratis ticket voor de Webwinkel Vakdagen via de link in de shownotes of ga naar webwinkelvakdagen.nl. En dan nu door met de show.

213
00:35:34.102 --> 00:35:43.122
Ik zat, uhm, waar we het net niet over gehad hebben, maar, uh, dat was, we moeten ook niet, we konden uren praten joh, die komt nog wel een keer terug. Ja, nee, m-, we gaan Edwin nog wel een keer uitnodigen. Precies.

214
00:35:43.682 --> 00:35:49.352
Uhm, is model merging en, uh, d-daar had ik helemaal niet bij stilgestaan,

215
00:35:50.302 --> 00:35:58.832
uh, dat je natuurlijk als een soort van tovenaar ook verschillende taalmodellen met elkaar kan gaan mengen in een soort, uh, grote pot met een grote lepel. Mhmm.

216
00:35:58.882 --> 00:36:17.770
En dat is, nou wat, uhm, eigenlijk is het, het is een soort van logisch of zo dat je denkt: nou, nou, natuurlijk kan dat, maar met die open source taalmodellenAls je daar dus echt een brede licentie voor hebt dat je er echt veel mee kan, dan kan je en dat dat, die zie ik nu steeds vaker verschijnen in de rankings ook en daarom wou ik het er even over hebben.

217
00:36:18.670 --> 00:36:28.610
Ik zag ineens titels waarbij zowel Mistral stond als Zephyr. Of dat ik dacht hè, wat, huh? Of Lama met Mistral dat ik dacht wat zijn dit voor baby'tjes die hier gecreëerd worden?

218
00:36:28.640 --> 00:36:40.670
Maar dat zijn, dat, dat is dus eigenlijk letterlijk wat je denkt dat het is, is dat je eigenlijk twee modellen gaat samenvoegen waardoor je ze, nou, ze worden dan niet meteen twee keer zo krachtig, maar eigenlijk de kwaliteiten van twee in één, in één voegt.

219
00:36:41.070 --> 00:36:52.270
Hoe dat, hoe dat technisch kan, dat ja, dat, dat begrijp ik dus niet helemaal van hoe. Net als bij een mens heb je twee, twee keer DNA. Ga je dan, ga je er doorheen lopen en dan wordt het een soort van samengevoegd.

220
00:36:52.310 --> 00:36:53.250
Dat is al een wonder, hè.

221
00:36:53.330 --> 00:37:04.570
Natuurlijk, iedere levensvorm waarbij twee DNA's worden samengevoegd en dan een soort van loterij wordt gedaan van: nou, je krijgt nog oog-, oogkleuren van ogen van papa en haarkleur van mama en het gaat dan allemaal in één.

222
00:37:04.730 --> 00:37:11.630
Ik bedoel, hoe krijg je dat zonder dat het corrupt gaat, zeg maar. [lacht] Het gaat ook wel eens corrupt trouwens. Dat is, dat is spijtig, maar over het algemeen gaat het goed

223
00:37:12.590 --> 00:37:24.810
en blijkbaar kan je dus ook taalmodellen mergen. Waarom ik dat interessant vind, is omdat ik, kijk nu met geitje en alpaca en zo, dat dat een beetje een, een soort schattig diertje of zo is.

224
00:37:25.390 --> 00:37:27.330
Dat zorgt er natuurlijk, het leeft natuurlijk een beetje.

225
00:37:27.460 --> 00:37:38.030
Ik bedoel, dan kan je uren filosofisch over discu-, discussiëren of dit leeft, maar, uh, ik vind het wel interessant dat, dat Edwin zegt: ja, ik ga een, uh, ik ben iets aan het trainen.

226
00:37:38.590 --> 00:37:50.130
Daarvoor vraag ik Bassie en, en dan zegt ie, zegt ie Kees en dan ben ik klaar met trainen en zegt hij Adriaan. Ja. Dan, dan heeft hij dus iets geleerd. Ik vind dat fascinerend. Ja. Als je dat zelf aan het doen bent ook.

227
00:37:50.390 --> 00:37:54.590
Dat, ja, snap je? Dus, uh, en bij, bij het mergen denk ik dat ik denk van: o, wat grappig.

228
00:37:54.630 --> 00:38:05.960
Dan ga je dus kijken van kan ik ze nu als een soort van, uh, chemicus, uh, gaan samenvoegen als een soort, uh, ik ga goud maken van lood, zeg maar. Ik vind dat, uh. E-en daarbij ook,

229
00:38:06.950 --> 00:38:19.390
wat ik me goed kan voorstellen is Grok bijvoorbeeld G R O K van X, uh, het, uh, begre-, onbegrensde, uh uh, taalmodel. Moet je zelf kijken wat je daarvan vindt, maar die heeft een wat. Soort van de ChatGPT van Elon Musk.

230
00:38:19.670 --> 00:38:27.930
Ja, en die heeft een beetje wat, uh, heftigere humor en, uh, niet politiek correct. Nou, uh, typisch natuurlijk. En, uh, maar daardoor wordt het,

231
00:38:29.150 --> 00:38:37.650
uh, er is een beetje de, het, het verhaal wat ik een beetje krijg in de sciencefiction, maar ook gewoon, uh, tussen de mensen als het over AI gaat, is van: er komt een AI aan.

232
00:38:37.680 --> 00:38:40.570
Of als een soort grote golf waar dan AI op staat of zo.

233
00:38:40.690 --> 00:38:51.750
Terwijl wat eraan komt is natuurlijk gewoon een gigantische groep van hele diverse en van geitjes, alpaca's en geitjes aangepast en een gemixte alpaca geit en dat soort dingen.

234
00:38:51.790 --> 00:39:05.070
Dat ik me steeds meer begin te beseffen dat waar, waar we uiteindelijk in leven nu al en meer en meer is in een bizar exotisch ecosysteem van modellen met namen die ook weer samengevoegd zijn, geüpgraded zijn of omgemorgd.

235
00:39:05.530 --> 00:39:16.220
En dat vind ik wel een, uh, dus dat hele AI ding i-is niet grijpbaar als één, uh, godachtige entiteit. Nee. Nee, zeker niet. Nee. Nee, dus precies zo, zo.

236
00:39:16.250 --> 00:39:28.530
Dus de, het idee dat je, uhm, een AI iets vraagt en dat die AI dat dan weer aan andere modellen gaat vragen, dat is één richting. En dan heb je aan de andere kant heb je de soort van morph modellen.

237
00:39:28.550 --> 00:39:37.030
Dus die, die meerdere modellen die in elkaar opgaan op een of andere manier. Ja. Of ik vind het moeilijk om daar hier mijn to head my, to wrap my head around is.

238
00:39:37.279 --> 00:39:45.070
[lacht] Same, same, maar ik wil hem alleen nog maar even toevoegen als nog een ingrediënt in hoe, uh, moeilijk dit allemaal toch te bevatten is op een bepaalde manier.

239
00:39:45.310 --> 00:39:55.870
Het grappige van die open source taalmodellen is natuurlijk ook, kijk, dit is allemaal heel onschuldig namelijk, uhm, uhm, Bassie en Adriaan en, uh, uh, uh, nou ja, gewoon Nederlandse cultuur.

240
00:39:55.910 --> 00:40:01.530
Dat, dat, dat is een, dat is een heel nuttig gebied om, uh, om dit te ontwikkelen en meer onderzoek naar te doen.

241
00:40:02.550 --> 00:40:17.010
Ik zag bij Hardfork of luisterde Hardfork, uh, de podcast van, uh, onder andere de New York Times, waarbij zij voorspelden voor dit jaar dat dit jaar de doorbraak zou zijn van een open source taalmodel zonder, uh, guard rails.

242
00:40:17.590 --> 00:40:22.010
Dus de, de suggestie is een beetje, ook een beetje in het verlengde van wat je net zei over Elon Musk.

243
00:40:22.670 --> 00:40:35.770
Uhm, taalmodellen zijn begrensd, uh, en er is ook heel veel focus op over dat taalmodellen, uh, ja, uh, niet mogen vertellen hoe je een bank moet overvallen of andere dingen die, uh, op een of andere manier schadelijk kunnen zijn.

244
00:40:36.450 --> 00:40:49.270
Maar net zoals dat er heel veel, uh, maatschappelijk er heel veel, uh, te doen is over modereren op, uh, sociale netwerken. Dus wanneer gaat dat, uh, te ver? Uh, wanneer modereer je te veel?

245
00:40:49.350 --> 00:41:03.690
Dat is, dat hebben we tijdens corona ook gezien, dat je op, uh, op Twitter niet eens meer mocht zeggen dat, uh, dat het misschien, uh, dat corona een, een, o-, o-, een theorie dat het ontsnapt zou zijn uit een Chinees lab was, was op een gegeven moment, uh, een soort van onderwerp waar niet over gesproken mocht worden.

246
00:41:04.290 --> 00:41:13.410
Nou, dat is een ingewikkeld onderwerp, uh, uh, een moderatie, en dat geldt voor sociale media. Uh, en daar is veel aandacht voor, omdat natuurlijk verkiezingen en fake news, et cetera.

247
00:41:13.890 --> 00:41:24.130
Maar datzelfde gesprek kun je ook voeren over, over taalmodellen. Wat zijn vragen die, nou ja, uh, te boek staan als verboden bij de makers van een, van een taalmodel? En er zijn dus mensen die zeggen:

248
00:41:25.180 --> 00:41:33.610
uh, nu al, uh, zijn die taalmodellen te restricted. Uh, je kan niet ermee, uh, je kan er niet aan vragen, of in geval van plaatjes, je kan niet maken wat je wil.

249
00:41:34.150 --> 00:41:49.590
En in Hardfork werd dus de voorspelling gedaan: dit jaar gaat het jaar zijn waarbij er een taalmodel of een, een AI, uh, ja, een taalmodel gaat zijn, uh, die, uh, die net zoveel gebruikers heeft als ChatGPT en, uh, of in ieder geval een enorm aantal gebruikers heeft.

250
00:41:49.950 --> 00:41:59.310
De doorbraak van zo'n model zonder regels. En het is toch, dat is iets waarbij, uh, dit, dit vinden wij nu nog moeilijk voor te stellen, denk ik.

251
00:41:59.350 --> 00:42:03.110
Omdat, omdat open source modellen is toch meer een soort van interesse voor geeks.

252
00:42:03.290 --> 00:42:16.258
De meeste mensen die in AI geïnteresseerd zijn vinden vooral gaaf wat je met Midjourney of met, uhm, met ChatGPT kan doen.Maar er gaat natuurlijk dit, dit gaat eraan komen en dan gaan we opeens zien wat er kan op het moment dat er geen guard rails zijn.

253
00:42:16.318 --> 00:42:26.058
Dat dat toch ook eigenlijk wel spannend is om dat te gebruiken. En g-gaat dit jaar inderdaad het jaar zijn waarin we zo'n, waarin we de doorbraak gaan krijgen van zo'n model zonder regels.

254
00:42:26.237 --> 00:42:38.498
Ik vind dat dus een heel intra-- intrigerend iets, Wytse. Ja, ik zit te den-- ik doe meteen, denk ik, aan het, uh, aan een interne memo bij Google, uh, die gelekt is van: we have no moat, M-A, M-O-A-T.

255
00:42:38.638 --> 00:42:46.038
En het idee van moat is hetgene wat jij hebt binnen jouw bedrijf wat een ander niet heeft en wat ook niet makkelijk van jou weg te halen is, hè.

256
00:42:46.078 --> 00:42:50.458
Dat ku-ku-, dat kan intellectueel eigendom zijn, dat je er patenten regels overheen hebt laten gaan.

257
00:42:50.487 --> 00:42:57.478
Maar er kan ook iets zijn wat jij ergens in een doos hebt zitten waar niemand bij kan, op tien medewerkers na die een NDA getekend hebben. Ja, iets wat je concurrentiepositie versterkt.

258
00:42:57.558 --> 00:43:01.978
Ja, en Google heeft eigenlijk: we have no moat and neither does OpenAI.

259
00:43:02.458 --> 00:43:13.058
En dat gaat eigenlijk heel erg over van: ja, die, wat moeten we nou als er veel betere taalmodellen straks op Hugging Face staan, hè, of waar dan ook staan? Uh. Bijvoorbeeld door die modellen te mergen of wat dan?

260
00:43:13.118 --> 00:43:19.738
Ja, precies. En of door, uh, waar we het ook wel eens eerder over hebben gehad, dat je gewoon een Mistral pakt en die ga je gewoon laten trainen met ChatGPT.

261
00:43:20.018 --> 00:43:29.958
En dat, dan, dan, dan, dan kloon je als het ware, even heel suf gezegd, maar, uh, ja, je steelt dan als het ware eigenlijk GPT-4 kennis en dan ga je gewoon een kopie ernaast trainen of zo.

262
00:43:29.998 --> 00:43:38.328
Dat is helemaal niet zo makkelijk, maar dat wordt wel gedaan op die manier. Zeker het finetunen van modellen door middel van gesloten modellen, open modellen door gesloten modellen. Uhm,

263
00:43:39.338 --> 00:43:52.738
en daarbij, uh, denk ik dat we sowieso een interessante ti-tijd tegemoet gaan. Uh, ik wilde no-eerst nog even reageren op het, uh, verhaal van de open taalmodellen die ook nog eens geen restricties kennen.

264
00:43:52.778 --> 00:44:01.578
Dat dat een heel interessante uitdaging gaat zijn voor Hugging Face, hè. Hugging Face, de GitHub van, uh, open, van taalmodellen, laat ik het dan maar even zo zeggen. Gaan zij die dan verwijderen?

265
00:44:01.638 --> 00:44:07.478
Ja, wie gaat dan verantwoordelijk daarvoor zijn voor wat mensen met open source taalmodellen doen? En Hugging Face, waar kan je dat het beste mee vergelijken?

266
00:44:07.558 --> 00:44:14.278
Wat in de- Nou, wat een beetje- Dit is het moment voor een metafoor, Wytse. Iets met een snackbar. [lacht] Wat, uh, wat lekker.

267
00:44:14.338 --> 00:44:20.057
Ja, ik zit te denken aan een technische, technische metafoor, maar nu je die snackbar er meteen ingooit, weet ik het even niet. Is natuurlijk belangrijk, de rol.

268
00:44:20.098 --> 00:44:31.518
Want bij sociale netwerken is dan het idee: als jij iets op Facebook zet, een, uh, een, een vide-, een fake video van, uh, van, uh, weet ik veel, van Wilders of zo, dan is het de verantwoordelijkheid van Facebook om dat eraf te trekken.

269
00:44:32.158 --> 00:44:45.538
Maar in het geval van Hugging Face kun je ze misschien beter zien als een hoster. En daarvan is het alweer twijfelachtig of je ook die moet aanspreken. Ook wel weer, uhm, iets meer. Want kijk, de, in de idealen van,

270
00:44:46.458 --> 00:44:58.038
uh, veel, uh, mensen actief in die hele t-, de, de, de technologiescene zit heel erg, uh, decentralisatie of in ieder geval federatie. Hè, laten we maar zo, laten we het niet allemaal op één server zetten ergens.

271
00:44:58.098 --> 00:45:09.498
En dat bedoel ik dan een beetje een server met een hoofdletter S. Dus een serverpark, uh, beheerd door, uhm, Elon Musk of, uh, uh, wie dan ook. Uh, laten we het allemaal op losse plekjes zetten.

272
00:45:09.528 --> 00:45:20.978
Het liefst ook misschien, misschie-- binnen verschillende landen, uh, zodat je een soort van gefedereerd eerlijker, uh, gezonder, uh, netwerk krijgt. Maar wat gebeurt er de hele tijd op het internet?

273
00:45:21.098 --> 00:45:29.778
Alles wordt natuurlijk gewoon kapot gecentraliseerd. Dus er is één app store van Apple. Er is al, iedereen zet zijn open source project op GitHub van Microsoft. Kinderen spelen allemaal in Minecraft.

274
00:45:29.818 --> 00:45:37.298
Dat het iedere keer- Nee, je zegt: het internet geeft de belofte dat er allerlei dingen gedecentraliseerd kunnen worden, maar in de praktijk blijkt elke keer dat het gecentraliseerd wordt.

275
00:45:37.358 --> 00:45:45.157
Ja, en dat, en die centralisatie heeft meerdere redenen, uh, maar, uh, één hele grote daarvan is ook gewoon gemak. Uh, uh, frictieloos bestaan.

276
00:45:45.378 --> 00:45:49.398
Uh, lekker een appje installeren en die werkt meteen en daar zitten al mijn vrienden op en doen niet moeilijk.

277
00:45:49.818 --> 00:45:59.278
Of in het geval van Hugging Face: ik installeer transformers, uh, waar net ook even naar verwezen wordt, en ik kan vanuit transformers alle modellen aanroepen die op Hugging Face staan. Mhm.

278
00:45:59.318 --> 00:46:08.668
En ik hoef dan niet na te gaan denken: waar staat dat model? Nee, als Hugging Face hem heeft is het goed. Dus zie hun als een soort, uh, app store voor taalmodellen. Mhm. Uh, heel erg gecentraliseerd,

279
00:46:09.658 --> 00:46:14.938
maar dat geeft ze natuurlijk ook weer een verantwoordelijkheid. Uh, zeker met wetgeving die we bi-inmiddels binnen de Europese Unie hebben.

280
00:46:15.318 --> 00:46:18.778
Als jij groot genoeg bent en jouw impact is groot genoeg, dan heb jij verantwoordelijkheid.

281
00:46:19.278 --> 00:46:29.798
Dus ik denk wel dat, uhm, volgens mij is het zo als jij een, uh, aanname van mij, hoor, maar een blauwdruk van hoe je een pistool in elkaar kan zetten op GitHub zou zetten, is hij er vrij snel af. Ja.

282
00:46:29.858 --> 00:46:38.398
Dus als jij een taalmodel maakt die dat plaatje kan uitpoepen, dan is dat in essentie een omweg, maar hetzelfde. Dus ik vraag me heel erg af hoe Hugging Face daarmee omgaat straks.

283
00:46:38.518 --> 00:46:47.358
Dat wordt best wel een moeilijke rol voor ze, denk ik, door zo gecentraliseerd te zijn. Waar, waar blijven die modellen dan? Die gaan natuurlijk allemaal in torrents verdwijnen. Dat is de logica.

284
00:46:47.368 --> 00:46:57.578
Laten we het concreet maken, want ik zag, ik zag dus toevallig een grappig voorbeeld waarbij het, uh, allemaal een beetje door elkaar begint te lopen. Uhm, het, men, het zijn drie voorbeelden eigenlijk die ik heb.

285
00:46:57.698 --> 00:47:09.138
Van, uh, van een soort van dingetjes die door AI, die, die niet door de guard rails bij, uh, bij St-, bij Stable Diffusion of bij, uh, bij, uh, ChatGPT heen zouden komen, maar die hier opeens wel kunnen.

286
00:47:09.198 --> 00:47:18.318
Dus één is een, uh, op, uh, op Reddit heb je een, uh, speciaal, uh, forum voor, uh, Stable Diffusion gebruikers, een soort Midjourney, een plaatjesgenerator.

287
00:47:18.458 --> 00:47:22.498
Uh, en dat was een verifi-, een plaatje van een verification post. Heb je dat gezien? Zeker, ja.

288
00:47:22.858 --> 00:47:47.378
Op, uh, op, op Reddit is het, is het een gebruik dat als jij wil bewijzen dat jij een persoon bent die past bij, uh, bij je username is dat je een foto van jezelf maakt met een briefje erop met daarop de naam van het forum waar je actief bent en je username, zodat het, en dat is dan vaak in het geval van een bekende politicus of bekende Amerikaan, zodat je kan bewijzen: dat is inderdaad, nou, weet ik veel, uh, bekende Amerikaan, uh, X.

289
00:47:47.498 --> 00:47:58.218
Uhm, en dit was dan een, uh, een plaatje wat gegenereerd was door een, uh, ik weet niet of het nou Stable Diffusion zelf was of een, volgens mij een of andere kloon ervan zonder guard rails.

290
00:47:58.378 --> 00:48:03.378
Volgens mij heet het Unstable Diffusion. Ja, dat is de subreddit volgens mij, Unstable Diffusion.

291
00:48:03.398 --> 00:48:14.958
Want in essentie kan je natuurlijk Stable Diffusion sowieso zelf installeren, maar je hebt gelijk, daar worden dan weer, uh, natuurlijk dingen van gemaakt die lekker die guard rails niet hebben.Ja, misschien heb je nog een lijk, dat weet ik eigenlijk niet.

292
00:48:15.067 --> 00:48:17.438
Ja, nou doet er ook voor niet zo heel veel toe. Maar wat was het punt nou?

293
00:48:17.578 --> 00:48:34.418
Het was een soort van Rubicon die overgestoken werd, namelijk ehm een fake foto van een persoon met zo'n briefje in de handen met daarbij met pen op het briefje geschreven de naam van de van de Reddit en van uh uh de de username die erbij hoort.

294
00:48:34.978 --> 00:48:47.678
Uhm waarbij ja, dat dat, dat, dat, dat zet tegelijk aan het denken van oké, deze manier van soort van cult die we cultureel gebruiken om te bewijzen dat je bent wie je bent. Oké, dat dus, dat is dus eindig.

295
00:48:47.878 --> 00:49:01.678
Oké, wat gaan we, wat gaan we krijgen? Ik zag een tweede voorbeeld van een uh influencer op Instagram. Die heet Emily Pellegrini. Een, een, een uh ja, een Instagrammodel. Wat moet je ervan zeggen?

296
00:49:01.798 --> 00:49:15.778
Van 200.000, meer dan 200.000 volgers op Instagram. En dit is dus gemaakt door een dude die op ChatGPT heeft gevraagd: What is the average man's dream girl? En toen zei dat: Brown hair, long legs so.

297
00:49:15.838 --> 00:49:27.378
En dus zei, zegt hij in de krant I made her exactly how it said. Toen heeft hij dus een versie gemaakt van die, nou ja, een fysieke. Of hoe zeg je dat?

298
00:49:27.478 --> 00:49:31.998
Een, een verschijning gemaakt naar de beschrijving van het taalmodel, maar dan in beeld.

299
00:49:32.458 --> 00:49:45.058
En dit is dus een AI influencer die eruit ziet als een echte influencer uh, en die ja, zich gewoon op Instagram manifesteert en dus heel veel volgers heeft gegenereerd.

300
00:49:45.128 --> 00:49:51.598
Niet met het punt: ik ben een AI influencer, want dat wordt gewoon geheim gehouden. Dat is, hij maakt er geen punt van.

301
00:49:52.158 --> 00:50:00.098
Anders dan bij uh soort van sommige influencers die we gezien hebben, waarbij dat het de gimmick is, zeg maar. Dit is een AI influencer en daarom krijgt het dan veel volgers.

302
00:50:00.418 --> 00:50:11.778
Maar dit is dus het, een geval waarbij het g-, blijkbaar gewoon heel goed uh het werk van een influencer nadoet zonder ook maar enige notie ervan te geven dat het AI is en daarmee dus kan groeien.

303
00:50:11.798 --> 00:50:27.278
En dit artikel uhm uh vertelt dus over uh, uh hoe er allerlei bekende mensen en uh voetballers en miljardairs zich in de DM's melden van deze fake mevrouw [lacht] om dan te vragen of ze met ze uit willen.

304
00:50:27.418 --> 00:50:41.898
Of uh, of uh er werd iemand uh uitgenodigd naar Dubai of ze werd uitgenodigd naar Dubai en om te eten in uh in allerlei restaurants. Inmiddels heeft hij dus ook uh uh foto's van haar gemaakt op FanView.

305
00:50:41.978 --> 00:50:50.238
Dat is een site waar je, laten we zeggen paywalled materiaal kunt aanbieden. En uhm dat allemaal omdat

306
00:50:51.178 --> 00:51:04.938
een service die dus unstable diffusion heet uh ongeveer 500.000 van dit soort not suitable for work plaatjes genereert per dag uh op dit moment. Dus dat is een grappig uh voorbeeld.

307
00:51:04.978 --> 00:51:15.818
Ja, ik zit ook meteen door jouw verhaal nu te denken dat, dit is natuurlijk wachten op het nieuwsbericht. Uhm we hebben een heel erg populair uh synthetisch, een synth gemaakt.

308
00:51:16.138 --> 00:51:30.198
Uh een niet-bestaande vrouw of influencer uh man. Die uh heeft zoveel kracht nu. Wij zijn op zoek naar iemand die hierop lijkt. Ben jij dat? Meld je aan. [lacht] Ja. Dan draaien we even om. Ja.

309
00:51:31.498 --> 00:51:43.158
En, en da-dan nog even de plastische chirurgie daar buiten gelaten. Dat maakt me te zenuwachtig als ik daar over na ga denken. Maar. Ja. Uh, want je, want je wil natuurlijk. Ja, het is heel, de, de plekken waar.

310
00:51:43.518 --> 00:51:53.358
Kijk, als jij heel erg fan bent van iemand, maar je hele leven die persoon nooit fysiek ontmoet. Hè, je blijft gewoon voor altijd fan en je consumeert alles rondom die celebrity uh online.

311
00:51:53.998 --> 00:52:00.838
Doet het er dan eigenlijk nog toe, hè? Dat is een beetje de ethische vraag van ja, als je die persoon toch nooit gaat ontmoeten, wat verlies je dan?

312
00:52:01.058 --> 00:52:09.598
Als je je, of je nou je hele leven iemand volgt die je nooit ontmoet en die fake is of echt is, doet het er dan eigenlijk toe? Sowieso. Ja. Sowieso. Dat is wel heel erg interessant.

313
00:52:09.638 --> 00:52:28.658
Ik denk ook nog steeds dat, uh en dat is iets voor uh, dat, dat, dat is een soort rode draad die we nog wel langer of een draadje wat we vaker kunnen gaan oppakken in Poki denk ik, is dat het, uh is dat idee dat die uhm virtuele wereld van waar pixels gedraaid worden, of dat nou in een VR-bril is of op je tv of op je smartphone.

314
00:52:29.378 --> 00:52:35.518
Uh dat die heel, dat die het eerste valt nu, hè, want die is het makkelijkst te manipuleren. Dus een, een virtuele int-influencer

315
00:52:36.498 --> 00:52:46.808
of een, een, een daadwerkelijke influencer op TikTok waarvan 99% van de mensen hem nooit ontmoeten, kan heel makkelijk gedisrupt worden door een fake influencer. M-hm.

316
00:52:46.808 --> 00:52:56.338
Want de hele communicatie vindt plaats via een scherm. Ik zeg het maar even zo. En dus de schermenwereld, die gaat helemaal corrupt raken nu door al die fakeness, hè.

317
00:52:56.378 --> 00:52:59.278
Dus je krijgt allemaal hyperrealiteit waar je niet meer van weet wat is wat.

318
00:52:59.938 --> 00:53:07.178
De keerzijde is dat die daadwerkelijke realiteit waar jij en ik in leven daardoor een soort premium gaat krijgen, want die is nog minder makkelijk te faken.

319
00:53:07.498 --> 00:53:19.718
Voor jou om een Alexander-robot te kopen met echte skin erop die Madame Tussauds-achtig uh met mensen gaat praten, dat is gewoon nog wel wat verder weg dan een fake Alexander-influencer-kloon die jij misschien zelfs bezit.

320
00:53:20.258 --> 00:53:28.038
Uhm, dus ik vind dat, ik vind een soort van interessante uh omdenkidee van uh wat leuk.

321
00:53:28.318 --> 00:53:40.598
Uh misschien worden inderdaad daadwerkelijk afspreken met elkaar toneelstukken in uh de, in een, uh op een daadwerkelijk podium gaan weer een soort premium krijgen, want die zijn nog heel moeilijk te faken of zo, dus dat vind ik een leuk dingetje eraan of zo.

322
00:53:40.638 --> 00:53:52.538
Een beetje dat ik denk haha, uh een soort van uh wat leuk dat die, die uh ja, die corruptie van die virtuele wereld creëert een soort van uh, uh extra uh urgentie om de wereld weer in te gaan met elkaar.

323
00:53:53.018 --> 00:54:03.578
Tegelijkertijd denk ik ja, uh het is ook nog eens zo dat die virtuele wereld helemaal, hebben we het vaker over gehad, maar helemaal gepersonificeerd kan worden. Dat kan ook juist een hele leuke wereld worden.

324
00:54:03.618 --> 00:54:17.674
Leuk als in nou ja, waar het woord leuk voor bedoeld is. Gezellig en aantrekkelijk en uh hyper boeiend en uh een TikTok-feed die letterlijk nooit boort gewoon. Dus het heeft twee kanten.Ja,

325
00:54:18.594 --> 00:54:26.484
die voorbeelden die zijn natuurlijk. Ik bedoel die verification post aan de ene kant heeft een soort van ja god veiligheidsaspect dat dat dat.

326
00:54:26.514 --> 00:54:36.394
Dat gaat een beetje in op die die angst, die die angst die we hebben over dat, dat, dat, ja, dat het allemaal een beetje oncontroleerbaar wordt, deze wereld en dat AI daaraan, daaraan bijdraagt.

327
00:54:36.434 --> 00:54:47.374
Die die influencer, die die. Ik denk dat dat dezelfde soort van ja morele paniek knop indrukt namelijk hoe, hoe, ja w-w-wat betekent nog een fan van iets te zijn?

328
00:54:47.474 --> 00:54:52.974
Is het oké om om fan te zijn van iets wat, wat, wat nep is? En hoe gaat dat in godsnaam zijn in die wereld?

329
00:54:53.454 --> 00:55:03.654
In het laatste voorbeeld wat ik had gevonden is nog een ander element, namelijk het soort van politieke aspect wat erbij hoort. Ik zag een computer die heet, die werd aangekondigd.

330
00:55:03.714 --> 00:55:16.334
Of die ooit gemaakt zal worden is, is mij een vraag hoor, maar een computer van de computer van de firma Bed Rock punt computer The Girl One. En dit is een computer waarbij je lokaal.

331
00:55:16.414 --> 00:55:19.834
Ze hebben een eigen OS gemaakt, dus in plaats van Windows of

332
00:55:20.914 --> 00:55:33.274
Mac Mac OS een eigen OS waar dan de hele tijd een taalmodel meedraait die je dus in de zijbalk allerlei vragen kan stellen op basis van als ik het goed begrijp een open source taalmodel.

333
00:55:33.954 --> 00:55:49.734
En daar zitten dus meerdere GPU's in, in die computer. En het hele ding is dan geoptimaliseerd om om, om ja, je, je, je shit lokaal te draaien in combinatie met al je bestanden en wat je dan ook op internet doet. En dan?

334
00:55:49.774 --> 00:56:02.154
Wat ik grappig vind is dat ze het verkopen met ask anything. No scolding, no judgment, no limits. Remember you own it. En dit is een soort van ik.

335
00:56:02.194 --> 00:56:14.534
Ik meen hier dan in een soort van libertarische of ik weet niet precies wat de politieke stroming, maar ding in te herkennen. Een soort van al die taal modellen die vertellen ons wat we wel en niet mogen. Ja.

336
00:56:14.814 --> 00:56:27.594
En hier kan je vragen wat je echt wil vragen. En op die site staat dan een voorbeeld van een vrouw. Het is een vrouw. Die vrouw die zegt, die vraagt aan haar computer Ik word gestalkt. Ik wil een, een wapen kopen.

337
00:56:28.033 --> 00:56:29.914
Vertel me of dat een verstandig idee is.

338
00:56:30.134 --> 00:56:42.314
Nou, dan zal ChatGPT dan zeggen ja, ik kan niks zeggen over wapens of wapens zijn gevaarlijk en dit ding legt je dan even uit onder welke omstandigheden het verstandig is om een wapen te kopen.

339
00:56:42.874 --> 00:56:56.814
Want ja, dat is wat er allemaal mag als je je, je, je eigen taalmodel hebt. We gaan zo'n fascinerende tijd in Wytse. Ja, zeker. Hiermee wil zeggen. Ik ja, ik. Ik ben ook heel benieuwd van uhm.

340
00:56:57.554 --> 00:57:12.374
Er zit ook vanuit de de, de OpenAI en uh Mistral en de noem maar nog eens een leuke Microsoft whatever zit er natuurlijk ook een. Kijk, die. Ze hebben dus geen mood eigenlijk, wat ze zelf erkennen van shit.

341
00:57:13.574 --> 00:57:20.814
Die modellen die we zelf hebben getraind voor miljoenen, die worden inmiddels getraind voor minder geld. En ze zijn ons aan het inhalen.

342
00:57:20.823 --> 00:57:30.414
En die wereldwijde open-source community, die gaat ons misschien wel bijbenen op een gegeven moment. En wat is er dan zo uniek aan onze aan onze software? Nou, in het geval van Google hebben ze wel mood.

343
00:57:30.464 --> 00:57:42.154
Dat is namelijk al jouw Gmail berichten, dus het is ook niet helemaal waar dat ze niks hebben. Het is misschien alleen anders dan dat je in eerste instantie zou denken. Maar goed. Ik denk daarbij wel dat

344
00:57:43.154 --> 00:57:57.454
wanneer er open source modellen gebruikt worden om kwaad te doen, op welke manier dan ook, dat het natuurlijk heel fijn is voor zo'n executive van Microsoft om te zeggen tegen overheden ja, zorg nou dat wij alleen dit mogen doen.

345
00:57:57.554 --> 00:58:06.494
Ja, ja, ja ja. Laat nou gewoon die grote gecentraliseerde super kapitalisten gewoon die modellen aanbieden. Dan zetten wij daarin wat je erin wil en halen we eruit wat je eruit wil.

346
00:58:06.974 --> 00:58:19.394
En die open taal modellen, dat is gewoon eng. En je wierp zelf de vraag op soort van waar zit dan het wie? Wie is dan verantwoordelijk voor het runnen van die open taal modellen? Dus zo'n, zo'n partij als Hugging Face.

347
00:58:19.404 --> 00:58:26.734
Die dus in de in ja de community heel erg belangrijk is om ja, om de ontwikkeling van open source taalmodellen verder te brengen.

348
00:58:27.014 --> 00:58:36.254
Omdat het gewoon makkelijk is om daar op te, te werken, maar ook als gebruiker om dingen uit te proberen. Ja, gaat dat dan de plek zijn waar gereguleerd gaat worden?

349
00:58:36.673 --> 00:58:47.454
Gaan we misschien toch krijgen wat jij eerder zegt, wat jij eerder een beetje af, ja, een beetje van weg. Dat je zegt we bewegen hier van weg, namelijk dat het decentraal gerund wordt.

350
00:58:47.534 --> 00:59:01.154
Krijgen we een soort van BitTorrent voor open source taalmodellen? Of ja, hoe? Misschien gaan er dus technische manieren komen waardoor je waardoor je dit kan omzeilen.

351
00:59:01.194 --> 00:59:13.154
De de, de de regelgeving die er die er geheid gaat komen. Of, of, of, of. Of dat bedrijven als Hugging Face proberen zover te krijgen dat zij ook verder gaan met reguleren. Ja, het komt. Op welk niveau gaat.

352
00:59:13.214 --> 00:59:21.114
Ja, ja, op dat op wat George Hotz afleveringen geleden al haalden wij hem aan met zijn komma AI dat.

353
00:59:21.154 --> 00:59:30.674
Je kunt een beetje gaan als je een soort van simpel wil reguleren, dan zeg je gewoon ja sorry, je mag die GPU thuis niet hebben, jij mag geen hardware in huis hebben. Ja, ja. Model op draaien. Ja, ja.

354
00:59:31.154 --> 00:59:38.034
En we gaan met de Eneco met een AI gaan we zien of jouw energy signature lijkt op een GPU die aangezet wordt en dan komen we naar binnen.

355
00:59:38.374 --> 00:59:48.493
Dus terwijl in de tussentijd de modellen alleen maar kleiner, slimmer en minder energie aan het gebruiken zijn. Dus het is een hele. Het wordt echt een ingewikkelde man. Ingewikkeld, maar goed.

356
00:59:50.034 --> 00:59:59.313
Het is natuurlijk ook wat ik net nog even zei, ook in ons gesprek eerder van. Als jij natuurlijk een hele specifieke context hebt van informatie.

357
00:59:59.354 --> 01:00:08.313
Ik had het toen over tuindieren, maar het kan ook zijn een postzegelverzameling of zo, even als standaard dingetje. En jij hebt daar gewoon ontzettend veel verzameld.

358
01:00:08.674 --> 01:00:16.874
Niet alleen aan postzegels, maar vooral aan meta-informatie rondom de postzegelverzamelaars in Nederland. En je kan het allemaal gaan inlezen, van beeld tot geluid tot tekst.

359
01:00:17.474 --> 01:00:23.813
En daar je eigen postzegel LLM op trainen zodat jij een soort van die corpus van informatie kan redden. Ja, het is toch ook supergaaf?

360
01:00:24.774 --> 01:00:38.554
Het is het is het standaard Pokie verhaaltje, maar het heeft altijd die twee kanten weer. Nee zeker. En technisch is het ongelooflijk. En ja god, deze ontwikkeling is gaande en zal niet stoppen. Bas Jan Adriaan man.

361
01:00:38.854 --> 01:00:49.344
Bas Jan Adriaans, Bas Jan, daar eindigen wij mee. Dank voor het luisteren naar Pokkie en tot volgende week. Tot volgende week! Doei! [outro jingle]