[alarm] Oh. Zo klinken 165.000 scheerbewegingen per minuut die je helpen om fris voor de dag te komen.
De flexibele scheerkop van de Philips S9000 Prestige volgt de contouren van je gezicht en scheert tot op nul millimeter van je huid.
Ervaar een ultiem gladde en comfortabele scheerbeurt, ook wanneer je nog niet helemaal wakker bent. Want dankzij de slimme sensoren past het scheerapparaat zich helemaal aan jou aan.
Zo kun jij nog extra genieten van je kopje koffie voor je de deur uit gaat. De Philips S9000 Prestige is het ideale scheerapparaat om jouw dag goed mee te beginnen.
Koop de Philips S9000 Prestige bij jouw favoriete winkel. Laat me je voorstellen aan Pim Verlaan. Ik begin op een hele jonge leeftijd met beleggen. Die horizon die jij hebt, gaat zoveel voordeel opleveren.
Pim is een man met een missie. Iedereen veilig en verantwoord leren beleggen. Als je echt iets wil leren, leer het van iemand die één stapje vooruit loopt. Hij legt je uit op welke manieren je kan beleggen.
Elke bank heeft eigenlijk zijn eigen beleggingsfonds. Ik hou daar helemaal niet van. Op welke manieren je beter kan beleggen en hij rekent je voordeel op de euro nauwkeurig uit. € 192.000 minder rendement.
Zelf leren beleggen. Niemand vertelt dit. Pim dus wel. In Jong Beleggen de podcast. Nou, dat is toch fantastisch?
[muziek] Welkom bij Poki. Een podcast over kunstmatige intelligentie waarin wij, Wietse Hage en ik, Alexander Klöpping, je bijpraten over de wondere wereld van AI.
Een paar weken geleden kwam er een Nederlands taalmodel uit waar je waarschijnlijk nog nooit van gehoord hebt. Geitje. Het grootste en best functionerende Nederlandse taalmodel wat er is en je kan dit proberen.
Wij hebben de ontwikkelaar ervan gesproken. Dat hoor je zo. En we gaan verder doorpraten over de ontwikkeling van open source taalmodellen, want daar gebeurt heel erg veel. Goed, maar ook kwaad.
We gaan het over allebei hebben. Veel plezier! [muziek] Precies een maand geleden kwam het eerste echt Nederlandse taalmodel uit. Het heet Geitje. Een bijzondere naam. Een, een taalmodel.
Een open source taalmodel gebaseerd op Mistral, uh, dat getraind is op grote hoeveelheden Nederlandse data. Gemaakt door een Nederlander, Edwin Reijgersberg.
Hij is machine learning engineer bij het NFI en daar past hij data science en AI toe bij opsporing. Dat doet hij dus op zijn werk, uhm, maar dit project doet hij niet namens het NFI, maar het is een, een hobbyproject.
Het beste Nederlandstalige model op dit moment en wij hebben hem hier in de podcast. Edwin, welkom! Hoe kwam je op het idee om een, uhm, Nederlands taalmodel te maken? Dank je.
Uhm, ja, het zit eigenlijk al een tijdje in mijn hoofd, zo'n taalmodel. Uh, misschien net zoals bij jullie heb ik natuurlijk vorig jaar ChatGPT, uh, zien ontstaan, uhm.
Ik was daarvoor ook al in de taalmodellen, uh, in het toepassen van taalmodellen en wat er allemaal bestaat.
Maar met ChatGPT zag je echt dat er een soort van grens over ging van: oeh, dit is toch echt een stuk beter dan wat we tot nu toe hebben gehad. Een hele gave toepassing.
Uhm, en sindsdien heb ik eigenlijk zoiets van: nou, ik wil weten hoe dat werkt. Uh, wat voor gave dingen kan je ermee doen? Wat zijn de risico's daarvan?
Uh, en natuurlijk de eeuwige interesse van nou, ik ben Nederlander, ik woon in Nederland, ik spreek Nederlands. Uh, hoe goed werkt dit allemaal in het Nederlands?
Uh, nou, ChatGPT weten we allemaal, werkt best goed in het Nederlands. Uh, maar er kwamen natuurlijk ook veel open source modellen, uh, uh, naar boven de laatste jaren.
En daar zag je dat de focus toch meer lag op Engels. Een beetje programmeercode en misschien een beetje Chinees.
Uh, nou, dat hebben we natuurlijk al, uh, vaker gezien in de machine learning wereld, want Nederlands is een beetje een ondergeschoven kindje. Dus ik dacht: nou, dat is een mooie uitdaging om eens te kijken.
Kan ik niet, uh, met beperkte middelen, uh, een soort van ChatGPT, uh, maken voor het Nederlands? Uh, volledig open source. Ja, want hoe, hoe? Want dit is gebaseerd op Mistral. Hun, uh- Yes.
Zeven miljard parameter model. Hoe, hoe kwam je erachter? Of zeg maar hoe constateer je: het Nederlands is eigenlijk niet goed genoeg. Is dat proefondervindelijk? Of is daar een soort van benchmark voor?
Uuuh, nou, er waren nog geen benchmarks voor, dus het was vooral proefondervindelijk. Uh, je pakt gewoon zo'n model zo groot als je kan draaien.
Dus we, nou een tijdje terug waren dat de LLaMA-modellen zeven miljard parameters, dertien miljard parameters. Dat krijg je nog wel op een laptop of een goedkope GPU.
Uhm, ja, je gaat er gewoon mee praten met die chatmodellen en dan merk je, tenminste ik merkte dat je, uh, af en toe best wel een conversatie kan houden, maar dat hij na een tijdje toch uitloopt op in één keer op het Engels, die gaan over op het Engels.
Oké. Of, dus dat, dat het, uh, hoe heet het? Dat het, uh, het gesprek niet heel coherent is, maar of dat er gewoon Nederlandse kennis, uh, ontbreekt. Oké. In een model. Zoals wat? Dat merk je wel.
Uuuh, nou een collega van mij die heeft daar een goede test voor en noemt die de Bassie en Adriaan test. [lachen] Uhm, dus nou jullie zijn, uh, opgegroeid met Bassie en Adriaan neem ik aan? Zeker.
Dus als ik aan jullie de vraag stel, uh, van, uhm, met, uh, met wie trok, uh, clown Bassie altijd op? Acrobaat Adriaan. Acrobaat Adriaan. Bam!
Nou, als je dat vraagt aan Mistral of aan LLaMA, dan krijg je wel iets terug, maar meestal niet, uh, Acrobaat Adriaan.
Uh, nou, dat is een hele simpele test voor iets wat echt heel diep in onze cultuur zit en dus ook in onze taal, uh, uh, wat die modellen gewoon niet, niet weten, niet paraat hebben. Mhmm.
Dus daaruit kon je al zien van oké, hier is veel verbetering, uh, mogelijk. Maar dat is dus cultuur.Ja ja, zeg maar hoe? Hoe breng je een taal model cultuur bij? Wat? Wat zit daar dan? Hoe doe je dat?
Ja, dat dat is het mooie van taal modellen. Taal modellen zijn nou hebben een soort van intelligentie en die hebben ze geleerd door gewoon teksten te lezen en het volgende woord te voorspellen.
En door heel veel teksten te, te lezen en het volgende woord te voorspellen, zijn ze goed geworden in het voorspellen van het volgende woord.
En je kunt je voorstellen, uh, het is handig om een soort van wereldkennis te hebben om het volgende woord te voorspellen. Ja, als ik zeg aan jou vraag van
de hoofdstad van Frankrijk is en dan moet ik jou het volgende woord laten, laten vertellen. Nou, dan zeg jij Parijs omdat je dat hebt geleerd ooit. Ehm, nou, dat is vrij triviale kennis, maar als het moeilijker wordt.
Dus, uh, nou stel je hebt de zin. Ik liep op straat en ik schrok opeens heel erg, want ik zag een zwarte piano. En dan is aan jullie de vraag wat is de volgende? Het volgende woord? Ja, ik zag.
Ik zag opeens een zwarte piano vallen. Kijk. Ja, vallen. Ja, dat is interessant dat je dat zegt. Want zeg maar een klassiek taal model. Een oud taal model. Die zou geleerd hebben van nou ja, een zwarte piano.
Wat doet hij meestal? Die die staat ja. Ja, als hij niet zo goed in grammatica is, zegt hij misschien hij speelt. Nou, dat is dan fout. Maar dat zijn woorden die je associeert met piano.
Maar jij hebt in je hoofd als ik op straat loop, ben ik niet gewend om een piano te zien. Ik schrok, dus ik heb ook nog iets onverwachts. En in jouw wereldmodel is het van nou, wat heb ik gezien?
Nou, ik heb blijkbaar veel cartoons gezien waar piano's naar beneden vallen. Ik heb het goede antwoord gegeven Edwin, als ik het goed begrijp. Nou ja, er is geen goed antwoord natuurlijk.
Dat is dat is het mooie ja, maar het is wel het antwoord wat ik zou geven. Vallen, bungelen, zeg maar dat soort antwoorden.
En dat helpt dus als taal model om intelligent te zijn, om kennis te hebben over de wereld, om goed woorden te kunnen voorspellen. Nou, daarmee leer je dus wereldkennis en een soort van intelligentie tegelijk.
En die zijn verstrengeld. Je kan niet een model eerst intelligent maken en hem dan zeg maar Wikipedia leren of zo. Maar die zijn verstrengeld. Dus hoe leer je dan zo'n taal model Nederlandse taal en kennis en cultuur?
Nou, door hem gewoon heel veel Nederlandstalige teksten voor te schotelen.
Nou, die gaan over het algemeen Nederlandstalige teksten over dingen die wij hier in Nederland en België meemaken of die in onze cultuur zitten, of die vertaald zijn uit andere talen.
Dus de oplossing is eigenlijk heel simpel van je neemt een taal model, je voert hem grote hoeveelheden Nederlandse tekst om het volgende woord te voorspellen en tada, hij wordt tegelijkertijd beter in Nederlands.
En hij wordt beter in Nederlandse onderwerpen. Ja, zodat de klambitie van acrobaat Adriaan onderscheiden kan worden. En en wat heb je hem gevoerd aan Nederlandse teksten? Ehm, nou, dat was de grote uitdaging.
Want ik ben natuurlijk in mijn eentje. Het is een hobbyproject en ik heb dus niet de mogelijkheid om hele grote hoeveelheden data zelf te gaan verzamelen. Dus ik heb gekeken wat is er beschikbaar?
Nou, ik heb eigenlijk twee grote bronnen gebruikt voor Geertje. Het eerste is het Nederlandse Giga Korpus. Dat is een dataset. Die kan je gewoon downloaden. Je kunt naar Giga Korpus punt NL gaan.
Kan je de torrent downloaden en dan heb je. Van wie? Van wie is die? Wie zit daar achter? Die is van Bob Lucassen. Dat is ook een hobbyprojectje. Daar zat ook bij van nou, ik heb die data verzameld.
Ik denk dat het goed is voor een Nederlands om die dataset te hebben. Misschien wil iemand wel een keer een model optrainen. Nou, ik kwam langs van nou ja, ik wilde wel een model optrainen. Was dat al eerder gebeurd?
Niet naar mijn weten, maar het zou kunnen dat het eerder gebeurd is. Ik heb nog niet de schaal. Op de website staat Giga Korpus punt NL staat voorspelbaar. Wikipedia. Oké, dat snap ik dat je dat kan downloaden.
Er staat op een Creative Commons bestanden. Ik weet niet precies wat het dan inhoudt, maar in ieder geval artikelen die dan blijkbaar onder die licentie verstrekt zijn.
Ik kan me ook nog voorstellen, maar ook heel veel dingen zoals rechtspraak. Vind ik grappig. Boeken 32 of 82 gigabyte aan forumberichten. En zo gaat dat nog eventjes door. Heb je.
Heb je enig idee daarvan wat daar nou, wat daar dan, wat daar dan in zit? Kijk, rechtspraak kan ik me nog voorstellen, maar 82 gigabyte aan foragesprekken, wat is dat? Nou ja, daar ga je gang. Ik wou zeggen dat is Fok!
Forum en Tweakers. Gathering of Tweakers denk ik. Of de Viva. Ja, meer dat soort fora. Kijk, het is natuurlijk die. Die dingen zijn een soort van een subset van een webcrawl zeg maar.
Als je het hele internet zou crawlen dan krijg je ook al die al die fora mee. Maar ja, dat zijn gewoon de grote Nederlandstalige fora. Volgens mij zijn het er elf uit mijn hoofd.
Ik heb een overzichtje gemaakt, maar het zijn inderdaad de grote fora die je die je verwacht. Grappig, hoor. En er zit ook bijvoorbeeld een Twitter dataset zit daar ook bij.
En is het een soort Common crawl, want dat is meer een een grotere dataset in het Engels volgens mij. De Common crawl dataset Is dit dan een een soort Nederlandse? Ja. Vergelijkbaar?
Ik denk dat dat Giga Korpus iets specifiekere uitgangspunten heeft genomen van ik wil deze en deze databronnen hebben.
Maar om geitje te trainen heb ik ook gebruik gemaakt van een soort van common crawl, de zogenaamde Mat Lad 400. En ja, de naamgeving in in in dit gebied is is altijd feest en met zet.
Mat Lad 400 is volgens mij door Google samengesteld uit Common crawl uit allerlei versies van Common crawl in 400 verschillende talen. Daar komt die 400 vandaan en een van die 400 talen is het Nederlands.
Voor de voor de luisteraar Common crawl is een is een gigantische dataset echt bedoeld om bijvoorbeeld op te trainen of dingen op te testen of noem maar op, maar dan volgens mij grotendeels Engelstalig.
Maar er zit dus ook wel Nederlands in Common crawl begrijp ik.
Ja, er zitten meer dan 400 talen in, dus dat is ook een flinke hoeveelheid Nederlands.Nou, als ik het dus goed begrijp is er, uh, een hele grote hoeveelheid, uh, aan gigabytes met Nederlandse taal, uh, uit allerlei verschillende bronnen, uit alle hoeken van de samenleving zou je kunnen zeggen.
Best wel grappig om zo, om zo te kijken naar, nou ja, het corpus van ons land zullen we maar zeggen. Uhm, en dan wat? Want dan heb je die, dan heb je die, uh, die bestanden.
Wat is, zeg maar, hoe gaat dat dan vervolgens verder? Ku-kun je ons meenemen in hoe dit dan werkt, zo'n, zo'n, zo'n taalmodel maken? Ja, zeker. Uhm, wat je nodig hebt is--
nou, je hebt eigenlijk, eigenlijk drie stappen om een taalmodel te maken. Uhm, om te beginnen moet je een basismodel hebben.
Nou, grote bedrijven als, uh, als Facebook en Mistral, die beginnen gewoon met een leeg basismodel. Die beginnen gewoon met niks. Uh, maar ik begin met het basismodel Mistral. Mhmm. Dus die is al getraind.
Die heeft miljarden woorden aan, uh, nee, niet miljarden woorden, duizenden miljarden woorden aan, uh, nou ja, voornamelijk Engelstalige tekst gezien. En daar is hij op getraind, uh, en die kan je gewoon downloaden.
Je kunt gewoon, uh, naar Hugging Face gaan en zeggen van: uh, het Mistral-model is, uh, open source, uh, ik wil het graag downloaden op mijn computer hebben, uh, en dan heb je het. Mhmm.
En dan kan je het, uh, toepassen natuurlijk. Je kunt er een chatbot van maken, enzovoort. Uh, maar je kunt het ook trainen. Uhm, en het trainen gaat als volgt.
Uh, wederom van Hugging Face, uh, is er een zogenaamde, uh, uh, library, een Python library genaamd Transformers. Nou, Mistral is een transformer model, uh, en die kan je gebruiken om, uhm, te trainen.
Dus wat je dan maakt eigenlijk is een, een klein train scriptje. Het stelt niet zoveel voor. Het is een paar honderd regels aan programmeercode,
uhm, waarin je de dataset inlaadt, uh, het model inlaadt, uh, wat keuzes maakt in parameters, uhm, en zegt tegen dat model: nou, van deze dataset, ga maar het volgende woord voorspellen.
Als je het fout hebt, uh, dan leert het model van: oh nee, dat had net wat anders moeten zijn. Dan wordt het model aangepast, dat hij de volgende keer beter in is. Oké.
Uhm, en dan laat je hem een hele tijd, uh, draaien op, uh, wat flinke GPU's.
Is het dan zo dat je, wanneer je-- ik heb een aantal vragen eigenlijk, want is het de, zijn dat de gewichten die je dan downloadt, de weights van zo'n model? Ja, klopt.
Uhm, en is het dan zo dat, de verf is eigenlijk nog nat dus als je die downloadt? Ik zit een beetje in mijn hoofd met dat dingen uiteindelijk vaak gecompileerd worden, hè, dus dat jij, uh, je, iemand heeft de broncode.
Die haalt er nog een slag overheen en wat jij krijgt is een soort, uh, zwarte doos, uh, en daar mag je mee werken. Maar het klinkt alsof zo'n Mistral-model eigenlijk, uh, ja, gewoon doorgetraind kan worden.
Jij, zij zijn gestopt en jij gaat gewoon verder. Zeg ik dat goed? Ja, klopt. Oh, interessant. Ja. Ja, dus, dus je, wat, wat je downloadt zijn dus die 7 miljard parameters van dat model.
Uh, nou, ze zijn elk twee bytes, dus dat is, uh, 14 gigabyte aan getalletjes die je binnenhaalt. En die getalletjes die vormen de lagen van het neuraal netwerk waar de data ingaat en, uh, voorspellingen uit.
Dus waar zij gestopt zijn ga jij eigenlijk verder. Alleen, maar jij gaat verder met een andere input dan waar zij op aan het trainen waren. Jij gaat er ineens allemaal Nederlands tegenaan gooien. Ah, interessant. Ja.
En da-, en dat kan je dan, een, een, dat doe je dan een x tijd. Wanneer stop je dan weer? Dan kan weer het geld op is. Want het is, het is niet goedkoop, maar.
[lacht] Precies wanneer je data op is o-of wanneer je, uh, je budget op is. Uh, in mijn geval wanneer het budget, uh, op is.
Uhm, ja, als je het traint, uhm, er is een zogenaamde metriek over hoe goed het model is terwijl hij aan het trainen is. Dat heet de loss.
Dat is de, het getal wat hij lager probeert te krijgen, wat meet of hij, of hij goed aan het voorspellen is. Terwijl hij aan het trainen is? Terwijl hij aan het trainen is. Oké.
Ja, en, en die zie je gewoon naar beneden gaan. Nou, die gaat, in het begin gaat hij vrij steil naar beneden omdat hij zoiets heeft van: oh, Nederlands, uh, ik ga snel, snel, zeg maar, de grote,
hoe heet het, uh, de grote, uh, bar strokes, uh, leren, zeg maar, de, de ruwe dingen die, die hem beter maken in het Nederlands. Aha.
En dan, hoe verder je gaat, hoe gaat hij langzaam ook de kleine nuances, uh, steeds beter krijgen.
En is het dan zo dat je echt, uhm, ja, als je aan die samples aanlevert of ik weet even niet welke term daarbij hoort, maar dat je zegt: ik heb hier een zin, ik geef je de halve zin.
Ik heb de hele zin eigenlijk al wel, maar die ga ik je niet geven. Voorspel maar. En dan vergelijk je de voorspelling met wat je had verwacht en dan geef je een score en die moet gewoon steeds hoger worden. Of lager.
Het kan maar net hoe je het wilt. Ja. Hè, dus, uh, ja, a-en uiteindelijk zeg je: het zou mooi zijn als je gewoon een x procent van al deze zinnen die ik jou heb gegeven gewoon kan afmaken.
Ja, klopt, je doet hem eigenlijk, uh, uh, nie-niet eens per zin, maar je geeft hem gewoon een hele bak met, met zinnen. Laten we zeggen enkele tientallen of honderden zinnen achter elkaar.
Uhm, en je vraagt hem eigenlijk één voor één om elk woord te ver-te voorspellen. Dus hij begint met, met die hele bak met zinnen. Moet hij eerst het allereerste woord voorspellen.
Nou, dat is moeilijk, want er zit niks voor. Dus dan moet hij, uh, gokken. Maar vervolgens laat je hem het tweede woord voorspellen, terwijl je het eerste woord geef je hem. Ja. En daarna het derde woord.
Dan geef je hem de eerste twee woorden, enzovoort. Dus op een gegeven moment heeft hij echt een hele flinke context, uh, noem, noem je dat. Een flinke hoeveelheid tekst die hij heeft,
uh, een, uh, een heel verhaal of een halve website of zo. En dan moet hij het volgende woord.
En als ik het goed begrijp is het dan zo dat de grootte van het model, omdat je dus die parameters heb je vaststaan, begrijp ik, die, het model wordt eigenlijk niet groter. Nee, het model wordt niet groter.
Dus dan moet hij slechter worden in iets anders. Hij wordt slechter in Engels. Ja. Oh, wat grappig zeg.
Ja, hij moet, uh, uh, j-je past het aan op basis van wat je hem aan het trainen bent en, nou ja, dan moet hij noodzakelijkerwijs wordt hij ergens anders slechter.
Maak je er een, maak je er een beetje een Nederlander van. [lacht] Een beetje, ja.
Misschien is het ook wel zo met ons als wij een nieuwe taal leren, dat we een van de andere talen die we spreken een klein beetje inleveren. Inleveren. En als er een overlap is kunnen we natuurlijk versterken.
Dat is zo mooi aan meerdere talen. Ik zit te denken, uhm, als je jezelf, even misschien een vreemde uitstap, hoor, maar als ik mezelf, ik heb mezelf leren typen.
Is nooit handig, want nu, als ik nu probeer officieel te typen op een of ander Dvorak-keyboard of zo gaat alles mis, want ik heb het mezelf geleerd. Zitten er ook nadelen aan?
Het voelt ook alsof jij iets aan het ombuigen bent naar Nederlands. Snap je wat ik bedoel?
Of is, is er genoeg voorbeeld, voordeel bij om iets wat al getraind is om te trainen?Nou, dat was wel een vraag toen ik begon met trainen van: ga ik niet het helemaal kapot trainen?
Om even zo kort door de bocht te zeggen. Want het model is natuurlijk, uh, slim geworden tussen aanhalingstekens doordat Mistral daar heel veel data doorheen heeft gegooid.
Data waarvan wij niet weten hoe, hoeveel data en welke data. Dat vertellen ze je niet, helaas. Uhm, maar
je hebt het risico dat als je dat te hard doet, als je zeg maar alles omgooit om maar wanhopig een paar woordjes Nederlands te, te laten leren, dat hij dan zijn intelligentie daarmee kwijtraakt.
Nou is dat op zich een probleem dat je vaker tegenkomt in de machine learning.
Je hebt een parameter die heet de learning rate en de learning rate die, die bepaalt hoe, hoe hard jij, uh, zeg maar het model verandert op basis van de zinnen die je hem voert.
Als je die learning rate te hoog zet, dan heb je kans dat je het model meteen kapot traint.
Als je hem te laag zet, nou, dan leert hij heel langzaam en dan duurt het eeuwig voordat je wat En zijn dit dan allemaal getallen die inmiddels gevonden zijn door de jaren heen, waar we misschien niet eens van weten waarom dat zo'n goed getal is, maar in de industrie is inmiddels bekend of in de, in de space van: doe maar een beetje zo rond de 0.4, dat le-levert wat goeds op.
We gaan wel een keer theoretisch uitzoeken waarom. [lacht] Ja, in de wetenschappelijke literatuur noemen ze dat empirisch vastgesteld, maar dat is inderdaad van: ja, dit werkt goed.
Ja, we hebben het tegen de muur aan gegooid. Het bleef plakken. Ja. Ja. Interessant. En hoe lang heeft nu die, uhm, die, die computer staan draaien om die Nederlandse taal te verwerken?
Die computer, die heeft, uh, ongeveer tweeëneenhalve dag staan draaien. Uhm, maar dat was niet mijn eigen laptop. Dat was, uh, een server in de cloud.
Uh, daar zaten de allernieuwste GPU's in, de zogenaamde H100 van, uh, Nvidia. En daar zaten er acht van die dingen in die, uh, in totaal, uh, meet je dit soort trainingsprocessen vaak in GPU-uren.
Dus aantal GPU's maal aantal uur. En het kwam neer op, uh, uh, 500 GPU-uren. Oké, dat is dus, uh, pak 'm beet, uh, twintig dagen of zo aan, uh, aan, aan totale computertijd. Ongeveer.
Wat hangt daar voor prijskaartje aan? A-a-als ik vragen mag? Of is dat iets wat je liever niet vertelt? Uhm, dat hing ongeveer € 1.300 prijskaartje aan. Ja, zo.
Uhm, maar dat is omdat ik vrij slim ben omgegaan met de beschikbare GPU's, uh, die er zijn. Uhm, ik heb gebruik gemaakt van een goedkope cloudprovider, uh, uh, Lambda Labs.
Uhm, want als jij gewoon bij Google of bij, bij Microsoft Azure of bij, uh, AWS je, je GPU's huurt, uh, die zijn een flink stuk duurder. Uhm, dat is niet hun corebusiness, zeg maar.
Hun corebusiness is, uh, hun andere diensten. En die dure GPU's, nou, die doen ze erbij. En als jij graag een dure GPU wil, dan zal je wel veel geld hebben, dus, uh, daar rekenen ze lekker veel voor.
Uh, maar je hebt dus prijsvechters die cloudinfrastructuur leveren puur gericht op GPU's en op trainen. Prijsvechters voor mensen zoals jij. Ja. Uhm, een nadeel is: ik ben niet de enige die dit doet.
Uhm, dus die, uh, GPU's van Lambda Labs, die zijn vaak niet beschikbaar omdat het allemaal vol. Ja. Ja. Uh, en best wel eigenlijk altijd als je erheen gaat, is het eigenlijk altijd vol.
Uh, dus een van de dingen die ik heb gedaan is, uh, ze hebben een, een API bij Lambda Labs.
Dat betekent dat je er tegenaan kan praten met een computerscript, uh, tegen hun servers waarin je kan vragen van: hé, heb je een GPU voor me? Nou, dan krijg je het antwoord nee.
Uh, dus ik heb opgezocht hoe, hoe vaak mag je dat vragen voordat ze dat vervelend vinden bij die API? Ja. Uh, dat was één keer per seconde. Oké. Oh. Dat was het maximum.
Dus ik heb een scriptje geschreven wat, uh, iets meer dan, uh, v-, uh, één keer per seconde ongeveer een, uh, aan ze vraagt van: hé, is er al een GPU? Hé, is er al een GPU? Nou, dan krijg je heel vaak nee terug.
Tot je opeens, uh, krijgt van: ja, er is een GPU. Nou, dat scriptje deed dan automatisch: oké, die wil ik. Uh, en dan krijg ik een pushnotificatie op mijn telefoon van: hé. Rennen. De GPU is beschikbaar.
[lacht] Jij rennen. Bart begin, begin te lopen. Ja, laat hem ook vanzelf lopen. Ja. En dan mag je hem ook wel blijven gebruiken dan. Of zit er dan een maximum op en hoe lang je hem mag gebruiken?
Je mag hem zo lang gebruiken als je wil. Oké. Toen hij eenmaal begon te lopen, toen was het, uh, toen, toen Ja, dan, dan is hij van jou zolang je creditcard het volhoudt. Ja, begrijp ik. Begrijp.
Het is een soort restaurant waarin alle tafeltjes de hele tijd volgeboekt zijn. En, uh, er was één afzegging en die heb je net op tijd gesnapt. Maar dan met, uh, met videokaarten. Nou, heel bijzonder.
Wat een bijzondere leef-leefwereld. Is dit nu dan, uh, die, die € 1.300 is dan een gift to humanity en dat gooi jij even de common goods in of zo, zeg maar. Dat ligt in het park op straat nu, mogen we allemaal oppakken.
Uhm, ja, het is verbrand in een GPU, uh, uh, center. Maar ja, ik had van tevoren bedacht van: oké, ik vind dit een leuk hobbyproject, ik ga dit doen. Uhm, het is nuttig en het is heel leerzaam voor mij.
Uh, ik ga er een budget voor vrijmaken. Uh, dus ja. Het is een schijntje in vergelijking met wat, uh, wat, wat een echt model trainen kost toch?
Wat, wat, w-w-waar denken we dan aan als we het aan een, uh, uh, vanuit het niets model trainen? Want dat is niet in twee dagen gedaan. Uh, nee.
Uhm, een voorbeeld waarvan we het weten is dus van, uh, van Llama 2 van, uh, van Meta. Daar hebben ze gezegd ook het 7-miljardmodel, dat kostte ze uit mijn hoofd 180.000 GPU-uren. Oké.
Dus dan, nou, dan heb je het over honderdduizenden tot miljoenen euro's.Ja, is wel grappig, hè, dat dan het toevoegen van een taal dan zo'n, zo'n fractie is op het geheel. Plus het slim scripten dan, denk ik, hè.
Het is een beetje een combinatie van op de schouders van Mistral gaan staan, plus, uh, spot instances pakken bij, uh, uh, het is het, uh, hoe heten ze? Lambda Labs. Lambda Labs. Ja. Ja.
En, en ik zit dan even te denken, hè, de, weet je dat, weet je van waar Geitje gebruikt wordt, zeg maar? Want mensen spelen er waarschijnlijk mee.
Ik ga zo vragen waarom het Geitje heet, maar, mensen spelen er natuurlijk met Geitje. Maar wordt Geitje ook commercieel ingezet?
Want er zit, denk ik, een, ja, we hebben het vaak al een paar keer open source gehad, hè, maar is het een hele, hele vrije open source licentie die erop zit? MIT of zo? Wat zit erop?
Ja, het is, uhm, Apache 2.0, net zoals Mistral. Ja, je hebt hem overgenomen eigenlijk. Of niet aangepast eigenlijk, de licentie. Niet aangepast.
Dat betekent, nou ja, kort gezegd dat je het voor bijna alles gewoon mag, uh, mag gebruiken zoals je wil. Dus, uh, commercieel, niet commercieel.
Je mag het, uh, uh, kopiëren, je mag het verkopen als je daar zin in zou hebben. Nou, namens alle bedrijven van Nederland zeg ik: dank je wel. Ja, dat is wel weer nog een gift, ja.
En, maar ik bedoel, jij hebt jou al mailtjes gehad van, uh, commerciële partijen die zeggen: joh, we gebruiken Geitje, te gek! Bedankt man, ons product is nu ineens AI infused.
[lacht] Nou, ik, Geitje heb ik net vorige keer vrijgegeven, dus het is nog vrij pril, maar ik heb wel al contact gehad met mensen die zeggen van: we zijn ermee aan het experimenteren. Waar gebruiken mensen het voor?
Wat hoor je nu? Voor allerlei taken. Uhm, om te spelen, uh, om chatbots te maken. Mhmm. En te kijken hoe die vergelijken met ChatGPT.
Uhm, samenvatten is altijd een, uh, een zeer belangrijke taak waar mensen graag, uh, large language models voor gebruiken. Uhm,
ik heb zelfs gehoord dat iemand aan, aan het kijken is, uh, of die suggesties kan doen voor mensen hun cv, hoe, hoe ze dat beter zou-zouden kunnen, uh, kunnen presenteren. Mhmm.
Je kunt je voorstellen dat een cv is gedeeltelijk is dat gestructureerde data, gedeeltelijk ongestructureerd. Uh, en zo'n taalmodel, als je die juist prompt, dan kan je, uh, eigenlijk een cv laten analyseren.
Kan je bijvoorbeeld kijken van: is het, uh, toegankelijk taalgebruik? Of, uh, heb je concrete voorbeelden genoemd van de, uh, van de projecten die je gedaan hebt op je werk? Uh, dat soort dingen. Mhmm.
Ja, wat ik ook nog wel wilde zeggen tegen dat voorbeeld wat je had over die Bassie en Adriaan test, vond ik wel grappig, want ik zat in eerste instantie te denken: het voorbeeld van de piano vind ik wat minder sterk, want als jij zou zeggen, uhm, ik heb de zin: ik loop op straat en ik zie een zwarte piano.
Ik weet niet meer of dat de zin was, maar dat is hoe ik hem heb onthouden. En die vertaal je dan eerst naar het Engels en dan voer je hem pas aan een taalmodel.
Dan gaat hij natuurlijk zeggen: falling, waarschijnlijk, hè? Ja. Dat is het. Maar bij Bassie en Adriaan, dan ben je ineens: nee, nee, nee, dat is cultuur.
En dus ik zit meer te denken dat, het, ik had me nog niet bedacht dat het Nederlands trainen, wat mij betreft zit de waarde dan vooral in hem in, uh, ja, wat is eigenlijk het, de, de culturele corpus van Nederland?
En hoe krijg je die soort van logisch erin dan? Je kan er vloeiend Nederlands mee spreken.
Dat, dat is vind ik echt wel een interessant inzicht, want ik dacht heel de tijd: ja, zet er een vertaalstukje tussen en stel de vraag alsnog aan, uh, een GPT.
Of, uhm, in dit geval als we het over open modellen hebben en lokale modellen aan een Llama. Ja, dat is zeker waar, uh, ben ik ook me-me-met je eens. Ik denk dat het een combinatie is van, van en taal en de cultuur.
Uh, maar je ziet ook, ook als je het, uh, zo'n chatbot niet wil gebruiken als een soort van Wikipedia vervanging, maar als je hem echt, uh, taken wil laten doen, dan zie je dat, ja, dat die cultuurkennis, dat die ook helpt.
Uh, in mijn demo van, uh, Geitje Chat, één van de voorbeelden die je daar hebt is het samenvatten van een artikel. En dat artikel, dat gaat over een kartel van wortelverkopers, die hebben een boete gekregen van de ACM.
Uhm, maar wat grappig is, in dat hele artikel staat nergens vermeld wat de ACM is of waar de afkorting voor staat. Mhmm. Dat is de Autoriteit Consument en Markt.
Uhm, en je ziet dus als je Mistral dat laat samenvatten, dat ie dat niet voor je gaat uitspellen. Ja, ja, ja. Dat dat, wat de ACM is.
Maar, uh, Geitje, ja, het is stochastisch, dus af en toe wel, af en toe niet, maar die weet in elk geval dat ACM
Autoriteit Consument en Markt is en dat presenteert hij dan ook spontaan in zo'n samenvatting, omdat hij dan doorheeft van: hé, dit zijn, een afkorting die ik eigenlijk moet uitleggen. Ja.
Ik vind het wel grappig hoor, want ik zit nu ook te denken dat, uhm, wa-wanneer bijvoorbeeld een, uh, Italiaan Engels spreekt, dan is het, dan is dat, uh, dan zit de melodie van het Italiaans door het Engels heen.
En als jij met ChatGPT gaat praten klinkt het als Eva Jinek. Want het, het Amerikaans zit in die, in die taal, uh, uh, qua audio. En ik merk nu ook dat ik denk: ja, interessant.
Waarschijnlijk als ik met die ChatGPT dingen praat zit daar toch Amerikaanse cultuur in. Of in ieder geval niet Nederlandse cultuur.
En wat Geitje eigenlijk voor elkaar krijgt, is die cultuur er echt in te krijgen waardoor je, waardoor het minder gaat voelen als een, uh, Amerikaan die zich voordoet als een Nederlander. Behoorlijk hoor. Ja, zeker.
En Geitje, vertel, wa-, je zit al een paar keer te hinten naar rare namen in jouw wereld. Uh, of jouw wereld, de, de LLM, uh, de AI wereld. Wat, wat is er met die namen? Ja, je moet een naam geven aan je model.
Dat is een beetje traditie. Ik had hem ook Mistral, uh, doortraind op Nederlands kunnen noemen. Ja, saai. Op zich heel, heel beschrijvend, maar dat is saai. Dat--
uhm, dus je hebt in, in de wereld van de taalmodellen al sinds een jaar of vijf, begon eigenlijk met Bert, de Bert-generatie. Nou, je had model Bert van Google, je had Ernie, je had, uh, uh, uh, Big Bird, zeg maar, Pino.
[lacht] Er was een hele generatie van- Wat grappig.
Van onderzoekers, van onderzoekers van verschillende, uh, bedrijven of, of, uh, of universiteiten die allemaal met elkaar meegingen in een soort van thema van- Ja, ja, ja, ja. Van naamgeven.
Uhm, en toentertijd, uh, is er dus ook een Nederlandstalige variant van Bert getraind, uh, door Wietse de Vries van de Universiteit Groningen. Uh, die moest ook een naam verzinnen en die had hem toen Bertje genoemd.
Met het idee van: nou, die uitgang -je, dat maakt meteen duidelijk dat het, uh, iets Nederlands is. Ja.Nou uh, de karakters van Sesamstraat waren denk ik een beetje op. Dus uh, de trend nu is uh, uh, de lama's.
Sinds Meta met Lama is gekomen. Nou, toen kwam daar een alpaca, een guiana, een vicuña en, en toen waren dus allemaal de lama-achtigen waren op. Uhm, maar in dat thema wilde ik, uh, een beetje doorgaan.
Uh, mijn oorspronkelijke plan was om, uh, Geitje te baseren op Lama, maar voordat ik ermee aan de slag kwam, uh, ging, toen kwam uhm, Mistral uit. Of Mistral, zoals jullie het noemen. Uhm.
[lacht] Wij zelf, wij denken dat dat beter is. Ja, dat is beter. Mistral. Ja. Ik, ik, ik ben, ik ben het nou ook zo gaan noemen. Mistral. Wij weten het niet. Nou, [lacht] maar goed, dat is dus een wind in Frankrijk.
Dus ik dacht: nou, is er nou een wind in Nederland waar je je taalmodel naar kan vernoemen? Dus ik heb nog gedacht aan een noordwester of westenwind. Maar ja, Westenwind was geloof ik een soapserie in de jaren negentig.
Uhm, ik dacht: weet je wat, ik hou het op een dier. Uh, het is niet zo'n heel groot taalmodel, dus het is, moet een beetje een klein schattig dier zijn. Nou, wat is er nou beter dan een geit?
Een geit kan je heel veel dingen voeren, heel veel data voeren en dan begint ie, uh, te blaten, zeg maar. Nou, dat vond ik wel een mooie beschrijving van het taalmodel. Ja. Dus het is Geitje geworden.
Wat was nou het meest bevredigende moment tijdens het werken aan, uhm, aan, aan Geitje? Ik denk dat het meest bevredigende moment was dat ik Geitje had getraind, uhm, en dat hij het deed. Ja. Dat ie, [lacht]
want het was nogal een risico, want voor hetzelfde geld is hij in één keer heel, uh, heel dom geworden. Of, uh, of heb ik hem toch niet goed Nederlands geleerd? Uhm. En hoe ging dat dan?
Nou ja, je maakt dat taalmodel, je traint het, uhm, en dan kan je het gebruiken om gewoon zinnen af te maken. Dus dan ga je wat dingen proberen. Ga je Bastiaan Adriaan proberen.
Je gaat wat andere, uh, wat testjes proberen die je in de benchmarks tegenkomt, uh, dat soort dingen. Uhm, maar wat nog, uh, nog leuker werd het toen ik er ook een chatbot van getraind heb.
Uh, dan moet je hem nog eventjes doortrainen op voorbeelden van, van chatgesprekken zeg maar, zodat hij zich gaat gedragen als een goede chatbot. Mhmm.
Nou, en toen ik daar tegenaan het praten was en hij, uh, ja, hij kende Bastiaan Adriaan.
Hij kan, uhm, wat, uhm, wat logisch redeneren over dieren en, uh, en over geiten en, uh, over auto's en hoe die verschillend zijn en dat soort dingen. En dan ging yes. Oké, top! Het is gelukt. [lacht] De GPU's zijn uit.
Het model is er. Uh, ja, nu kan ik verder kijken naar, uh, de toepassingen hiervan. Heel erg nice. Komt er een nieuw geitje? Dat is een goede vraag. Het is nu aan de community, denk ik. Uhm,
ik heb, uh, ja, Geitje het basismodel getraind. Iedereen k-kan het gebruiken om, uh, voor allerlei toepassingen.
Uhm, ik heb met de beschikbare data een zo goed mogelijke chatbot getraind, maar daar is nog heel veel winst mogelijk.
Uh, de, de echt goede chatbots zijn zeg maar getraind met veel meer voorbeelden van, uh, van chatgesprekken. Die zijn ook met, uh, uh, met voorkeuren getraind.
De preferences, uh, heet dat, dus dat hij echt onderscheid kan maken, nou, tussen goede antwoorden en, uh, en slechte antwoorden.
En ik denk dat, uh, dat we daar de komende weken of maanden uit de open source community wel wat, uh, wat leuke dingen uit gaan krijgen.
En dan, dan, mijn laatste vraag is, vo-vo-voor de luisteraar ben jij een tovenaar, maar voor mij eigenlijk ook, want ik, ik kan dit niet. Uhm, kunnen mensen dit ook? En, uh, waar moeten ze dan beginnen?
Want ik kan me voorstellen dat er mensen zijn die zeggen: nou, ik, ik heb wel heel veel verstand van taal of ik heb een heel, een niche waarin ik me be-bevind van tuinieren en ik zou, ik heb heel veel boeken en data.
Help! Waar moeten ze beginnen? Uh, ik denk dat je het best kan beginnen door te, te oefenen. Uhm, het is eigenlijk helemaal niet zo heel ingewikkeld. Als je die programmeercode ziet, het valt eigenlijk best wel, uh, mee.
Je hoeft niet enorm hard te kunnen, uh, rekenen en wiskunde of dat soort dingen, dat wordt allemaal voor je gedaan. Uhm, er zijn cursussen.
Uh, Hugging Face heeft een aantal cursussen, waaronder een NLP-cursus en een Natural Language Processing cursus.
Volgens mij laten ze daar gewoon alle soorten taalpro-, uh, processing langskomen, waaronder ook, uh, taalmodellen en ik denk ook grote taalmodellen.
Dus, uh, ja, als je daar wil, uh, wil beginnen en je hebt een beetje programmeeraanleg, uh, huggingface.co en, uh, The Course.
Nou Edwin, uh, namens, uh, alle Nederlanders, uh, zeg ik bedankt voor Geitje en, uh, dat we dat gratis allemaal maar mogen gebruiken, uh, dankzij jou.
En, uh, kom vooral terug als er updates zijn en als er nieuwe dingen ontdekt zijn. Heel erg leuk! Dank je wel. Dank je wel. Graag gedaan en dank je wel voor de uitnodiging.
[overgangsgeluid] en dan nu een bericht van onze sponsor. Als echte nerd zit je waarschijnlijk veel achter je laptop, maar wil je eens van het scherm af en als digital commerce professional het jaar goed beginnen?
Stel je dan eens voor: meer dan tweehonderd experts en duizenden digitale collega's onder één dak, klaar om jouw digitale horizon te verbreden.
Bij de Webwinkel Vakdagen in de Jaarbeurs Utrecht ontmoet je laagdrempelig gelijkgestemde professionals, krijg je inspirerende inzichten die je nergens anders vindt en ontdek je de laatste tools. En dat allemaal gratis.
De Webwinkel Vakdagen 23 en 24 januari in de Jaarbeurs Utrecht. Claim je gratis ticket voor de Webwinkel Vakdagen via de link in de shownotes of ga naar webwinkelvakdagen.nl. En dan nu door met de show.
Ik zat, uhm, waar we het net niet over gehad hebben, maar, uh, dat was, we moeten ook niet, we konden uren praten joh, die komt nog wel een keer terug. Ja, nee, m-, we gaan Edwin nog wel een keer uitnodigen. Precies.
Uhm, is model merging en, uh, d-daar had ik helemaal niet bij stilgestaan,
uh, dat je natuurlijk als een soort van tovenaar ook verschillende taalmodellen met elkaar kan gaan mengen in een soort, uh, grote pot met een grote lepel. Mhmm.
En dat is, nou wat, uhm, eigenlijk is het, het is een soort van logisch of zo dat je denkt: nou, nou, natuurlijk kan dat, maar met die open source taalmodellenAls je daar dus echt een brede licentie voor hebt dat je er echt veel mee kan, dan kan je en dat dat, die zie ik nu steeds vaker verschijnen in de rankings ook en daarom wou ik het er even over hebben.
Ik zag ineens titels waarbij zowel Mistral stond als Zephyr. Of dat ik dacht hè, wat, huh? Of Lama met Mistral dat ik dacht wat zijn dit voor baby'tjes die hier gecreëerd worden?
Maar dat zijn, dat, dat is dus eigenlijk letterlijk wat je denkt dat het is, is dat je eigenlijk twee modellen gaat samenvoegen waardoor je ze, nou, ze worden dan niet meteen twee keer zo krachtig, maar eigenlijk de kwaliteiten van twee in één, in één voegt.
Hoe dat, hoe dat technisch kan, dat ja, dat, dat begrijp ik dus niet helemaal van hoe. Net als bij een mens heb je twee, twee keer DNA. Ga je dan, ga je er doorheen lopen en dan wordt het een soort van samengevoegd.
Dat is al een wonder, hè.
Natuurlijk, iedere levensvorm waarbij twee DNA's worden samengevoegd en dan een soort van loterij wordt gedaan van: nou, je krijgt nog oog-, oogkleuren van ogen van papa en haarkleur van mama en het gaat dan allemaal in één.
Ik bedoel, hoe krijg je dat zonder dat het corrupt gaat, zeg maar. [lacht] Het gaat ook wel eens corrupt trouwens. Dat is, dat is spijtig, maar over het algemeen gaat het goed
en blijkbaar kan je dus ook taalmodellen mergen. Waarom ik dat interessant vind, is omdat ik, kijk nu met geitje en alpaca en zo, dat dat een beetje een, een soort schattig diertje of zo is.
Dat zorgt er natuurlijk, het leeft natuurlijk een beetje.
Ik bedoel, dan kan je uren filosofisch over discu-, discussiëren of dit leeft, maar, uh, ik vind het wel interessant dat, dat Edwin zegt: ja, ik ga een, uh, ik ben iets aan het trainen.
Daarvoor vraag ik Bassie en, en dan zegt ie, zegt ie Kees en dan ben ik klaar met trainen en zegt hij Adriaan. Ja. Dan, dan heeft hij dus iets geleerd. Ik vind dat fascinerend. Ja. Als je dat zelf aan het doen bent ook.
Dat, ja, snap je? Dus, uh, en bij, bij het mergen denk ik dat ik denk van: o, wat grappig.
Dan ga je dus kijken van kan ik ze nu als een soort van, uh, chemicus, uh, gaan samenvoegen als een soort, uh, ik ga goud maken van lood, zeg maar. Ik vind dat, uh. E-en daarbij ook,
wat ik me goed kan voorstellen is Grok bijvoorbeeld G R O K van X, uh, het, uh, begre-, onbegrensde, uh uh, taalmodel. Moet je zelf kijken wat je daarvan vindt, maar die heeft een wat. Soort van de ChatGPT van Elon Musk.
Ja, en die heeft een beetje wat, uh, heftigere humor en, uh, niet politiek correct. Nou, uh, typisch natuurlijk. En, uh, maar daardoor wordt het,
uh, er is een beetje de, het, het verhaal wat ik een beetje krijg in de sciencefiction, maar ook gewoon, uh, tussen de mensen als het over AI gaat, is van: er komt een AI aan.
Of als een soort grote golf waar dan AI op staat of zo.
Terwijl wat eraan komt is natuurlijk gewoon een gigantische groep van hele diverse en van geitjes, alpaca's en geitjes aangepast en een gemixte alpaca geit en dat soort dingen.
Dat ik me steeds meer begin te beseffen dat waar, waar we uiteindelijk in leven nu al en meer en meer is in een bizar exotisch ecosysteem van modellen met namen die ook weer samengevoegd zijn, geüpgraded zijn of omgemorgd.
En dat vind ik wel een, uh, dus dat hele AI ding i-is niet grijpbaar als één, uh, godachtige entiteit. Nee. Nee, zeker niet. Nee. Nee, dus precies zo, zo.
Dus de, het idee dat je, uhm, een AI iets vraagt en dat die AI dat dan weer aan andere modellen gaat vragen, dat is één richting. En dan heb je aan de andere kant heb je de soort van morph modellen.
Dus die, die meerdere modellen die in elkaar opgaan op een of andere manier. Ja. Of ik vind het moeilijk om daar hier mijn to head my, to wrap my head around is.
[lacht] Same, same, maar ik wil hem alleen nog maar even toevoegen als nog een ingrediënt in hoe, uh, moeilijk dit allemaal toch te bevatten is op een bepaalde manier.
Het grappige van die open source taalmodellen is natuurlijk ook, kijk, dit is allemaal heel onschuldig namelijk, uhm, uhm, Bassie en Adriaan en, uh, uh, uh, nou ja, gewoon Nederlandse cultuur.
Dat, dat, dat is een, dat is een heel nuttig gebied om, uh, om dit te ontwikkelen en meer onderzoek naar te doen.
Ik zag bij Hardfork of luisterde Hardfork, uh, de podcast van, uh, onder andere de New York Times, waarbij zij voorspelden voor dit jaar dat dit jaar de doorbraak zou zijn van een open source taalmodel zonder, uh, guard rails.
Dus de, de suggestie is een beetje, ook een beetje in het verlengde van wat je net zei over Elon Musk.
Uhm, taalmodellen zijn begrensd, uh, en er is ook heel veel focus op over dat taalmodellen, uh, ja, uh, niet mogen vertellen hoe je een bank moet overvallen of andere dingen die, uh, op een of andere manier schadelijk kunnen zijn.
Maar net zoals dat er heel veel, uh, maatschappelijk er heel veel, uh, te doen is over modereren op, uh, sociale netwerken. Dus wanneer gaat dat, uh, te ver? Uh, wanneer modereer je te veel?
Dat is, dat hebben we tijdens corona ook gezien, dat je op, uh, op Twitter niet eens meer mocht zeggen dat, uh, dat het misschien, uh, dat corona een, een, o-, o-, een theorie dat het ontsnapt zou zijn uit een Chinees lab was, was op een gegeven moment, uh, een soort van onderwerp waar niet over gesproken mocht worden.
Nou, dat is een ingewikkeld onderwerp, uh, uh, een moderatie, en dat geldt voor sociale media. Uh, en daar is veel aandacht voor, omdat natuurlijk verkiezingen en fake news, et cetera.
Maar datzelfde gesprek kun je ook voeren over, over taalmodellen. Wat zijn vragen die, nou ja, uh, te boek staan als verboden bij de makers van een, van een taalmodel? En er zijn dus mensen die zeggen:
uh, nu al, uh, zijn die taalmodellen te restricted. Uh, je kan niet ermee, uh, je kan er niet aan vragen, of in geval van plaatjes, je kan niet maken wat je wil.
En in Hardfork werd dus de voorspelling gedaan: dit jaar gaat het jaar zijn waarbij er een taalmodel of een, een AI, uh, ja, een taalmodel gaat zijn, uh, die, uh, die net zoveel gebruikers heeft als ChatGPT en, uh, of in ieder geval een enorm aantal gebruikers heeft.
De doorbraak van zo'n model zonder regels. En het is toch, dat is iets waarbij, uh, dit, dit vinden wij nu nog moeilijk voor te stellen, denk ik.
Omdat, omdat open source modellen is toch meer een soort van interesse voor geeks.
De meeste mensen die in AI geïnteresseerd zijn vinden vooral gaaf wat je met Midjourney of met, uhm, met ChatGPT kan doen.Maar er gaat natuurlijk dit, dit gaat eraan komen en dan gaan we opeens zien wat er kan op het moment dat er geen guard rails zijn.
Dat dat toch ook eigenlijk wel spannend is om dat te gebruiken. En g-gaat dit jaar inderdaad het jaar zijn waarin we zo'n, waarin we de doorbraak gaan krijgen van zo'n model zonder regels.
Ik vind dat dus een heel intra-- intrigerend iets, Wytse. Ja, ik zit te den-- ik doe meteen, denk ik, aan het, uh, aan een interne memo bij Google, uh, die gelekt is van: we have no moat, M-A, M-O-A-T.
En het idee van moat is hetgene wat jij hebt binnen jouw bedrijf wat een ander niet heeft en wat ook niet makkelijk van jou weg te halen is, hè.
Dat ku-ku-, dat kan intellectueel eigendom zijn, dat je er patenten regels overheen hebt laten gaan.
Maar er kan ook iets zijn wat jij ergens in een doos hebt zitten waar niemand bij kan, op tien medewerkers na die een NDA getekend hebben. Ja, iets wat je concurrentiepositie versterkt.
Ja, en Google heeft eigenlijk: we have no moat and neither does OpenAI.
En dat gaat eigenlijk heel erg over van: ja, die, wat moeten we nou als er veel betere taalmodellen straks op Hugging Face staan, hè, of waar dan ook staan? Uh. Bijvoorbeeld door die modellen te mergen of wat dan?
Ja, precies. En of door, uh, waar we het ook wel eens eerder over hebben gehad, dat je gewoon een Mistral pakt en die ga je gewoon laten trainen met ChatGPT.
En dat, dan, dan, dan, dan kloon je als het ware, even heel suf gezegd, maar, uh, ja, je steelt dan als het ware eigenlijk GPT-4 kennis en dan ga je gewoon een kopie ernaast trainen of zo.
Dat is helemaal niet zo makkelijk, maar dat wordt wel gedaan op die manier. Zeker het finetunen van modellen door middel van gesloten modellen, open modellen door gesloten modellen. Uhm,
en daarbij, uh, denk ik dat we sowieso een interessante ti-tijd tegemoet gaan. Uh, ik wilde no-eerst nog even reageren op het, uh, verhaal van de open taalmodellen die ook nog eens geen restricties kennen.
Dat dat een heel interessante uitdaging gaat zijn voor Hugging Face, hè. Hugging Face, de GitHub van, uh, open, van taalmodellen, laat ik het dan maar even zo zeggen. Gaan zij die dan verwijderen?
Ja, wie gaat dan verantwoordelijk daarvoor zijn voor wat mensen met open source taalmodellen doen? En Hugging Face, waar kan je dat het beste mee vergelijken?
Wat in de- Nou, wat een beetje- Dit is het moment voor een metafoor, Wytse. Iets met een snackbar. [lacht] Wat, uh, wat lekker.
Ja, ik zit te denken aan een technische, technische metafoor, maar nu je die snackbar er meteen ingooit, weet ik het even niet. Is natuurlijk belangrijk, de rol.
Want bij sociale netwerken is dan het idee: als jij iets op Facebook zet, een, uh, een, een vide-, een fake video van, uh, van, uh, weet ik veel, van Wilders of zo, dan is het de verantwoordelijkheid van Facebook om dat eraf te trekken.
Maar in het geval van Hugging Face kun je ze misschien beter zien als een hoster. En daarvan is het alweer twijfelachtig of je ook die moet aanspreken. Ook wel weer, uhm, iets meer. Want kijk, de, in de idealen van,
uh, veel, uh, mensen actief in die hele t-, de, de, de technologiescene zit heel erg, uh, decentralisatie of in ieder geval federatie. Hè, laten we maar zo, laten we het niet allemaal op één server zetten ergens.
En dat bedoel ik dan een beetje een server met een hoofdletter S. Dus een serverpark, uh, beheerd door, uhm, Elon Musk of, uh, uh, wie dan ook. Uh, laten we het allemaal op losse plekjes zetten.
Het liefst ook misschien, misschie-- binnen verschillende landen, uh, zodat je een soort van gefedereerd eerlijker, uh, gezonder, uh, netwerk krijgt. Maar wat gebeurt er de hele tijd op het internet?
Alles wordt natuurlijk gewoon kapot gecentraliseerd. Dus er is één app store van Apple. Er is al, iedereen zet zijn open source project op GitHub van Microsoft. Kinderen spelen allemaal in Minecraft.
Dat het iedere keer- Nee, je zegt: het internet geeft de belofte dat er allerlei dingen gedecentraliseerd kunnen worden, maar in de praktijk blijkt elke keer dat het gecentraliseerd wordt.
Ja, en dat, en die centralisatie heeft meerdere redenen, uh, maar, uh, één hele grote daarvan is ook gewoon gemak. Uh, uh, frictieloos bestaan.
Uh, lekker een appje installeren en die werkt meteen en daar zitten al mijn vrienden op en doen niet moeilijk.
Of in het geval van Hugging Face: ik installeer transformers, uh, waar net ook even naar verwezen wordt, en ik kan vanuit transformers alle modellen aanroepen die op Hugging Face staan. Mhm.
En ik hoef dan niet na te gaan denken: waar staat dat model? Nee, als Hugging Face hem heeft is het goed. Dus zie hun als een soort, uh, app store voor taalmodellen. Mhm. Uh, heel erg gecentraliseerd,
maar dat geeft ze natuurlijk ook weer een verantwoordelijkheid. Uh, zeker met wetgeving die we bi-inmiddels binnen de Europese Unie hebben.
Als jij groot genoeg bent en jouw impact is groot genoeg, dan heb jij verantwoordelijkheid.
Dus ik denk wel dat, uhm, volgens mij is het zo als jij een, uh, aanname van mij, hoor, maar een blauwdruk van hoe je een pistool in elkaar kan zetten op GitHub zou zetten, is hij er vrij snel af. Ja.
Dus als jij een taalmodel maakt die dat plaatje kan uitpoepen, dan is dat in essentie een omweg, maar hetzelfde. Dus ik vraag me heel erg af hoe Hugging Face daarmee omgaat straks.
Dat wordt best wel een moeilijke rol voor ze, denk ik, door zo gecentraliseerd te zijn. Waar, waar blijven die modellen dan? Die gaan natuurlijk allemaal in torrents verdwijnen. Dat is de logica.
Laten we het concreet maken, want ik zag, ik zag dus toevallig een grappig voorbeeld waarbij het, uh, allemaal een beetje door elkaar begint te lopen. Uhm, het, men, het zijn drie voorbeelden eigenlijk die ik heb.
Van, uh, van een soort van dingetjes die door AI, die, die niet door de guard rails bij, uh, bij St-, bij Stable Diffusion of bij, uh, bij, uh, ChatGPT heen zouden komen, maar die hier opeens wel kunnen.
Dus één is een, uh, op, uh, op Reddit heb je een, uh, speciaal, uh, forum voor, uh, Stable Diffusion gebruikers, een soort Midjourney, een plaatjesgenerator.
Uh, en dat was een verifi-, een plaatje van een verification post. Heb je dat gezien? Zeker, ja.
Op, uh, op, op Reddit is het, is het een gebruik dat als jij wil bewijzen dat jij een persoon bent die past bij, uh, bij je username is dat je een foto van jezelf maakt met een briefje erop met daarop de naam van het forum waar je actief bent en je username, zodat het, en dat is dan vaak in het geval van een bekende politicus of bekende Amerikaan, zodat je kan bewijzen: dat is inderdaad, nou, weet ik veel, uh, bekende Amerikaan, uh, X.
Uhm, en dit was dan een, uh, een plaatje wat gegenereerd was door een, uh, ik weet niet of het nou Stable Diffusion zelf was of een, volgens mij een of andere kloon ervan zonder guard rails.
Volgens mij heet het Unstable Diffusion. Ja, dat is de subreddit volgens mij, Unstable Diffusion.
Want in essentie kan je natuurlijk Stable Diffusion sowieso zelf installeren, maar je hebt gelijk, daar worden dan weer, uh, natuurlijk dingen van gemaakt die lekker die guard rails niet hebben.Ja, misschien heb je nog een lijk, dat weet ik eigenlijk niet.
Ja, nou doet er ook voor niet zo heel veel toe. Maar wat was het punt nou?
Het was een soort van Rubicon die overgestoken werd, namelijk ehm een fake foto van een persoon met zo'n briefje in de handen met daarbij met pen op het briefje geschreven de naam van de van de Reddit en van uh uh de de username die erbij hoort.
Uhm waarbij ja, dat dat, dat, dat, dat zet tegelijk aan het denken van oké, deze manier van soort van cult die we cultureel gebruiken om te bewijzen dat je bent wie je bent. Oké, dat dus, dat is dus eindig.
Oké, wat gaan we, wat gaan we krijgen? Ik zag een tweede voorbeeld van een uh influencer op Instagram. Die heet Emily Pellegrini. Een, een, een uh ja, een Instagrammodel. Wat moet je ervan zeggen?
Van 200.000, meer dan 200.000 volgers op Instagram. En dit is dus gemaakt door een dude die op ChatGPT heeft gevraagd: What is the average man's dream girl? En toen zei dat: Brown hair, long legs so.
En dus zei, zegt hij in de krant I made her exactly how it said. Toen heeft hij dus een versie gemaakt van die, nou ja, een fysieke. Of hoe zeg je dat?
Een, een verschijning gemaakt naar de beschrijving van het taalmodel, maar dan in beeld.
En dit is dus een AI influencer die eruit ziet als een echte influencer uh, en die ja, zich gewoon op Instagram manifesteert en dus heel veel volgers heeft gegenereerd.
Niet met het punt: ik ben een AI influencer, want dat wordt gewoon geheim gehouden. Dat is, hij maakt er geen punt van.
Anders dan bij uh soort van sommige influencers die we gezien hebben, waarbij dat het de gimmick is, zeg maar. Dit is een AI influencer en daarom krijgt het dan veel volgers.
Maar dit is dus het, een geval waarbij het g-, blijkbaar gewoon heel goed uh het werk van een influencer nadoet zonder ook maar enige notie ervan te geven dat het AI is en daarmee dus kan groeien.
En dit artikel uhm uh vertelt dus over uh, uh hoe er allerlei bekende mensen en uh voetballers en miljardairs zich in de DM's melden van deze fake mevrouw [lacht] om dan te vragen of ze met ze uit willen.
Of uh, of uh er werd iemand uh uitgenodigd naar Dubai of ze werd uitgenodigd naar Dubai en om te eten in uh in allerlei restaurants. Inmiddels heeft hij dus ook uh uh foto's van haar gemaakt op FanView.
Dat is een site waar je, laten we zeggen paywalled materiaal kunt aanbieden. En uhm dat allemaal omdat
een service die dus unstable diffusion heet uh ongeveer 500.000 van dit soort not suitable for work plaatjes genereert per dag uh op dit moment. Dus dat is een grappig uh voorbeeld.
Ja, ik zit ook meteen door jouw verhaal nu te denken dat, dit is natuurlijk wachten op het nieuwsbericht. Uhm we hebben een heel erg populair uh synthetisch, een synth gemaakt.
Uh een niet-bestaande vrouw of influencer uh man. Die uh heeft zoveel kracht nu. Wij zijn op zoek naar iemand die hierop lijkt. Ben jij dat? Meld je aan. [lacht] Ja. Dan draaien we even om. Ja.
En, en da-dan nog even de plastische chirurgie daar buiten gelaten. Dat maakt me te zenuwachtig als ik daar over na ga denken. Maar. Ja. Uh, want je, want je wil natuurlijk. Ja, het is heel, de, de plekken waar.
Kijk, als jij heel erg fan bent van iemand, maar je hele leven die persoon nooit fysiek ontmoet. Hè, je blijft gewoon voor altijd fan en je consumeert alles rondom die celebrity uh online.
Doet het er dan eigenlijk nog toe, hè? Dat is een beetje de ethische vraag van ja, als je die persoon toch nooit gaat ontmoeten, wat verlies je dan?
Als je je, of je nou je hele leven iemand volgt die je nooit ontmoet en die fake is of echt is, doet het er dan eigenlijk toe? Sowieso. Ja. Sowieso. Dat is wel heel erg interessant.
Ik denk ook nog steeds dat, uh en dat is iets voor uh, dat, dat, dat is een soort rode draad die we nog wel langer of een draadje wat we vaker kunnen gaan oppakken in Poki denk ik, is dat het, uh is dat idee dat die uhm virtuele wereld van waar pixels gedraaid worden, of dat nou in een VR-bril is of op je tv of op je smartphone.
Uh dat die heel, dat die het eerste valt nu, hè, want die is het makkelijkst te manipuleren. Dus een, een virtuele int-influencer
of een, een, een daadwerkelijke influencer op TikTok waarvan 99% van de mensen hem nooit ontmoeten, kan heel makkelijk gedisrupt worden door een fake influencer. M-hm.
Want de hele communicatie vindt plaats via een scherm. Ik zeg het maar even zo. En dus de schermenwereld, die gaat helemaal corrupt raken nu door al die fakeness, hè.
Dus je krijgt allemaal hyperrealiteit waar je niet meer van weet wat is wat.
De keerzijde is dat die daadwerkelijke realiteit waar jij en ik in leven daardoor een soort premium gaat krijgen, want die is nog minder makkelijk te faken.
Voor jou om een Alexander-robot te kopen met echte skin erop die Madame Tussauds-achtig uh met mensen gaat praten, dat is gewoon nog wel wat verder weg dan een fake Alexander-influencer-kloon die jij misschien zelfs bezit.
Uhm, dus ik vind dat, ik vind een soort van interessante uh omdenkidee van uh wat leuk.
Uh misschien worden inderdaad daadwerkelijk afspreken met elkaar toneelstukken in uh de, in een, uh op een daadwerkelijk podium gaan weer een soort premium krijgen, want die zijn nog heel moeilijk te faken of zo, dus dat vind ik een leuk dingetje eraan of zo.
Een beetje dat ik denk haha, uh een soort van uh wat leuk dat die, die uh ja, die corruptie van die virtuele wereld creëert een soort van uh, uh extra uh urgentie om de wereld weer in te gaan met elkaar.
Tegelijkertijd denk ik ja, uh het is ook nog eens zo dat die virtuele wereld helemaal, hebben we het vaker over gehad, maar helemaal gepersonificeerd kan worden. Dat kan ook juist een hele leuke wereld worden.
Leuk als in nou ja, waar het woord leuk voor bedoeld is. Gezellig en aantrekkelijk en uh hyper boeiend en uh een TikTok-feed die letterlijk nooit boort gewoon. Dus het heeft twee kanten.Ja,
die voorbeelden die zijn natuurlijk. Ik bedoel die verification post aan de ene kant heeft een soort van ja god veiligheidsaspect dat dat dat.
Dat gaat een beetje in op die die angst, die die angst die we hebben over dat, dat, dat, ja, dat het allemaal een beetje oncontroleerbaar wordt, deze wereld en dat AI daaraan, daaraan bijdraagt.
Die die influencer, die die. Ik denk dat dat dezelfde soort van ja morele paniek knop indrukt namelijk hoe, hoe, ja w-w-wat betekent nog een fan van iets te zijn?
Is het oké om om fan te zijn van iets wat, wat, wat nep is? En hoe gaat dat in godsnaam zijn in die wereld?
In het laatste voorbeeld wat ik had gevonden is nog een ander element, namelijk het soort van politieke aspect wat erbij hoort. Ik zag een computer die heet, die werd aangekondigd.
Of die ooit gemaakt zal worden is, is mij een vraag hoor, maar een computer van de computer van de firma Bed Rock punt computer The Girl One. En dit is een computer waarbij je lokaal.
Ze hebben een eigen OS gemaakt, dus in plaats van Windows of
Mac Mac OS een eigen OS waar dan de hele tijd een taalmodel meedraait die je dus in de zijbalk allerlei vragen kan stellen op basis van als ik het goed begrijp een open source taalmodel.
En daar zitten dus meerdere GPU's in, in die computer. En het hele ding is dan geoptimaliseerd om om, om ja, je, je, je shit lokaal te draaien in combinatie met al je bestanden en wat je dan ook op internet doet. En dan?
Wat ik grappig vind is dat ze het verkopen met ask anything. No scolding, no judgment, no limits. Remember you own it. En dit is een soort van ik.
Ik meen hier dan in een soort van libertarische of ik weet niet precies wat de politieke stroming, maar ding in te herkennen. Een soort van al die taal modellen die vertellen ons wat we wel en niet mogen. Ja.
En hier kan je vragen wat je echt wil vragen. En op die site staat dan een voorbeeld van een vrouw. Het is een vrouw. Die vrouw die zegt, die vraagt aan haar computer Ik word gestalkt. Ik wil een, een wapen kopen.
Vertel me of dat een verstandig idee is.
Nou, dan zal ChatGPT dan zeggen ja, ik kan niks zeggen over wapens of wapens zijn gevaarlijk en dit ding legt je dan even uit onder welke omstandigheden het verstandig is om een wapen te kopen.
Want ja, dat is wat er allemaal mag als je je, je, je eigen taalmodel hebt. We gaan zo'n fascinerende tijd in Wytse. Ja, zeker. Hiermee wil zeggen. Ik ja, ik. Ik ben ook heel benieuwd van uhm.
Er zit ook vanuit de de, de OpenAI en uh Mistral en de noem maar nog eens een leuke Microsoft whatever zit er natuurlijk ook een. Kijk, die. Ze hebben dus geen mood eigenlijk, wat ze zelf erkennen van shit.
Die modellen die we zelf hebben getraind voor miljoenen, die worden inmiddels getraind voor minder geld. En ze zijn ons aan het inhalen.
En die wereldwijde open-source community, die gaat ons misschien wel bijbenen op een gegeven moment. En wat is er dan zo uniek aan onze aan onze software? Nou, in het geval van Google hebben ze wel mood.
Dat is namelijk al jouw Gmail berichten, dus het is ook niet helemaal waar dat ze niks hebben. Het is misschien alleen anders dan dat je in eerste instantie zou denken. Maar goed. Ik denk daarbij wel dat
wanneer er open source modellen gebruikt worden om kwaad te doen, op welke manier dan ook, dat het natuurlijk heel fijn is voor zo'n executive van Microsoft om te zeggen tegen overheden ja, zorg nou dat wij alleen dit mogen doen.
Ja, ja, ja ja. Laat nou gewoon die grote gecentraliseerde super kapitalisten gewoon die modellen aanbieden. Dan zetten wij daarin wat je erin wil en halen we eruit wat je eruit wil.
En die open taal modellen, dat is gewoon eng. En je wierp zelf de vraag op soort van waar zit dan het wie? Wie is dan verantwoordelijk voor het runnen van die open taal modellen? Dus zo'n, zo'n partij als Hugging Face.
Die dus in de in ja de community heel erg belangrijk is om ja, om de ontwikkeling van open source taalmodellen verder te brengen.
Omdat het gewoon makkelijk is om daar op te, te werken, maar ook als gebruiker om dingen uit te proberen. Ja, gaat dat dan de plek zijn waar gereguleerd gaat worden?
Gaan we misschien toch krijgen wat jij eerder zegt, wat jij eerder een beetje af, ja, een beetje van weg. Dat je zegt we bewegen hier van weg, namelijk dat het decentraal gerund wordt.
Krijgen we een soort van BitTorrent voor open source taalmodellen? Of ja, hoe? Misschien gaan er dus technische manieren komen waardoor je waardoor je dit kan omzeilen.
De de, de de regelgeving die er die er geheid gaat komen. Of, of, of, of. Of dat bedrijven als Hugging Face proberen zover te krijgen dat zij ook verder gaan met reguleren. Ja, het komt. Op welk niveau gaat.
Ja, ja, op dat op wat George Hotz afleveringen geleden al haalden wij hem aan met zijn komma AI dat.
Je kunt een beetje gaan als je een soort van simpel wil reguleren, dan zeg je gewoon ja sorry, je mag die GPU thuis niet hebben, jij mag geen hardware in huis hebben. Ja, ja. Model op draaien. Ja, ja.
En we gaan met de Eneco met een AI gaan we zien of jouw energy signature lijkt op een GPU die aangezet wordt en dan komen we naar binnen.
Dus terwijl in de tussentijd de modellen alleen maar kleiner, slimmer en minder energie aan het gebruiken zijn. Dus het is een hele. Het wordt echt een ingewikkelde man. Ingewikkeld, maar goed.
Het is natuurlijk ook wat ik net nog even zei, ook in ons gesprek eerder van. Als jij natuurlijk een hele specifieke context hebt van informatie.
Ik had het toen over tuindieren, maar het kan ook zijn een postzegelverzameling of zo, even als standaard dingetje. En jij hebt daar gewoon ontzettend veel verzameld.
Niet alleen aan postzegels, maar vooral aan meta-informatie rondom de postzegelverzamelaars in Nederland. En je kan het allemaal gaan inlezen, van beeld tot geluid tot tekst.
En daar je eigen postzegel LLM op trainen zodat jij een soort van die corpus van informatie kan redden. Ja, het is toch ook supergaaf?
Het is het is het standaard Pokie verhaaltje, maar het heeft altijd die twee kanten weer. Nee zeker. En technisch is het ongelooflijk. En ja god, deze ontwikkeling is gaande en zal niet stoppen. Bas Jan Adriaan man.
Bas Jan Adriaans, Bas Jan, daar eindigen wij mee. Dank voor het luisteren naar Pokkie en tot volgende week. Tot volgende week! Doei! [outro jingle]