Oh. Zo klinken 165.000 scheerbewegingen per minuut die je helpen om fris voor de dag te komen.
De flexibele scheerkop van de Philips S9000 Prestige volgt de contouren van je gezicht en scheert tot op nul millimeter van je huid.
Ervaar een ultiem gladde en comfortabele scheerbeurt, ook wanneer je nog niet helemaal wakker bent. Want dankzij de slimme sensoren past het scheerapparaat zich helemaal aan jou aan.
Zo kun jij nog extra genieten van je kopje koffie voor je de deur uit gaat. De Philips S9000 Prestige is het ideale scheerapparaat om jouw dag goed mee te beginnen.
Koop de Philips S9000 Prestige bij jouw favoriete winkel. De Bright podcast brengt je elke week de nieuwste gadgets. Het is gewoon de allerbeste Apple Watch die er is. Tech nieuws.
Instagram heeft weer eens een functie van de concurrentie afgekeken. Commentaar. Ik denk van nou dit was gewoon Volkswagen onwaardig die, die oplossing. En de beste tech tips.
Mijn favoriete boek was Helgoland van Carlo Rovelli. Luister de Bright podcast elke woensdag in je podcast-app. Wat een geweld! Het is zo lekker om naar te luisteren.
Welkom bij POKI, een podcast over kunstmatige intelligentie waarin wij, Wietse Hagen en Alexander Klöpping, je bijpraten over de wondere wereld van AI. Deze week spreken we een AI-expert, Stef van Grieken.
Stef is CEO van Cradle, een bedrijf dat AI-taalmodellen gebruikt om proteïnen te maken waarbij nieuwe medicijnen uitgevonden kunnen worden of misschien zelfs nieuwe grondstoffen gemaakt kunnen worden om minder afhankelijk te worden van fossiele brandstoffen.
Een fascinerend bedrijf, maar niet het onderwerp van deze podcast. Als je er meer over wil weten, dan raad ik je aan om de podcast Met nerds om tafel van deze week te luisteren.
Wij gaan het met Stef namelijk hebben over iets anders, namelijk zijn insider perspectief over AI bij Google. Daar heeft hij namelijk jaren gezeten.
Stef hielp onder andere mee om chips te ontwikkelen die Google gebruikt voor AI-toepassingen. Hij legt uit waarom Google haar eigen AI-chips maakt en hoe die chips werken. En hij schetst een aantal grappige momenten.
Bijvoorbeeld de verbazing bij Google intern dat de wereld zo verbaasd reageerde op de introductie van ChatGPT. Immers, Google kon zelf ook al heel veel op dat vlak en dacht dat iedereen wel doorhad dat dat zo was.
En hij belandt in een debat met Wietse over de gevaren van AI en wat journalisten, overheden en bedrijven meer zouden moeten doen om de maatschappelijke impact van AI in goede banen te leiden.
En we eindigen met een voorspelling hoe ons leven er over vijf jaar uit zal zien. Stef voorspelt een drastisch andere wereld en hij kan het weten. Ik waarschuw je even, deze aflevering is geen lichte kost.
Desalniettemin veel plezier. Google heeft bij het laatste Google Event praatten ze over hun Tensor chip T3.
Dat is meer misschien een brand voor hun eigen chip of een stukje techniek wat weer in hun SoC zit, zeg maar hun system on a chip. Maar de, de, die Tensor cores.
Ik, ik ken het meer een beetje als marketingterm en AI-specifieke hardware buiten grafische kaarten waar Alexander en ik het al een aantal weken over hebben.
Voor de luisteraar die GPU's waar we het steeds over hebben, die dure 15.000 A100 kaart van Nvidia, die is heel goed in AI. Maar tussen een CPU en een GPU bestaat volgens mij ook nog een TPU. Zeg ik dat goed? Ja.
Nee, dat is sterker nog een, dat is een derde variant. Kijk, het grote probleem van, uh, het, het trainen of het uitvoeren van een machine learning model is dat je eigenlijk extreem grote matrixen moet vermenigvuldigen.
Dat is ook vrij intuïtief. Als je bijvoorbeeld een plaatje pakt, dan heb je een pixel en je hebt RGB, zeg maar drie kleuren om die pixel te representeren.
En eigenlijk om door zo'n neuraal netwerk heen te gaan moet je, zeg maar, nou ja, voor een groot model misschien miljoenen of, of miljarden keren moet je een getal vermenigvuldigen. Ja. Nou, als je dat met een CPU doet.
Hoor je mijn ja, als in: dit is een hele trage ja. Dit is allemaal aan het indalen, ja. Oké, dus als je een, als je een CPU gebruikt, dan ga je een voor een die vermenigvuldiging doen. Dus dat duurt een tijdje.
Die kan dat na elkaar doen. Een gewone processor. Ook een multi-core processor? Die kan het dan acht keer naast elkaar doen of zes keer. Dit is recht doen. Ja, precies.
Wat tof is aan een GPU is die kan het in twee dimensies dus één keer lezen en dan misschien, nou, een paar duizend keer doen.
Dus je hebt, en dat had je voor beeldverwerking al nodig vroeger, want je moest heel veel pixels kunnen, kunnen laten zien, zeg maar. En dus voor een GPU is het relatief.
Om een video, om een videogame te kunnen laten zien. Precies, want daar heb je tijd en je hebt pixels die je de hele tijd moet schrijven. Dus ze zijn vrij goed in grote matrixen, bewerkingen doen op grote maat.
Zou ik dan die matrix wat ik me altijd voorstel als een Excelsheet. Ik zeg het maar even voor de. Precies een Excelsheet. Ja. En dan omdat in die computergames je eigenlijk frames aan het renderen bent.
En een frame is uiteindelijk een hele grote verzameling pixels in een matrix. Ja. Dat je dan die shader units in een GPU.
Ik gooi even deze termen erin dat ik nog iets kan laten horen, maar volgens mij zijn die GPU's zo gebouwd om snel parallel beelden op te bouwen. Een matrix van pixels. Exact.
En het, het fijne daarvan is om dat energie-efficiënt te kunnen doen en heel snel te kunnen rekenen wil je zo min mogelijk naar je geheugen gaan.
Want naar het geheugen gaan is ongeveer, nou ja, vijftig keer energie intensiever dan binnen je processor blijven. Ja. Dus GPU's zijn heel goed in heel veel parallel rekenen.
En het geheugen is dan niet het intern geheugen van je computer, maar de visual RAM op die, op die kaart. Precies, dus je hebt, je hebt drie, zeg maar, niveaus van geheugen.
Je hebt je harde schijf, dan heb je meestal DRAM. Dat is, zeg maar, je, wat je meestal in gigabytes uitdrukt. Ja. En dan heb je het geheugen wat op de chip zelf zit.
Dat is relatief snel nog, maar je wil eigenlijk zo min mogelijk naar je, je grote geheugen gaan of naar, en je wil absoluut niet naar je harddisk hoeven, zeg maar.Luisteraar even als je net inschakelt, dit is het niveau.
Blijf er gewoon bij, dat zou ik zeggen en doe je best. Laat die hersens even kraken in de auto op de A2. En vertrouw erop.
Ik kom straks met een paar metafoors kan metaforen die kant nog wal gaan raken, maar je intuïtie gaan prikkelen. Goed, oké, dus we hebben het verschil nu tussen CPU's en GPU's, videokaarten en ouderwetse processoren.
En dan ga je vroeger met pasta aan mijn Intel Pentium vastplakte aan een aan een koeling fan. Exact, ik ben er nog steeds. Dan ga je naar CPU's. En wat CPU's doen is nog een iets ander trucje. Waar staat dat voor?
Tensor Processing Unit? Dus eigenlijk is het het, het. Het nadeel van een GPU is dat hij eigenlijk maar in drie dimensies denkt. RGB of CMYK. Dus hij heeft niet. Hij kan niet een soort van hele hoge dimensionale matrix.
Hoe is RGB een333 dimensionaal iets? Drie kleuren. Omdat het drie kleuren is noem je het drie dimensionaal, want je hebt niet 3D plaatje. Xy schrijven zeg maar en ik wil een van drie. Ik wil deze drie kleuren hebben.
Oké. Ja. En dus wat een TPU doet is die leest één keer van geheugen voor alle berekeningen die hij in één laag van een neuraal netwerk moet doen en, en doet hij alle, alle zeg maar weights.
Dus alle, alle, alle zeg maar neuronen. Die hebben een gewicht en die je vermenigvuldigt met een waarde en die, die komen als één grote matrix worden die door elkaar heen vermenigvuldigd.
Je handen doen een Tetris spelletje na. Precies, dus je hoeft maar één keer naar je geheugen in plaats van nog steeds iedere keer een read te doen voor alle neuronen die je moet vermenigvuldigen.
En daardoor zijn ze dus een stuk efficiënter in het rekenen. Tensor Processing Unit denk ik.
De TPU is die uitgevonden tijdens het parallel aan de theorie of op een gegeven moment was er een theorie rondom hoe je een synthetisch of een virtueel brein kan bouwen. Noem het maar even zo.
En toen werd daar op een gegeven moment ook een processor voor gemaakt. Het was iets platter, dus ik denk de aanleiding bij Google was heel erg
als je, als je bijvoorbeeld een zoek op zoekopdracht doet en je probeert een pagina te laden en je doet dat zonder machine learning. Of je zou er iets van een transformer achter hangen.
En met machine learning, daar zit bijna honderd keer meer rekenkracht tussen.
En op de schaal van Google is dat nogal belangrijk, want je doet heel veel zoekopdrachten en dus de, de wens van Google was we hebben hardware nodig die een stuk efficiënter is in dat werk doen.
Want ze gebruikten daarvoor GPU's. Ja, of, of gewoon CPU's of, of. In sommige gevallen was het gewoon onmogelijk om bepaalde machine learning modellen überhaupt te gebruiken omdat die rekencapaciteit er niet was.
En is het dan om resultaten te personaliseren? Of is dat gewoon om een query om, om gewoon je zoekt ergens op en dat resultaat te kunnen ophalen. En dat dat heeft niet eens met personalisatie te maken.
Personalisatie is een onderdeel van, maar ook gewoon je kan. Je kan veel specifiekere en betere antwoorden. Dus je hebt bijvoorbeeld Google Web Answers. Dus waar ze direct een antwoord proberen te geven op de vraag.
Dat is niet alleen maar proberen keywords te matchen, dan moet je echt begrijpen wat iemand vraagt. En dus daar zit een neuraal netwerk achter om dat te doen. Ja, en dus dat is een veel intensievere,
intensievere query dan, dan als je dat normaal gewoon een, een lookup zou doen, alleen maar blauwe linkjes krijgt. En over wanneer praten we nu ongeveer? Want ik weet, ik heb ooit al een keer
geroepen in de in de show dat er een beetje in het beeld is ontstaan. Wauw, kijk open AI en Google is helemaal taking the back en die hebben geen idee wat hier allemaal gebeurt.
En het beeld klopt in mijn ogen gewoon niet met wat ik heb gezien dat er een research vanuit Google is en het merendeel van de fundamentele uitvindingen in de theorie van AI komen volgens mij bij Google vandaan.
Of merendeels misschien, maar veel. Of DeepMind. Ja, of DeepMind, wat inmiddels onderdeel van Google is. Dus wanneer die, die, die noodzaak voor betere hardware die meer op maat is voor deze
ja taal, nog niet taal modellen, laten we dat. Waren nog RNN's. Precies. En, en recurring neural networks. En dat helpt de luisteraar denk ik nog steeds niet. En mij ook niet, maar het komt.
In ieder geval waar RNN voor staat. Ja, cool hè? Simpeler machine learning model. Oké, top. Precies. Een soort versie één in de evolutie van of iets, zeg maar. GPT 0,5. Ja nice!
Nee, maar dat is wel lekker om een beetje een beeld te hebben, dus. En maar wanneer was dit ongeveer in de tijd, zeg maar geschiedenis? Dat is ongeveer 6,5, 6,5, zeven jaar geleden. Ja.
En zij zei en het idee van we gaan met GPU's aan de gang, dat had, want dat had, had was ook een optie geweest, toch? Je kan ook zeggen van joh, we gooien er gewoon heel veel GPU power tegenaan en die TPU slaan we over.
Jazeker. Maar er zijn natuurlijk twee dingen die je wil doen. Dus aan de ene kant wil je modellen trainen en dat kost natuurlijk heel veel computatie, maar dat doe je maar één keer, zeg maar.
Dus als je bijvoorbeeld een nieuwe Google Translate versie wil maken, dan train je dat model op alle vertaling informatie die je hebt en dan krijg je een betere variant. En dat doe je op GPU's.
Dat kun je op GPU's doen, maar dat doe je één keer als je gaat serven.
Dus als je die, die, die vertaal resultaten aan mensen gaat laten zien, dat moet je natuurlijk een stuk vaker doen, want dat is iets wat een heleboel mensen gaan zien. En dan is een GPU weer heel duur.
Ja, want dan komen we eigenlijk op een soort eerste principes dat je echt zegt oké, een query kost x cent in energie. Zoiets kan me zo voor een soort van
watt per query of zo voorstellen, want je wil naar een soort grond maatstaf toe. En als dan iemand binnen Google zegt of een team waarschijnlijk joh, ik heb hier een, een TPU gemaakt en die gebruikt 10% minder stroom.
Nou ja, dat scheelt ons per dag x en dan kan je het al gaan uitrollen misschien. En dat was niet zeg maar procenten. Dat is dat was meerdere malen goedkoper. Oh wauw.
Oké, oké, dan is het wel helder wat daar de noodzaak van was. Oké, en toen zijn jullie die chips zelf gaan ontwikkelen. Ja klopt. En hoe ging dat? Dat is. Dat begon bij Google X, dus daar heb ik een tijdje gewerkt.
Er waren een aantal teams overigens binnen Google die dat probeerden op verschillende manieren. Dus bijvoorbeeld de, de mensen die het voor de mobiele telefoon hebben gemaakt. Dat was een ander team.
Ja, en dan ga je eigenlijk kijken naar hoe kun je als je opnieuw zou beginnen. En dat is natuurlijk iets wat Google X vaak doet, wat zou je dan doen? Nou ja, daar hebben we het net over gehad.
Dus de oplossing was we moeten zo min mogelijk dingen uit het geheugen.Halen en dus zo veel mogelijk vermenigvuldigen. Een Google concept. De TPU is iets wat bij Google geboren is.
Het is een, iets wat bij Google, uh, geëngineerd is. De, de, ik, ja, het risico is dat we nog nerdier gaan, maar de, de, de theorie daarachter is, heet een systolic array.
Dat is een concept in de wiskunde die al een tijdje- Wat een goede naam voor een band. [lacht] Sorry. Maar, j-j-jullie mogen kiezen hoe diep we gaan.
[lacht] Nou, we zijn 99% van de luisteraars kwijt en ik vind nu, die 1% die nu luistert, die kun je ook helemaal gek maken. [lacht] Dus laten we dit doen. Ja. Ja. Ehm, vertel over dit concept.
En dus dit, dit concept is waar we het net over hadden. Dus dit is, zeg maar, je, je hebt een hele groot machine learning, uh, uh, model. Daar zitten heel veel neuronen in.
En wat je daar eigenlijk doet, is, je vermenigvuldigt twee getallen en je kijkt of het boven een, boven een threshold uitkomt om te vuren of niet te vuren.
Mag ik, mag ik mijn best doen om dit in normale taal sa-samen te vatten? En dan kijk ik of het klopt.
Dus wat een machine learning model doet, is heel veel, uh, je geeft hem een opdracht van iets waar hij de kans voor moet berekenen. Dat kan van alles zijn.
Het kan dus een, een zin zijn bijvoorbeeld, maar het kan van alles zijn. Het kan ook zijn: is het plaatje wat je ziet een trui of een schoen? Ik noem maar wat. Ja.
Dan heb je heel veel sporen die, die tegelijkertijd gaat bewandelen met verschillende methodiekjes. Dus ieder spoor heeft zijn eigen methodiek om erachter te komen: is het een schoen of is het een trui?
Iedere, ieder spoor geeft ie een score en dan gaat ie, van al die scores gaat ie als een Champions League wedstrijd, die begint met alle voetbalteams en die uiteindelijk dan met de finale, op de finale eindigt. Ja.
Er vallen de hele tijd teams af, oftewel lagen af, waar hij tegen zich zegt: dat is hem niet. De, de prediction is dit, want dat is de enige laag die nog overblijft en die krijgt dan de beker. Zegt dit goed? Ja.
En jij, en die lagen, dat zijn die neuronen waar jij het over hebt, toch? In iedere laag zitten, wat je net zei, zitten een aantal teams die tegen elkaar spelen. Ja. En dan moet je twee getallen met elkaar vergelijken.
Precies. Ja. En, uh, het voordeel van zo'n TPU is dat hij al deze dingen tegelijkertijd kan berekenen in plaats van na elkaar. Precies. Dus dat, dat is één belangrijk voordeel.
De, degene waar jij het net over had, de TPU3, die is gemaakt voor trainen en wat die kan is veel grotere modellen trainen. Maar is dat dezelfde TPU3 als waar ze over praten in die Pixel 8? Nee, toch?
Nee, dat is een heel ander apparaat. Ja, precies. Nee, maar daar zitten ze ook een beetje- Je hebt het daar over kilowatt, zeg maar. Dan zou je telefoon echt heel snel leeg zijn. Nee, precies.
Maar omdat ze een beetje dat Tensor woord, dat is een beetje doorgebrand binnen Google nu ook als de Tensor, Tensor, hun A1, A2, A3 à la Apple ding. Maar net als dat, dat een GPU ook geen graphic processor meer is.
Check. Ja, oké, oké, dus we, wij, we hebben het nu eigenlijk vooral over wat er in de datacenters toegepast wordt. Precies. En misschien ook wel wat te koop is als USB-stickje, toch?
Want je hebt een klein TPU'tje op USB van- Ja, dat is dezelfde variant als die in een telefoon zit. Ja. O, ja, dus het is nog steeds dat, in jouw ogen, ja, baby garnaaltje aan, uh.
Nou ja, bijvoorbeeld, als je bijvoorbeeld machine learning zou willen doen op plaatjes, maar je wil die informatie niet naar de cloud sturen, dan zijn dat soort toepassingen natuurlijk supervet. Ja, ja, ja, ja, vet.
Of het idee dat je een spraakassistent lokaal wil kunnen, kunnen draaien en, en dat soort functies. Jij, jij gooide net die naam, uh, voor een band, uh, erin. Ik wil toch weer even terug naar, uh. De array? Ja.
De arrays. Systillic, sys- Systolic array. De systolic array. Schrijf mee. Ja. [schraapt keel] We gaan straks twee tattoo's laten zetten. Het wordt fantastisch. [lacht] Let's get systolic and be as array.
[lacht] Systolic, systolic arrays. Ja, en toen was de aanname: dit is een wiskundig concept.
Hier kunnen wij wat mee, want het is fucking duur om alles met, uh, GPU's te doen als mensen uiteindelijk zelf die zoekqueries gaan draaien. En wij moeten kunnen tonen: de Eiffeltoren is X meter hoog. Of vertalingen.
Of vertalingen. Wat staat er in dit plaatje? Of dat soort dingen. Maar het gaat om het uitvoeren van de prompt en niet het trainen van het model nu. Ja.
Oké, dat was de aanname dat daar, dat wiskundige concept daarmee zou kunnen helpen. Ja. Ja, en dus toen zijn we daar een team omheen gaan bouwen. Dus dan moet je, dan moet je een chip maken die dat goed kan.
Je moet, uh, een, uh, hardware maken om het in het datacenter te kunnen plaatsen, dus een board. Ja. En je moet software maken om daadwerkelijk dat ding te kunnen aansturen.
Dus compilers en, en drivers en dat soort dingen. Konden jullie dan itereren op die chip omdat het een, uh, field programmable array was? Of kon, kan je niet een FPGA gebruiken om een TPU na te doen?
Je moet echt- Jezus, Wietse. Nou ja, de field programmable array. Doe een beetje je best. Ja, nee, ik zit nu gewoon. Dit is, i-, dit is- Help. [lacht] Dit is hoe je flext in de IT, weet je.
Kijk, als het een band zou zijn, zou je zeggen: ik ken ook Jimmy, die producer. Doe dan een metafoor met Nick Barsum erbij. Een hele goeie solo aan het doen nu. [lacht] Oké.
Nee, ik ga, ik ga, ik beloof nu dat iedere keer als ik er een term ingooi om te laten horen dat ik iets weet, dan ga ik ook uitleggen wat het is.
Nou ja, F-FPGAs zijn een soort van programmeerbare chipjes waar je een klein stukje van je logica van een grotere processor op zou kunnen uitproberen en daar kun je mee experimenteren.
Want ik zit me nu, zeg maar, hardop zorgen te maken over, als jij, uh, kijk, a-als, ik ben, iets meer softwareontwikkelaar en software is zacht. Daarom heet het ook software, dus kan je heel lekker itereren.
Iedere keer een nieuwe versie, misschien wel tien op een dag. Ja.
Maar als jij iedere keer moet wachten tot jouw fab, waar die chips met lithografie gemaakt worden, ASML, op ASML machines en dan zeggen: nou, hopelijk over een week en dan: nee, hij doet het niet en dan gaan we weer opnieuw.
Aha. Ik, uh, hier heb ik geen geduld voor, dus ik ben heel benieuwd hoe je dat- Ja, hoe je dat doet. Ja. Dit is eigenlijk, dit is eigenlijk, het gaat over: hoe creëer je zo'n chip? Hoe maak je een processor?
Ja, en hoe, hoe zorg je ervoor dat je kan experimenteren? Ja. Geluk-gelukkig zijn processoren uiteindelijk gemaakt van onderdelen die we, b-, ongeveer begrijpen. Die kun je kar-karakteriseren.
Er zitten allemaal gates in, er zitten geheugentjes in en dat soort dingen. En dus je kan, op je computer kun je simuleren wat hij zou doen.
Je kan hem alleen natuurlijk nooit op dezelfde snelheid runnen als de snelheid waar je hem op zou willen doen.
Maar je kan als het ware, laten we zeggen op eenduizendste of misschien eenmiljoenste van de snelheid van het ding wat je daadwerkelijk gaat ontwerpen, kun je simuleren wat hij zou doen. Zo vet dit, zo vet!
Het is als een soort van een, een landkaart op een-op-één grootte, zeg maar. Precies. Je hebt er geen fuck aan, maar het, het kan wel. Ja. En dan om, en dan, het echte werk zit hem er in de landkaart kleiner maken.
Dan pas wordt het namelijk f-fijn voor een consument die in een auto zit en, weet je, kan navigeren daarmee.
Maar zo zeg je: zo kun je een een-op-één landkaart maken op je computer, alleen je hebt er geen fuck aan, want het gaat heel traag. Maar je kan wel- Maar het is wel een goede manier om nog steeds te kunnen itereren.
En dus relatief kleine programma's zou je kunnen draaien op die manier. Dus bijvoorbeeld één laag van een neuraal netwerk zou je kunnen proberen en dan moet je drie dagen wachten en dan, dan komt ie uit.
Ja, want het is, het is een virtuele machine, alleen met een architectuur die- Die je zelf hebt ontworpen. Wow, wat gaaf zeg!
Maar daar heb je dus ook al wel een compiler voor nodig en dat soort dingen om dat te kunnen doen. Ook allemaal ontwikkeld toen? Ja.Ja, ja. En wat was jouw rol? Rol daar dan?
Ik zat aan de product kant, dus het was heel erg uitvogelen waar gaan die machine learning modellen naartoe? Want toen was het allemaal CNN, dus modellen waar je plaatjes heel goed mee kon doen.
Het was voor een deel LSTM, dus dat waren eigenlijk een beetje de voorlopers op de op de transformer, zeg maar GPT. De T in GPT is transformer achtige modellen.
En dus ik sprak toen al met mensen die bezig waren met de eerste transformers en die zeiden van ja, weet je, over drie jaar, als dat ding er eindelijk is, dan gaan we dit soort dingen ermee doen.
Dus je zei we waren bezig, ik zat bij product en we waren bezig om om te bekijken waar het heen ging met die modellen. Aan de ene kant plaatjes maken en aan de andere kant transformers om taal modellen te kunnen maken.
Dat we dadelijk op die transformers ingaan. En jij moest een soort van proberen te voorzien waar in de sector behoefte aan zou zijn of waar binnen Google behoefte aan zou zijn. Ja, eigenlijk in de sector.
Dus waar wat voor modellen die. Deze chips kun je ook gewoon via Google Cloud huren, dus we moesten wel begrijpen wat er wat er aan zat te komen. Ja, plaatjes. Wat bedoel je met plaatjes?
Generatieve AI om plaatjes te maken? Nou ja, in het begin was het vooral voorspelling. Dus bijvoorbeeld als je in de zoekmachine Alexander Klöpping in intypt, dat je dan jouw gezicht krijgt.
Maar dat zijn nog steeds CNN die gewoon een, een voorspelling doen. Nog niet eens zozeer de de zeg maar genererende varianten daarvan. Dus CNN zijn modellen die plaatjes voorspellen.
En, en voor de modaliteit tekst heb je inderdaad nu transformers. Maar wat daar net voor zat waren LSTM. En wat zijn plaatjes voorspellen. Want je zegt nu je zoekt op mijn naam en dan krijg je mijn gezicht.
Ja, dus ik neem aan ik wil, ik wil zeg maar begrijpen welke pixels lijken op een Alexander Klöpping? Dat is uiteindelijk een, een voorspelling zeg maar. Dus als je zoekt. Wat je in Google Lens kan doen. Ja, of je zoekt.
Je zoekt op appel in de. Dus als je. Als je zoekt op appel in de zoekmachine, krijg je plaatjes van appels. Ergens moeten we vaststellen of er een appel in dat plaatje staat.
Ik dacht dat dat ding altijd gewoon naar de description keek bij die plaatjes. Dacht ik ook nee, die kijkt ook naar echt wat er in het plaatje staat. Ja. Ja, en en en.
En inmiddels waarschijnlijk op transformer gebaseerde architectuur. Of zitten er nog heel veel legacy. Ik ben inmiddels drie jaar weg bij Google, dus ik weet niet meer wat ze exact nu gebruiken. Maar ik vermoed van wel.
Wat ik, wat ik meteen nieuwsgierig was, is dan dus dat idee van die transformers die we nu kennen uit GPT. Leg even uit wat een transformer is, want dit is het moment daarvoor.
Ja, een transformer is een machine learning model die heel goed is in problemen en taalproblemen voornamelijk oplossen waarin je een bepaalde input sequentie hebt.
Dus bijvoorbeeld een vraag en een output sequentie, bijvoorbeeld een antwoord. Maar het kan ook iets anders zijn. Het kan een grote lap tekst in en een kleinere lap tekst uit, zeg maar een samenvatting.
Of in het geval van jouw bedrijf een. DNA sequentie in een andere sequentie uit. Dat zijn allemaal de. De grote categorieën noemen de ML mensen sequence to sequence problems. Sequence to sequence problems.
Dat is wat als ik chatGPT gebruik, dat is altijd hoe ik erover denk. Google. Google Translate is precies hetzelfde probleem, dus dit is ook waar ze voornamelijk vandaan kwamen. Dus die.
De meeste innovatie kwam uit menselijke taal, want het is heel makkelijk om te vergelijken of de vertaling klopt of niet.
En was het in die koffieautomaat gesprekken waarin werd gezegd over drie jaar hebben we dit nodig, dus misschien moet er alvast hardware voor komen.
Ook al mensen in die gesprekken die zeiden wacht maar, die transformer modellen gaan nog veel meer kunnen en het wordt. Absoluut.
Ik was ook een beetje verrast eerlijk gezegd, dat toen GPT uitkwam, dat iedereen ineens zo'n wauw moment had. Ik dacht maar wacht even, we hebben dit toch al jaren? Oh wat grappig.
Ja, wij dachten dat wij in een kleine bubbel zitten. Alexander Dit is een bubbel in een bubbel man. Maar vertel. Hier eens over, want dit is een beetje het alfadeel van het gesprek. Maar hoe, hoe, hoe kwam, hoe, hoe?
Hoe ging dit inderdaad bij de koffieautomaat? Nou ja, dus. Een van de problemen was dat bijvoorbeeld in Google Translate de vertalingen nog steeds niet heel goed waren.
Dus bijvoorbeeld Engels naar Duits was vrij aardig en Spaans naar Engels en dat soort dingen. Maar voor heel veel talen. Ik bedoel, jullie zullen vijf jaar geleden Google Translate ook wel eens gebruikt hebben.
Voor Nederlands was het gewoon niet heel goed. En dat kwam ook omdat eigenlijk bijna voor ieder taalpaar hadden ze wel weer een ander model en er was allemaal een soort van houtje-touwtje dingen inge, ingeklust.
Op een gegeven moment was er de, de realisatie. Wacht even, er zijn. Er zijn twee dingen die we niet doen met die LSTM. Het eerste is we kijken eigenlijk alleen maar vooruit. Dus je kan die LSTM alleen maar.
Dat is in is tijd variant. Dus je kijkt naar woord. Wat komt er na dat woord? Wat komt er na dat woord? Wat komt er na dat woord? Wel tekst predictie? Ja, er was al voorspelling, alleen je kon niet terugkijken.
Dus je kon niet kijken. Oh, een woord wat ik later genereer. Relateert dat nog terug aan het woord wat daarvoor zat? Bijvoorbeeld bijvoorbeeld Alexander Klöpping is een slager.
Je kon niet van slager teruggaan en dan corrigeren. Wacht even. Oh nee, wacht even. Dat klopt helemaal niet, want dat dat, dat die die relatie bestaat. Alzheimer.
Ik bedoel even heel gek, maar misschien is het een zware term, maar er zat geen geheugen in. Dus dan gaat het weer. Nou ja, hij kon niet. Kon niet backcasten. Hij kon niet terug inderdaad.
Dus dat is het eerste, het eerste innovatie. De tweede was dat noemen ze attention. En dus hij kon niet aandacht geven en snappen hoe bepaalde concepten met elkaar gerelateerd zijn.
Dus de manier waarop je eigenlijk een transformer traint is je pakt een zin en net als op de basisschool ga je woorden weghalen en dan ga je kijken welk woord vult hij in.
Dus als het is Alexander is een podcast host, dan krijgt hij punten. Als het is Alexander is een slager krijgt hij geen punten.
Als je dat doet voor alle zinnen op het internet en je houdt steeds meer woorden weg, krijg je in principe GPT. Dat is een beetje. Te. Simpel gestart, maar daar komt het wel op neer. Want het is.
Je kan steeds langere vragen en steeds langere antwoorden krijg je. En met vertaling werkt natuurlijk precies hetzelfde. Dus.
Maar het tweede inzicht was, is dat woorden kunnen over hele lange afstand een relatie met elkaar hebben. Bijvoorbeeld in mijn geval Stefan Grieke heeft aan de Rijksuniversiteit Groningen gestudeerd.
Er is een hele, hele sterke relatie tussen Rijksuniversiteit en Groningen.
Zullen we gewoon afspreken dat jij je introductie alsnog doet door zelf constant in de voorbeelden jezelf in te weven met je backstory?Is dat een universiteit? Helemaal mooi. Nu weten we waar je gestudeerd hebt.
Ja, precies. Maar dus die twee hebben een grote relatie. Maar een aantal andere woorden in de zin hebben een veel minder sterke relatie. En dus je kan. Je kan je voorstellen dat je een soort van aandacht kan hebben.
Oké, deze aantal dingen, die horen vaak bij elkaar en dus die moet je ook bij elkaar groeperen. Ja, dat noemen we attention. En dat was de tweede grote innovatie die erin zat.
En dat kan natuurlijk over hele lange afstanden. Je kan ergens later in, in een, een verhaal ook weer beginnen over iets waar je drie zinnen geleden over aan het spreken was.
Maar is het dan een soort database die gewoon zegt: deze woorden horen bij elkaar met de factor X? Is dat wat attention dan is in feite? Of. Ja, ze, ze noemen het de, de embedding zeg maar.
Maar inderdaad, je hebt dus een relatie. Er is een waarschijnlijkheid dat een aantal concepten aan elkaar gerelateerd zijn in een zin. Dit is embedding in de zin van dat je.
Embedding is eigenlijk gewoon wat heeft het, wat heeft het model geleerd en hoe representeert het dat?
Dus in het geval van, uh, van een plaatjes model is een embedding space: mensen, microfoons, lampen, zeg maar, dat soort dingen. Het is als het ware alsof je de, de, de,
even denken, de, de, je, je bent de hele tijd labels op dingen aan het plakken en je zegt eigenlijk: hou het binnen de categorie kleren, dan is het makkelijker voor dingen om te voorspellen. En attention is eigenlijk.
Dan hoef je niet na te denken over andere typen objecten. Precies en at-, attention is eigenlijk de relatie tussen bepaalde dingen.
Dus, dus in die, in die embedding space, dus bijvoorbeeld kleren en klerenkasten zijn waarschijnlijke dingen die bij elkaar horen. Dicht bij elkaar. Ja, maar weet ik veel. Kleren en varkens niet. Ja.
Om maar iets te noemen. Ja. En, en is het dan zo dat, uhm, als ik, wanneer ik een taalmodel download, ik spring even hoor, maar ik denk dat dat misschien wel interessant kan zijn.
Ik download een taalmodel, vier gigabyte. Beetje een crappy taalmodel, een van de open source modellen, maar ik kan er een beetje tegen kletsen. Stel dat ik die zou uitpakken.
Dat kan niet, want het is geen zip-file, maar bear with me, zeg maar. Dus ik ga, ik dubbelklik. Ik verander de extensie naar zip, ik dubbelklik en hij pakt uit. Ik heb allemaal mapjes. Wat zit er dan in?
In, in, wat is het belangrijkste wat erin zit? Wat moet ik er echt niet uithalen dat hij het niet meer doet? Ja, dus je, je hebt een, uh, laten we zeggen een stukje programmatuur. Dat is de graaf, zeg maar.
Dus dat is de definitie van de, de ontwikkelaar van het machine learning model over hoe het model zichzelf moet uitvoeren. En er is een soort van database.
Uhm, en ja, daarin staan de relaties tussen, uhm, ja, verschillende concepten die het model geleerd heeft. Je kan bijvoorbeeld een model hebben wat je niet getraind hebt.
Je kan een ChatGPT die niet getraind is hebben, maar er komt de hele tijd exact hetzelfde uit, zeg maar. En pas als je hem een heleboel data hebt laten zien, kan hij onderscheid maken tussen verschillende concepten.
Ja, want dan heeft, en dat trainen is dan het woorden weghalen en dan laten gokken welk woord er stond en dan dat je achteraf hebt gezegd: dit was wel goed, dit was niet goed. Dus zo hebben we jou.
Ja of, of, het voorbeeld bij plaatjes is: ik heb een, een miljoen plaatjes. Laten we zeggen: de helft zijn van Alexander, zeg maar, en de andere helft niet. Aha.
Uhm, en dan, dan zit er een label op met: is Alexander, is geen Alexander.
En wat je doet, is je gaat er steeds meer doorheen gooien en op een gegeven moment weet hij te differentiëren tussen de Alexanderachtige pixels en de niet Alexanderpixels. Maar dat moet wel gelabeld zijn dan.
Maar dat moet gelabeld zijn. En wat je dan doet, is, daarna kun je kijken naar alle plaatjes die we nog niet gezien hebben in de training waar een Alexander in voorkomt. Ja. Die kunnen we dan ineens.
Maar hoe hebben ze GPT kunnen trainen op al die boeken en publieke data en Wikipedia? Want dat was toch niet gelabeld? Veel van het, nou, het is gelabeld, dat is het leuke.
Het is unsupervised, zeg maar, dus je kan gewoon zinnen erin gooien. Ja, je bedoelt: het is gelabeld doordat je de context van de red, van de Reddit thread weet.
Ja, je weet gewoon de andere tekst in de Reddit thread en je weet de, de, het verhaal in het boek of je weet het artikel dat door de journalist is geschreven en die dingen, ja. Daar kan je gewoon op trainen. Precies.
Ja, ja ja ja ja, ja. We zitten allebei even. Nu ben je naar mij aan te kijken. Ja, nu, nu kom ik, nu kom ik. Moet ik een verduidelijkende vraag stellen? [lacht] Ja, we zijn niet metafoor, Alexander.
Maar als je, als je nu in één zin zou moeten zeggen wat een trans-, niet, dat is flauw, misschien in één zin, maar als je, als je, als je moet, zou moeten beschrijven: wat is een transformer? Dan is dat.
Een machine learning model wat van een inputsequentie, dus een vraag of een, iets wat je wil vertalen naar een output kan, zoals een antwoord of een vertaling. Maar is GPT4 dan een transformer model?
Ja, ja, letterlijk de laatste T staat voor transformer. Ja. Kijk aan. Want ja, precies, ja, want de, wat was het? Een general predictive transformer of ik weet het eigenlijk niet. Waar stond het ook alweer voor?
Ik weet ook niet meer exact wat het was. Maakt ook niet uit. En er zitten nog een aantal dingen.
Dus wat wel grappig is, is dat, het is een beetje vroeg voor mijn gevoel voor GPT nog steeds, omdat die modellen, dus de reden dat ze bijvoorbeeld ook vaak liegen is omdat ze dingen tegenkomen die redelijkerwijs bij elkaar horen, waarvan wij als mensen heel intuïtief kunnen zien dat dat bullshit is.
Ja. Uhm, en het probleem is dat hij wel heel goed weet hoe je overtuigende tekst moet schrijven. Ja, het is een bluffer. Dus je krijgt heel veel bluf inderdaad.
En, en er is geen manier voor het model om dat te weten, want het is heel redelijk dat die dingen bij elkaar voorkomen. Maar als ik dan nog even terug mag naar die koffieautomaat, hè.
Wij, kijk, Alexander en ik testen op een dag ChatGPT. Trouwens, wij waren ook in OpenAI Labs al een beetje aan het pielen in GPT3 kan ik me herinneren, want toen spraken wij elkaar al en toen waren we al onder de indruk.
Maar tegelijkertijd was het nog een beetje prematuur. Maar intuïtief hadden wij en met ons velen zoiets van: hé, hier gebeurt iets. Blijkt dat jij jaren daarvoor al bij de koffieautomaat stond en zei: hier gebeurt iets.
Waarom ben je de straat niet opgegaan? [lacht] Hoe heb je nog kunnen slapen? Ik snap het gewoon even niet. Nee, want voor ons was het echt een soort van boem, toch?
Het was voor mij ook een van de redenen om hieraan te willen werken. Dit is zeg maar een supervette technologie. Ja.
Kijk, toentertijd, voor, voor ieder machine learning model geldt altijd: er is een manier waarop je vaststelt of het een goed machine learning model is of niet.
En dus GPT 3.5, een van de manieren om dat te meten is: hoe truthful ben je bijvoorbeeld? Hoe vaak vertel je de waarheid of niet?
Nou, je kan bijvoorbeeld één miljard feiten verzamelen als vragen en dan kun je kijken: wordt het beter of niet? Ja, een score. Veranderen, gewoon een score. Of je kan kijken naar freshness bijvoorbeeld.
Is hij actueel of niet? Dat is natuurlijk bij GPT af en toe ook wel eens een probleem dat hij, dat hij. Ik heb geen idee wat er in de laatste drie maanden is gebeurd. Knowledge cut off. Problematisch, zeg maar. Ja.
En zo zijn er, dus freshness noemen ze dat vaker. Dus er zijn veel van dit soort manieren waarop je kan vaststellen: is dit een goed model of niet? Ja, ja. Belangrijkste metric voor mij is truthfulness.
En 3.5 was volgens mij iets van 60% truthful.Ehm, dat is niet heel hoog, zeg maar. Dus de kans dat hij iets zegt wat onwaar is, was, was zeg maar 40%.
Ehm, dat is inmiddels beter geworden, maar nog steeds zijn er, zijn er best wel veel situaties waarin je dat heel lastig kan vaststellen.
Dus bijvoorbeeld ikzelf gebruik het wel voor dingen als: maak een betere zin voor dit of dingen waarvan ik zelf kan beoordelen of het waar is of niet. Ja, ja. Ik gebruik het eigenlijk niet voor- Feiten.
Retrieval, zeg maar. Dus vind informatie voor mij die ik, waar ik van belang vind.
Misschien is dat ook nu niet, hè, als in, want dat, misschien is GPT-4 of welk model dan ook of in, het in Bing gebruiken is een beetje tricky van Microsoft dat ze het in Bing hebben gedaan, want daardoor krijgt het een beetje die context van zoeken.
Je krijgt dat gevoel. Ja, precies. Maar het is geen encyclopedie.
Nee, en, en, het, het tweede, dus, wat ik, als ik, uh, laten we zeggen productmanager bij OpenAI zou zijn geweest is, en dat is nog een open, open, uh, research op dit moment, uh, is introspectie, hè.
Dus kun je, kun je aan hem vragen: waarom zeg je dit? M-hm. Zodat je referenties krijgt of feiten waarop je dat baseert, want dan kun je de bron, uh, valideren. En kan dat? Nee.
Of in ieder geval, er is research waarin dat begint te komen nu, maar ik denk dat, dat de grote volgende stap gaat worden, dat ChatGPT zou zeggen: dit is het antwoord, want deze sources.
Ja, en hoe zie, hoe, hoe ziet die research, die vroege research eruit? Zeg maar, hoe werkt, hoe werkt introspectie?
Het probleem is een beetje dat, je hebt net als bij een mens, je hebt een soort van miljarden neuronen die in een bepaald patroon vuren en er komt een antwoord uit.
En net als dat ze, zeg maar, niet, als je, als je iemand in de rechtbank zet, dan zeggen ze ook niet: goh, wat was de stand van je neuronen, zeg maar, toen je dit deed, zeg maar.
Hè, dus uitvogelen wat de relatie is tussen dat antwoord en, en alle, nou ja, inputs op dat moment, dat is, dat is een lastig probleem. Ja. En dus, uh, ja. Wat maakt je dan hoopvol dat dit gaat gebeuren?
Nou, er zijn een aantal demonstraties geweest van mensen waarin ze voor bepaalde typen problemen hebben laten zien dat je dat kan doen.
Uh, en dus ik hoop dat er, dat er- En wat zag je dan gebeuren voor die typen problemen? Nou, bijvoorbeeld dat je, dat je in de wiskunde kan zeggen: hoe kom je tot dit antwoord, zeg maar. Ja, ja, ja.
Dat ie kan zeggen: oké, dit is, dit is, dus de stappen die ik gezet heb om dat te doen. Als een leraar die- Als een leraar. Uitlegt hoe een rekensommetje gemaakt moet worden. Ja, exact.
En de, de vraag die natuurlijk in de lucht hangt nu: waar gaat het dan nu over bij de koffieautomaat? Ja, er zijn, er zijn een paar dingen. Dus de, de eerste is, uh, multimodaliteit. Ik schrijf mee.
Uh, multimodaliteit betekent eigenlijk, hè, we hadden het er net over dat we begonnen met, we hadden modellen voor plaatjes. We hadden modellen voor tekst. We hebben bijvoorbeeld ook modellen voor robots.
En bijv-, één, één supercool ding wat op dit moment gebeurt in robotland is: ze kunnen dit soort technieken toepassen om als het ware die transformer een plaatje te laten pakken.
En die ziet: oh, hier in beeld staat een microfoon, ik moet deze microfoon oppakken. Ondertussen kan die een andere routine aanroepen om, zeg maar, het aangrijpen te doen.
En dus alle robotmensen zijn een soort van: whoe, weet je, kunnen eindelijk- Een stappenplan maken om door een kamer heen te kunnen.
Kunnen we soort van zowel navigatie als, zeg maar, interactie met de omgeving zoals wij, soort van intuïtief begrijpen hoe je iets moet aangrijpen, waar je het naartoe moet brengen. In één model. In één model.
Maar hoe, hoe, hoe kan dat? Hoe kan dat? Want, uh, met ChatGPT, dat begrijp ik ook niet aan, aan, aan al die laatste ontwikkelingen met ChatGPT. Ja, hoe kan die foto's herkennen?
Het laatste model is multimodaal omdat hij foto's kan herkennen. Ja, hoe kan dat? Maar hoe, hoe kan een taalmodel foto's herkennen? Ja, dus, ze, er zijn twee oplossingen voor.
Het eerste wat je kan doen is gewoon, e-, uh, je noemt het één model, maar eigenlijk zijn het een paar verschillende modellen die, uh, geleerd hebben om met elkaar samen te werken. Is dat dan anders dan multimodaal?
Dat is nog steeds multimodaal, want jij, jij kan met plaatjes, als eindgebruiker kun jij gewoon met plaatjes en met andere dingen werken. Ja, oké, oké. Je hebt ook, uh, vision transformers.
Dat is nu een nieuw gebied, uh, waar ze ook transformers gebruiken om beeld te doen en die zou je in theorie, soort van- Maar is GPT-4 Vision, zoals ze het marketing noemen, is dat al zo'n vision transformer?
Ze zijn, ze zijn gestopt met uitleggen wat ze doen. [gniffelt] Dat is een beetje lastig. [lacht] Is niet heel open. Vroeger was het allemaal open AI en nu is het allemaal proprietary AI.
Uhm, dus dat weet ik niet, maar dat zou goed kunnen. Ja.
Maar als je zegt multimodaal, dan betekent dat voor de gebruiker, dus dat in, in dit, dat kan zijn voor de gebruiker in het geval van de gebruiker van ChatGPT kan het zijn, kan ook audio of video herkennen. Ja.
Dan, dan is dat een uiting van een multimodiaal model, ondanks dat onder de motorkap er verschillende modellen naast elkaar draaien. Correct, ja. En wa-, wat is dan precies de innovatie daar?
Dat, dat snap ik, dat snap ik dan niet. Dat je één manier hebt om het aan te roepen allemaal, dat je als gebruiker. Ja, dus dat is wat het nu is.
Ik vermoed ook dat, dat er gedeelde kennis in die modellen op een gegeven moment opgeslagen gaat worden. Dus dat je bijvoorbeeld alles wat we weten van Alexander kun je uit wat hij schrijft halen. Ja.
Maar je kan bijvoorbeeld ook naar alle video's kijken, zodat je zou kunnen zeggen: Alexander is in- Juist. Amsterdam geweest op deze plek of dat soort dingen. En dat dat ding slim wordt in die relaties. Exact, ja.
Oké, en, en je zegt: dat vind ik hoopvol. Hier hebben we het over bij de koffieautomaat. Multimodale taalmodellen. Die is leuk. Ik denk- Waarom? Waarom is die leuk eigenlijk?
Nou ja, omdat je, omdat, mensen zijn niet, m-, uh, eendimensionaal. Als in: er is niet één modaliteit waar je vaak- Bijvoorbeeld taal. In wil werken.
Ja, dus een, een heel concreet voorbeeld: misschien doen jullie je boekhouding hier en dan scan je je facturen en die wil je graag ergens in terecht hebben.
Op dit moment zou je niet de vraag kunnen zeggen: in dit mapje staan mijn facturen. Vul uit wat erin staat. Ga dan exact in, zeg maar, boek al die dingen en dan ben ik er klaar mee.
Dus je kan, daar zit in: scannen, zeg maar, plaatjes herkennen. Daar zit in: interpretatie van jouw opdracht en daar zit in, uh, het controleren van, hè, dus het besturen van wat er in je, in je, in je computer gebeurt.
Dat zijn drie modaliteiten die je nodig hebt om die taak te kunnen uitvoeren. Mhm, mhm. En dus ik denk dat we steeds meer dingen gaan zien waar verschillende modaliteiten geblend worden.
Uh, hè, dus audio, spraak, uh, plaatjes, tekst. Laten we hier toch even induiken. Dus voor OpenAI bijvoorbeeld, die dit wil, want we zien dat ze, en Google ook.
We, we praten de hele tijd over OpenAI, maar eigenlijk in feite is het- En Facebook. En Facebook is op, van, op allemaal toepasbaar. Maar om met OpenAI te blijven gewoon als voorbeeld.
Uhm, dan heb je dus tekstinput, audioinput, vi-, uh, plaatjesinput, fotoinput op dit moment.
W-wat, wat, waar verwacht je dan dat dit na-, a-als jij in het hoofd zou moeten proberen te kijken van, uh, van, uh, Sam Altman, wat hij wil op korte termijn met die multimodale modellen.
Wa-wa- Ik denk dat we op een gegeven moment, uhmIk denk de beste beschrijving kwam bij Marc Andreessen volgens mij vandaan.
Die zei: Het is een grote kans dat we binnen nu en een jaar een soort eiland vinden met honderden miljoenen
mensen die gratis voor ons willen werken in de vorm van, van machine learning modellen die taken voor ons kunnen uitvoeren en die niet, niet echt betaald hoeven te worden.
En dat kan dan bij de gratie van die verschillende functies combineren. Want om een, kijk, een taalmodel nu is inderdaad aan ChatGPT vragen: vat deze tekst voor me samen. Dat is in feite niemands werk.
Er is denk ik niemand die nu denkt: o, nu is mijn baan overbodig. In, in de praktijk nog niet. We kunnen wel voelen dat het daar naartoe gaat of meer daar naartoe gaat.
En dat komt dan bij de gratie van het combineren van verschillende, uhm, ja, funct-functies. Want een belastingaangifte doen is een optelsom van die functies. Oké, ik heb nu heel erg vertraagd, maar dit, ik, ik begrijp.
Nee, helemaal. Ik vind het superinteressant. En dan zeg je dus: als dat kan, dan wordt het interessant om, uh, ja, voor een soort van virtuele arbeidskrachten aan het werk te stellen, want dan.
Ja, voor steeds voor specifieke taken, dus bijvoorbeeld creativiteit is heel lastig. Ik denk ook dat mensen, die willen heel graag interacteren met een ander mens.
Dus alles wat in de hospitality zit of alles wat creatief is, daarvan verwacht ik nog heel lang dat dat niet gebeurt. Juist. Maar ik denk dat heel veel taken waarvan we allemaal op dit moment denken: ugh,
ja, die gaan we wel niet meer zelf doen. Oké, dus dat is punt één: multimodaal. Jij zei: er was nog een ding waar mensen over praten.
Ik denk het tweede is het toepassen op andere domeinen dan, zeg maar, uh, ja, je, je dagelijkse taken en dat soort dingen.
En daar is natuurlijk waar veel van de aandacht naartoe gaat, van: o, het kan nu mijn cv schrijven of ik kan een coole mail doen of weet ik veel.
Maar het is voornamelijk in, in wetenschap en in, uh, het ontwerpen van dingen.
Dus als je nu een beetje naar, naar, ja, verschillende start-ups die bezig zijn in bijvoorbeeld mechanical engineering, waar je gewoon kan zeggen: yo, ik wil graag een computer, die moet ongeveer zo'n chip hebben, die moet ongeveer dit kunnen doen en die, blblblb, zeg maar, ontwerpt dan in 3D hoe dat ding eruit zou moeten zien.
Spuugt meteen uit wat je, zeg maar, naar de verschillende, uh, fabrikanten zou kunnen sturen. Ja, misschien heb je nog een paar parameter sliders waardoor je kan zeggen groter en kleiner.
Ik heb letterlijk een demo gezien toen van die, van die, uhm, was het de, de Apple 10, zeg maar, die, die, die, die cilinder, zeg maar, die desktopcomputer. Die scan. Ja. Ja, precies. Ja. Ja.
En dan, dan zeggen ze: o, er zit nu een grotere GPU in en dan, whoep, de fans worden groter, de outlets worden groter, zeg maar. O, wauw.
Het is een parametrisch ontwerp, maar dan in combinatie met, uh, ja, iet-- want, en dat zijn dan, uh, ook nog wel transformers, maar niet meer taalmodellen waarschijnlijk. Maar. Nou ja, ook multimodaal inderdaad. O, ja.
En dus dingen als, weet je, architectuur. Ik wil een gebouw. Juist. Weet je, of ik wil, uh. Een vliegtuig. Een vliegtuig. Ja, dus, uh, die categorie is leuk.
Elektronica, dus wij hebben die processoren nog echt met de hand, zeg maar, nou ja, met tools ontworpen door mensen. Ja, met Paint. [lacht] Dat gebruiken jullie bij Google. Ja, gewoon lekker.
[lacht] Lekker lijntjes trekken. Maar serieus, dat is gewoon een, een, een, een, een plattegrondje tekenen. Sterker nog, dus je hebt al, er is zelfs een paper van Google geweest en die is geschreven nadat ik weg was.
Maar die ideeën waren er toen al wel van: kunnen we niet, zeg maar, chips ontwerpen, dus die logica ontwerpen met hulp van- Ja. Ja, tuurlijk. Met hulp van machine learning modellen. En werkt dit? Ja. Ja.
Dan zit je een beetje op Ray Kurzweil-terrein, hè, die echt zegt van: ja, wat als het op zichzelf gaat invoeden, zeg maar. Dus je krijgt een soort loop.
Al moet ik, al moet ik heel eerlijk zeggen dat, die kant, dat is ook een beetje wel, het is ook wel een beetje Europees, heel eerlijk gezegd.
Maar het, wat ik altijd heel grappig vind, is, deze vraag krijg ik vaak gesteld als ML-persoon, van: goh, ben je niet bang dat die op zichzelf gaat voeden en dan ineens de wereld overneemt? Runaway scenario.
Dus wat je daarmee zegt is: hé Stef, jij bent in staat om een superhuman intelligence te bouwen, maar je bent echt te dom om een uitknop te maken, zeg maar, weet je. En dat is natuurlijk een beetje raar.
Nou, ik denk, misschien sluit deze vraag hier wel mooi op aan, is dat, ik ben ook wel benieuwd. Kijk, Alexander en ik, ik praat ook even over Alexander, hebben niet de fundamentele kennis om, om dit echt te begrijpen.
Want wij, daarom stellen we zoveel vragen, toch, over AI en wat is een transformer en wat zijn, wat is de wiskunde?
Daardoor is het voor ons ook moeilijk om goed in te schatten, ja, hoe, hoe legitiem is die hype, et cetera.
Wat, volgens mij schatten we dat in door te kijken hoe we het zelf voelen als we ermee werken, wat we om ons heen zien gebeuren, hoe het waarde toevoegt in de samenleving.
Maar dat is, maar dat is niet waar de discussie nu over gaat. De discussie gaat hierover. De discussie gaat niet over waar we het bijvoorbeeld over zouden kunnen hebben: bias.
Die, die modellen kopiëren al onze: we zijn racistisch, we zijn vervelend naar elkaar en dat soort dingen. Mhmm. En wat doen we daaraan? Dat is, dat is present, zeg maar. Dat is een probleem wat we nu hebben.
Nu, jij, jij bedoelt, uh, die, die soort van toekomstangst over een, uh, Skynet overschaduwt en neemt heel veel aandacht weg bij de daadwerkelijke problemen en uitdagingen die we nu hebben.
Over wat vinden we wel en niet acceptabel met dit soort dingen.
Ja, want ik denk dat, waar ik dan benieuwd naar ben in jouw geval, en ik denk dat het ook goed is om over een aantal van die punten te praten waar we dan wel over zouden moeten discussiëren, is, ik ben nog even benieuwd of, uh, kijk, jij zei net: ik was eigenlijk wel verbaasd om wat er allemaal gebeurde in, ik parafraseer even, maar in de samenleving of in de, in de scene van: ho, wauw, wat, wat is er nu?
Terwijl jij denkt: nou, ik ben hier al een tijdje mee bezig. Zo, zo verbaasd ben ik niet. Is het dan ook, hoe legitiem is de hype?
Misschien, ik we-, ik weet, ik kan hem niet mooier stellen, deze vraag, maar klopt het, klopt het met wat er, de aandacht, klopt het een beetje?
Kijk, ik denk dat, uh, de, net als dat we op een gegeven moment spullen zijn gaan mechaniseren en, en ineens stoom hadden en daarna elektriciteit.
Dat was heel nuttig voor ons als mensen, want daar konden we ineens heel veel andere dingen mee doen. Wat we nu aan het doen zijn, is dingen cognificeren. We zijn cognitieve taken aan het automatiseren met computers.
Ik denk dat dat heel waardevol kan zijn en ik denk dat dat een enorme impact kan hebben. Maar ik denk ook dat we heel erg aan het begin daarvan staan nog.
Uhm, en, uh, ja, de, deDat gezegd hebbende er is ook knetterveel hype dus. Dus er zijn heel veel mensen die die dingen roepen waarvan ik denk dat gaat wel heel ver en ik denk niet dat we daar nu al zijn.
Dat is bijvoorbeeld general intelligence en dat soort zaken. Ja. Dus ik denk niet dat we nu heel dicht bij general intelligence zijn. En als we er dichter bij komen, dan gaan we dat zien.
Het is niet alsof dat ineens soort van ontstaat.
Er was een fantastisch XKCD stripje van een aantal jaar geleden waarin dan Google ineens sentient wordt, weet je wel in Mountain View en en, en zie je de soort van de skyline en dan is het the moment Google becomes sentient.
So this is an interesting internet. There's so many things to do here. En dan, weet je, en dan the moment it discovers YouPorn of zoiets. En dan oké, I'm just gonna go to this corner, zeg maar.
Maar dus die hele aanname dat er dat er machine learning modellen gaan ontstaan die zich dan ineens als een soort van terminators gaan gedragen, terwijl wij nog steeds. Die dingen zitten in datacenters ergens.
Die zitten gewoon fysiek staan die ergens. Het is niet alsof die ineens embodied zijn en een soort van datacenter uitlopen. Weet je dus ja, er zijn risico's. Ja, je moet als.
Als bouwer van dit soort dingen die risico's goed in kaart hebben. Je moet zorgen dat je controls hebt op dit soort dingen.
Maar we zijn echt nog vrij ver verwijderd van dat punt waar waar ze ineens wakker worden en de wereld gaan overnemen. Ik denk dat dat dat vrij overdreven. Ben je gerustgesteld Wietse? Wietse is namelijk heel bang.
Nou ja, ik. Ik maak. Ik heb wel zorgen, maar niet, niet per se zo op die. Op een maandagochtend klikt er ergens iets aan en dan is er iets sentient of zo. Want volgens mij is dat gewoon 11111. Ja, hoe noem je dat?
Een gradient of een spectrum? En we moeten nog maar eens zien of we daar. We hebben nog niet eens definities voor mensen. Dus om om te zeggen of. Misschien ben ik niet eens sentient.
Dus ik denk mijn zorg zit hem denk ik meer in dat het wel moeilijk is om dit soort systemen, dit soort processen te anticiperen om echt goede voorspellingen te kunnen doen. Ik denk dat.
Kijk, bij mij zullen geen goede voorspellingen vandaan komen per se omdat ik dus niet op die drie, vier lagen dieper zit van de fundamentele technologie.
Daarom vind ik het ook supergaaf dat je hier vandaag bent en dat Alexander en ik zoveel vragen aan je kunnen stellen in dit. Hoe noem je dat? Fires Fireside gesprek. Maar ik ben. Ik ben wel benieuwd.
Wat jij net zei, vond ik wel mooi om om die, ja, laten we zeggen die angst een beetje te structureren of iets zinvoller te maken dan. Want die angst is intuïtief bij mij. Ik, ik.
Ik denk het gaat snel, er gebeurt een hoop en het is. Het is destructief op de samenleving en ik denk dat mijn. Hoe zeg je dat? These is.
Onder al mijn denken zit het idee dat er een redelijk menselijk tempo is en dat wij niet een onbeperkt wezen zijn. Dus we zitten op een bepaald tempo. En dat met dat tempo bedoel ik 11 tempo van onze gedachten.
Een tempo van ons lichaam. En die kunnen we, die dat lichaam kunnen versnellen door in een vliegtuig te gaan zitten met 900 kilometer per uur. En die cognitie kunnen we versnellen door allemaal augmentation machines.
De elektrische fiets voor de geest is dan nu de de, het cogni. Jij zei net voor mij de term zelfs cognificeren of fantastisch. Dus mijn zorg zit daar dat ik denk dat.
Op een bepaalde manier is het oude wijn nieuwe zakken. De volgende revolutie. Wiel. Vuur. Of het vuurwiel. Waarschijnlijk elektriciteit. Ik zit gechargeerd. En daar is dan nu een volgende revolutie. En het is soort van.
Er zit een soort van bang in, een soort release blank zo. Whoop. GPT4 jou niet, maar voor Alexander en mij wel.
En dan op een gegeven moment gaat het landen embedden in die samenleving en dan vinden we het met elkaar wel weer uit. Ik zeg het bijna. En dat is ook hoe ik er wel over denk, hoor.
Dus als je, als we teruggaan naar het internet en social bijvoorbeeld weet je, de de, de. Ik kan me nog gesprekken herinneren toen wij, toen ik nog studeerde en ik jou leerde kennen.
Ja, dat we dat we zoiets hadden van oh vet, weet je al die dat Facebook, dan gaan we de Arabische revolutie en mensen gaan het allemaal gebruiken voor goed en dat soort dingen.
En toen was het ineens een jaar later was het oh shit. We kunnen het ook gebruiken in verkiezingen in West-Europa en, en, en allerlei ontwrichtende gesprekken op gang brengen in samenlevingen. En oeps.
Onvoorziene effecten. Ja, exact, maar die niemand zag die effecten toen ook. Het ging in het begin heel erg over wat zijn de. Wat zijn alle
mogelijke soort van coole manieren waarop mensen over de hele wereld met elkaar verbonden gaan worden? Ik denk dat hier. Er zijn waarschijnlijk een aantal dingen die we nu correct hebben en risico's die we die we
zien en waar we op moeten acteren. En er zijn waarschijnlijk dingen die we nu helemaal overschatten en die eigenlijk best prima zijn. Laten we het over die risico's hebben, want je noemde al bias.
Je hebt de hallucinaties genoemd. Ja, dat is truthfulness. Dus is iets eerlijk en bias is de tweede, dus het kopieert omdat het uiteindelijk getraind is op alle dingen die wij zeggen. Houd het ons een spiegel voor.
Ja, en het. Het laat ons precies zien hoe wij met elkaar omgaan en praten. En het punt alleen is dat heel veel mensen en ook commentatoren die vinden dat niet leuk om te zien en dus moeten we daar correctie.
Hoe bedoel je? Vind het niet leuk om te zien. We vinden het niet leuk als een machine learning model tegen iemand scheldt of zo. Ja, precies. Of of evident onwenselijk. Ja, het is evident onwenselijk. Ja, exact.
En ik denk dat die spiegel waar jij het over hebt en de wij waar je over spreekt ook wel te maken heeft met die hele bups aan data. Van Reddit tot en met Wikipedia tot en met publieke domein boeken.
Ja, die hele bups aan data waarop getraind wordt. Die, die, die, die, die genoeg structuur bevat zodat je daar zinvol zinvolle netwerken uit kunt laten ontstaan. Dan is het ook weer zo ja, waar kwam die dataset vandaan?
Want als het inderdaad het hele Engelstalig sprekende internet was, dan krijg je de bias mee van iedereen die Engels spreekt. Maar als je hem had getraind op alle tekst die in India aanwezig is. En dit zijn.
En dit zijn hele fundamentele vragen die je uiteindelijk echt als samenleving moet oplossen.
Dus als jij, als jij zegt als Nederlanders wij willen graag een lekkere kaas, GPT zeg maar, weet je die gewoon lekker verhollandiseerd is, dat vinden we belangrijk. Dat is een keuze. Dat kun je doen.
En dat is dat bijvoorbeeld mensen. Dat is niet waar ik achter sta. Maar mensen in Saoedi-Arabië zeggen wij willen geen plaatjes op het internet van vrouwen. Ja. Maar wat zou een kaas? GPT Hoe zou dat zijn?
Je zou prima tegen tegen open AI kunnen zeggen we willen gewoon dat je alleen maar finetunen op het Nederlandse corpus zeg maar. Dus dat je dat je Nederlandse taal prioritiseert boven, boven andere talen.
Juist, dan krijgt. Het hele volk een spiegel voor.Nou ja, of je dat leuk vindt, daar kunnen we dan een gesprek over hebben. Maar inderdaad, ja. Maar, maar, maar uiteindelijk zijn dit systemen die je kan ontwerpen.
Dus, dus bijvoorbeeld toen een aantal jaar geleden werd mij ook wel eens de vraag gesteld: oh, als een zelfrijdende auto mag kiezen tussen A en B, wat moet het dan doen bij het computer?
En mijn antwoord daarop was: ik ben een programmeur. Vertel jij het maar. Je kan kiezen, zeg maar. We kunnen dit beide maken. Hij kan het oude vrouwtje overrijden. Hij kan ook.
Jij zegt: dit is een democratieprobleem in plaats van. Dit is een democratisch probleem. Uiteindelijk gaat dit over wat willen wij en, en welke regels zetten we daaromheen?
Maar om het over bias te hebben, wat, want wat zie, wat zie jij als voorbeelden die problematisch zijn met betrekking tot bias die anders zijn dan wat veel genoemd is, zoals racisme, zoals inderdaad,
sommige, sommige teksten zijn duidelijk te west-, heel erg westers georiënteerd en daarmee negeert het een heel groot deel van de wereld. Wat vind jij bias dus om serieus te nemen?
Ik denk zeker waar bijvoorbeeld dit soort technologie toegepast gaat worden om beslissingen te nemen. Dus stel je voor je bent een grote verzekeraar en, en je gaat besluiten: we hebben nu GPT.
Mag jij een verzekering ja of nee? En die gaat lekker het internet af kijken naar alle dingen die je getweet hebt en zo. En op basis daarvan besluiten. Rijd je een beetje lekker en dat soort dingen. Ja.
Het zou bijvoorbeeld heel fijn zijn om te weten of dat gebeurt of niet. Ja, daar is die introspectie voor nodig. Daar is introspectie, maar ook transparantie vanuit de leverancier.
Dus ik kan me heel goed voorstellen dat zo'n model heel snel leert, oh, mensen die de hele tijd een bepaalde type auto's rijden, ja, die moet je gewoon een dikke rekening sturen.
Want er zijn veel mensen die, die plaatjes hebben op het internet waar ze, waar ze heel hard rijden met die type auto's. Precies. Juist.
En, en, en de ergere variant daarvan zou zijn: ik heb een machine learning model die bijvoorbeeld, ik heb een coole tandenborstel met wifi.
Weet je wel, die tandenborstel die gaat iedere dag aan insert verzekeringsmaatschappij laten weten of ik netjes gepoetst heb of niet. Ja. En je krijgt je korting op je zorgverzekering.
Dat is superleuk, maar dat gaat dus uiteindelijk ertoe zorgen dat mensen die, die korting nodig hebben allemaal onder controle van dit soort incentive schemes komen te staan.
En uiteindelijk computers en rijke mensen zoiets hebben van: ja, weet je, het zal wel. Ik, ik poets lekker wanneer ik wil.
Denk je dan niet dat, want volgens mij, jij zei net eerder: het gaat er uiteindelijk om wat we willen. Daar stel ik allemaal vraagtekens bij. Weten we dat eigenlijk wel als samenleving?
Daar kunnen we misschien ook werk, aan werken om erachter te komen wat we eigenlijk willen. Maar, dus dat is even een vraagteken dat ik heb. En volgens mij is, mag jouw tandenborstel data verzamelen, punt één.
Dan mag die data verkocht worden aan verzekeraars, punt twee. En dan mogen die verzekeraars het gebruiken om jou af te wijzen. Transparant of dan al niet ontransparant, punt drie.
Dat ik denk daar is uiteindelijk, als je de technologie gaat ontwikkelen, heb je alleen nog wetgeving, want de technologie is er, dus dan moet je, dan moet je iets met wetgeving gaan doen.
En wetgeving wordt dan gemaakt door, ja, een groep mensen die het volk representeert en door het volk aangespoord wordt om die wetgeving te maken. Of door een denktank of iets.
Daarin zitten wel een, een hoop zorgen van mij dat ik me afvraag, omdat het zulke, ja, niet transparante technologie is, laat ik het dan zo noemen.
In het geval van OpenAI is het, is het zelfs een soort grap geworden inmiddels. Het is het minst transparante wat er is.
Dat, dat, en dat is datgene wat nu gewoon publiekelijk beschikbaar is en door, ook door mij dagelijks gebruikt wordt.
Dus ik, ik ben dan wel benieuwd, als het inderdaad zo is dat de democratie, wij als mensen hier beslissingen over moeten gaan na-nemen en na moeten gaan denken: wat willen we eigenlijk dat mag, wat willen we eigenlijk dat kan, dat, dan, dan moet je daar ook wel een soort voorlichting gaan doen en uit gaan leggen en af gaan dwingen dat we met elkaar gaan begrijpen hoe dit werkt en wat het kan doen en hoe dit werkt.
Niet eens fundamenteel, maar wel wat het kan doen. Want in mijn bubbel als ik praat over privacy en data niet delen is het vooral: joh, doe niet zo moeilijk. Door die stomme AVG moet ik overal formulieren invullen.
Dat is een beetje het level. Maar dat is ook de implementatie die niet heel handig is geweest natuurlijk, dus daar heb je last van. Maar dat betekent niet dat de vragen die je stelt niet correct zijn. Ja.
Kijk, ik denk er zijn, ja, overheden kunnen reguleren, journalisten kunnen vragen stellen. Dus je kan, je kan aan OpenAI vragen, de papers over: hoe beoordeel je of een, of een taalmodel zijn best doet of niet.
Die bestaan, die kunnen jullie lezen en je kan vragen stellen aan OpenAI en zeggen: how truthful is GPT-4? Zou je dat willen publiceren, alsjeblieft? Hoe vaak liegt dit ding? Hoe vaak discrimineert hij?
Hoe zit dat in Nederland? En ja, als het antwoord te lang no comment blijft, ja, dan moet je wellicht een breder gesprek gaan voeren. Maar er is een rol weggelegd voor journalistiek.
Er is een rol weggelegd voor overheid en er is een rol weggelegd voor bedrijven zelf.
Dus ik kan me heel goed voorstellen dat je als verzekeraars misschien op een gegeven moment zegt: joh, we hebben geen zin in een samenleving die zo geautomatiseerd is dat het, dat het gaat segregeren.
Dus dat gaan we gewoon niet doen. Maar het is wel een grappige tegenstelling die jullie maken. Want aan de ene kant hebben jullie het over de technische bias. Hoe werkt bias?
Wat kan je eraan doen om dat technisch te voorkomen? Dat zijn technische vragen.
En aan de andere kant heb je dus het maatschappelijke kant, namelijk: wat vinden wij als maatschappij eigenlijk wat de regels zouden moeten zijn waar die, die AI-bedrijven zich aan moeten houden.
Of kleinere groeperingen. Dus ik zit in de biotechnologie en we hebben hele duidelijke afspraken met elkaar gemaakt over welke dingen je wel en niet gaat doen in de biotechnologie. Zelfregulatie. Exact ja. Oké.
En dat kun je doen. Dat geeft jou misschien ook wel je, in mijn ogen dan terechte, of in ieder geval, ik snap jouw intuïtie dat je zegt: dit kunnen wij. Of ik leg het even woorden in je mond, hoor. Maar dat je zegt: joh.
Thanks. Ja, nee, dat wil ik er even bij zeggen, want dit zei je niet. Maar [lacht] dat ik het idee heb hoe je overkomt.
Dat je zegt: nou, ik, ik zie wel mogelijkheden om dit met elkaar in, je noemde net de drie, de drie pijlers en er zijn nog wel meer. De, de, de politiek, de journalistiek en de bedrijven zelf of organisaties zelf.
En die hebben allemaal verantwoordelijkheden en die moeten allemaal elkaar een beetje in balans houden.
Ik zou iedere industrie, bijvoorbeeld in Nederland, die werkt met dit soort modellen oproepen: maak een, een, een set of guidelines of een code of ethics over: wat vind je belangrijk voor dit soort dingen?
Maar ik denk dus dat in die biologie dat daar een, door de mensen die in die industrie werken of in dat werkveld, kan ook academisch zijn, intuïtief, dit is mijn aanname, hoor, en dat is wat ik zie, laat ik het dan zo zeggen, subjectiefEen soort van ja, natuurlijk moeten we onszelf reguleren.
Natuurlijk moeten we hier niet zomaar iets mee doen, want voor het weet heb je iets van contamination of iets anders binnen. Binnen die, want die biologie is zo'n venijnig vloeibaar ding in mijn slechte metafoor.
Ik vraag me af of dat of diezelfde intuïtie ook aanwezig is binnen die meer technologische wereld waarin toch dat idee bestaat. Die computer doet alleen maar wat ik wil,
terwijl die biologie doet niet alleen maar wat jij wil, toch? Vraagteken. Het is absoluut waar dat dat software veel deterministisch is dan biologie? Absoluut.
Ik denk ook dat het zo is dat dat biologie een goed voorbeeld is van een industrie die zichzelf reguleert en en safety heel erg serieus neemt. Ik denk ook dat cultureel.
Software is natuurlijk veel groter en er zijn veel meer actoren die die daarin in actief zijn op dit moment. En sommigen nemen daarin hun verantwoordelijkheid wel, anderen niet.
En ja, dat, dat kun je uit callen zeg maar. Maar om een voorbeeld te noemen dus Google, mijn voormalige werkgever, krijgt vaak de wind van voren.
Maar als je kijkt naar, naar bijvoorbeeld privacywetgeving de meeste dingen bestonden al toen, toen GDPR geïntroduceerd werd in de meeste producten van Google toentertijd.
Als je kijkt naar wat er nu met AI gebeurt Google had volgens mij vier jaar geleden al guidelines over hoe we dit wel en niet gebruiken. Niet in militaire dingen. En dus de, de.
Ik denk, de kunst is ook heel erg vinden wie, wie zijn degene die niet dat gesprek aangaan en die,
nou ja, misschien onbewust dingen doen die niet de bedoeling zijn of die we misschien onwenselijk zijn, daar het gesprek over aangaan en misschien een iets minder adversarial manier ook ik.
Ik heb soms zelf als technoloog wel eens het gevoel gehad van het is altijd lekker een scoop, weet je wel, ik ga even lekker lekker prikken zeg maar. En het is minder prikken. Journalistiek.
Het is veel minder een gesprek, zeg maar. En het stomme hiervan is het is uiteindelijk gewoon engineering. Dus we kunnen die dingen maken en we kunnen ze dingen laten doen en niet doen.
Ja, en daar kun je gesprekken over hebben. We hebben het nu over bias. Ik ga proberen toch structuur aan te brengen.
Wytse We hebben het over bias en dan hebben we het nu over de technische kant en de maatschappelijke kant. We zijn nu de maatschappelijke kant ingedoken en dan heb je het over bijvoorbeeld journalisten.
Wat zou je journalisten adviseren of vragen? Wat zou jouw wens zijn voor. Ik zou veel meer de diepte ingaan. Dus eerst eens vaststellen wat zijn nou een beetje de thema's die belangrijk zijn? Dus binnen die bias.
Er zijn heel veel verschillende papers geschreven over wat zijn de verschillende risico's die aan de huidige generatie machine learning modellen vastzit. Als je een beetje deskresearch doet, dan kom je daar echt.
En dan gewoon eens kijken. Oké, waar zijn dan de plekken in Nederland waar je daar een groot risico mee loopt? En ga eens met die bedrijven in gesprek. Met betrekking tot bias.
Met betrekking tot bias en of dat dan is discriminatie. Of dat het dan is voortrekken van bepaalde bevolkingsgroepen. Of dat is gender. Dat maakt in die zin allemaal niet zo heel veel uit.
Dus kies de thema's die wij als samenleving belangrijk vinden en ga daar achteraan. En politiek. Nou ja, ik denk bij politiek en, en je hebt daar recentelijk ook iets over geschreven.
Daar zit ook nog wel een expertise probleem dat.
Ik denk dat heel veel mensen die wetgeving maken over dit soort mensen hebben nooit in het veld gewerkt en dus die hebben veel minder een gevoel voor wat kun je wel en niet ermee.
En ook een veel minder groot gevoel voor. Dit is een hele makkelijke manier om problemen te veroorzaken, te, te, te verhelpen dan andere.
Om een voorbeeld te geven de andere manier waarop we GDPR helder kunnen doen in plaats van overal vinkjes is aan alle mensen die browsers maken vijf of zo in de wereld zeggen zou je alsjeblieft hier een setting willen maken waar mensen kunnen aangeven dat ze dat niet willen.
Dat je geen cookies wil. Dat had letterlijk honderden miljarden klikjes en RSI armen gescheeld. Dit is wat jij bedoelt met. Er zijn best goede vragen te stellen over cookies. Of dat wenselijk is.
Allerlei allerlei derde partijen die meeleuren. Alleen nu is iedereen boos op cookie meldingen omdat iedere site irritant aan het doen is en dus zijn mensen tegen cookie meldingen.
Maar er kan nog steeds het idee erachter wel goed zijn. En als, als overheid raak je credibility kwijt op die manier, want je maakt het. Je maakt gewoon het internet kut. Maar het is wel.
Dan is het natuurlijk wel interessant dat we zeggen aan de ene kant technologie, de makers, de journalisten en de politiek zijn met elkaar in een ensemble. En die moet. We moeten dit met elkaar uitzoeken.
Dan hebben we het over bias in algoritmen en dat is best wel een krachtige technologie waar we tot nu toe over praten.
Tegelijk vertellen we nu dat het ons niet eens gelukt is in dat ensemble om ervoor te zorgen dat er een setting is voor een cookie wal tot de dag van vandaag.
Dat geeft me dan wat minder vertrouwen in wat we met elkaar kunnen. En dan kan je zeggen de browsermakers in hun W3C in hun consortium willen al heel lang dat vinkje toevoegen. Het is de politiek die het tegenhoudt.
Ik, ik twijfel, ik ben. Ik weet het niet. Ik ben benieuwd wat daar misgegaan is tussen de communicatie, tussen de, de wetgever en de makers en de makers van de van de browsers.
Dus ik vind dat juist een voorbeeld van hoe het nog niet gelukt is juist om die samenwerking goed te doen. Wat betreft die cookie wal. Ik wil ook nog even toevoegen dat en dat is, want dat is wel nieuwer denk ik,
is ja, dat net Alexander over Wietse is bang of er is angst. Ik heb er een angst bij gekregen en dat klinkt misschien negatief, maar dat is eigenlijk niet per se negatief. Is dat, weet je wat ik.
Ik had het net over dat menselijke tempo dat we een bepaald inherent tempo hebben. En mijn zorg daarbij is dus dat dat dit op zo'n tempo gaat, die technologie buiten ons.
En als wij dan niet meer in die loop zitten, human in the loop of minder, dat we dat ook niet meer kunnen controleren. Ja, want nu is het zo dat software op een bepaalde manier wel voor ons werkt.
En systemen werken wel voor ons, want als wij de interface niet meer begrijpen, kunnen we er niet mee werken. Dus wij, wij bepalen toch altijd wel het inherente tempo van technologie.
Hier is de vraag is dat nog zo als je iets meer zelfdenkende technologie hebt? Nou, dat punt is gemaakt. Ik zit nu met een nieuwe. Ik had dus een of. Er is dus een angst. Joh, gaat het wel goed?
Want als het tempo op een gegeven moment te hoog ligt, dan begrijpen we het met elkaar niet meer. En dan gaan we. Gaan we mogelijk in paniek raken en dan krijg je allemaal gedoe.
Maar daarnaast is er ook een angst dat ik denk. Maar wacht even, ik werk hier dagelijks mee.Het voegt best wel heel veel toe aan mijn leven. Ik lees heel veel verhalen van mensen die.
Nou ja, of Alexander en ik kunnen niet goed schrijven en dankzij deze taalmodellen kunnen we ineens schrijven. Ik zie superveel upside. Echt waar, ik zie echt mooi. Maar dat is natuurlijk iedere technologie, hè.
Dus dus de leukste. Je bent ook filosoof, zeg maar. Maar deze discussie is ooit over het schrift ook gevoerd in het oude Egypte van moeten we dat wel hebben?
Want alle, alle normale mensen kunnen ineens hun mening uiten en dat delen met elkaar en zo. En dus iedere technologie komt in golven. Daar is niet zo heel veel aan te doen.
En het is voornamelijk hoe, hoe, hoe organiseer je het proces van de landing? Dus net als toen het internet ontstond. Ik weet nog wel dat ik mijn eerste dial-up modem van mijn pa kreeg en, en, en het internet op kon.
En dat was echt bizar. Je kon ineens contact hebben met mensen in Amerika. Nou weet je nu, maar mijn kinderen zouden lachen om dat als opmerking zeg maar.
En dat was een enorme disruptie van, van hoe we, hoe we met informatie en met communicatie omgingen met elkaar. But we've managed.
En ja, ik denk dus mijn nieuwe angst is dat we, dat we deze technologie op een bepaalde manier, uh, de adoptie minder goed gaat en dat er heel veel tegenstand komt waardoor iets wat in potentie ook heel mooi is juist tegengehouden wordt.
Zeg maar dat. Snap je? Mijn, mijn andere angst is ik kan zeggen: ik ben er bang voor, want het is een inherent slecht ding. Nou, daar geloof ik sowieso niet in.
En dat is een beetje 111 slap idee, want alles heeft een duale natuur en alles is goed en slecht tegelijk. Dat is gewoon moeilijk aan dit soort fenomenen. Aan alle fenomenen trouwens.
En, uh, ik zit nu met een nieuwe angst dat ik denk jeetje, het zou toch jammer zijn als doordat die landing niet goed gemanaged is, er zo'n backlash komt naar deze technologie dat iets wat zo mooi is vertraging oploopt of op een bepaalde manier niet goed niet geïmplementeerd wordt.
Mijn gevoel is dat dit, dit zit veel meer op het niveau van implementatie en mensen zijn vaak heel goed in-- dus, dus laten we zeggen dat let's say Facebook zou echt evil worden morgen.
Dan stopt iedereen ineens met het gebruiken van Facebook en hun, hun incentive is nog steeds wel gewoon blijven bestaan.
Dus survival is voor zo'n bedrijf van belang en dus ze zullen altijd itereren naar iets wat misschien niet ideaal is, maar nog steeds heel acceptabel is voor een hele grote groep mensen.
Dus ik ben daar meestal niet heel erg bang voor. Want zodra dat echt gebeurt, dus stel je voor dat er een, een serieus probleem zou ontstaan met een machine learning model die iets geks doet. En dan?
Het eerste wat er gebeurt, is dat een heleboel staatshoofden, als dat echt op grote schaal is, zullen roepen: stop ermee, klaar.
Of als er een bedrijf is die ineens iets heel geks gaat doen, dan komt dat naar buiten en op een gegeven moment stoppen mensen gewoon met het gebruiken van dat product.
Net als dat ik gestopt ben met het gebruik van Facebook. Niet genoeg mensen, want het zijn alleen maar types zoals jij en ik, zeg maar. Maar op een gegeven moment gebeurt dat.
Ik vermoed, hè, jij hebt het hier eerder over gehad. Ik denk dat TikTok, die krijgen hem nog, zeg maar in de komende paar jaar. Dus er zijn een soort van zelfopruimende mechanismen in, in onze samenleving die dat doen.
Misschien niet direct ideaal, maar ik ben niet heel bang voor de technologie als soort van abstract ding dat dit ineens overneemt.
Ik denk dat we gaan uitvogelen welke, welke, zeg maar, uh, toepassingen acceptabel zijn en welke toepassingen niet.
Misschien over een andere boeg: wat is iets wat jij over AI gelooft wat weinig andere mensen geloven of waar het te weinig over gaat? Ik denk, uhm, dat veel van de aandacht zit op de risico's,
maar niet op de mogelijkheden. Om een hele concrete te noemen in Nederland. Heel veel huisartsen, die hebben twee functies. Het eerste is uitvogelen of je echt ziek bent of niet.
En de tweede functie is, uh, uitvogelen of je direct kan, uh, kan genezen of dat je moet doorverwijzen naar iemand anders. Dat eerste gedeelte, dat kan een computer waarschijnlijk ook doen.
En als die twijfelt, kan die misschien zeggen: nou, ik ga je toch even naar een, naar een huisarts sturen. En als je probeert voor te stellen hoeveel minder of hoeveel meer mensen je zou kunnen helpen
met dat soort type implementaties, dat soort type toepassingen, dat is echt fucking vet. Uhm, en, en veel van de, uh, veel van de discussie gaat over alle mogelijke risico's.
En weinig gaat over: wat zijn een aantal van de grote problemen die we op dit moment hebben en hoe kunnen we die ermee oplossen? Noem nog eens wat dingen die je vet vindt, want we gaan huisartsen helpen.
Nou ja, dus de zorg is denk ik een hele grote belangrijke. Ja. Ik denk dat er heel veel, uhm, uh, bijvoorbeeld wetenschap vind ik een persoonlijk een hele leuke categorie.
We, we, we laten nu bijvoorbeeld mensen, uh, zeg maar een jaar lang review papers schrijven als ze een PhD gaan doen om laten we zeggen uit te vogelen op het internet waar alle kennis die bestond over hun topic is en dat lekker samen te vatten.
Nou, stel je eens voor dat we dat niet meer hoeven te doen en dat wordt al voor je samengevat en je kan daarna echt tijd besteden aan dingen die je echt leuk vindt.
En, en wat er voor mij veel mist in de discussie is dat, weet je, accountants waren in eerste instantie tegen spreadsheets, want ja, hun werk was lekker dingen optellen.
Uhm, en toen die spreadsheet er in één keer was was het: holy shit, ik kan echt heel veel andere coole dingen doen en mijn baan wordt een stuk leuker. Ja.
En, en ik merk, die kant mis ik wel een beetje in de, in de discussie van waar liggen de kansen voor dit soort technologie? Uh, en, en hoe gaan we dat ook echt regelen?
En wat zou je zeggen is het meest cutting edge waar jouw vakgenoten op dit moment bij de waterkoeler over praten? Ja, het meeste zit hem in die multimodaliteit en in nieuwe, nieuwe modaliteiten.
Dus hoe kun je chips ontwerpen? Hoe kun je mechanische systemen ontwerpen? Hoe kun je natuurkunde oplossen, zeg maar? Hoe kun je science doen met dit soort dingen? Wat is science doen met dit soort dingen?
Stel je nou eens voor dat ergens, uh, die modellen die hebben iets geleerd over de wereld, maar we kunnen het eigenlijk alleen maar vergelijken met dingen waar wij al van weten dat ze bestaan.
Om een voorbeeld te noemen in, in ons eigen bedrijf werken we in de biologie en we hebben gezien dat die modellen een soort van doorhebben dat bepaalde dingen op een bepaalde manier werken in de biologie. Ja.
Waarschijnlijk weten ze ook andere dingen die wij niet weten. Juist. Hij heeft allemaal correlaties gelegd die helemaal nog niet door wetenschappers zijn ontdekt. Precies.
En hoe krijg je die eruit?Dus, dus je zou je kunnen voorstellen dat op een gegeven, laten we zeggen je hebt een theoretisch machine learning model, die heeft alle YouTube video's gekeken en die zegt op een gegeven moment: god, wat lijkt het er toch op dat alles van boven naar beneden valt.
Dat is grappig en het gebeurt ongeveer met deze snelheid. Er is een gravity constant op aarde, zeg maar. Ja, hoe denk je dat jouw kinderen, want je hebt kinderen,
hoe denk je, in wat voor wereld leven die als die jouw leeftijd hebben? Ik denk dat die twee tot drie dagen per week werken, veel plezier hebben, uh, en voornamelijk meer creatief werk doen. Meer complex werk doen.
Het is grappig, je bent, je kijkt hier heel serieus bij opeens. Ja, ik denk dat zij echt een leuker leven hebben dan wij.
Ja, als we de aarde, uh, zeg maar kunnen unfucken, als in die staat wel in de fik en dat moeten we wel oplossen.
Ik denk dat dat een veel groter probleem is dan, dan, dan technologie die, uh, ja, die zeg maar bepaalde taken van je overneemt. Maar, maar je zegt twee dagen, drie dagen werken in de week. Dat, dat komt omdat?
Omdat we een enorme productiviteitsboost gaan zien in de komende vijf jaar. In de komende vijf jaar. Ja. Wat verwacht je dan?
Ja, want als jij, als jij ineens en je ziet het nu al, hè, je hebt de eerste papers zeg maar waar mensen bedrijven gewoon direct vergelijken op bepaalde administratieve taken bijvoorbeeld.
Dan zie je gewoon dat mensen met dit soort shit gewoon twee keer zo snel gaan als mensen die dat niet doen. Ja. Nou, dat betekent voor ons als samenleving dat er ineens veel meer productiviteit is.
En productiviteitsgroei is uiteindelijk goed voor onze welvaart. Oké, dus ze hoeven minder werk te doen. En het werk dat ze dan doen, dat is onderscheidender. Ja, dat is leuker. Ja. Waarom leuker?
Ja, omdat, dat mensen, uh, eigenlijk in, in onze hele geschiedenis hebben altijd het werk wat het meest vervelend is als eerste weggehaald. Ja. En ik vermoed dat dat hier ook weer zo gaat gebeuren.
Dus mechanisch werk was niet lachen in een of andere donkere fabriek. Een beetje, beetje ergens aan trekken, dat was niet leuk.
Nou, dat zijn we gaan mechaniseren en, uh, rondrennen was niet leuk, dus op een gegeven moment zijn we dat gaan mechaniseren.
En ik denk dat er heel veel cognitieve taken zijn die niet leuk zijn, dus die gaan we als eerste automatiseren. En je zegt creatiever omdat dat gewoon het moeilijkst te automatiseren valt. Of?
Ja, maar ook omdat dat, dat, dat is leuk, zeg maar. Ik bedoel, dat zie je ook als je kijkt naar de afgelopen paar decades. We zijn gewoon steeds meer vrije tijd gaan hebben en steeds meer leuke dingen gaan doen.
Mijn overgrootvader die had zeg maar, die werkte zes dagen per week en op zondag ging hij naar de kerk en dat was het, zeg maar. Ja, die trend gaat zich doorzetten. Ik denk dat die zich gaat doorzetten, ja.
Ik kan niet anders dan toch even zeggen dat alle productiviteit die we tot nu toe erbij hebben gewonnen niet heel erg gerele-, gerele-- hoe zeg je dat?
Die trend die jij nu beschrijft als je zegt: we gaan van zestig naar veertig uur, als dat de trend is à la, maar sinds de spreadsheet werkt merendeel van de wereld veertig uur en meer.
Dus daar zit, daar zit, ik bedoel, ik zie dat dan nog niet. Dus dat is dan toch weer even mijn, uh. Maar dat ligt wel een beetje aan je tijdschaal.
Dus ik denk wel dat het waar is dat de, er is een klein bumpje in de laatste aantal jaar, omdat er veel meer administratieve taken bij zijn gekomen.
Omdat we veel meer met elkaar communiceren en veel meer informatie uitwisselen. Enter. [lacht] Ja, nee, precies.
Dus, nee, maar, dus, d-dan is het de belofte van de automatisering die in mijn ogen niet echt uitgekomen is, gaat nu toch uitkomen omdat het een cognitieve automatisering is en de cognitieve overhead die is ontstaan door de vorige automatisering deze keer mee geautomatiseerd wordt.
Zeg ik dat goed? Ja, alleen, en nogmaals, de premisse is in de laatste jaren, en niet decades, dus. Ja, ja, ja. Maar vijf jaar Stef, dat, ik, w-, ik, daar, daar rammelt mijn, uh, hoofd nog een beetje van.
Dit is echt zo korte termijn. Ja, dat denk ik wel, ja. En alle systemen binnen de samenleving zijn gebouwd op de aanname, of niet op die aanname.
Dus, de, want even voor de luisteraar en ook voor jullie beiden, ik krijg het niet goed onder woorden, maar mijn, mijn enige nuance op het hele verhaal is, want ik kan jou echt goed volgen en er zit een enorme optimist in mij die amper zichtbaar is voor de luisteraar, is, ik, ik denk dat ik het heel, een heel groot deel met je eens ben.
Ik denk alleen dat simpelweg de enige factor snelheid en momentum in dit fenomeen, mogelijk voor, in mijn ogen zeker, gaat zorgen voor bijeffecten voor ons grote samenlevingssamenwerkingsproject.
Waar ik, daar heb ik mijn zorgen bij. En ook dat al die mooie dingen die ik echt geloof. Want hoe meer ik met deze technologie werk, hoe enthousiaster ik erover word.
De optimist in mij word-wordt echt wakker, is dat ik denk: oh, laten we alsjeblieft zorgen dat we het niet verpesten met elkaar.
Dat we deze mooie technologie op een bepaalde manier niet kunnen gebruiken omdat het zo'n slechte naam krijgt.
Ik denk misschien het, v-, het, uh, laten we zeggen, uh, het verschil tussen, tussen ons, denk ik, is dat, ik ga ervan uit dat we een paar dingen gaan verpesten.
Niet op een schaal die desastreus is, maar op een schaal die vervelend is. Uh, en we gaan dat corrigeren. En dat is eigenlijk hoe technologie altijd heeft gewerkt. Het is waarom we nu
riemen in auto's hebben, weet je wel. Dus. Ja. Ja. Wat denk je dat we gaan verpesten? Wat ligt voor de hand? Nou ja, waar we het net over hebben gehad, die, die bias gaat echt een probleem zijn.
We gaan steeds meer voorbeelden zien van mensen die met hele grote overtuiging gaan zeggen: cool, ik denk dat we ontzettend moeten oppassen dat onze scholen niet verworden tot mensen die dingen copy pasten in ChatGPT, zeg maar.
Uh, hè, dus dat, dat zijn absoluut thema's waar we wat mee moeten doen. Ja, maar we komen er wel weer uit. Ja, en misschien is dat de optimist in mij. Ja. Dank. Dat siert je. En dank je wel. Dank jullie wel.
Oh trouwens, volgende week is er geen aflevering door de herfstvakantie en de week daarna zijn we er weer wel. Dag! [muziek]