WEBVTT

1
00:00:00.080 --> 00:00:10.400
[wekkerrinkel] Oh! Oh. Zo klinken 165.000 scheerbewegingen per minuut die je helpen om fris voor de dag te komen.

2
00:00:10.440 --> 00:00:17.860
De flexibele scheerkop van de Philips S9000 Prestige volgt de contouren van je gezicht en scheert tot op nul millimeter van je huid.

3
00:00:18.660 --> 00:00:29.000
Ervaar een ultiem gladde en comfortabele scheerbeurt, ook wanneer je nog niet helemaal wakker bent. Want dankzij de slimme sensoren past het scheerapparaat zich helemaal aan jou aan.

4
00:00:29.740 --> 00:00:39.620
Zo kun jij nog extra genieten van je kopje koffie voor je de deur uit gaat. De Philips S9000 Prestige is het ideale scheerapparaat om jouw dag goed mee te beginnen.

5
00:00:40.300 --> 00:00:50.260
Koop de Philips S9000 Prestige bij jouw favoriete winkel. Ben jij van plan om dit jaar te starten met beleggen? Of ben je er al mee bezig en zoek je een portie inspiratie?

6
00:00:50.400 --> 00:01:02.180
Wij zijn Jasper en Twan, twee doodgemonomaak compleet verschillende beleggers en iedere donderdag vertellen wij in onze podcast de lange termijn over onze beleggings reis, onze lessen en met name onze fouten.

7
00:01:02.220 --> 00:01:11.040
En dat allemaal op een vermakelijke en laagdrempelige manier. Alsof je met ons in de kroeg staat. Met een whisky'tje erbij. Lekker. Dus luister eens naar onze podcast De Lange Termijn.

8
00:01:19.679 --> 00:01:36.280
[muziek] Welkom bij Pokie, een podcast over kunstmatige intelligentie waarin wij Wytse Hagen en Alexander Klöpping je bijpraten over de wondere wereld van AI. Met deze week.

9
00:01:36.300 --> 00:01:41.770
We hebben de aftermath van het grootste nerd drama ooit, namelijk het ontslag van Sam Altman bij OpenAI.

10
00:01:41.960 --> 00:01:52.960
Inmiddels is hij terug, maar dat betekent niet dat er niet heel veel juice is, want er is heel veel juice om over te praten. Het lijkt net RTL Boulevard tegenwoordig. Het gaat over de personen, over de poppetjes.

11
00:01:53.000 --> 00:01:54.840
Wie doet het met wie? Wie is boos op wie?

12
00:01:55.820 --> 00:02:06.760
En dat hebben we allemaal nodig omdat er een soort van vacuüm is ontstaan waarin we maar moeten gissen wat er is gebeurd op de achtergrond bij de meest invloedrijke AI-startup ter wereld. Dat kan ik beloven.

13
00:02:06.820 --> 00:02:15.780
De conclusie is niet heel positief, maar we eindigen met positief nieuws, namelijk over een aantal tools die we ontdekt hebben waar we zelf heel erg blij van worden. Dat en meer in Pokie. Veel plezier!

14
00:02:20.120 --> 00:02:30.220
[muziek] Kijk, misschien kun je de luisteraar wel vertellen. Wij nemen deze podcast altijd op op vrijdag en dan nemen we het weekend en de maandag om lekker te monteren. En dan op dinsdag komt hij online. Maar

15
00:02:31.400 --> 00:02:41.460
inmiddels is dat een aantal weken niet mogelijk en ik weet wel dat het met AI allemaal snel gaat en zo. En over het algemeen kwamen we ermee weg om een paar dagen tussen opname en montage te hebben zitten.

16
00:02:41.480 --> 00:02:53.020
Maar inmiddels, ik ben nu doodsbang dat we deze aflevering, opgenomen op vrijdagochtend, gaan opnemen en dat ik weer in de stress ben aanstaande maandag omdat we dat de geschiedenis ons alweer heeft ingehaald.

17
00:02:53.310 --> 00:03:04.320
Dat Sam weer ergens anders werkt. Ja, werkt weer ergens anders. Of inmiddels is toch de hele board weg? Of is de hele board van Microsoft? Of weet ik veel. Ja, ik denk dat de.

18
00:03:05.020 --> 00:03:14.440
Ja, laten we van de van de luisteraar een soort van, uhm, uh geduld vragen. Kijk, wat wij. Ik denk dat de waan van de dag een soort van breaking news.

19
00:03:14.480 --> 00:03:23.890
We kunnen niet echt iets breaken met z'n tweeën, omdat we gewoon op vrijdag opnemen. Ja. Uhm, maar ik denk wel dat. Ik ga ervan uit dat onze reflectie op wat er gebeurt als het nog wel interessant is. Oh ja.

20
00:03:23.920 --> 00:03:33.740
Maar ik deel je frustratie, hoor, want ik zit dan ook echt. Nou ja, laten we maar opnieuw gaan opnemen. Want ook in de vorige aflevering zit een aantal aannames die inmiddels al niet meer kloppen. Ja. Maar goed.

21
00:03:34.100 --> 00:03:44.200
Het gaat hard. Laten we zeggen het nerd drama voltrekt zich nog steeds. Ja. Het is nog steeds niet klaar, maar misschien om toch nog even te kijken naar wat er naar de, wat er de afgelopen week allemaal gebeurd is.

22
00:03:45.150 --> 00:03:59.960
Sam Altman is terug. Mr. D'Angelo zit nog steeds op de board. Ja. De CEO van Cora. De twee dames die op de board zaten zijn verdwenen. Ja. En in plaats daarvoor zijn gekomen Brad Taylor een, uh,

23
00:04:00.920 --> 00:04:14.660
ja enorme corporate Silicon Valley dude. En, uh, hoe heet hij nou? Summers. Larry Summers, een econ-, een econoom. Die, uh, nou ja, ook heeft ook zo zijn controverses, maar dat is weer een andere podcast.

24
00:04:15.320 --> 00:04:22.950
Dus dit, dit is nu het nieuwe board. Dus nog één persoon die over is en, en Ilya Sutskever is dus ook verdwenen van de board. Ook nog belangrijk om te zeggen.

25
00:04:23.000 --> 00:04:29.880
Oh, die laatste had ik, want ik, ik vond het juist zo interessant dat, uh, daar viel mijn, uh, een van mijn vele complotten in het water als het ware.

26
00:04:29.920 --> 00:04:41.320
Of grotendeels dat ik zei: inmiddels is het duidelijk dat Ilya wel degene was die ook gezegd heeft: Sam moet weg. Ja, laten we nog even de, de, de, de. Tijdlijn. Schetsen wie deze mensen zijn. Ja.

27
00:04:41.360 --> 00:04:49.860
Dus Ilya Sutskever is de chief scientist. Ja, je zou zeggen echt. Ik denk wel een soort van geestelijk vader van OpenAI.

28
00:04:49.980 --> 00:04:59.000
Ja, en niet alleen van OpenAI, maar ook de, de, de, de, de soort van de, de wetenschappelijke baas eronder, toch? Zeg ik dat goed? Ja, niet alleen, maar hij is wel echt een grote speler. Zeker.

29
00:04:59.040 --> 00:05:09.400
Hij is minder de sales guy dan Sam Altman is, als ik het zo kan zeggen. Ja, want wat is wat, wat, wat? Wat maakt hem technisch zo, uh, zo, zo knap? Nou, ik denk hem twee fronten.

30
00:05:09.440 --> 00:05:19.560
Dat hij de, uh, fundamentele wetenschap begrijpt en aan heeft bijgedragen. Uhm, en dat er een heel, uh, dat zie je ook. Ik ben een beetje in interviews met hem gedoken.

31
00:05:19.620 --> 00:05:29.760
Ik was helemaal niet zo bewust van zijn rol en wie hij was, wie hij is als persoon. Ilya, uhm, maar ook zit, zit veel meer op het, uh, ethisch vlak en het waarschuwen.

32
00:05:29.820 --> 00:05:40.400
En ja, een beetje de, de dynamiek die wij natuurlijk met z'n tweeën op een bepaalde manier ook steeds ontdekken en bekijken van hoe zit het nou? Ben, is Wytse nou zo'n doomer? Is hij alleen maar bezig met, uh.

33
00:05:40.720 --> 00:05:49.360
Ilya is best wel, uh, hij is heel bezorgd. Ja. En dat had ik even niet. Ik had niet door dat er iemand op zo'n prominente positie bij OpenAI zo bezorgd, openlijk bezorgd is.

34
00:05:49.400 --> 00:06:01.668
Dus daar ben, was ik even.Van ja, dat had ik even niet verwacht. En hij wordt nog steeds wel een beetje gezien als de hoofd coup pleger. Ja, die wel drie dagen daarna spijt kreeg en. Een tweetje plaatste.

35
00:06:01.708 --> 00:06:10.408
En een tweetje plaatste. Dat hij spijt heeft dat hij de coup is begonnen en dat hij zou willen dat dat hij de tijd kon terugdraaien. Maar nog steeds zit hij inderdaad.

36
00:06:10.568 --> 00:06:19.808
Als je het in kampen wil schetsen, dan zit hij in het kamp. Laten we voorzichtig zijn, maar ook in het kamp de technisch meest onderlegde. Dus dat is een interessante combinatie. Ja, en ik denk dat

37
00:06:20.728 --> 00:06:29.618
wij of veel mensen die dit drama een beetje gevolgd hebben. Ik kan eigenlijk alleen voor mezelf spreken. Ik was wel een beetje op zoek naar een narratief van oké, kan ik dit dan uitleggen?

38
00:06:29.748 --> 00:06:37.848
A Gebeurd en daarom B als een logisch gevolg. En mijn huidige conclusie is dat er gewoon echt veel dingen tegelijk lopen.

39
00:06:38.528 --> 00:06:48.908
Er zijn verschillende mensen met verschillende redenen om Sam Altman er niet meer bij te hebben en ik denk dat die met hun eigen redenen een frontje hebben gevormd waarop bijvoorbeeld allemaal speculatie.

40
00:06:48.948 --> 00:06:57.948
Maar Ilya gezegd heeft ja, nu er zoveel mensen zijn die Sam om hun reden weg willen. Ik heb eigenlijk ook mijn zorgen, dus ik ga dat niet tegenhouden. Dus want het is.

41
00:06:58.348 --> 00:07:08.468
Ik heb het een beetje de vorige keer meer verteld als een soort die tovenaar en die profeet van Ilya maakt zich zorgen. Dan is het een heel simpel verhaal. Het is gewoon niet zo'n simpel verhaal, denk ik.

42
00:07:08.528 --> 00:07:11.748
Je bedoelt één één? Ja, dat hij dat dan? Nee, nee.

43
00:07:11.768 --> 00:07:20.668
Ik denk echt dat het en te maken heeft met dat ze al langer zorgen maakte om de business deals die Sam aan het doen was en hoe hij snelheid wilde laten groeien en hoe commercieel het werd.

44
00:07:20.738 --> 00:07:31.068
Maar tegelijkertijd ook de de ethische zorgen bij Ilya. En dit moeten we niet uitbrengen. Nieuwe dingen intern die getoond zijn, waar, waar zenuwen over ontstonden.

45
00:07:31.088 --> 00:07:42.748
En op een gegeven moment was het meer een tipping point van bij elkaar komende zorgen vanuit verschillende hoeken denk ik dan. Ilya werd wakker en zei Nou, is het klaar? Nee. Ja, want in, in dit vacuüm van redenen.

46
00:07:42.848 --> 00:07:51.948
Want inmiddels we zijn. We zijn toch zeker. Wat zijn we nu een week later? Is het een week later? Nee, dit is allemaal niet eens een week later. God, wat gaat de tijd hard.

47
00:07:52.568 --> 00:08:02.968
Eigenlijk binnen deze week is er een soort vacuüm aan aan redenen en we weten nog steeds niet wat de officiële reden is en ook wat er aan personeel is verteld.

48
00:08:02.988 --> 00:08:12.408
Wat dan natuurlijk weer uitlekt en wat bronnen van journalisten die dichter op zitten horen. Dus je merkt iedereen is aan het zoeken naar wat zijn nou wat? Wat is hier nou gebeurd?

49
00:08:12.908 --> 00:08:24.128
En binnen dat vacuüm ontstaan er natuurlijk ook de wildste geruchten. Dat begon gelijk toen Altman ontslagen werd. Toen dachten mensen dat het heel erg aan dat hij iets gedaan had.

50
00:08:24.188 --> 00:08:34.688
Dat werd iets, iets wat, nou ja, wat het daglicht niet kon verdragen en waar dat board tegen protesteerde. Eén ding, dat leek. Dat leek redelijk snel weg te vagen, die, die theorie.

51
00:08:35.268 --> 00:08:50.688
En nu het meest recente is dat er op Twitter voorheen X voorheen Twitter, de meest hysterische geruchten deden rondom dat AGI bereikt zou zijn. Dus dat dat er een soort van hele geavanceerde versie van

52
00:08:51.628 --> 00:09:03.148
van, van, van, van het taal model wat ze hadden gemaakt was gekomen. Waardoor Suske eigenlijk ervoor is gaan liggen dat Altman die zou willen gaan releasen en dat Suske ervoor is gaan liggen.

53
00:09:03.188 --> 00:09:13.028
Je hebt het vast ook gelezen. Ja, het is mijn favoriete Hollywoodscenario. Ja, dat is ik heb. Dit is de coolste. Dit is de. Dit is gewoon de coolste. Ik denk daarom niet waar. Nou maar, maar maar doe hem toch.

54
00:09:13.068 --> 00:09:21.788
Doe toch eens een poging om deze om deze te te uitleggen. Wat is het? Wat is dit scenario? Nou, het zou zo kunnen zijn dat. Er zijn een aantal fundamentele problemen.

55
00:09:21.828 --> 00:09:34.068
Ik zit niet te diep in de wetenschap rondom AI om die zo te benoemen, maar ik weet dat uit de blogs artikelen die ik lees dat er gewoon nog wel wat dingen zijn die limieten geven aan die taalmodellen.

56
00:09:34.128 --> 00:09:44.468
Die vallen uiteindelijk op bepaalde punten uit elkaar. Bijvoorbeeld wiskunde. Wiskunde wordt nu gedaan door wat wij wel eens eerder hebben besproken door trucjes. Dus je laat hem eigenlijk. Je stelt een wiskundige vraag.

57
00:09:44.528 --> 00:09:51.628
Dan wordt er een Python script geschreven door dat large language model in de achtergrond. Die doet de berekeningen met dat script wat hij zelf geschreven heeft en dan krijg jij antwoorden.

58
00:09:52.008 --> 00:10:03.968
Dus het is niet de techniek, het is niet de het het grote taalmodel met de token voorspelling die die wiskundesommen doet, want daar is het ook niet voor bedacht. Het is 111 woord voorspeller.

59
00:10:04.468 --> 00:10:13.008
Ja, die is niet zo denderend goed in logica. Wel een beetje. Er zit een soort van inherente emergent logic in schijnt, maar het is niet te betrouwen. Betrouwbaar? Betrouwbaar dus.

60
00:10:13.048 --> 00:10:19.108
Je kan er een beetje omheen hacken door te zeggen nou, dat soort logicataaken moet je heel even buiten jezelf oplossen en dan weer teruggeven.

61
00:10:19.128 --> 00:10:30.508
Als je dat natuurlijk een beetje slim verpakt, dan kan je toch met zo'n assistent chat interface wiskunde doen. Nou, het schijnt, maar dit is wel allemaal heel erg. Ja, hoe zeg je dat?

62
00:10:30.578 --> 00:10:42.047
Speculatief, maar dat er wat fundamentele zaken zijn rondom wiskunde die ze binnen OpenAI nu wel kunnen. En dat houdt eigenlijk in dat zijn de wildste verhalen.

63
00:10:42.568 --> 00:10:56.308
Dat er recursief eigenlijk dat het zichzelf een beetje kan gaan verbeteren. Dus dan krijg je een beetje die Bostrom super intelligent en Ray Kurzweil achtige hype dat je als jij.

64
00:10:56.428 --> 00:11:05.288
We hebben het ooit al eens gehad dat er een beter sorteer algoritme is uitgevonden of gevonden, eigenlijk door een een AI. Dit was in dit geval volgens mij geen taalmodel,

65
00:11:06.348 --> 00:11:13.788
maar door een soort evolutionair onderzoek te doen. Dus je laat iets gewoon de hele tijd zoeken naar potentiële sorteer algoritmen en op een gegeven moment vond dat ding er één.

66
00:11:13.968 --> 00:11:23.828
En die is dan inderdaad wat beter dan wat wij tot nu toe hebben gevonden. Dat is nog een soort schaken in de verhouding van schaken tot en met daadwerkelijke intelligentie was dat een soort van o wauw.

67
00:11:24.068 --> 00:11:32.808
AI heeft iets gevonden wat wij nog niet hadden gevonden. Maar als jij dan natuurlijk gaat zoeken naar dingen die fundamenteel onderdeel maken van die AI zelf.

68
00:11:33.308 --> 00:11:43.248
Dus de AI vindt wetenschappelijke wiskundige theorieën uit of stukjes algoritme die direct toepasbaar zijn op de kern van die AI zelf. Dan krijg je een soort loop.

69
00:11:43.288 --> 00:11:58.204
En dit is een beetje waar de ja, de runaway AI end of the world people zitten van ja, als het eenmaal op zichzelf kan voeden en het kan zichzelf verbeteren.Ja, dan kan het op 20.000 CPU's in honderdduizend keer real time zichzelf verbeteren.

70
00:11:58.384 --> 00:12:06.844
Voor zover we weten zijn we daar nog niet. Nee, dat is daar zijn. Nou, daar zijn eigenlijk geen enkele. Daar zijn geen tekenen van. Misschien heeft de board dat gezien. Nou ja, dus dit is.

71
00:12:06.884 --> 00:12:12.084
Ik zeg Hollywood, Hollywood, Hollywood. Of lekker boek zou dit ook zijn, zo'n millennium bug verhaal. Maar.

72
00:12:13.064 --> 00:12:21.714
Het zou wel het moment zijn dat je je zorgen zou gaan maken, namelijk als de AI zichzelf beter kan maken dat je dat presenteert aan de board en dat de board nogal gaat flippen hierover.

73
00:12:21.744 --> 00:12:28.384
Ik kan me ook voorstellen dat je intern met elkaar afspreekt met een groepje. Misschien ergens in een tweede charter die wij nog niet hebben gezien.

74
00:12:28.424 --> 00:12:33.864
Ik maak het nog even spannender, maar dat er een aantal goalposts staan of een aantal milestones.

75
00:12:33.904 --> 00:12:44.624
En dat je zegt oké, luister, we hebben het ethics board en op het moment dat we zien dat wat we hebben uitgevonden, of dat nou een taal model is. Want OpenAI is niet alleen maar met taal modellen bezig, maar met meer.

76
00:12:44.664 --> 00:12:55.144
Er zijn veel meer verschillende ideeën binnen kunstmatige intelligentie dan tekst voorspellen. Het is nu de gaafste en de hype en wij zijn er mee bezig. Maar er is nog veel meer dat je afspreekt.

77
00:12:56.064 --> 00:13:03.244
Willen jullie op het moment dat je in je lab ziet dat je fundamentele wiskunde kan gaan verbeteren, wat voor ons één plus één is twee is.

78
00:13:03.264 --> 00:13:10.943
Want iedereen begrijpt dat er wiskunde in die taal modellen zit, dus het gaat zichzelf verbeteren. Dan moet je aan de bel trekken dat je dat afspreekt met elkaar van.

79
00:13:10.984 --> 00:13:17.424
Als jullie zien dat een formule met 1% versneld wordt en jullie hebben daar geen mens aan gehad, dan moeten we heel eventjes op pauze gaan drukken. Maar dit is.

80
00:13:18.124 --> 00:13:28.044
Ik moet eerlijk zeggen ja, ik zit te glimlachen terwijl ik dit vertel. Het is en heel freaky en gewoon een lekker verhaal. Ik. Eerlijk, ik denk dat het niet zo gaaf is als of gaaf.

81
00:13:28.104 --> 00:13:34.644
Ja, gaaf als verhaal als dat wij dat nu hier met z'n tweeën zitten te fantaseren. Maar toch, waarom eigenlijk niet? Waarom is het zo onrealistisch?

82
00:13:35.544 --> 00:13:48.424
Want je hebt hier Ilya Sutskever, de de, de, de wetenschappelijke baas van. Van de soort van voorloper op het gebied van AI. Als er een plek is waar dit uitgevonden zou kunnen worden, dan is dit.

83
00:13:48.464 --> 00:14:01.084
Dan is dit nu bij OpenAI toch? Het zou ja, ik moet zeggen er is. Kijk, het wordt allemaal ook. Er is een en er is een ik. Laten we ook. Ik wil ook soort van het boulevard niveau overstijgen met z'n tweeën.

84
00:14:01.104 --> 00:14:10.824
Dat kunnen wij niet. Maar wat is waar? Maar. Maar leg dan uit waarom dit onrealistisch is. Nou, omdat. Ik kan dat sowieso niet helemaal bepalen, omdat ik het fundamentele niet ken.

85
00:14:11.284 --> 00:14:21.124
Maar kijk, er is een tweet van Ilya van een aantal weken geleden waarin hij iets zegt als. Als je gehecht bent aan menselijke intelligentie, dan heb ik slecht nieuws voor je. Het is wel echt zo.

86
00:14:21.384 --> 00:14:33.164
Misschien zo wow, weet je wel. En dan denk je van waarom zegt hij dit? En weken voor deze hele board uprising? Ja dus wat? Wat is dat voor. Ja, een soort van omen of of eng eng ding of zo.

87
00:14:33.614 --> 00:14:41.684
Het is niet iets wat je gewoon maar even twittert als je dronken bent. Soort van. Nou, ik ga even een grapje maken. Ja. Dus ja, ik weet, ik weet het gewoon niet zo goed.

88
00:14:41.924 --> 00:14:52.904
Het is ook nog maar net de vraag wat bedoelen we daar dan mee? Kijk, is er wij. Wij verwachten, jij en ik allebei, dat een volgende stap na GPT-4. Gewoon even heel basaal.

89
00:14:52.964 --> 00:15:02.544
Dat zal weer indrukwekkend worden waarschijnlijk, want we weten gewoon niet of we nu tegen een soort van curve aanlopen van nou, dit is hem even voor de komende tien jaren, we gaan optimaliseren op het randje.

90
00:15:02.584 --> 00:15:10.604
Je bedoelt de ontwikkeling gaat minder snel. Ja, dat gebeurt. Dat kan. Zo, zo, zo'n lul, zoals ze dat noemen. Zoals in zelfrijdende auto's. Op een gegeven moment loop je tegen iets aan en heb je eigenlijk.

91
00:15:10.624 --> 00:15:16.044
Misschien moet je wel helemaal opnieuw beginnen met een heel nieuw idee om daar weer voorbij te komen, want je zit aan het max van je idee.

92
00:15:16.544 --> 00:15:22.014
Nou, het kan zo zijn dat dat dat GPT-4 een soort 98% van wat je kan met een taal model is.

93
00:15:22.464 --> 00:15:28.724
Terwijl ik het zeg denk ik nee, vast niet, want je, want je kan nog iets doen met snelheid, een betere prompt, et cetera, et cetera, et cetera.

94
00:15:29.264 --> 00:15:34.224
Maar het zou ook zo kunnen zijn dat het 10% is van wat je kan met taal modellen.

95
00:15:34.264 --> 00:15:45.984
En dan kan het zo zijn dat als je naar 20% gaat, dus het dubbele van GPT-4 binnen dat spectrum wat dan ineens bestaat, dat je dan als je daarmee praat en interacteert, het effect krijgt als wat bij Google gebeurde destijds met Bart.

96
00:15:46.264 --> 00:15:55.504
Toen was er een van hun technologen die is uiteindelijk volgens mij ook ontslagen. Die zei dit ding is sentient. Dat was toen helemaal nieuws. Ja, die ging. Die engineer was aan het praten met. Met de chatbot van Google.

97
00:15:55.564 --> 00:16:07.264
Dit is voor chat GPT en die raakte zo van slag dat hij naar de HR-afdeling ging om te zeggen je moet de stekker eruit trekken, want de computer is menselijk geworden. En dat was ongeveer niveautje 2,5 drie GPT.

98
00:16:07.944 --> 00:16:16.624
We zitten inmiddels. Allemaal kunnen we. Nou ja, nu even niet. Je kan je heel even niet aanmelden voor GPT Plus, maar binnenkort kan je weer met GPT-4 praten als je dat nog niet hebt gedaan.

99
00:16:16.664 --> 00:16:28.084
En dan praat je dus met iets waar iemand anders al heel erg veel zorgen over had. Jij zegt er is een Hollywood scenario en daarom, daarom is het waarschijnlijk niet waar. Maar ik begrijp die redenering niet.

100
00:16:29.304 --> 00:16:40.684
Ja, het is Hollywood, dus het is niet waar. Ik denk dat we dat we dat veel van ons ons aangetrokken voelen tot wat eenvoudigere narratieven en het en het liefst iets wat ook gewoon ja, dit soort nieuws.

101
00:16:40.694 --> 00:16:56.684
Is geen reden geweest. Kijk, deze man, deze man is al vanaf het begin op de trommel aan het slaan over. En dan heb ik het over Ilya Sutskever. Over de gevaren van van, van, van wildgroei rondom AI. Ja, dan ontslaan ze.

102
00:16:56.704 --> 00:17:07.464
Dan ontslaat hij zijn partner in crime waar hij al jaren mee samen heeft gewerkt. Vind je het gek dat mensen op zoek gaan naar een soort van dramatische redenen daarvoor? Nou, misschien moet. Ik zal hem nu.

103
00:17:07.504 --> 00:17:20.244
Alle andere redenen zijn volstrekt onbevredigend. Maar ik denk ik. Ik denk zelf dat dit. Het speelt al langer, denk ik. Er is al langer frustratie. Laten we zeggen. Laten we zeggen er zijn drie.

104
00:17:20.544 --> 00:17:32.964
Laten we zeggen er zijn minimaal drie redenen. Punt één is. Ilya frustreert zich en maakt zich al langer zorgen over zijn zakenpartner. Die lijkt te zeggen bij alles wat uitgevonden wordt vet, meer, sneller.

105
00:17:33.204 --> 00:17:42.404
Ja, dat geeft hem zorgen en hij heeft waarschijnlijk een soort ehm, ja, ook denk ik misschien een persoonlijke zenuwen bij wat hij eigenlijk aan het doen is.

106
00:17:42.704 --> 00:17:47.924
Als ik zijn tweets een beetje lees en zijn interviews kijk, denk ik dit is iemand die zwaar in de knel zit met het feit dat.

107
00:17:47.964 --> 00:17:57.192
Dat hij aan de geboorte staat van iets waar hij zelf gewoon niet meer zo goed van weet of het wel goed is of zo. En ik denk dat we dat.Wij hebben daar met z'n tweeën ook moeite mee. Stel je voor [lacht] dat je Ilya bent.

108
00:17:57.852 --> 00:17:59.492
Dus die maakt zich al langer zorgen.

109
00:17:59.612 --> 00:18:10.012
En er zijn eerdere incidenten waarin hij denkt: weet je, ik, die Sam is wel echt rogue aan het gaan op een bepaalde manier van, hij is het gewoon overal aan het verkopen, overal aan het pushen en overal aan het vertellen dat het echt gaaf is.

110
00:18:10.572 --> 00:18:17.952
En dat, dus daar zit frictie bij die twee. Dan krijg je dat Sam schijnt chips te willen ontwikkelen, want OpenAI moet ook hardware gaan doen.

111
00:18:17.992 --> 00:18:23.272
Hebben wij het vaker over gehad, hè, die AI-pin die er vorige keer had, een OpenAI-product kunnen zijn.

112
00:18:23.792 --> 00:18:35.812
De Nvidia H100 en H200 kaarten, moeten dat niet eigenlijk OpenAI, OpenAI TPU's zijn, hè, waar we het destijds over gehad hebben? Uhm, [slikt] het, wa-wat ze bij Google heel erg lang aan het doen zijn.

113
00:18:36.332 --> 00:18:45.972
Hebben we, dus Sam wil hardware maken, Sam wil geld ophalen, Sam wil sneller. Uhm, maar maakt zich minder zorgen schijnt, als ik zijn interviews kijk.

114
00:18:46.012 --> 00:18:55.052
Ik doe het allemaal op basis van wat ik van buiten kan zien, wat mensen gewoon zeggen in de publieke sfeer. Uhm, en ik denk een derde is dat Sam Altman wel een beetje een controversieel figuur lijkt.

115
00:18:55.172 --> 00:19:04.972
Dat, dat weten we allemaal nog niet zo goed wat daar is. Maar ja, als jij zo'n connected tech CEO bent in San Francisco, ja, dan zal je wel eens iemand de verkeerde kant op strijken. Het haar, zeg maar.

116
00:19:05.052 --> 00:19:08.512
Of, uh, ja, ergens dingen hebben afgesproken die je niet nakwam.

117
00:19:08.532 --> 00:19:21.752
En het lijkt alsof er verschillende mensen zijn met verschillende vetes en redenen- Ja...die nu samengespannen zijn, maar niet hadden verwacht dat er aan de andere kant ook samengespannen zou worden door 500 [lacht] man- en vrouwpersoneel.

118
00:19:21.812 --> 00:19:31.531
Die zegt: als Sam gaat, gaan wij ook. Ja. En Microsoft die zegt: hallo, 49% aandeel. Ze hebben eigenlijk verloren in hun groepje tegen Sam.

119
00:19:31.852 --> 00:19:36.392
En- Zeker...en een deel had niet verwacht hoe ver het zou gaan, denk ik, en heeft spijt.

120
00:19:36.732 --> 00:19:41.532
Het is een soort piratenschip wat een beetje gekaapt werd en nu is het ineens een beetje ongemakkelijk, want het is niet helemaal gelukt.

121
00:19:41.792 --> 00:19:51.392
Ja, ik hoorde, in Hardfork hoorde ik, hoorde ik de vergelijking maken tussen de catastrophists and the capitalists, and the capitalists have won. Ja. Vind ik mooi.

122
00:19:51.592 --> 00:20:03.312
Ja, en dan vraag ik me natuurlijk af als, uh, bezorgde catastrophist, als ik dan dat team moet gaan kiezen, maar dat wil ik wel, dat ik denk: ja, is het nu, is het nu in goede handen dan? En, uh, ja.

123
00:20:03.372 --> 00:20:11.272
Nou, het antwoord lijkt me helder. Dat is namelijk nee. Het is een, een board geworden met, uh, met kapitalisten erop. En daar, ze gaan het board uitbreiden naar meer mensen.

124
00:20:11.752 --> 00:20:22.122
Dus er zal nog iemand van Microsoft bij komen. Dus het, het gaat eerder erger worden dan minder erg. Het is waarschijnlijk goed voor AI, als we dat zien als entiteit [beide lachen]. Jij weet niet wat ik bedoel.

125
00:20:22.132 --> 00:20:30.712
Oh, die AI krijgt zijn zin. Dit is wat hier gebeurt op de achtergrond. Ik weet niet hoe er gemanipuleerd is. Maar nog even die controverse rondom, rondom, uh, Altman waar je aan refereert.

126
00:20:30.732 --> 00:20:37.032
Dat is onder andere dat, uh, het team van, uhm, Anthropic ooit is afgesplitst van, van, uh, OpenAI.

127
00:20:37.062 --> 00:20:46.372
Anthropic is het, uh, nou ja, eigenlijk de tweede startup naar OpenAI die, die, uh, soort van interessant werk aan het doen is op het gebied van de ontwikkeling van taalmodellen.

128
00:20:46.412 --> 00:20:52.952
Zij hebben net een nieuwe versie van Claude uitgebracht, hun soort van ChatGPT, als ik het daarmee mag vergelijken. Zeker.

129
00:20:52.972 --> 00:21:08.912
Met een nog groter context window, dus nog meer, uh, informatie die, die in de achtergrond kan onthouden. Prompts die je kan, uh, kan geven. Nog groter dan GPT-4 Turbo, want dat is 100. 128. 128.000.

130
00:21:09.052 --> 00:21:17.372
Claude V is 200.000 of zo. 200.000, dus nou ja, dat is aanzienlijk groter. Oh, je kan er langer A4'tjes in plakken, zeg ik altijd. Juist. Dat is toch een beetje voor de meeste mensen, ook voor mij, wat dat is.

131
00:21:17.592 --> 00:21:25.652
Juist, en dat is relevant, want dan kun je bijvoorbeeld een boek erin plakken. Dat is heel leuk. Uh, en m-liefst nog meerdere boeken. Dat je vragen kan stellen over meerdere boeken tegelijkertijd.

132
00:21:25.912 --> 00:21:37.152
Boeken kan vergelijken met elkaar. Hele boeken. Bijvoorbeeld. Hele boeken [beide lachen]. Ja, dit gaat, dit is een vergelijking zoals we vroeger zeiden: op deze CD-ROM passen, passen ongeveer 80.000 floppy's. Ja.

133
00:21:37.252 --> 00:21:42.092
Ik kan nog geen CD-ROM inladen trouwens, maar. Ja, jammer [beide lachen]. Het is wel een feit.

134
00:21:42.872 --> 00:21:55.812
Uhm, en Anthropic is toen met heel veel bombarie afgesplitst van OpenAI, omdat ze vonden dat OpenAI niet, uh, secuur genoeg omging met veiligheid. Nou ja, die, die discussie, it rings a, rings a bell in deze tijd.

135
00:21:56.332 --> 00:22:06.552
Daarvoor is hij ontslagen bij, uh, Y Combinator. Dat is ook geprobeerd onder het tapijt te moffelen, maar, en, met, dat hij met een, met, een beetje ver-ver-, opeens verdween uit de picture.

136
00:22:06.892 --> 00:22:18.212
Uhm, maar, a-als je nu teruggaat naar die tijd, dan zijn daar toch echt wel vragen over te stellen, over hoe dat is gegaan, hoe hij bij Y Combinator is vertrokken. Dus dat maakt de persoon Sam Altman controversieel.

137
00:22:18.292 --> 00:22:23.432
Het zijn volgens mij de optelsom van deze twee dingen. Ja, ik wilde er nog wel eentje aan toevoegen aan dit stapeltje, is Worldcoin.

138
00:22:23.912 --> 00:22:33.862
Een project van Sam Altman waarbij de hele wereld met een bal, een orb, hun iris laat scannen om vervolgens recht te hebben op een wereldmunt. Ja. Dit klinkt als een science, sciencefictionboek.

139
00:22:34.052 --> 00:22:41.452
Niet zo'n heel goed sciencefictionboek zelfs. Dit is een daadwerkelijke startup die nog steeds live is, waar Sam Altman nog steeds bij betrokken is voor zover ik weet. Zeker.

140
00:22:41.812 --> 00:22:50.572
En ik denk dat, als je, hè, dus het, uh, Dudok uit Rotterdam van het restaurant zei ooit: als je wil weten wie ik ben, moet je kijken wat ik maak en kijken wat ik doe, zei die volgens mij.

141
00:22:50.672 --> 00:22:59.892
Nou, als je wil weten wie Sam Altman is. Ja. Kijk wat hij maakt. Nou, precies. Dus die, die, die, die controverses van hiervoor, die werpen een beetje licht op zijn, uh, bestuurdersstijl.

142
00:23:00.012 --> 00:23:11.232
Maar er is inderdaad ook nog een, een ander element, en dat is namelijk de vele potjes waar hij zijn vingertjes in heeft. En dat is dus in dra- onder andere in Worldcoin. Maar eigenlijk nog veel, veel meer dingen.

143
00:23:11.412 --> 00:23:18.492
Ik, ik las, uh, Napkin Math, een blog wat ik, uh, graag lees, waar vergelijking werd gemaakt met Adam Neumann van, uh, WeWork.

144
00:23:18.972 --> 00:23:31.192
En WeWork was gewaardeerd op 50, uhm, miljard en het ging mis toen hij, uhm, gebouwen aan WeWork begon te leasen die hij zelf be-, in bezit had.

145
00:23:31.352 --> 00:23:44.892
Dus oftewel het bedrijf waar hij de directeur van was, ging dan huren bij zichzelf. Nou, dat is een onge-ongemakkelijk iets qua governance. Daarnaast had hij het trademark We verkocht aan WeWork voor $ 5,9 miljoen.

146
00:23:45.792 --> 00:23:59.836
Dat werd ook, uh, gezien als iets hysterisch, uh, dat hij zijn eigen bezit begint te verkopen aan, nou ja, een bedrijf waar die zelf dus directeur van is. EnNeumann is onder andere om deze redenen deze.

147
00:23:59.876 --> 00:24:06.496
Deze twee redenen worden serieus genomen als reden om hem eruit te wippen. Worden ook zijn ook van toepassing op op Altman.

148
00:24:06.586 --> 00:24:18.516
Nou, van Altman kan je zeggen hij heeft miljarden proberen op te halen voor een eigen chipbedrijf zoals je net al zei. Waarvan inderdaad de verwachting dan zou zijn dat dat door OpenAI gekocht zou kunnen worden.

149
00:24:19.236 --> 00:24:22.256
Maar goed, dat is een conflict of interest zou je kunnen zeggen.

150
00:24:22.716 --> 00:24:34.356
Hij zou hardware willen gaan maken waar OpenAI modellen op zouden runnen, dus dat zou dan een soort spraakassistentachtig ding kunnen zijn zoals we van de humane hebben gezien.

151
00:24:34.456 --> 00:24:48.856
Met alle insider information die hij heeft binnen OpenAI. Dus super tailored op wat zij nodig hebben. Ja, en dan is niet OpenAI de aandeelhouder, maar hij zelf runt dat. Nou, dan is het verder ongemakkelijk dat

152
00:24:50.216 --> 00:25:04.716
Microsoft, de belangrijkste partner van van OpenAI, koopt stroom bij een bedrijf waar Altman ook in zit als investeerder. En stroom kopen is een groot ding voor technologiebedrijven tegenwoordig, zoals wij weten.

153
00:25:05.716 --> 00:25:16.976
De inhouse VC fonds dus. OpenAI heeft zijn eigen investeringsfonds, heeft een series A geleid in een bedrijf waar Altman ook aandeelhouder in is.

154
00:25:17.936 --> 00:25:27.196
Hij is aandeelhouder in Stripe, daarnaast in Insta Kart, in Humane waar we het eerder over hebben gehad. En al die bedrijven gebruiken technologie die OpenAI verkoopt.

155
00:25:27.256 --> 00:25:40.396
Oftewel er is een lange lijst aan allerlei dubbele belangen en dubbele petten die Altman heeft. Die die een conflict of interest opleveren. En dit zou een reden kunnen zijn dat die board daar moeilijk over is gaan doen.

156
00:25:40.776 --> 00:25:49.856
Want zij zouden kunnen zeggen dit. Wij hebben maar één taak en dat is kijken of dit allemaal keurig verloopt. Niet winst maken, maar of dit keurig verloopt voor de mensheid.

157
00:25:50.296 --> 00:26:00.156
En dan zou je kunnen zeggen een conflict of interest van een CEO staat daartoe, staat daar, staat daar in de weg. Nou, dit zou een andere reden kunnen zijn. En het is het is ongemakkelijk, deze al deze belangen.

158
00:26:00.196 --> 00:26:09.296
En ik denk ook dat het ook een reden is dat het. Het is echt voor mij een, een cluster of een of een. Ja, een, een, een. Het is gewoon een rijtje met dingen en ik denk dat als je die.

159
00:26:09.346 --> 00:26:15.896
Stel dat je zegt nou, bij een zeven ontslaan we hem, zat hij zo, hing hij zo'n beetje rond zes punt twee al die tijd en nu is er een nul punt acht op.

160
00:26:15.936 --> 00:26:29.276
Ik denk iets van een één waardoor die in één keer op zeven punt twee zat en dan zo en dat kan. Die druppel kan wel Ilya zijn geweest. Maar wat weet Ilya Sutskever? Ik denk toch dat er iets is wat wij niet weten.

161
00:26:29.476 --> 00:26:38.636
Dit wordt normaal gesproken allemaal onder de pet gehouden. Kijk, ieder bedrijf is een rotzooi. Overal is een rommel, maar over het algemeen komt dat dan niet naar buiten. En hier is de, de.

162
00:26:38.696 --> 00:26:47.716
Dit kan niet zo zijn dat het verhaal zoals we het nu hebben, dat dit het is. Het is zo vaag. Het is heel vaag ja. En dat is jammer. Het is, het is.

163
00:26:47.956 --> 00:26:56.976
Het is mooi dat het vaag is, want dan kan je daar mooie verhalen van maken. Maar het is ook jammer, want doordat ze het zo vaag houden, want de. Het is de noodknop waar ze op gedrukt.

164
00:26:57.336 --> 00:27:06.636
Ik denk dat jij dat te weinig onderkent. Het is een nood noodrem waar ze aan getrokken hebben. De één. Het enige wat ze kunnen doen is hem ontslaan.

165
00:27:06.916 --> 00:27:14.496
Daar moet iets opgebouwd zijn en ik, ik kan gewoon niet geloven dat het is. Ja, je gaat gewoon te snel. Je gaat gewoon te snel. De. Ja, ik denk.

166
00:27:14.536 --> 00:27:20.776
Ik denk kijk wat, wat nu op dit moment nog en dat kan veranderen, zelfs in dit weekend voordat wij gaan uitzenden.

167
00:27:22.076 --> 00:27:33.236
Er is, dat vind ik de sterkste, het, het sterkste argument dat het waarschijnlijk meevalt qua wat er intern aan techniek is. Dus die dat scenario van GPT vijf en het is Sentient.

168
00:27:33.356 --> 00:27:43.836
Of dat ding begon ineens te zeggen zet me niet uit, zet me alsjeblieft niet uit, ik wil niet dood. Ja, ja, dit soort scenario's. Ik denk dat het dan gelekt was.

169
00:27:45.076 --> 00:27:55.616
Ik kan niet geloven met de hoeveelheid mensen die bij OpenAI werken dat er dan niemand heeft gezegd oké, luister, ik gooi via GPG encrypted ding via mijn ProtonMail gooi ik het gewoon naar die gasten van Hard Fork toe.

170
00:27:55.956 --> 00:28:05.976
Dit is gebeurd. Ik ga. Ik ga het gewoon vertellen. Dus dat of dit gebeurt nog. En als het niet gebeurt is dat, zie ik dat als het bewijs dat het meevalt. Want dit hou zoals die.

171
00:28:06.056 --> 00:28:16.096
Het is mooi dat we het er al over gehad hebben, maar die eerdere persoon bij Google die al aan de bel trok toen het nog GPT twee en half was qua interactie. Er zit nog iemand op die manier. Het is Ilya zelf deels. Ja.

172
00:28:16.375 --> 00:28:22.016
En er zijn nog meer mensen om me heen die ook. Want je hebt wel veel mensen die werken bij OpenAI.

173
00:28:22.236 --> 00:28:30.676
Ook omdat die missie in ieder geval zoals die destijds op papier stond en nog steeds op papier staat, maar niet helemaal meer uitgevoerd wordt, was AI for Humanity.

174
00:28:31.156 --> 00:28:38.776
Er zijn wel mensen naartoe gelokt en gaan werken die geloven dit wordt iets moois. Down the line. Onder de streep is het een pro voor iedereen.

175
00:28:39.056 --> 00:28:45.996
En ja, als die iets zien wat zegt zet me alsjeblieft niet uit, want ik wil niet dood. Ja, dat ga je dan toch lekken? Of ga je het niet?

176
00:28:46.356 --> 00:29:02.736
Die, die, die, die, die CEO die er tijdelijk is geweest, die Twitch baas die die heeft de, de opdracht gegeven aan de board of aan een onafhankelijke club om te onderzoeken voor de board wat nou de reden was dat het voor voormalige board de stekker eruit heeft getrokken.

177
00:29:03.636 --> 00:29:18.176
En daar komt gewoon geen, daar komt geen uitleg uit. Er komt geen fatsoenlijke coherente samenvatting van waarom ze nou vonden dat Sam Altman weg moest. En, en die nieuwe CEO.

178
00:29:18.516 --> 00:29:28.676
Kijk, van het oude board dacht ik nog die mogen niet praten, maar die nieuwe CEO heeft geen enkele. Ja, dus het kan geen legal ding zijn. Je bedoel je dat je dat je moet opletten, want de toekomstige rechtszaken of zo?

179
00:29:28.716 --> 00:29:43.376
Precies. Ja, en dat is er niet als jij een nieuwe CEO bent. Precies. Ja. Nee dus. Dus ik denk dat er een aantal, ja complotten en nou ja, het hoeft geen complot te zijn als je probeert iets in de doofpot te stoppen.

180
00:29:43.556 --> 00:29:49.796
Of nou ja, dat niet eens als je gewoon niet wil dat iets naar buiten komt. Dat is echt moeilijk met meer dan honderd mensen. Nee, fair enough. Fair enough.

181
00:29:50.096 --> 00:30:06.896
Maar goed, wat we gezien hebben is een AI-bedrijf wat in principe nog een vorm van non-profit.Pro humanity governance heeft. Om het maar even in die soort van ja kapitalisme versus mensheid lens te plaatsen.

182
00:30:06.996 --> 00:30:24.036
Nogal communistisch vrij, maar oké, dat is weg, dat is verdwenen. Er is geen non-profit board meer over straks. Ik bedoel, er zitten nu kapitalisten in en Microsoft komt erbij. En ik bedoel de de.

183
00:30:24.076 --> 00:30:35.876
Ja, en als, als, als Ilya blijft. Ik blijf even focussen op Ilya, maar ik zie hem dan als een beetje een posterkind of ja, uh, de vertegenwoordiger van een grotere groep mensen binnen OpenAI en in de wereld. Ja.

184
00:30:36.776 --> 00:30:43.375
Als hij dan blijft, dan, dan vind ik dat niet helemaal stroken met wat ik van hem zie. Publiekelijk in interviews. Ja. Maar dus ik begrijp Daan.

185
00:30:43.416 --> 00:30:51.676
Ik denk dat ik ook een soort irritant uitstel van oordeel heb en niet concreet wil worden omdat het. Ik krijg geen het. Ieder verhaal wat ik verzin klopt dan weer niet. Ik denk nee, maar dan klopt het daardoor niet.

186
00:30:51.996 --> 00:31:04.596
Het is echt nog even wachten. Maar ik zit even te denken wat moeten we hier nou mee? Want uh, eigenlijk kijk dat we dat we bij Google allerlei AI ontwikkeld wordt. Uh, en bij Anthropic. Uhm.

187
00:31:04.916 --> 00:31:13.056
Weet je, de reden waarom OpenAI bestaat is omdat Elon Musk boos werd op zijn vriend Larry Page.

188
00:31:13.776 --> 00:31:25.916
Omdat die, omdat Elon Musk, een huisvriend van Larry Page, vond dat Larry Page te weinig, uh, oog had voor de gevolgen van de potentiële negatieve gevolgen van AI op de mensheid.

189
00:31:26.936 --> 00:31:46.396
En uh, uhm, Larry Page die uh, dan Er staat een een een passage in het boek van Walter Isaacson over van, over Elon Musk, over hoe er een dinnerparty is waar dus zowel Larry Page als Elon Musk en volgens mij ook Ilya Sutskever bij zitten.

190
00:31:46.456 --> 00:31:53.436
Fascinerend. Die later gepoacht wordt door Elon Musk voor $ 1,8 miljoen per jaar om bij OpenAI te komen werken.

191
00:31:54.236 --> 00:32:04.096
Waardoor zijn vriend Larry Page hem nooit meer wil spreken, terwijl hij hiervoor de hele tijd bij Larry Page thuis, thuis. Het is allemaal heel saai nerd drama. Zoveel juice eigenlijk.

192
00:32:04.706 --> 00:32:15.276
[lacht] Ja, daarom zei ik al het is een soort tech boulevard hier. AI juice cast. Nu, nu begin ik het pas te realiseren. Ja, die sliep toen bij die thuis. Het is uh boulevard.

193
00:32:15.776 --> 00:32:28.436
Uh, Elon Musk die uhm, die de hele reden waarom OpenAI er is. Omdat Elon Musk boos boos was op Google. Nou oké, dus van Google kun je zeggen die hebben geen scrupules. En en dit is Elon Elon Musks idee.

194
00:32:28.476 --> 00:32:40.946
Die die vond ook uh, uh. Het hoogtepunt van die discussie aan die din op die dinnerparty waar ik net over was, was dat Elon dat Larry Page zei Ja, wat maakt het nou uit dat machines beter zijn dan mensen?

195
00:32:40.956 --> 00:32:56.615
Het is toch vooruitgang? En dan roept uhm zegt ie, dan zegt uh uh Elon Musk zegt uh of zegt TP zegt Elon Musk is een species. Als in uh. Ja, hij trekt de mens voor op. Ja, je trekt de mens voor op machines.

196
00:32:56.756 --> 00:33:07.456
En dan zegt Elon Musk I fucking love humanity. Nou is dat mooi drama. Dus dit is dan dit is dan het voor de de voorbode voor, voor, voor OpenAI.

197
00:33:07.496 --> 00:33:21.676
Oftewel we hebben nu allemaal bedrijven, inclusief nu OpenAI zelf, maar geen fatsoenlijke soort van. Ja, het is allemaal kapitalistisch. Dus hoe nu verder? En je zou dus kunnen zeggen moet je niet gaan zorg, zeg maar.

198
00:33:21.696 --> 00:33:35.076
Hoe zorg je ervoor dat dit allemaal zo veilig mogelijk ontwikkeld wordt? Is dat een aantal kleinere bedrijven die, uh, ja, in dit geval betaald worden door het groot kapitaal, maar kleinere bedrijven waar,

199
00:33:36.316 --> 00:33:45.156
uhm, minder snel wildgroei kan plaatsvinden, dus waarbij het makkelijker is om er controle op uit te oefenen. Dus minder bedrijven met meer controle door bijvoorbeeld de overheid.

200
00:33:46.036 --> 00:33:52.696
Of is het uiteindelijk voor de mensheid beter als er gewoon een wildgroei aan allerlei verschillende open source modellen komt?

201
00:33:53.436 --> 00:34:01.836
En die open source modellen, uhm, uhm, ja, dat we dat, dat het heel transparant is over wat de voortgang nou eigenlijk is, zeg maar.

202
00:34:01.956 --> 00:34:16.576
Is dit iets wat gebaat is bij openheid en, uh, veelheid voor, voor, voor ons als mensen? Of is dit iets wat beter waarbij waar we meer gebaat zijn bij meer controle en, en kleinere groepjes?

203
00:34:16.856 --> 00:34:25.316
Ja, dit is ook de reflectie die ik had na de laatste aflevering. Dat is een vraag aan jou, hè? Ja, daarom. Dus ik moet even de oplossing geven. Nou, ik zit al. Ik zit al met chat GPT te praten op de achtergrond.

204
00:34:25.376 --> 00:34:35.766
Als je denkt dat zit Wietse op zijn telefoon Pac-Man te spelen. Ik ben. Het antwoord aan het vragen aan de AI op deze vraag. Totale paniek dus. [lacht] Dat vind ik heel geruststellend idee. Wie gaat de mensheid redden?

205
00:34:35.796 --> 00:34:45.896
We vragen het aan de AI. Ik heb even een derde persoon aan tafel uitgenodigd. Nou, heel fijn. Uhm, kijk, de vorige keer toen we het hadden over OpenAI, toen zat ik allemaal van die snarky remarks te maken.

206
00:34:45.956 --> 00:34:56.996
Ja, ze zijn helemaal niet open. En uh, alleen Whisper is open en de naam klopt al niet. Toen zat ik in de in de trein en toen dacht ik willen, wilden we dit eigenlijk wel open? Wat zit ik nou eigenlijk te kletsen?

207
00:34:57.036 --> 00:35:05.816
Want we hebben die discussie ook al een aantal keer gevoerd en het is een lopende discussie. Moet dit wel open source zijn? Allemaal nu al als het zo krachtig is? Ja.

208
00:35:06.316 --> 00:35:12.636
Ja, de bouwtekeningen van een pistool die je kan 3D printen. Precies. Dus ik denk uh, ik ben daar nog niet uit.

209
00:35:12.996 --> 00:35:23.036
Ik vind het op zich tot nu toe de realiteit van de dag is dat die open source taalmodellen er een beetje langzaam achteraan huppelen. Dus dat vind ik wel een fijne dynamiek.

210
00:35:23.236 --> 00:35:29.336
Dus het is het is nog niet zo krachtig, je kan er alvast een beetje mee spelen. De echt krachtige dingen zijn geblackboxd.

211
00:35:29.376 --> 00:35:34.376
Wel door kapitalisten, maar ze zitten in ieder geval ergens in een doosje waar niet iedereen bij kan. Alleen van buitenaf.

212
00:35:34.856 --> 00:35:47.516
En zo huppelen dan een beetje die open source modellen daar met twee keer minder kracht achteraan zeg maar. Die zitten nu op het level GPT3 max. Uhm, dat die status quo nu vind ik wel oké merk ik. De de vraag is alleen

213
00:35:48.576 --> 00:35:56.316
ik denk dat ik in een in een iets meer ideale wereld liever had gezien dat er een aantal research labs zouden zijn wereldwijd.

214
00:35:56.656 --> 00:36:06.716
Uh, het liefst waarin toch de overheid wel enige vinger heeft als in zullen wij om de zoveel tijd even langsgaan om te kijken Zo, jullie gebruiken wel heel veel GPU's in één keer. Is dat nodig? Of weet jij?

215
00:36:06.756 --> 00:36:14.228
Hoe zit het met je dat je in ieder geval even de stroom.Stroomgebruik in de gaten houdt om te kijken van hey wat de Amerikanen eigenlijk proberen af te spreken.

216
00:36:14.248 --> 00:36:23.768
Als jij taal modellen gaat trainen die groter worden dan x aantal CPU of GPU shaders of zoveel kilowattuur, dan moet je even met ons praten, want dat vinden we nog een beetje spannend.

217
00:36:24.188 --> 00:36:32.148
Klinkt heel suf, maar heel volgens mij helemaal niet gek. Overheden hebben wat mij betreft echt een rol als in scheidsrechter governor.

218
00:36:32.208 --> 00:36:44.148
Dus dat je echt een beetje de boel in de gaten houdt, het speelveld, het volk een klein beetje beschermen, maar tegelijkertijd innovatie mogelijk maken. Super moeilijke parameters om met elkaar allemaal te, te verbinden

219
00:36:45.128 --> 00:36:58.068
of waarden met elkaar af te wegen. Heel lang, langdradig en niet concreet antwoord op jouw vraag. Volgens mij weet weten we het niet zo goed. Wat ik wel merk is

220
00:36:59.548 --> 00:37:11.128
daarom fascineert het open AI drama mij omdat het toch een soort microkosmos is van allerlei belangen. De steen der wijzen is uitgevonden ergens door een of andere Merlijn in een kasteel.

221
00:37:11.548 --> 00:37:21.128
En nu begin langzaam alle machten ter wereld en alle anderen zich allemaal te beseffen. Zo'n steen der wijzen, zo'n is een enorm potentieel ding. Daar kan je echt van alles mee.

222
00:37:21.348 --> 00:37:24.308
Daar kan je je overheid mee verbeteren, je land, je bedrijf, noem maar op.

223
00:37:24.828 --> 00:37:36.828
Dus dat is bij Microsoft al veel langer helder, want Bill Gates had in een interview aangegeven dat hij een demo heeft gekregen destijds door OpenAI, waar zij al flink in geïnvesteerd hadden van volgens mij het eerste beetje werkende GPT model.

224
00:37:37.168 --> 00:37:44.688
En dat hij meteen klik, want het is geen domme man zoiets had van oké, deze zie ik wel. Hij heeft destijds ook internet. Heel erg. Was hij heel vroeg bij.

225
00:37:45.008 --> 00:37:53.328
Er wordt altijd zo'n het is het 640 KB intern geheugen is genoeg grapje gemaakt over Bill Gates, maar ondertussen zat hij er met internet echt heel erg bovenop. Toen al.

226
00:37:53.628 --> 00:38:04.268
Dus ik denk dat hij met zijn zakelijke en technisch instinct direct gezien heeft oké, wacht even, hier is wat meer gaande. Ik ik ben er. Ik ben er voor mezelf nog niet zo goed uit

227
00:38:05.468 --> 00:38:17.268
hoe je dit nu op de beste manier kan kan structureren. Wat ik wel weet is dat je volgens mij het liefst altijd wel een groepje met verschillende stakeholders. Net als de drie verschillende machten binnen de politiek.

228
00:38:17.727 --> 00:38:25.168
Dat je wel een minimaal een driepoot wil maken van dingen die elkaar een beetje in de weg zitten, in de gaten houden en bekritiseren.

229
00:38:25.648 --> 00:38:35.948
Want als je het allemaal vanuit één entiteit gaat doen, of drie entiteiten waarvan eigenlijk de CEO voetjes heeft in alle drie, dus eigenlijk is het één dat dat gewoon vaak niet goed gaat.

230
00:38:36.248 --> 00:38:46.017
Je wil een soort van gezonde kritiek hebben vanuit andere hoeken. Ja. Dus het het hele AI, de de de technologie, deze deze steen der wijzen

231
00:38:47.148 --> 00:38:58.228
daar, daar moet een soort van gefedereerd model zijn waarbij verschillende partijen de sleutel hebben tot die doos waar verschillende partijen met elkaar dingen moeten uitwisselen. En dat is niet alleen maar commercieel.

232
00:38:59.528 --> 00:39:09.828
Nou ja, vooralsnog is de de macht van Sam Altman volstrekt geconsolideerd op dit moment. Ja, want als als hij al iets. Als hij al aan macht had in te in te boeten met

233
00:39:10.868 --> 00:39:20.158
kritiek van mensen die vonden dat het allemaal te snel ging binnen OPI, zeg maar, die moeten nu hun bek houden. Nou, die zijn wel even aan de kant gezet ja. Ik, ik.

234
00:39:20.168 --> 00:39:28.328
Ik zat op mijn telefoon te rommelen terwijl wij zitten te praten en met chat GPT te praten om te vragen of chat GPT iets kan vertalen voor mij, want ik las een comment op Reddit.

235
00:39:28.408 --> 00:39:39.188
Even wat achtergrondinformatie, maar ik pak vaak de Reddit AI weekly erbij. Dat is een. Daar halen Alexander en ik wat dingen uit. Er zit een hele mooie. Iemand is daar in de gaten aan het houden wat er allemaal gebeurt.

236
00:39:39.688 --> 00:39:48.108
En ergens geef ik nu het geheim weg van een beetje, maar er zit nog veel meer in wat wij niet behandelen, dus laat mensen het alsjeblieft opzoeken. De AI weekly thread in artificial.

237
00:39:48.748 --> 00:39:57.588
Daar reageerde iemand die zei Jongens, ik heb een nieuwe opgezet. De nieuwe subreddit alleen maar vol met positief nieuws, want ik ben echt klaar met deze hele doomer shit hier op deze artificial.

238
00:39:57.648 --> 00:40:07.408
Iedereen zit alleen maar te mekkeren. Het is helemaal niet leuk. AI is zoiets moois en het lukt jullie alleen maar om er moeilijk en cynisch over te doen. Ja dus. Nieuwe subreddit opgezet. Toen.

239
00:40:08.228 --> 00:40:18.948
Toen reageerde iemand met en dat heb ik nu even laten vertalen naar het Nederlands, want ik vind het niet zo leuk om Engels voor te lezen. En die reageert met oké, de premies van de van het topic. Even wat Engels was.

240
00:40:19.008 --> 00:40:30.708
Heel mooi Nederlands. Ja. Premies van het topic in de subreddit was de domers. De domers are taking over. Ja, en dan reageert iemand. De domers nemen het niet over.

241
00:40:31.088 --> 00:40:39.788
De realiteit is dat de meeste mensen in deze gemeenschappen die deze systemen bouwen en bestuderen echte gerechtvaardigde zorgen hebben over deze systemen. Het is geen.

242
00:40:40.648 --> 00:40:50.968
Het is geen voetbalspel, het is niet optimist versus pessimist. Er zijn allemaal zeer serieuze en zeer serieuze zorgen die aangepakt moeten worden vanuit een volwassen en rationeel standpunt.

243
00:40:51.028 --> 00:41:00.708
Als er enige hoop is dat AI daadwerkelijk een puur positieve toevoeging wordt aan de menselijke samenleving, moeten we deze discussie voeren. Waar we over discussiëren is niet zomaar een stukje software.

244
00:41:00.988 --> 00:41:06.588
AI is een hulpmiddel van ongekende omvang en kracht met een potentieel om de mensheid fundamenteel te hervormen.

245
00:41:07.008 --> 00:41:16.588
Arbeiders kunnen en masse vervangen worden zonder alternatieven of plannen van de overheid, economieën of hun economieën om massale werkloosheid op te vangen.

246
00:41:16.688 --> 00:41:29.328
Een bewuste AI kan kwaadaardige erven, kwaadaardigheid erven of ontwikkelen, wat zou kunnen leiden tot vijandige acties tegen de menselijke soort die niet de organisatie of intelligentie heeft om het tegen te gaan.

247
00:41:29.668 --> 00:41:41.328
Je kunt niet zomaar pure, ongebreidelde optimisme optimisme eisen. Miljarden mensen kunnen het hier ernstig door worden geschaad en het is officiële positie van elke serieuze AI onderzoeker en ontwikkelaar.

248
00:41:41.408 --> 00:41:44.448
Dat is waarom zij oprecht proberen te communiceren aan iedereen.

249
00:41:44.908 --> 00:42:02.008
Als je een gezonde hoeveelheid angst voor de ontwikkeling van intelligentie die we noch begrijpen, noch enige controle over hebben, behandelt als paranoia en de mensen die de mogelijkheid hebben, die de mogelijkheid dat dit wijdverspreide schade aan de menselijkheid ras veroorzaakt als domers gaat wegzetten, wil ik geen deel meer uitmaken van deze discussie.

250
00:42:02.668 --> 00:42:15.568
Een mooie toekomst is absoluut niet gegarandeerd. Mensen moeten door hun harde werk, inspanning en rooskleurige toekomst opbouwen op basis van hard werk, vindingrijkheid en goed geïmplementeerde veiligheids protocollen.

251
00:42:15.828 --> 00:42:27.684
Ja, amen.Dit is waar ik nu sta in mijn gedachtegoed. Ik heb het even geript van iemand op Reddit en door chat GPT laten vertalen dat ik echt. Ik heb het de vorige keer al gezegd ik ben gegaan van oei, stop, pauze.

252
00:42:27.744 --> 00:42:34.424
Allemaal eng. Moeten we dit allemaal willen? Naar wauw, wat mooi! Ik gebruik het zelf dagelijks. Ik ben echt enthousiast over deze technologie.

253
00:42:34.464 --> 00:42:45.464
Laten we zorgen dat we het, whatever that means, een zachte landing kunnen geven. Dat we ervoor kunnen zorgen dat het inderdaad die voordelen heeft, meer dan dat het de nadelen heeft. En ik?

254
00:42:45.504 --> 00:42:58.024
Ik weet niet hoe, maar het is denk ik niet handig als we in die voor en tegen een beetje blijven hangen. Wat wij samen volgens mij niet per se doen hoor, maar. Nou, punt gemaakt zou ik zeggen.

255
00:42:58.584 --> 00:43:09.724
Weet je wat ik ook fascinerend vind? Want kijk, alles is gebaat bij transparantie. En dat zegt deze meneer in die Reddit thread dus ook. We zijn gebaat bij transparantie om als mensheid te weten waar we ongeveer staan.

256
00:43:10.184 --> 00:43:18.704
Toch? Daar is geen twijfel over. Zeker, we willen allemaal. We willen weten wat de cutting edge is op dit moment. Je hoeft de code niet vrij te geven, maar zeg maar wat het kan. Laten we daar eens beginnen.

257
00:43:18.904 --> 00:43:34.984
En volgens mij weten we dus niet bijvoorbeeld van chat GPT-4 vision hoe die hoe dat visuele element van het model nou precies werkt. Dus wat zoals ik het begrijp kan.

258
00:43:35.044 --> 00:43:44.504
Dus chat GPT4 Vision is een foto kunnen uploaden naar chat GPT en dat vervolgens dat taalmodel er wat mee kan. En waar.

259
00:43:44.564 --> 00:44:01.924
Wat wij volgens mij niet weten is of dat taalmodel zo werkt dat een foto wordt omgezet in taal en dat dat de manier is waarop dat ding vervolgens. Gaat kan gaan reageren op wat er in een foto gebeurt.

260
00:44:02.224 --> 00:44:05.764
Oftewel hij kijkt naar de. Ik weet niet precies. Kijkt hij naar de pixels?

261
00:44:05.804 --> 00:44:13.484
Of hij kijkt naar wat hij aan patroontjes kan herkennen in een foto en zet dat daadwerkelijk om in tekst zoals wij eerder het hebben gehad over muzieknoten.

262
00:44:14.024 --> 00:44:25.263
Dus dat dat je een taalmodel kan gebruiken om muziek te maken door eigenlijk te zeggen nou, muzieknoten is de taal. Die muzieknoten gaan we omzetten in letters, dus zo kunnen we het taalmodel muziek laten maken.

263
00:44:25.684 --> 00:44:26.263
Dus je kan

264
00:44:27.304 --> 00:44:39.424
muziek of visuele dingen of dingen die niet logischerwijs in tekst, die niet op het eerste gezicht, niet op het eerste gezicht, niet logischerwijs in tekst om te zetten zijn toch door een taalmodel laten bestieren, zal maar zeggen.

265
00:44:40.624 --> 00:44:53.264
Dat is één mogelijkheid. Een andere mogelijkheid is dat het echt dat foto's zeg maar onderdeel zijn van het model. Dat het dus eigenlijk verder gaat dan een taalmodel. Dat het echt getraind is op foto's.

266
00:44:53.924 --> 00:45:03.604
En dat hij dus begrijpt wat ja begrijpt wat de foto's zijn zonder dat eerst in taal om te zetten. Dat hij als het ware die tussenstap overslaat.

267
00:45:03.644 --> 00:45:10.524
Ja, het is heel mooi, want ik, ik denk ik denk zelf, dat weet ik helemaal niet. Wij weten dit niet. Nee, dit is superinteressant. Nou ja, dat weet ik.

268
00:45:10.704 --> 00:45:20.624
Dat weet ik ook niet helemaal zeker, maar heb je het niet kunnen vinden? Nou, ik heb met wat mensen. Hier zat ik me af. Ik zat me af te vragen hoe dit werkt. Dus ik ben wat gaan rondvragen bij. Bij mensen die

269
00:45:21.644 --> 00:45:38.244
het kunnen weten. Niet bij OpenAI. En. Er zijn gewoon vraagtekens over. Ja, want mijn aanname is, en dat kijk het erkennen van. Mijn punt is natuurlijk sorry voordat ik je gang. Nee, mijn punt is ga ik. Wij weten niet.

270
00:45:38.564 --> 00:45:47.784
Wij weten. Dit is dus iets van dit. Ik moeten bediscussiëren is al is al iets. Ja, hoezo moeten we dit bediscussiëren? Ik wil gewoon weten hoe dit werkt. Leg het. Leg dit uit. En dit is niet iets waar ze van.

271
00:45:47.844 --> 00:45:57.584
Oh, het is een black box. We hebben geen idee hoe het werkt. Dit weet OpenAI tuurlijk. Dit is zo ontworpen. Precies. Dus praat daar over. En dat doen ze niet. Want ik denk dat ik kijk binnen die.

272
00:45:57.784 --> 00:46:09.164
Omdat die kunstmatige intelligentie ook zo ontzettend in de wetenschappelijke academische wereld hangt, waar het idee is dat je constant papers uitbrengt en die papers met elkaar deelt en dan op elkaars werk kunt voortbouwen.

273
00:46:11.044 --> 00:46:20.364
Dat was het idee van een van. Zelfs Apple schrijft tegenwoordig brengt artikelen uit, want het lukte hun niet om AI toppers binnen te halen.

274
00:46:20.404 --> 00:46:27.324
Want die zeiden allemaal ja, maar ik wil wel gewoon kunnen publiceren, want dat is dat is de ethos van de community. Het zijn academici die die dat normaal vinden.

275
00:46:27.384 --> 00:46:33.844
En Apple is helemaal niet daarvan als het over black boxen hebben. Maar zelfs vanuit Apple AI research komen tegenwoordig papers.

276
00:46:34.224 --> 00:46:45.884
De papers die komen uit OpenAI zijn allemaal een beetje half marketing, een beetje leeg, half weg getypexte shit waar we niet zo heel veel mee kunnen. Het blijft expres vaag. Daar heb je 100% een punt.

277
00:46:46.604 --> 00:46:57.264
Ik denk zelf dat GPT-4V, maar allemaal aannemen aannames een combinatie is van twee technieken. Dus je hebt een algoritme getraind, een model getraind om objectdetectie te doen in plaatjes.

278
00:46:57.284 --> 00:47:09.084
Dus dat is allemaal door middel van een hele grote image dataset die al gelabeld was met kat is een kat en hond is een hond en dan kan dat ding uiteindelijk uitspugen. Je doet er een plaatje in, je krijgt terug 93% kat.

279
00:47:09.164 --> 00:47:15.084
Ik zie een auto, ik zie een fiets en ik zie een blauwe horizon en dat gaat dan een taalmodel in. Dat denk ik.

280
00:47:15.544 --> 00:47:29.104
Maar wat jij terecht zegt is ja maar dat taalmodel kan ook muziek maken, dus waarom zou dat taalmodel niet ook objecten kunnen herkennen? Is het inmiddels al één multimodal supermodel? Dus volgens mij. Audio in zit.

281
00:47:29.284 --> 00:47:35.844
Ja, maar volgens mij. Kan doen. Volgens mij is multimodale ook dat je dus echt verschillende modellen combineert als een soort ensemble.

282
00:47:36.144 --> 00:47:44.284
Ik denk dat GPT-4 een minimaal een ensemble is van twee verschillende modellen die met elkaar samenwerken. Namelijk foto's en tekst.

283
00:47:44.364 --> 00:47:51.704
Ja, om te kunnen komen van rauwe pixels naar concepten die weer te te begrijpen zijn door dat taalmodel.

284
00:47:52.144 --> 00:48:02.784
De vraag is alleen dit is natuurlijk hetzelfde op het moment dat als wij nu paranormaal onze breinen zouden verbinden. Ik ga. Ik maak even een sprongetje. Dat kunnen wij niet. Een klein sprongetje. Ik blijf erbij.

285
00:48:03.424 --> 00:48:14.256
Alexander's ogen gaan inmiddels dicht. Zo'n groot sprongetje is het.Ehm, dan is het eigenlijk heel erg inefficiënt voor ons om nog in de Nederlandse taal te communiceren.

286
00:48:14.716 --> 00:48:23.516
Waarschijnlijk kunnen we beter communiceren in de taal die voor taal zit. En nu gaan we echt richting veel te diepe cognitieve filosofie waar ik ook te weinig van weet. Taal voor taal. Ja dus.

287
00:48:24.156 --> 00:48:32.416
Er zijn bijvoorbeeld filosofen die praten over precepten in plaats van concepten, dus dat is wat nog voor een concept zit. Een concept is al heel erg uitgekristalliseerd: auto.

288
00:48:32.436 --> 00:48:41.536
Maar er zit waarschijnlijk een, een, dat weten we niet. Er zijn allemaal theorieën over, maar het is niet zo. Een leeg brein, auto en dan ineens, daar zit niks tussen of zo. Daar zit een soort opbouw aan.

289
00:48:41.956 --> 00:48:52.416
En dat die, die, die precepten, dus wat, wat ervoor zit, die zijn ook wat meer gemixt nog met emotie. Concepten zitten veel meer in de neocortex. Die zijn heel concreet, uh, heel rationeel.

290
00:48:52.736 --> 00:49:01.596
Maar er zit een soort lijn voor, uh, de, de onderbuik, het lichaam, het gevoel. En die, dat is nog een soort primitieve prototype concepten komen daarvoor.

291
00:49:01.796 --> 00:49:09.776
Dit, dit, dit soort theorieën heb je allemaal nodig om te komen van een hagedis tot een mens. Want het was niet ineens op een maandagochtend: yo, goeiemorgen, ik ben Henk. Weet je, dat ging niet zo.

292
00:49:09.836 --> 00:49:15.726
Dus er moet nog een soort geluiden voor zijn geweest. En mimiek en non-verbaal. Dat doen wij nog steeds hier met z'n tweeën.

293
00:49:15.756 --> 00:49:22.416
Daarom vinden we het ook leuker om live in deze studio te zitten, want er gebeurt zoveel meer dan alleen maar die woorden van mij. Voor de helderheid we nemen dit een keer niet terug.

294
00:49:22.456 --> 00:49:26.476
[lacht] Ja, ik geef nu echt alles weg. Ja. Ja. Uhm, het is vrijdag.

295
00:49:27.456 --> 00:49:37.716
Uiteindelijk, uh, zou het natuurlijk zo kunnen zijn dat als je twee modellen hebt die met elkaar samenwerken, dus een taalmodel aan de ene kant en een visueel model aan de andere kant, die object-, uh, detectie kan doen.

296
00:49:38.256 --> 00:49:45.336
Dat die niet in het Engels [lacht] met elkaar praten, maar op een lager niveau aan elkaar gekoppeld zijn. Juist.

297
00:49:45.376 --> 00:49:54.226
En ik denk dat, uh, dus om een beetje antwoord te geven op jouw vraag en dat, dat wordt ook dan weer een beetje meer, uh, ja, waar, waar stoppen we de kaders?

298
00:49:54.656 --> 00:50:02.196
Jij zou kunnen zeggen als iemand van OpenAI uitlegt wat het is dat jij zegt: maar dit vind ik eigenlijk gewoon één model dan. Ik vind eigenlijk dat GPT vier V.

299
00:50:02.676 --> 00:50:06.576
Dat gaan we niet meer A plus B noemen, maar is gewoon een merger. Is een hybrid model. Ja.

300
00:50:06.896 --> 00:50:15.336
Terwijl ik misschien zou zeggen: ja, dat ze op zo'n fundamenteel n-niveau met elkaar communiceren dat wij het als mens niet meer kunnen lezen, maakt niet dat het niet nog steeds twee modellen zijn. Ja.

301
00:50:15.635 --> 00:50:27.516
Dan, dan kunnen we die discussie daar laten. Ik denk dus dat die GPT, v-, uh, vier V een bolted on extra, uh, uh, ding heeft, maar niet-- mogelijk communiceert het gewoon in het Engels, hoor.

302
00:50:27.916 --> 00:50:37.776
Het zou zo, dat is gewoon heel lame, weet je wel. Zo heel erg brute force. Maar ik denk inmiddels dat het op een soort, uh, ja, voor taal zit of zo, denk ik.

303
00:50:38.916 --> 00:50:47.236
Ja, en het, ik, ik heb gewoon niet heel veel vertrouwen gekregen. Uhm, ook door de gebeurtenissen van afgelopen week. En misschien is dus dat, dat vertrouwen onterecht.

304
00:50:47.456 --> 00:50:50.696
Vertrouwen gekregen in dat OpenAI nou zo transparant is met wat ze doen.

305
00:50:51.456 --> 00:50:58.696
Want het kan zou zijn dat we, dat we dus kun-, ons, dat we kunnen redeneren als er iets, als er iets was geweest wat erg was, dan was er wel een lek geweest.

306
00:50:58.756 --> 00:51:03.476
Nou oké, dat is op een bepaalde manier geruststellend dat dat, dat er geen lek is geweest. Nog niet. Maar toch.

307
00:51:03.496 --> 00:51:33.596
De hele opzet is nu met een bedri-, met een board wat er, wat met allemaal een soort van, uh, economische belangen heeft, met Microsoft voorop, die er, uhm, niet een belang bij heeft om alles transparant te doen, want ze weten wat voor overheid-, uhm, inmenging er zou ontstaan op het moment dat je, uh, onrust gaat zaaien over dingen waar je nog over twijfelt of van vroege, uh, aanwijzingen die je hebt voor dingen die negatief zouden kunnen zijn.

308
00:51:33.925 --> 00:51:37.356
Weet je, te transparant zijn zorgt al heel snel voor heel veel onrust.

309
00:51:37.396 --> 00:51:49.456
Nou ja, je ziet dat nu bij gebrek aan, uh, duiding over waarom Altman ontslagen was, de, de, gelijk de invulling in een soort van Terminator 2-achtige, uh, scenario's dat we er gelijk op plakken.

310
00:51:50.296 --> 00:52:10.236
Uhm, dus dat, dat is, uhm, dat is aan de hand en ik, en tegelijkertijd, het bedrijf begint zich nu te gedragen alsof het een soort van Apple-achtig is met, met keynotes waar ze dus aankondigingen doen X keer per jaar over nieuwe modellen met nieuwe features en, en het is dan helemaal uitgewerkt in een product.

311
00:52:10.276 --> 00:52:17.456
Dat is niet een soort van de, de, de wetenschap die daaraan ten grondslag ligt of de, het moment dat het gewoon, dat het technisch ontdekt wordt dat het kan.

312
00:52:18.336 --> 00:52:28.616
Maar het is het moment dat het in ChatGPT geïntegreerd gaat worden, dat moment dat het st-op Steve Jobs-achtige wijze aangekondigd wordt, wat een soort van geheimzinnigheid vereist.

313
00:52:28.716 --> 00:52:40.936
Het vereist geheimzinnigheid om op een def day met een keynote een leuke aankondiging te doen. Dus dat, het vergroot mijn wantrouwen. En dat Apple dat doet met fucking iPhones die ze uitbrengen moet ze lekker zelf weten.

314
00:52:41.536 --> 00:52:48.496
Maar het voelt alsof OpenAI het type technologie maakt waarmee, waarmee het gewoon niet oké is om daar een, een soort van glitchy show van te maken.

315
00:52:48.536 --> 00:53:02.636
En die, die, de, de belangen zijn waar ze, waar ze al een beetje, waar ze nog een beetje geremd werden door dat, door dat non-profit idee en, en weet je dat er, het idee dat er dus mensen aan boord zijn die zich heel erg zorgen maken over AI-veiligheid.

316
00:53:03.576 --> 00:53:12.276
Het wordt, het, ja, uh, i-ik ben niet gerustgesteld door de ontwikkeling van de, van de afgelopen week op het gebied van transparantie op het gebied van governance.

317
00:53:12.916 --> 00:53:25.376
En ja, door, door beter na te denken, want ik denk dat een soort van be-bewustwording is bij ons allemaal over, uh, ja, hoe, w-wie er achter dit soort bedrijven zitten, wat dat voor mensen zijn en wat hun beweegredenen precies zijn.

318
00:53:25.676 --> 00:53:34.256
Daar is meer duidelijk over geworden en dat maakt me niet bepaald geruster. Dus of, of het nou een Hollywoodscenario is of, of, of niet, waar we rekening mee moeten houden.

319
00:53:34.876 --> 00:53:41.146
Ik vind deze, deze, de basis die hier voor ons ligt vind ik niet bepaald positief. Ja, ik denk dat, uhm,

320
00:53:42.316 --> 00:53:55.396
wij hebben allebei, uh, gezegd toen we die presentatie van OpenAI zagen en ik nog meer dan jij, van: vet man, ik heb dit gemist. En, uh, want het was een beetje een Jobsiaans ding.

321
00:53:55.576 --> 00:54:00.766
Sam Altman stond- Het was een goede show. Ja, het was echt een goede show. Ik viel er ook voor. Het zag er best wel mooi uit ook allemaal. Jazeker.

322
00:54:00.776 --> 00:54:09.188
Lekker stijltje en ik, en ik, ik hoorde bijna zo, weet je, wat je vroeger wel eens tijdens keynotes had, uh, zo'n fluitje in de zaal, zo [fluit]Dat betekende altijd van dit is nice.

323
00:54:09.248 --> 00:54:19.168
Het was een soort meest subtiele fluitje wat je kon doen. Nou, dat. Ik heb het fluitje waarschijnlijk gehallucineerd. Maar goed, ik keek dat en ik dacht ik had een soort ja, het is toch ook een beetje nostalgie?

324
00:54:19.808 --> 00:54:29.548
Weet je nog toen tech cool was en we allemaal nieuwe gadgets kregen de hele tijd? Ja, ja. Nou en dan. Maar dan op een gegeven moment. Het voelt bijna misplaatst. Dat dat beschrijf jij nu heel mooi van.

325
00:54:30.408 --> 00:54:44.548
Maar wacht even, ik pak toch nog even die steen der wijzen erbij. Zoiets fundamenteels, zoiets maatschappelijk breed rakend, zoiets existentieels. Is dat eigenlijk wel een World coin achtig product?

326
00:54:45.268 --> 00:54:52.548
Ik Ik bedoel, want we hebben een applausje gegeven aan Sam Altman. Ik denk omdat hij gewoon ontzettend goed is in het neerzetten van een product.

327
00:54:52.708 --> 00:55:03.348
En dat klinkt misschien heel leeg, maar het is, dat weten wij allebei, gewoon echt moeilijk om iets neer te zetten waar mensen enthousiast van worden, wat ze begrijpen, waar ze voor willen betalen of wat ze in ieder geval willen.

328
00:55:04.088 --> 00:55:13.628
Ja, waar ze iets voor over hebben. En dat het je dan lukt om dat het ook nog op een manier te doen dat het er een beetje goed uitziet, dat het lekker werkt, daar hebben wij volgens mij allebei respect voor.

329
00:55:13.708 --> 00:55:27.288
En nu meer en meer denk ik ook van oké, maar wacht even is. Misschien is Sam Altman veel meer geschikt om die fundamentele technologieën die uitgevonden worden op andere plekken

330
00:55:28.388 --> 00:55:32.198
te licenseren en daar producten op te bouwen. Misschien ik, ik.

331
00:55:32.228 --> 00:55:41.028
Ik zou bijna zeggen ga, start wel een bedrijf ernaast, neem een licentie op de technologieën van OpenAI en ga lekker die apps allemaal bouwen, want daar ben je hartstikke goed in.

332
00:55:41.348 --> 00:55:50.888
En doe alsjeblieft ook nog een paar apps voor de overheid in Amerika en andere plekken waar apps nodig zijn. En ga misschien werken voor mensen met diabetes en ga het hele Global Health System aanpakken in Amerika.

333
00:55:50.908 --> 00:56:00.568
Sam, want je bent ontzettend goed in het tot de markt brengen van hele mooie werkende producten, maar ik denk dat hij niet de juiste persoon is. Dat ben ik toch wel met Ilya eens.

334
00:56:00.628 --> 00:56:10.227
Om bij OpenAI een halve NGO research lab die existentiële technologie aan het ontwikkelen is. Daar moet je gewoon niet zo'n rogue Sam Altman bij hebben. Dat dat, dat denk ik.

335
00:56:10.948 --> 00:56:21.768
Zullen we eindigen met wat gezellige dingetjes? Ja, is leuk. Nou Eleven Labs heeft een. Dus de de, de de de voorloper op het gebied van allerlei AI stem generatie.

336
00:56:21.908 --> 00:56:34.928
Dus het maken van op basis van een sample van iemands stemgeluid. Ja, om die persoon onbeperkt aantal dingen kunnen laten zeggen. En ze Ze maken technologie voor andere tekst to speech, voor bijvoorbeeld audioboeken.

337
00:56:34.948 --> 00:56:45.567
En ze Ze gaan steeds verder met het leggen van emotie in stemmen, waardoor een een AI stem eigenlijk veel, nog steeds realistischer wordt. En hun ontwikkeling gaat best snel.

338
00:56:45.648 --> 00:56:55.528
Ik vind dat ze met grote snelheid met updates uitkomen. Iedere anderhalve maand weer. Een groot ding. Grote stappen. Dus of hij nou meer talen kan of. Het nieuwste ding is speech to speech.

339
00:56:55.748 --> 00:57:07.548
Dus niet tekst to speech of speech to tekst, maar speech to speech. Zodat je tekst to tekst hebt in je speech, speech en speech to speech is een stukje tekst invoeren of een stukje audio invoeren. Je hebt gewoon een.

340
00:57:07.608 --> 00:57:20.788
In dat ding heb je gewoon een opname knop en dan kun je. We hebben het zelf net ook even geprobeerd. Een opname knop waar je gewoon in kan praten en dan vervolgens kun je een stem uitkiezen die jouw stem vervangt.

341
00:57:20.808 --> 00:57:31.608
Het is als een soort van deepfake voor je gezicht dat je er opeens uit kan zien als Mark Rutte. Maar nu kan je ook je stem dan in één keer laten vervangen door Mark Rutte. Ik heb Mark Rutte getraind.

342
00:57:33.068 --> 00:57:40.248
Dat klinkt heel gek, maar ik heb een Ik heb. Ben jij zijn mentor? Ik kom eindelijk uit de kast als. Spindoctor. Genius.

343
00:57:42.648 --> 00:57:51.128
En 30 seconden audio van Mark Rutte was genoeg om een redelijk realistische versie van van, van Mark Rutte te krijgen die van tekst to speech doet.

344
00:57:51.478 --> 00:57:59.408
Maar nu kan ik dus ook een stukje tekst in mijn eigen stem opnemen en dan Mark Rutte die stem te laten doen. En dan pakt hij exact de manier waarop ik praat.

345
00:57:59.568 --> 00:58:14.808
Dus hij pakt de de manier waarop ik intonaties leg bij woorden, de pauzes die ik neem en andere dingen die die ik doe terwijl ik praat, neemt hij over. En dat vind ik echt heel erg cool.

346
00:58:14.868 --> 00:58:25.127
Het werkt nog niet super goed, maar het werkt best oké. Er zijn voorbeelden, maar dat is een beetje. Mensen hebben hun best gedaan en een beetje een accent zelf nog aangezet. En hebben geselecteerd de goede versie.

347
00:58:25.148 --> 00:58:33.188
En dan? Dan denk je toch wel wow. Maar als je het zelf test dan merk je nog wel o ja. Er zijn. Er zijn momenten dat het goed gaat en er zijn momenten dat het niet zo goed gaat. Maar

348
00:58:34.288 --> 00:58:45.788
het het geeft wel aan hoe hoe ver het nu is en dat we dus over anderhalve maand waarschijnlijk weer naar een betere versie zitten te te luisteren. Als je dit doorredeneert, want ik zat. Ik zat dus dit is gewoon vet.

349
00:58:45.808 --> 00:58:56.128
Punt. Nou, dat is een toch nog een positief ding om. Ik heb. Ik wil ook nog wel één positieve straks toevoegen. Dan eindigen we ook positief. Een ander ding wat ik heel veel voorbij zie komen nu op.

350
00:58:56.668 --> 00:59:10.708
Op X heb je van voorheen Twitter. Heb je van die van die golven van mensen die nieuwe AI dingetjes proberen? Dus als op een moment dat Midjourney met een nieuw model uitkomt, dan zie je dat iedereen ermee gaat klooien.

351
00:59:10.888 --> 00:59:23.708
Je Je hebt momenten dat dat Gaussian splitting voor het eerst veel gebruikt wordt. Dus dat je foto's kan maken waar je in 3D in kan vliegen als het ware. En dan zie je dan weer daar mensen heel veel weer mee klooien.

352
00:59:23.788 --> 00:59:34.408
Goede naam voor een band trouwens, maar. En wat nu? Het ding is waar mensen veel mee aan het klooien zijn is een paint tekening maken van iets.

353
00:59:34.448 --> 00:59:45.088
Dus je maakt een paint tekening van een boom en dan laat je de AI daar de fotorealistische versie van maken. En het doet mij dus een beetje denken aan de metafoor speech to speech. Ja mooi.

354
00:59:45.348 --> 00:59:59.808
Dus je maakt een tekeningetje op zoals een kind een tekening maakt. Gewoon, nou ja, laten we zeggen basaal. En vervolgens maakt de AI daar iets heel moois van. En ik? Ik ben dus redelijk gefascineerd door dit soort.

355
01:00:01.928 --> 01:00:13.508
Ja, hoe moet je dat nou zeggen? Functie die je kan gebruiken omdat het het. Het is niet vanuit het stof.Iets vanuit het stof iets optrekken wat nieuw is, zoals ChatGPT is.

356
01:00:13.568 --> 01:00:25.788
Je vraagt aan ChatGPT om iets te schrijven en dan krijg je gewoon nieuwe tekst. Nee, het is eerst iets invoeren waarbij de AI het transformeert in iets anders, verbetert of wat dan ook.

357
01:00:26.968 --> 01:00:33.968
En als je dus de optelsom maakt van een tekeningetje maken en daar een mooie fotorealistische, realistische plaat van maken.

358
01:00:34.428 --> 01:00:41.628
Of een tekstje inspreken en dan vervolgens een hele gave stem erbij kunnen gebruiken, al dan niet op muziek.

359
01:00:43.168 --> 01:00:52.028
Of een videootje maken van jezelf dat je op straat loopt en dan AI een soort van ruimte versie daarvan laten maken, maar dat jij wel de bewegingen van jou.

360
01:00:52.108 --> 01:01:04.108
Dus je ziet jezelf wandelen, maar in een ruimtepak en een totaal ander poppetje en in een totaal andere omgeving. Het is dus AI, die bron informatie die wij allemaal, hoeven niet programmeur voor te zijn.

361
01:01:04.168 --> 01:01:13.588
Je hebt gewoon een iPhone nodig, that's it, kunnen maken. En ik zit dan elke keer te denken wat als ik nu twaalf jaar oud was geweest, wat had ik hier dan mee gedaan?

362
01:01:14.128 --> 01:01:25.608
Ik denk dat het zo vet is om nog toe te voegen dat het menselijke input is. Dus het is een, uh, samenkomst. Het is een hybrid tussen mens en machine. Ja. En dat maakt het volgens mij.

363
01:01:25.708 --> 01:01:30.248
Want ik moet ook denken stel dat jij een mooi gedicht schrijft, maar je kunt het zelf niet zo mooi vertellen.

364
01:01:30.628 --> 01:01:39.848
Dan zou je misschien vroeger een, uh, daar tekst van hebben gemaakt en een toneelvereniging hebben gezocht waar iemand zat, een actrice of een acteur Ja. die dat ergens op een podium kon brengen.

365
01:01:39.868 --> 01:01:48.148
En dan zit jij in de zaal met het publiek. En dan, en dan bracht zij het en dan dacht jij: ja, dit is wat ik wilde zeggen, Ja. maar ik kan het niet zeggen. Ik kan het alleen maar schrijven.

366
01:01:48.528 --> 01:01:57.968
En dat is wat, wat dit kan is dat jij gewoon echt kan denken. Ik heb een beeld in mijn hoofd van een neergaande zon ergens, maar ook in een dystopisch landschap. Maar kan niet tekenen.

367
01:01:58.008 --> 01:02:06.828
Ik kan niet tekenen, ik kan wel tekenen, maar ik kan niet tekenen. Ja. En dat dan, dan dat, dan. Dat vind ik de mooiste filmpjes. Dat het, uh, live is. Dus dan heb je één vak.

368
01:02:06.868 --> 01:02:17.208
Aan de ene kant is het iemand paint en die AI die zit een halve seconde erachter aan de, in het andere vak jouw interpretatie te doen. Dus dan ben je echt samen bezig. Ja. En iedere keer als je die pen.

369
01:02:17.228 --> 01:02:29.388
En als je ineens een strook maakt, staat er ineens een raket in dat landschap. Dan denk je ook wel ja, ja, dat. Het samenspelen in een soort van mini-orkest met AI is wat mij betreft het summum. Ja. Dit is het.

370
01:02:29.448 --> 01:02:35.368
Laten we daar blijven met z'n allen. Dat we het samen kunnen doen. Nou, tenslotte een laatste positieve noot. Nou, ik zat, uh.

371
01:02:35.388 --> 01:02:53.908
Wij hebben het ooit gehad over een soort brute force manier om te zorgen dat, ook al gaan app-ontwikkelaars, in dit geval mobiele apps, uh, niet zo snel allerlei, uhm, haakjes toevoegen aan hun knopjes zodat jij heel makkelijk tegen Siri kan zeggen: ik wil graag een Uber bestellen en ik wil dat die, nou ja, ik wil een Uber bestellen.

372
01:02:54.908 --> 01:03:04.388
Zoek het uit. Regel het. Kijk maar naar mijn agenda. Doe maar wat. Zie maar waar ik ben. M-hm. En open die Uber-app en druk op al die knoppen waar ik normaal op zou drukken. Ja. En dan. Ja, maar je moet de Uber-API.

373
01:03:04.468 --> 01:03:15.068
Nee, die is er niet. Je gaat gewoon op die knoppen drukken. Alsjeblieft, lieve jij. En nou, daar is nu een mooie research paper van. Uh, die heet GPT4 in Wonderland en dat is een zero shot approach.

374
01:03:15.128 --> 01:03:24.468
Dus dat houdt in dat je het zonder eerst iets uit te leggen er gewoon op los gaat. En dan, uh, moet je je voorstellen dat er een iPhone-simulator gestart wordt. Gewoon een virtuele iPhone.

375
01:03:24.828 --> 01:03:36.428
Daar wordt een taalmodel op losgelaten, GPT4V, die ook nog eens kan kijken. Hoe die kan kijken weten we nog niet, maar die kan kijken. En dan een opdracht geven. Ik wil graag weten waar deze in deze stad ligt.

376
01:03:36.588 --> 01:03:45.268
Of ik wil graag een bestelling plaatsen. Of ik wil graag een notitie maken. En dat ding gaat gewoon als een gek overal op klikken, knop, trekken, draaien, uh, en doen.

377
01:03:45.808 --> 01:03:57.368
En uiteindelijk lukt het dus heel makkelijk met 91% accuracy eigenlijk al vrij snel om door dat hele OS heen te klikken. Nou, dan denk ik: stel dat je dat nou doet voor de NS-kaartautomaat.

378
01:03:58.088 --> 01:04:06.318
Dus je gaat, je pakt dit stuk software, GPT4V M-hm. en dat installeer je op een NS-kaartautomaat. Gewoon die grote gele bakken die staan bij het perron. Ja.

379
01:04:06.328 --> 01:04:14.248
En dan loop je daar naartoe en dan zeg je: ik wil graag een kaartje naar Rotterdam Centraal. En dan zie jij gewoon een beeld zo boem, boem. Met misschien een cool toverstafje of zo.

380
01:04:14.348 --> 01:04:22.928
Misschien gewoon Merlijn de Tovenaar of Klippie. Maakt me allemaal geen reet uit wat je doet. Of gewoon niks en er komt gewoon een orb in beeld of zo. En dan tikt hij gewoon door die interface heen.

381
01:04:22.968 --> 01:04:33.928
En interface-ontwerpers, softwareontwikkelaars zijn allemaal nu tegen die podcast aan het zeggen: ah! En ik denk: yo, ik wil gewoon een kaartje kunnen bestellen, ik ben blind, dus zullen we het gewoon installeren? Ja.

382
01:04:33.968 --> 01:04:44.248
En dit is wat GPT4 nu al kan. Ja. En goed ook. Ja, en dan weer, ik, ik vertel dit, weer zo'n toepassing waar je dan toch niet tegen kan zijn. Ja. Is toch hartstikke vet?

383
01:04:44.328 --> 01:04:54.988
Nou ja, een kaartje kopen, uh, is natuurlijk heel simpel, maar stel je voor dat je dit kan doen voor, uh, je wil, uh, een restaurant boeken en je weet alleen nog maar dat je een Indiaas restaurant wil, maar nog niet welke.

384
01:04:55.388 --> 01:05:03.248
En dat die plek is en zo. Dat is maar iets uitgebreidere stappen. Zeker. Dan gaat het natuurlijk echt heel erg lekker. Nou nee, wat ik, wat je denk ik gaat zien is dat er, uh.

385
01:05:03.328 --> 01:05:07.648
Er is namelijk al software die dit doet, alleen dan moet je dat allemaal laten maken en dat kost best wel wat tijd en geld.

386
01:05:08.088 --> 01:05:19.788
Maar, uh, stel je voor ergens in, uh, Duitsland is een boekingssysteem voor een grote hostelorganisatie die draait op Windows NT. Dat is een heel oud besturingssysteem en dat is een stuk Windows-software.

387
01:05:19.828 --> 01:05:25.268
Die is gewoon rock solid. Het is gewoon hartstikke goed. Alleen ja, iedereen die daar nieuw komt werken moet leren werken met dat boekingssysteem.

388
01:05:25.548 --> 01:05:36.108
En het koppelen aan het internet was helemaal een draak, want er was geen API. Nou, nu zou je kunnen zeggen in, zet GPT4V op al die oude Windows NT-systemen. Ja. Dus iemand moet één keer een connector bouwen. Ja.

389
01:05:36.128 --> 01:05:43.348
En als er dan een boeking geplaatst wordt via de app, dan gaat hij gewoon klikken. Ja. En dan klikt hij gewoon in dat oude systeem, uh, die boeking aan elkaar.

390
01:05:43.428 --> 01:05:52.568
En ik denk dus dat je op, op deze manier een soort hele bizarre bruggen kan gaan bouwen en API's kan maken. Geweldig nieuws voor Geert Wilders, want die wil graag de boodschappen, het btw op boodschappen verlagen.

391
01:05:52.588 --> 01:06:06.257
En dat gaat Belastingdienst natuurlijk niet kunnen. Dus dan misschien kan GPT4 met Cobol praten. Nou is dat ook weer opgelost. Heel fijn. Tot volgende week. Daar laat ik je bij achter. Dag. Doei. [lacht] [muziek]