WEBVTT

1
00:00:00.100 --> 00:00:10.400
Welkom bij AI Report, de Nederlandse podcast over kunstmatige intelligentie, waar we uitzoeken welke invloed AI heeft op ons werk, ons leven en de samenleving. Tegenover mij zit Wietse Hage. Hallo.

2
00:00:10.660 --> 00:00:24.360
En ik ben Alexander Klöpping. Deze week: Mythos. Het nieuwe grote model van Claude is zo krachtig dat Anthropic het niet durft vrij te geven. En Google lanceert een AI die volledig op je telefoon draait.

3
00:00:24.580 --> 00:00:29.700
Van een volwaardige privacyvriendelijke AI. Hier. Je hoort het zo in AI Report. Veel plezier!

4
00:00:40.030 --> 00:00:50.820
[muziek] Wietse, ik merk dat ik tegenwoordig steeds vaker dank je wel zeg tegen, tegen mijn AI. En dat zegt dat je dat eerder dus niet deed. Nou, dat klopt. Moet ik me daarvoor schamen? [lacht] Wat jij wil.

5
00:00:50.880 --> 00:00:59.660
Jij zegt al jaren. Wat is er veranderd bij je? Nou, wat bij mij is veranderd is dat ik af en toe zo onder de indruk ben dat hij iets heeft gedaan zoals ik wil dat hij het doet.

6
00:00:59.700 --> 00:01:12.420
Dat ik echt een soort van, ja, dan ben ik gewoon echt heel gelukkig dat het hem is gelukt. En dan uit, uit op, oprechte, ja, Waardering. dankbaarheid en waardering zeg ik dan: dank je wel, dit is heel vet. Goed gedaan.

7
00:01:12.700 --> 00:01:21.820
Ik merk nu dat ik alle keren dat jij dank je wel tegen mij gezegd hebt ooit ineens ook anders ga zien. Ja, dat is, dat is een heel grote threshold, hoor. Ja, heel zwaar. Zwaar til ik daaraan.

8
00:01:21.850 --> 00:01:29.380
Nee, ik was altijd, ik, ik heb, uh, je hebt natuurlijk verschillende redenen om dank je wel te zeggen tegen een AI. Sommige mensen zijn, uh, bang dat anders de AI later boos wordt.

9
00:01:29.440 --> 00:01:39.260
Voor mij was het meer, uh, dat ik bang ben dat ik anders, als ik een mailtje stuur een minuut later of even een appje reageer, dat ik niet snap dat ik aan het wisselen ben in interactie.

10
00:01:39.680 --> 00:01:48.320
Dus ik dacht: ik kan maar beter gewoon vriendelijk zijn tegen alles in tekst. O, ja. Dan is de kans dat ik per ongeluk een vriend of vriendin aanspreek en zeg, uh: is het al klaar of doet ie het al?

11
00:01:48.380 --> 00:01:53.980
Hoef je er niet meer over na te denken. Gewoon altijd dank je wel zeggen. Ja, dat je toch een soort beroepsdeformatie krijgt, maar dan door AI.

12
00:01:54.040 --> 00:02:02.720
Dus ik dacht: laat ik dan maar lief zijn tegen alles, dan heb je nooit de kans dat je het niet vaak genoeg doet. Ja, we hebben net een webinar opgenomen wat je vanaf nu kan terugkijken.

13
00:02:02.860 --> 00:02:14.620
En dat is belangrijk om te zeggen, want we hebben een Deep Dive in Claude CoWork gedaan. Uh, die is sinds een week ook op Windows, dus dat is relevant voor onze Microsoft-liefhebbers onder de luisteraars.

14
00:02:14.960 --> 00:02:28.900
Der, uh, is door Wietse uitgebreid ingegaan over hoe je Dispatch gebruikt. Dat is hoe je eigenlijk op je telefoon allerlei opdrachten kan geven aan Claude op je computer, die zelfs je computer op afstand kan bedienen.

15
00:02:29.260 --> 00:02:34.740
Een beetje in de, in de, ja, categorie van OpenCloud. Wietse legt dat uit, hoe je dat makkelijk en veilig kan doen.

16
00:02:35.360 --> 00:02:46.950
Uh, uh, Scheduler, over hoe je herhalende taken, uh, kan laten uitvoeren door die robot en nog veel meer. Dat, ik vond het echt de moeite waard, uh, en je kan hem, uh, kijken op, uh, AIReport.nl.

17
00:02:47.040 --> 00:02:55.640
Ik zeg het maar even bij. En, uh, want dat, dat hoort bij het abonnement, als je, als je dat hebt. Uhm, en de volgende webinar is op 7 mei. Die kun je alvast in je agenda zetten.

18
00:02:56.200 --> 00:03:07.840
En, uh, inmiddels Wietse, zijn we toe aan onze vijfduizendste abonnee. Ik wil toch even hierbij stilstaan. Ja, bedankt, zeggen we dan ook. Ja, allereerst bedankt aan de luisteraar, want dit is echt heel erg cool.

19
00:03:07.980 --> 00:03:20.620
5.000 van jullie, uhm, zijn betaald abonnee van de podcast en van de, van de nieuwsbrief en st-, en steunen ons daarmee en dat is ontzettend gewaardeerd, want daardoor kunnen we steeds meer vette dingen voor jullie maken en waaronder die webinars.

20
00:03:20.800 --> 00:03:30.600
En dat is, uh, echt een feestje om te doen. Uhm, als je ons wil helpen om naar de 10.000 te gaan. Zo. Ja, je moet hoog inzetten, uh, dan, uh, zijn we op zoek naar jou.

21
00:03:30.620 --> 00:03:36.300
We zoeken een, een freelancer die ons helpt met groeien en marketing. Tot nu toe is die 5.000 allemaal organisch gegaan.

22
00:03:36.740 --> 00:03:44.120
We willen aan marketing gaan doen en we zoeken iemand die de groeistrategie kan bedenken en zelf kan uitvoeren en echt alles doet. Het liefst natuurlijk met AI.

23
00:03:44.180 --> 00:03:51.960
Als je daar meer over wil weten, dan staan, uh, staat de vacature in de shownotes. We gaan zo naar het nieuws, maar eerst een boodschap van onze sponsor Rockstars.

24
00:03:52.200 --> 00:04:04.860
[muziek] Mijn naam is Thijs van Team Rockstars IT en wij zijn op een missie om AI-oplossingen te bouwen die ons werk en de wereld mooier en veiliger maken.

25
00:04:04.940 --> 00:04:14.520
Vandaag is met mij Matthijs van Bree, Principal Consultant op het gebied van AI. Nu ben ik even benieuwd Matthijs, wat zie jij al specifiek aan Agentic AI use cases ontstaan bij klanten?

26
00:04:14.540 --> 00:04:17.860
Nou, ik was betrokken bij een project bij een klant van ons, Keylane.

27
00:04:18.360 --> 00:04:30.240
En, uh, zij hebben een SaaS-product, uh, wat ook betekent dat er heel vaak, uh, data van een, uh, oud klantsysteem naar hun SaaS-product gemigreerd moet worden. En datamigraties geven heel vaak migraine.

28
00:04:30.420 --> 00:04:38.920
Zij hadden de, de vraag: kunnen we dat data, uh, migratieproces versnellen? Dus toen hebben we samen gekeken naar: oké, hoe ziet dat, uh, migratieproces eruit?

29
00:04:39.240 --> 00:04:52.260
En toen zijn we met een Agentic AI-oplossing gekomen die verschillende databronnen, uh, doorzoekt en op basis van die verschillende databronnen de root cause van het probleem, uh, identificeert en op basis van die root cause een oplossing bedenkt.

30
00:04:52.320 --> 00:04:56.160
Oké, vet. Maar, uh, even specifiek voor mij: wat levert dat nou op, Matthijs?

31
00:04:56.320 --> 00:05:14.120
We zagen dat 50% van de datamigratie errors werden door de tool opgelost en andere 50% van de gevallen zagen we dat, uh, de juiste data vaak wel doorzocht werd door het systeem en dat een datamigratieanalist op basis van die data alsnog de oplossing relatief snel kon vinden.

32
00:05:14.340 --> 00:05:23.820
Heel vet zeg! Nu ben ik wel benieuwd wat de luisteraars ervan vinden, want de stelling van deze week luidt: in de komende drie jaar gaat Agentic AI meer migraine genezen dan veroorzaken.

33
00:05:23.880 --> 00:05:28.980
Stem mee via TeamRockstars.nl/AIReport of via de link in de shownotes. Tot volgende week.

34
00:05:29.260 --> 00:05:43.240
[muziek] Anthropic durft zijn nieuwe grote AI-model niet publiekelijk vrij te geven omdat het te gevaarlijk zou zijn.

35
00:05:43.840 --> 00:05:49.680
Ze geven slechts veertig speciaal geselecteerde organisaties toegang tot het model.

36
00:05:49.780 --> 00:06:00.880
Uh, bedrijven als Apple, Google, Microsoft, Amazon en Nvidia kunnen dan eerst orde op zaken stellen voordat het model met de rest van de wereld gedeeld gaat worden. Het heet Mythos, dit nieuwe ding.

37
00:06:01.160 --> 00:06:13.800
Wat maakt het nou zo gevaarlijk, vraag je je misschien af. Nou, het heeft gaten gevonden. Softwaregaten, beveiligingsgaten in vrijwel elk groot besturingssysteem, in vrijwel elke grote browser.

38
00:06:14.260 --> 00:06:24.220
Ze ontdekten Mythos beveiligingslekken in OpenBSD. Dat is een besturingssysteem dat 27 jaar lang onopgemerkt was gebleven en nu opeens door die AI toch ontdekt is. En dat

39
00:06:25.340 --> 00:06:33.588
zet aan het denken en we gaan het daar straks uitgebreid over hebben.Een belangrijke stap voor privacyvriendelijke taalmodellen ook deze week. Google introduceert Gemma vier.

40
00:06:33.888 --> 00:06:37.768
Dat is een AI die volledig op je eigen apparaat draait zonder internetverbinding.

41
00:06:38.308 --> 00:06:46.868
En voor iedereen die werkt met gevoelige informatie is dat relevant, omdat bijvoorbeeld bedrijfsdata nooit je apparaat verlaat op die manier. Iedereen kan het model gratis gebruiken.

42
00:06:46.938 --> 00:06:56.508
Ze hebben verschillende versies die geoptimaliseerd zijn voor de hoeveelheid computerkracht die je hebt in je telefoon of laptop. Het grootste model verslaat qua intelligentie modellen die twintig keer zo groot zijn.

43
00:06:56.548 --> 00:07:05.988
Oftewel het is Google gelukt om met een klein model wat op een, uh, op je eigen telefoon of je eigen laptop draait toch veel intelligentie erin te proppen en daarmee wordt het steeds bruikbaarder.

44
00:07:06.028 --> 00:07:16.088
Gemma vier is te proberen door de Google AI Edge Gallery app te downloaden en bij, bij de marketingafdeling van Google gebruiken ze duidelijk geen AI om hun eigen namen te verzinnen. Het heet Google AI Edge Gallery.

45
00:07:16.908 --> 00:07:25.388
Succes daarmee. En tot slot: je kunt nu ChatGPT gebruiken terwijl je in je auto rijdt. OpenAI's spraakassistent is namelijk beschikbaar gekomen via Apple CarPlay.

46
00:07:25.568 --> 00:07:35.028
Je kunt in je auto vragen hardop stellen, informatie samenvatten, brainstormen, wat je wil en ook een lopend gesprek hervatten bij waar je gebleven was.

47
00:07:35.068 --> 00:07:45.988
Dat is, uh, dat klinkt misschien als een detail, maar dat is ontzettend handig op het moment dat je bijvoorbeeld één chat vaak gebruikt om een meeting voor te bereiden en je wil dat die context blijft. Erg handig.

48
00:07:46.008 --> 00:07:54.648
ChatGPT CarPlay is nu beschikbaar voor mensen met een abonnement op ChatGPT. [muziek] En voordat we naar het hoofdonderwerp gaan eerst een boodschap van onze sponsor Moneybird.

49
00:07:56.168 --> 00:08:06.988
[muziek] Hoi, Jeroen hier, product engineer bij Moneybird. Wij bouwen samen software voor ondernemers die bankieren en boekhouden een stukje makkelijker maken.

50
00:08:07.228 --> 00:08:13.148
Ik sta hier met Joost, de cofounder die nog steeds mee bouwt. Wat kun je ons vertellen over alle AI-oplossingen die we tegenwoordig gebruiken?

51
00:08:13.708 --> 00:08:22.888
Nou Jeroen, ik denk dat we gezien hebben dat we de afgelopen maanden gigantische stappen hebben gemaakt in de AI-modellen en daardoor enorm veel beter kunnen versnellen met onze ontwikkeling.

52
00:08:23.108 --> 00:08:28.048
Het was best wel een tijdje geleden dat ik nog mee schreef, maar de laatste maanden ben ik weer kleine innovaties aan het doen aan het product.

53
00:08:28.078 --> 00:08:37.628
Tussen mijn dagelijks werk door bouw ik aan, ja, meer aan Moneybird weer en dat vind ik ontzettend gaaf om te doen. Dingen die best wel complex leken, bleken toch, ja, dankzij AI goed oplosbaar.

54
00:08:38.048 --> 00:08:42.808
Wat zie je dan ook veranderen voor de traditionele programmeur? De rol van de programmeur die gaat veranderen.

55
00:08:42.888 --> 00:08:48.488
In plaats van schrijf maar code, moet je hetgene wat AI produceert goed kunnen beoordelen en dat vereist zekere skills.

56
00:08:48.948 --> 00:08:58.488
Ik denk dat bedrijven zoals ons, die in staat zijn om AI goed toe te kunnen passen, meer kunnen versnellen en mooie dingen op de markt kunnen zetten. Dus ja, dat heeft, daar heeft iedere ondernemer baat bij.

57
00:08:59.088 --> 00:09:13.268
Bedankt voor het delen, Joost. Kijk op Moneybird.nl/ai-report hoe wij AI inzetten. [muziek] Groot nieuws van Anthropic deze week. Het was al even uitgelekt, stiekem, maar nu is het for, for real.

58
00:09:13.468 --> 00:09:22.828
Het bedrijf heeft nu een AI-model dat zo krachtig is dat het bedrijf het model achter slot en grendel wil houden. Laten we beginnen met wat Mi, wat Mythos kan en zo gevaarlijk maakt.

59
00:09:22.888 --> 00:09:28.428
Het heeft dus meerdere bugs gevonden in, uh, belangrijke stukken software, kritieke infrastructuur.

60
00:09:28.488 --> 00:09:38.068
En dat is belangrijk, want daarmee zijn computers die op die software draaien, dat betekent dus in de praktijk alle computers, ook jouw computer, kwetsbaar voor hackers.

61
00:09:38.948 --> 00:09:50.288
Zo ontdekte Mythos kwetsbaarheden in bijvoorbeeld de Linux kernel. Dat is het hart van de meeste servers, uh, ja, op aarde, waarmee je volledige controle over een computer zou kunnen overnemen.

62
00:09:50.298 --> 00:09:58.188
Het is echt, echt een big deal. En wat Mythos onderscheidt, is dat het niet alleen lekken kan vinden, maar ze ook nog eens intelligent aan elkaar kan rijgen.

63
00:09:58.248 --> 00:10:17.568
Zo kan het model, is het model gelukt om vijf afzonderlijke zwaktes in een stuk software te identificeren en vervolgens te combineren tot een aanvalsketen die een mens niet zou hebben, uh, bedacht en daarmee, ja, nieuwe mogelijkheden opent voor mensen die kwaad willen en computers, uhm, willen kraken.

64
00:10:18.238 --> 00:10:27.228
Anthropic heeft toegang gegeven aan veertig gesele-geselecteerde bedrijven. Dat is dus hun manier van omgaan met deze nieuwe capaciteit.

65
00:10:27.628 --> 00:10:39.868
Uhm, Alex Stamos, dat is de voormalig, uh, beveiligingshoofd van Facebook en bij Yahoo, uh, noemde dat noodzakelijk. Hij denkt namelijk, en dat is waarmee ik het allemaal nog erger ga maken.

66
00:10:40.208 --> 00:10:52.548
Hij denkt namelijk dat we nog zo'n zes maanden hebben voordat open source modellen de topmodellen van Anthropic en Google en OpenAI, waarbij Mythos nu dus de voorloper is, zullen inhalen.

67
00:10:53.008 --> 00:11:00.088
En daarna kan elke ransomware groep kwetsbaarheden vinden en bewapenen, mogelijk nog zonder een spoor achter te laten.

68
00:11:00.128 --> 00:11:14.008
Dat willen we natuurlijk allemaal niet en daarom geeft Anthropic grote bedrijven nu een soort van voorsprong. Zo kun je het zien. Dat ze de gaten kunnen dichten, uhm, ja, voordat, voordat kwaadwillenden erbij kunnen.

69
00:11:14.028 --> 00:11:26.728
Dat is de, de, de, de optimistische take van dit hele verhaal. Wietse, hoe groot is dit [lacht] op de schaal van groot wil ik weten hoe groot. Nul is klein en tien is groot. Nul is inderdaad klein.

70
00:11:27.068 --> 00:11:32.828
Hoe hard gingen je alarmbellen af deze week? Uhm, nou, je kunt, uh,

71
00:11:34.108 --> 00:11:46.068
ergens, ergens was het, uh, lag het wel een beetje in de lijn der verwachting dat er op een gegeven moment modellen zouden komen die zo goed zijn in software dat ze zelfs gaten kunnen vinden in software die wij nog niet hebben gezien als mens.

72
00:11:46.188 --> 00:12:00.488
En met mens bedoel ik de hele mensheid. Niemand die die code heeft gezien, heeft het gezien. Uhm, alarmbellen. Kijk ergens, het feit dat, uh, Anthropic roept al een tijd in interviews, vooral de CEO:

73
00:12:01.648 --> 00:12:12.288
wij hebben intern systemen, die zijn me toch een partij krachtig. Ja. En daardoor, uh, durfde hij al bepaalde dingen te beweren. Ook Sam Altman van OpenAI doet dat al best een tijd.

74
00:12:12.468 --> 00:12:19.978
Een beetje het narratief: wij hebben intern dingen. Als we die de wereld in zouden sturen, dan hebben we allemaal een best wel een uitdaging.

75
00:12:20.598 --> 00:12:32.504
Niet alleen maar op het gebied van, uh, cybersecurity ook, maar arbeidsmarkt, noem het allemaal maar op, hè. Existentiële, uh, spannende, uh, uh, dingen voor de mensheid in de breedte.Wij zagen die modellen nooit.

76
00:12:32.524 --> 00:12:41.504
We krijgen nieuwe modellen waar we bij mogen. Opus 4.6. Die zijn dan inderdaad 10% beter dan het vorige model. Kunnen ineens iPad-apps maken die er best goed uitzien.

77
00:12:41.844 --> 00:12:51.464
Maar het voelde nooit, voor mij in ieder geval, zo spectaculair dat ik echt dacht: wacht even, deze, dit model is, voelt een soort ver boven intelligent.

78
00:12:52.204 --> 00:13:02.524
Nu schijnt het zo te zijn, hè, dus dat is, uh, een groep van veertig bedrijven en daarmee dus een grotere groep mensen heeft toegang tot Mythos. Uh, kan er dus mee interacteren en het voelen.

79
00:13:02.624 --> 00:13:11.624
Er wordt vrij weinig o-, ge-, gesproken online over mensen die er één-op-één met Mythos hebben gewerkt. Dat wordt allemaal een beetje vaag over gedaan. Er zullen mogelijk NDA's voor getekend zijn.

80
00:13:12.404 --> 00:13:22.964
Uhm, is het, is dit een grote, uh, krijgt het, uhm, verdient het de aandacht die het krijgt nu? Denk ik wel. Mhmm. Uh, einde van de wereld aandacht?

81
00:13:23.144 --> 00:13:33.624
Nee, ik ben vooral, er zijn allerlei dingen en daar hebben we ook de tijd voor vandaag. Allerlei, uh, manieren waarop we kunnen praten hierover. Uh, had Anthropic dit niet gewoon wel vrij moeten geven?

82
00:13:33.964 --> 00:13:37.804
Gaan ze het ooit vrijgeven? Waarom deze groep en niet meer of minder?

83
00:13:38.204 --> 00:13:50.404
Hè, er zijn best wel wat vragen te stellen bij, uh, één groot Amerikaans bedrijf die blijkbaar iets in handen heeft dat een soort, uh, toverstaf is waarmee je alle sloten ter wereld open zou kunnen doen, zeg ik even in een metafoor.

84
00:13:50.444 --> 00:13:56.324
Ja, want zo moet je het zien. Ja, nou ja, wel echt de sloten van hele belangrijke kluizen kan ik je vertellen. Ja, dat is wel waar. Kun je dat schetsen?

85
00:13:56.364 --> 00:14:06.504
Wat is, zeg maar, wat betekent dat eigenlijk als op zo'n fundamenteel niveau? Uhm, nou, een van de, je hebt, er zijn een hele markt, hè, van, uh, uh, online waar jij exploits kan kopen.

86
00:14:06.544 --> 00:14:15.824
Een exploit is eigenlijk een loper, een, een sleutel die je in iedere deur kan doen bij wijze van, of in belangrijke deuren kan doen. Die zijn te koop. Ja. En, en dus, en dan heb je ook exploit chains.

87
00:14:15.864 --> 00:14:25.064
Dat zijn kettingen van, uh, als je dan die sleutel daarin doet, dan op de raam tikt en dan nog met een steentje dat raampje ingooit, alle drie tegelijk of alle drie net na mekaar, dan ben je binnen, zeg maar.

88
00:14:25.124 --> 00:14:35.544
Dus een soort ketenreactie van, uh, exploits, exploit chains. Die zijn te koop omdat die door mensen worden gevonden en vervolgens verhandeld worden of gemeld worden. En dan krijgen mensen daar een bounty voor, zeg maar.

89
00:14:35.584 --> 00:14:45.424
Dat is de wereld waarin we leefden tot en met, [lacht] uh, een aantal maanden geleden misschien. Ja, dit is een wereld van private bedrijven die, ja, die helpen andere bedrijven om veilig te zijn.

90
00:14:45.464 --> 00:14:54.244
Dan heb je ook nog een wereld van criminelen die, ja, die doen ransomware of op allerlei andere manieren proberen ze geld af te troggelen van mensen.

91
00:14:54.284 --> 00:14:58.864
Bijvoorbeeld door data te stelen, uhm, zoals we, we recentelijk zagen bij die Odido-hack.

92
00:14:59.484 --> 00:15:16.164
En dan heb je nog, uh, statelijke actoren die, en een belang erbij hebben om hun eigen va-software veilig te maken, maar ook om in te breken bij anderen en soms zelfs, zoals we in wat minder, uh, democratische regimes zien, uh, in te breken bij bijvoorbeeld journalisten of o-oppositiepartijen of wat dan ook.

93
00:15:16.204 --> 00:15:24.724
En vaak dan ook nog eens een keer met hulp van private partijen die, die, ja, die, die exploit chains zoals je dat noemt, uhm, [klikt met tong] te koop aanbieden.

94
00:15:25.204 --> 00:15:32.784
Ja, en het is, er zijn dus legio redenen om digitale sleutels te, te maken en te verkopen en te verkrijgen. Je kan er goed geld mee verdienen. Zeker.

95
00:15:32.844 --> 00:15:38.444
En, uhm, nu is het zo dat, uh, er prijsverschillen zijn tussen wat iets kan, hè.

96
00:15:38.484 --> 00:15:48.764
Dus als jij bijvoorbeeld, uh, in Chrome-browser, hè, een van de veelgebruikte webbrowsers, daar, uh, data kan uitlezen van een andere tab bijvoorbeeld, hè.

97
00:15:48.804 --> 00:15:55.384
Dus iemand heeft een tabje openstaan van een website en ernaast een tabje van de bankieren-, uh, website. En je kan dan tussen die tabjes communiceren. Ja.

98
00:15:55.564 --> 00:16:07.024
Dat is niet best, want dan kan de ene website de andere website iets mee. Dat is natuurlijk helemaal, uh, op, tot op hoog niveau, uh, uh, dichtgezet met allerlei, uh, sandboxes zoals we dat noemen en muren ertussen.

99
00:16:07.044 --> 00:16:18.004
Zie het gewoon echt voor je in de fysieke ruimte met drie dubbel, uh, beton en gewapende, uh, dikke staalconstructies om te zorgen dat dat heen en weer springen tussen die twee dozen bijvoorbeeld niet mogelijk is.

100
00:16:18.644 --> 00:16:30.484
Een exploit zou kunnen zijn dat je wel toegang krijgt tot het geheugen van heel de Chrome-browser, dus, dus eigenlijk alle, uh, uh, getalletjes en alle data die in Chrome zit, inclusief alle tabs die daar binnen hangen.

101
00:16:30.784 --> 00:16:34.144
Nou, zo, zoiets is bijvoorbeeld heel veel geld waard. Uhm.

102
00:16:34.534 --> 00:16:50.704
Ja, het is nu eigenlijk al een, een, een, een, een enorme rijke markt in dit kat-en-muisspel van softwaremakers die hun software zo veilig mogelijk willen maken en aan de andere kant mensen die er geld mee kunnen verdienen om die dingen te kraken of op een of andere manier macht te krijgen door die software juist te kraken.

103
00:16:50.724 --> 00:16:58.804
Dat is nu al zo. Dat is een weeldige markt waar, waarin, uhm, nou ja, er een kat-en-muisspel is tussen die twee kanten.

104
00:16:59.184 --> 00:17:09.064
Maar nu is er opeens iets wat, ja, uh, zeg maar, als ik, als ik het, als ik het goed begrijp wat er aan de hand is, zeggen ze eigenlijk: dit is de loper voor alles.

105
00:17:09.204 --> 00:17:14.084
Het is én besturingssystemen én telefoons én- Die kunnen we wel een beetje nuanceren dan. Oké.

106
00:17:14.104 --> 00:17:24.664
Want als je dus kijkt naar die sleutels die toegang hebben tot verschillende niveaus van een gebouw, het midden van het gebouw, het, de kern van een gebouw, ik hou het even fysiek, is level nul.

107
00:17:24.744 --> 00:17:30.594
Dat is waar je absoluut niemand binnen wil hebben. Dan level één, twee, drie, vier, vijf. Dat noemen ze vaak security rings. Dat zijn ringen.

108
00:17:31.144 --> 00:17:37.444
En je kunt je voorstellen dat als jij bijvoorbeeld op je, uh, laptop, zodat die zegt: ja, je moet even administrator toegang geven.

109
00:17:37.484 --> 00:17:43.714
Dat, zegt ie eigenlijk: je wil nu iets doen in een lagere ring, meer richting nul en ik vertrouw dat niet zomaar.

110
00:17:43.724 --> 00:17:49.604
Dus om ring twee dingen te doen, dit is heel technisch hoe ik het nu zeg, moet je even vanuit ring drie zeggen dat het goed is, hè.

111
00:17:49.644 --> 00:17:57.384
Op een, op een, uhm, MacBook is het dan: doe even je touch-ID, want wat we nu gaan installeren gaan we op een ring doen die zit dichter bij het midden van het gebouw.

112
00:17:57.464 --> 00:18:03.924
Ja, zo, zo merken wij het als consument eigenlijk regelmatig dat we door die beveiligingsringen heen springen.

113
00:18:04.024 --> 00:18:12.004
En als iemand dan bijvoor-, het zou natuurlijk gek zijn als jij een liedje aan wil zetten op Spotify, dat je dan je vingerafdruk moet laten zien. Juist. Dat wordt gewoon gezien als iets wat op de buitenring gebeurt. Ja.

114
00:18:12.324 --> 00:18:16.424
Ga jij maar lekker muziek luisteren. Als jij een nieuwe app wil installeren, dan moet je het wel doen. Gaan we één ring naar het midden toe. Ja.

115
00:18:16.704 --> 00:18:25.464
Nou, je kunt je voorstellen dat de exploits, hè, dus die soort van loper sleutels, hoe dichter ze bij nul komen, hoe duurder ze worden. Ja. Zo simpel is dat. Omdat ze meer kunnen.

116
00:18:25.504 --> 00:18:30.844
Er is meer- Ja, want vanuit nul kan je naar allemaal, hè. Juist. Dus als je in het midden bent, ben je overal. Juist. Dan is het kat in het bakkie, zeg maar.

117
00:18:31.024 --> 00:18:42.067
Uhm, nu is het zo datWat je bijvoorbeeld ziet, ik zal uitleggen een, een ring nul. Dus dat betekent dat je op het allerhoogste niveau komt van, uh, controle over een systeem.

118
00:18:42.108 --> 00:18:48.908
Dan kan je dus niet alleen maar naar Excel toe, maar ook naar Chrome en de tabs binnen Chrome, hè. Dus je, stel even voor, dat is problematisch.

119
00:18:49.488 --> 00:18:59.488
Uhm, als het om servers gaat, hè, dus waar, waar de bankierenwebsites op draaien. Als jij naar www.bank.nl gaat. Dat zijn ook gewoon computers die aan het internet hangen en dag en nacht aanstaan.

120
00:18:59.548 --> 00:19:09.348
Ja, kan je beter die kraker. Ja, dan heb je natuurlijk, als je daar naar ring nul kan, dan heb je helemaal, uh, dat is, dat is ultiem. Nou, op ring nul, dat is het besturingssysteemniveau. Jij noemde net Linux.

121
00:19:09.388 --> 00:19:21.408
Jij noemde net OpenBSD. Dat zijn als het ware, ja, de, de, de, dat is de rug, uh, hè, de oude stalen roestige rug van stevig staal waarop die hele, uh, wereld gebouwd is.

122
00:19:21.448 --> 00:19:28.268
Ja, vitale infrastructuur waar we allemaal iedere dag gebruik van maken. Level nul zit daar ook, hè. Dus dat is de, dat is waar het goud ligt, zeg maar.

123
00:19:28.748 --> 00:19:34.148
En, uhm, als je dan bijvoorbeeld een chain kan maken, hè, dus dan noem ik even een voorbeeld hoe dat echt gaat.

124
00:19:34.848 --> 00:19:46.068
Je komt erachter, ik doe nog even als mens, dat als je een bepaald, uh, signaaltje stuurt, een bepaalde aanvraag, een bepaald bericht naar een server, dat die server crasht omdat er een bug in die server zit.

125
00:19:46.088 --> 00:19:51.028
Dan zou je zeggen: ja, oké, dan kan je hem platleggen de hele dag door de hele tijd dat rotberichtje te sturen.

126
00:19:51.038 --> 00:19:59.428
Maar een crash is vaak heel interessant, want als iets vastloopt doet het soms nog even wat roepen net voordat het vastloopt. Error zoveel, zoveel, dat of dat of dat.

127
00:19:59.708 --> 00:20:04.148
En heel vaak lekt het dan ook per ongeluk nog een beetje wat er op dat moment aan de hand was op ring nul.

128
00:20:04.648 --> 00:20:17.148
Dus als jij een ding kan sturen waardoor die crasht en blijft crashen en dat heel vaak achter elkaar stuurt en een beetje slim doet, dan heb je een kans van één op honderd of van één op duizend dat hij hier en daar per ongeluk geheimen weggeeft voordat hij crasht.

129
00:20:17.488 --> 00:20:24.208
Dat is een manier hoe je dat doet. Dus dan heb je eerst één nodig waardoor die crasht. Dan moet je iets hebben wat meeleest en iets kan vinden.

130
00:20:24.248 --> 00:20:29.768
En als je dat dan kan vinden, dus hij, hij valt als een soort dramatisch neer en roept nog even wat voordat hij neervalt.

131
00:20:30.168 --> 00:20:36.648
Als je in die laatste schreeuw het juiste kan vinden, kan je daar weer mee het volgende dingetje maken en een sleutel ophalen. Ik noem maar wat.

132
00:20:36.668 --> 00:20:45.328
Dus het zijn, als je de mensen ziet die dit uitwerken, dat zijn echt, als je denkt dat sudoku moeilijk is. Ja, precies. Dit is echt high level. Puzzelaars. Nou, die meesterpuzzelaar-actie.

133
00:20:45.748 --> 00:21:05.708
We hebben nu, uh, vanuit Anthropic, dat is de, die het nu publiekelijk heeft gezegd, een model die een meesterpuzzelaar is en inderdaad als voorbeeld flex op het ring nul niveau, level nul van OpenBSD en Linux kan crashen, uitlezen en, dat heet dan, uh, uh, een escalation kan doen.

134
00:21:05.848 --> 00:21:12.848
Oftewel administrator kan worden op die server. Maar je begon ermee: ik ga het nuanceren. Nu klinkt het toch niet, dit klinkt niet als een nuance.

135
00:21:12.938 --> 00:21:24.168
Nou, ik denk dat mijn nuance is dat, het is niet een model dat zomaar, uh, kijk, misschien is dat, is dat wel belangrijk. I-, het is heel vaak gegaan over quantum, hè, quantumcomputers.

136
00:21:24.228 --> 00:21:32.988
Als de kant-quantumcomputer uitgevonden wordt, dan vallen alle sleutels tegelijk. Ja. Niets is meer veilig wat een digitale sleutel is, hè. Want, en dat is het quantumverhaal.

137
00:21:33.828 --> 00:21:42.108
Ik, ik las een beetje in, in bepaalde berichten: dit is het quantummoment of zo, hè. Dit is de- Het kan alles hacken. Ja, en dat ik dacht: wow, nee, wacht even, mijn nuance.

138
00:21:42.168 --> 00:21:51.228
En dan zeg jij: nou, dan slaap ik nog steeds niet prima door. Mijn nuance is: het is niet zomaar magisch alle systemen open, maar het laat wel zien, het flext als het ware.

139
00:21:51.318 --> 00:22:00.638
En die gaten zijn dus inmiddels gedicht, omdat het netjes gemeld is. Het liet eigenlijk zien dat het wel lukt om een paar sleuteltjes te maken die op het diepste level naar binnen gingen.

140
00:22:00.658 --> 00:22:03.568
Maar aan de andere kant, hè, want ik, ik snap dat dit heftig is.

141
00:22:03.868 --> 00:22:19.308
Uh, namelijk dat er een model is wat opeens gaten vindt die decennia lang onontdekt zijn geweest, terwijl er talloze mensen iedere dag naar die code zitten te kijken en er ook nog eens miljoenen automatische testen gedaan worden de hele tijd door.

142
00:22:19.328 --> 00:22:23.048
Er waren al algoritmische systemen die, die dit deden, hè, voor de duidelijkheid. Dat deden we al. Precies. Ja.

143
00:22:23.468 --> 00:22:32.068
En dat er nu een nieuw model is die dan opeens, ja, iets doet wat, uh, al die mensen en machines daarvoor niet konden. Dat is natuurlijk boeiend, dat snap ik.

144
00:22:32.728 --> 00:22:38.628
Maar het voelt ook een beetje alsof er een stuk gereedschap is uitgevonden wat soort van door de goeden en de kwaden gebruikt kan worden.

145
00:22:39.068 --> 00:22:49.448
Dus het is, ik snap dat Anthropic nu dit als eerste bij de goeden wil neerleggen om software, uh, de, de, de muren, uh, verder op te trekken en ervoor te zorgen dat er geen gaten in zitten.

146
00:22:50.448 --> 00:22:58.108
En dan komt die software straks uit voor de kwaden. En ja, allebei kunnen die, kunnen opeen, heb, kunnen dat nieuwe gereedschap gebruiken.

147
00:22:58.188 --> 00:23:06.768
Zo, dus zolang dat evenredig verdeeld is, is er toch niet zo heel veel aan de hand? Je, je kan je ook opeens beter verdedigen. Het is niet alleen maar zo dat je beter kan aanvallen. Ja.

148
00:23:06.808 --> 00:23:11.068
Dus is het niet gewoon: ja, eigenlijk verandert er weinig aan de status quo.

149
00:23:11.168 --> 00:23:23.058
Nee, maar ik denk dat als je dan, als je zo'n, uh, ik kan je goed volgen, als je zo'n proces hebt waarin je zegt: uhm, de wereldgeschiedenis zit vol met, uh, imbalance van macht en imbalance van kracht vooral, hè.

150
00:23:23.228 --> 00:23:28.148
Imbalance doordat één groep heeft een pistool en de ander niet. De één groep heeft vuur en de ander niet. Noem maar wat, hè.

151
00:23:28.208 --> 00:23:34.608
En uiteindelijk, omdat het complexe systemen zijn, die vinden weer een soort equilibrium, hè, die vinden een nieuwe balans, hè.

152
00:23:34.668 --> 00:23:43.628
Dus de muis leert, l-, uh, leert sneller rennen, de kat leert sneller rennen, de muis wordt slimmer, de kat wordt slimmer. Nou, noem, hè, dus dat kat-en-muisspel. Uhm, dat klopt.

153
00:23:43.668 --> 00:23:53.548
Alleen de overgangsfase, dus de manier waarop die balans hersteld wordt, die tussenfase zijn de soort- Die is gevaarlijk, want er zit een- Interbellum. Ja. Dat is best wel een p-pittige tijd.

154
00:23:53.588 --> 00:24:04.488
En wat, wat- Ja, maar bedoel dat echt anders dan, dan hiervoor. Want dit is één s-, één systeem wat heel veel gaten kan vinden en dat is gewoon niet eerder voorgekomen op deze schaal.

155
00:24:04.748 --> 00:24:12.608
Nee, want je kunt natuurlijk, zie je het een beetje. Ik bedoel, kijk, als de dijken breken en hier en daar breken de eerste dijken. Je merkt al dat ze wat zwakker worden.

156
00:24:12.648 --> 00:24:18.748
Je rijdt er naartoe, begint zandzakken te plaatsen en dan is het op een gegeven moment: jongens, het water gaat nog meer stijgen, we moeten groter ingrijpen.

157
00:24:18.768 --> 00:24:33.328
En zo kun je als het ware redelijk ad hoc reageren op een soort noodsituatie van een lek, in dit geval een waterlek. Maar dit is een, een, een tempo waarbij, uh, het is een soort kat-en-muisspel op hyperspeed.

158
00:24:33.908 --> 00:24:47.092
Uhm, waar ik met je eens ben dat als dit, uh, een vrijGecentraliseerd systeem zou zijn, het internet en dat is het niet. Ik, ik ga, ik ga het even concreet maken voor je.

159
00:24:47.172 --> 00:24:53.792
Routers bijvoorbeeld die je van je provider krijgt of zelf aanschaft. Dat zijn apparaten van allerlei merken.

160
00:24:54.112 --> 00:25:08.132
Die draaien allemaal versies van vaak, uh, een mini Linux of open BSD-achtige variant, hè, dus dat rauwe onderlaag, uh, materiaal, het fundament van het internet. En ja, doen die firmware upgrades van die routers.

161
00:25:08.232 --> 00:25:22.552
Ja, sommige routers hebben, draaien veertien jaar oude software of, uh, acht jaar oude software of. Dus ik denk dat, laten we twee dingen vergelijken in de markt. Smartphones hebben we Android en, uh, Apple. Nagenoeg.

162
00:25:23.622 --> 00:25:33.812
Apple kan alle iPhones ter wereld een update pushen als het echt moet, zeg maar, zolang ze op internet aangesloten zijn. Dat is, en dan hebben ze de mogelijkheid om een kleine superbelangrijke security update te pushen.

163
00:25:34.612 --> 00:25:42.272
Google kan dat naar bijna alle Android telefoons, maar ook niet echt allemaal hoor, want sommige, And-Android is open, hè, dat is het verschil tussen de kathedraal en de bazaar.

164
00:25:42.312 --> 00:25:46.472
Op de bazaar kan je minder makkelijk alle kraampjes updaten dan in die mooie kathedraal.

165
00:25:47.052 --> 00:26:02.392
Dus in het smartphone ecosysteem hebben we al de uitdaging als er een zero day, ring one, ring zero achtige exploit, hè, zonder te hoeven klikken gewoon op afstand een berichtje sturen en je bent binnen, voor smartphones komt, in dit geval, uh, iPhone en Android.

166
00:26:02.822 --> 00:26:12.992
Dan wordt het een enorme operatie voor alle vendors aan de Android kant plus Apple, want die doen het allemaal alleen. Zou, [schraapt keel] dat zal al een hele operatie zijn. Om die snelheid aan te kunnen.

167
00:26:13.062 --> 00:26:19.612
Ja, die zie ik dus zeker aan de Apple kant, iets minder aan de, aan de, aan de Android kant, zie ik nog wel zitten. Dat ik denk: nou, Alexander heeft wel gelijk.

168
00:26:20.292 --> 00:26:29.032
Als iedereen samenwerkt en we doen het allemaal met elkaar, dan hebben we binnen twee, drie maanden dankzij AI ook, hè, want jouw punt is: AI kan dan toch ook helpen met het fixen van die OS.

169
00:26:29.112 --> 00:26:29.882
Ben ik helemaal met je eens, hè.

170
00:26:29.932 --> 00:26:48.332
Dus Mythos moet dan niet alleen maar gegeven worden om security scans te doen, maar ook te zeggen tegen, nou ja, een Android fabrikant die misschien minder mensen in dienst heeft, maar wel een firmware upgrade moet doen van: joh, Google gaat waarschijnlijk straks helpen om hun Android suppliers, ik noem maar wat, met Mythos-achtige systemen of Gemini 4 te helpen.

171
00:26:48.392 --> 00:26:57.992
Dat is in de smartphone wereld alleen al van alle portable computers die op het internet aangesloten zijn, 24/7, terwijl je slaapt ook, best wel een uitdaging.

172
00:26:58.072 --> 00:27:07.272
De routerwereld is een jungle, jongen, van verschillende bedrijven en verschillende apparaten waar niemand meer van weet wie ze updaten en of die erop mag. Mhm. Er is een, uh.

173
00:27:07.312 --> 00:27:17.352
Het is natuurlijk kwetsbaarder eigenlijk, als ik je goed begrijp. Er zijn allemaal punten in het internet te vinden die eigenlijk, ja, heel kwetsbaar zijn en, en dat het, uhm, geluk is dat het allemaal nog staat. Maar.

174
00:27:17.852 --> 00:27:24.292
Ja, omdat het, uh. Kijk, je zou het internet kunnen zien. En dan denk ik: so what? Ja, dat is een heel goede vraag.

175
00:27:24.652 --> 00:27:38.752
Kijk, uhm, het mo-, het, het, uh, pijnlijkste is natuurlijk als je, uh, grote groepen computers, en een computer reken ik een router ook onder, is gewoon een kleine computer, uh, uh, kan gaan samenvoegen tot wat ze dan een botnet noemen of een bot swarm.

176
00:27:38.792 --> 00:27:42.552
Dit bestaat allemaal, hè, niets nieuws onder de zon, maar niet in deze orde van grootte.

177
00:27:43.012 --> 00:27:53.692
Om 100.000 routers die allemaal dezelfde exploit hebben, hè, dus allemaal dezelfde sleutel, in te zetten om irritant te gaan doen op het internet. Laat ik het even lief zeggen, zeg maar. En ik denk dat

178
00:27:54.772 --> 00:28:10.112
wat er nu, uh, gebeurt is dat, uhm, kijk, veel, veel dingen, uh, die al konden waren een, uhm, probleem wat we redelijk konden handelen, hè, zeg maar.

179
00:28:10.132 --> 00:28:19.512
Hier en daar is de bankier zijn website even een weekendje of een paar uur offline, want er moest een update, hè, of je moet noodgedwongen je app u-u-updaten, want er is een, uh, iets, iets aan de hand.

180
00:28:19.552 --> 00:28:31.212
En zo leven wij als mens in een wereld waar je soms wel eens een mailtje krijgt met: u moet updaten of op kantoor je laptop moet updaten. En updates zijn daarvoor namelijk. Ik denk alleen dat de, het tempo,

181
00:28:32.212 --> 00:28:42.592
orde van grootte en tempo van wat er nu aan het gebeuren is, is wel echt, uh, intens. Dat maakt het echt intens. En, uhm, ik wil nog een, uh, uh, leuk voorbeeld geven.

182
00:28:42.832 --> 00:28:48.472
Ik weet niet of je dat ooit gehoord hebt, maar er werden al routertjes gehackt en overgenomen. En toen op een gegeven moment is er

183
00:28:49.672 --> 00:29:00.772
een groep geweest die zei: maar wacht even, kunnen we niet die routers overnemen en ze updaten? [lacht] Dus dit is ook al gebeurd dat er een soort update verspreid is door naar binnen te hacken om maar aan te geven.

184
00:29:00.792 --> 00:29:12.812
En ik kan me voorstellen dat dit ook onderdeel gaat worden van de strategie met Mythos-achtige systemen. Ja. Om worms te bouwen die jou komen genezen in plaats van ziek maken. Maar goed, dat zeg ik heel hoopvol.

185
00:29:13.832 --> 00:29:25.932
Oké, uhm, wat is nu een beetje de tendens onder, uhm, cybersecuritymensen hierover? Nou, het is wel boeiend, want ik zie het nu vooral gebeuren dat, uh. Kijk,

186
00:29:27.152 --> 00:29:38.452
in december vorig jaar hebben we het Cloud Code moment gehad waarop veel ontwikkelaars eigenlijk in, met de kerst, uh, geconfronteerd werden met een systeem dat redelijk goede websites en software kan maken en apps.

187
00:29:38.932 --> 00:29:43.972
Dat is inmiddels een gegeven voor de meeste luisteraars van deze show. Er was een momentje in december, dat was Cloud Code.

188
00:29:44.532 --> 00:29:54.712
Daardoor zijn veel meer, ook vooral senior ontwikkelaars, in ieder geval, serieuzer gaan nemen wat er in die AI hyperige wereld gebeurt. Je bedoelt daarvoor namen we het gewoon niet serieus genoeg.

189
00:29:55.072 --> 00:30:06.032
Nou ja, goed, kijk, je kunt, die, die keken ernaar, gaven het een moeilijke opgave die ze goed kenden uit hun eigen werk. Ja. Kregen een matig antwoord terug. Ja, ja, ja, ja, ja. Een glimlach op hun gezicht.

190
00:30:06.192 --> 00:30:09.352
Zo goed werkt het helemaal niet en ik ben nog niet overbodig. Nou. Ja.

191
00:30:09.412 --> 00:30:20.752
En in december is er een substantiële groep mensen bijgekomen die zegt: nou, ik zie, als dit een beetje lineair zo doorgroeit de komende jaren, dan komt het wel in de buurt van mijn kunnen. Ja.

192
00:30:20.852 --> 00:30:31.772
Uhm, kijk, security research, werken aan systemen op het diepste niveau, level nul, is wel even wat anders dan een websiteje bouwen. Is wel even wat anders dan een appje maken.

193
00:30:32.112 --> 00:30:41.452
Sterker nog, websites en apps draaien op level vijf. En die, je kan ook, de complexiteit neemt ook toe naarmate je naar het midden gaat. En ook de groep mensen op de wereld die dat nog begrijpt neemt af. Ja.

194
00:30:41.492 --> 00:30:52.039
Hè, dus de complexiteit neemt toe, de groep mensen neemt af.Dus, uh, kernel developers, dus mensen die werken aan die roestige ondergrond, zeg maar, waar de wereld op staat. Ja, dat is een hele aparte groep.

195
00:30:52.100 --> 00:30:59.160
Uh, dat, dat zijn echt, uh, nou ja, eigenlijk helden, want vaak doen ze ook nog in vrijwillige tijd werken aan het infrastructuur van de digitale mensheid.

196
00:31:00.260 --> 00:31:12.220
Die groep, als die keken naar LLM's, taalmodellen zoals Claude, dan zagen zij iets wat een websiteje kan maken en een appje kan maken, maar absoluut niet mee kan praten op het niveau van daadwerkelijk waar het in hun ogen over gaat.

197
00:31:12.280 --> 00:31:20.480
Noem het de hogere wiskunde, het serieuze softwarewerk, het hardwarewerk zelfs. Uhm, nu kruipen die modellen ook naar die groep toe.

198
00:31:20.980 --> 00:31:34.420
Kijk, het echte bewijs daarvan is natuurlijk als 27 jaar lang mensen plus geautomatiseerde systemen niet in O-OpenBSD een gat in de deur zien zitten of een mogelijkheid tot een sleutel. Dat is zo.

199
00:31:34.460 --> 00:31:45.880
En dat er een taalmodel wat woordjes voorspelt, het lukt om iets te voorspellen wat die deur opent. Kijk, daar kan je, kan iedereen over roepen wat ie wil, maar dat is echt spectaculair dat dat nu gebeurd is.

200
00:31:46.420 --> 00:31:51.820
Dat zorgt ervoor dat wat ik nu zelf zie online en dan noem ik even wat, wat mensen,

201
00:31:52.840 --> 00:32:11.020
de, uhm, er is altijd, er is een best wel grappige meme over, die ook heel pijnlijk is: het idee dat je een soort Jenga-achtige toren ziet staan met h-, blokjes hout op elkaar gestapeld, waarbij een gigantische hoeveelheid blokken zit bovenin en onderop zijn het een paar hele dunne blokjes die die hele toren omhoog houden, hè.

202
00:32:11.240 --> 00:32:22.920
Typisch bla-, typisch beeld. Nou, die onderste blokjes zijn bijvoorbeeld OpenSSL, Curl, FFmpeg. Dat zijn een beetje de heldenprojecten van het internet. Dat is de rug van de reus waar het internet op staat.

203
00:32:23.280 --> 00:32:33.860
In die projecten werken mensen die nu al een maand of, uh, of een paar jaar roepen: het valt wel, eigenlijk wel mee. De meer, die, die, die zijn boos geweest zelfs tot nu toe heel lang. Terecht.

204
00:32:34.540 --> 00:32:43.740
Die krijgen allemaal bugreports, hè, dus, uh, uh, mel-meldingen van gaten in hun, uh, belangrijke grondst-stukken van die toren die onzin zijn.

205
00:32:44.260 --> 00:32:57.920
Gewoon stomme AI verzonnen nepdingen waar mensen proberen bounties te krijgen of status te krijgen. Wanneer veranderde dit? Drie, vier maanden geleden. Want toen opeens? Toen opeens kwamen de bugreports binnen.

206
00:32:58.000 --> 00:33:06.580
Goed omschreven. Goede test erbij wat je moet doen en het werkt. Als in: ja, dit is een sleutel. Krijg nou wat. Dit is een echt gat.

207
00:33:06.600 --> 00:33:13.240
Dit is een, uh, pont- Er zijn eigenlijk de goe-, er is dus iemand dan geweest, uh- Anthropic. Ja, maar dat is geen, dat is geen geheim.

208
00:33:13.280 --> 00:33:29.420
Wat, wa-wat we weten nu, als in, uh, ja, wat we weten is dat er in Claude Code een modus zit om anoniem, uh, zo anoniem mogelijk, uh, pull requests te doen, hè, dus eigenlijk van die bugreports-achtige dingen op, uh, open source repositories.

209
00:33:29.940 --> 00:33:47.600
En dat is een beetje dan, nou, laten we het de achterklap noemen, hè, van het, uh, online AI-discours, dat Anthropic onder andere, maar ook, uh, OpenAI al langer bezig is om de f-fundamentele stenen aan de onderkant van de internet-Jenga te helpen.

210
00:33:47.640 --> 00:33:55.360
Omdat het natuurlijk in hun eigen belang is ook dat er nog een internet is straks en de samenleving erbij. Maar het is natuurlijk een bizarre situatie, want dan in het geheim,

211
00:33:56.360 --> 00:34:03.680
uhm, want ze, ze, ze, ze maken zichzelf niet kenbaar als Anthropic of als OpenAI. Bewust ingebouwd. Laat, laat het niet kenbaar zijn.

212
00:34:03.780 --> 00:34:10.060
Ja, in het geheim zijn ze dan de, de gaten waar, waar, waar hackers miljoenen voor zouden betalen.

213
00:34:10.360 --> 00:34:18.420
Zijn ze dan vrijwillig aan het laten weten aan de mensen die, de, aan de bouwstenen van het internet werken, want ze hebben er een belang bij dat die bouwstenen er nog staan.

214
00:34:18.840 --> 00:34:25.160
Ja, en als we, ik bedoel, en hier kunnen we dan de fantasie iets meer laten gaan, hè. En dus opeens de afgelopen maanden is dat dus een wezenlijk- Drie, vier maanden.

215
00:34:25.200 --> 00:34:28.240
Is het een wezenlijk onderdeel geworden van de bugreports die zij binnenkrijgen.

216
00:34:28.420 --> 00:34:40.020
Eigenlijk, dit is waarom je ook zegt: we, we zagen het een beetje aankomen, want dit, d-, ja, daar, opeens werd, opeens veranderde daar iets. Van, van slechte bugreports gingen we naar daadwerkelijke gaten.

217
00:34:40.720 --> 00:34:52.640
Ja, en dat, ik bedoel, uh, als we dan iets meer de vrijheid nemen, hè, om, om te kijken. Kijk, uhm, we hebben dus de, de core developers van FFmpeg, een belangrijke video-/audiobouwsteen van het internet.

218
00:34:52.680 --> 00:35:03.060
Die hebben gewoon nu gezegd: jongens, wij kregen tot drie, vier maanden geleden alleen maar zooi binnen. We waren boos en ineens kregen we goede dingen binnen. We hebben ze getest. We zijn dankbaar. Bedankt, Anthropic.

219
00:35:03.280 --> 00:35:05.600
Hè, die zeggen dat nu. Ja. En zo zijn er nog- Vibe shift.

220
00:35:05.799 --> 00:35:18.200
Ja, en nog, en zo, zo zijn er nog drie van die, vier van die hele belangrijke projecten waar dus hele, ja, best wel, uh, se-senior zwaargewicht ontwikkelaars op zitten die nu zeggen: oké, wij zien het even anders nu.

221
00:35:18.900 --> 00:35:31.600
Het doet me, ik zat, ik zat een beetje door die, door die reacties te lezen van dit soort mensen en er waren, viel me op dat er best wat mensen bij, uh, zaten die ook een soort schoonheid beschreven in de bugs die gevonden werden.

222
00:35:32.260 --> 00:35:43.630
Dus een, een soort, uh, ja, waardering eigenlijk ook konden opbrengen voor de methodes die die AI gebruikt. Ik ben echt een fantastisch boek aan het lezen wat nu een paar dagen uit is.

223
00:35:43.660 --> 00:36:05.040
Het heet The Infinity Machine en het is de biografie over Demis Hassabis van DeepMind, van Google, en het beschrijft eigenlijk zijn hele pad, uh, vanaf het oprichten van, nou ja, zijn jeugd, uh, nogal een, het is een chess prodigy en die, uh, soort van heel vroeg gel-geloofde in AGI en alles aan heeft gedaan om dat werkelijkheid te maken.

224
00:36:05.100 --> 00:36:12.140
Nou ja, een belangrijke rol daarin gespeeld heeft. En het gaat, op een gegeven moment gaat het heel veel over, uh, het verslaan van, uh, Go.

225
00:36:12.260 --> 00:36:23.520
Ze hebben dan, schaken heeft IBM Deep Blue al gedaan en, uh, die, uhm, [klikt met tong] uh, Go, nou, schaken is een soort van, was een relatief eenvoudig spelletje om te verslaan.

226
00:36:23.800 --> 00:36:30.420
Uhm, uhm, er zijn weinig zetten en door gewoon heel veel zetten van menselijke spelers in te laden kon je dat spelletje verslaan.

227
00:36:30.440 --> 00:36:35.740
Bij Go is dat veel lastiger, want er zijn veel meer mogelijkheden en dus die computers liepen daar simpel gezegd op vast.

228
00:36:36.400 --> 00:36:47.020
Er waren fundamenteel nieuwe methodes nodig en, en ze, hij, hij beschrijft in dat boek heel mooi over hoe ze bij die methodieken komen. Op een gegeven moment lukt het dan dus om de wereldkampioen Go te verslaan.

229
00:36:47.040 --> 00:36:57.746
EnEn de mensen die die, die dan Go spelen en het doet me dus een beetje denken aan wat jij net vertelt, zijn een beetje, [zucht]

230
00:36:57.756 --> 00:37:05.916
het is alsof ze een beetje neerkijken op de zetten die die computer doet, want ze vinden de zetten lelijk en, en agressief en, en, en.

231
00:37:06.216 --> 00:37:16.776
Weet je, is we- een beetje zoals mensen over, ja, ik weet niks van voetbal, maar mensen kunnen over voetbal praten, over, een soort van dat Nederlands elftal ooit een soort, soort van spel had wat, waar mensen een soort van poëzie in zagen.

232
00:37:17.176 --> 00:37:26.256
Dat was hier niet het geval met Go. Totdat ze de volgende methode gebruikten om, uh, een model beter te trainen in Go.

233
00:37:26.316 --> 00:37:34.216
Grappig genoeg was dat door minder menselijkheid in te bouwen en die computer gewoon los te maken van de menselijke intuïtie en zelf intuïtie te gaan vinden.

234
00:37:34.736 --> 00:37:46.496
En toen lukte het opeens om zetten te maken waarvan, en d-dat staat dan, uh, op een gegeven moment in een passage in dat boek, dat er een Go-speler is die emotioneel raakte van de schoonheid van een zet die gedaan werd.

235
00:37:47.536 --> 00:37:57.946
En het is een soort, als je eenmaal leest over hoe dat met Go is gegaan, dat is inmiddels, wat is het, 10 jaar geleden. Uhm, is het zo lang geleden? Weet ik echt niet.

236
00:37:58.046 --> 00:38:00.116
Nou, in ieder geval, het is een behoorlijke tijd geleden.

237
00:38:00.836 --> 00:38:17.436
Dan, daar zit een, daar zit een, een periode van een paar jaar in waarin dat steeds beter, uhm, uh, wordt en het van mensen g-gaat die zeggen: dit gaat de computer nooit doen, naar mensen die s-gaan naar zeggen: oké, computer kan dat, maar het is lelijk wat de computer doet.

238
00:38:17.896 --> 00:38:30.116
Tot het eindigt met: ja, de computer kan dit beter dan de mens. De computer begrijpt dit spel op een fundamenteel niveau beter dan de mens. En eigenlijk is het wonderschoon om naar te kijken.

239
00:38:30.176 --> 00:38:38.076
En Lee Sedol, de, de voormalig wereldkampioen Go, is gewoon mee gekapt omdat er geen, er viel geen eer meer aan te behalen. En op een bepaalde manier denk ik: ja,

240
00:38:38.996 --> 00:38:45.476
is dit, is dit, is dit het, het soort van blauwdruk die we op alles gaan toepassen? Nu is het cybersecurity.

241
00:38:45.596 --> 00:38:55.716
Dit is dan nu de, de, ja, even de mal waardoor we naar kijken, omdat het ook het onderwerp wat makkelijker begrijpt om het tastbaarder te maken. Want, het is een groot generalistisch model.

242
00:38:55.816 --> 00:39:11.096
Het kan veel meer dan cy-cybersecurity dingen doen, maar hierbij is dan even de scope verkleinen, even daar op inzoomen, beseffen wat daar de, uh, gevolgen van zijn en, en doorzien dat het weer exact dezelfde stappen doorloopt.

243
00:39:11.136 --> 00:39:20.236
Tot het moment, ja, dat hackers geen werk meer hebben. Net zoals Go's, menselijke Go-spelers geen werk meer hebben als het puur gaat om het kunnen winnen van het spel.

244
00:39:21.256 --> 00:39:34.096
Ja, d-, soort van, het is toch evident dat het hier op uit, uhm. Ja, maar ik denk dat als ik jou zo hoor, dat, uhm, wat je eigenlijk zegt als het dan gaat om die soort balans tussen de, de kat en de muis

245
00:39:35.056 --> 00:39:40.956
is, als je het bekijkt als een kat-en-muisspel tussen security researchers versus hackers.

246
00:39:41.076 --> 00:39:48.296
Mensen aan de ene kant proberen sleutels te maken en aan de andere kant sloten te maken die tegen die sleutels, uh, uh, opgewassen zijn. Hè, dat die,

247
00:39:49.726 --> 00:39:55.296
uh, dat gesprek als het ware, hè, tussen die twee, die, die machts, die machten die met elkaar, uh, uh, heen en weer bewegen.

248
00:39:55.816 --> 00:40:04.656
Dat nu aan de ene kant, uh, aan de macht van de hacker als het ware potentieel een AI toegevoegd gaat worden aan het arsenaal van de hacker.

249
00:40:04.716 --> 00:40:07.886
Namelijk een autonomous hacker, een AI hacker, om het maar even zo te zeggen, hè.

250
00:40:08.836 --> 00:40:20.056
Uh, wat we nu als eerste krijgen, omdat Anthropic daarvoor gekozen heeft te zeggen: we gaan eerst het team security, gaan we de toverstaf geven, uh, want daar hebben we controle over het geven van die toverstaf.

251
00:40:20.516 --> 00:40:31.856
Wetende dat 6 tot 8 tot 12 maanden gaan die toverstaffen de hele wereld in. Ja. Hè, dus dan gaan ook de andere, het andere team gaat, uh, uh, deze gimmick, uh, krijgen, deze nieuwe kracht.

252
00:40:32.636 --> 00:40:43.496
En als we dan zorgen dat het security, uh, team security alvast, uh, geüpgrade is, dan komt er na het team hackers, die worden ook geüpgrade en zo herbalanceert die wereld zich weer.

253
00:40:43.536 --> 00:40:54.376
En dan heb je uiteindelijk aan allebei de kanten een AI zitten en dan is sowieso het werk van zowel de security researcher als de hacker weg. Zeg jij dat ongeveer? Uh, ja, wel zoals we er nu naar kijken. Ja.

254
00:40:54.436 --> 00:41:07.256
Ja, en ik, ik denk dus dat, uhm, het wel moeilijk is om, ik denk dat in de basis wat je nu zegt over een soort, uh, eeuwig proces tussen, tussen machten die met elkaar in balans komen, dat is de geschiedenis van de mens en daarvoor zelfs.

255
00:41:07.916 --> 00:41:15.096
Uhm, maar ik denk wel dat, uh, ja, mijn zorg zit hem dus heel erg in die overgangsfase van de herbalancering. Ja, nee, dat snap ik.

256
00:41:15.116 --> 00:41:25.466
En ik, en, en ik denk wel, uh, en ik heb hier best wel over nagedacht, omdat ik dacht: we gaan natuurlijk een podcast maken over Mythos. Ja, hoe, o-o ja, hoe groot, hoe klein gaan we het maken?

257
00:41:26.156 --> 00:41:36.316
Uh, en wat kunnen mensen doen? Zeg maar, als, ik bedoel, als we het al groot maken, kunnen we mensen nog, uh, kunnen mensen zich nog schrap zetten of zo [lacht] voor het Mythos-moment? Kijk, ik denk dat, uhm,

258
00:41:37.676 --> 00:41:54.576
de, uh, het internet zoals het er nu staat, en dan bedoel ik de datacenters, de routers, de smartphones, de 5G-torens, alle infrastructuur die nodig is om het internet te laten werken, niet voorbereid is- Ja...op Mythos.

259
00:41:54.656 --> 00:42:07.916
Nee. Dat wordt nu, uh, stap voor stap, en level nul is där, waar deze 40 bedrijven opereren, hè, dus ze werken letterlijk, letterlijk van nul omhoog. Ja. Uh, wordt het nu gehardend, zoals we dat dan noemen, hè.

260
00:42:07.976 --> 00:42:18.836
Dus er wordt betere staal in het beton gegoten, et cetera. Ik, uh, ben wel nieuwsgierig. Ja, hoe gaan ze dit doen? Hoe gaan ze dat naar niveau één tot en met vijf brengen? Ja, want het wordt, je voelt hem al.

261
00:42:18.996 --> 00:42:28.706
Op level nul heb je 40 partijen. Ja, het wordt stuk ingewikkelder. En op een gegeven moment heb je een- Maar hoe de, hoe gaan ze dit doen? Of gaan ze het gewoon openbaar maken en zeggen: nou, het komt dan online [lacht].

262
00:42:29.076 --> 00:42:37.076
Wees er snel bij. Nou, ik denk- Even doorwerken in de nacht. Nou ja, ik denk dat, ik bedoel als je het, als je het heel praktisch bekijkt, uhm, aantal dingen.

263
00:42:37.086 --> 00:42:46.776
Want kijk, Mythos als model, uhm, als we een iets cynischere blik nemen op wat Mythos is, zou je ook kunnen zeggen: het is een soort GPT 4.5.

264
00:42:47.296 --> 00:43:01.566
GPT 4.5, jullie zijn hem alweer vergeten denk ik als luisteraars, was een model van OpenAI wat ze maar zes maanden online hebben gehad of korter, want z-, er was een soortPaniek binnen OpenAI dat het niet snel genoeg ging.

265
00:43:02.086 --> 00:43:09.806
Vier en half was hun aller di-- mooiste model wat ze uit de oven trokken. Bleek helemaal niet zo spectaculair. Kon wel goed schrijven trouwens, maar goed, dat is subjectief.

266
00:43:10.306 --> 00:43:14.506
Maar hij was veel te duur, want het was een heel log, groot model.

267
00:43:15.126 --> 00:43:25.026
Uiteindelijk konden ze, nadat ze hem offline hadden gehaald, daar weer lessen uit trekken en zo, maar dat was eigenlijk niet te serveren aan de klant in de brede zin. Mythos is ook niet te serveren aan de klant.

268
00:43:25.106 --> 00:43:33.366
Het is een triljoen parameter model. Is gigantisch. Het grootste model ooit getraind door Anthropic. Heel duur om te runnen. Ja, dat maakt het ook meteen heel duur om te runnen.

269
00:43:34.366 --> 00:43:37.966
Dus waar, waar kun je Mythos voor gebruiken? Nou, om de volgende Opus mee te maken.

270
00:43:38.266 --> 00:43:44.646
Dat is ook, hè, niet alleen maar door stukjes ervan af te breken, maar letterlijk mee te laten werken aan Opus en onderzoek te laten doen.

271
00:43:44.686 --> 00:43:50.686
Want wat ze binnen Anthropic zeggen is: Mythos werkt binnen Anthropic als AI-researcher ook. Ja. Het is allemaal niet geheim.

272
00:43:51.426 --> 00:44:01.066
Uhm, cynisch zou je kunnen zeggen: jullie maken er een soort cybersecurity-vraagstuk met je 40 partners van, terwijl het je, terwijl je eigenlijk een model hebt getraind wat je niet eens kan verkopen.

273
00:44:01.646 --> 00:44:08.986
Je wilt zeggen: het gaat niet eens uitkomen. My-Mythos zal waarschijnlijk niet op, in deze vorm uitgebracht worden. We gaan een nieuwe Opus krijgen. Ja.

274
00:44:09.256 --> 00:44:15.766
Maar de Mythos, hè, de supermodellen erboven blijven altijd een soort van in het klein aan de zijlijn voor altijd.

275
00:44:15.946 --> 00:44:25.486
Oké, dus hoe we hier naar moeten kijken is dat die AI-labs eigenlijk altijd al meer capaciteiten intern hadden dan dat ze publiekelijk releaseten. Ja, dat is een open geheim.

276
00:44:25.606 --> 00:44:35.166
Omdat het onpraktisch is, als ik het heel goed begrijp. Zeker. Nu is dat omdat vooral nog in de kosten die het had en niet zozeer in dat het onveilig zou zijn.

277
00:44:35.466 --> 00:44:43.866
Uh, misschien, misschien eventjes omdat we, omdat ze, een, een, om, om, omdat ze daadwerkelijk veiliger gemaakt moesten worden voordat ze het in de wereld wilden slingeren.

278
00:44:43.926 --> 00:44:52.946
Maar dat dat, als ik het goed begrijp, nog beperkte, uhm, ja, impact op bijvoorbeeld dit so- het vinden van dit soort softwaregaten. Daar was het, zo goed was het daar nou ook nog niet in.

279
00:44:52.986 --> 00:45:04.946
En nu opeens heb je dus dat, dat model wat iedereen intern heeft, maar niet publiekelijk lanceert, maar wel zelf gebruikt, is nu opeens goed in iets geworden wat daadwerkelijk, ja, heel veel waarde heeft.

280
00:45:05.326 --> 00:45:12.506
En daarmee verandert de dynamiek opeens. Dus opeens heb je een situatie waarbij Anthropic nu een groot model heeft waarmee ze anderen kunnen aanvallen.

281
00:45:12.546 --> 00:45:17.206
Nou, ze gebruiken dat nu positief om gaten te vinden in software en dan gaan ze die anderen helpen.

282
00:45:17.646 --> 00:45:26.446
Dat is in, dat is bekeken vanuit Anthropic zelf, maar ondertussen is het in een ecosysteem waar ook Google bestaat, waarin ook OpenAI bestaat en waarbij ook de Chinezen bestaan.

283
00:45:27.186 --> 00:45:39.926
Als we nou even dat, dat soort van internationale aspect, als we China even erbuiten houden en je kijkt puur naar de, de onderlinge competitie die dit heeft, wat voor gevolgen heeft dit dan voor de onderlinge comp-competitie tussen die AI-labs?

284
00:45:40.626 --> 00:45:51.846
Nou, een aantal interessante dingen, hè, want, uh, laten we er gewoon even van uitgaan dat Mythos al heel lang bestaat in verschillende hoedanigheden. Ja. Uh, dat was altijd het grootste wat ze konden maken.

285
00:45:52.166 --> 00:46:02.326
En daar wa-wij, wij kregen alleen maar destillaten daarvan altijd, hè. En OpenAI heeft hun eigen interne Mythos. Iedereen heeft hele grote modellen eigenlijk. Ja, een soort bacterie die ze maar lieten groeien.

286
00:46:02.366 --> 00:46:05.186
Ja, en dat ding, daar gaan ze, uiteindelijk gebruiken ze die.

287
00:46:05.806 --> 00:46:22.946
Nu is het zo dat, ik kom zo op het antwoord op je vraag, uh, Anthropic, wat ze normaal gebruiken als hun, uh, ja, noem het, het, het meest, uh, mythische [lacht] wat zij boven Opus konden maken, maakten ze iedere keer.

288
00:46:23.346 --> 00:46:28.525
En iedere keer als ze dat nu maakten, waren ze er van onder de indruk, maar niet zo van onder de indruk. Ja.

289
00:46:29.086 --> 00:46:38.666
Nu waren ze er zo van onder indruk, ik vul even aan wat je net zei, dat ze zeiden: oké, dit moeten we gaan delen, maar als we het gaan delen met 40 bedrijven, dan gaat het lekken. Dat is natuurlijk zo.

290
00:46:38.766 --> 00:46:48.666
Wij zouden het dan ook horen. Is ook gebeurd trouwens. Mythos is gelekt. Ook het verhaal. Ja. Dus je kan niet, zeg maar, je interne model een beetje gaan delen zonder dat de wereld daar over gaat praten, hè.

291
00:46:48.826 --> 00:47:01.486
Dat, uh, is voor OpenAI met hun SPUD, zoals het dan nu heet. Codename SPUD met een D. S-P-U-D, S-P-U-D. Ook hun interne Mythos. Dus nu horen wij voor het eerst publiekelijk over die grote modellen.

292
00:47:01.746 --> 00:47:10.846
Want ze moesten wel, want ze wilden ze gaan delen. En dan moet je ook uitleggen waarom je het wel deelt met de een en niet met de ander. Dan is het zo dat: waarom heeft OpenAI dit niet gedaan?

293
00:47:12.326 --> 00:47:26.366
Waar is, waar is SPUD for security? Waar is SPUD met 40 mensen? Waarom heeft DeepMind niet hun interne super-Gemini gedeeld met 40 Apples? En, we, Google en Apple hebben best wel goede banden, dus een be-beetje gek toch?

294
00:47:26.666 --> 00:47:32.126
Dus dat kan, uh, een aantal verklaringen hebben. We gaan even invullen. Eén: Anthropic loopt voorop.

295
00:47:32.766 --> 00:47:46.205
Zij hebben als allereerst hun training run klaar van hun allergrootste model en zijn voorop op de koep-kopgroep nu en kiezen ervoor om zelfs met Google te delen. Want Google moet ook mee werken aan Android, fascinerend.

296
00:47:46.786 --> 00:47:59.206
Uhm, dat is een optie. Tweede optie is: OpenAI en/of DeepMind heeft ook intern zo'n model, maar kiest een andere strategie. Staat hun vrij, hè, om te zeggen: wij, kwij, wij hebben over de toekomst nagedacht.

297
00:47:59.246 --> 00:48:10.426
Volgens mij is het maar beter dat niemand het weet [lacht]. Voor nu, hè. We gaan op een andere manier intern voorbereiden. Uhm, uh, d-eigenlijk, dat zijn, voor mij zijn dit maar de enige twee opties.

298
00:48:10.966 --> 00:48:25.566
Uhm, want ik denk dat, uh, wat we nu-- kijk, je kunt wel die bugreports, hè, die al drie, vier maanden binnenkomen, uh, de, het geklets in de wandelgangen rondom de grote labs. Het is niet alsof we helemaal niks weten.

299
00:48:25.686 --> 00:48:33.126
Ja. Toch, toch zijn er wel signalen, zeg maar. Ja. En ik denk dat er ook wel signalen zijn straks op het moment dat, want dat is een beetje het idee.

300
00:48:33.346 --> 00:48:45.686
Ik wil toch heel even teruggrijpen op de origin story van Anthropic in, in twee zinnen. Wat ze bij Anthropic zeggen is: wij moeten AI uitvinden, anders doet iemand anders het. Dit gaat uitgevonden worden.

301
00:48:46.406 --> 00:48:54.146
Wij gaan voorop rennen van die uitvinding, want wij vinden onszelf, redelijk arrogant, maar goed, de beste mensen om deze toverstaf in handen te hebben.

302
00:48:54.886 --> 00:49:06.246
Als wij zorgen dat we de kopgroep zijn, kunnen we met ons kopgroepmodel Mythos, waar ze inmiddels zijn, de wereld alvast voorbereiden op alleLopers in de marathon achter ons die ook nog gaan komen.

303
00:49:06.666 --> 00:49:16.086
Dus het is een soort van gift to humanity Mythos om het te harden tegen de toekomstige modellen van alle andere spelers ook. Ja. Uh, concurrentiestrijd? Ja, goed, ik zou zeggen,

304
00:49:17.326 --> 00:49:27.026
uh, ik vind het wel een interessante, uh, kijk die ik, uh, las van iemand die zei, uh, want ik beweerde net eigenlijk dat Mythos nooit uit gaat komen. Ik wil het even nuanceren.

305
00:49:27.846 --> 00:49:35.306
Een model met de kracht van Mythos gaat absoluut uitkomen. Als het Anthropic niet is, zijn het de anderen wel, want het gaat iemand lukken om een klein genoeg en draaibaar.

306
00:49:35.356 --> 00:49:44.526
En de chips worden beter en de datacenters worden groter, dus ergens komt een lijn bij elkaar en dan kan straks een Mythos-achtig bedra-, uh, model draaien, zeg maar. Dus die gaat wel uitkomen.

307
00:49:44.686 --> 00:49:53.166
Mijn punt was vooral wat het nu is, gaat, gaan wij nooit zien. Er gaat misschien de racedynamiek veranderen hierdoor, want die bedrijven zitten met elkaar allemaal in een racedynamiek.

308
00:49:53.206 --> 00:50:01.666
Dat is nadrukkelijk, weet je, probeerden ze dat te voorkomen de eerste paar jaar door bijvoorbeeld met elkaar af te spreken.

309
00:50:02.126 --> 00:50:15.486
Weet je, DeepMind had in het begin hadden ze nog de afspraak dat als, uhm, er een ander lab zou zijn wat, uh, AGI zou bereiken, dan zouden zij zich bij dat lab voegen. Ja.

310
00:50:15.586 --> 00:50:25.606
Dus dan zouden ze niet de-- zo zouden ze proberen die hele racedynamiek proberen te, uh, verlangzamen omdat er geen belang is bij het eerste zijn.

311
00:50:26.566 --> 00:50:38.366
En nou ja, dat laten we wel wezen, dat is allemaal, uhm, Anthropic heeft dat soort principes gehad. Dat hebben ze, dat, zeg maar, al die partijen hebben dat, hebben dat verzacht, dat soort, verzacht.

312
00:50:38.386 --> 00:50:50.906
Ik weet niet of dat het goede woord is, maar zijn zich misschien- Beetje losgelaten. Losgelaten onder de enorme druk die er nu is. Is dit een extra element in de racedynamiek, denk je? Gaat dit nu versnellen of niet?

313
00:50:50.946 --> 00:51:05.026
Nou, de, de, de, uhm, Sora 2, het videomodel plus app van OpenAI waarin je een soort slop TikTok had, is gecanceld binnen OpenAI. Met als reden naar buiten toe: we hebben alle computerkracht nu nodig.

314
00:51:05.066 --> 00:51:12.226
We gaan geen filmpjes meer genereren in een of andere slop app. Uh, niet omdat het slecht is voor de wereld, maar we hebben gewoon alle computerkracht nodig nu. Ja.

315
00:51:12.286 --> 00:51:22.826
Want wij moeten ook in deze orde van grootte meetrainen. Kijk, ik denk wel-- kijk, wij horen natuurlijk later over Mythos dan de meeste mensen binnen die labs, want die eten met elkaar en die kletsen met elkaar.

316
00:51:22.846 --> 00:51:32.726
Het zijn oud-collega's, oud-medestudenten. Dat is gewoon hoe het is. Dus, d-d'r wordt, hi-hier en daar absoluut wel een beetje gefluisterd van: jongens, we hebben nou iets uit de oven getrokken. Ja. foei, joei, joei.

317
00:51:33.326 --> 00:51:48.926
En, uh, nou is jouw vraag: wat gaat dit doen? Kijk, uiteindelijk is, uh, Mythos als supermodel die computers kan kraken, uh, een soort

318
00:51:49.826 --> 00:51:57.746
lichte vorm van quantum computing. Om even gek, een soort Y2K zitten we nu, hè, een soort het jaar 2000. Het voelt alsof alle computers tegelijk geüpdatet moeten worden.

319
00:51:57.786 --> 00:52:06.786
Dat voelt niet alleen zo, dat, dat is ook straks zo. Uhm, het, het, het My- het Mythos-moment en wat daar nu gebeurt.

320
00:52:07.506 --> 00:52:20.146
Uh, ik kan me niet anders dan voorstellen dat er veel meer partijen zijn wereldwijd die nu denken: o, maar wacht even, uh, er zit best wel wat, uh, potentiële macht en kracht in deze modellen nu. Ja.

321
00:52:20.346 --> 00:52:24.566
Kijk, wij zijn het al bijna gewend met z'n tweeën door wat we lezen en waar we het over hebben al anderhalf jaar.

322
00:52:24.616 --> 00:52:34.666
Maar ik denk dat er toch ook wel veel mensen zijn die misschien toch dachten: ik ga me zorgen maken als ik me zorgen moet maken en ik ga me niet van tevoren zorgen maken over lijntjes op een grafiek van een jongen uit Duitsland ergens.

323
00:52:34.706 --> 00:52:48.706
Nee, zo'n capaciteit van een, van een, een model of de, de, het idee dat je een model hebt wat zo, zo snel veiligheidsgaten kan vinden lijkt me een enorme waardevolle, uh, toevoeging aan het wapenarsenaal van een land.

324
00:52:49.506 --> 00:53:00.946
Dus nu, zeg maar, wat, hoe-hoeveel is er nog nodig om de regering Trump te laten zeggen: dit, uh, dit ga je helemaal niet uitbrengen. Er is maar één klant die je hebt en dat zijn wij.

325
00:53:02.466 --> 00:53:08.266
Ja, maar hoe, hoe ver zijn we daar nog van vandaan, denk je? Ja, ik vind dat heel moeilijk te zeggen.

326
00:53:08.306 --> 00:53:21.066
Er zijn, er zijn veel scenario's over geschreven dat als o-, als iets op een gegeven moment zo belangrijk wordt, uh, dat overheden gaan zeggen: nu ben jij niet meer een vrij opzichzelfstaand bedrijf, nu ben jij overheidsinfrastructuur.

327
00:53:21.126 --> 00:53:22.506
Dat is volgens mij een beetje wat jij bedoelt.

328
00:53:22.525 --> 00:53:36.466
Zeg maar stel d'r, Amerika belandt in een, in een, in een oorlog met China of, of, of, of v-vindt op andere manieren, weet je, belang erbij om, om, om hun, hun aanvalskrachten,

329
00:53:37.566 --> 00:53:49.126
zoals ze dat dan zeggen bij de overheid in het cyberdomein, te vergroten. Ja, wat wordt dan het moment dat ze, dat ze AI-modellen mogen gebruiken voor dit soort offensieve doelstellingen?

330
00:53:50.186 --> 00:53:53.666
En dat het ook echt eng is, zeg maar. Ja, ik vind het, ik vind het.

331
00:53:53.726 --> 00:54:03.586
Ik ga er geen, uh, geen maanden of jaren aan hangen, maar we zit, zit, er is, uhm, kijk, dit is ook wel iets, hè, het, het Mythos-moment, om het maar even zo te zeggen.

332
00:54:04.546 --> 00:54:17.466
Uh, vorig jaar zomer met de lancering van GPT-5 draaide eigenlijk een beetje de vibe in de breedte, ook bij mij in de podcast zelfs met Rick Lamers toen GPT-5 uitkwam van: ja,

333
00:54:18.466 --> 00:54:26.286
misschien hebben we toch wel een beetje het dak bereikt, hè. Misschien moeten we inderdaad iets heel nieuws gaan uitvinden, zoals Jan LeCun steeds roept van Meta. Moeten we opnieuw beginnen?

334
00:54:26.826 --> 00:54:33.966
Hè, hebben we als het ware maximale- Ja, omdat de toename van computerkracht niet leidde tot slimmere modellen voor een tijdje. En nu. Ja.

335
00:54:34.026 --> 00:54:43.666
Ik bedoel Mythos is het, is het bewijs- Mhmm...dat er, dat er nog te schalen valt. Ja, dus? Nou, dus denk ik, en daar had ik eigenlijk helemaal nog niet zo bij stilgestaan.

336
00:54:43.946 --> 00:54:56.746
Kijk, door, uh, de framing vanuit security, die ik begrijp, want kijk, als jij nu zo'n krachtig model uitbrengt en, uh, Anthropic schrijft er dan bij: en die kan ook fantastisch mooie klassieke muziek componeren.

337
00:54:56.966 --> 00:54:59.926
Ja, prima gasten, [gelach] zullen we eerst even alle servers even fixen, weet je wel.

338
00:55:00.166 --> 00:55:09.566
Dus dat, z-ze zitten op het, op het saaiere deel, maar het belangrijke deel, uh, de onderkant van de menselijke, p-, uh, zeg maar de infrastructuur moet gefixt worden. Gaan we daarna wel vioolspelen met elkaar.

339
00:55:10.146 --> 00:55:20.122
Uhm.Maar d-daar hebben we het helemaal nog niet over gehad. De benchmarks, uh, die ook bij de system card zaten. Dus bij ieder model brengen ze een system card uit. In ieder geval tot nu toe nog wel.

340
00:55:20.192 --> 00:55:24.402
[gniffelt] En in de system card stonden ook de benchmarks. Mythos is echt superkrachtig, hè.

341
00:55:24.732 --> 00:55:33.322
Ik bedoel, we kunnen praten over krachtig op het gebied van, uh, cybersecurity en het vinden van sleutels voor servers, maar Mythos presteert op alle benchmarks weer een stuk beter.

342
00:55:33.822 --> 00:55:42.102
Kijk, dan kan je je, je kritische vraag stellen bij: oh ja, dan is hij heel goed geworden in benchmarks. We hebben in de breedte de Humanities Last Exam.

343
00:55:42.282 --> 00:55:48.742
Al de, de bekende lijst voor vele mensen die benchmarks vo-, uh, volgen is Mythos gewoon een overduidelijke, uh, sprong.

344
00:55:48.762 --> 00:56:03.822
Dus dit betekent ook, want dat vond ik wel interessant aan jouw verhaal net over Go en, uh, move 37, een move die door AlphaGo gemaakt werd, die door mensen beschreven werd als schoonheid en mooi en waar meerdere Go-spelers emotioneel van werden.

345
00:56:03.942 --> 00:56:15.622
Ze moesten huilen. Ja, er moest, er werd gehuild om een, om een algoritme. Uhm, kijk, het is altijd al de vraag geweest als die move 37, straks in ieder domein een move 37 komt, hè.

346
00:56:15.642 --> 00:56:25.022
Je zou kunnen zeggen dat Mythos, dat is een beetje jouw punt, de move 37 voor cybersecurity is van AI, hè, de, de. En dan zeg je: nou, daar zitten die mensen te huilen om een andere reden, hè.

347
00:56:25.182 --> 00:56:33.822
Nou ja, omdat ze schoonheid herkennen in, in een bug fi- bugfix, wat ik me best kan voorstellen. Zeker als het een ketting is van verschillende dingen. Het is een soort supersudoku. Uhm,

348
00:56:34.782 --> 00:56:46.202
dat ik me ook kan voorstellen dat, uh, Mythos op allemaal andere gebieden die misschien minder intens zijn dan cybersecurity, ook enorm beter gaat presteren.

349
00:56:46.262 --> 00:56:56.022
Dus w-we verliezen ook bijna nu, jij en ik, maar ook in de hele wereldwijde discussie rondom het Mythos-model. Want het kan ook over onze economie gaan. Daar kun je dat gesprek ook over voeren.

350
00:56:56.062 --> 00:57:05.442
Ja, nou maar goed, ik snap dat, dat, dat eventjes de hele infrastructuur van de wereld harden, uh, belangrijker is. Het is een beetje selectieve verontwaardiging misschien, maar ja, dat is ook het verwarrende deze tijd.

351
00:57:05.462 --> 00:57:13.832
Dat die generaal, g-generieke modellen of die generaliserende modellen, uhm, ja, zijn zo breed dat je, dat je niet meer weet waar je moet inzoomen.

352
00:57:13.882 --> 00:57:19.522
En daarom is, ergens is het ook fijn om je even te kunnen vastklampen aan cybersecurity. In ieder geval een tastbaar ding. Ja.

353
00:57:19.752 --> 00:57:29.382
Als we het nu ook nog een keer moeten gaan hebben over dat kunstenaars geen werk meer hebben, dan, uh, kun je me helemaal opvegen. Ja. Hé, maar in de int-- toch nog even over cybersecurity ten slotte dan, hoor.

354
00:57:29.562 --> 00:57:36.402
Om het af te zetten tegen, uh, de Chinezen. Waar, waar staan de Amerikanen nu ten opzichte van de Chinezen?

355
00:57:36.442 --> 00:57:43.231
Ja, wat ik, wat ik zelf een beetje, dus dan doe ik een soort synthese van wat ik online meekrijg, zes tot negen maanden. Ja. Uuuhm.

356
00:57:43.242 --> 00:57:54.722
Voordat de Chinezen dus ook een model hebben die, ja, waar-waar-waarbij, waarbij, uh, Amerikanen zich dan moeten wapenen met hun, hun goede modellen. En dan, uh.

357
00:57:54.762 --> 00:58:03.822
Ja, jij bent eigenlijk aan het zoeken naar: wanneer wordt het een soort model warfare? Ja. Oorlog tussen AI-modellen. Het is moeilijk om cybersecurity los daarvan te zien. Ja.

358
00:58:03.882 --> 00:58:14.782
Ja, het is misschien ook meer een opmerking dan een vraag. Ongezellig. Er was wel, ik zat te kijken naar, uhm, Ben Thompson. Ben Thompson had één nuancerende opmerking, namelijk Anthropic.

359
00:58:15.682 --> 00:58:31.462
Uh, hij had een citaat van, uh, Dario Amadei, uh, met soort van: het model wat we nu lanceren is, uh, getraind op een enorme hoeveelheden data en we gaan het niet lanceren, want de capaciteiten hiervan zijn te groot.

360
00:58:32.862 --> 00:58:44.382
En hij had het over GPT-2. Ja, ik denk nou- Oftewel: sinds die man leeft is hij ongeveer aan het hypen over dat- Alles is Mythos. Het is zo groot, ik kan het allemaal, we k- Ja, ja, ja.

361
00:58:44.442 --> 00:58:57.522
We hebben capaciteiten intern als wij die ooit releasen. De wereld zal niet hetzelfde zijn. Het is ook een beetje een soort van grijsgedraaide langspeelplaat geworden waar Ben Thompson, technologieanalist, van zei.

362
00:58:57.722 --> 00:59:09.822
Ik wil echt eenieder, eenieder aanraden: ik probeer dit. Het lukt mij ook niet altijd. Dat je minstens twee brillen op doet. Desnoods koop je er twee fysieke br-brilletjes voor, één met roze, één met oranje.

363
00:59:10.662 --> 00:59:20.002
Dan doe je je bril op en dan kijk je naar deze hele situatie vanuit corporations in Amerika die op hype modellen verkopen aan investeerders en datacenters willen bouwen. Dat is een bril.

364
00:59:20.102 --> 00:59:29.482
Doe je die op, denk je: hé, iemand roept dat hij Mythos heeft uitgevonden. Een wereldwijd supermodel wat superintelligent is. Ja, dat is, dat werkt goed voor investeringen. Doe je die bril, dan doe je hem weer af.

365
00:59:29.782 --> 00:59:32.201
Doe je een andere bril op, dan kijk je nog een keer.

366
00:59:32.261 --> 00:59:39.702
Zou het zo kunnen zijn dat deze mensen die daar werken, die ook kinderen hebben, ook in gezinnen zitten, ook zich onderdeel voelen van de samenleving, zich oprecht z-zorgen maken.

367
00:59:39.742 --> 00:59:51.862
En dan blend je die twee brillen en dan kom je tot ongeveer een midden waarin ik denk: als ik de changelog lees van FFmpeg, Curl en OpenBSD, dat we te maken hebben met iets dat heel goed geworden is in sudoku.

368
00:59:53.342 --> 01:00:07.122
Ja, het is een heel vrolijke manier om, uh, [zucht] heel vrolijke manier om dit samen te vatten, Wytse. Ja, nou, wat doen we ermee, lieve luisteraar? Wij danken Sam Hingenveld voor de edit, Pankra voor de vormgeving.

369
01:00:07.862 --> 01:00:15.882
Als je een lezing wil van de heer Haagh en, uh, daarna vrolijk naar huis wil gaan, dan, uh, mail je naar de lezing@aireport.email.

370
01:00:16.572 --> 01:00:24.922
Uh, en als je op de hoogte wil blijven van het laatste AI-nieuws, twee keer per week tips en tools wil ontvangen, het meeste uit AI wil halen, dan abonneer je je via onze nieuwsbrief via aireport.nl.

371
01:00:25.682 --> 01:00:39.742
En dan heb je dus ook, als je betalend abonnee wordt, toegang tot onder andere dat meest recente webinar waarin we cloudcowork uitleggen. Fantastisch. Dank voor het luisteren. Dank je wel. Dag. Dag.

372
01:00:43.922 --> 01:01:01.052
[muziek]