Welkom bij AI Report, de Nederlandse podcast over kunstmatige intelligentie, waar we uitzoeken welke invloed AI heeft op ons werk, ons leven en de samenleving. Tegenover mij zit Wietse Hage. Hallo.
En ik ben Alexander Klöpping. Deze week: Mythos. Het nieuwe grote model van Claude is zo krachtig dat Anthropic het niet durft vrij te geven. En Google lanceert een AI die volledig op je telefoon draait.
Van een volwaardige privacyvriendelijke AI. Hier. Je hoort het zo in AI Report. Veel plezier!
[muziek] Wietse, ik merk dat ik tegenwoordig steeds vaker dank je wel zeg tegen, tegen mijn AI. En dat zegt dat je dat eerder dus niet deed. Nou, dat klopt. Moet ik me daarvoor schamen? [lacht] Wat jij wil.
Jij zegt al jaren. Wat is er veranderd bij je? Nou, wat bij mij is veranderd is dat ik af en toe zo onder de indruk ben dat hij iets heeft gedaan zoals ik wil dat hij het doet.
Dat ik echt een soort van, ja, dan ben ik gewoon echt heel gelukkig dat het hem is gelukt. En dan uit, uit op, oprechte, ja, Waardering. dankbaarheid en waardering zeg ik dan: dank je wel, dit is heel vet. Goed gedaan.
Ik merk nu dat ik alle keren dat jij dank je wel tegen mij gezegd hebt ooit ineens ook anders ga zien. Ja, dat is, dat is een heel grote threshold, hoor. Ja, heel zwaar. Zwaar til ik daaraan.
Nee, ik was altijd, ik, ik heb, uh, je hebt natuurlijk verschillende redenen om dank je wel te zeggen tegen een AI. Sommige mensen zijn, uh, bang dat anders de AI later boos wordt.
Voor mij was het meer, uh, dat ik bang ben dat ik anders, als ik een mailtje stuur een minuut later of even een appje reageer, dat ik niet snap dat ik aan het wisselen ben in interactie.
Dus ik dacht: ik kan maar beter gewoon vriendelijk zijn tegen alles in tekst. O, ja. Dan is de kans dat ik per ongeluk een vriend of vriendin aanspreek en zeg, uh: is het al klaar of doet ie het al?
Hoef je er niet meer over na te denken. Gewoon altijd dank je wel zeggen. Ja, dat je toch een soort beroepsdeformatie krijgt, maar dan door AI.
Dus ik dacht: laat ik dan maar lief zijn tegen alles, dan heb je nooit de kans dat je het niet vaak genoeg doet. Ja, we hebben net een webinar opgenomen wat je vanaf nu kan terugkijken.
En dat is belangrijk om te zeggen, want we hebben een Deep Dive in Claude CoWork gedaan. Uh, die is sinds een week ook op Windows, dus dat is relevant voor onze Microsoft-liefhebbers onder de luisteraars.
Der, uh, is door Wietse uitgebreid ingegaan over hoe je Dispatch gebruikt. Dat is hoe je eigenlijk op je telefoon allerlei opdrachten kan geven aan Claude op je computer, die zelfs je computer op afstand kan bedienen.
Een beetje in de, in de, ja, categorie van OpenCloud. Wietse legt dat uit, hoe je dat makkelijk en veilig kan doen.
Uh, uh, Scheduler, over hoe je herhalende taken, uh, kan laten uitvoeren door die robot en nog veel meer. Dat, ik vond het echt de moeite waard, uh, en je kan hem, uh, kijken op, uh, AIReport.nl.
Ik zeg het maar even bij. En, uh, want dat, dat hoort bij het abonnement, als je, als je dat hebt. Uhm, en de volgende webinar is op 7 mei. Die kun je alvast in je agenda zetten.
En, uh, inmiddels Wietse, zijn we toe aan onze vijfduizendste abonnee. Ik wil toch even hierbij stilstaan. Ja, bedankt, zeggen we dan ook. Ja, allereerst bedankt aan de luisteraar, want dit is echt heel erg cool.
5.000 van jullie, uhm, zijn betaald abonnee van de podcast en van de, van de nieuwsbrief en st-, en steunen ons daarmee en dat is ontzettend gewaardeerd, want daardoor kunnen we steeds meer vette dingen voor jullie maken en waaronder die webinars.
En dat is, uh, echt een feestje om te doen. Uhm, als je ons wil helpen om naar de 10.000 te gaan. Zo. Ja, je moet hoog inzetten, uh, dan, uh, zijn we op zoek naar jou.
We zoeken een, een freelancer die ons helpt met groeien en marketing. Tot nu toe is die 5.000 allemaal organisch gegaan.
We willen aan marketing gaan doen en we zoeken iemand die de groeistrategie kan bedenken en zelf kan uitvoeren en echt alles doet. Het liefst natuurlijk met AI.
Als je daar meer over wil weten, dan staan, uh, staat de vacature in de shownotes. We gaan zo naar het nieuws, maar eerst een boodschap van onze sponsor Rockstars.
[muziek] Mijn naam is Thijs van Team Rockstars IT en wij zijn op een missie om AI-oplossingen te bouwen die ons werk en de wereld mooier en veiliger maken.
Vandaag is met mij Matthijs van Bree, Principal Consultant op het gebied van AI. Nu ben ik even benieuwd Matthijs, wat zie jij al specifiek aan Agentic AI use cases ontstaan bij klanten?
Nou, ik was betrokken bij een project bij een klant van ons, Keylane.
En, uh, zij hebben een SaaS-product, uh, wat ook betekent dat er heel vaak, uh, data van een, uh, oud klantsysteem naar hun SaaS-product gemigreerd moet worden. En datamigraties geven heel vaak migraine.
Zij hadden de, de vraag: kunnen we dat data, uh, migratieproces versnellen? Dus toen hebben we samen gekeken naar: oké, hoe ziet dat, uh, migratieproces eruit?
En toen zijn we met een Agentic AI-oplossing gekomen die verschillende databronnen, uh, doorzoekt en op basis van die verschillende databronnen de root cause van het probleem, uh, identificeert en op basis van die root cause een oplossing bedenkt.
Oké, vet. Maar, uh, even specifiek voor mij: wat levert dat nou op, Matthijs?
We zagen dat 50% van de datamigratie errors werden door de tool opgelost en andere 50% van de gevallen zagen we dat, uh, de juiste data vaak wel doorzocht werd door het systeem en dat een datamigratieanalist op basis van die data alsnog de oplossing relatief snel kon vinden.
Heel vet zeg! Nu ben ik wel benieuwd wat de luisteraars ervan vinden, want de stelling van deze week luidt: in de komende drie jaar gaat Agentic AI meer migraine genezen dan veroorzaken.
Stem mee via TeamRockstars.nl/AIReport of via de link in de shownotes. Tot volgende week.
[muziek] Anthropic durft zijn nieuwe grote AI-model niet publiekelijk vrij te geven omdat het te gevaarlijk zou zijn.
Ze geven slechts veertig speciaal geselecteerde organisaties toegang tot het model.
Uh, bedrijven als Apple, Google, Microsoft, Amazon en Nvidia kunnen dan eerst orde op zaken stellen voordat het model met de rest van de wereld gedeeld gaat worden. Het heet Mythos, dit nieuwe ding.
Wat maakt het nou zo gevaarlijk, vraag je je misschien af. Nou, het heeft gaten gevonden. Softwaregaten, beveiligingsgaten in vrijwel elk groot besturingssysteem, in vrijwel elke grote browser.
Ze ontdekten Mythos beveiligingslekken in OpenBSD. Dat is een besturingssysteem dat 27 jaar lang onopgemerkt was gebleven en nu opeens door die AI toch ontdekt is. En dat
zet aan het denken en we gaan het daar straks uitgebreid over hebben.Een belangrijke stap voor privacyvriendelijke taalmodellen ook deze week. Google introduceert Gemma vier.
Dat is een AI die volledig op je eigen apparaat draait zonder internetverbinding.
En voor iedereen die werkt met gevoelige informatie is dat relevant, omdat bijvoorbeeld bedrijfsdata nooit je apparaat verlaat op die manier. Iedereen kan het model gratis gebruiken.
Ze hebben verschillende versies die geoptimaliseerd zijn voor de hoeveelheid computerkracht die je hebt in je telefoon of laptop. Het grootste model verslaat qua intelligentie modellen die twintig keer zo groot zijn.
Oftewel het is Google gelukt om met een klein model wat op een, uh, op je eigen telefoon of je eigen laptop draait toch veel intelligentie erin te proppen en daarmee wordt het steeds bruikbaarder.
Gemma vier is te proberen door de Google AI Edge Gallery app te downloaden en bij, bij de marketingafdeling van Google gebruiken ze duidelijk geen AI om hun eigen namen te verzinnen. Het heet Google AI Edge Gallery.
Succes daarmee. En tot slot: je kunt nu ChatGPT gebruiken terwijl je in je auto rijdt. OpenAI's spraakassistent is namelijk beschikbaar gekomen via Apple CarPlay.
Je kunt in je auto vragen hardop stellen, informatie samenvatten, brainstormen, wat je wil en ook een lopend gesprek hervatten bij waar je gebleven was.
Dat is, uh, dat klinkt misschien als een detail, maar dat is ontzettend handig op het moment dat je bijvoorbeeld één chat vaak gebruikt om een meeting voor te bereiden en je wil dat die context blijft. Erg handig.
ChatGPT CarPlay is nu beschikbaar voor mensen met een abonnement op ChatGPT. [muziek] En voordat we naar het hoofdonderwerp gaan eerst een boodschap van onze sponsor Moneybird.
[muziek] Hoi, Jeroen hier, product engineer bij Moneybird. Wij bouwen samen software voor ondernemers die bankieren en boekhouden een stukje makkelijker maken.
Ik sta hier met Joost, de cofounder die nog steeds mee bouwt. Wat kun je ons vertellen over alle AI-oplossingen die we tegenwoordig gebruiken?
Nou Jeroen, ik denk dat we gezien hebben dat we de afgelopen maanden gigantische stappen hebben gemaakt in de AI-modellen en daardoor enorm veel beter kunnen versnellen met onze ontwikkeling.
Het was best wel een tijdje geleden dat ik nog mee schreef, maar de laatste maanden ben ik weer kleine innovaties aan het doen aan het product.
Tussen mijn dagelijks werk door bouw ik aan, ja, meer aan Moneybird weer en dat vind ik ontzettend gaaf om te doen. Dingen die best wel complex leken, bleken toch, ja, dankzij AI goed oplosbaar.
Wat zie je dan ook veranderen voor de traditionele programmeur? De rol van de programmeur die gaat veranderen.
In plaats van schrijf maar code, moet je hetgene wat AI produceert goed kunnen beoordelen en dat vereist zekere skills.
Ik denk dat bedrijven zoals ons, die in staat zijn om AI goed toe te kunnen passen, meer kunnen versnellen en mooie dingen op de markt kunnen zetten. Dus ja, dat heeft, daar heeft iedere ondernemer baat bij.
Bedankt voor het delen, Joost. Kijk op Moneybird.nl/ai-report hoe wij AI inzetten. [muziek] Groot nieuws van Anthropic deze week. Het was al even uitgelekt, stiekem, maar nu is het for, for real.
Het bedrijf heeft nu een AI-model dat zo krachtig is dat het bedrijf het model achter slot en grendel wil houden. Laten we beginnen met wat Mi, wat Mythos kan en zo gevaarlijk maakt.
Het heeft dus meerdere bugs gevonden in, uh, belangrijke stukken software, kritieke infrastructuur.
En dat is belangrijk, want daarmee zijn computers die op die software draaien, dat betekent dus in de praktijk alle computers, ook jouw computer, kwetsbaar voor hackers.
Zo ontdekte Mythos kwetsbaarheden in bijvoorbeeld de Linux kernel. Dat is het hart van de meeste servers, uh, ja, op aarde, waarmee je volledige controle over een computer zou kunnen overnemen.
Het is echt, echt een big deal. En wat Mythos onderscheidt, is dat het niet alleen lekken kan vinden, maar ze ook nog eens intelligent aan elkaar kan rijgen.
Zo kan het model, is het model gelukt om vijf afzonderlijke zwaktes in een stuk software te identificeren en vervolgens te combineren tot een aanvalsketen die een mens niet zou hebben, uh, bedacht en daarmee, ja, nieuwe mogelijkheden opent voor mensen die kwaad willen en computers, uhm, willen kraken.
Anthropic heeft toegang gegeven aan veertig gesele-geselecteerde bedrijven. Dat is dus hun manier van omgaan met deze nieuwe capaciteit.
Uhm, Alex Stamos, dat is de voormalig, uh, beveiligingshoofd van Facebook en bij Yahoo, uh, noemde dat noodzakelijk. Hij denkt namelijk, en dat is waarmee ik het allemaal nog erger ga maken.
Hij denkt namelijk dat we nog zo'n zes maanden hebben voordat open source modellen de topmodellen van Anthropic en Google en OpenAI, waarbij Mythos nu dus de voorloper is, zullen inhalen.
En daarna kan elke ransomware groep kwetsbaarheden vinden en bewapenen, mogelijk nog zonder een spoor achter te laten.
Dat willen we natuurlijk allemaal niet en daarom geeft Anthropic grote bedrijven nu een soort van voorsprong. Zo kun je het zien. Dat ze de gaten kunnen dichten, uhm, ja, voordat, voordat kwaadwillenden erbij kunnen.
Dat is de, de, de, de optimistische take van dit hele verhaal. Wietse, hoe groot is dit [lacht] op de schaal van groot wil ik weten hoe groot. Nul is klein en tien is groot. Nul is inderdaad klein.
Hoe hard gingen je alarmbellen af deze week? Uhm, nou, je kunt, uh,
ergens, ergens was het, uh, lag het wel een beetje in de lijn der verwachting dat er op een gegeven moment modellen zouden komen die zo goed zijn in software dat ze zelfs gaten kunnen vinden in software die wij nog niet hebben gezien als mens.
En met mens bedoel ik de hele mensheid. Niemand die die code heeft gezien, heeft het gezien. Uhm, alarmbellen. Kijk ergens, het feit dat, uh, Anthropic roept al een tijd in interviews, vooral de CEO:
wij hebben intern systemen, die zijn me toch een partij krachtig. Ja. En daardoor, uh, durfde hij al bepaalde dingen te beweren. Ook Sam Altman van OpenAI doet dat al best een tijd.
Een beetje het narratief: wij hebben intern dingen. Als we die de wereld in zouden sturen, dan hebben we allemaal een best wel een uitdaging.
Niet alleen maar op het gebied van, uh, cybersecurity ook, maar arbeidsmarkt, noem het allemaal maar op, hè. Existentiële, uh, spannende, uh, uh, dingen voor de mensheid in de breedte.Wij zagen die modellen nooit.
We krijgen nieuwe modellen waar we bij mogen. Opus 4.6. Die zijn dan inderdaad 10% beter dan het vorige model. Kunnen ineens iPad-apps maken die er best goed uitzien.
Maar het voelde nooit, voor mij in ieder geval, zo spectaculair dat ik echt dacht: wacht even, deze, dit model is, voelt een soort ver boven intelligent.
Nu schijnt het zo te zijn, hè, dus dat is, uh, een groep van veertig bedrijven en daarmee dus een grotere groep mensen heeft toegang tot Mythos. Uh, kan er dus mee interacteren en het voelen.
Er wordt vrij weinig o-, ge-, gesproken online over mensen die er één-op-één met Mythos hebben gewerkt. Dat wordt allemaal een beetje vaag over gedaan. Er zullen mogelijk NDA's voor getekend zijn.
Uhm, is het, is dit een grote, uh, krijgt het, uhm, verdient het de aandacht die het krijgt nu? Denk ik wel. Mhmm. Uh, einde van de wereld aandacht?
Nee, ik ben vooral, er zijn allerlei dingen en daar hebben we ook de tijd voor vandaag. Allerlei, uh, manieren waarop we kunnen praten hierover. Uh, had Anthropic dit niet gewoon wel vrij moeten geven?
Gaan ze het ooit vrijgeven? Waarom deze groep en niet meer of minder?
Hè, er zijn best wel wat vragen te stellen bij, uh, één groot Amerikaans bedrijf die blijkbaar iets in handen heeft dat een soort, uh, toverstaf is waarmee je alle sloten ter wereld open zou kunnen doen, zeg ik even in een metafoor.
Ja, want zo moet je het zien. Ja, nou ja, wel echt de sloten van hele belangrijke kluizen kan ik je vertellen. Ja, dat is wel waar. Kun je dat schetsen?
Wat is, zeg maar, wat betekent dat eigenlijk als op zo'n fundamenteel niveau? Uhm, nou, een van de, je hebt, er zijn een hele markt, hè, van, uh, uh, online waar jij exploits kan kopen.
Een exploit is eigenlijk een loper, een, een sleutel die je in iedere deur kan doen bij wijze van, of in belangrijke deuren kan doen. Die zijn te koop. Ja. En, en dus, en dan heb je ook exploit chains.
Dat zijn kettingen van, uh, als je dan die sleutel daarin doet, dan op de raam tikt en dan nog met een steentje dat raampje ingooit, alle drie tegelijk of alle drie net na mekaar, dan ben je binnen, zeg maar.
Dus een soort ketenreactie van, uh, exploits, exploit chains. Die zijn te koop omdat die door mensen worden gevonden en vervolgens verhandeld worden of gemeld worden. En dan krijgen mensen daar een bounty voor, zeg maar.
Dat is de wereld waarin we leefden tot en met, [lacht] uh, een aantal maanden geleden misschien. Ja, dit is een wereld van private bedrijven die, ja, die helpen andere bedrijven om veilig te zijn.
Dan heb je ook nog een wereld van criminelen die, ja, die doen ransomware of op allerlei andere manieren proberen ze geld af te troggelen van mensen.
Bijvoorbeeld door data te stelen, uhm, zoals we, we recentelijk zagen bij die Odido-hack.
En dan heb je nog, uh, statelijke actoren die, en een belang erbij hebben om hun eigen va-software veilig te maken, maar ook om in te breken bij anderen en soms zelfs, zoals we in wat minder, uh, democratische regimes zien, uh, in te breken bij bijvoorbeeld journalisten of o-oppositiepartijen of wat dan ook.
En vaak dan ook nog eens een keer met hulp van private partijen die, die, ja, die, die exploit chains zoals je dat noemt, uhm, [klikt met tong] te koop aanbieden.
Ja, en het is, er zijn dus legio redenen om digitale sleutels te, te maken en te verkopen en te verkrijgen. Je kan er goed geld mee verdienen. Zeker.
En, uhm, nu is het zo dat, uh, er prijsverschillen zijn tussen wat iets kan, hè.
Dus als jij bijvoorbeeld, uh, in Chrome-browser, hè, een van de veelgebruikte webbrowsers, daar, uh, data kan uitlezen van een andere tab bijvoorbeeld, hè.
Dus iemand heeft een tabje openstaan van een website en ernaast een tabje van de bankieren-, uh, website. En je kan dan tussen die tabjes communiceren. Ja.
Dat is niet best, want dan kan de ene website de andere website iets mee. Dat is natuurlijk helemaal, uh, op, tot op hoog niveau, uh, uh, dichtgezet met allerlei, uh, sandboxes zoals we dat noemen en muren ertussen.
Zie het gewoon echt voor je in de fysieke ruimte met drie dubbel, uh, beton en gewapende, uh, dikke staalconstructies om te zorgen dat dat heen en weer springen tussen die twee dozen bijvoorbeeld niet mogelijk is.
Een exploit zou kunnen zijn dat je wel toegang krijgt tot het geheugen van heel de Chrome-browser, dus, dus eigenlijk alle, uh, uh, getalletjes en alle data die in Chrome zit, inclusief alle tabs die daar binnen hangen.
Nou, zo, zoiets is bijvoorbeeld heel veel geld waard. Uhm.
Ja, het is nu eigenlijk al een, een, een, een, een enorme rijke markt in dit kat-en-muisspel van softwaremakers die hun software zo veilig mogelijk willen maken en aan de andere kant mensen die er geld mee kunnen verdienen om die dingen te kraken of op een of andere manier macht te krijgen door die software juist te kraken.
Dat is nu al zo. Dat is een weeldige markt waar, waarin, uhm, nou ja, er een kat-en-muisspel is tussen die twee kanten.
Maar nu is er opeens iets wat, ja, uh, zeg maar, als ik, als ik het, als ik het goed begrijp wat er aan de hand is, zeggen ze eigenlijk: dit is de loper voor alles.
Het is én besturingssystemen én telefoons én- Die kunnen we wel een beetje nuanceren dan. Oké.
Want als je dus kijkt naar die sleutels die toegang hebben tot verschillende niveaus van een gebouw, het midden van het gebouw, het, de kern van een gebouw, ik hou het even fysiek, is level nul.
Dat is waar je absoluut niemand binnen wil hebben. Dan level één, twee, drie, vier, vijf. Dat noemen ze vaak security rings. Dat zijn ringen.
En je kunt je voorstellen dat als jij bijvoorbeeld op je, uh, laptop, zodat die zegt: ja, je moet even administrator toegang geven.
Dat, zegt ie eigenlijk: je wil nu iets doen in een lagere ring, meer richting nul en ik vertrouw dat niet zomaar.
Dus om ring twee dingen te doen, dit is heel technisch hoe ik het nu zeg, moet je even vanuit ring drie zeggen dat het goed is, hè.
Op een, op een, uhm, MacBook is het dan: doe even je touch-ID, want wat we nu gaan installeren gaan we op een ring doen die zit dichter bij het midden van het gebouw.
Ja, zo, zo merken wij het als consument eigenlijk regelmatig dat we door die beveiligingsringen heen springen.
En als iemand dan bijvoor-, het zou natuurlijk gek zijn als jij een liedje aan wil zetten op Spotify, dat je dan je vingerafdruk moet laten zien. Juist. Dat wordt gewoon gezien als iets wat op de buitenring gebeurt. Ja.
Ga jij maar lekker muziek luisteren. Als jij een nieuwe app wil installeren, dan moet je het wel doen. Gaan we één ring naar het midden toe. Ja.
Nou, je kunt je voorstellen dat de exploits, hè, dus die soort van loper sleutels, hoe dichter ze bij nul komen, hoe duurder ze worden. Ja. Zo simpel is dat. Omdat ze meer kunnen.
Er is meer- Ja, want vanuit nul kan je naar allemaal, hè. Juist. Dus als je in het midden bent, ben je overal. Juist. Dan is het kat in het bakkie, zeg maar.
Uhm, nu is het zo datWat je bijvoorbeeld ziet, ik zal uitleggen een, een ring nul. Dus dat betekent dat je op het allerhoogste niveau komt van, uh, controle over een systeem.
Dan kan je dus niet alleen maar naar Excel toe, maar ook naar Chrome en de tabs binnen Chrome, hè. Dus je, stel even voor, dat is problematisch.
Uhm, als het om servers gaat, hè, dus waar, waar de bankierenwebsites op draaien. Als jij naar www.bank.nl gaat. Dat zijn ook gewoon computers die aan het internet hangen en dag en nacht aanstaan.
Ja, kan je beter die kraker. Ja, dan heb je natuurlijk, als je daar naar ring nul kan, dan heb je helemaal, uh, dat is, dat is ultiem. Nou, op ring nul, dat is het besturingssysteemniveau. Jij noemde net Linux.
Jij noemde net OpenBSD. Dat zijn als het ware, ja, de, de, de, dat is de rug, uh, hè, de oude stalen roestige rug van stevig staal waarop die hele, uh, wereld gebouwd is.
Ja, vitale infrastructuur waar we allemaal iedere dag gebruik van maken. Level nul zit daar ook, hè. Dus dat is de, dat is waar het goud ligt, zeg maar.
En, uhm, als je dan bijvoorbeeld een chain kan maken, hè, dus dan noem ik even een voorbeeld hoe dat echt gaat.
Je komt erachter, ik doe nog even als mens, dat als je een bepaald, uh, signaaltje stuurt, een bepaalde aanvraag, een bepaald bericht naar een server, dat die server crasht omdat er een bug in die server zit.
Dan zou je zeggen: ja, oké, dan kan je hem platleggen de hele dag door de hele tijd dat rotberichtje te sturen.
Maar een crash is vaak heel interessant, want als iets vastloopt doet het soms nog even wat roepen net voordat het vastloopt. Error zoveel, zoveel, dat of dat of dat.
En heel vaak lekt het dan ook per ongeluk nog een beetje wat er op dat moment aan de hand was op ring nul.
Dus als jij een ding kan sturen waardoor die crasht en blijft crashen en dat heel vaak achter elkaar stuurt en een beetje slim doet, dan heb je een kans van één op honderd of van één op duizend dat hij hier en daar per ongeluk geheimen weggeeft voordat hij crasht.
Dat is een manier hoe je dat doet. Dus dan heb je eerst één nodig waardoor die crasht. Dan moet je iets hebben wat meeleest en iets kan vinden.
En als je dat dan kan vinden, dus hij, hij valt als een soort dramatisch neer en roept nog even wat voordat hij neervalt.
Als je in die laatste schreeuw het juiste kan vinden, kan je daar weer mee het volgende dingetje maken en een sleutel ophalen. Ik noem maar wat.
Dus het zijn, als je de mensen ziet die dit uitwerken, dat zijn echt, als je denkt dat sudoku moeilijk is. Ja, precies. Dit is echt high level. Puzzelaars. Nou, die meesterpuzzelaar-actie.
We hebben nu, uh, vanuit Anthropic, dat is de, die het nu publiekelijk heeft gezegd, een model die een meesterpuzzelaar is en inderdaad als voorbeeld flex op het ring nul niveau, level nul van OpenBSD en Linux kan crashen, uitlezen en, dat heet dan, uh, uh, een escalation kan doen.
Oftewel administrator kan worden op die server. Maar je begon ermee: ik ga het nuanceren. Nu klinkt het toch niet, dit klinkt niet als een nuance.
Nou, ik denk dat mijn nuance is dat, het is niet een model dat zomaar, uh, kijk, misschien is dat, is dat wel belangrijk. I-, het is heel vaak gegaan over quantum, hè, quantumcomputers.
Als de kant-quantumcomputer uitgevonden wordt, dan vallen alle sleutels tegelijk. Ja. Niets is meer veilig wat een digitale sleutel is, hè. Want, en dat is het quantumverhaal.
Ik, ik las een beetje in, in bepaalde berichten: dit is het quantummoment of zo, hè. Dit is de- Het kan alles hacken. Ja, en dat ik dacht: wow, nee, wacht even, mijn nuance.
En dan zeg jij: nou, dan slaap ik nog steeds niet prima door. Mijn nuance is: het is niet zomaar magisch alle systemen open, maar het laat wel zien, het flext als het ware.
En die gaten zijn dus inmiddels gedicht, omdat het netjes gemeld is. Het liet eigenlijk zien dat het wel lukt om een paar sleuteltjes te maken die op het diepste level naar binnen gingen.
Maar aan de andere kant, hè, want ik, ik snap dat dit heftig is.
Uh, namelijk dat er een model is wat opeens gaten vindt die decennia lang onontdekt zijn geweest, terwijl er talloze mensen iedere dag naar die code zitten te kijken en er ook nog eens miljoenen automatische testen gedaan worden de hele tijd door.
Er waren al algoritmische systemen die, die dit deden, hè, voor de duidelijkheid. Dat deden we al. Precies. Ja.
En dat er nu een nieuw model is die dan opeens, ja, iets doet wat, uh, al die mensen en machines daarvoor niet konden. Dat is natuurlijk boeiend, dat snap ik.
Maar het voelt ook een beetje alsof er een stuk gereedschap is uitgevonden wat soort van door de goeden en de kwaden gebruikt kan worden.
Dus het is, ik snap dat Anthropic nu dit als eerste bij de goeden wil neerleggen om software, uh, de, de, de muren, uh, verder op te trekken en ervoor te zorgen dat er geen gaten in zitten.
En dan komt die software straks uit voor de kwaden. En ja, allebei kunnen die, kunnen opeen, heb, kunnen dat nieuwe gereedschap gebruiken.
Zo, dus zolang dat evenredig verdeeld is, is er toch niet zo heel veel aan de hand? Je, je kan je ook opeens beter verdedigen. Het is niet alleen maar zo dat je beter kan aanvallen. Ja.
Dus is het niet gewoon: ja, eigenlijk verandert er weinig aan de status quo.
Nee, maar ik denk dat als je dan, als je zo'n, uh, ik kan je goed volgen, als je zo'n proces hebt waarin je zegt: uhm, de wereldgeschiedenis zit vol met, uh, imbalance van macht en imbalance van kracht vooral, hè.
Imbalance doordat één groep heeft een pistool en de ander niet. De één groep heeft vuur en de ander niet. Noem maar wat, hè.
En uiteindelijk, omdat het complexe systemen zijn, die vinden weer een soort equilibrium, hè, die vinden een nieuwe balans, hè.
Dus de muis leert, l-, uh, leert sneller rennen, de kat leert sneller rennen, de muis wordt slimmer, de kat wordt slimmer. Nou, noem, hè, dus dat kat-en-muisspel. Uhm, dat klopt.
Alleen de overgangsfase, dus de manier waarop die balans hersteld wordt, die tussenfase zijn de soort- Die is gevaarlijk, want er zit een- Interbellum. Ja. Dat is best wel een p-pittige tijd.
En wat, wat- Ja, maar bedoel dat echt anders dan, dan hiervoor. Want dit is één s-, één systeem wat heel veel gaten kan vinden en dat is gewoon niet eerder voorgekomen op deze schaal.
Nee, want je kunt natuurlijk, zie je het een beetje. Ik bedoel, kijk, als de dijken breken en hier en daar breken de eerste dijken. Je merkt al dat ze wat zwakker worden.
Je rijdt er naartoe, begint zandzakken te plaatsen en dan is het op een gegeven moment: jongens, het water gaat nog meer stijgen, we moeten groter ingrijpen.
En zo kun je als het ware redelijk ad hoc reageren op een soort noodsituatie van een lek, in dit geval een waterlek. Maar dit is een, een, een tempo waarbij, uh, het is een soort kat-en-muisspel op hyperspeed.
Uhm, waar ik met je eens ben dat als dit, uh, een vrijGecentraliseerd systeem zou zijn, het internet en dat is het niet. Ik, ik ga, ik ga het even concreet maken voor je.
Routers bijvoorbeeld die je van je provider krijgt of zelf aanschaft. Dat zijn apparaten van allerlei merken.
Die draaien allemaal versies van vaak, uh, een mini Linux of open BSD-achtige variant, hè, dus dat rauwe onderlaag, uh, materiaal, het fundament van het internet. En ja, doen die firmware upgrades van die routers.
Ja, sommige routers hebben, draaien veertien jaar oude software of, uh, acht jaar oude software of. Dus ik denk dat, laten we twee dingen vergelijken in de markt. Smartphones hebben we Android en, uh, Apple. Nagenoeg.
Apple kan alle iPhones ter wereld een update pushen als het echt moet, zeg maar, zolang ze op internet aangesloten zijn. Dat is, en dan hebben ze de mogelijkheid om een kleine superbelangrijke security update te pushen.
Google kan dat naar bijna alle Android telefoons, maar ook niet echt allemaal hoor, want sommige, And-Android is open, hè, dat is het verschil tussen de kathedraal en de bazaar.
Op de bazaar kan je minder makkelijk alle kraampjes updaten dan in die mooie kathedraal.
Dus in het smartphone ecosysteem hebben we al de uitdaging als er een zero day, ring one, ring zero achtige exploit, hè, zonder te hoeven klikken gewoon op afstand een berichtje sturen en je bent binnen, voor smartphones komt, in dit geval, uh, iPhone en Android.
Dan wordt het een enorme operatie voor alle vendors aan de Android kant plus Apple, want die doen het allemaal alleen. Zou, [schraapt keel] dat zal al een hele operatie zijn. Om die snelheid aan te kunnen.
Ja, die zie ik dus zeker aan de Apple kant, iets minder aan de, aan de, aan de Android kant, zie ik nog wel zitten. Dat ik denk: nou, Alexander heeft wel gelijk.
Als iedereen samenwerkt en we doen het allemaal met elkaar, dan hebben we binnen twee, drie maanden dankzij AI ook, hè, want jouw punt is: AI kan dan toch ook helpen met het fixen van die OS.
Ben ik helemaal met je eens, hè.
Dus Mythos moet dan niet alleen maar gegeven worden om security scans te doen, maar ook te zeggen tegen, nou ja, een Android fabrikant die misschien minder mensen in dienst heeft, maar wel een firmware upgrade moet doen van: joh, Google gaat waarschijnlijk straks helpen om hun Android suppliers, ik noem maar wat, met Mythos-achtige systemen of Gemini 4 te helpen.
Dat is in de smartphone wereld alleen al van alle portable computers die op het internet aangesloten zijn, 24/7, terwijl je slaapt ook, best wel een uitdaging.
De routerwereld is een jungle, jongen, van verschillende bedrijven en verschillende apparaten waar niemand meer van weet wie ze updaten en of die erop mag. Mhm. Er is een, uh.
Het is natuurlijk kwetsbaarder eigenlijk, als ik je goed begrijp. Er zijn allemaal punten in het internet te vinden die eigenlijk, ja, heel kwetsbaar zijn en, en dat het, uhm, geluk is dat het allemaal nog staat. Maar.
Ja, omdat het, uh. Kijk, je zou het internet kunnen zien. En dan denk ik: so what? Ja, dat is een heel goede vraag.
Kijk, uhm, het mo-, het, het, uh, pijnlijkste is natuurlijk als je, uh, grote groepen computers, en een computer reken ik een router ook onder, is gewoon een kleine computer, uh, uh, kan gaan samenvoegen tot wat ze dan een botnet noemen of een bot swarm.
Dit bestaat allemaal, hè, niets nieuws onder de zon, maar niet in deze orde van grootte.
Om 100.000 routers die allemaal dezelfde exploit hebben, hè, dus allemaal dezelfde sleutel, in te zetten om irritant te gaan doen op het internet. Laat ik het even lief zeggen, zeg maar. En ik denk dat
wat er nu, uh, gebeurt is dat, uhm, kijk, veel, veel dingen, uh, die al konden waren een, uhm, probleem wat we redelijk konden handelen, hè, zeg maar.
Hier en daar is de bankier zijn website even een weekendje of een paar uur offline, want er moest een update, hè, of je moet noodgedwongen je app u-u-updaten, want er is een, uh, iets, iets aan de hand.
En zo leven wij als mens in een wereld waar je soms wel eens een mailtje krijgt met: u moet updaten of op kantoor je laptop moet updaten. En updates zijn daarvoor namelijk. Ik denk alleen dat de, het tempo,
orde van grootte en tempo van wat er nu aan het gebeuren is, is wel echt, uh, intens. Dat maakt het echt intens. En, uhm, ik wil nog een, uh, uh, leuk voorbeeld geven.
Ik weet niet of je dat ooit gehoord hebt, maar er werden al routertjes gehackt en overgenomen. En toen op een gegeven moment is er
een groep geweest die zei: maar wacht even, kunnen we niet die routers overnemen en ze updaten? [lacht] Dus dit is ook al gebeurd dat er een soort update verspreid is door naar binnen te hacken om maar aan te geven.
En ik kan me voorstellen dat dit ook onderdeel gaat worden van de strategie met Mythos-achtige systemen. Ja. Om worms te bouwen die jou komen genezen in plaats van ziek maken. Maar goed, dat zeg ik heel hoopvol.
Oké, uhm, wat is nu een beetje de tendens onder, uhm, cybersecuritymensen hierover? Nou, het is wel boeiend, want ik zie het nu vooral gebeuren dat, uh. Kijk,
in december vorig jaar hebben we het Cloud Code moment gehad waarop veel ontwikkelaars eigenlijk in, met de kerst, uh, geconfronteerd werden met een systeem dat redelijk goede websites en software kan maken en apps.
Dat is inmiddels een gegeven voor de meeste luisteraars van deze show. Er was een momentje in december, dat was Cloud Code.
Daardoor zijn veel meer, ook vooral senior ontwikkelaars, in ieder geval, serieuzer gaan nemen wat er in die AI hyperige wereld gebeurt. Je bedoelt daarvoor namen we het gewoon niet serieus genoeg.
Nou ja, goed, kijk, je kunt, die, die keken ernaar, gaven het een moeilijke opgave die ze goed kenden uit hun eigen werk. Ja. Kregen een matig antwoord terug. Ja, ja, ja, ja, ja. Een glimlach op hun gezicht.
Zo goed werkt het helemaal niet en ik ben nog niet overbodig. Nou. Ja.
En in december is er een substantiële groep mensen bijgekomen die zegt: nou, ik zie, als dit een beetje lineair zo doorgroeit de komende jaren, dan komt het wel in de buurt van mijn kunnen. Ja.
Uhm, kijk, security research, werken aan systemen op het diepste niveau, level nul, is wel even wat anders dan een websiteje bouwen. Is wel even wat anders dan een appje maken.
Sterker nog, websites en apps draaien op level vijf. En die, je kan ook, de complexiteit neemt ook toe naarmate je naar het midden gaat. En ook de groep mensen op de wereld die dat nog begrijpt neemt af. Ja.
Hè, dus de complexiteit neemt toe, de groep mensen neemt af.Dus, uh, kernel developers, dus mensen die werken aan die roestige ondergrond, zeg maar, waar de wereld op staat. Ja, dat is een hele aparte groep.
Uh, dat, dat zijn echt, uh, nou ja, eigenlijk helden, want vaak doen ze ook nog in vrijwillige tijd werken aan het infrastructuur van de digitale mensheid.
Die groep, als die keken naar LLM's, taalmodellen zoals Claude, dan zagen zij iets wat een websiteje kan maken en een appje kan maken, maar absoluut niet mee kan praten op het niveau van daadwerkelijk waar het in hun ogen over gaat.
Noem het de hogere wiskunde, het serieuze softwarewerk, het hardwarewerk zelfs. Uhm, nu kruipen die modellen ook naar die groep toe.
Kijk, het echte bewijs daarvan is natuurlijk als 27 jaar lang mensen plus geautomatiseerde systemen niet in O-OpenBSD een gat in de deur zien zitten of een mogelijkheid tot een sleutel. Dat is zo.
En dat er een taalmodel wat woordjes voorspelt, het lukt om iets te voorspellen wat die deur opent. Kijk, daar kan je, kan iedereen over roepen wat ie wil, maar dat is echt spectaculair dat dat nu gebeurd is.
Dat zorgt ervoor dat wat ik nu zelf zie online en dan noem ik even wat, wat mensen,
de, uhm, er is altijd, er is een best wel grappige meme over, die ook heel pijnlijk is: het idee dat je een soort Jenga-achtige toren ziet staan met h-, blokjes hout op elkaar gestapeld, waarbij een gigantische hoeveelheid blokken zit bovenin en onderop zijn het een paar hele dunne blokjes die die hele toren omhoog houden, hè.
Typisch bla-, typisch beeld. Nou, die onderste blokjes zijn bijvoorbeeld OpenSSL, Curl, FFmpeg. Dat zijn een beetje de heldenprojecten van het internet. Dat is de rug van de reus waar het internet op staat.
In die projecten werken mensen die nu al een maand of, uh, of een paar jaar roepen: het valt wel, eigenlijk wel mee. De meer, die, die, die zijn boos geweest zelfs tot nu toe heel lang. Terecht.
Die krijgen allemaal bugreports, hè, dus, uh, uh, mel-meldingen van gaten in hun, uh, belangrijke grondst-stukken van die toren die onzin zijn.
Gewoon stomme AI verzonnen nepdingen waar mensen proberen bounties te krijgen of status te krijgen. Wanneer veranderde dit? Drie, vier maanden geleden. Want toen opeens? Toen opeens kwamen de bugreports binnen.
Goed omschreven. Goede test erbij wat je moet doen en het werkt. Als in: ja, dit is een sleutel. Krijg nou wat. Dit is een echt gat.
Dit is een, uh, pont- Er zijn eigenlijk de goe-, er is dus iemand dan geweest, uh- Anthropic. Ja, maar dat is geen, dat is geen geheim.
Wat, wa-wat we weten nu, als in, uh, ja, wat we weten is dat er in Claude Code een modus zit om anoniem, uh, zo anoniem mogelijk, uh, pull requests te doen, hè, dus eigenlijk van die bugreports-achtige dingen op, uh, open source repositories.
En dat is een beetje dan, nou, laten we het de achterklap noemen, hè, van het, uh, online AI-discours, dat Anthropic onder andere, maar ook, uh, OpenAI al langer bezig is om de f-fundamentele stenen aan de onderkant van de internet-Jenga te helpen.
Omdat het natuurlijk in hun eigen belang is ook dat er nog een internet is straks en de samenleving erbij. Maar het is natuurlijk een bizarre situatie, want dan in het geheim,
uhm, want ze, ze, ze, ze maken zichzelf niet kenbaar als Anthropic of als OpenAI. Bewust ingebouwd. Laat, laat het niet kenbaar zijn.
Ja, in het geheim zijn ze dan de, de gaten waar, waar, waar hackers miljoenen voor zouden betalen.
Zijn ze dan vrijwillig aan het laten weten aan de mensen die, de, aan de bouwstenen van het internet werken, want ze hebben er een belang bij dat die bouwstenen er nog staan.
Ja, en als we, ik bedoel, en hier kunnen we dan de fantasie iets meer laten gaan, hè. En dus opeens de afgelopen maanden is dat dus een wezenlijk- Drie, vier maanden.
Is het een wezenlijk onderdeel geworden van de bugreports die zij binnenkrijgen.
Eigenlijk, dit is waarom je ook zegt: we, we zagen het een beetje aankomen, want dit, d-, ja, daar, opeens werd, opeens veranderde daar iets. Van, van slechte bugreports gingen we naar daadwerkelijke gaten.
Ja, en dat, ik bedoel, uh, als we dan iets meer de vrijheid nemen, hè, om, om te kijken. Kijk, uhm, we hebben dus de, de core developers van FFmpeg, een belangrijke video-/audiobouwsteen van het internet.
Die hebben gewoon nu gezegd: jongens, wij kregen tot drie, vier maanden geleden alleen maar zooi binnen. We waren boos en ineens kregen we goede dingen binnen. We hebben ze getest. We zijn dankbaar. Bedankt, Anthropic.
Hè, die zeggen dat nu. Ja. En zo zijn er nog- Vibe shift.
Ja, en nog, en zo, zo zijn er nog drie van die, vier van die hele belangrijke projecten waar dus hele, ja, best wel, uh, se-senior zwaargewicht ontwikkelaars op zitten die nu zeggen: oké, wij zien het even anders nu.
Het doet me, ik zat, ik zat een beetje door die, door die reacties te lezen van dit soort mensen en er waren, viel me op dat er best wat mensen bij, uh, zaten die ook een soort schoonheid beschreven in de bugs die gevonden werden.
Dus een, een soort, uh, ja, waardering eigenlijk ook konden opbrengen voor de methodes die die AI gebruikt. Ik ben echt een fantastisch boek aan het lezen wat nu een paar dagen uit is.
Het heet The Infinity Machine en het is de biografie over Demis Hassabis van DeepMind, van Google, en het beschrijft eigenlijk zijn hele pad, uh, vanaf het oprichten van, nou ja, zijn jeugd, uh, nogal een, het is een chess prodigy en die, uh, soort van heel vroeg gel-geloofde in AGI en alles aan heeft gedaan om dat werkelijkheid te maken.
Nou ja, een belangrijke rol daarin gespeeld heeft. En het gaat, op een gegeven moment gaat het heel veel over, uh, het verslaan van, uh, Go.
Ze hebben dan, schaken heeft IBM Deep Blue al gedaan en, uh, die, uhm, [klikt met tong] uh, Go, nou, schaken is een soort van, was een relatief eenvoudig spelletje om te verslaan.
Uhm, uhm, er zijn weinig zetten en door gewoon heel veel zetten van menselijke spelers in te laden kon je dat spelletje verslaan.
Bij Go is dat veel lastiger, want er zijn veel meer mogelijkheden en dus die computers liepen daar simpel gezegd op vast.
Er waren fundamenteel nieuwe methodes nodig en, en ze, hij, hij beschrijft in dat boek heel mooi over hoe ze bij die methodieken komen. Op een gegeven moment lukt het dan dus om de wereldkampioen Go te verslaan.
EnEn de mensen die die, die dan Go spelen en het doet me dus een beetje denken aan wat jij net vertelt, zijn een beetje, [zucht]
het is alsof ze een beetje neerkijken op de zetten die die computer doet, want ze vinden de zetten lelijk en, en agressief en, en, en.
Weet je, is we- een beetje zoals mensen over, ja, ik weet niks van voetbal, maar mensen kunnen over voetbal praten, over, een soort van dat Nederlands elftal ooit een soort, soort van spel had wat, waar mensen een soort van poëzie in zagen.
Dat was hier niet het geval met Go. Totdat ze de volgende methode gebruikten om, uh, een model beter te trainen in Go.
Grappig genoeg was dat door minder menselijkheid in te bouwen en die computer gewoon los te maken van de menselijke intuïtie en zelf intuïtie te gaan vinden.
En toen lukte het opeens om zetten te maken waarvan, en d-dat staat dan, uh, op een gegeven moment in een passage in dat boek, dat er een Go-speler is die emotioneel raakte van de schoonheid van een zet die gedaan werd.
En het is een soort, als je eenmaal leest over hoe dat met Go is gegaan, dat is inmiddels, wat is het, 10 jaar geleden. Uhm, is het zo lang geleden? Weet ik echt niet.
Nou, in ieder geval, het is een behoorlijke tijd geleden.
Dan, daar zit een, daar zit een, een periode van een paar jaar in waarin dat steeds beter, uhm, uh, wordt en het van mensen g-gaat die zeggen: dit gaat de computer nooit doen, naar mensen die s-gaan naar zeggen: oké, computer kan dat, maar het is lelijk wat de computer doet.
Tot het eindigt met: ja, de computer kan dit beter dan de mens. De computer begrijpt dit spel op een fundamenteel niveau beter dan de mens. En eigenlijk is het wonderschoon om naar te kijken.
En Lee Sedol, de, de voormalig wereldkampioen Go, is gewoon mee gekapt omdat er geen, er viel geen eer meer aan te behalen. En op een bepaalde manier denk ik: ja,
is dit, is dit, is dit het, het soort van blauwdruk die we op alles gaan toepassen? Nu is het cybersecurity.
Dit is dan nu de, de, ja, even de mal waardoor we naar kijken, omdat het ook het onderwerp wat makkelijker begrijpt om het tastbaarder te maken. Want, het is een groot generalistisch model.
Het kan veel meer dan cy-cybersecurity dingen doen, maar hierbij is dan even de scope verkleinen, even daar op inzoomen, beseffen wat daar de, uh, gevolgen van zijn en, en doorzien dat het weer exact dezelfde stappen doorloopt.
Tot het moment, ja, dat hackers geen werk meer hebben. Net zoals Go's, menselijke Go-spelers geen werk meer hebben als het puur gaat om het kunnen winnen van het spel.
Ja, d-, soort van, het is toch evident dat het hier op uit, uhm. Ja, maar ik denk dat als ik jou zo hoor, dat, uhm, wat je eigenlijk zegt als het dan gaat om die soort balans tussen de, de kat en de muis
is, als je het bekijkt als een kat-en-muisspel tussen security researchers versus hackers.
Mensen aan de ene kant proberen sleutels te maken en aan de andere kant sloten te maken die tegen die sleutels, uh, uh, opgewassen zijn. Hè, dat die,
uh, dat gesprek als het ware, hè, tussen die twee, die, die machts, die machten die met elkaar, uh, uh, heen en weer bewegen.
Dat nu aan de ene kant, uh, aan de macht van de hacker als het ware potentieel een AI toegevoegd gaat worden aan het arsenaal van de hacker.
Namelijk een autonomous hacker, een AI hacker, om het maar even zo te zeggen, hè.
Uh, wat we nu als eerste krijgen, omdat Anthropic daarvoor gekozen heeft te zeggen: we gaan eerst het team security, gaan we de toverstaf geven, uh, want daar hebben we controle over het geven van die toverstaf.
Wetende dat 6 tot 8 tot 12 maanden gaan die toverstaffen de hele wereld in. Ja. Hè, dus dan gaan ook de andere, het andere team gaat, uh, uh, deze gimmick, uh, krijgen, deze nieuwe kracht.
En als we dan zorgen dat het security, uh, team security alvast, uh, geüpgrade is, dan komt er na het team hackers, die worden ook geüpgrade en zo herbalanceert die wereld zich weer.
En dan heb je uiteindelijk aan allebei de kanten een AI zitten en dan is sowieso het werk van zowel de security researcher als de hacker weg. Zeg jij dat ongeveer? Uh, ja, wel zoals we er nu naar kijken. Ja.
Ja, en ik, ik denk dus dat, uhm, het wel moeilijk is om, ik denk dat in de basis wat je nu zegt over een soort, uh, eeuwig proces tussen, tussen machten die met elkaar in balans komen, dat is de geschiedenis van de mens en daarvoor zelfs.
Uhm, maar ik denk wel dat, uh, ja, mijn zorg zit hem dus heel erg in die overgangsfase van de herbalancering. Ja, nee, dat snap ik.
En ik, en, en ik denk wel, uh, en ik heb hier best wel over nagedacht, omdat ik dacht: we gaan natuurlijk een podcast maken over Mythos. Ja, hoe, o-o ja, hoe groot, hoe klein gaan we het maken?
Uh, en wat kunnen mensen doen? Zeg maar, als, ik bedoel, als we het al groot maken, kunnen we mensen nog, uh, kunnen mensen zich nog schrap zetten of zo [lacht] voor het Mythos-moment? Kijk, ik denk dat, uhm,
de, uh, het internet zoals het er nu staat, en dan bedoel ik de datacenters, de routers, de smartphones, de 5G-torens, alle infrastructuur die nodig is om het internet te laten werken, niet voorbereid is- Ja...op Mythos.
Nee. Dat wordt nu, uh, stap voor stap, en level nul is där, waar deze 40 bedrijven opereren, hè, dus ze werken letterlijk, letterlijk van nul omhoog. Ja. Uh, wordt het nu gehardend, zoals we dat dan noemen, hè.
Dus er wordt betere staal in het beton gegoten, et cetera. Ik, uh, ben wel nieuwsgierig. Ja, hoe gaan ze dit doen? Hoe gaan ze dat naar niveau één tot en met vijf brengen? Ja, want het wordt, je voelt hem al.
Op level nul heb je 40 partijen. Ja, het wordt stuk ingewikkelder. En op een gegeven moment heb je een- Maar hoe de, hoe gaan ze dit doen? Of gaan ze het gewoon openbaar maken en zeggen: nou, het komt dan online [lacht].
Wees er snel bij. Nou, ik denk- Even doorwerken in de nacht. Nou ja, ik denk dat, ik bedoel als je het, als je het heel praktisch bekijkt, uhm, aantal dingen.
Want kijk, Mythos als model, uhm, als we een iets cynischere blik nemen op wat Mythos is, zou je ook kunnen zeggen: het is een soort GPT 4.5.
GPT 4.5, jullie zijn hem alweer vergeten denk ik als luisteraars, was een model van OpenAI wat ze maar zes maanden online hebben gehad of korter, want z-, er was een soortPaniek binnen OpenAI dat het niet snel genoeg ging.
Vier en half was hun aller di-- mooiste model wat ze uit de oven trokken. Bleek helemaal niet zo spectaculair. Kon wel goed schrijven trouwens, maar goed, dat is subjectief.
Maar hij was veel te duur, want het was een heel log, groot model.
Uiteindelijk konden ze, nadat ze hem offline hadden gehaald, daar weer lessen uit trekken en zo, maar dat was eigenlijk niet te serveren aan de klant in de brede zin. Mythos is ook niet te serveren aan de klant.
Het is een triljoen parameter model. Is gigantisch. Het grootste model ooit getraind door Anthropic. Heel duur om te runnen. Ja, dat maakt het ook meteen heel duur om te runnen.
Dus waar, waar kun je Mythos voor gebruiken? Nou, om de volgende Opus mee te maken.
Dat is ook, hè, niet alleen maar door stukjes ervan af te breken, maar letterlijk mee te laten werken aan Opus en onderzoek te laten doen.
Want wat ze binnen Anthropic zeggen is: Mythos werkt binnen Anthropic als AI-researcher ook. Ja. Het is allemaal niet geheim.
Uhm, cynisch zou je kunnen zeggen: jullie maken er een soort cybersecurity-vraagstuk met je 40 partners van, terwijl het je, terwijl je eigenlijk een model hebt getraind wat je niet eens kan verkopen.
Je wilt zeggen: het gaat niet eens uitkomen. My-Mythos zal waarschijnlijk niet op, in deze vorm uitgebracht worden. We gaan een nieuwe Opus krijgen. Ja.
Maar de Mythos, hè, de supermodellen erboven blijven altijd een soort van in het klein aan de zijlijn voor altijd.
Oké, dus hoe we hier naar moeten kijken is dat die AI-labs eigenlijk altijd al meer capaciteiten intern hadden dan dat ze publiekelijk releaseten. Ja, dat is een open geheim.
Omdat het onpraktisch is, als ik het heel goed begrijp. Zeker. Nu is dat omdat vooral nog in de kosten die het had en niet zozeer in dat het onveilig zou zijn.
Uh, misschien, misschien eventjes omdat we, omdat ze, een, een, om, om, omdat ze daadwerkelijk veiliger gemaakt moesten worden voordat ze het in de wereld wilden slingeren.
Maar dat dat, als ik het goed begrijp, nog beperkte, uhm, ja, impact op bijvoorbeeld dit so- het vinden van dit soort softwaregaten. Daar was het, zo goed was het daar nou ook nog niet in.
En nu opeens heb je dus dat, dat model wat iedereen intern heeft, maar niet publiekelijk lanceert, maar wel zelf gebruikt, is nu opeens goed in iets geworden wat daadwerkelijk, ja, heel veel waarde heeft.
En daarmee verandert de dynamiek opeens. Dus opeens heb je een situatie waarbij Anthropic nu een groot model heeft waarmee ze anderen kunnen aanvallen.
Nou, ze gebruiken dat nu positief om gaten te vinden in software en dan gaan ze die anderen helpen.
Dat is in, dat is bekeken vanuit Anthropic zelf, maar ondertussen is het in een ecosysteem waar ook Google bestaat, waarin ook OpenAI bestaat en waarbij ook de Chinezen bestaan.
Als we nou even dat, dat soort van internationale aspect, als we China even erbuiten houden en je kijkt puur naar de, de onderlinge competitie die dit heeft, wat voor gevolgen heeft dit dan voor de onderlinge comp-competitie tussen die AI-labs?
Nou, een aantal interessante dingen, hè, want, uh, laten we er gewoon even van uitgaan dat Mythos al heel lang bestaat in verschillende hoedanigheden. Ja. Uh, dat was altijd het grootste wat ze konden maken.
En daar wa-wij, wij kregen alleen maar destillaten daarvan altijd, hè. En OpenAI heeft hun eigen interne Mythos. Iedereen heeft hele grote modellen eigenlijk. Ja, een soort bacterie die ze maar lieten groeien.
Ja, en dat ding, daar gaan ze, uiteindelijk gebruiken ze die.
Nu is het zo dat, ik kom zo op het antwoord op je vraag, uh, Anthropic, wat ze normaal gebruiken als hun, uh, ja, noem het, het, het meest, uh, mythische [lacht] wat zij boven Opus konden maken, maakten ze iedere keer.
En iedere keer als ze dat nu maakten, waren ze er van onder de indruk, maar niet zo van onder de indruk. Ja.
Nu waren ze er zo van onder indruk, ik vul even aan wat je net zei, dat ze zeiden: oké, dit moeten we gaan delen, maar als we het gaan delen met 40 bedrijven, dan gaat het lekken. Dat is natuurlijk zo.
Wij zouden het dan ook horen. Is ook gebeurd trouwens. Mythos is gelekt. Ook het verhaal. Ja. Dus je kan niet, zeg maar, je interne model een beetje gaan delen zonder dat de wereld daar over gaat praten, hè.
Dat, uh, is voor OpenAI met hun SPUD, zoals het dan nu heet. Codename SPUD met een D. S-P-U-D, S-P-U-D. Ook hun interne Mythos. Dus nu horen wij voor het eerst publiekelijk over die grote modellen.
Want ze moesten wel, want ze wilden ze gaan delen. En dan moet je ook uitleggen waarom je het wel deelt met de een en niet met de ander. Dan is het zo dat: waarom heeft OpenAI dit niet gedaan?
Waar is, waar is SPUD for security? Waar is SPUD met 40 mensen? Waarom heeft DeepMind niet hun interne super-Gemini gedeeld met 40 Apples? En, we, Google en Apple hebben best wel goede banden, dus een be-beetje gek toch?
Dus dat kan, uh, een aantal verklaringen hebben. We gaan even invullen. Eén: Anthropic loopt voorop.
Zij hebben als allereerst hun training run klaar van hun allergrootste model en zijn voorop op de koep-kopgroep nu en kiezen ervoor om zelfs met Google te delen. Want Google moet ook mee werken aan Android, fascinerend.
Uhm, dat is een optie. Tweede optie is: OpenAI en/of DeepMind heeft ook intern zo'n model, maar kiest een andere strategie. Staat hun vrij, hè, om te zeggen: wij, kwij, wij hebben over de toekomst nagedacht.
Volgens mij is het maar beter dat niemand het weet [lacht]. Voor nu, hè. We gaan op een andere manier intern voorbereiden. Uhm, uh, d-eigenlijk, dat zijn, voor mij zijn dit maar de enige twee opties.
Uhm, want ik denk dat, uh, wat we nu-- kijk, je kunt wel die bugreports, hè, die al drie, vier maanden binnenkomen, uh, de, het geklets in de wandelgangen rondom de grote labs. Het is niet alsof we helemaal niks weten.
Ja. Toch, toch zijn er wel signalen, zeg maar. Ja. En ik denk dat er ook wel signalen zijn straks op het moment dat, want dat is een beetje het idee.
Ik wil toch heel even teruggrijpen op de origin story van Anthropic in, in twee zinnen. Wat ze bij Anthropic zeggen is: wij moeten AI uitvinden, anders doet iemand anders het. Dit gaat uitgevonden worden.
Wij gaan voorop rennen van die uitvinding, want wij vinden onszelf, redelijk arrogant, maar goed, de beste mensen om deze toverstaf in handen te hebben.
Als wij zorgen dat we de kopgroep zijn, kunnen we met ons kopgroepmodel Mythos, waar ze inmiddels zijn, de wereld alvast voorbereiden op alleLopers in de marathon achter ons die ook nog gaan komen.
Dus het is een soort van gift to humanity Mythos om het te harden tegen de toekomstige modellen van alle andere spelers ook. Ja. Uh, concurrentiestrijd? Ja, goed, ik zou zeggen,
uh, ik vind het wel een interessante, uh, kijk die ik, uh, las van iemand die zei, uh, want ik beweerde net eigenlijk dat Mythos nooit uit gaat komen. Ik wil het even nuanceren.
Een model met de kracht van Mythos gaat absoluut uitkomen. Als het Anthropic niet is, zijn het de anderen wel, want het gaat iemand lukken om een klein genoeg en draaibaar.
En de chips worden beter en de datacenters worden groter, dus ergens komt een lijn bij elkaar en dan kan straks een Mythos-achtig bedra-, uh, model draaien, zeg maar. Dus die gaat wel uitkomen.
Mijn punt was vooral wat het nu is, gaat, gaan wij nooit zien. Er gaat misschien de racedynamiek veranderen hierdoor, want die bedrijven zitten met elkaar allemaal in een racedynamiek.
Dat is nadrukkelijk, weet je, probeerden ze dat te voorkomen de eerste paar jaar door bijvoorbeeld met elkaar af te spreken.
Weet je, DeepMind had in het begin hadden ze nog de afspraak dat als, uhm, er een ander lab zou zijn wat, uh, AGI zou bereiken, dan zouden zij zich bij dat lab voegen. Ja.
Dus dan zouden ze niet de-- zo zouden ze proberen die hele racedynamiek proberen te, uh, verlangzamen omdat er geen belang is bij het eerste zijn.
En nou ja, dat laten we wel wezen, dat is allemaal, uhm, Anthropic heeft dat soort principes gehad. Dat hebben ze, dat, zeg maar, al die partijen hebben dat, hebben dat verzacht, dat soort, verzacht.
Ik weet niet of dat het goede woord is, maar zijn zich misschien- Beetje losgelaten. Losgelaten onder de enorme druk die er nu is. Is dit een extra element in de racedynamiek, denk je? Gaat dit nu versnellen of niet?
Nou, de, de, de, uhm, Sora 2, het videomodel plus app van OpenAI waarin je een soort slop TikTok had, is gecanceld binnen OpenAI. Met als reden naar buiten toe: we hebben alle computerkracht nu nodig.
We gaan geen filmpjes meer genereren in een of andere slop app. Uh, niet omdat het slecht is voor de wereld, maar we hebben gewoon alle computerkracht nodig nu. Ja.
Want wij moeten ook in deze orde van grootte meetrainen. Kijk, ik denk wel-- kijk, wij horen natuurlijk later over Mythos dan de meeste mensen binnen die labs, want die eten met elkaar en die kletsen met elkaar.
Het zijn oud-collega's, oud-medestudenten. Dat is gewoon hoe het is. Dus, d-d'r wordt, hi-hier en daar absoluut wel een beetje gefluisterd van: jongens, we hebben nou iets uit de oven getrokken. Ja. foei, joei, joei.
En, uh, nou is jouw vraag: wat gaat dit doen? Kijk, uiteindelijk is, uh, Mythos als supermodel die computers kan kraken, uh, een soort
lichte vorm van quantum computing. Om even gek, een soort Y2K zitten we nu, hè, een soort het jaar 2000. Het voelt alsof alle computers tegelijk geüpdatet moeten worden.
Dat voelt niet alleen zo, dat, dat is ook straks zo. Uhm, het, het, het My- het Mythos-moment en wat daar nu gebeurt.
Uh, ik kan me niet anders dan voorstellen dat er veel meer partijen zijn wereldwijd die nu denken: o, maar wacht even, uh, er zit best wel wat, uh, potentiële macht en kracht in deze modellen nu. Ja.
Kijk, wij zijn het al bijna gewend met z'n tweeën door wat we lezen en waar we het over hebben al anderhalf jaar.
Maar ik denk dat er toch ook wel veel mensen zijn die misschien toch dachten: ik ga me zorgen maken als ik me zorgen moet maken en ik ga me niet van tevoren zorgen maken over lijntjes op een grafiek van een jongen uit Duitsland ergens.
Nee, zo'n capaciteit van een, van een, een model of de, de, het idee dat je een model hebt wat zo, zo snel veiligheidsgaten kan vinden lijkt me een enorme waardevolle, uh, toevoeging aan het wapenarsenaal van een land.
Dus nu, zeg maar, wat, hoe-hoeveel is er nog nodig om de regering Trump te laten zeggen: dit, uh, dit ga je helemaal niet uitbrengen. Er is maar één klant die je hebt en dat zijn wij.
Ja, maar hoe, hoe ver zijn we daar nog van vandaan, denk je? Ja, ik vind dat heel moeilijk te zeggen.
Er zijn, er zijn veel scenario's over geschreven dat als o-, als iets op een gegeven moment zo belangrijk wordt, uh, dat overheden gaan zeggen: nu ben jij niet meer een vrij opzichzelfstaand bedrijf, nu ben jij overheidsinfrastructuur.
Dat is volgens mij een beetje wat jij bedoelt.
Zeg maar stel d'r, Amerika belandt in een, in een, in een oorlog met China of, of, of, of v-vindt op andere manieren, weet je, belang erbij om, om, om hun, hun aanvalskrachten,
zoals ze dat dan zeggen bij de overheid in het cyberdomein, te vergroten. Ja, wat wordt dan het moment dat ze, dat ze AI-modellen mogen gebruiken voor dit soort offensieve doelstellingen?
En dat het ook echt eng is, zeg maar. Ja, ik vind het, ik vind het.
Ik ga er geen, uh, geen maanden of jaren aan hangen, maar we zit, zit, er is, uhm, kijk, dit is ook wel iets, hè, het, het Mythos-moment, om het maar even zo te zeggen.
Uh, vorig jaar zomer met de lancering van GPT-5 draaide eigenlijk een beetje de vibe in de breedte, ook bij mij in de podcast zelfs met Rick Lamers toen GPT-5 uitkwam van: ja,
misschien hebben we toch wel een beetje het dak bereikt, hè. Misschien moeten we inderdaad iets heel nieuws gaan uitvinden, zoals Jan LeCun steeds roept van Meta. Moeten we opnieuw beginnen?
Hè, hebben we als het ware maximale- Ja, omdat de toename van computerkracht niet leidde tot slimmere modellen voor een tijdje. En nu. Ja.
Ik bedoel Mythos is het, is het bewijs- Mhmm...dat er, dat er nog te schalen valt. Ja, dus? Nou, dus denk ik, en daar had ik eigenlijk helemaal nog niet zo bij stilgestaan.
Kijk, door, uh, de framing vanuit security, die ik begrijp, want kijk, als jij nu zo'n krachtig model uitbrengt en, uh, Anthropic schrijft er dan bij: en die kan ook fantastisch mooie klassieke muziek componeren.
Ja, prima gasten, [gelach] zullen we eerst even alle servers even fixen, weet je wel.
Dus dat, z-ze zitten op het, op het saaiere deel, maar het belangrijke deel, uh, de onderkant van de menselijke, p-, uh, zeg maar de infrastructuur moet gefixt worden. Gaan we daarna wel vioolspelen met elkaar.
Uhm.Maar d-daar hebben we het helemaal nog niet over gehad. De benchmarks, uh, die ook bij de system card zaten. Dus bij ieder model brengen ze een system card uit. In ieder geval tot nu toe nog wel.
[gniffelt] En in de system card stonden ook de benchmarks. Mythos is echt superkrachtig, hè.
Ik bedoel, we kunnen praten over krachtig op het gebied van, uh, cybersecurity en het vinden van sleutels voor servers, maar Mythos presteert op alle benchmarks weer een stuk beter.
Kijk, dan kan je je, je kritische vraag stellen bij: oh ja, dan is hij heel goed geworden in benchmarks. We hebben in de breedte de Humanities Last Exam.
Al de, de bekende lijst voor vele mensen die benchmarks vo-, uh, volgen is Mythos gewoon een overduidelijke, uh, sprong.
Dus dit betekent ook, want dat vond ik wel interessant aan jouw verhaal net over Go en, uh, move 37, een move die door AlphaGo gemaakt werd, die door mensen beschreven werd als schoonheid en mooi en waar meerdere Go-spelers emotioneel van werden.
Ze moesten huilen. Ja, er moest, er werd gehuild om een, om een algoritme. Uhm, kijk, het is altijd al de vraag geweest als die move 37, straks in ieder domein een move 37 komt, hè.
Je zou kunnen zeggen dat Mythos, dat is een beetje jouw punt, de move 37 voor cybersecurity is van AI, hè, de, de. En dan zeg je: nou, daar zitten die mensen te huilen om een andere reden, hè.
Nou ja, omdat ze schoonheid herkennen in, in een bug fi- bugfix, wat ik me best kan voorstellen. Zeker als het een ketting is van verschillende dingen. Het is een soort supersudoku. Uhm,
dat ik me ook kan voorstellen dat, uh, Mythos op allemaal andere gebieden die misschien minder intens zijn dan cybersecurity, ook enorm beter gaat presteren.
Dus w-we verliezen ook bijna nu, jij en ik, maar ook in de hele wereldwijde discussie rondom het Mythos-model. Want het kan ook over onze economie gaan. Daar kun je dat gesprek ook over voeren.
Ja, nou maar goed, ik snap dat, dat, dat eventjes de hele infrastructuur van de wereld harden, uh, belangrijker is. Het is een beetje selectieve verontwaardiging misschien, maar ja, dat is ook het verwarrende deze tijd.
Dat die generaal, g-generieke modellen of die generaliserende modellen, uhm, ja, zijn zo breed dat je, dat je niet meer weet waar je moet inzoomen.
En daarom is, ergens is het ook fijn om je even te kunnen vastklampen aan cybersecurity. In ieder geval een tastbaar ding. Ja.
Als we het nu ook nog een keer moeten gaan hebben over dat kunstenaars geen werk meer hebben, dan, uh, kun je me helemaal opvegen. Ja. Hé, maar in de int-- toch nog even over cybersecurity ten slotte dan, hoor.
Om het af te zetten tegen, uh, de Chinezen. Waar, waar staan de Amerikanen nu ten opzichte van de Chinezen?
Ja, wat ik, wat ik zelf een beetje, dus dan doe ik een soort synthese van wat ik online meekrijg, zes tot negen maanden. Ja. Uuuhm.
Voordat de Chinezen dus ook een model hebben die, ja, waar-waar-waarbij, waarbij, uh, Amerikanen zich dan moeten wapenen met hun, hun goede modellen. En dan, uh.
Ja, jij bent eigenlijk aan het zoeken naar: wanneer wordt het een soort model warfare? Ja. Oorlog tussen AI-modellen. Het is moeilijk om cybersecurity los daarvan te zien. Ja.
Ja, het is misschien ook meer een opmerking dan een vraag. Ongezellig. Er was wel, ik zat te kijken naar, uhm, Ben Thompson. Ben Thompson had één nuancerende opmerking, namelijk Anthropic.
Uh, hij had een citaat van, uh, Dario Amadei, uh, met soort van: het model wat we nu lanceren is, uh, getraind op een enorme hoeveelheden data en we gaan het niet lanceren, want de capaciteiten hiervan zijn te groot.
En hij had het over GPT-2. Ja, ik denk nou- Oftewel: sinds die man leeft is hij ongeveer aan het hypen over dat- Alles is Mythos. Het is zo groot, ik kan het allemaal, we k- Ja, ja, ja.
We hebben capaciteiten intern als wij die ooit releasen. De wereld zal niet hetzelfde zijn. Het is ook een beetje een soort van grijsgedraaide langspeelplaat geworden waar Ben Thompson, technologieanalist, van zei.
Ik wil echt eenieder, eenieder aanraden: ik probeer dit. Het lukt mij ook niet altijd. Dat je minstens twee brillen op doet. Desnoods koop je er twee fysieke br-brilletjes voor, één met roze, één met oranje.
Dan doe je je bril op en dan kijk je naar deze hele situatie vanuit corporations in Amerika die op hype modellen verkopen aan investeerders en datacenters willen bouwen. Dat is een bril.
Doe je die op, denk je: hé, iemand roept dat hij Mythos heeft uitgevonden. Een wereldwijd supermodel wat superintelligent is. Ja, dat is, dat werkt goed voor investeringen. Doe je die bril, dan doe je hem weer af.
Doe je een andere bril op, dan kijk je nog een keer.
Zou het zo kunnen zijn dat deze mensen die daar werken, die ook kinderen hebben, ook in gezinnen zitten, ook zich onderdeel voelen van de samenleving, zich oprecht z-zorgen maken.
En dan blend je die twee brillen en dan kom je tot ongeveer een midden waarin ik denk: als ik de changelog lees van FFmpeg, Curl en OpenBSD, dat we te maken hebben met iets dat heel goed geworden is in sudoku.
Ja, het is een heel vrolijke manier om, uh, [zucht] heel vrolijke manier om dit samen te vatten, Wytse. Ja, nou, wat doen we ermee, lieve luisteraar? Wij danken Sam Hingenveld voor de edit, Pankra voor de vormgeving.
Als je een lezing wil van de heer Haagh en, uh, daarna vrolijk naar huis wil gaan, dan, uh, mail je naar de lezing@aireport.email.
Uh, en als je op de hoogte wil blijven van het laatste AI-nieuws, twee keer per week tips en tools wil ontvangen, het meeste uit AI wil halen, dan abonneer je je via onze nieuwsbrief via aireport.nl.
En dan heb je dus ook, als je betalend abonnee wordt, toegang tot onder andere dat meest recente webinar waarin we cloudcowork uitleggen. Fantastisch. Dank voor het luisteren. Dank je wel. Dag. Dag.
[muziek]