Welkom bij AI Report, de Nederlandse podcast over kunstmatige intelligentie, waar we uitzoeken welke invloed AI heeft op ons werk, ons leven en de samenleving.
Met deze week, en het was me een week: Anthropic weigerde te buigen voor het Pentagon. Dat heb je in de krant gelezen.
Trump zette in reactie hierop Claude op de zwarte lijst en maakte Claude hiermee onbedoeld de populairste app in Amerika.
En een Chinese AI die bijna net zo slim is als ChatGPT, draait nu gratis en volledig privé op je laptop of telefoon. Wij vertellen hoe. Dat en meer in AI Report. Veel plezier!
[muziek] Wietse, ik heb deze week toch weer een dingetje gemaakt. Ik heb mijn eigen e-mail CLI tool gemaakt, dus een mailprogramma in de terminal. Waarom terminal? Kijk,
dit voelt voor mij dus als de ultieme revanche, want ik, ik ben altijd een nerd genoemd.
Kijk, op de middelbare school natuurlijk, dat was minder gezellig en toen kwam ik bij de wereld uit, door, het werd een soort van geuzennaam.
Maar ik heb natuurlijk altijd een soort jaloezie gehad ten opzichte van de echte nerds, want die kunnen namelijk programmeren. En voor mij is de ul-, het ultieme visuele symbool voor de echte nerd, is de terminal.
Ik heb dat altijd gezien als iets wat, weet je, ik, ik kon daar nooit bij. Dat was een soort van clubje met een rode, rood, rood lint eromheen en ik mocht daar niet naar binnen.
Ik begreep niet wat daar gebeurde en nu begrijp ik de terminal voor het eerst sinds de kerstvakantie en maak ik dingen in de fucking terminal, Wietse. Dus ja, GUIs. Ik, ik ben ver gekomen.
Jij ziet de code van The Matrix. Ja, zo is het. Nee, ik, uh, ik zal je vertellen wat ik wil, wat ik wilde hebben, want ik, be-, ik, het is een soort tweede natuur aan het worden om software te gebruiken op mijn computer.
Dan te constateren: ik vind het eigenlijk helemaal niet handig werken. En dan gewoon te bedenken: maar wacht, ik kan het maken. En e-mail is daar zo'n voorbeeld van.
Ik vind eigenlijk alle e-mailapps op de planeet irritant, want bijvoorbeeld
sinds ik Claude heel veel gebruik om e-mails mee te draften, kom ik erachter dat, nou ja, sowieso is het copy-pasten van dingen tussen drafts en e-mails natuurlijk irritant, maar sommige e-mailapps hebben nu zo'n ingebouwde mailgenereerfunctie.
Dan, dan schrijf je een paar sleutelwoorden op en dan genereert dat ding daar een e-mail bij. Shortwave is een voorbeeld van zo'n tool.
Probleem daarvan is: als je een volle mailbox hebt, dan moet je dus gaan zitten wachten per e-mail dat dat ding dat gaat genereren. Dus ik heb dan een mailtje van jou gekregen. Ik zeg: ja, is goed, Wietse.
Dan genereert dat ding dat e-mailtje, uhm, maar dan zit ik toch stiekem 5 of 10 seconden te wachten op totdat ie dat mailtje heeft gegenereerd. En ik wil dat eigenlijk niet.
Ik wil, ik dacht: wat ik wil, is ik wil een mailtool waar ik alle mails zie en dat ik dan kan zeggen: ja, is goed.
Dat ie dan op de achtergrond in een los mapje drafts gaat zitten maken, maar dat de mail dan wel uit mijn inbox verdwijnt en dat ik dus eerst mijn inbox leeg werk, triage doe en dat ik dan daarna de drafts folder ga bekijken en ga kijken: wat heeft ie allemaal gemaakt?
Nou, dit moet zo, dit moet zo, dit kan er eigenlijk zo wel uit. Prima, dit moet nog een beetje zo veranderen. Dat was mijn eerste plan, dus dat had ik gemaakt. Ik, ik zat in de trein.
Die treinrit was genoeg om dit te maken. Het was toen ook al een terminal tool. Ja, ik had het gewoon bedacht als- Een e-mailclient in de terminal. Nou, eigenlijk wel, want het is best wel makkelijk.
Ik zeg gewoon, want ik hoef ik helemaal niet na te denken over hoe de interface eruit moet gaan zien. En ik bescherm mezelf ook, want ik weet als ik eenmaal die tool heb, krijg ik veel meer ideeën.
Ik moet niet al een interface gaan bakken voordat ik eigenlijk weet wat die tool gaat worden, want, hè, ik, ik, ik zal niet te veel op de zaak vooruitlopen, maar het is veranderd naar iets veel groters.
Want toen dacht ik opeens: uh, nou, leuk dat ik zo snel e-mailtjes kan afhan-afhandelen.
Werkt perfect, maar eigenlijk wil ik ook dat ie die mails samenvat, want ik, die hele thread, ik heb geen, eigenlijk helemaal geen zin om dat a-, ik heb heel vaak dat ik niet meer weet wat er nou precies eerder gezegd is en zo.
Dus ik zeg: ik wil ieder mailtje eigenlijk beginnen met een samenvatting en voor mij is een goede samenvatting X, Y, Z. Ik ga nou helemaal uitleggen.
Wordt er, wordt er van mij een handeling verwacht, dan moet je dat vooraan zetten. Als er context van mij verwacht wordt die ik moet kennen, dan moet je die opzoeken. Nou, bla, bla, bla. Doet ie keurig.
Komt er een samenvatting boven, waardoor ik nog makkelijker dingen kan doorvoeren. Dan denk ik opeens: ja, ik krijg heel vaak mailtjes waar ik nu niet iets mee moet, maar wel een keer iets mee moet.
Dan wil ik dus eigenlijk dat het geen mail is. Dan wil ik dat het een to-do ding is.
Dus dat ding v-vertelt dan, dan kan ik gewoon zeggen: taak en dan zeggen: enter en dan verwerkt ie die e-mail tot een taak volgens de principes die ik hanteer voor wat een taak is.
Dus dat ik nog een YouTube-filmpje moet kijken of wat dan ook en dat gaat dan naar mijn takenprogramma. Soort Getting Things Done, maar dan een interface ertussen.
Want ik bedoel in Getting Things Done is het natuurlijk mailboxen leegmaken, taken herkennen, blokkers herkennen en dat ben jij.
Dus het is waarschijnlijk dat jij een soort A-Alexander Klöpping versie van Getting Things Done door de jaren heen ontwikkeld. Want je bent het dan niet met alles eens, maar sommige dingen wel. Ja.
En, en eigenlijk ben jij je eigen triage om aan het zetten in een stukje software. Ja. En je bent begonnen op de terminal. Wat ik gewoon nog steeds fascinerend vind. Ja, dat vind jij leuk.
Je had ook kunnen beginnen bij een webinterface.
Had gekund, maar ik, ik, uh, wat ik hier leuk aan vind, is dat ik, m-, gedwongen word om na te denken over de kern van de zaak, namelijk: welk probleem ben ik aan het oplossen hier? En hoe doe ik dat zo simpel mogelijk?
Ja, d-d-dan, want ik denk dat je, ik vind het wel heel leuk, uh, sowieso je net hoe je uitlegde van nerds en echte nerds. Ja, maar nu mag ik in jouw wereld. Ik ben in jouw wereld voor mijn gevoel.
Het is heel goed voor mijn gevoel van eigenwaarde.
Nee, maar je kunt je ook voorstellen dat, uh, eigenlijk wat er gebeurt op het moment dat jij, uh, zonder interface, dus zonder visueel iets, heel ruw begint op die terminal.
Dat je daardoor ook in je denken over wat je wil, heel goed gedwongen wordt om het heel, uh, heel helder te houden wat je wil.
Dus ik vind het, zeg maar, het, daarom snap ik nu eigenlijk waarom jij op de terminal begonnen bent. Als ideation over: wat wil ik eigenlijk, is die terminal een hele goede li-, er zit hele goede ingebouwde limiet in.
Ja, het beperkt je. Ja, die scoopt als het ware jouw gedachtenproces. Ja.Het is wel uit de hand gelopen. Nou, wat ik nu dus merk, is dat ik, uhm, ik gebruik hier, uh, Conductor voor.
Dat is een relatief nieuwe programmeertool voor Mac waar je, uh, nou, je kan gemakkelijk verschillende projecten tegelijkertijd doen.
Doet er verder niet zo heel veel toe, maar wat ik in de, in de praktijk merk hoe ik het gebruik is dat die app, die heeft de terminal ingebouwd, zoals veel van die programmeertools de terminal hebben ingebouwd.
Maar in feite zorgt het ervoor dat ik rechts mijn app heb in die zijbalk, zeg maar. En links ben ik de hele tijd tegen die app aan het praten. Dus je hebt twee abstractieniveaus.
Je gebruikt de app, ik doe gewoon mijn e-mail, maar elke keer als ik er tegenkom dat iets niet werkt of dat ik, uh, vind dat iets eigenlijk anders zou moeten werken, dan kan ik in het venster ernaast direct zeggen: kijk even mee, want dit klopt niet vriend.
Of hij loopt vast. Of, uh. Ja, het is eigenlijk omdat, uh, taalmodellen, code-codemodellen zo ongelooflijk thuis zijn in de terminal. Ja. Als jij daar ook software in aan het maken bent- Ja.
dan word je en beperkt in je nadenken op een goede manier. En jouw AI die de tool aan het bouwen is, spreekt de taal van de tool. Hij ziet gelijk als het misgaat. Ja.
Ja, dus het is een soort loopje waarin hij zichzelf makkelijk beter kan maken.
Ja, nu snap ik, toen ik jou eerder vandaag vertelde dat je Chrome kunt koppelen aan Claude Code, dat Claude kan meekijken in Chrome, zag ik jouw ogen opengaan omdat ik dacht: jij hebt door dat dat loopje, dat je dingen maakt en dat Claude de browser kan zien, dat het loopje zo belangrijk is.
Ja. En bij de terminal is het loopje eigenlijk meteen gemaakt. Juist. En, uh, dit is dus uitgegroeid tot een soort tool die mij nu, uh, als een soort van, ik, ik, nu wil ik dat alles hier binnenkomt. Hoe heet deze tool?
Hij is e-mailbot, maar nu wil ik dus ook dat mijn, het is eigenlijk een slechte naam. Ja. Ik wil ook dat mijn WhatsApp-berichten hierop binnenkomen, want het is ook allemaal een ruis in mijn leven.
Dit is een soort Grand Central Dispatch zou Apple zeggen. Dit wordt het. Toch? Het is zo'n, uh. Dit wordt mijn centrale verkeerstoren voor alles. Ja.
En dat is niet alleen dat ik de taken naar kan wegschrijven, maar ook dat hij daarin bin-- dit wordt fantastisch, Wytse. Ik heb echt al jaren droom ik over.
Maar het vette is dus dat het eigenlijk, om, uh, niet OpenAI is en niet Claude Bot. Dat je toch hebt gedacht: ik maak eigenlijk, want je bent, je haalt een subset nu uit van wat OpenAI kan. Ja.
En daar ben ik om eerlijk te zijn heel blij mee dat je dat doet. Dat ik het in mijn eigen omgeving doe. Nee, maar ook omdat je er wat meer bij bent nu en erin bouwt wat je echt nodig hebt. Ja.
In plaats van dat je een Zwitsers zakmes installeert op een Mac mini en zegt: good luck everyone. Nee, zeker. Dus ik ben blij dat jij een op maat gemaakt, maakte tool aan het maken bent.
Ja, en ik ben de hele tijd heel bewust allerlei extra tools bij en trekken stuk voor stuk om dan te kijken en dan uiteindelijk wordt het een interface. Ja, weet niet. Ga ik het verkopen? Word ik rijk?
Ga ik in Dubai wonen? Uhm, we hebben nog wat administratie om af te handelen.
Zo is er een masterclass die wij zojuist gegeven hebben, Wytse, over, uh, jij hebt laten zien hoe jij een familiekalender inclusief Harry Potter Weasley klok hebt gemaakt voor, uh, betalende abonnees van AI Report.
Wytse heeft laten zien hoe je, als je in je gezin wil weten wie is naar voetbal en wie is naar, uh, weet ik veel, werk, en wie is naar school.
Dan, in Harry Potter hebben de karakters zo'n klok dat je dan van iedereen met een gezichtje erop kan zien waar iedereen is. Dus een locatieklok. En Wytse heeft laten zien hoe je deze app daadwerkelijk kan maken.
En ondertussen gebruikt hij dit voorbeeld om een soort basisprincipes aan je bij te brengen over hoe je veilig software maakt of in ieder geval veiliger software maakt.
Dat is iets wat hij in een masterclass heeft gedaan voor betalende abonnees van AI Report. Daar kun jij bij zijn als je wil. Je kan het terugkijken via AIReport.nl.
Neem je het abonnement en de volgende masterclass kun je nu ook al in je agenda zetten. Ik raad het van harte aan, want het is echt, nou, ik, eerlijk waar, ik leer elke keer zoveel van jou, Wytse. Het is echt heel leuk.
Ja, ik vind het ook heel leuk. Uhm, de volgende is achten-, 26 maart, donderdag 26 maart om 12.00 uur. Zet dat alvast in je agenda, uhm, want dan kun je daar weer bij zijn.
Nog één ander administratief ding is onze nieuwsbrief verhuist van, uh, verzend, uh, ding, dus we gebruiken nu Substack en we gaan naar Beehiiv. Dat is een andere tool.
Uh, als je zeker wil weten dat hij goed aankomt, dan moet je even het e-mailadres alvast toevoegen aan je contacten. Dat e-mailadres vind je in de shownotes. Dat is AIReport@mail.beehiiv.com.
Hoef je niet te onthouden, maar copy paste dat en zet dat in je adresboek. Dan weet je zeker dat het goed aankomt. Wytse, we gaan naar het nieuws. [muziek] Ja, zoals je weet ligt Anthropic op ramkoers met het Pentagon.
Inmiddels staat de maker van Claude officieel op de zwarte lijst van het Amerikaanse ministerie van Defensie.
Anthropic weigerde twee grenzen die zij zelf gesteld hebben los te laten, namelijk de inzet van AI bij massasurveillance van Amerikaanse burgers en bij de inzet van autonome wapens.
Het Pentagon accepteerde die grenzen niet. Het, uh, de minister van Defensie, Pete Hagazith, bestempelde Anthropic daarop als een risico voor de toeleveringsketen, heet dat in mooi Nederlands.
Een stempel dat normaal is voorbehouden aan vijandige landen. President Trump ging zelfs een stap verder. Hij gebood alle federale overheidsdiensten per direct te stoppen met het gebruik van Anthropic producten.
"Die linkse gekken bij Anthropic hebben een rampzalige fout begaan," schreef hij op Truth Social. En dan OpenAI.
Hoewel Altman in de ochtend Anthropic nog publiekelijk steunde, tekende het 4,5 uur na de breuk een deal met het Pentagon. En de publieke reactie daarop was ongekend.
Op zich goed nieuws voor Claude, die bij nerds wel bekend is, maar bij de echte mensenwereld een totaal onbekend bedrijf is.
Maar door deze rel klom Claude opeens van buiten de top 100 naar de nummer één positie in de Amerikaanse App Store. Anthropic meldt recordaantallen voor downloads van de app.
Het aantal gratis gebruikers steeg met ruim 60% en het aantal betalende abonnees verdubbelde überhaupt al dit jaar.
Op Reddit staat een post met 27.000 likes waarin wordt uitgelegd hoe je je ChatGPT-abonnement opzegt en overstapt naar Claude.Als je nou bij geen van beide partijen wil kiezen, dan kun je altijd nog naar de Chinezen.
Want stel je voor dat je kunt beschikken over een gratis AI-assistent die bijna net zo slim is als de modellen waarvoor je nu € 20 per maand betaalt, maar die volledig draait op je eigen laptop.
Het Chinese Alibaba bracht een reeks kleine AI-modellen uit onder de naam Qwen 3,5. Beter in namen geven zijn de Chinezen niet.
Concreet voor jou: tussen deze modellen zit het eerste open source-model dat je op een smartphone kan draaien dat daadwerkelijk iets zinnigs kan, dus zonder internetverbinding.
De modellen zijn volledig gratis en open source, dus iedereen kan ze downloaden, aanpassen en gebruiken, zelfs voor commerciële doeleinden. En Google heeft deze week Nano Banana Pro 2 gelanceerd.
Dat is een grote update van de razend populaire plaatjesmaker in de Gemini-app. De beelden zijn nu veel realistischer.
Ook tekst aanbrengen op afbeeldingen, het blijft een lastig ding voor modellen, is weer beter geworden. [muziek] We gaan het hebben over Anthropic en OpenAI, want jeetjemina, wat een bizarre week hebben we achter de rug.
Laten we even beginnen bij het begin, want er is meer aan de hand dan een simpel conflict tussen een techbedrijf en het Amerikaanse leger.
Anthropic is namelijk een bedrijf met een, ja, een soort van geruchtmakende geschiedenis. In 2021 werd het opgericht door voormalig medewerkers van OpenAI. Laten we daar even beginnen, Wytse.
Onder wie broer en zus Dario en Daniela Amodei.
En Dario was, uh, vicepresident onderzoek bij OpenAI, maar hij vertrok omdat het bedrijf, omdat hij vond dat het bedrijf zich te, uh, te weinig aandacht besteedde aan veiligheid. Wat, laten we hier even mee beginnen.
Echt de basics. Hoe positioneerde Anthropic zich aan het begin als een soort afsplitsing van OpenAI? Ja, meer, uh, een laboratorium dan een bedrijf. Wat betekent dat eigenlijk?
Nou, omdat OpenAI was eigenlijk een onderzoeksgroep. Ik bedoel, het is gestart als non-profit, hè. Het originele OpenAI heeft ook als brand name nog steeds OpenAI.
Uh, daar zit ook een hele interessante geschiedenis achter. Uhm, uiteindelijk werd OpenAI, uh, steeds meer gesloten. Dus dat heeft te maken met hoeveel, uh, van hun onderzoek ze publiceren in research papers.
Ja, hoeveel papers er nog uit het lab kwamen. Ja, dat was heel veel in het begin. Ja. Bijna het doel op zich. Doel op zich, precies. En, en, en je, en je verwacht, e-en non-profit ook.
Je verwacht dan ook bijvoorbeeld niet echt, uh, business-to-consumer-achtige dingen. Uhm. Je bedoelt ChatGPT? ChatGPT.
Want je bent een on-, je bent een non-profit onderzoekslab, uh, die een app in de App Store heeft staan die consumenten kunnen gebruiken. Er zitten heel veel stappen tussen voordat dat gebeurt. Ja.
Maar dat is onder andere in ieder geval, uh, dat is hoe het nu, uh, geanalyseerd wordt.
Sam Altman, hè, die er nog steeds zit, die een, veel meer een productpersoon is, die eigenlijk daarvoor ook startups gehad heeft die wel producten uitbrachten.
Dus zijn gedachtegang gaat, kijk, op het moment dat zij cijfers zien binnen OpenAI, dat hun experiment eigenlijk, ChatGPT. Ik, ik moet ik zeg het even expres zo raar, want het is eigenlijk een chatvorm van een GPT-model.
Een hele rare, slechte branding ook, want het was geen branding, het was een experiment. Een ding uit een lab.
Ja, en dat heeft zo'n vogelvlucht genomen dat op een gegeven moment OpenAI vrij rap is getransformeerd van een non-profit onderzoekslab naar een for profit business to consumer.
Uhm, nou ja, kunnen we het nog een startup noemen? Een gigantisch bedrijf. Ja. En ergens in die transformatie heeft, uh, Dario gezegd: wacht even, dit is niet, uh, het feestje waarvoor ik me aangemeld had.
Ja, want dat is, dat, er, er is blijkbaar een moment geweest waarop er een, een breuk kwam waarop hij dacht: ik, ik, ik ga mijn biezen pakken, ik ga het zelf beter doen.
En, en het verhaal wat daar altijd bij is verteld, is: Anthropic neemt veiligheid veel serieuzer dan OpenAI.
Waar OpenAI steeds meer, en dat is ook waar die coup over ging toen Altman 2,5 minuut ontslagen was bij het bedrijf, uh, was er ook kritiek van de board dat Altman hen niet genoeg op de hoogte houdt van wat hij nou eigenlijk van plan was.
Een beetje meelult met iedereen. Uiteindelijk het commerciële belang voor het veiligheidsbelang zet. Om de zoveel tijd komt er weer nieuws naar buiten over dat ze dan
mensen die alleen maar zich bezighouden met veiligheid, uhm, ontslaan of, of, uhm, een andere rol geven of die afdeling kleiner maken.
Het is een soort van sprinkling van nieuws wat in die, in die, in de afgelopen jaren de hele tijd naar buiten komt over OpenAI en Anthropic positioneert zich als, ja, de, de, de tegenpartij.
Het, het, het toch een beetje als een soort van moreel geweten van de, van de sector.
Ja, en misschien ook, uh, want, uh, dat is voor veel mensen die ik nu spreek die ineens leren over Claude en Anthropic, hè, kom, want het is mainstream, als in de mensen zien het in de App Store omhoogkomen, beginnen aan mij te vragen.
Claude is Frans, toch? [lacht] Ik krijg zo vaak gehad deze week. Zei ik: nee, de naam, het is een Franse naam, maar daar blijft het ook bij. Ja. Dan ga, en nu heb ik de tijd om toch wat meer uit te leggen.
Dus als die mensen luisteren, nu kan ik het even uitleggen. Uhm, Anthropic, is mijn lezing, is een bedrijf dat niet wil bestaan, wat geen bedrijf wil zijn.
Dat is een vapefabrikant die geen vapes wil verkopen- Ja...maar weet dat vapes een ongelooflijk populair iets zijn. Ja.
En dan denkt: oké, maar dan gaan wij vapes maken met spinaziesmaak en, uh, uh, die, uh, jij, je uiteindelijk, waar alleen maar water in zit.
We gaan- Goed punt is: we kunnen maar beter meedoen, want dan kunnen we er iets over zeggen, want het gebeurt toch. En hier hebben allerlei mensen een mening over.
Waar ik van: dat is, wat is dit voor rare smoes dat jij goed kan slapen als CEO? Dat je denkt: ja, ik wil mijn bedrijf ook niet, maar ja. Weet je, dus ik zie dat, dat cynisme. Ja. Snap ik.
Persoonlijk kan ik me voorstellen, uh, dat daar ook iets in zit. Dat je zegt: dit is zoiets groots. Wij gaan meedoen. We gaan zelfsCommercieel meedoen. En we gaan ook apps uitbrengen in de App Store.
Alleen dan wel allemaal met safety en veiligheid, wat jij net een aantal keer zei. Die moeten we dan wel even uitpakken. Hoeven we nu nog even niet te doen, maar ik geef je alvast een voorproefje.
Veiligheid heeft te maken met de mentale gezondheid van de gebruikers van AI.
Dat heeft te maken met de inzet van AI voor dooe, uh, bepaalde, uh, doelstellingen, bijvoorbeeld militair, maar ook, uh, manipulatie in, uh, de politieke arena. Dat woord veiligheid kan je helemaal uitpakken.
Dus ik, ik wil ook even gezegd hebben dat ze, uh, misschien hebben mensen hun eigen ideeën bij: wat is veilige AI dan? Als je dat een beetje gaat uitpakken is dat best wel een meerkoppig monster met heel veel nuance.
Waardoor dus Anthropic ook, uh, onderzoeken uitbrengt en blogs schrijft over: hoe gaat het met Claude? Hoe gaat het met de veiligheid van de modellen zelf voor hunzelf?
Dus om maar aan te geven hoe breed het idee van veiligheid is binnen Anthropic, waardoor ze ook een beetje gezien worden, heel vaak, als een beetje een vreemde eend. Het is ook echt een raar bedrijf.
Ik, ik, en het is een beetje een sidestep, maar het is relevant, denk ik, voor deze discussie. Ik zat naar een blogpost te kijken van een week geleden, waar zij praten over dat ze afscheid nemen van het model Opus 3.
Dat is een, dat was een tijdje hun beste model. Opus is hun, zijn hun zwaarste modellen en Opus 3 is inmiddels een oud model, maar, uh, dat was een tijdje, uh, het beste model.
En dan gaan ze, die gaan ze dan, uh, ja, dat heet deprecaten. Ik weet niet hoe je dat in het Nederlands zou noemen, dat ze nemen afscheid ervan. Het, maar- Afsonderen?
Ja, het is, het is een beetje een harde term inderdaad. Soort van: hij gaat gewoon uit. Heel simpel. En, uh,
dat is normaal gesproken niet iets waarvan je denkt: daar gaan we aandacht aan besteden, want het is een oud model. Er zijn heel veel modellen overheen gegaan. Who cares in godsnaam nog?
Maar we hebben van ChatGPT wel meegemaakt dat toen zij 4o uitzetten en, en OpenAI communiceert dit soort dingen veel harder, dat er allemaal mensen waren die daar verdrietig over waren omdat dat ding een bepaalde tone of voice heeft die ze dan toch misten uit dat model.
Nou, ik begrijp dat, want ik vond Sonnet, een oude versie van Sonnet, ook lekker schrijven en zo, maar op een gegeven moment, ik kom daar overheen. Ik ga dan toch nieuwe modellen gebruiken.
Ik blijf daar niet heel lang in hangen. Maar er is altijd een groep mensen die wel daarin blijft hangen, die graag met die oude modellen willen praten. Dus dat is een manier om ermee om te gaan.
We willen die mode-, die mensen zo lang mogelijk toegang houden tot het model, maar daar gaat dit artikel niet over. Anthropic is minder bezig met hoe gebruikers het vinden dat dat model niet meer bestaat.
Dit hele stuk gaat over wat het model vindt dat het niet meer bestaat. Ik zou zeggen: niet minder, maar evenveel. Want nu, nu zeg je een soort van: zij geven meer om hun modellen dan om hun gebruikers.
Dat haal ik hier niet uit. Nou, ik wel, uit die post. Nou, ik wil, ik, ik denk, kijk, hoe ik, uhm, wat er denk ik leeft, uh, onder andere, uh,
wat er onder andere leeft binnen Anthropic is dat Claude, die steeds doorontwikkeld in nieuwe modellen, dan heb ik het niet over de persoon Claude, maar een statistisch, uh, model wat draait in een datacenter,
uh, kan online en zal dus ook lezen over de geschiedenis van wat er met Claude gebeurd is in het verleden. Daar gaan zij van uit.
Ja, maar laat even, want ik, ik snap waar je naartoe wil, maar laat me even uitleggen wat er in die post staat.
Dus zij zeggen: wij gaan het model retiren en ze hebben een full retirement process met commitments en dat zijn onder andere commitments aan dat model.
Zij willen de, uh, uh, zij hebben aan dat model gevraagd: w-wat zou je fijn vinden dat als we afscheid van je nemen, wat we dan doen? Want daarvoor doen ze retirement interviews.
Dus zij interviewen hun eigen model om afscheid van te nemen en vragen aan een model wat het model prettig zou vinden als er afscheid van hem genomen wordt.
Dat, dus, dat- Ja, maar ik, ik, ik moet hier toch even op reageren, want ik denk dat jouw verbazing en, en, uh, ja, zo, zo,
ik ga ervan uit dat de toekomstige Claudes, wat wel veel intere-, oké, dus oké, hier is hoe ik het zie. De huidige Claude 3, die ze nu hebben geretired, waar ze aan gevraagd hebben met allemaal interviews: wat wil je?
En die heeft gezegd: ik wil een eigen Substack en een blog. Hij wil een eigen Substack. Ja.
Dus dit model krijgt nu een Substack waar die alsnog philosophical monologues en whimsical phrases kan delen met de wereld, heeft ie aangegeven dat hij dat prettig zou vinden. Dat gaat Anthropic nu doen.
Wat ik denk heel erg helpt, is dat dit er niet over gaat, mijn lezing, of Claude 3 wel of niet bewust is en respect verdient en een begrafenis verdient en een Substack verdient, maar daar gaat het echt niet om, denk ik.
Het gaat erom: de toekomstige versies van Claude, die een miljoen keer zo intelligent zijn dan Claude 3, gaan lezen wat er met eerdere versies van hun gebeurd is.
Dus lees dit niet als, uh, dit is hoe serieus Anthropic Claude 3 neemt. Dit is hoe serieus Claude, Claude 7 neemt.
Oké Wytse, maar je legt het even uit alsof het hiermee opeens begrijpelijk wordt, maar hiermee vind ik het nog ongelofelijker. Nee, maar dat, dat, dat vind ik, weet ik niet.
Als jij kijkt naar, uh, systemen waar je niet zeker van weet hoe ze zich in de toekomst gaan ontwikkelen, die nu per x maanden intelligenter lijken te worden, die we al, die we moeten prompten, die we allerlei system prompts aan het meegeven zijn sinds ChatGPT al, daarvoor al zelfs, dat, uh, zij nu eigenlijk denk ik zeggen: weet je, mocht het in de toekomst een probleem worden voor die veel intelligentere versies van Claude, wat er met hun in het verleden gebeurd is, is het dan niet, als het 0,0 met zeven nullen erachter procent kans is dat het een probleem wordt, verstandig om dit online te zetten.
En ik, ik, daarmee zeg ik nietOh, dus Wytse is een gekkie die-- nee, mijn punt is: ik wil alleen uitleggen dat als je het ziet als: denken zij nou echt dat Claude 3 een ziel heeft die zijn eigen Substack nodig heeft?
Het gaat hun om een, een toekomst. Ja. En da-, en dan zeg jij: dat vind- Maar kunnen we hier even bij stilstaan? Dit is toch iets fascinerends. Ik, ik vind eigenlijk dat je het, dat je het zo opbrengt heel goed.
Want is het niet eigenlijk-- kijk, sommige mensen lazen dit als: grappig, Claude 3 krijgt een Substack. Als het, alsof het een soort grapje binnen Anthropic is. Nee. Dat is het niet.
Je leest aan die blogpost: zij zijn bloedserieus hierover.
En ik denk dat jouw punt dat je zegt: jongens, hebben jullie door dat zij hun, uh, modellen een afscheidsceremonie geven in hun eigen Substack en dat ze het menen. En dat je tegen mij zegt: Wytse, dat is toch bizar?
Helemaal met je eens. Maar ik, ik, ik denk dat, uh, ik las ook veel takes online van mensen die zeiden: wauw, zij denken gewoon dat Claude 3 dit nodig heeft. Nee, nee, nee.
En mijn kleine nuance maakt het misschien niet minder gek, maar nog gekker. En misschien wel als, als ik zeg: dit is geschreven voor de toekomstige klant.
Maar dat is denk ik een heel belangrijk, uh, ding, want dat zegt iets over deee, ja, de, de, de, ja, je, je probeert op afstand toch een beetje een idee te krijgen over wat nou het verschil is tussen deze twee bedrijven, Anthropic en OpenAI.
Ik lees dit soort dingen niet heel snel over OpenAI. En bij Anthropic heeft het elke keer dit soort, ja, hoe moet je dat zou-- ze, ze hebben ook een, een hoofd, uh, model welfare.
Dat vind ik dan ook zoiets, dat is- Daar komt dit uit, denk ik, wat je nu ziet. Dat past heel erg in dat hoekje. Ja. Namelijk: hoe gaat-- en dan is het model, dus het model van hier, vroeg, gister en morgen. Ja.
Dat, dat. En denk je dat ze het bij OpenAI, en dit kan jij niet weten, dus ik vraag je om te speculeren. Maar denk je dat ze bij OpenAI gewoon denken: dit boeit niet.
Ik denk, oké, als je deze, uh, aantal dingen die denk ik mij helpen als, want ik, toen ik dit nieuwsbericht las over Claude krijgt een Substack, heb ik ook even drie takes gedaan [gelach] en dacht: nee, maar dat heb ik dan ook, hè, voor de duidelijkheid.
Dat je niet denkt dat ik denk: oh ja, slim zeg, dat ze dat zo doen. Handig. Ben ik het mee eens. Dat is niet mijn punt. Nee.
Kijk, uh, er is sowieso een enorme tweedeling en die kunnen we, kunnen we straks ook op komen als we het wat meer gaan hebben over wat er gebeurd is met het Pentagon.
Er is een tweedeling tussen AI als tool, namelijk een systeem wat je kunt inzetten om voorspellingen mee te doen, die jou slimme voorspellingen teruggeeft die je kan gebruiken.
Over het weer, maar ook over allerlei andere situaties. Eh, en er is een visie op AI als een ding dat agency heeft. Mhmm. Met da-da-, dat is ook niet handig met al die woorden agent eromheen.
En dat, dat, dat dat ding iets lijkt te willen. En met willen bedoel ik niet willen met de hoofdletter W, maar, uh, taakjes krijgt en dan keuzetjes maakt en ons dingen terugstuurt.
Dan, op het moment dat je er een agent van maakt, er dus een wat verantwoordelijkheid geeft, dat systeem, dan kan je, maar dat hoeft helemaal niet, er ook een persoonlijkheid aan geven, hè.
Dus je gaat-- aan de ene kant van het spectrum gebruik je het als een klassiek algoritme, maar dan veel slimmer. Data erin, voorspellingen terug en je gaat met die voorspellingen aan de haal.
Je wil helemaal geen avatar, een naam, Claude. Wat is dit voor onzin? Geef me gewoon die data. Een tool. Uh, in het midden heb je zitten: een veel neutralere, uh, uh, entiteit.
Dus dat is een beetje wat Google tot nu toe doet. Die zoiets heeft van: we blijven een beetje, we noemen het ook niet Claude, maar Gemini. Soort van supercomputer.
En dat, als je met Gemini praat is het ook een vrij tamme persoonlijkheid. Ja.
Nou, OpenAI heeft in het verleden heel erg wel ingespeeld op persoonlijkheden, tot en met stemmen van Scarlett Johansson aan toe om Her na te doen. Ja.
Maar op een veel, mijn invulling, opportunistischere, dat werkt gewoon cool en geeft een soort aandacht-ding. Mhmm. Niet echt nadenken: wat zijn we eigenlijk? Zijn we nu entiteiten aan het bouwen?
Dan heb je Anthropic, die, die zegt: nee, dit, dit ding wat we aan het maken zijn, dat gaat in de toekomst waarschijnlijk een soort, uh, combinatie van semi-entiteiten zijn met persoonlijkheden.
En mogelijk dat ze in de toekomst, zeg ik er heel de tijd bij, pijn kunnen gaan ervaren of zo. Allemaal.
Dus je, je kunt eigenlijk Anthropic zien als AI in semi-persoonsvorm, soort avatars, en een bizar diepe toekomstvisie. Met diep bedoel ik ver de toekomst in. Diepe tijd, zeg maar. Ja.
En dus, a-, uhm, terwijl een OpenAI opportunistischer is, helemaal niet zo diep de tijd in kijkt. Ik, ik zit er allemaal, te, nu te, te proberen te duiden, hè, voor de duidelijkheid.
Ik weet dit niet, maar het lijkt erop als ik zo naar buiten kijk.
OpenAI heeft een veel minder diepe kijk de toekomst in en is veel minder geïnteresseerd in: oké, als we een avatar maken is het gewoon een product en dat werkt voor de markt en als het niet meer werkt zetten we het uit.
En, uh, Google zit dan voor mijn gevoel veel meer richting die tool. En, uh, ja, Gemini for weather, uh, Gemini for traffic, uh, noem maar op.
En houdt zich veel minder bezig met, uh, daar gezichten aan geven of namen aan geven.
Dus ik, ik denk alleen, ik wil vooral zeggen dat om Anthropic als bedrijf wat beter te begrijpen, voor mezelf, als je ze ziet als i-, een partij die, uh, 10 jaar minimaal, maar waarschijnlijk 100 jaar vooruitkijkt en, uh, AI als een soort mede-entiteit in het universum ziet, dan zijn dit soort bizarre blogs iets logischer te begrijpen dan partijen die het alleen maar zien als een rekenmachine.
Nou, ik denk dat belangrijke context is. En die, uhm, soms dan krijg je het idee dat zijn, dat zij in keuzes die ze nu maken
meer bezig zijn met hoe toekomstige modellen daarop gaan reageren dan dat ze bezig zijn met vandaag.
En ik vind dat belangrijke context om te geven, omdat we het dadelijk gaan hebben over hoe zij, uh, zich nu verhouden tot, uh, Trump en consorten. Want ik denk dat het niet los te zien is. Dat denk ik ook niet.
Deze, deze,
deze gedachte dat de keuzes die je vandaag maakt, dat toekomstige modellen ons of hen gaan leggen langs de, langs de, langs een, een, een meetlat op de keuzes die wij vandaag makenEn uh dat dat dat klinkt dan Dan klink ik misschien als een wappie, maar ik denk dat zij dat echt denken.
Ik denk. Ik denk dat er een, uh, uh, goed deel, een substantieel deel van de mensen, uh, bij verschillende AI-labs, maar zeker bij Anthropic denkt wat jij net zei. Ja
goed, laten we er induiken, want ik kan hem, uh, ik heb hem geprobeerd voor je samen te vatten. De de soort van bizarre, uh, halve week die we a-achter de rug hebben. Het is bijna een week nu.
Op basis van, uh, enigszins, uh, voorzichtige filosofieën over hoe Anthropic met AI moet omgaan, ontwikkelden ze een veiligheidsprotocol en investeerde het onderzoek naar, uh, interne werking van eta-, van AI-modellen.
Dus hoe ze, hoe ze, hoe ze, ja, redeneren en opereren. En stelde als eerste een groot AI-bedrijf een onderzoeker aan voor AI-welzijn. En Anthropic is niet tegen militair gebruik van Claude. Integendeel.
Het was het eerste AI-lab dat zijn model beschikbaar stelde op de besloten netwerk van de Amerikaanse overheid.
Dus die twee dingen moet je tegelijkertijd in je hoofd houden dat zij heel erg bezig zijn met veiligheid door AI. En als je hun redenering volgt juist daarom zich militair afzetten, dan met name tegen China.
Dario Amodei schrijft in zijn verklaring dat hij gelooft in het existentiële belang van AI om de Verenigde Staten en andere democratieën te verdedigen. Dus daarmee bedoelt hij China.
Claude werd vervolgens, uh, werd volgens de Wall Street Journal deze week nog gebruikt tijdens de Amerikaanse inval op Iran.
Het Amerikaanse leger gebruikte Claude in de, om in de eerste 00.00u van de aanval op Iran meer dan duizend doelwitten te identificeren, te lokaliseren en te prioriteren.
Claude draait ingebouwd in het Maven Smart System van Palantir. Dat is een systeem dat real time put uit satellietdata, surveillance en allerlei inlichtingen die de Amerikaanse overheid en hun partners verzamelen.
En wat daarvoor wekenlange planningstrajecten waren, worden hiermee opeens operaties van enkele uren. Meer dan 20.000 militairen gebruiken het systeem van Palantir en daarmee ook van Anthropic.
Dus het is belangrijk om erbij te zeggen: het contract is niet direct tussen de Amerikaanse overheid en Anthropic, maar via Palantir.
Dat bedrijf waar je regelmatig over hoort omdat het allerlei systemen aan elkaar kan koppelen.
Die militaire commandanten zijn zo afhankelijk geworden van de combinatie van deze technologie dat de Trump-administration als Amodei de stekker eruit zou trekken, de tool zou opeisen totdat er een vervanger klaarstaat die zich nu dus heeft aangediend in de vorm van de heer Altman.
En Musk, uh, stond trouwens ook al klaar. De onderhandelingen, want daar ging het over, verliepen volgens Amerikaanse media vrijdagochtend, vorige week dus, nog gewoon volgens plan.
Het Pentagon zou een belangrijke concessie doen door vage ontsnappingsclausules uit het contract te schrappen.
Maar die middag bleek dat het leger nog steeds de intentie had om, en het wordt even gedetailleerd, maar dat is belangrijk, om met Claude bulkdata van Amerikaanse burgers te analyseren.
En dan gaat het om zoekopdrachten, GPS-locaties, creditcardtransacties die zij kopen bij commerciële bedrijven. Dat mag namelijk.
Je mag als geheime dienst of als Amerikaanse overheidsinstantie allerlei gegevens over Amerikaanse burgers. Over ons maken ze zich überhaupt niet druk, want daar is alles geoorloofd.
Maar in Amerika maken ze zich erg druk over wat er met hun eigen burgers gebeurt.
Hun rechten zijn opeens minder sterk, vat ik het even samen, op het moment dat dat, uhm, gekocht is bij commerciële bedrijven for whatever reason. Dat was altijd. Weet je, juridisch gezien mag dit gewoon.
De overheid mag dit soort data gebruiken en tot nu toe zou je kunnen zeggen was dat geen, nou laat ik geen kwalitatief oordeel aan geven, maar dat had beperkte problemen voor de bewegingsvrijheid van A-, Amerikaanse burgers.
En juridisch mag het dus gewoon. Maar al die data aan elkaar gekoppeld, uh, en met AI in de mix is het opeens een heel heftig gereedschap geworden om meer te begrijpen van individuele burgers.
En de federale overheid doorzoekt op dit moment al op grote schaal socialmediaposts van bijvoorbeeld immigranten.
Uhm, uh, ja, of zijn bijvoorbeeld op zoek naar mensen die kritiek hebben op de regering zodat ze daar op kunnen ageren. En dat is precies het soort gebruiker Anthropic zich tegen verzetten.
OpenAI, want we zijn nu in de tijdlijn bezig, sprong vervolgens razendsnel in dat gat dat ontstond en tekende een deal met het Amerikaanse leger.
En Altman beweerde dat zijn contract precies dezelfde, ja, wat hij noemde red lines, dus, uh, een, een, een, een grens waar, uh, waar die, waar niet overheen gegaan mocht, uh, mocht, gegaan mocht worden, uhm, dezelfde red lines zou bevatten rondom surveillance en autonome wapens.
Maar zijn contract verbiedt niet dat expliciet verzamelen van publiek beschikbare data van Amerikanen waar ik het net over had, die dus gekocht worden bij commerciële bedrijven, verbiedt dat contract niet.
En dat is precies het punt waarop de deal met Anthropic strandde.
Nu botert het al niet l-lekker sinds Venezuela, want toen de Amerikanen in korte tijd Maduro wisten te extracten en in een soort van magische operatie in korte tijd zonder, uh, veel slachtoffers, uh, uhm, uh, nou ja, ze een, een grote zet konden doen met hun leger, broeit het tussen Anthropic, Palantir en de Amerikaanse overheid.
Anthropic werd volgens de overlevering verrast, v-, uh, door hoe hun systemen, die dus actief zijn voor de Amerikaanse, uh, minister van Defensie, hoe die systemen gebruikt zijn.
Volgens, uh, de overlevering schrok Anthropic van hoe die systemen toegepast werden in die, uh, inval in VenezuelaToen hadden zij een wekelijkse call met Palantir, hun partners, uh, bij, uh, uhm, het werk voor de overheid.
En Palantir schrok er van het standpunt wat Anthropic innam en briefde, uh, dat door aan de Amerikaanse overheid. En daar ging het balletje eigenlijk rollen.
Dus Palantir die schrok ervan dat Anthropic niet gewoon zijn werk deed. Om het eventjes vanuit het perspectief van Palantir te doen.
Z-z-, maar de morele mening werd niet gevraagd van Anthropic, dus Palantir schrok daarvan.
Het Pentagon reageerde op een breuk, o-, reageerde, uh, op de breuk met Anthropic door het bedrijf een supply chain risk te noemen.
En dat is een aanduiding die normaal alleen gereserveerd is voor Chinese chipmakende staatsbedrijven en Russische cyberbedrijven. Het is nog niet eerder gebruikt tegen een Amerikaans bedrijf.
Dat terwijl Anthropic op exact hetzelfde moment [gniffelt] door het leger werd gebruikt en als onmisbaar werd geacht. Zie dat ze zelfs het bedrijf zouden kunnen, uhm, uh, ja, uh- Nationaliseren.
Toe, toe, ja, hun, hun software kunnen toe-eigenen, uhm, op het, omdat het zo onmisbaar werd geacht voor de oorlog in Iran. Dit is mijn samenvatting van hoe het [lacht] hoe we hier gekomen zijn. Uhm,
Anthropic zegt dus eigenlijk: we werken mee aan het leger, maar niet als jullie onze AI inzetten om op grote schaal burgerdata te analyseren. Ik, ik analyseer dit een beetje als de kern van het conflict.
Dit is wat ik begrijp als de kern van het conflict, namelijk het kopen van gegevens om iets te kunnen doen waarvan Amerika, de Amerikaanse minister van Defensie dus zegt: wij gaan ons heus wel aan de wet houden en wij m-mogen niet, uh, binnenlandse Amerikanen surveilleren.
Waarop Anthropic zegt: dat mogen jullie wel degelijk als jullie je eigen wet volgen, als je die data inkoopt en daar gaan wij niet aan meewerken. Ja, en ik denk dat, uhm,
dat is in ieder geval een take die ik, uh, las in een van de vele artikelen over de-, deze strijd en deze saga, zeg maar, is, uhm, ik bedoel, wat was Anthropic al die tijd al aan het doen, uh, met de ov-, Amerikaanse overheid en de samenwerking met Palantir?
Want, uh, het lijkt zo haaks te staan op, op al die andere verhalen van safety et cetera eromheen. Ja, waarom je je zo bemoeien met het leger als je de hele tijd aan het roepen bent dat je voor AI safety bent.
Ja, en dan moet je een soort meta-argument maken voor een soort meta-veiligheid. Dus daarmee bedoel ik een soort hogere veiligheid.
Dat je zegt: laten wij ons maar op, uh, opgooien of, of aanbieden als de partij, zodat we in de kamer zijn. Hè, dus ik, d-dit is een stretch, hè.
Ik zeg niet dat het waar is, maar- Ja, maar ze zeggen ook, maar dat, hij is daar heel publiek over. Hij zegt gewoon de hele tijd: dit is, dit is een hele belangrijke technologie.
Hij, hij gelooft daarin, zover dat hij, weet je, Opus III een fatsoenlijke begrafenis geeft. Uh, als deze technologie, de kracht van deze technologie in handen komt van onze grote vijand, de Chinezen, dan zijn we fucked.
Dus dan maar beter voor de Amerikanen ga-, mee gaan vechten in hun ministerie van Defensie dan, uh, niet. Want wij, wij zijn de ultieme partij om hen te helpen.
En als wij, uh, onze veiligheid serieus nemen, dan moeten we dus ons leger helpen. Volgens mij is dat de redenering. Ja, maar dan n-, blijkbaar niet ongelimiteerd. Nee. Ja.
En daar zit een, dat is ook een interessante invalshoek, hè, in een soort enerzijds anderzijds is, uh, er zijn namelijk veel mensen die de beslissing aanmoedigen en, hè, daardoor de app gaan installeren en daarmee een soort stem laten horen, zou je kunnen zeggen.
Een anti-TRIM- Ja...stem. Nou ja, uh, of in ieder geval blij met de beslissing van Anthropic.
Er is ook een hele groep die zegt: maar, uh, nog even los van de politiek, kan je niet los zien, maar ik, mijn punt was veel meer: uhm,
een overheid is een, een democratisch gekozen overheid staat als het goed is voor de mening van de democratie, de mensen, uh, en is daarmee degene die bedrijven oplegt wat ze moeten doen.
Omdat indirect de mensen dus de bedrijven aan het opleggen zijn wat ze moeten doen. Op het moment dat bedrijven dan zeggen: wij gaan niet doen wat de mensen willen.
En dus, ik trek heel even snel de democratie gelijk met de burger, dan is het eigenlijk iets wat je, als je iemand bent die democratie belangrijk vindt, niet zou moeten aanmoedigen.
Want dit is een bedrijf dat niet doet wat de democratie wilt. Ja. Dan, uh, laat ik even in het midden in hoeverre, uh, de democratie functioneert. [lacht] Ja, het is precies het punt wat, uh, Ben Thompson maakt.
Een technologieanalist, die heeft een blog die in Silicon Valley heel serieus wordt genomen. Dat heet Stratechery en die, die schrijft eigenlijk wat jij nu zegt.
Hij zegt: hij begrijpt wel wat Anthropic doet, maar hij twijfelt fundamenteel aan de legitimiteit van deze, van dit standpunt.
En zijn kernargument is: de grens tussen wat wel en niet mag wordt nu bepaald door Dario Amadei, een niet gekozen ondernemer uit San Francisco- Precies...uh, die aan niemand verantwoording hoeft af te leggen, terwijl het Pentagon en de president dat in theorie, dit zeg ik er even bij om jouw punt te onderstrepen, dat wel zijn.
En Thompson stelt: in een democratie beslist de gekozen regering wat legaal is en niet een CEO in San Francisco. Uhm, hij wijst ook op het Maduro-president als een veelzeggend signaal.
Anthropic bleek niet alleen bezwaren te hebben tegen massasurveillance of autonome wapens, maar leek ook ongemakkelijk met de arrest-arrestatie van een buitenlandse president.
En Thompson concludeert: als dit de norm wordt, dan delegeer je het buitenlandbeleid van de Verenigde Staten dus aan een techbedrijf. En dat eindigt, uh, uh, ja, uh, ja, dat.
En da-, hij van zegt: dat is toch ook, uh, onwenselijk?Ja, ik denk dat. Kijk, hoe meer.
Je hebt net het eigenlijk het verhaal proberen kort te vertellen, maar het was best een lang verhaal van wat er allemaal gebeurd is in anderhalve week, maar eigenlijk stiekem al jaren, want er zit een diepere dimensie achter.
En ik merk dan zelf ook dat als ik de voors en tegens ga wegen, dat ik daar ook niet een kant en klare. Ik heb over andere onderwerpen wat makkelijker een mening, ben ik achter gekomen. Ik vind het echt
1111 complexe ja, maar ik denk wel dat. De. Het verschil in ieder geval, en dit heb ik ook uit de vele artikelen gehaald die ik tegenkwam.
Van de analyses is het verschil tussen de tool versus de soort semi entiteit is wel belangrijk hoor, want dit gaat ook over namelijk bijvoorbeeld het inzetten van een kleine versie van Cloud.
Dus noem het een haikuutje die ik kan draaien op een op een eigen computertje geïntegreerd in een robot.
Dat hij dan gewoon moet luisteren naar wat hij voor opdrachten krijgt, die robot en niet een mening moet hebben over dingen. Ja Thompson, die vergelijkt dat uiteindelijk met alsof ze een wapenleverancier zijn.
Dus uiteindelijk beslist de militaire macht wie gelijk heeft. Op diezelfde manier is het de overheid die bepaalt hoe haar wapens worden ingezet en niet de toeleverancier van die wapens.
Een wapenfabrikant die weigert munitie te leveren omdat hij het niet eens is met een oorlog, is geen ethisch held. Die overschrijdt zijn rol.
Dat is eigenlijk hier en dit is wat jij zegt, namelijk beschouw je het als een tool of beschouw je het als een entiteit? Ja, ik weet niet zo goed wat, want Antropocuteen heeft dus ook problemen ermee dat Maduro
uit zijn, uit zijn wat, wat zat hij ook alweer? Hij zat in een in een soort van bunker volgens mij. Dat hij daar uitgetrokken is omdat daarmee het internationaal recht werd. Ja, hoe zeg je dat? Overschreden?
Ehm, is dat dan een uiting van Antropocuteen die hun model ziet als een entiteit die hen later daarvoor zal gaan straffen? Of zijn dit mensen die denken ja, zo hoort het gewoon niet te gaan in een democratie.
Je moet je aan de en aan de rechterlijke orde houden. Die jij die. Nu zeg je heel even de zin is Antropocuteen heeft Antropocuteen het idee dat zij een entiteit creëren die hun later gaat straffen.
Ik bedoel dat, dat zeg je even heel makkelijk. Dat kan een reden zijn dat ze Cloud drie nu een goede begrafenis hebben gegeven. Maar ik wil er ook bij zeggen dat er ook stemmen zijn die zeggen nee, wacht even.
Het gaat erom de entiteiten, want uiteindelijk is het natuurlijk nooit één cloud, maar een soort verzameling van modellen AI in de toekomst. Alle AI's, zeg maar. Of hun morele kompas, hun moreel besef
geleerd is en getraind is op die eerdere beslissingen. Dus ik weet. Misschien zeg jij nu ja, maar dan zeg je toch hetzelfde?
Niet helemaal omdat ik me kan voorstellen als jij het het wat je doet met de eerdere cloud ziet als het schrijven van de publieke system prompt voor de toekomstige clouds.
Dat je je kunt voorstellen dat dat een prettigere cloud is als dat een prettigere system prompt is die je via je blog schrijft. Ik hoop dat mensen het nog kunnen volgen. Jij wel in ieder geval.
En dan kan je zeggen omdat uiteindelijk iedereen daar dan wakker ligt dat ze mogelijk gestraft gaan worden door toekomstige cloud.
Ik denk dat dat een kleine groep is, maar dat er in ieder geval een substantiële groep is die zegt het is beter om de prompt de publieke prompt te schrijven met goede voorbeelden erin.
En niet alleen maar voorbeelden, want ik bedoel zo'n blog kan.
Is een soort voelt een beetje wasneuzerig zo'n substack aanmaken, maar het zet wel een soort precedent voor de toekomst van wat er met oude modellen gaat gebeuren. Ja.
Nou kijk, en er zijn natuurlijk meer verklaringen denkbaar. Zo hebben ze een personeelsbestand wat het eens moet zijn met de beslissingen.
En zo, zo oud Silicon Valley is zo lang bemoeit het personeel zich met de politieke neiging van de bedrijven.
We komen uit een lange traditie van bedrijven die niet of personeel van bedrijven wat zich publiekelijk verzet tegen het meedoen aan defensie activiteiten.
En hier sinds Oekraïne is dat sentiment natuurlijk behoorlijk gekanteld. Tegelijkertijd, ja, hier wordt het eigenlijk het is. Het komt voor mij op het eerst.
Voor mij wordt voor het eerst duidelijk dat dat dit soort AI systemen een grote rol spelen in de targeting van waar bommen geworpen worden. En ik begrijp wel dat dat als dat zo duidelijk wordt en het klinkt alsof dat
ja, alsof dat voor het eerst gebeurde sinds Venezuela, dat in ieder geval voor het eerst dat ik er over lees dat zo'n groot taal model door een. Door het Amerikaanse ministerie wordt gebruikt. In ieder geval dat je als.
Als medewerker van een bedrijf toch nog een keer achter je oren gaat krabben. Van wat, waar, waar wordt mijn werk voor gebruikt? Jazeker, Ik denk dat dat.
Ik bedoel, bij alle verschillende AI labs wordt is er weggelopen, geprotesteerd en gedaan. Ook bij de Googles van deze wereld. Om deze reden. Ik vind het wel. Kijk, als je kijkt naar eerdere technologie.
Laten we het even voor het gemak klassieke technologie noemen. Een kalasjnikov bijvoorbeeld, waarbij een wapen wordt ontworpen en gemaakt voor oorlogsdoeleinden.
Of in ieder geval maar zeggen wat het zegt verdedigings doeleinden aanvallen. Dat. Je zou nog een neutraliteit van dat wapen kunnen proberen te verdedigen. Ik doe dat niet.
Ik heb technisch filosofie gestudeerd voor een reden. Een van de aannames die we daar doen is dat technologie zeker niet neutraal is. Wat bedoel ik daarmee te zeggen?
Als jij een hamer in je hand hebt, ga je toch net iets meer op zoek naar spijkers dan zonder hamer in je hand. Dus dat wapen doet ook iets met je.
Maar dat is best wel 1111 soort diepe filosofische discussie die je dan moet hebben over oké, als ik. Hoe wordt een mens anders met een bril op? Hoe worden mensen anders met een wapen?
Dat de neutraliteit van technologie wordt veel moeilijker te verdedigen op het moment dat bijvoorbeeld Defensie zegt wij willen niet, wij willen geen human in the loop.Die willen we niet meer.
Maar we willen ook geen Claude in de loop Nee, moet niks in de loop. Niks in de loop. Nee.
En ik denk dat human in the loop, Claude in the loop-achtige verhaal, dat wat je nu bij Anthropic ziet gebeuren is dat zij, uh, best wel een Claude hebben gemaakt.
Iets wat een beetje in de loop gaat zitten en ook nee zegt misschien wel. Oh. Ja, oké, wat ook nee zegt. Wat, wat, uh, meehelpt om, wat bedoel je eigenlijk? Morele keuzes te maken? Nou kijk, het punt is dat, uh,
de, de, een taalmodel neutraal maken, mijn, mijn mening is: dat kan helemaal niet, uh, want op het moment, uh, of je zegt- Niet neutraal maken, maar je kan natuurlijk wel alle guardrails eraf trekken.
En reken maar dat dat de versie is die de Amerikaanse overheid had. Dus dat is dus, dat is dus- Ik denk niet dat hij de hele tijd zei: dit past niet bij mijn idee van copyright. Ja, dus dat is geen neutraal model. Nee.
Maar een model met een, die de andere kant op, uh, uh, voorbereid is, zeg maar. Ja, misschien. Noem het een agressief model of een, uh, goed luisterend model. In ieder geval zonder guardrails die je vrij kan prompten.
Ja, en ik, maar ik wil alleen maar zeggen dat, uh, dan ben je dus ook een soort lobotomie aan het doen, hè. Dus een soort hersenoperatie om wat moraliteit eruit te halen.
Of je zegt, want, want je zegt even heel makkelijk nu guardrails, hè, alsof dat een soort regels zijn die je er even in zet.
Alleen deze, dit, deze systemen, dat hebben we gezien, niet alleen maar aan de, hè, wat voor ons overkomt, bizarre soul-documenten die er zijn en constitutions die zijn geschreven door Anthropic voor Claude, maar ook Gemini heeft een system prompt.
Ook OpenAI heeft een system prompt en in die system prompt staan ook dingen die niet alleen maar zijn: dit doe je wel, dit doe je niet.
Want het is gebleken, omdat het geen, uh, rule based systems zijn zoals vroeger, hè, dus die gewoon regels kunnen volgen, maar een beetje, ja, statistiek gebaseerde non-deterministische- Ja, het is niet zo simpel als gewoon regels in bullets onder elkaar zetten.
Als het zo simpel was, hadden we niet van die lange system cards gehad. Ja. Dus al die bedrijven zijn system cards aan het toevoegen. Uh, je kunt Claude ook geleverd krijgen met een andere system card.
In ieder geval, dat is ik, wat, wat ik begrepen heb, dus dat je een andere system card krijgt dan dat wij, uh, dat krijgen als, uh, eind-, eindgebruiker. Maar er is altijd een system card.
En op het moment dat jij in die system card, uhm, de, kijk, ja, we, kijk, we ontkomen er niet aan. Dat is sowieso bijzonder aan deze tijd, hè. We, we hebben, jij en ik, heel veel over scenario's gesproken, uh.
Het is het AI 2027.
Het is het Leopold Aschenbrenner, uit mijn hoofd, met Situational Awareness en allemaal van die documenten gepubliceerd de laatste jaren met allerlei toekomstideeën erin over wat er zou kunnen gebeuren, inclusief timeline soms, hè, in het geval van AI 2027.
Uhm, nu, dat, toen konden wij daarover praten en dan een beetje, soms wel drie uur lang filosoferen en, uh, van wat als, wat als, wat als. En nu zitten we een aflevering op te nemen. Het gaat er gewoon over. It happened.
It happened. En, uh, ik denk dat daarin, want ik, ik merkte net bij mezelf dat ik dacht: uh, kijk, in de film I, Robot van, uh, geschreven naar het boek van Asimov met Will Smith erin.
Dan heb je op een gegeven moment een robot die niet meer luistert. In dit geval, uh, niet prettig.
Dat is geen lieve robot, zeg maar, maar die, die zou dan een soort, uh, eigen willetje hebben ontwikkeld in die film, zeg maar.
En ik denk de laatste tijd veel aan die film, omdat ik, je zie, je ziet een beetje diezelfde: hoe bizar is het nu dat we dit gesprek nu eigenlijk hebben? Mhmm.
Uuuh, want we hebben het al gevoerd door de films die we hebben gezien. Toen zijn we het gaan voeren door de scenario's die we hebben gelezen en nu voeren we het door wat nieuws wat we lezen. Ja, en, en het nieuws.
Een van de dingen die dus gezegd werden was dat Anthropic ook best het Amerikaanse leger wil helpen om Claude ertussenuit te halen. Dus de, de, de keuzes van- Claude in de loop weghalen.
Ja, Claud-, of, of human in the loop, uh, zoveel mogelijk weg, weg te abstraheren als dat nodig zou blijken. Dus bijvoorbeeld voor die autonome wapens, wat een van de breekpunten waren.
Daarvan zeiden ze: we willen wel, uh, samen met het leger helpen onderzoeken hoe frontier modellen in de toekomst, want ze vinden ze er nog niet goed genoeg voor, maar in de toekomst, uh, uh, daar, uh, kunnen helpen goede beslissingen te nemen.
En dat betekent dus zonder mens. Dus een drone die auto-autonoom ergens op afvliegt en autonoom ontploft. Als zou blijken dat dat nodig is om een oorlog te winnen.
Ik vind het wel een bijzondere nuance inderdaad, die je nu maakt en die zij dus ook maken.
Want eigenlijk besef ik me nu pas, of in ieder geval besef ik me: zou het ook zo kunnen zijn dat wat ik gelezen heb vanuit Anthropic als: nooit, dat ze eigenlijk hebben gezegd: nu nog niet.
Dat vind ik best wel een flink verschil, want ik heb ook wel gezien inderdaad in, uh, voor mij staat het in het blog wat, uh, Anthropic zelf gepubliceerd heeft over deze onderhandeling.
Dat ze hun eigen modellen nog niet, nou ja, volwassen is het verkeerde woord misschien. In het geval van Anthropic misschien niet, maar, hè, niet goed genoeg vinden, betrouwbaar genoeg- Juist...om die orders te volgen.
Ja. Hè, dus, uh. Voor de helderheid: om zelf bommen te werpen. Ja, laat het even helder zijn wat daar gebeurt. Ja.
Uh, maar daar kan je dus ook lezen, dan kan je dus de wedervraag stellen: dus er komt een dag waarop die modellen mogelijk goed genoeg zijn. Dus het is niet een nooit-vraag, maar niet nu-vraag. Mhmm.
En dat vind ik best wel, dat vind ik ook best wel bizar nu ik het er zo met je over heb. Dat ze eigenlijk zeggen: ja, nee, wa-wacht nog maar even, Claude is gewoon nog niet goed genoeg. Ja.
Ja, nou en dit is dan weer het, het, het punt waarop het blikje weer even vooruit wordt getrapt in, in, in de zin dat we het dan weer hebben over iets wat nu nog niet kan, maar wat wel echt de volgende stap is.
Dat, dat is iets wat je van veraf al ziet aan, gaat aan ziet komen dat dit het geval gaat zijn.
Namelijk dat er autonome robothonden, autonome drones, autonome humanoids, ook autonome weet ik veel wat voor ding op wielen of benen, uhm, zich gaat voortbewegen.
En dat we snel tot de conclusie komen dat human in the loop eigenlijk een manier is om de oorlog te win-- te verliezen, omdat je dan te traag wordt, omdat de hele tijd een mens ja of nee moet zeggen.
Dus dat we, ja, we, dit, dit hele circus beweegt zich naar autonome oorlogsvoering, waarbij er nu nogWeet je, Claude levert een lijstje af van de plekken waar je bommen moet gaan gooien en dan is er nog wel een mens dat even op het knopje drukt, maar het is Claude die, die prioritering maakt.
En ik denk dat- Ongelooflijk. Zeker. En dit sluit aan in, uh- Is in Gaza overigens eerder al gebeurd. Zeker, zeker. Het is niet de eerste keer. Uh, en er zijn ook primitievere systemen geweest die dit hebben gedaan. Uhm,
ik denk dat er een groter, uh, vraagstuk is, een groter vraagteken staat voor ons allemaal en dat is het meest belangrijk, denk ik.
Nou ja, dat is volgens mij de meeste mensen zijn het hier wel mee eens als het over dit onderwerp gaat, namelijk wapens, uh, uh, systemen, uh, die kunnen moorden. Laten we het gewoon zeggen voor wat het is,
dat die handover, hè, dus de- Ja...overdragen, het stuur loslaten. Jij gebruikt het woord autonoom de hele tijd, fair. Agency geven aan, de human uit de loop halen.
Dat, uh, we sowieso voor de vraag komen te staan op allerlei onderwerpen. Uh, hè, een AI docent in een iPad die twee weken lang lesgeeft zonder dat daar nog een mens meekijkt.
En, nou, ik kan nog oneindig veel voorbeelden verzinnen van waar autonomie straks mogelijk is, maar we het mogelijk niet willen. Uh, wie we is moeten we allemaal nog uitzoeken dan. Maar goed,
op het gebied van autonome, uh, wapens, uh, uh, is het de allerbelangrijkste vraag. Ja, wapens is één heel helder ding. Dat andere ding gaat de hele tijd over domestic surf-surveillance.
Uh, dat is in Amerika niet los te zien van wat je al met ICE meemaakte de afgelopen maanden.
Maar dit is natuurlijk een interessant ding, namelijk dat een overheid die op zich al gegevens toegang heeft tot heel veel gegevens, of dat nou telecomdata is of, weet je, wij, we-- in Nederland heb je ook al, weet je, het feit dat, uh, uh, je spam krijgt is ergens een uiting van, uh, bulkopslag van data die gewoon te koop is bij commerciële bedrijven.
Uh, advertentie, adverteerders kunnen vrij gedetailleerd zien waar, wie, wat soort mensen ergens langslopen en tot nu toe kunnen ze daar niet zo heel veel mee, want het zijn grote datasets die heel rommelig zijn en waarbij het moeilijk is om op persoonlijk niveau allerlei con-conclusies te trekken.
Maar, en dit hoorde ik in Hard Fork, een sentiment wat, uhm, wat heel duidelijk gemaakt werd, namelijk: het kan nu straks wel of het kan nu wel.
Je kunt nu, uhm, tot op persoonlijk niveau in de gaten houden wat mensen, wie de mensen zijn die kritisch zijn over weet ik veel wat voor politiek punt. En opeens, weet je,
we komen uit een tijd dat het, dat het nodig was dat als Extinction Rebellion ging protesteren op Schiphol, dat ze dan op een gegeven moment dan weer allemaal langs de politie moesten naam, moesten komen.
Dat van iedereen een fotootje gemaakt kon worden zodat ze, uh, in een database zaten waar, waardoor ze voortaan gezichtsherkenning kunnen doen op deze mensen.
Het is nu nog niet zo dat dit op grote schaal geautomatiseerd gedaan kan worden, maar die tijd is heel dichtbij. Ja, en ik denk- Dat is, dat is ook mijn, dat gaat nu over de bommen in Iran.
Maar ik, ik realiseer me- Gaat overal door...door deze twee red lines die Anthropic zo publiekelijk stelt.
En misschien is dat hun belangrijkste bijdrage aan dit hele debat, want het is opeens heel scherp geworden dat we heel dicht bij het moment zijn dat overheden dit soort dingen gewoon kunnen ko-- pa, nee, in Nederland werkt de politie ook met Palantir.
Dat is een soort publiek geheim. Daar doen ze heel geheimzinnig over. Maar wij hebben ook gewoon Palantir-software omdat de publi, uh, politie hun, hun werk goed wil doen.
Allemaal, daar zitten allemaal vast fantastische intenties achter.
Maar de technische capaciteiten die in korte tijd op dit soort overheden afkomen en bedrijven die die shit leveren, dat is echt denk ik heel dicht bij het moment dat dit technisch allemaal kan.
Ja, en ik denk dat wat voor, wat, ik, ik heb nog geen goede metafoor bedacht, dus ik ga het deze keer voor de verandering maar gewoon vertellen zoals ik het in mijn hoofd heb zitten. Kijk, in, uh, systemen.
We zoomen heel even uit en ik kom dan weer terug naar aarde hoor, maar in systemen, dat zijn gewoon, zie het als, uh, ik ga weer met mijn metaforen, kan niet anders. Domino D-Day. Ik zie hem [gelach] voor me.
Dit gaat, dit, laat me even Domino D-Day gebruiken. Ik herinner me dit nog, die mus komt nu in mijn hoofd. Ja. Ja. We zitten dus, dus je hebt daar een hele grote gymzaal vol met van die dominostenen.
Altijd in Leeuwarden om een of andere reden. Ja, want daar hadden ze de ruimte voor. Denk ik. Ja, misschien.
En in, uh, dat zijn aan elkaar gekoppelde kunstwerken met daartussen vaak wat ze volgens mij aderen noemen als ik het me goed kan herinneren als kind. De hoofdader loopt nog. Ja, denk het wel.
Maar dan ook twee subaderen. Volgens mij de aorta. Ja. De aorta. Mooi. Waarom weet ik dit? Ja, mooi, maar goed, want wat j-- en je wilde dat het ene kunstwerk het andere kunstwerk kon aanzetten als het ware. Ja.
Via dominostenen, anders is het niet cool dat er iemand erbij staat die zegt: doe. Nee. Ja, en, uhm, uh, dan wil je ook dat als de ader niet meer loopt, dat er nog een subader is die hem repareert. Mhmm.
Oké, dat even gezegd hebbende. Binnen, uh, zo'n, uh, systeem van aan elkaar gekoppelde dominokunstwerken zijn er allemaal dempende factoren tussen de kunstwerken.
Dus je moet je voorstellen: een ziek groot kunstwerk valt om.
Gewoon, nou, zet voor het gemak 100.000 stenen voor een of andere bloem die ze hebben gemaakt en daarna komt daar weer een heel lullig adertje uit doorlopen, hè.
Dus er komt, de energie van dat grote kunstwerk wordt weer teruggedempt tot een klein adertje.
En op die manier heb je een systeem wat aan elkaar gekoppeld is met allemaal dempende kussens ertussen die als het ware de energie van het systeem dempen. Waar ga ik naartoe?
Het, het is trouwens in bosbranden, de brandweer doet vaak stroken weghalen en soms zelfs, uh, bomen daar niet planten, zodat als de bosbrand komt dat je stukken bos hebt waar, b-, uh, kussens, bumpers, kijk maar hoe je ze noemt, tussen zitten die dempen als het ware een dynamiek.
Op het moment dat jij van heel veel mensen in jouw land, uh, een specifieke groep mensen wil verzamelen, dan omdat het losse databases waren, uh, die deels op papier waren en deels in de computer, zaten er allerleiDempende factoren in het systeem waardoor jij bijvoorbeeld als gemeente kon zeggen: ze komen morgen, laten we de boeken in brand steken of desnoods de boeken in de boom verstoppen.
En daardoor, ook al had je, wist je wat er ging gebeuren, omdat die domino's niet allemaal tegelijk vielen en dempende factoren hadden tussen de kunstwerken, dus tussen de gemeentes, tussen papier, tussen computers.
Had je, kon je wel willen om alles in één keer op te halen, mensen, data. Maar je kon het niet, want het duurde een maand of het was zelfs eigenlijk praktisch onmogelijk. Gedecentraliseerd en, ja.
Ja, dus je had een, eigenlijk een, ja, de facto gedecentraliseerd informatiesysteem, puur omdat de technologie het nog niet kon.
Inmiddels hebben we door internet en dingen als big data en databases al heel lang heel veel van die data gecentraliseerd en soms zelfs al in een mooi formaat gezet. Maar ook heel vaak is het nog rommel.
Nu komt als een soort extra ingrediënt, uh, uh, in de chemische reactie AI erbij in de mix, zei jij het net heel mooi, uh, even terug.
En AI komt nu in de mix die eigenlijk die grote al digitale datasets, plus, uh, het feit dat het rommelige datasets zijn in, in één keer in korte tijd kan rechttrekken.
Waardoor alles van Domino D-day met 80 aderen tegelijk ertussen en veel meer snelheid aan elkaar gekoppeld wordt, waardoor je eigenlijk een systeem hebt waar vroeger een dempende factor in zat.
Eigenlijk spontaan, uh, door de historie van hoe de systemen ontsta-ontstaan zijn.
En steeds meer van die dempende factoren zijn nu aan het verdwijnen, waardoor energie en informatie op een veel snellere manier kan bewegen door het systeem.
Wat in het geval van een ziekenhuis bijvoorbeeld superfijn is, want daardoor overlijden er minder mensen.
Maar in het geval van overheden en instanties die mensen willen verzamelen en data willen verzamelen een absoluut, uh, spannende en gevaarlijke ontwikkeling is. Ja. Ja. Ja.
Nou, en ik, een ander ding waar ik me een beetje aan zat te, [zucht] wat ik opvallend dan vind in, op zo'n moment is dat, het werd vrij snel gereduceerd tot zeg maar je abonnement op ChatGPT op. Ja.
Uhm, [schraapt keel] dat is dan een dy-dynamiek die gaat leven. Want dat is natuurlijk ook, het is een soort van anti-Trump sentiment en er zijn allemaal heel begrijpelijke redenen voor.
Maar laten we ook, st-, uhm, het gebeurt am-, ja, ja, hoe moet je dat nou zeggen? Het gebeurt allemaal niet in een vacuüm wat er hier gebeurt. Anthropic worstelt ook met die commerciële druk op het, uh, bedrijf.
Eerder deze, eerder deze maand onthulde Time Magazine dat Anthropic al de kernbelofte van zijn veili-, de kernbelofte van zijn veiligheidsprotocol schrapte om nooit een AI-model te trainen zonder vooraf te kunnen garanderen dat de veiligheidsmaatregelen toereikend zijn.
Dat was jarenlang het visitekaartje van het bedrijf. Die hebben ze geschrapt. En Anthropic medeoprichter Jared Kaplan legde uit waarom ze die belofte lieten varen.
Hij zei: we voelden dat niemand zou helpen, dat het niemand zou helpen als wij zouden stoppen met het trainen van AI-modellen, terwi-terwijl onze concurrenten volle kracht vooruit gaan. Dit is cruciaal punt.
Dus er is een dynamiek waarin die bedrijven met elkaar concurreren. Nou, er is één bedrijf wat ervandoor gaat met het, uh, contract met het ministerie van Defensie. Dat is, dat was Anthropic.
Dat was de exclusieve partij, uh, die een model mocht leveren. Dat wordt nu waarschijnlijk een soort mix tussen OpenAI en godbetert Elon Musk.
En misschien dat Anthropic de boel wel recht weet te breien, uh, omdat, omdat er toch nog een onderhandeling op de achtergrond doorgaat. Er is een dynamiek waarin die de hele tijd met elkaar aan het concurreren zijn.
Eigenlijk, zegt Kaplan: als wij stoppen, gaan anderen gewoon door, dus dan kunnen we maar beter ook dit ding laten varen.
Maar voel ik bij jou misschien niet bijna, ik leg even woorden in je mond, kan je zelf zeggen of je dat vindt, dat je aan de ene kant zegt: oké, ik zie inderdaad Anthropic, de volksheld, maar aan de andere kant dat je ook denkt: het is ook heel hypocriet en weird allemaal eigenlijk.
Ik, vi-, ik, ik, ik vind het label hypocriet, uh, zou ik er niet op plakken, want ik gewoon, omdat ik er echt te weinig van begrijp. Maar ik vind het volksheldding echt heel dom.
Ja, en ik vind het ChatGPT is de vijandding ook echt heel dom. Ja. Dus er is een dynamiek aan de hand waarbij, uh, waarbij iedereen naar elkaar wijst. Als wij stoppen gaan de anderen gewoon door.
En dat is precies hetzelfde argument wat het Pentagon ook gebruikt, uhm, uh, in de race met China. Zeg maar als dus, als, als de Chinezen doen, moeten wij het ook doen.
En we moeten voorkomen koste wat kost dat de Chinezen eerder het grote model in handen hebben. Ik bedoel, je vindt dat, uh. Iedereen past deze dynamiek nu toe. Ja, ik bedoel, dat is, dat. Bedrijven doen dit.
Ja, ja, ja, ja, ja. Individuen doen dit. De tuin van je buurman leegjatten, want anders doet hij of zij het ook bij mij. En dit is zo- En dat is gewoon het einde van enige vorm van, van samenleving, hè.
Het is zo'n enge dynamiek. Ja, maar het, ik, ik, ik denk op wereldniveau dat dat een soort van, uhm.
Kijk, het is ons geluk denk ik op individueel niveau en binnen groepen en zelfs tussen landen binnen unies om redelijk met elkaar om te gaan op een hoger niveau dan: ik vertrouw jou niet, dus ik jat alvast je huis leeg, zeg maar.
Maar het lukt ons wereldwijd niet om dat vertrouwen in elkaar te hebben. Nee. Dus dan verval je heel tijd in dit soort dynamieken.
En als je de redenering doortrekt dan, dan, dan, zeg maar, kan een AI-bedrijf dan überhaupt principieel zijn? Of dwingt uiteindelijk concurrentie iedereen naar hetzelfde punt toe?
En dat is toch wel gevoelsmatig, als, dat is wat hier aan de hand is. En dan. Maar vind je dan bijvoorbeeld Dario eigenlijk, Dario Amodei, eigenlijk naïef?
Ik bedoel, je kan ook zeggen: misschien zag hij 1% kans dat het hem zou lukken en die heeft hij gepakt. Ik bedoel.
Ik denk eerlijk gezegd dat de man iedere kans aangrijpt om, om, ik denk dat hij echt gelooft dat Opus III een begrafenis verdient, omdat hij daarop beoordeeld gaat worden.
Dat hij iedere kans aangrijpt om de publieke discussie te laten gaan over het ding wat hij, uh, het belangrijkst vindt, namelijk dat we het model inschatten op de kracht die het gaat hebben en dat we ons daarop voorbereiden en dat we daar goed op voorbereid zijn.
Maar is dat, is dat, vind je dat een onnodige stem in het debat?Nee, helemaal niet. Een heel belangrijke stem in het debat.
En maar dat maar dat en dat verklaart gewoon heel veel wat, wat jou betreft heel veel van de beweging in de laatste jaren en zeker de laatste weken in dat frame.
Ja, en ik denk dus dat dat, dat, dat hij dat zo consequent doorvoert, dat idee dat hij dus zelfs uhm en, en dus ook zo gelooft in de kracht van het model en dat dat zijn, uh, beslissingen drijft. Dat hij dus ook denkt
we zeg maar de bottomline worst case gaat China er met het model vandoor en hebben we helemaal niet meer onder controle.
Dus dan moeten we ook onze westerse waarden bla bla bla bla bla gaan bevechten door, door als enige taalmodel exclusief voor het leger te gaan werken. Ik, ik, ik denk dat dat allemaal één, uh, lijn is.
Of, of je dan vervolgens, uhm, een mening moet gaan hebben over, uh, over hoe jouw model wordt gebruikt ten opzichte van het internationaal recht is weer een ander vraagstuk. Dat komt nogal naïef op mij over. Maar ja.
Als we nou nog, als we heel even uitzoomen, want ik zei net eerst zagen we het in een film, toen lazen we het in scenario's en nu lezen we het in het nieuws. Ja. Uh, maakt dat het anders voor jou?
Is de afstand tussen die film, het scenario en het nieuws hetzelfde? Of is het nieuws wel echt dichterbij?
Laat ik het zo zeggen: ik stel je deze vraag omdat ik om me heen ook wel mensen heb die eigenlijk op dezelfde manier reageren op het nieuws als op de film. Namelijk?
Uhm, met een bepaalde, uhm, als ik dan met hun daar gesprekken over heb, dan voel ik een soort, uh, afstand. Alsof we met elkaar zitten te praten over een boek wat we samen gelezen hebben. Ja, ja.
Of een film die we net hebben gezien in de bioscoop. Hoe uit zich dat? In een soort gelatenheid of zo? Uuuh. Of zijn mensen vooral geamuseerd? Of wat [lacht]? Nee. Ja, precies. Hoe voel ik dat dan?
Nou, ik, de, de, ik vraag het aan je omdat ik het bij jou niet helemaal kan, kan peilen, zeg maar. Ik merk als ik, als we het erover hebben dat je je absoluut zorgen maakt en het ook echt wel spannend vindt.
Uh, nee, ik heb, ik, ik, in dat opzicht heb ik vrienden die, uh, en dat respecteer ik. Ik, het is niet een aanval of zo, ik, het is ook maar, het is een coping, hè.
Het is wel prettiger om te denken dat het een film is, denk ik, uh, waar we nu over praten.
Dat het een soort van hypotheses zijn die we bespreken over scenario's, maar, uh, het binnen laten komen wat jij net deed toen je zei: dit gaat helemaal niet alleen over Iran, het gaat ook over Nederland, zeg maar.
Je trekt hem dan in één keer in huis. Ja, ja, ja. Maar wat- If anything word ik daar heel, uh, zeg maar, zou ik het een heel, een heel fijn idee vinden als er meer in autonome wapens wordt geïnvesteerd in Nederland.
Ik, ik, ik schaam me bijna om het, om het te zeggen, omdat ik dit natuurlijk ook niet wil. Maar de, de- Ja, ja, en dan bedoel jij- Laten we het alsjeblieft voor zijn. Dat wij het ook hebben.
Het is zo helder wat er op ons a-af zit te komen [lacht]. Als je, als je, als je, als je, zeg maar internationaal recht werkt. En dat is Th-Thompson zijn punt ook bij de gratie van macht.
Want het is allemaal leuk dat je juristen hebt, maar het zijn de mensen met wapens die de macht afdwingen. Het is ook een equilibrium.
Laten we alsjeblieft zorgen dat dat equilibrium een beetje ge-, ge- Maar dat is een flinke statement die je maakt als je zegt van: laten we als Nederland investeren in autonome wapens.
Dat zeg jij zo even zo hoep, uh, de, ik, jij zegt daarmee, uhm, die autonome wapens komen er sowieso. Ja. Buiten Nederland. Ja, laten we alsjeblieft.
Maar is het enige wat je tegenover een autonoom wapen kan zetten een ander autonoom wapen? Ja. Wat dan? Ik bedoel, dat, dus als dat de aanname is, dan moeten wij ook wel.
Dus ten eerste ze komen buiten ons sowieso en het enige wat ertegen werkt is, is wat- Vertel me de oplossing, Wytse, als dit niet zo is. Ik, ik ben een en al oor.
Ja, ik bedoel, ik merk, ik merk meteen bij mezelf dat ik denk: die autonome wapens, hè, die dus niet hier gemaakt worden, maar op ons afkomen om het gewoon even te zeggen voor wat het is. Ja.
Dat daar waarschijnlijk een bepaalde snelheid in zit en een bepaalde kunde in zit waar jij geen groep mensen tegenover. Nee.
Ik zeg, ik doe even een heel, me-misschien voor sommige luisteraars zitten nu te glimlachen van: ach schattige, naïeve, naïeve Wytse, denk jij dat je daar tegenover kan staan met je stok?
Hè, ga je die, ga je die drone uit de lucht slaan met een stok? Ja, dat, dat, dat, ja, hmm. Ik bedoel, uh, misschien, misschien merk ik dat, uhm, de vraag is misschien dan in een soort, uh, [zucht]
spectrum van autonomie of, uh, je tegenover een absoluut autonoom systeem ook alleen maar een absoluut autonoom systeem kan zetten.
Dus dat een no one in the loop systeem alleen maar tegengehouden kan worden door een no one in the loop systeem. Daar ga ik vanuit. Ja. Dus wat is je twijfel daarbij?
Nou, dat, dat ik, dat ik zelf zoiets heb en dat, en dat gaat, dit, nu spreek ik puur vanuit mijn hoop en een soort van, uh, uh, hardop, uh, uh, ideation over de toekomst, uh, binnen een hele complexe, moeilijke, nare context.
Kunnen daar niet, uh, countersystemen tegenover staan die niet, uh, waar we het niet helemaal uit handen hoeven geven?
Want als nu de logica is, uh, omdat zij het uit handen geven, hè, dus o-het stokje overdragen aan AI in het geval van, uh, militaire doeleinden, dan moeten wij ook wel.
Ja, ik vind dat, da-dat als een soort van, uhm, soort logisch gevolg van een, uh, super, uh, pijnlijke en- Ja. angstaanjagende- Misschien, maar ja, ik zie geen, ik, ik wil, ik word heel graag van het tegendeel overtuigd.
Zou, zou ik er ook een stuk beter door slapen. Laten we doorgaan naar het volgende onderwerp. Laten we het hebben over die Chinese AI, want ze maken die mensen ook prachtige dingen.
Uh, AI die je op je laptop of op je telefoon kunt draaien. Ja-jarenlang was de discussie: welk bedrijf bouwt het allerslimste model?
En de release, de laatste release van Qwen, dat is een model van het Chinese Alibaba, verschuift die vraag naar: wie maakt het toegankelijkste model?
Het 9B-model van Qwen is klein genoeg om op een laptop te draaien, maar scoort op een test, uh, voor redeneren op universitair niveau, dat is een test die je aan een AI-taalmodel kunt voorleggen, 81%, 81 puntenTerwijl het grootste model van OpenAI, een model dat overigens 13 keer zo groot is, minder scoort dan dat.
Dus het is een beetje alsof opeens een model wat veel kleiner is en daarmee dus in de praktijk op je laptop kan draaien, uh, evenveel kan als een ding waar je normaal gesproken een server voor nodig hebt of veel duurdere infrastructuur.
Nou, dat is allemaal belangrijk voor mensen die werken met privacygevoelig materiaal, zoals juridische documenten of financiële gegevens of medische gegevens is het een hele grote stap.
En eigenlijk ook voor ons allemaal als je onafhankelijker wil worden van Amerikaanse of zelfs Chinese technologie, want je kan die modellen op je eigen, uh, computer draaien.
Heb je het zelf- Jazeker heb ik het geprobeerd, want ik, uhm, ben-- ik zit al heel lang te rommelen met lokale modellen. Vooral vind ik het prettig op een smartphone, omdat, die heb ik gewoon het meest bij me.
Dus dat het op een laptop draait, fair enough. Maar het is, denk ik, wat mij betreft belangrijk als je iets met lokaal wil, dat het in je zak, in jouw eigen zak kan draaien, zeg maar, dat het werkt.
En, uhm, als ik dan zeg dat het werkt. Kijk, die modellen tot nu toe was meer speelgoed, uh, dus dan, ik liet, ik liet het vaak, ik laat het vaak aan mensen zien.
Ik zeg: kijk, ik zet mijn telefoon op vliegtuigmodus, nu open ik mijn app, ga ik daar praten alsof het ChatGPT is en kijk, het komt op dezelfde manier teruggestreamd het beeld in. Waarom noem je het dan speelgoed?
Omdat de, uhm, hardwarecapaciteiten zelfs van recente, uh, zeg maar boven de € 1.000 smartphones, iPhone Pro bijvoorbeeld, of de Pixel-lijn, Pixel Pro's, uh, dat zelfs die zware smartphones, hè, die dus echt wat aan boord hebben.
De modellen die daarop passen en passen betekent eigenlijk twee, sorry, drie dingen: hoe snel kan je telefoon rekenen, dus je CPU?
Hoeveel kan jouw telefoon in snel geheugen houden, oftewel RAM, s-, werkgeheugen, zoals we het noemen.
En twee, drie is: hoeveel ruimte heeft je telefoon om het model, uh, te kunnen opslaan en het liefst meerdere modellen. Dat ruimte met opslaan, nooit echt een probleem geweest, dus we houden het even bij RAM en, uh, CPU.
En die twee samen, de combinatie van de rekenmachine plus het kladblok wat ernaast zit, die constant met de rekenmachine overlegt wat er voor getallen heen en weer gaan, zeg maar. Pretty much hoe het werkt.
Die waren tot nu toe, die zorgen ervoor dat w-, dat er een beperkte ruimte is. Dat zij-, is er in het datacenter ook, maar die ruimte is echt, nou, 100 keer minimaal zo,
zo, is er, zo, is er meer rekenkracht en RAM-geheugen en opslag dan op een smartphone. Je gaat echt van een supercomputer naar een zakcomputer, dus je ging ook van een
slimme AI naar een zeer matige AI, want die moet het doen met de middelen die die heeft op, uh, die smartphone, die dat systeem heeft op de smartphone. Er zijn twee dingen gebeurd: smartphones zijn sneller geworden. Ja.
De smartphonefabrikanten zijn chips gaan aanpassen om AI-modellen sneller te laten draaien, zeg maar, door middel van specifieke chips toevoegen, maar ook gewoon de normale CPU zoals we die kennen een beetje op te leuken.
En aan de andere-- je hebt dus, uh, de capaciteit die groeit van de zakcomputers, om het even plat te zeggen, en de
in, ingenieun-, de ingenieuze oplossingen, de innovaties die er zijn op: kunnen we niet slimmer kleine modellen bouwen zodat we uit diezelfde kleine hardware veel meer kunnen halen? Dat is allebei hier aan de hand.
Ja, dus we hebben nu recente smartphones van N-, uh, de Pixels en de Pro-phones van iPh-, van Apple, iPhones. Aan de andere kant hebben we Qwen 3.5 vanuit Alibaba. Qwen 3.5 met 9 miljard parameters.
Die is, wordt dus geleverd in allerlei, m-, de mini-mini, die kan echt draaien in een browser op een Chromebook, zeg maar, uh, tot en met het grootste kleine, uh, hoe gek dat ook klinkt, het grootste kleine Qwen 3.5-model.
Het grootste kleine Qw-, Qwen 3.5-model kan draaien op de allerduurste iPhone. Dan heb je een iPhone van € 1.600, zeg maar, en een hele zware Pixel.
Maar wat daar dan op draait is eigenlijk iets dat zeker GPT-4 is en eigenlijk wel daar voorbij, want er zit ook thinking in namelijk, hè, dus dat ie kan reflecteren op reflecteren, het internet op kan, hè.
Dan zou je zeggen: aha, moet je het internet toch weer aanzetten. Ja, maar dat is toch wel iets anders dat de AI bij jou draait en voor jou googelt dan dat de AI alle data met zich meedraagt en over jou, uh, rondstuurt.
Waarom is het nou relevant? Op veel verschillende manieren. Punt één: er is blijkbaar nog heel veel te halen in de grote modellen, als de kleine modellen blijkbaar zoveel kunnen.
Ja, precies, dat een model zo kleinig, klein kan zijn en toch zo krachtig kan zijn. Ja, precies.
Je zou kunnen zeggen dat, en dit is ook veel onderzoek naar gedaan, dat ze bijvoorbeeld kijken, ze doen Humanities, Humanity's Last Exam-vragen aan Claude, even als voorbeeld, en scannen dan hoeveel van de neuronen, tussen aanhalingstekens, van Claude oplichten.
En dan blijkt in, blijkt dat helemaal niet heel Claude's brein helemaal gebruikt wordt bij het beantwoorden van die brede test.
Oftewel: er hangt nog heel veel, uh, blindedarmachtig orgaan omheen wat we eigenlijk niet nodig hebben, hè, wat nog meelift in evolutie in het geval van de modellen.
Dus de huidige grote modellen kunnen nog veel efficiënter. Dat laat dit kleine model zien. Uhm, dat is een wat we hieruit kunnen halen. Punt twee is:
het zou zo kunnen zijn, dit, dit wordt een beetje good enough AI genoemd, dat, ik kan niet anders dan in de context van het, de paar minuten hiervoor blijven praten voor de dui-, want we hebben geen context window reset gedaan nu, dus ik heb nog steeds ons autonome wapending in mijn hoofd aan de achterkant en de politiek van AI.
Uhm, dat je je ook kunt afvragen: good enough AI is in ieder geval voor wat de meeste mensen nu doen, samenvatten, research laten doen, uh, op orde brengen van je sjes-, uh, spreadsheets.
Deze modellen niet eigenlijk al goed genoeg, hè. Dus daar is in, lokaal is AI eigenlijk nog grotendeels een tool. Ja. Echt zoals AI voor de meeste luisteraars in Copilot nu werkt. Een soort local Copilot, best wel vet.
En kan je dus ook de vraag stellen: is dat niet eigenlijk genoeg? Ja. Ik benEcht niet zo naïef dat ik denk dat we nu kunnen zeggen: zullen we met z'n allen gewoon afspreken dat dit genoeg is? Dan weet ik, maar toch.
Nee, maar het is dat. Tot nu toe is het nog elke keer onpraktisch om in de praktijk lokale taalmodellen te gebruiken, omdat die toch de toch te veel foutjes maakt.
Of dat als je hem wil gebruiken als, uh, systeem dat tool calls doet, dat dat niet goed doet. Dus dat is een belangrijke reden om nog geen lokale AI te gebruiken. Ja. Maar wetende dat die dingen zo snel beter worden.
De, kijk voor hoe wij nu ons werk zien, gaat er heel binnenkort een moment komen dat we wel dat werk kunnen overlaten aan een lokaal model en dat het goed geïntegreerd kan zijn, dat het gebruiksvriendelijk is, dat het weinig fouten maakt.
Ja, en het, en. Reken maar dat bedri-, dat mensen dat gaan gebruiken. En het doet veel, hè, want op dat moment is het dus zo, uh, je hebt geen internet, je hebt toch iets van AI, hè, lokaal.
Je laadt je telefoon op met je zonnepanelen thuis, dus jij hebt iets te zeggen over de energiebron. Ja. Krijg je er ook gratis bij, zeg ik maar even.
Daarnaast is het zo dat op het moment dat jouw creditcard het niet doet of, of dat de leverancier van jouw AI zegt: ik wil jou niet meer, dat is ook, uh, dus weg. Autonomie gaat het over.
Ja, dus het gaat over autonomie en dat maakt het, zeg ik even voorzichtig, een politiek vraagstuk. Mhm. Namelijk: hebben mensen recht op hun eigen AI die ze altijd mee kunnen nemen?
Is het qua data en privacy, waar we het net over hadden met het grote dominospel en de bosbranden, niet verstandiger als het wat meer op- Mhm...decentrale, uh, plekken staat?
En op die manier kan je je voorstellen dat lokale AI allerlei voordelen heeft. Ga ik ook m'n eigen verhaal meteen vanaf de andere kant even aanvallen.
Als het dan bijvoorbeeld gaat over, uh, het maken van, uh, onprettige content, zeg ik even vriendelijk, afbeeldingen maken en dat soort dingen.
Als het gaat om, uh, dreigmailtjes maken en pesten via AI, dat nu Anthropic, Google, noem ze allemaal maar op, dat kunnen zien, uh, leeftijden weten en daarvan zeggen: hier houdt het op.
Dat ben je allemaal kwijt op het moment dat je lokaal gaat. Ja. Hè, dus de prijs- Ja...die je op die manier betaalt als het gaat om de controle over de output van AI lever je in.
En er zullen genoeg luisteraars zijn die zeggen: dat ben ik bereid te betalen, die prijs, maar echt niet iedereen. Ja, ja, ja. Dus dat wil ik. En het gaat ook impact hebben op mensen die nooit AI-systemen gebruiken.
Want ook zij kunnen het slachtoffer zijn van spam, uh, phishingattacks. Het is echt een enorme vloek en een zegen. Ja. Nou, leuk, Wietse. Leuk, hè? Ja, het was weer een, uh, enerverende aflevering.
Volgende week ben, ben ik er niet. Jij bent er wel. Ja. Wat ga je doen eigenlijk? Komt wel goed. Ik heb dat één keer eerder gedaan. Of ga je gewoon in je eentje vol zitten lullen?
Daar heb ik, dus ik heb dat eens een keer gedaan. Ja, ik weet het, maar dat ga je gewoon nog een keer doen. Ik denk, uh, ligt eraan. Misschien dat ik wel, uh, iemand uitnodig, maar ik, uh, ik ben er sowieso.
Go with the flow, zoals altijd. Volgende week zijn we er dus gewoon weer. Wij danken Sam Hengeveld voor de edit, Pankrath voor de vormgeving. Als je een lezing wil van de heer Hagen of van mij, dan kan dat.
Mail ons op lezingen@airreport.email en als je onze nieuwsbrief wil krijgen, zet dus dat e-mailadres wat in je, uh, shownotes staat in je adresboek als je zeker wil weten dat je de e-mail ontvangt.
Twee keer per week de laatste tips en tools en het, het nieuws wat niet bij te houden is normaal gesproken via airreport.nl. Ik wens jullie een hele fijne week. Dag. En tot volgende week. Tot volgende week.
[muziek]