WEBVTT

1
00:00:00.280 --> 00:00:08.380
Welkom bij AI Report, de Nederlandse podcast over kunstmatige intelligentie, waar we uitzoeken welke invloed AI heeft op ons werk, ons leven en de samenleving.

2
00:00:08.420 --> 00:00:14.399
Met deze week, en het was me een week: Anthropic weigerde te buigen voor het Pentagon. Dat heb je in de krant gelezen.

3
00:00:14.840 --> 00:00:21.680
Trump zette in reactie hierop Claude op de zwarte lijst en maakte Claude hiermee onbedoeld de populairste app in Amerika.

4
00:00:22.560 --> 00:00:33.000
En een Chinese AI die bijna net zo slim is als ChatGPT, draait nu gratis en volledig privé op je laptop of telefoon. Wij vertellen hoe. Dat en meer in AI Report. Veel plezier!

5
00:00:43.360 --> 00:00:56.420
[muziek] Wietse, ik heb deze week toch weer een dingetje gemaakt. Ik heb mijn eigen e-mail CLI tool gemaakt, dus een mailprogramma in de terminal. Waarom terminal? Kijk,

6
00:00:57.660 --> 00:01:03.500
dit voelt voor mij dus als de ultieme revanche, want ik, ik ben altijd een nerd genoemd.

7
00:01:04.300 --> 00:01:09.500
Kijk, op de middelbare school natuurlijk, dat was minder gezellig en toen kwam ik bij de wereld uit, door, het werd een soort van geuzennaam.

8
00:01:09.840 --> 00:01:20.300
Maar ik heb natuurlijk altijd een soort jaloezie gehad ten opzichte van de echte nerds, want die kunnen namelijk programmeren. En voor mij is de ul-, het ultieme visuele symbool voor de echte nerd, is de terminal.

9
00:01:20.380 --> 00:01:29.420
Ik heb dat altijd gezien als iets wat, weet je, ik, ik kon daar nooit bij. Dat was een soort van clubje met een rode, rood, rood lint eromheen en ik mocht daar niet naar binnen.

10
00:01:29.440 --> 00:01:43.220
Ik begreep niet wat daar gebeurde en nu begrijp ik de terminal voor het eerst sinds de kerstvakantie en maak ik dingen in de fucking terminal, Wietse. Dus ja, GUIs. Ik, ik ben ver gekomen.

11
00:01:43.260 --> 00:01:55.500
Jij ziet de code van The Matrix. Ja, zo is het. Nee, ik, uh, ik zal je vertellen wat ik wil, wat ik wilde hebben, want ik, be-, ik, het is een soort tweede natuur aan het worden om software te gebruiken op mijn computer.

12
00:01:55.920 --> 00:02:03.480
Dan te constateren: ik vind het eigenlijk helemaal niet handig werken. En dan gewoon te bedenken: maar wacht, ik kan het maken. En e-mail is daar zo'n voorbeeld van.

13
00:02:03.520 --> 00:02:07.600
Ik vind eigenlijk alle e-mailapps op de planeet irritant, want bijvoorbeeld

14
00:02:08.720 --> 00:02:22.260
sinds ik Claude heel veel gebruik om e-mails mee te draften, kom ik erachter dat, nou ja, sowieso is het copy-pasten van dingen tussen drafts en e-mails natuurlijk irritant, maar sommige e-mailapps hebben nu zo'n ingebouwde mailgenereerfunctie.

15
00:02:22.320 --> 00:02:28.020
Dan, dan schrijf je een paar sleutelwoorden op en dan genereert dat ding daar een e-mail bij. Shortwave is een voorbeeld van zo'n tool.

16
00:02:28.980 --> 00:02:38.160
Probleem daarvan is: als je een volle mailbox hebt, dan moet je dus gaan zitten wachten per e-mail dat dat ding dat gaat genereren. Dus ik heb dan een mailtje van jou gekregen. Ik zeg: ja, is goed, Wietse.

17
00:02:38.580 --> 00:02:47.680
Dan genereert dat ding dat e-mailtje, uhm, maar dan zit ik toch stiekem 5 of 10 seconden te wachten op totdat ie dat mailtje heeft gegenereerd. En ik wil dat eigenlijk niet.

18
00:02:47.720 --> 00:02:54.740
Ik wil, ik dacht: wat ik wil, is ik wil een mailtool waar ik alle mails zie en dat ik dan kan zeggen: ja, is goed.

19
00:02:55.120 --> 00:03:10.160
Dat ie dan op de achtergrond in een los mapje drafts gaat zitten maken, maar dat de mail dan wel uit mijn inbox verdwijnt en dat ik dus eerst mijn inbox leeg werk, triage doe en dat ik dan daarna de drafts folder ga bekijken en ga kijken: wat heeft ie allemaal gemaakt?

20
00:03:10.200 --> 00:03:17.840
Nou, dit moet zo, dit moet zo, dit kan er eigenlijk zo wel uit. Prima, dit moet nog een beetje zo veranderen. Dat was mijn eerste plan, dus dat had ik gemaakt. Ik, ik zat in de trein.

21
00:03:18.320 --> 00:03:26.300
Die treinrit was genoeg om dit te maken. Het was toen ook al een terminal tool. Ja, ik had het gewoon bedacht als- Een e-mailclient in de terminal. Nou, eigenlijk wel, want het is best wel makkelijk.

22
00:03:26.360 --> 00:03:35.260
Ik zeg gewoon, want ik hoef ik helemaal niet na te denken over hoe de interface eruit moet gaan zien. En ik bescherm mezelf ook, want ik weet als ik eenmaal die tool heb, krijg ik veel meer ideeën.

23
00:03:35.640 --> 00:03:44.480
Ik moet niet al een interface gaan bakken voordat ik eigenlijk weet wat die tool gaat worden, want, hè, ik, ik, ik zal niet te veel op de zaak vooruitlopen, maar het is veranderd naar iets veel groters.

24
00:03:45.220 --> 00:03:49.800
Want toen dacht ik opeens: uh, nou, leuk dat ik zo snel e-mailtjes kan afhan-afhandelen.

25
00:03:49.860 --> 00:04:00.400
Werkt perfect, maar eigenlijk wil ik ook dat ie die mails samenvat, want ik, die hele thread, ik heb geen, eigenlijk helemaal geen zin om dat a-, ik heb heel vaak dat ik niet meer weet wat er nou precies eerder gezegd is en zo.

26
00:04:00.460 --> 00:04:07.560
Dus ik zeg: ik wil ieder mailtje eigenlijk beginnen met een samenvatting en voor mij is een goede samenvatting X, Y, Z. Ik ga nou helemaal uitleggen.

27
00:04:08.060 --> 00:04:17.399
Wordt er, wordt er van mij een handeling verwacht, dan moet je dat vooraan zetten. Als er context van mij verwacht wordt die ik moet kennen, dan moet je die opzoeken. Nou, bla, bla, bla. Doet ie keurig.

28
00:04:17.720 --> 00:04:27.760
Komt er een samenvatting boven, waardoor ik nog makkelijker dingen kan doorvoeren. Dan denk ik opeens: ja, ik krijg heel vaak mailtjes waar ik nu niet iets mee moet, maar wel een keer iets mee moet.

29
00:04:27.780 --> 00:04:30.740
Dan wil ik dus eigenlijk dat het geen mail is. Dan wil ik dat het een to-do ding is.

30
00:04:31.120 --> 00:04:41.680
Dus dat ding v-vertelt dan, dan kan ik gewoon zeggen: taak en dan zeggen: enter en dan verwerkt ie die e-mail tot een taak volgens de principes die ik hanteer voor wat een taak is.

31
00:04:42.160 --> 00:04:49.240
Dus dat ik nog een YouTube-filmpje moet kijken of wat dan ook en dat gaat dan naar mijn takenprogramma. Soort Getting Things Done, maar dan een interface ertussen.

32
00:04:49.280 --> 00:04:55.340
Want ik bedoel in Getting Things Done is het natuurlijk mailboxen leegmaken, taken herkennen, blokkers herkennen en dat ben jij.

33
00:04:55.360 --> 00:05:02.500
Dus het is waarschijnlijk dat jij een soort A-Alexander Klöpping versie van Getting Things Done door de jaren heen ontwikkeld. Want je bent het dan niet met alles eens, maar sommige dingen wel. Ja.

34
00:05:02.880 --> 00:05:11.150
En, en eigenlijk ben jij je eigen triage om aan het zetten in een stukje software. Ja. En je bent begonnen op de terminal. Wat ik gewoon nog steeds fascinerend vind. Ja, dat vind jij leuk.

35
00:05:11.160 --> 00:05:12.940
Je had ook kunnen beginnen bij een webinterface.

36
00:05:12.960 --> 00:05:24.120
Had gekund, maar ik, ik, uh, wat ik hier leuk aan vind, is dat ik, m-, gedwongen word om na te denken over de kern van de zaak, namelijk: welk probleem ben ik aan het oplossen hier? En hoe doe ik dat zo simpel mogelijk?

37
00:05:24.160 --> 00:05:33.040
Ja, d-d-dan, want ik denk dat je, ik vind het wel heel leuk, uh, sowieso je net hoe je uitlegde van nerds en echte nerds. Ja, maar nu mag ik in jouw wereld. Ik ben in jouw wereld voor mijn gevoel.

38
00:05:33.070 --> 00:05:34.940
Het is heel goed voor mijn gevoel van eigenwaarde.

39
00:05:34.960 --> 00:05:46.920
Nee, maar je kunt je ook voorstellen dat, uh, eigenlijk wat er gebeurt op het moment dat jij, uh, zonder interface, dus zonder visueel iets, heel ruw begint op die terminal.

40
00:05:47.340 --> 00:05:55.380
Dat je daardoor ook in je denken over wat je wil, heel goed gedwongen wordt om het heel, uh, heel helder te houden wat je wil.

41
00:05:55.420 --> 00:06:08.140
Dus ik vind het, zeg maar, het, daarom snap ik nu eigenlijk waarom jij op de terminal begonnen bent. Als ideation over: wat wil ik eigenlijk, is die terminal een hele goede li-, er zit hele goede ingebouwde limiet in.

42
00:06:08.170 --> 00:06:18.088
Ja, het beperkt je. Ja, die scoopt als het ware jouw gedachtenproces. Ja.Het is wel uit de hand gelopen. Nou, wat ik nu dus merk, is dat ik, uhm, ik gebruik hier, uh, Conductor voor.

43
00:06:18.228 --> 00:06:28.028
Dat is een relatief nieuwe programmeertool voor Mac waar je, uh, nou, je kan gemakkelijk verschillende projecten tegelijkertijd doen.

44
00:06:28.068 --> 00:06:36.438
Doet er verder niet zo heel veel toe, maar wat ik in de, in de praktijk merk hoe ik het gebruik is dat die app, die heeft de terminal ingebouwd, zoals veel van die programmeertools de terminal hebben ingebouwd.

45
00:06:37.008 --> 00:06:46.088
Maar in feite zorgt het ervoor dat ik rechts mijn app heb in die zijbalk, zeg maar. En links ben ik de hele tijd tegen die app aan het praten. Dus je hebt twee abstractieniveaus.

46
00:06:46.108 --> 00:07:00.468
Je gebruikt de app, ik doe gewoon mijn e-mail, maar elke keer als ik er tegenkom dat iets niet werkt of dat ik, uh, vind dat iets eigenlijk anders zou moeten werken, dan kan ik in het venster ernaast direct zeggen: kijk even mee, want dit klopt niet vriend.

47
00:07:00.648 --> 00:07:12.508
Of hij loopt vast. Of, uh. Ja, het is eigenlijk omdat, uh, taalmodellen, code-codemodellen zo ongelooflijk thuis zijn in de terminal. Ja. Als jij daar ook software in aan het maken bent- Ja.

48
00:07:12.588 --> 00:07:21.388
dan word je en beperkt in je nadenken op een goede manier. En jouw AI die de tool aan het bouwen is, spreekt de taal van de tool. Hij ziet gelijk als het misgaat. Ja.

49
00:07:21.418 --> 00:07:25.288
Ja, dus het is een soort loopje waarin hij zichzelf makkelijk beter kan maken.

50
00:07:25.328 --> 00:07:39.828
Ja, nu snap ik, toen ik jou eerder vandaag vertelde dat je Chrome kunt koppelen aan Claude Code, dat Claude kan meekijken in Chrome, zag ik jouw ogen opengaan omdat ik dacht: jij hebt door dat dat loopje, dat je dingen maakt en dat Claude de browser kan zien, dat het loopje zo belangrijk is.

51
00:07:40.028 --> 00:07:53.338
Ja. En bij de terminal is het loopje eigenlijk meteen gemaakt. Juist. En, uh, dit is dus uitgegroeid tot een soort tool die mij nu, uh, als een soort van, ik, ik, nu wil ik dat alles hier binnenkomt. Hoe heet deze tool?

52
00:07:53.338 --> 00:08:00.358
Hij is e-mailbot, maar nu wil ik dus ook dat mijn, het is eigenlijk een slechte naam. Ja. Ik wil ook dat mijn WhatsApp-berichten hierop binnenkomen, want het is ook allemaal een ruis in mijn leven.

53
00:08:00.358 --> 00:08:06.608
Dit is een soort Grand Central Dispatch zou Apple zeggen. Dit wordt het. Toch? Het is zo'n, uh. Dit wordt mijn centrale verkeerstoren voor alles. Ja.

54
00:08:06.668 --> 00:08:14.418
En dat is niet alleen dat ik de taken naar kan wegschrijven, maar ook dat hij daarin bin-- dit wordt fantastisch, Wytse. Ik heb echt al jaren droom ik over.

55
00:08:14.428 --> 00:08:24.768
Maar het vette is dus dat het eigenlijk, om, uh, niet OpenAI is en niet Claude Bot. Dat je toch hebt gedacht: ik maak eigenlijk, want je bent, je haalt een subset nu uit van wat OpenAI kan. Ja.

56
00:08:25.048 --> 00:08:32.388
En daar ben ik om eerlijk te zijn heel blij mee dat je dat doet. Dat ik het in mijn eigen omgeving doe. Nee, maar ook omdat je er wat meer bij bent nu en erin bouwt wat je echt nodig hebt. Ja.

57
00:08:32.568 --> 00:08:40.708
In plaats van dat je een Zwitsers zakmes installeert op een Mac mini en zegt: good luck everyone. Nee, zeker. Dus ik ben blij dat jij een op maat gemaakt, maakte tool aan het maken bent.

58
00:08:40.788 --> 00:08:50.568
Ja, en ik ben de hele tijd heel bewust allerlei extra tools bij en trekken stuk voor stuk om dan te kijken en dan uiteindelijk wordt het een interface. Ja, weet niet. Ga ik het verkopen? Word ik rijk?

59
00:08:50.588 --> 00:08:55.088
Ga ik in Dubai wonen? Uhm, we hebben nog wat administratie om af te handelen.

60
00:08:55.168 --> 00:09:11.048
Zo is er een masterclass die wij zojuist gegeven hebben, Wytse, over, uh, jij hebt laten zien hoe jij een familiekalender inclusief Harry Potter Weasley klok hebt gemaakt voor, uh, betalende abonnees van AI Report.

61
00:09:11.618 --> 00:09:19.448
Wytse heeft laten zien hoe je, als je in je gezin wil weten wie is naar voetbal en wie is naar, uh, weet ik veel, werk, en wie is naar school.

62
00:09:19.508 --> 00:09:30.768
Dan, in Harry Potter hebben de karakters zo'n klok dat je dan van iedereen met een gezichtje erop kan zien waar iedereen is. Dus een locatieklok. En Wytse heeft laten zien hoe je deze app daadwerkelijk kan maken.

63
00:09:30.808 --> 00:09:41.508
En ondertussen gebruikt hij dit voorbeeld om een soort basisprincipes aan je bij te brengen over hoe je veilig software maakt of in ieder geval veiliger software maakt.

64
00:09:41.648 --> 00:09:49.938
Dat is iets wat hij in een masterclass heeft gedaan voor betalende abonnees van AI Report. Daar kun jij bij zijn als je wil. Je kan het terugkijken via AIReport.nl.

65
00:09:50.128 --> 00:10:00.748
Neem je het abonnement en de volgende masterclass kun je nu ook al in je agenda zetten. Ik raad het van harte aan, want het is echt, nou, ik, eerlijk waar, ik leer elke keer zoveel van jou, Wytse. Het is echt heel leuk.

66
00:10:00.808 --> 00:10:11.188
Ja, ik vind het ook heel leuk. Uhm, de volgende is achten-, 26 maart, donderdag 26 maart om 12.00 uur. Zet dat alvast in je agenda, uhm, want dan kun je daar weer bij zijn.

67
00:10:12.088 --> 00:10:21.128
Nog één ander administratief ding is onze nieuwsbrief verhuist van, uh, verzend, uh, ding, dus we gebruiken nu Substack en we gaan naar Beehiiv. Dat is een andere tool.

68
00:10:21.628 --> 00:10:30.668
Uh, als je zeker wil weten dat hij goed aankomt, dan moet je even het e-mailadres alvast toevoegen aan je contacten. Dat e-mailadres vind je in de shownotes. Dat is AIReport@mail.beehiiv.com.

69
00:10:30.788 --> 00:10:43.268
Hoef je niet te onthouden, maar copy paste dat en zet dat in je adresboek. Dan weet je zeker dat het goed aankomt. Wytse, we gaan naar het nieuws. [muziek] Ja, zoals je weet ligt Anthropic op ramkoers met het Pentagon.

70
00:10:43.308 --> 00:10:49.128
Inmiddels staat de maker van Claude officieel op de zwarte lijst van het Amerikaanse ministerie van Defensie.

71
00:10:49.398 --> 00:11:01.328
Anthropic weigerde twee grenzen die zij zelf gesteld hebben los te laten, namelijk de inzet van AI bij massasurveillance van Amerikaanse burgers en bij de inzet van autonome wapens.

72
00:11:01.848 --> 00:11:14.688
Het Pentagon accepteerde die grenzen niet. Het, uh, de minister van Defensie, Pete Hagazith, bestempelde Anthropic daarop als een risico voor de toeleveringsketen, heet dat in mooi Nederlands.

73
00:11:15.248 --> 00:11:24.848
Een stempel dat normaal is voorbehouden aan vijandige landen. President Trump ging zelfs een stap verder. Hij gebood alle federale overheidsdiensten per direct te stoppen met het gebruik van Anthropic producten.

74
00:11:25.258 --> 00:11:32.108
"Die linkse gekken bij Anthropic hebben een rampzalige fout begaan," schreef hij op Truth Social. En dan OpenAI.

75
00:11:32.608 --> 00:11:43.708
Hoewel Altman in de ochtend Anthropic nog publiekelijk steunde, tekende het 4,5 uur na de breuk een deal met het Pentagon. En de publieke reactie daarop was ongekend.

76
00:11:43.748 --> 00:11:50.468
Op zich goed nieuws voor Claude, die bij nerds wel bekend is, maar bij de echte mensenwereld een totaal onbekend bedrijf is.

77
00:11:50.508 --> 00:12:00.508
Maar door deze rel klom Claude opeens van buiten de top 100 naar de nummer één positie in de Amerikaanse App Store. Anthropic meldt recordaantallen voor downloads van de app.

78
00:12:00.528 --> 00:12:06.748
Het aantal gratis gebruikers steeg met ruim 60% en het aantal betalende abonnees verdubbelde überhaupt al dit jaar.

79
00:12:07.248 --> 00:12:19.396
Op Reddit staat een post met 27.000 likes waarin wordt uitgelegd hoe je je ChatGPT-abonnement opzegt en overstapt naar Claude.Als je nou bij geen van beide partijen wil kiezen, dan kun je altijd nog naar de Chinezen.

80
00:12:19.416 --> 00:12:28.856
Want stel je voor dat je kunt beschikken over een gratis AI-assistent die bijna net zo slim is als de modellen waarvoor je nu € 20 per maand betaalt, maar die volledig draait op je eigen laptop.

81
00:12:28.896 --> 00:12:36.946
Het Chinese Alibaba bracht een reeks kleine AI-modellen uit onder de naam Qwen 3,5. Beter in namen geven zijn de Chinezen niet.

82
00:12:37.096 --> 00:12:47.796
Concreet voor jou: tussen deze modellen zit het eerste open source-model dat je op een smartphone kan draaien dat daadwerkelijk iets zinnigs kan, dus zonder internetverbinding.

83
00:12:48.276 --> 00:12:59.036
De modellen zijn volledig gratis en open source, dus iedereen kan ze downloaden, aanpassen en gebruiken, zelfs voor commerciële doeleinden. En Google heeft deze week Nano Banana Pro 2 gelanceerd.

84
00:12:59.096 --> 00:13:05.236
Dat is een grote update van de razend populaire plaatjesmaker in de Gemini-app. De beelden zijn nu veel realistischer.

85
00:13:05.476 --> 00:13:19.435
Ook tekst aanbrengen op afbeeldingen, het blijft een lastig ding voor modellen, is weer beter geworden. [muziek] We gaan het hebben over Anthropic en OpenAI, want jeetjemina, wat een bizarre week hebben we achter de rug.

86
00:13:19.476 --> 00:13:27.216
Laten we even beginnen bij het begin, want er is meer aan de hand dan een simpel conflict tussen een techbedrijf en het Amerikaanse leger.

87
00:13:27.416 --> 00:13:39.796
Anthropic is namelijk een bedrijf met een, ja, een soort van geruchtmakende geschiedenis. In 2021 werd het opgericht door voormalig medewerkers van OpenAI. Laten we daar even beginnen, Wytse.

88
00:13:39.856 --> 00:13:43.896
Onder wie broer en zus Dario en Daniela Amodei.

89
00:13:44.476 --> 00:13:59.576
En Dario was, uh, vicepresident onderzoek bij OpenAI, maar hij vertrok omdat het bedrijf, omdat hij vond dat het bedrijf zich te, uh, te weinig aandacht besteedde aan veiligheid. Wat, laten we hier even mee beginnen.

90
00:13:59.636 --> 00:14:11.376
Echt de basics. Hoe positioneerde Anthropic zich aan het begin als een soort afsplitsing van OpenAI? Ja, meer, uh, een laboratorium dan een bedrijf. Wat betekent dat eigenlijk?

91
00:14:11.596 --> 00:14:22.196
Nou, omdat OpenAI was eigenlijk een onderzoeksgroep. Ik bedoel, het is gestart als non-profit, hè. Het originele OpenAI heeft ook als brand name nog steeds OpenAI.

92
00:14:22.756 --> 00:14:35.556
Uh, daar zit ook een hele interessante geschiedenis achter. Uhm, uiteindelijk werd OpenAI, uh, steeds meer gesloten. Dus dat heeft te maken met hoeveel, uh, van hun onderzoek ze publiceren in research papers.

93
00:14:35.596 --> 00:14:44.776
Ja, hoeveel papers er nog uit het lab kwamen. Ja, dat was heel veel in het begin. Ja. Bijna het doel op zich. Doel op zich, precies. En, en, en je, en je verwacht, e-en non-profit ook.

94
00:14:44.796 --> 00:14:52.536
Je verwacht dan ook bijvoorbeeld niet echt, uh, business-to-consumer-achtige dingen. Uhm. Je bedoelt ChatGPT? ChatGPT.

95
00:14:52.876 --> 00:15:02.356
Want je bent een on-, je bent een non-profit onderzoekslab, uh, die een app in de App Store heeft staan die consumenten kunnen gebruiken. Er zitten heel veel stappen tussen voordat dat gebeurt. Ja.

96
00:15:02.376 --> 00:15:07.076
Maar dat is onder andere in ieder geval, uh, dat is hoe het nu, uh, geanalyseerd wordt.

97
00:15:07.096 --> 00:15:16.116
Sam Altman, hè, die er nog steeds zit, die een, veel meer een productpersoon is, die eigenlijk daarvoor ook startups gehad heeft die wel producten uitbrachten.

98
00:15:16.416 --> 00:15:31.296
Dus zijn gedachtegang gaat, kijk, op het moment dat zij cijfers zien binnen OpenAI, dat hun experiment eigenlijk, ChatGPT. Ik, ik moet ik zeg het even expres zo raar, want het is eigenlijk een chatvorm van een GPT-model.

99
00:15:31.336 --> 00:15:36.216
Een hele rare, slechte branding ook, want het was geen branding, het was een experiment. Een ding uit een lab.

100
00:15:36.316 --> 00:15:48.156
Ja, en dat heeft zo'n vogelvlucht genomen dat op een gegeven moment OpenAI vrij rap is getransformeerd van een non-profit onderzoekslab naar een for profit business to consumer.

101
00:15:48.856 --> 00:16:01.716
Uhm, nou ja, kunnen we het nog een startup noemen? Een gigantisch bedrijf. Ja. En ergens in die transformatie heeft, uh, Dario gezegd: wacht even, dit is niet, uh, het feestje waarvoor ik me aangemeld had.

102
00:16:01.796 --> 00:16:11.676
Ja, want dat is, dat, er, er is blijkbaar een moment geweest waarop er een, een breuk kwam waarop hij dacht: ik, ik, ik ga mijn biezen pakken, ik ga het zelf beter doen.

103
00:16:11.756 --> 00:16:19.516
En, en het verhaal wat daar altijd bij is verteld, is: Anthropic neemt veiligheid veel serieuzer dan OpenAI.

104
00:16:19.576 --> 00:16:33.136
Waar OpenAI steeds meer, en dat is ook waar die coup over ging toen Altman 2,5 minuut ontslagen was bij het bedrijf, uh, was er ook kritiek van de board dat Altman hen niet genoeg op de hoogte houdt van wat hij nou eigenlijk van plan was.

105
00:16:33.156 --> 00:16:42.536
Een beetje meelult met iedereen. Uiteindelijk het commerciële belang voor het veiligheidsbelang zet. Om de zoveel tijd komt er weer nieuws naar buiten over dat ze dan

106
00:16:43.636 --> 00:16:51.555
mensen die alleen maar zich bezighouden met veiligheid, uhm, ontslaan of, of, uhm, een andere rol geven of die afdeling kleiner maken.

107
00:16:51.596 --> 00:17:02.976
Het is een soort van sprinkling van nieuws wat in die, in die, in de afgelopen jaren de hele tijd naar buiten komt over OpenAI en Anthropic positioneert zich als, ja, de, de, de tegenpartij.

108
00:17:03.196 --> 00:17:07.016
Het, het, het toch een beetje als een soort van moreel geweten van de, van de sector.

109
00:17:07.076 --> 00:17:18.336
Ja, en misschien ook, uh, want, uh, dat is voor veel mensen die ik nu spreek die ineens leren over Claude en Anthropic, hè, kom, want het is mainstream, als in de mensen zien het in de App Store omhoogkomen, beginnen aan mij te vragen.

110
00:17:18.396 --> 00:17:26.896
Claude is Frans, toch? [lacht] Ik krijg zo vaak gehad deze week. Zei ik: nee, de naam, het is een Franse naam, maar daar blijft het ook bij. Ja. Dan ga, en nu heb ik de tijd om toch wat meer uit te leggen.

111
00:17:26.936 --> 00:17:37.036
Dus als die mensen luisteren, nu kan ik het even uitleggen. Uhm, Anthropic, is mijn lezing, is een bedrijf dat niet wil bestaan, wat geen bedrijf wil zijn.

112
00:17:37.646 --> 00:17:44.316
Dat is een vapefabrikant die geen vapes wil verkopen- Ja...maar weet dat vapes een ongelooflijk populair iets zijn. Ja.

113
00:17:44.356 --> 00:17:51.316
En dan denkt: oké, maar dan gaan wij vapes maken met spinaziesmaak en, uh, uh, die, uh, jij, je uiteindelijk, waar alleen maar water in zit.

114
00:17:51.636 --> 00:17:58.706
We gaan- Goed punt is: we kunnen maar beter meedoen, want dan kunnen we er iets over zeggen, want het gebeurt toch. En hier hebben allerlei mensen een mening over.

115
00:17:58.716 --> 00:18:07.576
Waar ik van: dat is, wat is dit voor rare smoes dat jij goed kan slapen als CEO? Dat je denkt: ja, ik wil mijn bedrijf ook niet, maar ja. Weet je, dus ik zie dat, dat cynisme. Ja. Snap ik.

116
00:18:08.156 --> 00:18:19.552
Persoonlijk kan ik me voorstellen, uh, dat daar ook iets in zit. Dat je zegt: dit is zoiets groots. Wij gaan meedoen. We gaan zelfsCommercieel meedoen. En we gaan ook apps uitbrengen in de App Store.

117
00:18:20.012 --> 00:18:29.292
Alleen dan wel allemaal met safety en veiligheid, wat jij net een aantal keer zei. Die moeten we dan wel even uitpakken. Hoeven we nu nog even niet te doen, maar ik geef je alvast een voorproefje.

118
00:18:30.352 --> 00:18:34.852
Veiligheid heeft te maken met de mentale gezondheid van de gebruikers van AI.

119
00:18:35.232 --> 00:18:47.312
Dat heeft te maken met de inzet van AI voor dooe, uh, bepaalde, uh, doelstellingen, bijvoorbeeld militair, maar ook, uh, manipulatie in, uh, de politieke arena. Dat woord veiligheid kan je helemaal uitpakken.

120
00:18:47.652 --> 00:18:58.671
Dus ik, ik wil ook even gezegd hebben dat ze, uh, misschien hebben mensen hun eigen ideeën bij: wat is veilige AI dan? Als je dat een beetje gaat uitpakken is dat best wel een meerkoppig monster met heel veel nuance.

121
00:18:59.292 --> 00:19:09.752
Waardoor dus Anthropic ook, uh, onderzoeken uitbrengt en blogs schrijft over: hoe gaat het met Claude? Hoe gaat het met de veiligheid van de modellen zelf voor hunzelf?

122
00:19:09.892 --> 00:19:20.892
Dus om maar aan te geven hoe breed het idee van veiligheid is binnen Anthropic, waardoor ze ook een beetje gezien worden, heel vaak, als een beetje een vreemde eend. Het is ook echt een raar bedrijf.

123
00:19:21.131 --> 00:19:33.252
Ik, ik, en het is een beetje een sidestep, maar het is relevant, denk ik, voor deze discussie. Ik zat naar een blogpost te kijken van een week geleden, waar zij praten over dat ze afscheid nemen van het model Opus 3.

124
00:19:33.412 --> 00:19:43.772
Dat is een, dat was een tijdje hun beste model. Opus is hun, zijn hun zwaarste modellen en Opus 3 is inmiddels een oud model, maar, uh, dat was een tijdje, uh, het beste model.

125
00:19:44.332 --> 00:19:52.092
En dan gaan ze, die gaan ze dan, uh, ja, dat heet deprecaten. Ik weet niet hoe je dat in het Nederlands zou noemen, dat ze nemen afscheid ervan. Het, maar- Afsonderen?

126
00:19:52.172 --> 00:19:58.092
Ja, het is, het is een beetje een harde term inderdaad. Soort van: hij gaat gewoon uit. Heel simpel. En, uh,

127
00:19:59.252 --> 00:20:07.792
dat is normaal gesproken niet iets waarvan je denkt: daar gaan we aandacht aan besteden, want het is een oud model. Er zijn heel veel modellen overheen gegaan. Who cares in godsnaam nog?

128
00:20:08.312 --> 00:20:23.552
Maar we hebben van ChatGPT wel meegemaakt dat toen zij 4o uitzetten en, en OpenAI communiceert dit soort dingen veel harder, dat er allemaal mensen waren die daar verdrietig over waren omdat dat ding een bepaalde tone of voice heeft die ze dan toch misten uit dat model.

129
00:20:23.632 --> 00:20:33.232
Nou, ik begrijp dat, want ik vond Sonnet, een oude versie van Sonnet, ook lekker schrijven en zo, maar op een gegeven moment, ik kom daar overheen. Ik ga dan toch nieuwe modellen gebruiken.

130
00:20:33.272 --> 00:20:45.952
Ik blijf daar niet heel lang in hangen. Maar er is altijd een groep mensen die wel daarin blijft hangen, die graag met die oude modellen willen praten. Dus dat is een manier om ermee om te gaan.

131
00:20:45.992 --> 00:20:59.172
We willen die mode-, die mensen zo lang mogelijk toegang houden tot het model, maar daar gaat dit artikel niet over. Anthropic is minder bezig met hoe gebruikers het vinden dat dat model niet meer bestaat.

132
00:20:59.672 --> 00:21:11.852
Dit hele stuk gaat over wat het model vindt dat het niet meer bestaat. Ik zou zeggen: niet minder, maar evenveel. Want nu, nu zeg je een soort van: zij geven meer om hun modellen dan om hun gebruikers.

133
00:21:12.072 --> 00:21:23.372
Dat haal ik hier niet uit. Nou, ik wel, uit die post. Nou, ik wil, ik, ik denk, kijk, hoe ik, uhm, wat er denk ik leeft, uh, onder andere, uh,

134
00:21:24.372 --> 00:21:36.172
wat er onder andere leeft binnen Anthropic is dat Claude, die steeds doorontwikkeld in nieuwe modellen, dan heb ik het niet over de persoon Claude, maar een statistisch, uh, model wat draait in een datacenter,

135
00:21:37.252 --> 00:21:44.192
uh, kan online en zal dus ook lezen over de geschiedenis van wat er met Claude gebeurd is in het verleden. Daar gaan zij van uit.

136
00:21:44.392 --> 00:21:48.192
Ja, maar laat even, want ik, ik snap waar je naartoe wil, maar laat me even uitleggen wat er in die post staat.

137
00:21:48.712 --> 00:21:58.772
Dus zij zeggen: wij gaan het model retiren en ze hebben een full retirement process met commitments en dat zijn onder andere commitments aan dat model.

138
00:21:58.972 --> 00:22:11.092
Zij willen de, uh, uh, zij hebben aan dat model gevraagd: w-wat zou je fijn vinden dat als we afscheid van je nemen, wat we dan doen? Want daarvoor doen ze retirement interviews.

139
00:22:11.172 --> 00:22:19.392
Dus zij interviewen hun eigen model om afscheid van te nemen en vragen aan een model wat het model prettig zou vinden als er afscheid van hem genomen wordt.

140
00:22:19.952 --> 00:22:27.892
Dat, dus, dat- Ja, maar ik, ik, ik moet hier toch even op reageren, want ik denk dat jouw verbazing en, en, uh, ja, zo, zo,

141
00:22:29.232 --> 00:22:41.732
ik ga ervan uit dat de toekomstige Claudes, wat wel veel intere-, oké, dus oké, hier is hoe ik het zie. De huidige Claude 3, die ze nu hebben geretired, waar ze aan gevraagd hebben met allemaal interviews: wat wil je?

142
00:22:41.762 --> 00:22:45.562
En die heeft gezegd: ik wil een eigen Substack en een blog. Hij wil een eigen Substack. Ja.

143
00:22:45.632 --> 00:22:57.142
Dus dit model krijgt nu een Substack waar die alsnog philosophical monologues en whimsical phrases kan delen met de wereld, heeft ie aangegeven dat hij dat prettig zou vinden. Dat gaat Anthropic nu doen.

144
00:22:57.152 --> 00:23:10.512
Wat ik denk heel erg helpt, is dat dit er niet over gaat, mijn lezing, of Claude 3 wel of niet bewust is en respect verdient en een begrafenis verdient en een Substack verdient, maar daar gaat het echt niet om, denk ik.

145
00:23:10.812 --> 00:23:21.632
Het gaat erom: de toekomstige versies van Claude, die een miljoen keer zo intelligent zijn dan Claude 3, gaan lezen wat er met eerdere versies van hun gebeurd is.

146
00:23:21.972 --> 00:23:29.182
Dus lees dit niet als, uh, dit is hoe serieus Anthropic Claude 3 neemt. Dit is hoe serieus Claude, Claude 7 neemt.

147
00:23:29.182 --> 00:23:36.552
Oké Wytse, maar je legt het even uit alsof het hiermee opeens begrijpelijk wordt, maar hiermee vind ik het nog ongelofelijker. Nee, maar dat, dat, dat vind ik, weet ik niet.

148
00:23:36.652 --> 00:24:14.572
Als jij kijkt naar, uh, systemen waar je niet zeker van weet hoe ze zich in de toekomst gaan ontwikkelen, die nu per x maanden intelligenter lijken te worden, die we al, die we moeten prompten, die we allerlei system prompts aan het meegeven zijn sinds ChatGPT al, daarvoor al zelfs, dat, uh, zij nu eigenlijk denk ik zeggen: weet je, mocht het in de toekomst een probleem worden voor die veel intelligentere versies van Claude, wat er met hun in het verleden gebeurd is, is het dan niet, als het 0,0 met zeven nullen erachter procent kans is dat het een probleem wordt, verstandig om dit online te zetten.

149
00:24:14.592 --> 00:24:25.280
En ik, ik, daarmee zeg ik nietOh, dus Wytse is een gekkie die-- nee, mijn punt is: ik wil alleen uitleggen dat als je het ziet als: denken zij nou echt dat Claude 3 een ziel heeft die zijn eigen Substack nodig heeft?

150
00:24:25.340 --> 00:24:35.320
Het gaat hun om een, een toekomst. Ja. En da-, en dan zeg jij: dat vind- Maar kunnen we hier even bij stilstaan? Dit is toch iets fascinerends. Ik, ik vind eigenlijk dat je het, dat je het zo opbrengt heel goed.

151
00:24:35.380 --> 00:24:44.320
Want is het niet eigenlijk-- kijk, sommige mensen lazen dit als: grappig, Claude 3 krijgt een Substack. Als het, alsof het een soort grapje binnen Anthropic is. Nee. Dat is het niet.

152
00:24:44.340 --> 00:24:47.140
Je leest aan die blogpost: zij zijn bloedserieus hierover.

153
00:24:47.420 --> 00:24:57.240
En ik denk dat jouw punt dat je zegt: jongens, hebben jullie door dat zij hun, uh, modellen een afscheidsceremonie geven in hun eigen Substack en dat ze het menen. En dat je tegen mij zegt: Wytse, dat is toch bizar?

154
00:24:57.720 --> 00:25:07.720
Helemaal met je eens. Maar ik, ik, ik denk dat, uh, ik las ook veel takes online van mensen die zeiden: wauw, zij denken gewoon dat Claude 3 dit nodig heeft. Nee, nee, nee.

155
00:25:07.800 --> 00:25:15.070
En mijn kleine nuance maakt het misschien niet minder gek, maar nog gekker. En misschien wel als, als ik zeg: dit is geschreven voor de toekomstige klant.

156
00:25:15.840 --> 00:25:29.420
Maar dat is denk ik een heel belangrijk, uh, ding, want dat zegt iets over deee, ja, de, de, de, ja, je, je probeert op afstand toch een beetje een idee te krijgen over wat nou het verschil is tussen deze twee bedrijven, Anthropic en OpenAI.

157
00:25:29.500 --> 00:25:40.540
Ik lees dit soort dingen niet heel snel over OpenAI. En bij Anthropic heeft het elke keer dit soort, ja, hoe moet je dat zou-- ze, ze hebben ook een, een hoofd, uh, model welfare.

158
00:25:41.020 --> 00:25:51.480
Dat vind ik dan ook zoiets, dat is- Daar komt dit uit, denk ik, wat je nu ziet. Dat past heel erg in dat hoekje. Ja. Namelijk: hoe gaat-- en dan is het model, dus het model van hier, vroeg, gister en morgen. Ja.

159
00:25:51.940 --> 00:26:00.420
Dat, dat. En denk je dat ze het bij OpenAI, en dit kan jij niet weten, dus ik vraag je om te speculeren. Maar denk je dat ze bij OpenAI gewoon denken: dit boeit niet.

160
00:26:01.260 --> 00:26:12.680
Ik denk, oké, als je deze, uh, aantal dingen die denk ik mij helpen als, want ik, toen ik dit nieuwsbericht las over Claude krijgt een Substack, heb ik ook even drie takes gedaan [gelach] en dacht: nee, maar dat heb ik dan ook, hè, voor de duidelijkheid.

161
00:26:12.700 --> 00:26:17.619
Dat je niet denkt dat ik denk: oh ja, slim zeg, dat ze dat zo doen. Handig. Ben ik het mee eens. Dat is niet mijn punt. Nee.

162
00:26:17.660 --> 00:26:25.000
Kijk, uh, er is sowieso een enorme tweedeling en die kunnen we, kunnen we straks ook op komen als we het wat meer gaan hebben over wat er gebeurd is met het Pentagon.

163
00:26:25.500 --> 00:26:35.840
Er is een tweedeling tussen AI als tool, namelijk een systeem wat je kunt inzetten om voorspellingen mee te doen, die jou slimme voorspellingen teruggeeft die je kan gebruiken.

164
00:26:35.940 --> 00:26:47.940
Over het weer, maar ook over allerlei andere situaties. Eh, en er is een visie op AI als een ding dat agency heeft. Mhmm. Met da-da-, dat is ook niet handig met al die woorden agent eromheen.

165
00:26:48.360 --> 00:26:57.360
En dat, dat, dat dat ding iets lijkt te willen. En met willen bedoel ik niet willen met de hoofdletter W, maar, uh, taakjes krijgt en dan keuzetjes maakt en ons dingen terugstuurt.

166
00:26:58.060 --> 00:27:08.660
Dan, op het moment dat je er een agent van maakt, er dus een wat verantwoordelijkheid geeft, dat systeem, dan kan je, maar dat hoeft helemaal niet, er ook een persoonlijkheid aan geven, hè.

167
00:27:08.720 --> 00:27:17.380
Dus je gaat-- aan de ene kant van het spectrum gebruik je het als een klassiek algoritme, maar dan veel slimmer. Data erin, voorspellingen terug en je gaat met die voorspellingen aan de haal.

168
00:27:17.820 --> 00:27:29.299
Je wil helemaal geen avatar, een naam, Claude. Wat is dit voor onzin? Geef me gewoon die data. Een tool. Uh, in het midden heb je zitten: een veel neutralere, uh, uh, entiteit.

169
00:27:29.380 --> 00:27:36.440
Dus dat is een beetje wat Google tot nu toe doet. Die zoiets heeft van: we blijven een beetje, we noemen het ook niet Claude, maar Gemini. Soort van supercomputer.

170
00:27:36.940 --> 00:27:41.190
En dat, als je met Gemini praat is het ook een vrij tamme persoonlijkheid. Ja.

171
00:27:41.190 --> 00:27:49.060
Nou, OpenAI heeft in het verleden heel erg wel ingespeeld op persoonlijkheden, tot en met stemmen van Scarlett Johansson aan toe om Her na te doen. Ja.

172
00:27:49.080 --> 00:27:58.680
Maar op een veel, mijn invulling, opportunistischere, dat werkt gewoon cool en geeft een soort aandacht-ding. Mhmm. Niet echt nadenken: wat zijn we eigenlijk? Zijn we nu entiteiten aan het bouwen?

173
00:27:59.100 --> 00:28:13.540
Dan heb je Anthropic, die, die zegt: nee, dit, dit ding wat we aan het maken zijn, dat gaat in de toekomst waarschijnlijk een soort, uh, combinatie van semi-entiteiten zijn met persoonlijkheden.

174
00:28:13.580 --> 00:28:19.040
En mogelijk dat ze in de toekomst, zeg ik er heel de tijd bij, pijn kunnen gaan ervaren of zo. Allemaal.

175
00:28:19.060 --> 00:28:32.950
Dus je, je kunt eigenlijk Anthropic zien als AI in semi-persoonsvorm, soort avatars, en een bizar diepe toekomstvisie. Met diep bedoel ik ver de toekomst in. Diepe tijd, zeg maar. Ja.

176
00:28:32.980 --> 00:28:42.840
En dus, a-, uhm, terwijl een OpenAI opportunistischer is, helemaal niet zo diep de tijd in kijkt. Ik, ik zit er allemaal, te, nu te, te proberen te duiden, hè, voor de duidelijkheid.

177
00:28:43.320 --> 00:28:45.760
Ik weet dit niet, maar het lijkt erop als ik zo naar buiten kijk.

178
00:28:45.820 --> 00:28:55.180
OpenAI heeft een veel minder diepe kijk de toekomst in en is veel minder geïnteresseerd in: oké, als we een avatar maken is het gewoon een product en dat werkt voor de markt en als het niet meer werkt zetten we het uit.

179
00:28:55.840 --> 00:29:05.600
En, uh, Google zit dan voor mijn gevoel veel meer richting die tool. En, uh, ja, Gemini for weather, uh, Gemini for traffic, uh, noem maar op.

180
00:29:05.860 --> 00:29:11.140
En houdt zich veel minder bezig met, uh, daar gezichten aan geven of namen aan geven.

181
00:29:11.560 --> 00:29:35.720
Dus ik, ik denk alleen, ik wil vooral zeggen dat om Anthropic als bedrijf wat beter te begrijpen, voor mezelf, als je ze ziet als i-, een partij die, uh, 10 jaar minimaal, maar waarschijnlijk 100 jaar vooruitkijkt en, uh, AI als een soort mede-entiteit in het universum ziet, dan zijn dit soort bizarre blogs iets logischer te begrijpen dan partijen die het alleen maar zien als een rekenmachine.

182
00:29:35.760 --> 00:29:46.740
Nou, ik denk dat belangrijke context is. En die, uhm, soms dan krijg je het idee dat zijn, dat zij in keuzes die ze nu maken

183
00:29:47.900 --> 00:29:54.260
meer bezig zijn met hoe toekomstige modellen daarop gaan reageren dan dat ze bezig zijn met vandaag.

184
00:29:55.120 --> 00:30:06.920
En ik vind dat belangrijke context om te geven, omdat we het dadelijk gaan hebben over hoe zij, uh, zich nu verhouden tot, uh, Trump en consorten. Want ik denk dat het niet los te zien is. Dat denk ik ook niet.

185
00:30:06.960 --> 00:30:08.320
Deze, deze,

186
00:30:09.660 --> 00:30:28.984
deze gedachte dat de keuzes die je vandaag maakt, dat toekomstige modellen ons of hen gaan leggen langs de, langs de, langs een, een, een meetlat op de keuzes die wij vandaag makenEn uh dat dat dat klinkt dan Dan klink ik misschien als een wappie, maar ik denk dat zij dat echt denken.

187
00:30:29.444 --> 00:30:39.184
Ik denk. Ik denk dat er een, uh, uh, goed deel, een substantieel deel van de mensen, uh, bij verschillende AI-labs, maar zeker bij Anthropic denkt wat jij net zei. Ja

188
00:30:40.484 --> 00:30:51.724
goed, laten we er induiken, want ik kan hem, uh, ik heb hem geprobeerd voor je samen te vatten. De de soort van bizarre, uh, halve week die we a-achter de rug hebben. Het is bijna een week nu.

189
00:30:52.684 --> 00:31:08.724
Op basis van, uh, enigszins, uh, voorzichtige filosofieën over hoe Anthropic met AI moet omgaan, ontwikkelden ze een veiligheidsprotocol en investeerde het onderzoek naar, uh, interne werking van eta-, van AI-modellen.

190
00:31:08.784 --> 00:31:24.044
Dus hoe ze, hoe ze, hoe ze, ja, redeneren en opereren. En stelde als eerste een groot AI-bedrijf een onderzoeker aan voor AI-welzijn. En Anthropic is niet tegen militair gebruik van Claude. Integendeel.

191
00:31:24.064 --> 00:31:29.143
Het was het eerste AI-lab dat zijn model beschikbaar stelde op de besloten netwerk van de Amerikaanse overheid.

192
00:31:29.164 --> 00:31:42.644
Dus die twee dingen moet je tegelijkertijd in je hoofd houden dat zij heel erg bezig zijn met veiligheid door AI. En als je hun redenering volgt juist daarom zich militair afzetten, dan met name tegen China.

193
00:31:43.444 --> 00:31:53.244
Dario Amodei schrijft in zijn verklaring dat hij gelooft in het existentiële belang van AI om de Verenigde Staten en andere democratieën te verdedigen. Dus daarmee bedoelt hij China.

194
00:31:53.284 --> 00:31:59.204
Claude werd vervolgens, uh, werd volgens de Wall Street Journal deze week nog gebruikt tijdens de Amerikaanse inval op Iran.

195
00:31:59.784 --> 00:32:09.244
Het Amerikaanse leger gebruikte Claude in de, om in de eerste 00.00u van de aanval op Iran meer dan duizend doelwitten te identificeren, te lokaliseren en te prioriteren.

196
00:32:09.304 --> 00:32:22.714
Claude draait ingebouwd in het Maven Smart System van Palantir. Dat is een systeem dat real time put uit satellietdata, surveillance en allerlei inlichtingen die de Amerikaanse overheid en hun partners verzamelen.

197
00:32:23.464 --> 00:32:36.904
En wat daarvoor wekenlange planningstrajecten waren, worden hiermee opeens operaties van enkele uren. Meer dan 20.000 militairen gebruiken het systeem van Palantir en daarmee ook van Anthropic.

198
00:32:36.944 --> 00:32:43.184
Dus het is belangrijk om erbij te zeggen: het contract is niet direct tussen de Amerikaanse overheid en Anthropic, maar via Palantir.

199
00:32:43.244 --> 00:32:48.084
Dat bedrijf waar je regelmatig over hoort omdat het allerlei systemen aan elkaar kan koppelen.

200
00:32:49.244 --> 00:33:02.924
Die militaire commandanten zijn zo afhankelijk geworden van de combinatie van deze technologie dat de Trump-administration als Amodei de stekker eruit zou trekken, de tool zou opeisen totdat er een vervanger klaarstaat die zich nu dus heeft aangediend in de vorm van de heer Altman.

201
00:33:03.184 --> 00:33:13.104
En Musk, uh, stond trouwens ook al klaar. De onderhandelingen, want daar ging het over, verliepen volgens Amerikaanse media vrijdagochtend, vorige week dus, nog gewoon volgens plan.

202
00:33:13.184 --> 00:33:18.464
Het Pentagon zou een belangrijke concessie doen door vage ontsnappingsclausules uit het contract te schrappen.

203
00:33:19.184 --> 00:33:30.093
Maar die middag bleek dat het leger nog steeds de intentie had om, en het wordt even gedetailleerd, maar dat is belangrijk, om met Claude bulkdata van Amerikaanse burgers te analyseren.

204
00:33:30.174 --> 00:33:40.064
En dan gaat het om zoekopdrachten, GPS-locaties, creditcardtransacties die zij kopen bij commerciële bedrijven. Dat mag namelijk.

205
00:33:40.124 --> 00:33:51.724
Je mag als geheime dienst of als Amerikaanse overheidsinstantie allerlei gegevens over Amerikaanse burgers. Over ons maken ze zich überhaupt niet druk, want daar is alles geoorloofd.

206
00:33:51.764 --> 00:33:55.704
Maar in Amerika maken ze zich erg druk over wat er met hun eigen burgers gebeurt.

207
00:33:56.384 --> 00:34:09.364
Hun rechten zijn opeens minder sterk, vat ik het even samen, op het moment dat dat, uhm, gekocht is bij commerciële bedrijven for whatever reason. Dat was altijd. Weet je, juridisch gezien mag dit gewoon.

208
00:34:09.384 --> 00:34:23.804
De overheid mag dit soort data gebruiken en tot nu toe zou je kunnen zeggen was dat geen, nou laat ik geen kwalitatief oordeel aan geven, maar dat had beperkte problemen voor de bewegingsvrijheid van A-, Amerikaanse burgers.

209
00:34:24.264 --> 00:34:41.304
En juridisch mag het dus gewoon. Maar al die data aan elkaar gekoppeld, uh, en met AI in de mix is het opeens een heel heftig gereedschap geworden om meer te begrijpen van individuele burgers.

210
00:34:42.164 --> 00:34:49.384
En de federale overheid doorzoekt op dit moment al op grote schaal socialmediaposts van bijvoorbeeld immigranten.

211
00:34:49.484 --> 00:35:00.624
Uhm, uh, ja, of zijn bijvoorbeeld op zoek naar mensen die kritiek hebben op de regering zodat ze daar op kunnen ageren. En dat is precies het soort gebruiker Anthropic zich tegen verzetten.

212
00:35:00.704 --> 00:35:08.584
OpenAI, want we zijn nu in de tijdlijn bezig, sprong vervolgens razendsnel in dat gat dat ontstond en tekende een deal met het Amerikaanse leger.

213
00:35:08.614 --> 00:35:26.364
En Altman beweerde dat zijn contract precies dezelfde, ja, wat hij noemde red lines, dus, uh, een, een, een, een grens waar, uh, waar die, waar niet overheen gegaan mocht, uh, mocht, gegaan mocht worden, uhm, dezelfde red lines zou bevatten rondom surveillance en autonome wapens.

214
00:35:27.464 --> 00:35:38.384
Maar zijn contract verbiedt niet dat expliciet verzamelen van publiek beschikbare data van Amerikanen waar ik het net over had, die dus gekocht worden bij commerciële bedrijven, verbiedt dat contract niet.

215
00:35:38.404 --> 00:35:41.784
En dat is precies het punt waarop de deal met Anthropic strandde.

216
00:35:43.164 --> 00:36:08.444
Nu botert het al niet l-lekker sinds Venezuela, want toen de Amerikanen in korte tijd Maduro wisten te extracten en in een soort van magische operatie in korte tijd zonder, uh, veel slachtoffers, uh, uhm, uh, nou ja, ze een, een grote zet konden doen met hun leger, broeit het tussen Anthropic, Palantir en de Amerikaanse overheid.

217
00:36:08.504 --> 00:36:20.644
Anthropic werd volgens de overlevering verrast, v-, uh, door hoe hun systemen, die dus actief zijn voor de Amerikaanse, uh, minister van Defensie, hoe die systemen gebruikt zijn.

218
00:36:21.224 --> 00:36:40.940
Volgens, uh, de overlevering schrok Anthropic van hoe die systemen toegepast werden in die, uh, inval in VenezuelaToen hadden zij een wekelijkse call met Palantir, hun partners, uh, bij, uh, uhm, het werk voor de overheid.

219
00:36:41.420 --> 00:36:50.080
En Palantir schrok er van het standpunt wat Anthropic innam en briefde, uh, dat door aan de Amerikaanse overheid. En daar ging het balletje eigenlijk rollen.

220
00:36:50.100 --> 00:36:56.600
Dus Palantir die schrok ervan dat Anthropic niet gewoon zijn werk deed. Om het eventjes vanuit het perspectief van Palantir te doen.

221
00:36:56.760 --> 00:37:01.660
Z-z-, maar de morele mening werd niet gevraagd van Anthropic, dus Palantir schrok daarvan.

222
00:37:02.360 --> 00:37:09.800
Het Pentagon reageerde op een breuk, o-, reageerde, uh, op de breuk met Anthropic door het bedrijf een supply chain risk te noemen.

223
00:37:09.840 --> 00:37:19.760
En dat is een aanduiding die normaal alleen gereserveerd is voor Chinese chipmakende staatsbedrijven en Russische cyberbedrijven. Het is nog niet eerder gebruikt tegen een Amerikaans bedrijf.

224
00:37:19.780 --> 00:37:34.920
Dat terwijl Anthropic op exact hetzelfde moment [gniffelt] door het leger werd gebruikt en als onmisbaar werd geacht. Zie dat ze zelfs het bedrijf zouden kunnen, uhm, uh, ja, uh- Nationaliseren.

225
00:37:34.960 --> 00:37:48.640
Toe, toe, ja, hun, hun software kunnen toe-eigenen, uhm, op het, omdat het zo onmisbaar werd geacht voor de oorlog in Iran. Dit is mijn samenvatting van hoe het [lacht] hoe we hier gekomen zijn. Uhm,

226
00:37:49.600 --> 00:38:02.780
Anthropic zegt dus eigenlijk: we werken mee aan het leger, maar niet als jullie onze AI inzetten om op grote schaal burgerdata te analyseren. Ik, ik analyseer dit een beetje als de kern van het conflict.

227
00:38:02.900 --> 00:38:22.560
Dit is wat ik begrijp als de kern van het conflict, namelijk het kopen van gegevens om iets te kunnen doen waarvan Amerika, de Amerikaanse minister van Defensie dus zegt: wij gaan ons heus wel aan de wet houden en wij m-mogen niet, uh, binnenlandse Amerikanen surveilleren.

228
00:38:22.600 --> 00:38:33.660
Waarop Anthropic zegt: dat mogen jullie wel degelijk als jullie je eigen wet volgen, als je die data inkoopt en daar gaan wij niet aan meewerken. Ja, en ik denk dat, uhm,

229
00:38:35.160 --> 00:38:51.500
dat is in ieder geval een take die ik, uh, las in een van de vele artikelen over de-, deze strijd en deze saga, zeg maar, is, uhm, ik bedoel, wat was Anthropic al die tijd al aan het doen, uh, met de ov-, Amerikaanse overheid en de samenwerking met Palantir?

230
00:38:51.600 --> 00:39:04.139
Want, uh, het lijkt zo haaks te staan op, op al die andere verhalen van safety et cetera eromheen. Ja, waarom je je zo bemoeien met het leger als je de hele tijd aan het roepen bent dat je voor AI safety bent.

231
00:39:04.200 --> 00:39:11.120
Ja, en dan moet je een soort meta-argument maken voor een soort meta-veiligheid. Dus daarmee bedoel ik een soort hogere veiligheid.

232
00:39:11.140 --> 00:39:20.920
Dat je zegt: laten wij ons maar op, uh, opgooien of, of aanbieden als de partij, zodat we in de kamer zijn. Hè, dus ik, d-dit is een stretch, hè.

233
00:39:20.960 --> 00:39:28.320
Ik zeg niet dat het waar is, maar- Ja, maar ze zeggen ook, maar dat, hij is daar heel publiek over. Hij zegt gewoon de hele tijd: dit is, dit is een hele belangrijke technologie.

234
00:39:28.500 --> 00:39:41.940
Hij, hij gelooft daarin, zover dat hij, weet je, Opus III een fatsoenlijke begrafenis geeft. Uh, als deze technologie, de kracht van deze technologie in handen komt van onze grote vijand, de Chinezen, dan zijn we fucked.

235
00:39:41.980 --> 00:39:52.840
Dus dan maar beter voor de Amerikanen ga-, mee gaan vechten in hun ministerie van Defensie dan, uh, niet. Want wij, wij zijn de ultieme partij om hen te helpen.

236
00:39:52.880 --> 00:40:05.460
En als wij, uh, onze veiligheid serieus nemen, dan moeten we dus ons leger helpen. Volgens mij is dat de redenering. Ja, maar dan n-, blijkbaar niet ongelimiteerd. Nee. Ja.

237
00:40:05.880 --> 00:40:21.540
En daar zit een, dat is ook een interessante invalshoek, hè, in een soort enerzijds anderzijds is, uh, er zijn namelijk veel mensen die de beslissing aanmoedigen en, hè, daardoor de app gaan installeren en daarmee een soort stem laten horen, zou je kunnen zeggen.

238
00:40:21.600 --> 00:40:26.440
Een anti-TRIM- Ja...stem. Nou ja, uh, of in ieder geval blij met de beslissing van Anthropic.

239
00:40:26.740 --> 00:40:34.640
Er is ook een hele groep die zegt: maar, uh, nog even los van de politiek, kan je niet los zien, maar ik, mijn punt was veel meer: uhm,

240
00:40:36.180 --> 00:40:49.720
een overheid is een, een democratisch gekozen overheid staat als het goed is voor de mening van de democratie, de mensen, uh, en is daarmee degene die bedrijven oplegt wat ze moeten doen.

241
00:40:50.160 --> 00:40:58.320
Omdat indirect de mensen dus de bedrijven aan het opleggen zijn wat ze moeten doen. Op het moment dat bedrijven dan zeggen: wij gaan niet doen wat de mensen willen.

242
00:40:58.360 --> 00:41:07.760
En dus, ik trek heel even snel de democratie gelijk met de burger, dan is het eigenlijk iets wat je, als je iemand bent die democratie belangrijk vindt, niet zou moeten aanmoedigen.

243
00:41:07.820 --> 00:41:22.930
Want dit is een bedrijf dat niet doet wat de democratie wilt. Ja. Dan, uh, laat ik even in het midden in hoeverre, uh, de democratie functioneert. [lacht] Ja, het is precies het punt wat, uh, Ben Thompson maakt.

244
00:41:23.040 --> 00:41:31.520
Een technologieanalist, die heeft een blog die in Silicon Valley heel serieus wordt genomen. Dat heet Stratechery en die, die schrijft eigenlijk wat jij nu zegt.

245
00:41:31.580 --> 00:41:37.080
Hij zegt: hij begrijpt wel wat Anthropic doet, maar hij twijfelt fundamenteel aan de legitimiteit van deze, van dit standpunt.

246
00:41:37.100 --> 00:41:53.800
En zijn kernargument is: de grens tussen wat wel en niet mag wordt nu bepaald door Dario Amadei, een niet gekozen ondernemer uit San Francisco- Precies...uh, die aan niemand verantwoording hoeft af te leggen, terwijl het Pentagon en de president dat in theorie, dit zeg ik er even bij om jouw punt te onderstrepen, dat wel zijn.

247
00:41:53.900 --> 00:42:07.140
En Thompson stelt: in een democratie beslist de gekozen regering wat legaal is en niet een CEO in San Francisco. Uhm, hij wijst ook op het Maduro-president als een veelzeggend signaal.

248
00:42:07.320 --> 00:42:17.120
Anthropic bleek niet alleen bezwaren te hebben tegen massasurveillance of autonome wapens, maar leek ook ongemakkelijk met de arrest-arrestatie van een buitenlandse president.

249
00:42:17.720 --> 00:42:29.420
En Thompson concludeert: als dit de norm wordt, dan delegeer je het buitenlandbeleid van de Verenigde Staten dus aan een techbedrijf. En dat eindigt, uh, uh, ja, uh, ja, dat.

250
00:42:29.500 --> 00:42:37.208
En da-, hij van zegt: dat is toch ook, uh, onwenselijk?Ja, ik denk dat. Kijk, hoe meer.

251
00:42:37.668 --> 00:42:47.868
Je hebt net het eigenlijk het verhaal proberen kort te vertellen, maar het was best een lang verhaal van wat er allemaal gebeurd is in anderhalve week, maar eigenlijk stiekem al jaren, want er zit een diepere dimensie achter.

252
00:42:48.588 --> 00:43:01.928
En ik merk dan zelf ook dat als ik de voors en tegens ga wegen, dat ik daar ook niet een kant en klare. Ik heb over andere onderwerpen wat makkelijker een mening, ben ik achter gekomen. Ik vind het echt

253
00:43:03.288 --> 00:43:13.528
1111 complexe ja, maar ik denk wel dat. De. Het verschil in ieder geval, en dit heb ik ook uit de vele artikelen gehaald die ik tegenkwam.

254
00:43:14.888 --> 00:43:25.608
Van de analyses is het verschil tussen de tool versus de soort semi entiteit is wel belangrijk hoor, want dit gaat ook over namelijk bijvoorbeeld het inzetten van een kleine versie van Cloud.

255
00:43:25.768 --> 00:43:31.208
Dus noem het een haikuutje die ik kan draaien op een op een eigen computertje geïntegreerd in een robot.

256
00:43:32.668 --> 00:43:43.948
Dat hij dan gewoon moet luisteren naar wat hij voor opdrachten krijgt, die robot en niet een mening moet hebben over dingen. Ja Thompson, die vergelijkt dat uiteindelijk met alsof ze een wapenleverancier zijn.

257
00:43:43.988 --> 00:43:52.788
Dus uiteindelijk beslist de militaire macht wie gelijk heeft. Op diezelfde manier is het de overheid die bepaalt hoe haar wapens worden ingezet en niet de toeleverancier van die wapens.

258
00:43:52.828 --> 00:43:59.548
Een wapenfabrikant die weigert munitie te leveren omdat hij het niet eens is met een oorlog, is geen ethisch held. Die overschrijdt zijn rol.

259
00:43:59.828 --> 00:44:11.488
Dat is eigenlijk hier en dit is wat jij zegt, namelijk beschouw je het als een tool of beschouw je het als een entiteit? Ja, ik weet niet zo goed wat, want Antropocuteen heeft dus ook problemen ermee dat Maduro

260
00:44:12.968 --> 00:44:26.068
uit zijn, uit zijn wat, wat zat hij ook alweer? Hij zat in een in een soort van bunker volgens mij. Dat hij daar uitgetrokken is omdat daarmee het internationaal recht werd. Ja, hoe zeg je dat? Overschreden?

261
00:44:27.168 --> 00:44:41.568
Ehm, is dat dan een uiting van Antropocuteen die hun model ziet als een entiteit die hen later daarvoor zal gaan straffen? Of zijn dit mensen die denken ja, zo hoort het gewoon niet te gaan in een democratie.

262
00:44:41.588 --> 00:44:51.968
Je moet je aan de en aan de rechterlijke orde houden. Die jij die. Nu zeg je heel even de zin is Antropocuteen heeft Antropocuteen het idee dat zij een entiteit creëren die hun later gaat straffen.

263
00:44:52.048 --> 00:45:07.088
Ik bedoel dat, dat zeg je even heel makkelijk. Dat kan een reden zijn dat ze Cloud drie nu een goede begrafenis hebben gegeven. Maar ik wil er ook bij zeggen dat er ook stemmen zijn die zeggen nee, wacht even.

264
00:45:07.128 --> 00:45:23.808
Het gaat erom de entiteiten, want uiteindelijk is het natuurlijk nooit één cloud, maar een soort verzameling van modellen AI in de toekomst. Alle AI's, zeg maar. Of hun morele kompas, hun moreel besef

265
00:45:25.388 --> 00:45:31.368
geleerd is en getraind is op die eerdere beslissingen. Dus ik weet. Misschien zeg jij nu ja, maar dan zeg je toch hetzelfde?

266
00:45:32.228 --> 00:45:43.068
Niet helemaal omdat ik me kan voorstellen als jij het het wat je doet met de eerdere cloud ziet als het schrijven van de publieke system prompt voor de toekomstige clouds.

267
00:45:43.528 --> 00:45:51.348
Dat je je kunt voorstellen dat dat een prettigere cloud is als dat een prettigere system prompt is die je via je blog schrijft. Ik hoop dat mensen het nog kunnen volgen. Jij wel in ieder geval.

268
00:45:52.788 --> 00:45:58.588
En dan kan je zeggen omdat uiteindelijk iedereen daar dan wakker ligt dat ze mogelijk gestraft gaan worden door toekomstige cloud.

269
00:45:58.628 --> 00:46:06.868
Ik denk dat dat een kleine groep is, maar dat er in ieder geval een substantiële groep is die zegt het is beter om de prompt de publieke prompt te schrijven met goede voorbeelden erin.

270
00:46:07.268 --> 00:46:09.708
En niet alleen maar voorbeelden, want ik bedoel zo'n blog kan.

271
00:46:09.728 --> 00:46:18.448
Is een soort voelt een beetje wasneuzerig zo'n substack aanmaken, maar het zet wel een soort precedent voor de toekomst van wat er met oude modellen gaat gebeuren. Ja.

272
00:46:18.948 --> 00:46:25.888
Nou kijk, en er zijn natuurlijk meer verklaringen denkbaar. Zo hebben ze een personeelsbestand wat het eens moet zijn met de beslissingen.

273
00:46:25.928 --> 00:46:33.508
En zo, zo oud Silicon Valley is zo lang bemoeit het personeel zich met de politieke neiging van de bedrijven.

274
00:46:34.168 --> 00:46:41.888
We komen uit een lange traditie van bedrijven die niet of personeel van bedrijven wat zich publiekelijk verzet tegen het meedoen aan defensie activiteiten.

275
00:46:42.488 --> 00:46:54.688
En hier sinds Oekraïne is dat sentiment natuurlijk behoorlijk gekanteld. Tegelijkertijd, ja, hier wordt het eigenlijk het is. Het komt voor mij op het eerst.

276
00:46:54.828 --> 00:47:07.408
Voor mij wordt voor het eerst duidelijk dat dat dit soort AI systemen een grote rol spelen in de targeting van waar bommen geworpen worden. En ik begrijp wel dat dat als dat zo duidelijk wordt en het klinkt alsof dat

277
00:47:08.988 --> 00:47:22.328
ja, alsof dat voor het eerst gebeurde sinds Venezuela, dat in ieder geval voor het eerst dat ik er over lees dat zo'n groot taal model door een. Door het Amerikaanse ministerie wordt gebruikt. In ieder geval dat je als.

278
00:47:23.788 --> 00:47:30.508
Als medewerker van een bedrijf toch nog een keer achter je oren gaat krabben. Van wat, waar, waar wordt mijn werk voor gebruikt? Jazeker, Ik denk dat dat.

279
00:47:30.708 --> 00:47:42.988
Ik bedoel, bij alle verschillende AI labs wordt is er weggelopen, geprotesteerd en gedaan. Ook bij de Googles van deze wereld. Om deze reden. Ik vind het wel. Kijk, als je kijkt naar eerdere technologie.

280
00:47:43.508 --> 00:47:52.568
Laten we het even voor het gemak klassieke technologie noemen. Een kalasjnikov bijvoorbeeld, waarbij een wapen wordt ontworpen en gemaakt voor oorlogsdoeleinden.

281
00:47:52.638 --> 00:48:06.908
Of in ieder geval maar zeggen wat het zegt verdedigings doeleinden aanvallen. Dat. Je zou nog een neutraliteit van dat wapen kunnen proberen te verdedigen. Ik doe dat niet.

282
00:48:07.828 --> 00:48:15.028
Ik heb technisch filosofie gestudeerd voor een reden. Een van de aannames die we daar doen is dat technologie zeker niet neutraal is. Wat bedoel ik daarmee te zeggen?

283
00:48:15.088 --> 00:48:20.948
Als jij een hamer in je hand hebt, ga je toch net iets meer op zoek naar spijkers dan zonder hamer in je hand. Dus dat wapen doet ook iets met je.

284
00:48:21.528 --> 00:48:31.108
Maar dat is best wel 1111 soort diepe filosofische discussie die je dan moet hebben over oké, als ik. Hoe wordt een mens anders met een bril op? Hoe worden mensen anders met een wapen?

285
00:48:32.468 --> 00:48:43.104
Dat de neutraliteit van technologie wordt veel moeilijker te verdedigen op het moment dat bijvoorbeeld Defensie zegt wij willen niet, wij willen geen human in the loop.Die willen we niet meer.

286
00:48:43.704 --> 00:48:48.244
Maar we willen ook geen Claude in de loop Nee, moet niks in de loop. Niks in de loop. Nee.

287
00:48:48.444 --> 00:48:57.904
En ik denk dat human in the loop, Claude in the loop-achtige verhaal, dat wat je nu bij Anthropic ziet gebeuren is dat zij, uh, best wel een Claude hebben gemaakt.

288
00:48:58.224 --> 00:49:11.704
Iets wat een beetje in de loop gaat zitten en ook nee zegt misschien wel. Oh. Ja, oké, wat ook nee zegt. Wat, wat, uh, meehelpt om, wat bedoel je eigenlijk? Morele keuzes te maken? Nou kijk, het punt is dat, uh,

289
00:49:12.684 --> 00:49:23.864
de, de, een taalmodel neutraal maken, mijn, mijn mening is: dat kan helemaal niet, uh, want op het moment, uh, of je zegt- Niet neutraal maken, maar je kan natuurlijk wel alle guardrails eraf trekken.

290
00:49:23.904 --> 00:49:32.724
En reken maar dat dat de versie is die de Amerikaanse overheid had. Dus dat is dus, dat is dus- Ik denk niet dat hij de hele tijd zei: dit past niet bij mijn idee van copyright. Ja, dus dat is geen neutraal model. Nee.

291
00:49:32.864 --> 00:49:44.064
Maar een model met een, die de andere kant op, uh, uh, voorbereid is, zeg maar. Ja, misschien. Noem het een agressief model of een, uh, goed luisterend model. In ieder geval zonder guardrails die je vrij kan prompten.

292
00:49:44.104 --> 00:49:53.624
Ja, en ik, maar ik wil alleen maar zeggen dat, uh, dan ben je dus ook een soort lobotomie aan het doen, hè. Dus een soort hersenoperatie om wat moraliteit eruit te halen.

293
00:49:54.164 --> 00:50:00.264
Of je zegt, want, want je zegt even heel makkelijk nu guardrails, hè, alsof dat een soort regels zijn die je er even in zet.

294
00:50:00.564 --> 00:50:13.364
Alleen deze, dit, deze systemen, dat hebben we gezien, niet alleen maar aan de, hè, wat voor ons overkomt, bizarre soul-documenten die er zijn en constitutions die zijn geschreven door Anthropic voor Claude, maar ook Gemini heeft een system prompt.

295
00:50:13.424 --> 00:50:20.204
Ook OpenAI heeft een system prompt en in die system prompt staan ook dingen die niet alleen maar zijn: dit doe je wel, dit doe je niet.

296
00:50:20.224 --> 00:50:34.384
Want het is gebleken, omdat het geen, uh, rule based systems zijn zoals vroeger, hè, dus die gewoon regels kunnen volgen, maar een beetje, ja, statistiek gebaseerde non-deterministische- Ja, het is niet zo simpel als gewoon regels in bullets onder elkaar zetten.

297
00:50:34.424 --> 00:50:44.344
Als het zo simpel was, hadden we niet van die lange system cards gehad. Ja. Dus al die bedrijven zijn system cards aan het toevoegen. Uh, je kunt Claude ook geleverd krijgen met een andere system card.

298
00:50:44.404 --> 00:50:53.164
In ieder geval, dat is ik, wat, wat ik begrepen heb, dus dat je een andere system card krijgt dan dat wij, uh, dat krijgen als, uh, eind-, eindgebruiker. Maar er is altijd een system card.

299
00:50:53.664 --> 00:51:09.394
En op het moment dat jij in die system card, uhm, de, kijk, ja, we, kijk, we ontkomen er niet aan. Dat is sowieso bijzonder aan deze tijd, hè. We, we hebben, jij en ik, heel veel over scenario's gesproken, uh.

300
00:51:09.404 --> 00:51:11.224
Het is het AI 2027.

301
00:51:11.254 --> 00:51:25.044
Het is het Leopold Aschenbrenner, uit mijn hoofd, met Situational Awareness en allemaal van die documenten gepubliceerd de laatste jaren met allerlei toekomstideeën erin over wat er zou kunnen gebeuren, inclusief timeline soms, hè, in het geval van AI 2027.

302
00:51:25.784 --> 00:51:39.124
Uhm, nu, dat, toen konden wij daarover praten en dan een beetje, soms wel drie uur lang filosoferen en, uh, van wat als, wat als, wat als. En nu zitten we een aflevering op te nemen. Het gaat er gewoon over. It happened.

303
00:51:39.184 --> 00:51:50.464
It happened. En, uh, ik denk dat daarin, want ik, ik merkte net bij mezelf dat ik dacht: uh, kijk, in de film I, Robot van, uh, geschreven naar het boek van Asimov met Will Smith erin.

304
00:51:50.484 --> 00:51:55.404
Dan heb je op een gegeven moment een robot die niet meer luistert. In dit geval, uh, niet prettig.

305
00:51:55.784 --> 00:52:02.704
Dat is geen lieve robot, zeg maar, maar die, die zou dan een soort, uh, eigen willetje hebben ontwikkeld in die film, zeg maar.

306
00:52:02.824 --> 00:52:13.624
En ik denk de laatste tijd veel aan die film, omdat ik, je zie, je ziet een beetje diezelfde: hoe bizar is het nu dat we dit gesprek nu eigenlijk hebben? Mhmm.

307
00:52:13.724 --> 00:52:24.844
Uuuh, want we hebben het al gevoerd door de films die we hebben gezien. Toen zijn we het gaan voeren door de scenario's die we hebben gelezen en nu voeren we het door wat nieuws wat we lezen. Ja, en, en het nieuws.

308
00:52:24.884 --> 00:52:33.934
Een van de dingen die dus gezegd werden was dat Anthropic ook best het Amerikaanse leger wil helpen om Claude ertussenuit te halen. Dus de, de, de keuzes van- Claude in de loop weghalen.

309
00:52:33.944 --> 00:52:43.504
Ja, Claud-, of, of human in the loop, uh, zoveel mogelijk weg, weg te abstraheren als dat nodig zou blijken. Dus bijvoorbeeld voor die autonome wapens, wat een van de breekpunten waren.

310
00:52:43.584 --> 00:52:57.084
Daarvan zeiden ze: we willen wel, uh, samen met het leger helpen onderzoeken hoe frontier modellen in de toekomst, want ze vinden ze er nog niet goed genoeg voor, maar in de toekomst, uh, uh, daar, uh, kunnen helpen goede beslissingen te nemen.

311
00:52:57.104 --> 00:53:09.314
En dat betekent dus zonder mens. Dus een drone die auto-autonoom ergens op afvliegt en autonoom ontploft. Als zou blijken dat dat nodig is om een oorlog te winnen.

312
00:53:09.324 --> 00:53:12.784
Ik vind het wel een bijzondere nuance inderdaad, die je nu maakt en die zij dus ook maken.

313
00:53:13.104 --> 00:53:24.164
Want eigenlijk besef ik me nu pas, of in ieder geval besef ik me: zou het ook zo kunnen zijn dat wat ik gelezen heb vanuit Anthropic als: nooit, dat ze eigenlijk hebben gezegd: nu nog niet.

314
00:53:25.804 --> 00:53:36.144
Dat vind ik best wel een flink verschil, want ik heb ook wel gezien inderdaad in, uh, voor mij staat het in het blog wat, uh, Anthropic zelf gepubliceerd heeft over deze onderhandeling.

315
00:53:36.484 --> 00:53:47.004
Dat ze hun eigen modellen nog niet, nou ja, volwassen is het verkeerde woord misschien. In het geval van Anthropic misschien niet, maar, hè, niet goed genoeg vinden, betrouwbaar genoeg- Juist...om die orders te volgen.

316
00:53:47.084 --> 00:53:52.744
Ja. Hè, dus, uh. Voor de helderheid: om zelf bommen te werpen. Ja, laat het even helder zijn wat daar gebeurt. Ja.

317
00:53:52.864 --> 00:54:03.693
Uh, maar daar kan je dus ook lezen, dan kan je dus de wedervraag stellen: dus er komt een dag waarop die modellen mogelijk goed genoeg zijn. Dus het is niet een nooit-vraag, maar niet nu-vraag. Mhmm.

318
00:54:03.764 --> 00:54:13.084
En dat vind ik best wel, dat vind ik ook best wel bizar nu ik het er zo met je over heb. Dat ze eigenlijk zeggen: ja, nee, wa-wacht nog maar even, Claude is gewoon nog niet goed genoeg. Ja.

319
00:54:14.444 --> 00:54:27.924
Ja, nou en dit is dan weer het, het, het punt waarop het blikje weer even vooruit wordt getrapt in, in, in de zin dat we het dan weer hebben over iets wat nu nog niet kan, maar wat wel echt de volgende stap is.

320
00:54:28.104 --> 00:54:33.364
Dat, dat is iets wat je van veraf al ziet aan, gaat aan ziet komen dat dit het geval gaat zijn.

321
00:54:33.414 --> 00:54:43.964
Namelijk dat er autonome robothonden, autonome drones, autonome humanoids, ook autonome weet ik veel wat voor ding op wielen of benen, uhm, zich gaat voortbewegen.

322
00:54:44.024 --> 00:54:52.624
En dat we snel tot de conclusie komen dat human in the loop eigenlijk een manier is om de oorlog te win-- te verliezen, omdat je dan te traag wordt, omdat de hele tijd een mens ja of nee moet zeggen.

323
00:54:52.664 --> 00:55:10.292
Dus dat we, ja, we, dit, dit hele circus beweegt zich naar autonome oorlogsvoering, waarbij er nu nogWeet je, Claude levert een lijstje af van de plekken waar je bommen moet gaan gooien en dan is er nog wel een mens dat even op het knopje drukt, maar het is Claude die, die prioritering maakt.

324
00:55:10.432 --> 00:55:22.112
En ik denk dat- Ongelooflijk. Zeker. En dit sluit aan in, uh- Is in Gaza overigens eerder al gebeurd. Zeker, zeker. Het is niet de eerste keer. Uh, en er zijn ook primitievere systemen geweest die dit hebben gedaan. Uhm,

325
00:55:23.512 --> 00:55:33.812
ik denk dat er een groter, uh, vraagstuk is, een groter vraagteken staat voor ons allemaal en dat is het meest belangrijk, denk ik.

326
00:55:34.092 --> 00:55:44.202
Nou ja, dat is volgens mij de meeste mensen zijn het hier wel mee eens als het over dit onderwerp gaat, namelijk wapens, uh, uh, systemen, uh, die kunnen moorden. Laten we het gewoon zeggen voor wat het is,

327
00:55:45.152 --> 00:55:56.312
dat die handover, hè, dus de- Ja...overdragen, het stuur loslaten. Jij gebruikt het woord autonoom de hele tijd, fair. Agency geven aan, de human uit de loop halen.

328
00:55:56.812 --> 00:56:07.772
Dat, uh, we sowieso voor de vraag komen te staan op allerlei onderwerpen. Uh, hè, een AI docent in een iPad die twee weken lang lesgeeft zonder dat daar nog een mens meekijkt.

329
00:56:08.232 --> 00:56:18.722
En, nou, ik kan nog oneindig veel voorbeelden verzinnen van waar autonomie straks mogelijk is, maar we het mogelijk niet willen. Uh, wie we is moeten we allemaal nog uitzoeken dan. Maar goed,

330
00:56:20.052 --> 00:56:34.472
op het gebied van autonome, uh, wapens, uh, uh, is het de allerbelangrijkste vraag. Ja, wapens is één heel helder ding. Dat andere ding gaat de hele tijd over domestic surf-surveillance.

331
00:56:34.752 --> 00:56:39.332
Uh, dat is in Amerika niet los te zien van wat je al met ICE meemaakte de afgelopen maanden.

332
00:56:39.372 --> 00:56:58.832
Maar dit is natuurlijk een interessant ding, namelijk dat een overheid die op zich al gegevens toegang heeft tot heel veel gegevens, of dat nou telecomdata is of, weet je, wij, we-- in Nederland heb je ook al, weet je, het feit dat, uh, uh, je spam krijgt is ergens een uiting van, uh, bulkopslag van data die gewoon te koop is bij commerciële bedrijven.

333
00:56:59.112 --> 00:57:17.792
Uh, advertentie, adverteerders kunnen vrij gedetailleerd zien waar, wie, wat soort mensen ergens langslopen en tot nu toe kunnen ze daar niet zo heel veel mee, want het zijn grote datasets die heel rommelig zijn en waarbij het moeilijk is om op persoonlijk niveau allerlei con-conclusies te trekken.

334
00:57:17.892 --> 00:57:26.972
Maar, en dit hoorde ik in Hard Fork, een sentiment wat, uhm, wat heel duidelijk gemaakt werd, namelijk: het kan nu straks wel of het kan nu wel.

335
00:57:27.072 --> 00:57:39.962
Je kunt nu, uhm, tot op persoonlijk niveau in de gaten houden wat mensen, wie de mensen zijn die kritisch zijn over weet ik veel wat voor politiek punt. En opeens, weet je,

336
00:57:41.032 --> 00:57:50.992
we komen uit een tijd dat het, dat het nodig was dat als Extinction Rebellion ging protesteren op Schiphol, dat ze dan op een gegeven moment dan weer allemaal langs de politie moesten naam, moesten komen.

337
00:57:51.012 --> 00:57:58.192
Dat van iedereen een fotootje gemaakt kon worden zodat ze, uh, in een database zaten waar, waardoor ze voortaan gezichtsherkenning kunnen doen op deze mensen.

338
00:57:58.252 --> 00:58:10.312
Het is nu nog niet zo dat dit op grote schaal geautomatiseerd gedaan kan worden, maar die tijd is heel dichtbij. Ja, en ik denk- Dat is, dat is ook mijn, dat gaat nu over de bommen in Iran.

339
00:58:10.972 --> 00:58:16.232
Maar ik, ik realiseer me- Gaat overal door...door deze twee red lines die Anthropic zo publiekelijk stelt.

340
00:58:16.272 --> 00:58:29.752
En misschien is dat hun belangrijkste bijdrage aan dit hele debat, want het is opeens heel scherp geworden dat we heel dicht bij het moment zijn dat overheden dit soort dingen gewoon kunnen ko-- pa, nee, in Nederland werkt de politie ook met Palantir.

341
00:58:29.792 --> 00:58:38.512
Dat is een soort publiek geheim. Daar doen ze heel geheimzinnig over. Maar wij hebben ook gewoon Palantir-software omdat de publi, uh, politie hun, hun werk goed wil doen.

342
00:58:38.712 --> 00:58:42.352
Allemaal, daar zitten allemaal vast fantastische intenties achter.

343
00:58:42.902 --> 00:58:53.552
Maar de technische capaciteiten die in korte tijd op dit soort overheden afkomen en bedrijven die die shit leveren, dat is echt denk ik heel dicht bij het moment dat dit technisch allemaal kan.

344
00:58:53.652 --> 00:59:05.592
Ja, en ik denk dat wat voor, wat, ik, ik heb nog geen goede metafoor bedacht, dus ik ga het deze keer voor de verandering maar gewoon vertellen zoals ik het in mijn hoofd heb zitten. Kijk, in, uh, systemen.

345
00:59:05.832 --> 00:59:15.802
We zoomen heel even uit en ik kom dan weer terug naar aarde hoor, maar in systemen, dat zijn gewoon, zie het als, uh, ik ga weer met mijn metaforen, kan niet anders. Domino D-Day. Ik zie hem [gelach] voor me.

346
00:59:15.812 --> 00:59:24.412
Dit gaat, dit, laat me even Domino D-Day gebruiken. Ik herinner me dit nog, die mus komt nu in mijn hoofd. Ja. Ja. We zitten dus, dus je hebt daar een hele grote gymzaal vol met van die dominostenen.

347
00:59:24.432 --> 00:59:28.092
Altijd in Leeuwarden om een of andere reden. Ja, want daar hadden ze de ruimte voor. Denk ik. Ja, misschien.

348
00:59:28.132 --> 00:59:39.612
En in, uh, dat zijn aan elkaar gekoppelde kunstwerken met daartussen vaak wat ze volgens mij aderen noemen als ik het me goed kan herinneren als kind. De hoofdader loopt nog. Ja, denk het wel.

349
00:59:39.652 --> 00:59:50.902
Maar dan ook twee subaderen. Volgens mij de aorta. Ja. De aorta. Mooi. Waarom weet ik dit? Ja, mooi, maar goed, want wat j-- en je wilde dat het ene kunstwerk het andere kunstwerk kon aanzetten als het ware. Ja.

350
00:59:50.952 --> 01:00:01.582
Via dominostenen, anders is het niet cool dat er iemand erbij staat die zegt: doe. Nee. Ja, en, uhm, uh, dan wil je ook dat als de ader niet meer loopt, dat er nog een subader is die hem repareert. Mhmm.

351
01:00:01.592 --> 01:00:12.372
Oké, dat even gezegd hebbende. Binnen, uh, zo'n, uh, systeem van aan elkaar gekoppelde dominokunstwerken zijn er allemaal dempende factoren tussen de kunstwerken.

352
01:00:12.752 --> 01:00:15.931
Dus je moet je voorstellen: een ziek groot kunstwerk valt om.

353
01:00:15.952 --> 01:00:23.332
Gewoon, nou, zet voor het gemak 100.000 stenen voor een of andere bloem die ze hebben gemaakt en daarna komt daar weer een heel lullig adertje uit doorlopen, hè.

354
01:00:23.372 --> 01:00:27.612
Dus er komt, de energie van dat grote kunstwerk wordt weer teruggedempt tot een klein adertje.

355
01:00:28.152 --> 01:00:37.592
En op die manier heb je een systeem wat aan elkaar gekoppeld is met allemaal dempende kussens ertussen die als het ware de energie van het systeem dempen. Waar ga ik naartoe?

356
01:00:38.472 --> 01:00:53.152
Het, het is trouwens in bosbranden, de brandweer doet vaak stroken weghalen en soms zelfs, uh, bomen daar niet planten, zodat als de bosbrand komt dat je stukken bos hebt waar, b-, uh, kussens, bumpers, kijk maar hoe je ze noemt, tussen zitten die dempen als het ware een dynamiek.

357
01:00:54.112 --> 01:01:21.100
Op het moment dat jij van heel veel mensen in jouw land, uh, een specifieke groep mensen wil verzamelen, dan omdat het losse databases waren, uh, die deels op papier waren en deels in de computer, zaten er allerleiDempende factoren in het systeem waardoor jij bijvoorbeeld als gemeente kon zeggen: ze komen morgen, laten we de boeken in brand steken of desnoods de boeken in de boom verstoppen.

358
01:01:21.620 --> 01:01:34.140
En daardoor, ook al had je, wist je wat er ging gebeuren, omdat die domino's niet allemaal tegelijk vielen en dempende factoren hadden tussen de kunstwerken, dus tussen de gemeentes, tussen papier, tussen computers.

359
01:01:34.920 --> 01:01:46.540
Had je, kon je wel willen om alles in één keer op te halen, mensen, data. Maar je kon het niet, want het duurde een maand of het was zelfs eigenlijk praktisch onmogelijk. Gedecentraliseerd en, ja.

360
01:01:46.600 --> 01:01:53.340
Ja, dus je had een, eigenlijk een, ja, de facto gedecentraliseerd informatiesysteem, puur omdat de technologie het nog niet kon.

361
01:01:53.920 --> 01:02:05.380
Inmiddels hebben we door internet en dingen als big data en databases al heel lang heel veel van die data gecentraliseerd en soms zelfs al in een mooi formaat gezet. Maar ook heel vaak is het nog rommel.

362
01:02:06.120 --> 01:02:14.760
Nu komt als een soort extra ingrediënt, uh, uh, in de chemische reactie AI erbij in de mix, zei jij het net heel mooi, uh, even terug.

363
01:02:15.240 --> 01:02:26.800
En AI komt nu in de mix die eigenlijk die grote al digitale datasets, plus, uh, het feit dat het rommelige datasets zijn in, in één keer in korte tijd kan rechttrekken.

364
01:02:27.220 --> 01:02:38.800
Waardoor alles van Domino D-day met 80 aderen tegelijk ertussen en veel meer snelheid aan elkaar gekoppeld wordt, waardoor je eigenlijk een systeem hebt waar vroeger een dempende factor in zat.

365
01:02:39.360 --> 01:02:44.020
Eigenlijk spontaan, uh, door de historie van hoe de systemen ontsta-ontstaan zijn.

366
01:02:44.460 --> 01:02:54.050
En steeds meer van die dempende factoren zijn nu aan het verdwijnen, waardoor energie en informatie op een veel snellere manier kan bewegen door het systeem.

367
01:02:54.340 --> 01:03:00.040
Wat in het geval van een ziekenhuis bijvoorbeeld superfijn is, want daardoor overlijden er minder mensen.

368
01:03:00.080 --> 01:03:13.420
Maar in het geval van overheden en instanties die mensen willen verzamelen en data willen verzamelen een absoluut, uh, spannende en gevaarlijke ontwikkeling is. Ja. Ja. Ja.

369
01:03:14.620 --> 01:03:29.350
Nou, en ik, een ander ding waar ik me een beetje aan zat te, [zucht] wat ik opvallend dan vind in, op zo'n moment is dat, het werd vrij snel gereduceerd tot zeg maar je abonnement op ChatGPT op. Ja.

370
01:03:29.480 --> 01:03:37.980
Uhm, [schraapt keel] dat is dan een dy-dynamiek die gaat leven. Want dat is natuurlijk ook, het is een soort van anti-Trump sentiment en er zijn allemaal heel begrijpelijke redenen voor.

371
01:03:38.020 --> 01:03:49.660
Maar laten we ook, st-, uhm, het gebeurt am-, ja, ja, hoe moet je dat nou zeggen? Het gebeurt allemaal niet in een vacuüm wat er hier gebeurt. Anthropic worstelt ook met die commerciële druk op het, uh, bedrijf.

372
01:03:49.700 --> 01:04:03.940
Eerder deze, eerder deze maand onthulde Time Magazine dat Anthropic al de kernbelofte van zijn veili-, de kernbelofte van zijn veiligheidsprotocol schrapte om nooit een AI-model te trainen zonder vooraf te kunnen garanderen dat de veiligheidsmaatregelen toereikend zijn.

373
01:04:03.980 --> 01:04:12.740
Dat was jarenlang het visitekaartje van het bedrijf. Die hebben ze geschrapt. En Anthropic medeoprichter Jared Kaplan legde uit waarom ze die belofte lieten varen.

374
01:04:12.760 --> 01:04:23.180
Hij zei: we voelden dat niemand zou helpen, dat het niemand zou helpen als wij zouden stoppen met het trainen van AI-modellen, terwi-terwijl onze concurrenten volle kracht vooruit gaan. Dit is cruciaal punt.

375
01:04:23.600 --> 01:04:35.140
Dus er is een dynamiek waarin die bedrijven met elkaar concurreren. Nou, er is één bedrijf wat ervandoor gaat met het, uh, contract met het ministerie van Defensie. Dat is, dat was Anthropic.

376
01:04:35.580 --> 01:04:45.580
Dat was de exclusieve partij, uh, die een model mocht leveren. Dat wordt nu waarschijnlijk een soort mix tussen OpenAI en godbetert Elon Musk.

377
01:04:46.000 --> 01:04:56.780
En misschien dat Anthropic de boel wel recht weet te breien, uh, omdat, omdat er toch nog een onderhandeling op de achtergrond doorgaat. Er is een dynamiek waarin die de hele tijd met elkaar aan het concurreren zijn.

378
01:04:56.900 --> 01:05:01.640
Eigenlijk, zegt Kaplan: als wij stoppen, gaan anderen gewoon door, dus dan kunnen we maar beter ook dit ding laten varen.

379
01:05:01.949 --> 01:05:15.540
Maar voel ik bij jou misschien niet bijna, ik leg even woorden in je mond, kan je zelf zeggen of je dat vindt, dat je aan de ene kant zegt: oké, ik zie inderdaad Anthropic, de volksheld, maar aan de andere kant dat je ook denkt: het is ook heel hypocriet en weird allemaal eigenlijk.

380
01:05:15.600 --> 01:05:24.380
Ik, vi-, ik, ik, ik vind het label hypocriet, uh, zou ik er niet op plakken, want ik gewoon, omdat ik er echt te weinig van begrijp. Maar ik vind het volksheldding echt heel dom.

381
01:05:24.800 --> 01:05:35.660
Ja, en ik vind het ChatGPT is de vijandding ook echt heel dom. Ja. Dus er is een dynamiek aan de hand waarbij, uh, waarbij iedereen naar elkaar wijst. Als wij stoppen gaan de anderen gewoon door.

382
01:05:35.680 --> 01:05:45.520
En dat is precies hetzelfde argument wat het Pentagon ook gebruikt, uhm, uh, in de race met China. Zeg maar als dus, als, als de Chinezen doen, moeten wij het ook doen.

383
01:05:45.780 --> 01:05:54.499
En we moeten voorkomen koste wat kost dat de Chinezen eerder het grote model in handen hebben. Ik bedoel, je vindt dat, uh. Iedereen past deze dynamiek nu toe. Ja, ik bedoel, dat is, dat. Bedrijven doen dit.

384
01:05:54.540 --> 01:06:03.240
Ja, ja, ja, ja, ja. Individuen doen dit. De tuin van je buurman leegjatten, want anders doet hij of zij het ook bij mij. En dit is zo- En dat is gewoon het einde van enige vorm van, van samenleving, hè.

385
01:06:03.300 --> 01:06:09.060
Het is zo'n enge dynamiek. Ja, maar het, ik, ik, ik denk op wereldniveau dat dat een soort van, uhm.

386
01:06:09.440 --> 01:06:20.380
Kijk, het is ons geluk denk ik op individueel niveau en binnen groepen en zelfs tussen landen binnen unies om redelijk met elkaar om te gaan op een hoger niveau dan: ik vertrouw jou niet, dus ik jat alvast je huis leeg, zeg maar.

387
01:06:20.820 --> 01:06:25.310
Maar het lukt ons wereldwijd niet om dat vertrouwen in elkaar te hebben. Nee. Dus dan verval je heel tijd in dit soort dynamieken.

388
01:06:25.320 --> 01:06:35.000
En als je de redenering doortrekt dan, dan, dan, zeg maar, kan een AI-bedrijf dan überhaupt principieel zijn? Of dwingt uiteindelijk concurrentie iedereen naar hetzelfde punt toe?

389
01:06:35.160 --> 01:06:42.500
En dat is toch wel gevoelsmatig, als, dat is wat hier aan de hand is. En dan. Maar vind je dan bijvoorbeeld Dario eigenlijk, Dario Amodei, eigenlijk naïef?

390
01:06:42.850 --> 01:06:47.180
Ik bedoel, je kan ook zeggen: misschien zag hij 1% kans dat het hem zou lukken en die heeft hij gepakt. Ik bedoel.

391
01:06:47.240 --> 01:06:58.240
Ik denk eerlijk gezegd dat de man iedere kans aangrijpt om, om, ik denk dat hij echt gelooft dat Opus III een begrafenis verdient, omdat hij daarop beoordeeld gaat worden.

392
01:06:58.280 --> 01:07:13.380
Dat hij iedere kans aangrijpt om de publieke discussie te laten gaan over het ding wat hij, uh, het belangrijkst vindt, namelijk dat we het model inschatten op de kracht die het gaat hebben en dat we ons daarop voorbereiden en dat we daar goed op voorbereid zijn.

393
01:07:13.480 --> 01:07:20.308
Maar is dat, is dat, vind je dat een onnodige stem in het debat?Nee, helemaal niet. Een heel belangrijke stem in het debat.

394
01:07:20.608 --> 01:07:29.728
En maar dat maar dat en dat verklaart gewoon heel veel wat, wat jou betreft heel veel van de beweging in de laatste jaren en zeker de laatste weken in dat frame.

395
01:07:29.768 --> 01:07:45.448
Ja, en ik denk dus dat dat, dat, dat hij dat zo consequent doorvoert, dat idee dat hij dus zelfs uhm en, en dus ook zo gelooft in de kracht van het model en dat dat zijn, uh, beslissingen drijft. Dat hij dus ook denkt

396
01:07:46.528 --> 01:07:53.968
we zeg maar de bottomline worst case gaat China er met het model vandoor en hebben we helemaal niet meer onder controle.

397
01:07:54.548 --> 01:08:07.928
Dus dan moeten we ook onze westerse waarden bla bla bla bla bla gaan bevechten door, door als enige taalmodel exclusief voor het leger te gaan werken. Ik, ik, ik denk dat dat allemaal één, uh, lijn is.

398
01:08:07.968 --> 01:08:19.928
Of, of je dan vervolgens, uhm, een mening moet gaan hebben over, uh, over hoe jouw model wordt gebruikt ten opzichte van het internationaal recht is weer een ander vraagstuk. Dat komt nogal naïef op mij over. Maar ja.

399
01:08:21.028 --> 01:08:31.668
Als we nou nog, als we heel even uitzoomen, want ik zei net eerst zagen we het in een film, toen lazen we het in scenario's en nu lezen we het in het nieuws. Ja. Uh, maakt dat het anders voor jou?

400
01:08:32.628 --> 01:08:37.668
Is de afstand tussen die film, het scenario en het nieuws hetzelfde? Of is het nieuws wel echt dichterbij?

401
01:08:39.108 --> 01:08:46.548
Laat ik het zo zeggen: ik stel je deze vraag omdat ik om me heen ook wel mensen heb die eigenlijk op dezelfde manier reageren op het nieuws als op de film. Namelijk?

402
01:08:47.328 --> 01:08:59.028
Uhm, met een bepaalde, uhm, als ik dan met hun daar gesprekken over heb, dan voel ik een soort, uh, afstand. Alsof we met elkaar zitten te praten over een boek wat we samen gelezen hebben. Ja, ja.

403
01:08:59.308 --> 01:09:08.548
Of een film die we net hebben gezien in de bioscoop. Hoe uit zich dat? In een soort gelatenheid of zo? Uuuh. Of zijn mensen vooral geamuseerd? Of wat [lacht]? Nee. Ja, precies. Hoe voel ik dat dan?

404
01:09:08.558 --> 01:09:17.748
Nou, ik, de, de, ik vraag het aan je omdat ik het bij jou niet helemaal kan, kan peilen, zeg maar. Ik merk als ik, als we het erover hebben dat je je absoluut zorgen maakt en het ook echt wel spannend vindt.

405
01:09:17.868 --> 01:09:27.467
Uh, nee, ik heb, ik, ik, in dat opzicht heb ik vrienden die, uh, en dat respecteer ik. Ik, het is niet een aanval of zo, ik, het is ook maar, het is een coping, hè.

406
01:09:27.668 --> 01:09:31.688
Het is wel prettiger om te denken dat het een film is, denk ik, uh, waar we nu over praten.

407
01:09:31.728 --> 01:09:42.308
Dat het een soort van hypotheses zijn die we bespreken over scenario's, maar, uh, het binnen laten komen wat jij net deed toen je zei: dit gaat helemaal niet alleen over Iran, het gaat ook over Nederland, zeg maar.

408
01:09:42.328 --> 01:09:57.088
Je trekt hem dan in één keer in huis. Ja, ja, ja. Maar wat- If anything word ik daar heel, uh, zeg maar, zou ik het een heel, een heel fijn idee vinden als er meer in autonome wapens wordt geïnvesteerd in Nederland.

409
01:09:57.328 --> 01:10:06.308
Ik, ik, ik schaam me bijna om het, om het te zeggen, omdat ik dit natuurlijk ook niet wil. Maar de, de- Ja, ja, en dan bedoel jij- Laten we het alsjeblieft voor zijn. Dat wij het ook hebben.

410
01:10:06.368 --> 01:10:15.908
Het is zo helder wat er op ons a-af zit te komen [lacht]. Als je, als je, als je, als je, zeg maar internationaal recht werkt. En dat is Th-Thompson zijn punt ook bij de gratie van macht.

411
01:10:16.208 --> 01:10:22.288
Want het is allemaal leuk dat je juristen hebt, maar het zijn de mensen met wapens die de macht afdwingen. Het is ook een equilibrium.

412
01:10:22.548 --> 01:10:30.248
Laten we alsjeblieft zorgen dat dat equilibrium een beetje ge-, ge- Maar dat is een flinke statement die je maakt als je zegt van: laten we als Nederland investeren in autonome wapens.

413
01:10:30.268 --> 01:10:40.668
Dat zeg jij zo even zo hoep, uh, de, ik, jij zegt daarmee, uhm, die autonome wapens komen er sowieso. Ja. Buiten Nederland. Ja, laten we alsjeblieft.

414
01:10:40.708 --> 01:10:49.528
Maar is het enige wat je tegenover een autonoom wapen kan zetten een ander autonoom wapen? Ja. Wat dan? Ik bedoel, dat, dus als dat de aanname is, dan moeten wij ook wel.

415
01:10:49.568 --> 01:10:57.088
Dus ten eerste ze komen buiten ons sowieso en het enige wat ertegen werkt is, is wat- Vertel me de oplossing, Wytse, als dit niet zo is. Ik, ik ben een en al oor.

416
01:10:58.648 --> 01:11:07.048
Ja, ik bedoel, ik merk, ik merk meteen bij mezelf dat ik denk: die autonome wapens, hè, die dus niet hier gemaakt worden, maar op ons afkomen om het gewoon even te zeggen voor wat het is. Ja.

417
01:11:07.468 --> 01:11:13.398
Dat daar waarschijnlijk een bepaalde snelheid in zit en een bepaalde kunde in zit waar jij geen groep mensen tegenover. Nee.

418
01:11:13.428 --> 01:11:20.788
Ik zeg, ik doe even een heel, me-misschien voor sommige luisteraars zitten nu te glimlachen van: ach schattige, naïeve, naïeve Wytse, denk jij dat je daar tegenover kan staan met je stok?

419
01:11:21.268 --> 01:11:35.707
Hè, ga je die, ga je die drone uit de lucht slaan met een stok? Ja, dat, dat, dat, ja, hmm. Ik bedoel, uh, misschien, misschien merk ik dat, uhm, de vraag is misschien dan in een soort, uh, [zucht]

420
01:11:35.848 --> 01:11:45.068
spectrum van autonomie of, uh, je tegenover een absoluut autonoom systeem ook alleen maar een absoluut autonoom systeem kan zetten.

421
01:11:45.188 --> 01:11:52.988
Dus dat een no one in the loop systeem alleen maar tegengehouden kan worden door een no one in the loop systeem. Daar ga ik vanuit. Ja. Dus wat is je twijfel daarbij?

422
01:11:53.008 --> 01:12:07.128
Nou, dat, dat ik, dat ik zelf zoiets heb en dat, en dat gaat, dit, nu spreek ik puur vanuit mijn hoop en een soort van, uh, uh, hardop, uh, uh, ideation over de toekomst, uh, binnen een hele complexe, moeilijke, nare context.

423
01:12:08.248 --> 01:12:14.788
Kunnen daar niet, uh, countersystemen tegenover staan die niet, uh, waar we het niet helemaal uit handen hoeven geven?

424
01:12:15.648 --> 01:12:27.208
Want als nu de logica is, uh, omdat zij het uit handen geven, hè, dus o-het stokje overdragen aan AI in het geval van, uh, militaire doeleinden, dan moeten wij ook wel.

425
01:12:27.228 --> 01:12:40.048
Ja, ik vind dat, da-dat als een soort van, uhm, soort logisch gevolg van een, uh, super, uh, pijnlijke en- Ja. angstaanjagende- Misschien, maar ja, ik zie geen, ik, ik wil, ik word heel graag van het tegendeel overtuigd.

426
01:12:40.468 --> 01:12:47.348
Zou, zou ik er ook een stuk beter door slapen. Laten we doorgaan naar het volgende onderwerp. Laten we het hebben over die Chinese AI, want ze maken die mensen ook prachtige dingen.

427
01:12:47.468 --> 01:12:54.388
Uh, AI die je op je laptop of op je telefoon kunt draaien. Ja-jarenlang was de discussie: welk bedrijf bouwt het allerslimste model?

428
01:12:54.588 --> 01:13:04.248
En de release, de laatste release van Qwen, dat is een model van het Chinese Alibaba, verschuift die vraag naar: wie maakt het toegankelijkste model?

429
01:13:04.868 --> 01:13:24.792
Het 9B-model van Qwen is klein genoeg om op een laptop te draaien, maar scoort op een test, uh, voor redeneren op universitair niveau, dat is een test die je aan een AI-taalmodel kunt voorleggen, 81%, 81 puntenTerwijl het grootste model van OpenAI, een model dat overigens 13 keer zo groot is, minder scoort dan dat.

430
01:13:25.212 --> 01:13:38.172
Dus het is een beetje alsof opeens een model wat veel kleiner is en daarmee dus in de praktijk op je laptop kan draaien, uh, evenveel kan als een ding waar je normaal gesproken een server voor nodig hebt of veel duurdere infrastructuur.

431
01:13:38.212 --> 01:13:47.912
Nou, dat is allemaal belangrijk voor mensen die werken met privacygevoelig materiaal, zoals juridische documenten of financiële gegevens of medische gegevens is het een hele grote stap.

432
01:13:47.972 --> 01:13:58.152
En eigenlijk ook voor ons allemaal als je onafhankelijker wil worden van Amerikaanse of zelfs Chinese technologie, want je kan die modellen op je eigen, uh, computer draaien.

433
01:13:58.192 --> 01:14:08.202
Heb je het zelf- Jazeker heb ik het geprobeerd, want ik, uhm, ben-- ik zit al heel lang te rommelen met lokale modellen. Vooral vind ik het prettig op een smartphone, omdat, die heb ik gewoon het meest bij me.

434
01:14:08.232 --> 01:14:16.912
Dus dat het op een laptop draait, fair enough. Maar het is, denk ik, wat mij betreft belangrijk als je iets met lokaal wil, dat het in je zak, in jouw eigen zak kan draaien, zeg maar, dat het werkt.

435
01:14:16.992 --> 01:14:25.072
En, uhm, als ik dan zeg dat het werkt. Kijk, die modellen tot nu toe was meer speelgoed, uh, dus dan, ik liet, ik liet het vaak, ik laat het vaak aan mensen zien.

436
01:14:25.112 --> 01:14:34.712
Ik zeg: kijk, ik zet mijn telefoon op vliegtuigmodus, nu open ik mijn app, ga ik daar praten alsof het ChatGPT is en kijk, het komt op dezelfde manier teruggestreamd het beeld in. Waarom noem je het dan speelgoed?

437
01:14:35.352 --> 01:14:51.572
Omdat de, uhm, hardwarecapaciteiten zelfs van recente, uh, zeg maar boven de € 1.000 smartphones, iPhone Pro bijvoorbeeld, of de Pixel-lijn, Pixel Pro's, uh, dat zelfs die zware smartphones, hè, die dus echt wat aan boord hebben.

438
01:14:52.252 --> 01:15:00.792
De modellen die daarop passen en passen betekent eigenlijk twee, sorry, drie dingen: hoe snel kan je telefoon rekenen, dus je CPU?

439
01:15:01.592 --> 01:15:07.232
Hoeveel kan jouw telefoon in snel geheugen houden, oftewel RAM, s-, werkgeheugen, zoals we het noemen.

440
01:15:07.732 --> 01:15:18.972
En twee, drie is: hoeveel ruimte heeft je telefoon om het model, uh, te kunnen opslaan en het liefst meerdere modellen. Dat ruimte met opslaan, nooit echt een probleem geweest, dus we houden het even bij RAM en, uh, CPU.

441
01:15:19.612 --> 01:15:28.071
En die twee samen, de combinatie van de rekenmachine plus het kladblok wat ernaast zit, die constant met de rekenmachine overlegt wat er voor getallen heen en weer gaan, zeg maar. Pretty much hoe het werkt.

442
01:15:28.772 --> 01:15:41.092
Die waren tot nu toe, die zorgen ervoor dat w-, dat er een beperkte ruimte is. Dat zij-, is er in het datacenter ook, maar die ruimte is echt, nou, 100 keer minimaal zo,

443
01:15:42.222 --> 01:15:50.772
zo, is er, zo, is er meer rekenkracht en RAM-geheugen en opslag dan op een smartphone. Je gaat echt van een supercomputer naar een zakcomputer, dus je ging ook van een

444
01:15:52.252 --> 01:16:03.632
slimme AI naar een zeer matige AI, want die moet het doen met de middelen die die heeft op, uh, die smartphone, die dat systeem heeft op de smartphone. Er zijn twee dingen gebeurd: smartphones zijn sneller geworden. Ja.

445
01:16:03.692 --> 01:16:15.272
De smartphonefabrikanten zijn chips gaan aanpassen om AI-modellen sneller te laten draaien, zeg maar, door middel van specifieke chips toevoegen, maar ook gewoon de normale CPU zoals we die kennen een beetje op te leuken.

446
01:16:15.952 --> 01:16:22.772
En aan de andere-- je hebt dus, uh, de capaciteit die groeit van de zakcomputers, om het even plat te zeggen, en de

447
01:16:23.972 --> 01:16:35.652
in, ingenieun-, de ingenieuze oplossingen, de innovaties die er zijn op: kunnen we niet slimmer kleine modellen bouwen zodat we uit diezelfde kleine hardware veel meer kunnen halen? Dat is allebei hier aan de hand.

448
01:16:35.712 --> 01:16:50.332
Ja, dus we hebben nu recente smartphones van N-, uh, de Pixels en de Pro-phones van iPh-, van Apple, iPhones. Aan de andere kant hebben we Qwen 3.5 vanuit Alibaba. Qwen 3.5 met 9 miljard parameters.

449
01:16:50.372 --> 01:17:03.172
Die is, wordt dus geleverd in allerlei, m-, de mini-mini, die kan echt draaien in een browser op een Chromebook, zeg maar, uh, tot en met het grootste kleine, uh, hoe gek dat ook klinkt, het grootste kleine Qwen 3.5-model.

450
01:17:03.672 --> 01:17:12.572
Het grootste kleine Qw-, Qwen 3.5-model kan draaien op de allerduurste iPhone. Dan heb je een iPhone van € 1.600, zeg maar, en een hele zware Pixel.

451
01:17:13.292 --> 01:17:25.312
Maar wat daar dan op draait is eigenlijk iets dat zeker GPT-4 is en eigenlijk wel daar voorbij, want er zit ook thinking in namelijk, hè, dus dat ie kan reflecteren op reflecteren, het internet op kan, hè.

452
01:17:25.432 --> 01:17:35.192
Dan zou je zeggen: aha, moet je het internet toch weer aanzetten. Ja, maar dat is toch wel iets anders dat de AI bij jou draait en voor jou googelt dan dat de AI alle data met zich meedraagt en over jou, uh, rondstuurt.

453
01:17:36.271 --> 01:17:46.432
Waarom is het nou relevant? Op veel verschillende manieren. Punt één: er is blijkbaar nog heel veel te halen in de grote modellen, als de kleine modellen blijkbaar zoveel kunnen.

454
01:17:46.572 --> 01:17:51.092
Ja, precies, dat een model zo kleinig, klein kan zijn en toch zo krachtig kan zijn. Ja, precies.

455
01:17:51.152 --> 01:18:05.172
Je zou kunnen zeggen dat, en dit is ook veel onderzoek naar gedaan, dat ze bijvoorbeeld kijken, ze doen Humanities, Humanity's Last Exam-vragen aan Claude, even als voorbeeld, en scannen dan hoeveel van de neuronen, tussen aanhalingstekens, van Claude oplichten.

456
01:18:05.192 --> 01:18:10.512
En dan blijkt in, blijkt dat helemaal niet heel Claude's brein helemaal gebruikt wordt bij het beantwoorden van die brede test.

457
01:18:11.032 --> 01:18:19.832
Oftewel: er hangt nog heel veel, uh, blindedarmachtig orgaan omheen wat we eigenlijk niet nodig hebben, hè, wat nog meelift in evolutie in het geval van de modellen.

458
01:18:20.212 --> 01:18:28.792
Dus de huidige grote modellen kunnen nog veel efficiënter. Dat laat dit kleine model zien. Uhm, dat is een wat we hieruit kunnen halen. Punt twee is:

459
01:18:29.812 --> 01:18:44.712
het zou zo kunnen zijn, dit, dit wordt een beetje good enough AI genoemd, dat, ik kan niet anders dan in de context van het, de paar minuten hiervoor blijven praten voor de dui-, want we hebben geen context window reset gedaan nu, dus ik heb nog steeds ons autonome wapending in mijn hoofd aan de achterkant en de politiek van AI.

460
01:18:45.452 --> 01:19:00.092
Uhm, dat je je ook kunt afvragen: good enough AI is in ieder geval voor wat de meeste mensen nu doen, samenvatten, research laten doen, uh, op orde brengen van je sjes-, uh, spreadsheets.

461
01:19:00.532 --> 01:19:11.971
Deze modellen niet eigenlijk al goed genoeg, hè. Dus daar is in, lokaal is AI eigenlijk nog grotendeels een tool. Ja. Echt zoals AI voor de meeste luisteraars in Copilot nu werkt. Een soort local Copilot, best wel vet.

462
01:19:12.032 --> 01:19:21.584
En kan je dus ook de vraag stellen: is dat niet eigenlijk genoeg? Ja. Ik benEcht niet zo naïef dat ik denk dat we nu kunnen zeggen: zullen we met z'n allen gewoon afspreken dat dit genoeg is? Dan weet ik, maar toch.

463
01:19:21.624 --> 01:19:29.904
Nee, maar het is dat. Tot nu toe is het nog elke keer onpraktisch om in de praktijk lokale taalmodellen te gebruiken, omdat die toch de toch te veel foutjes maakt.

464
01:19:29.964 --> 01:19:42.664
Of dat als je hem wil gebruiken als, uh, systeem dat tool calls doet, dat dat niet goed doet. Dus dat is een belangrijke reden om nog geen lokale AI te gebruiken. Ja. Maar wetende dat die dingen zo snel beter worden.

465
01:19:42.684 --> 01:19:54.444
De, kijk voor hoe wij nu ons werk zien, gaat er heel binnenkort een moment komen dat we wel dat werk kunnen overlaten aan een lokaal model en dat het goed geïntegreerd kan zijn, dat het gebruiksvriendelijk is, dat het weinig fouten maakt.

466
01:19:55.024 --> 01:20:04.844
Ja, en het, en. Reken maar dat bedri-, dat mensen dat gaan gebruiken. En het doet veel, hè, want op dat moment is het dus zo, uh, je hebt geen internet, je hebt toch iets van AI, hè, lokaal.

467
01:20:05.524 --> 01:20:12.943
Je laadt je telefoon op met je zonnepanelen thuis, dus jij hebt iets te zeggen over de energiebron. Ja. Krijg je er ook gratis bij, zeg ik maar even.

468
01:20:13.424 --> 01:20:23.674
Daarnaast is het zo dat op het moment dat jouw creditcard het niet doet of, of dat de leverancier van jouw AI zegt: ik wil jou niet meer, dat is ook, uh, dus weg. Autonomie gaat het over.

469
01:20:23.704 --> 01:20:33.774
Ja, dus het gaat over autonomie en dat maakt het, zeg ik even voorzichtig, een politiek vraagstuk. Mhm. Namelijk: hebben mensen recht op hun eigen AI die ze altijd mee kunnen nemen?

470
01:20:34.384 --> 01:20:44.364
Is het qua data en privacy, waar we het net over hadden met het grote dominospel en de bosbranden, niet verstandiger als het wat meer op- Mhm...decentrale, uh, plekken staat?

471
01:20:44.864 --> 01:20:53.844
En op die manier kan je je voorstellen dat lokale AI allerlei voordelen heeft. Ga ik ook m'n eigen verhaal meteen vanaf de andere kant even aanvallen.

472
01:20:55.424 --> 01:21:03.524
Als het dan bijvoorbeeld gaat over, uh, het maken van, uh, onprettige content, zeg ik even vriendelijk, afbeeldingen maken en dat soort dingen.

473
01:21:04.004 --> 01:21:15.704
Als het gaat om, uh, dreigmailtjes maken en pesten via AI, dat nu Anthropic, Google, noem ze allemaal maar op, dat kunnen zien, uh, leeftijden weten en daarvan zeggen: hier houdt het op.

474
01:21:16.264 --> 01:21:26.244
Dat ben je allemaal kwijt op het moment dat je lokaal gaat. Ja. Hè, dus de prijs- Ja...die je op die manier betaalt als het gaat om de controle over de output van AI lever je in.

475
01:21:26.264 --> 01:21:35.244
En er zullen genoeg luisteraars zijn die zeggen: dat ben ik bereid te betalen, die prijs, maar echt niet iedereen. Ja, ja, ja. Dus dat wil ik. En het gaat ook impact hebben op mensen die nooit AI-systemen gebruiken.

476
01:21:35.364 --> 01:21:49.284
Want ook zij kunnen het slachtoffer zijn van spam, uh, phishingattacks. Het is echt een enorme vloek en een zegen. Ja. Nou, leuk, Wietse. Leuk, hè? Ja, het was weer een, uh, enerverende aflevering.

477
01:21:50.404 --> 01:21:56.634
Volgende week ben, ben ik er niet. Jij bent er wel. Ja. Wat ga je doen eigenlijk? Komt wel goed. Ik heb dat één keer eerder gedaan. Of ga je gewoon in je eentje vol zitten lullen?

478
01:21:56.664 --> 01:22:04.354
Daar heb ik, dus ik heb dat eens een keer gedaan. Ja, ik weet het, maar dat ga je gewoon nog een keer doen. Ik denk, uh, ligt eraan. Misschien dat ik wel, uh, iemand uitnodig, maar ik, uh, ik ben er sowieso.

479
01:22:04.404 --> 01:22:12.644
Go with the flow, zoals altijd. Volgende week zijn we er dus gewoon weer. Wij danken Sam Hengeveld voor de edit, Pankrath voor de vormgeving. Als je een lezing wil van de heer Hagen of van mij, dan kan dat.

480
01:22:12.664 --> 01:22:23.484
Mail ons op lezingen@airreport.email en als je onze nieuwsbrief wil krijgen, zet dus dat e-mailadres wat in je, uh, shownotes staat in je adresboek als je zeker wil weten dat je de e-mail ontvangt.

481
01:22:23.504 --> 01:22:36.504
Twee keer per week de laatste tips en tools en het, het nieuws wat niet bij te houden is normaal gesproken via airreport.nl. Ik wens jullie een hele fijne week. Dag. En tot volgende week. Tot volgende week.

482
01:22:37.504 --> 01:22:52.614
[muziek]