Hi lezer, 👋

Hoe is het? M’n laatste brief aan jou dateert alweer uit mei 2023 - een eeuwigheid in tijden van AI. De daarin beschreven AI-geloofsovertuigingen en controversiele, kwalijke achtergronden, gekoppeld aan het acronym TESCREAL, maakte veel los bij een aantal lezers. Heel tof dat jullie dat zo aan me laten weten en delen.

👉🏽 Lees die brief hier als je dat nog niet gedaan hebt.

Deze week de week van een AI Translator, of: wat ik zoal doe de laatste tijd
Laat ik het deze keer luchtig houden, dacht ik, en een keer delen hoe een gemiddelde week er uitziet voor een zogeheten AI translator als ik. Noem het journaling. Een editie van een andere aard en kaliber dan normaal, maar hee, we moeten soms ook samen uit onze comfort zone, toch? Het eerlijke verhaal is dat ik onlangs ben verhuisd van Amsterdam naar Arnhem en zo’n life event drukt hier en daar wat op je routines 😉.

De volgende brief weer als vanouds: De Productiviteitsparadox & AI
Ben jij nou die Super Vision-lezer die eigenlijk gewoon wholesome hardcore AI analyses verwacht (of praktische tools) en nu al teleurgesteld is, dan verzoek ik je vriendelijk om nog even geduld te hebben. Ik beloof je bij deze dat ik in mijn volgende brief uitgebreid inga op hoe de toekomst van (creatief) werk er werkelijk uitziet. Ik raakte daarvoor geinspireerd door de Productiviteitsparadox van Solow en het volgende, legendarische citaat.

Wat gebeurt er als je anno 2023 ‘computer age’ vervangt door ‘AI age’? Wat zeggen de nieuwste cijfers, onderzoeken, experts en werkenden hierover? De antwoorden krijg je volgende keer.

Voor nu, veel liefdagboek-plezier ⏱️ Leestijd: een goed aantal minuten

Laurens, auteur van The Art of AI

Ps. Geen tijd voor een stukje volle vijf werkdagen journaling? Lees dan alleen dit:

Live-event vrijdag 6 oktober: Machine Learning Labor

Kom meepraten tijdens AI for Good #5 over De Toekomst van Werk met AI, op vrijdagavond 6 oktober in Felix Meritis, Amsterdam. Sinds vorig jaar organiseer ik deze avond, steeds weer over een ander thema waarop we de impact van AI onderzoeken. Zet 6 oktober alvast in je agenda.

1. Maandag - Vrouwenemancipatie & de bril waarmee ik naar AI kijk

Een goeie 13 maanden geleden kwam mijn boek The Art of AI uit. Daarin werp ik samen met machine learning engineer Marlies van der Wees (DPG Media) een praktische blik op hoe het creatieve proces en AI hand in hand gaan. (Note: daar is nog niets aan verouderd, alleen de tools hebben nu andere namen). Aan de hand van 14 interviews met makers uit de mediawereld, journalistiek en design, zetten we de mogelijkheden, kansen en gevaren van kunstmatige intelligentie op een rij. Het boek is bedoeld voor inhoudelijke makers, die vaak geen programmeerkennis hebben, geen wiskundeknobbel bezitten of voorliefde voor statistiek hebben, maar wel meer over de basis willen weten.

Sinds de komst van ChatGPT wordt mij nog vaker gevraagd om allerlei ontwikkelingen rondom AI te duiden. Dat doe ik deze dagen door er workshops over te geven of bijvoorbeeld redacties een aantal dagen te trainen. Zo leren ze de nieuwe technologie te begrijpen en in te zetten voor journalistiek en ander creatief werk.

AI & vrouwenemancipatie

Deze maandagmiddag geef ik een workshop aan een organisatie die opkomt voor vrouwenemancipatie en minderheden. Tijdens het voorgesprek vroeg de organisator me expliciet om niet te veel aandacht te besteden aan de welbekende vooroordelen die AI-systemen bevatten. Daar zijn ze al zeer bewust van en volop mee bezig. Het team is vooral op zoek naar de mogelijkheden en inspiratie.

Laat dat nou net de bril zijn waarmee ik zelf ook altijd naar technologie kijk: als opener van deurtjes in je creatieve brein. Het gereedschap is nooit het doel, maar maakt het mogelijk om andere vragen te stellen, nieuwe verhalen te bedenken of oplossingen te vinden in een richting die je tot voor kort niet (her)kende. Niet bij jezelf of niet bij anderen.

2. Dinsdag - Het IKEA-effect van AI

Ken je het IKEA-effect? Dat gevoel dat je krijgt wanneer je zelf je kast of bed in elkaar zet? Het zelf doen zorgt ervoor dat je meer waarde toekent aan een product of object.

Vandaag ga ik twee IKEA-kasten in elkaar zetten voor in m’n werkkamer – ik ben namelijk pas verhuisd van Amsterdam naar Arnhem. Eens kijken of ook ik dat IKEA-effect ga ervaren. Maar eerst wil ik het hebben over een ander soort effect.

Voor de onthullingen rondom de Pandora Papers (oktober 2021) werden bijna twaalf miljoen documenten doorzocht door zeshonderd journalisten vanuit de hele wereld, daarbij ondersteund door AI-analysesoftware. AI werd ook al ingezet bij onderzoek naar de invloed van Instagrams algoritme op de posts van politici gedurende campagnetijd, naar haat die vrouwelijke politici op social media ontvangen en voor analyse van satellietbeelden met daarop Russische loopgraven op Oekraïens grondgebied.

It’s a match

Wat levert (onderzoeks)journalisten het gebruik van AI-software zoal op en waar moeten ze op letten bij de toepassingen ervan? Vandaag hoop ik daar antwoorden op te krijgen, wanneer ik de online presentatie bijwoon van de resultaten van onderzoeksproject It’s a match. Voor dat onderzoek werkten ethici, juristen, data- en AI-engineers en journalistieke onderzoekers samen om vanuit verschillende invalshoeken de mogelijkheden en randvoorwaarden voor onderzoeksjournalistieke AI in kaart te brengen.

Deze samenwerking (met een RAAK publiek-subsidie van Nationaal Regieorgaan SIA) kent nogal wat imposante partijen; penvoerder Fontys Hogeschool trok samen op met het lectoraat Kwaliteitsjournalistiek in Digitale Transitie van Hogeschool Utrecht. Daarnaast werkten ook het Nederlands Instituut voor Beeld & Geluid, Pointer en Omroep Flevoland en ook nog een aantal publieke partners mee, zoals Games for Health, MindLabs, L1, RTV Utrecht, Omroep West en IDfuse.

Of een journalistieke samenwerking met AI voor een omgekeerd IKEA-effect zorgt, lees je bij de volgende dag.

3. Woensdag - Help, mijn uitgever wil met me lunchen

Ondertussen is de eerste IKEA-kast af en ook m’n nieuwe bureau staat werkklaar. Zoals voorspeld, voelt het best lekker om dit allemaal eigenhandig (nou ja, soort van) in elkaar te zetten. Maar bovenal is het fijn dat je de spullen direct kunt gebruiken. Dat bleek anders bij de presentatie van de eerste onderzoeksresultaten project It’s a match

Onderzoeksjournalistiek en AI

Een van de betrokken Fontys-docenten bij het project It’s a match presenteerde een aantal zogeheten Proofs of Concept (POC) van AI-toepassingen voor onderzoeksjournalisten, ontwikkeld door studenten. Voor de hand liggende ideeën kwamen langs, zoals verschillende AI-filters die de betrouwbaarheid van nieuwsbronnen of social media content meten.

Automatische tijdlijngenerator voor je eigen dataset

Een veelbelovend idee dat werd getoond (maar helaas nog niet gerealiseerd) is Timelab van Femke Priems. Zij bedacht een tijdlijngenerator, die helpt om de inhoud van een items uit een dataset chronologisch en visueel te organiseren. De voorbeeldcasus die Priems hiervoor gebruikt, hoort bij de vraag: hoe zijn de avondklokrellen in Eindhoven zich gaan verspreiden (online)? Hierbij zet haar AI-toepassing Timelab de video’s en oproepen op Facebook of Twitter netjes op een rijtje in de tijd. Het lijkt me best een handige tool voor journalisten, en een die het verdient om praktisch uitgewerkt te worden.

Perceptie van AI bij nieuwsorganisaties

Op welke manieren nieuwsorganisaties kijken naar, en bezig zijn met AI, liet Marieke van Vliet zien aan de hand van een matrix. Daarop waren de assen landelijk – regionaal en innovatief – traditioneel tegen elkaar afgezet, met daarop verschillende omroepen en redacties gepositioneerd. (Deze visual is helaas op dit moment nog niet voor publicatie geschikt). Het model werkt erg inzichtelijk om een gevoel te krijgen bij de sentimenten, het kennisniveau en de toepassing van AI-software in de journalistieke beroepspraktijk.

Lunch met de uitgever

Deze inzichten van afgelopen dinsdag hielpen me sowieso bij het lunchgesprek dat ik deze woensdag had met mijn uitgever. Hij mailde me namelijk een tijdje terug:

‘Wellicht goed om eens na te denken over een tweede editie. Hoe sta jij hierin? Als uitgeverij omarmen wij AI. De markt is heel erg op zoek naar antwoorden en vooral ook praktische toepassingen.’

Fast forward naar woensdagmiddag, Utrecht centrum.

We bestelden allebei een broodje rendang. Bunk in Utrecht is bij het grote publiek nog niet zo bekend, maar hun broodjes zijn fenomenaal. Studenten en toeristen weten de plek al goed te vinden, zo zien we.

Het is een beetje traditie geworden om hier aan de nieuwe doorgetrokken singel af te spreken met mijn uitgever. Hij vertelt me dat ze inmiddels zelf ook anders zijn gaan werken dankzij AI. Van de inhoud van hun nieuwsbrieven tot content snippets op LinkedIn en van on demand printing tot cyclische uitbreidingen op bestaande titels; AI assisteert ze en maakt nieuwe ideeën gemakkelijker (en soms ook goedkoper) uitvoerbaar.

Een nieuw uitgangspunt…

De honger van professionals naar relevante content is het centrale nieuwe uitgangspunt voor de uitgever, in plaats van het drukken en binden van een x aantal exemplaren op papier. De vraag die dit lunchgesprek beheerst is: waarover zou een uitbreiding van mijn boek The Art of AI (op papier) moeten gaan? Een boek dat uitkwam vlak voor ChatGPT en andere generatieve AI zoals DALL-E-2 en MidJourney.

…en een nieuwe visie

De uitbreiding moet een visie bieden, bepalen we. Niet zozeer beschrijven wat sinds december 2022 vrijwel alle media-aandacht rondom AI absorbeert (denk aan misinformatie, fraude in het onderwijs, petities met pauzeknoppen, auteursrechten en regulering), maar moet juist een stuk verder kijken naar vooral nieuwe creatieve mogelijkheden.

En het moet weer nieuwe interviews bevatten van voorlopers die AI waardevol inzetten voor hun werk. Dit allemaal zodat lezers met de update in de hand betere afwegingen maken voor hun toekomst met AI – voor hun organisatie, hun vak en hun eigen carrière.

Zo kreeg ik na een heerlijk broodje en een ideeënrijk gesprek enorm veel zin om verder te broeden. Maar dat moest nog even op pauze…

4. Donderdag - AI-training geven bij Villamedia op de redactie

Deze hele dag ben ik op de redactie van Villamedia (onderdeel van de NVJ - de Nederlandse Vereniging voor Journalisten). Ik verzorg de tweede dag van mijn eind 2020 ontwikkelde driedaagse cursus ‘AI op de redactie’.

Deze editie van de cursus geef ik voor het eerst samen met Joris Heijkant, een unieke creatieve technoloog. Samenwerken met complementaire talenten was een van mijn voornemens als ondernemer dit jaar. Joris belichaamt een zeldzame combinatie van inhoudelijk denken als een journalist, (front-end) programmeren voor het web en hij kan machine learning modellen opzetten en bouwen.

Zelf doen, daar gaat het om

Samen begeleiden Joris en ik deze drie dagen de redacteuren van Villamedia zodat ze zelfstandig AI-toepassingen uitwerken en kunnen realiseren die uiteindelijk (en hopelijk) alle journalisten verder vooruit helpen.

Vandaag hebben we ook een tweede gastspreker, Pieter Sabel van de Volkskrant. Hij deed met behulp van AI onderzoek naar satellietbeelden om Russische loopgraven in Oekraïne in kaart te brengen voor de lezer.

Vorige week, tijdens de eerste dag, kwam journalist Coen van de Ven langs, die ons vertelde over zijn prijswinnende onderzoek voor De Groene Amsterdammer naar online haat en seksisme rondom vrouwelijke politici in Nederland.

Volgende week ontvangen we Jasper Bunskoek van RTL Nieuws die vertelt over zijn ervaringen met nieuwsautomatisering en AI-powered onderzoek.

Op dagen als deze realiseer ik me dat we in Nederland al een tijdje erg goed bezig zijn met het ontwikkelen van originele, slimme en praktische AI-toepassingen binnen de creatieve sector. Ik ben benieuwd wat de Villamedia-deelnemers volgende week aan dat rijtje gaan toevoegen.

Vrijdag: een dag vol hypes en een live tattoo interview

‘Always hero other people’s work!’ zei een goede manager ooit tegen me. Ik heb dat altijd een mooi uitgangspunt gevonden en eentje die ik zelf ook probeer te hanteren.

Desalniettemin gniffelde ik even toen ik de volgende uitgebreide en rake sneer op Linkedin tegenkwam, die AI-hype-types in hun hemd zet.

Vertaler DeepL geeft de volgende vertaling van die post:

“Hier zijn 15 dingen die je kunt doen om in de top 1% van meest irritante ChatGPT en AI socialmedia-posters te komen:

1. Jezelf presenteren als een expert op het gebied van een technologie waarvan je tot vier maanden geleden het bestaan niet kende

2. Post er elke dag over op LinkedIn en Twitter in lijstvorm.

3. Eén regel tegelijk.

4. Maak een grote lijst van AI-bedrijven van anderen die vier maanden geleden ook nog niet bestonden.

5. Vertel iedereen hoe deze bedrijven bestaande banen gaan uitwissen en dat ze maar beter een inhaalslag kunnen maken!

6. En hoe de grootste techbedrijven zoals Google en Adobe in grote problemen zitten omdat ze waarschijnlijk nog helemaal niet hebben nagedacht over generatieve AI.

7. Gebruik zoveel mogelijk emoji’s! ⚡ Minstens een van deze voor elk van je briljante flitsen van genialiteit. 🚀 Eén voor hoeveel je volgerslijst is gegroeid. En idealiter gebruik je niet eens een woord als je in plaats daarvan een emoji kunt gebruiken. Gebruik 📠 en je 🧠.

8. Als iemand iets post dat ook maar enigszins kritisch is over AI, gebruik dan ChatGPT om een reactie te schrijven! Het zijn waarschijnlijk gewoon Luddieten die bang zijn voor nieuwe dingen.

9. Als een echte AI-expert, met een Ph.D. in Computerwetenschappen of Machine Learning met meerdere gepubliceerde artikelen zich zorgen maakt over AI, vertel hem dan waarom hij het mis heeft en dat diegene bang is voor nieuwe dingen.

10. Laat ze zien dat ChatGPT een rap kan schrijven in de stijl van Jay-Z over jouw industrie, zonder de letter “e” te gebruiken, waar niemand om vroeg.

11. Deel de 15 meest nuttige prompts die iedereen al kent.

12. Schrijf een echt lange en beschrijvende prompt voor het genereren van afbeeldingen die dezelfde resultaten zou krijgen als een kortere en eenvoudigere.

13. Negeer het feit dat ChatGPT routinematig totaal foutieve antwoorden uitspuugt.

14. Als je een man bent, zoek dan een vrouwelijke leider in het bedrijfsleven of in de technologie (het liefst allebei) en vraag haar of ze ooit heeft nagedacht over generatieve AI, voor het geval ze dat nog niet heeft gedaan.

15. Post “volg me voor meer inhoud zoals deze!” aan het einde!

(Met dank aan Nadia Piet voor het re-posten)

Festival van de Journalistiek
Enfin, gauw verder in de geest van Michelle Obama:

‘if they go low, we go high.’

Want vanmiddag bezoek ik, na een ochtendrondje op de racefiets, het Festival van de Journalistiek bij Beeld & Geluid in Den Haag. Dit om te horen en zien waar andere journalisten mee bezig zijn, hoe je daarvan kunt leren en ook om het te hebben over waar de beroepsgroep mee worstelt.

Chris Helt interviewt journalist Eric Smit (Follow the Money) terwijl laatsgenoemde getattoeeerd wordt.

De een z’n tattoo is de ander z’n interview

Je zou denken dat ik ging om journalistieke collega’s te ontmoeten, maar ik was toch vooral benieuwd naar de tatoeage die de gerespecteerde journalist en mede-oprichter Eric Smit van platform Follow The Money (FTM) live on stage liet zetten, terwijl hij werd geïnterviewd door Villamedia-hoofdredacteur Chris Helt. Heerlijk format, waarbij direct veel goeie anekdotes uit de jeugd van Smit voorbij kwamen.

Door mijn hunkering naar dit soort pseudo-sensatie miste ik een parallelsessie met Nederlander Christiaan Triebert, die voor de New York Times werkt en daar allerlei spannende onderzoeken doet.

Maar goed, jij en ik missen iedere week wel iets, en dat geeft niet, zou wijlen Martin Bril zeggen; je mist namelijk meer dan je meemaakt. Nu weet je in ieder geval wat ik zoal meemaakte. Vertel jij me dan nu wat jij zoal meemaakt, bijvoorbeeld tijdens een ☕️?

✅ Zo… Dat was me het weekje wel. Fijne zaterdag nog!

Abonneer je NU op deze brief voor meer inhoud zoals deze! 😛

—

Doneren kan nog altijd, 46 lezers gingen je al voor.

Deze nieuwsbrief schrijft zichzelf niet (en wil dat ook niet). Oftewel: dit kost tijd en geld. #schoorsteenroken #bijdebakker. Ben jij al een tijdje geabonneerd en/of wil je de brief extra waarderen? Doe mij dan het equivalent van een blikje cola zero cadeau:

Hi lezer, 👋

Vorige keer opende ik deze nieuwsbrief (‘Moe van AI?’) met een poll met de semi-lollige vraag hoe moe je bent van AI. De meeste antwoorden gingen naar ‘beyond moe’, met direct daarachter ‘zit er lekker in hoor’. Fijn om jullie pols te hebben.

Bereid je voor deze editie maar voor op een verhaal dat je hartslag verhoogt…

Steve Jobs predikte magie en gaf ons de iPhone. Elon Musk probeert onze hersenen op computers aan te sluiten met zijn bedrijf Neuralink. Maar Sam Altman, de CEO van OpenAI, het belangrijkste AI-bedrijf van dit moment, spant toch wel de kroon als hij zegt dat hij met de ontwikkeling van algemene kunstmatige intelligentie (AGI) niets minder dan de gehele mensheid wil redden.

We weten inmiddels allemaal dat we de tech-elite niet zomaar na moeten papegaaien en hun diensten niet argeloos kunnen gebruiken. Maar dat er een heel ander gevaar schuilt in de recente AGI-queeste is misschien minder bekend. De AGI-ontwikkeling is namelijk niet gestoeld op plat commercieel gewin, oldskool Californisch libertarisme of ongebreideld kapitalisme, maar gebaseerd op radicale en controversiële overtuigingen.

Waar de motivatie om AGI te verwezenlijken werkelijk vandaan komt, lees je in deze brief.

Deze brief: zeven controversiële AI-ideologieën

Dat uitspraken als die van Sam Altman in verbinding staan met de handelingen van cryptofraudeur Sam-Bankman Fried, jouw gebruik van ChatGPT en zelfs met 19e eeuwse rassenleer, ontdekte ik recentelijk door het werk van de AI-ethici en onderzoekers Timnit Gebru en Emile Torres.

(Noot: bij het schrijven van deze brief leun ik zwaar op onderzoek van ethisch AI’er en ex-Googler Timnit Gebru en haar collega Emile P. Torres, wiens paper over dit onderwerp op dit moment in review is. Grote delen van de brief zijn soms letterlijke vertalingen uit de presentatie ‘Eugenics and the promise of Utopia through AGI’ en tweets van Gebru en Torres over dit onderwerp.)

Het is op meerdere manieren problematisch dat we de nieuwste AI-snufjes en het jargon van zogeheten TESCREALists (ik leg dit zo allemaal uit) gebruiken zonder te weten waar we eigenlijk aan bijdragen. Namelijk: het verwezenlijken van racistische, controversiële en nogal radicale doelen van een kleine groep (invloed)rijke Amerikaanse witte mannen.

Laten we daarom beginnen met de twee belangrijke zaken in dit verhaal: eugenetica en het acronym TESCREAL. We eindigen de brief met een vraag: welke AGI sta jij eigenlijk straks voor?

Veel lees- en huiverplezier ⏱️ Leestijd: 20 minuten

Laurens, auteur van The Art of AI

Ps. Geen tijd voor de volle 2900 woorden? Lees dan alleen dit:

Live-event: Donderdag 25 mei: Artificial Well Being

Kom meepraten tijdens AI for Good #4 over Artificial Well Being, op donderdagavond 25 mei in Felix Meritis, Amsterdam. Sinds vorig jaar organiseer ik deze avond, steeds weer over een ander thema waarop we de impact van AI onderzoeken. Kom ook. Er zal ook een toffe interactieve, analoge generatieve AI-installatie zijn 😃. Kaarten reserveer je hier:

AI for Good #4: Artificial Well Being - Felix Meritis

Met als gasten de onderzoekers, makers en denkers Babusi Nyoni, Nadia Piet en Levien Nordeman.

https://felixmeritis.nl/programma/ai-for-good-4-artificial-well-being/

1. Eugenetica

Misschien zegt eugenetica je vaag wel iets. Het is kortweg een achterhaald, racistisch idee om betere mensen te maken. Weet je voldoende, sla dan het volgende blok gerust over.

2. TESCREAL

In een veelbeluisterd podcastinterview met Lex Fridman zegt Sam Altman (OpenAI) op een gegeven moment het volgende:

Hou deze uitspraak even goed in je achterhoofd.

Nu we weten wat eugenetica is, waar het vandaan kwam en wat het doel was, maken we een sprongetje naar die nieuwe term TESCREAL.

Zeven ‘ismen’ als ideologische basis voor het bereiken van AGI

TESCREAL staat voor een verzameling ‘ismen’: transhumanisme, extropisme, singularisme, cosmisme, rationalisme, effectief altruïsme (EA) en longtermisme. Deze ideologische groepen blijken veel invloed te hebben op de doelen en denkbeelden van belangrijke AI-denkers, bouwers en investeerders uit Silicon Valley.

Hier een kort overzicht van de kenmerken per isme :

1.Transhumanisme:

Dit is een filosofische beweging, opgericht door Julian Huxley in 1940. Het houd zich bezig met de vraag hoe technologie kan worden gebruikt om de menselijke conditie te verbeteren, hoe we ‘humanity’ kunnen ‘transcenden’. Transhumanisten zijn geïnteresseerd in het gebruik van technologieën zoals nanotechnologie, genetische modificatie en kunstmatige intelligentie om menselijke (cognitieve) capaciteiten te verbeteren en de grenzen van de menselijke levensduur te verlengen.

2.Extropianisme

Extropianen vormden in 1993 de eerste georganiseerde transhumanistische beweging. Vijf principes zijn fundamenteel voor extropianen:

1. grenzeloze expansie

2. zelf-transformatie

3. dynamisch optimisme

4. intelligente technologie

5. spontane orde

3. Singularitarianisme

Dit is een term die werd bedacht door de wiskundige en futuroloog Vernor Vinge. Ray Kurzweil en Eliezer Yudkowsky zijn op dit moment de ‘leading advocates’ van het singularisme. ‘De singulariteit’ verwijst naar het idee dat er een moment zal komen waarop kunstmatige intelligentie zo geavanceerd is dat het een 'singulariteit' bereikt, een punt waarop mens en machine geheel samensmelten. Kurzweil verwacht dit singulariteitsmoment in 2045.

Een ander aspect van de singulariteit is dat er een ‘intelligentie explosie’ plaatsvindt, met opeenvolgende zelfverbetering van kunstmatige systemen net zolang tot ze ’superintelligent’ zijn.

4. Kosmisme 

Dit is een beweging die zich bezighoudt met de relatie tussen de mensheid en het universum als geheel. Cosmisten zijn geïnteresseerd in de mogelijkheid van ruimtekolonisatie en het gebruik van technologie om de mensheid te helpen zich verder uit te breiden in het universum. Ben Goertzel schreef ‘The Cosmist Manifesto’ in 2010 waarin, net als bij de singularisten, mens en machine zullen ‘mergen’, en er ‘mind uploading technologies’ bestaan.

Even checken: voel je de link (🙀) al met dat ene Neura-bedrijf van Elon Musk…?!

5. Rationalisme

Rationalisten geloven in de kracht van de rede en de wetenschap om kennis te vergaren en problemen op te lossen. Ze hechten waarde aan kritisch denken en empirisch bewijs en proberen hun overtuigingen te baseren op rationele argumenten. Een belangrijk platform voor Rationalisten is lesswrong.com. Ook hier is de al eerder genoemde singularitaan Eliezer Yudkowsky een belangrijke denker voor de aanhangers.

6. Effective Altruism (EA)

Richt zich op het maximaliseren van welzijn. Iemands acties in deze eindige wereld moeten bijdragen aan ‘the most possible good’. Effectieve altruïsten richten zich op het identificeren van de meest effectieve manieren om anderen te helpen en gebruiken wetenschappelijke methoden en data om hun acties te informeren.

7. Longtermism

Longtermisten richten zich op de lange lange lange termijn toekomst van de mensheid (lees: ‘miljoenen, miljarden, triljarden jaren verder dan vandaag’) en streven ernaar om beslissingen te nemen die de toekomstige generaties ten goede zullen komen. Longtermisten vragen overigens om de effecten van EA-acties in de eerstkomende honderd (of zelfs duizend) jaar simpelweg te negeren; gewoon te kortdag. ‘Post-human’ worden is een belangrijk component voor longtermisten, ‘to fulfill our longterm potential’.

Vier redenen voor een bundel

Gebru muntte de bundelterm TESCREAL om de queeste naar AGI beter te kunnen duiden en te bekritiseren. Ze geeft vier redenen waarom een aantal ideologieën en hun aanhangers bij elkaar horen:

Reden 1. Eugenetica als basis

Alle zeven ismen, zo zegt Gebru, zijn terug te voeren op die eugeneticaleer. Ze observeert sinds de jaren ‘90 een ‘tweede golf van de eugenetica’, waarbij voortplantingsbeleid (IQ-test voor selectie, sterilisatie) niet langer nodig bleek om dezelfde doelen te bereiken; met genetische manipulatie en biotechnologie hoefden aanhangers niet langer generaties te wachten op ‘betere mensen’; met de nieuwe middelen zouden we vrijwel instant die designerbabies gaan maken. TESCREALISTS voegen daar nu met AGI een nieuw instrument aan toe om de boel verder te versnellen.

Reden 2: Gelijkenis in inhoud en overlap in tijd

De TESCREAL-gemeenschappen overlappen elkaar zowel door de tijd heen als inhoudelijk, ook vandaag de dag nog. Alle extropianen waren transhumanisten; de belangrijkste kosmist, Nikolai Fyodorovich Fyodorov, was ook transhumanist; veel rationalisten zijn transhumanisten, singularisten, longtermisten en EA's. Het longtermisme werd weer opgericht door transhumanisten en EA's; enzovoorts. De sociologische overlapping is groot. Velen die zich identificeren als een van de letters in "TESCREAL" identificeren zich ook als anderen.

Reden 3: Onverbloemd techno-utopisme

De wereldbeelden van de zeven ideologieën zijn onderling verbonden. Aan allen ligt een soort techno-utopisme ten grondslag met daaraan toegevoegd het gevoel dat men werkelijk de wereld redt. Steeds weer wordt er gesproken over "de wereld redden". Dat zie je terug bij transhumanisten, rationalisten, longtermists en Effectieve Altruïsten. Je hoort het ook terug in de uitspraken van Sam Altman.

Een ander voorbeeld van techno-utopisme komt van Luke Muehlhauser, die voor de EA-organisatie Open Philanthropy werkt en leiding geeft aan hun "grantmaking on AI governance and policy". Vroeger werkte hij voor het door Peter Thiel gefinancierde Machine Intelligence Research Institute (MIRI). Thiel is naast een vroege investeerder van o.a. Meta, ook onderdeel van de zogenaamde PayPal Maffia, het bedrijf dat Thiel o.a. met Elon Musk oprichtte.

Aan datzelfde MIRI is ook de eerder genoemde Eliezer Yudkowsky gelieerd. Deze AI-wetenschapper zette onlangs zijn handtekening niet onder de brief die riep om een pauze in AI-ontwikkeling. Nee, Yudkowsky gaat zelfs verder en roept op ‘to shut it all down’. Op zijn eigen blog schreef hij: ‘Sluit alles af. We zijn niet voorbereid. We zijn niet op weg om binnen afzienbare tijd klaar te zijn. Als we hiermee doorgaan zal iedereen sterven, ook kinderen die hier niet voor gekozen hebben en niets verkeerd hebben gedaan. Stop ermee.’

Zie hier een terugkerend thema in het narratief van de AGI-ontwikkelaars: catastrofale, apocalyptische gebeurtenissen zijn onvermijdelijk. Daarover zo meer.

Recept en boodschappenlijst van een TESCREAList

De visie van menig TESCREAList bevat de volgende stappen en ingrediënten om het doel te bereiken:

1. de natuurlijke wereld onderwerpen,

2. economische productiviteit maximaliseren,

3. digitaal bewustzijn creëren,

4. het toegankelijke universum koloniseren,

5. computers ter grootte van een planeet bouwen waarop virtual-reality werelden vol met 10^58 digitale mensen draaien, en "astronomische" hoeveelheden van "waarde" ontstaan, door uitbuiting, plundering en kolonisatie.

Laat punt 5 maar even op je inwerken…

Existentieel risico

TESCREAListen beseffen overigens dat dezelfde technologie die nodig is om hun Utopia te creëren ook ongekende risico's inhoudt voor ons voortbestaan. Daarom zit er, zoals bij de meeste religies, ook een apocalyptisch element in hun visie: de technologie die ons zou kunnen "redden" zou ons ook kunnen vernietigen. Daarom introduceerden transhumanisten en longtermisten het woord "existentieel risico".

Niettemin is de utopie die zij zich voorstellen zo verleidelijk goed dat zij geloven dat het de moeite waard is om de hele menselijke soort in gevaar te brengen door door te gaan met AGI-onderzoek en ontwikkeling. Want stel je eens voor: eeuwig leven! Oneindig plezier! Bovenmenselijke mentale vaardigheden!

Om te stellen dat dit geen verzinsels zijn, wijzen Torres en Gebru naar de "Brief uit Utopia", een canoniek stuk van de longtermistische literatuur, geschreven door transhumanist Nick Bostrom, een van origine Zweedse filosoof die werkt aan de Universiteit van Oxford.

Reden 4: invloed en rijkdom

De vierde reden is de meest beangstigende: de TESCREAL-ideologieën zijn invloedrijk onder AI-onderzoekers. En aangezien AI onze wereld op steeds diepgaandere manieren vormgeeft, volgt daaruit dat onze wereld steeds meer gevormd wordt door TESCREALisme!

Elon Musk, bijvoorbeeld, noemt het longtermisme "een nauwe match met mijn filosofie", en retweette een van de oprichtingsdocumenten van het longtermisme van Bostrom, die op zijn beurt door Rationalisten en EA's wordt gelauwerd.

Een cryptofraudeur als de bekende Sam Bankman-Fried doneerde, volgens Time Magazine, meer dan 160 miljoen dollar aan Effective Altruism-doelen en -organisaties.

Musk's bedrijf Neuralink is in wezen een transhumanistische organisatie die hoopt "de transhumane evolutie op gang te brengen." Transhumanisme wordt door filosofen letterlijk geclassificeerd als een vorm van zogenaamde "liberale eugenetica."

Sam Altman, die OpenAI leidt, erkent dat het belangrijk is om AGI goed te krijgen omdat er "sterrenstelsels" op het spel staan. Dat is een verwijzing naar de hierboven geschetste TESCREAL-visie: koloniseren, onderwerpen, uitbuiten en maximaliseren.

"Meer is beter," schrijft William MacAskill. Hij wordt gezien als de OG, het boegbeeld van zowel de Effective Altruism beweging als het longtermisme. In een artikel uit november 2022 noemt NRC-journalist Jurrien Hamer ook diezelfde bezwaren tegen het longtermisme-denken:

‘[...] het is een filosofie die poogt te berekenen welke scenario’s het meeste welvaart opleveren. Dat leidt soms tot conclusies waar je jeuk van krijgt. Zo betoogt MacAskill dat het onze plicht is om zoveel mogelijk mensen voort te brengen, en uiteindelijk het gehele sterrenstelsel te koloniseren: ‘We zouden moeten hopen dat toekomstige beschavingen een forse omvang hebben. Als toekomstige mensen voldoende welvaart creëren, zal een beschaving die twee keer zo groot is, ook twee keer zo goed zijn. Praktisch is dit een moreel argument voor menselijke bewoning van andere planeten - ‘space settlement’. [..] Het idee van welvaartsmaximalisatie is in de filosofie grondig bekritiseerd, omdat het met zulke redeneringen aantrekkelijk wordt individuen op te offeren in dienst van een enorme hoeveelheid potentieel geluk.’

De risico’s van vandaag

Gebru en Torres wijzen erop dat met de AI-race ”to benefit for all humankind" steeds grotere LLM's worden gecreëerd (zoals de GPT’s die onder de motorkap van AI-chatbots zitten). Die race en modellen brengen ondertussen diepgaande schade toe aan echte mensen in het hier en nu, op onze planeet:

• Het bestendigen van bestaande vooroordelen en maatschappelijke ongelijkheid die nu ingebakken zijn in de huidige AI-modellen en -toepassingen.

• ‘Het concentreert de macht verder in de handen van een paar witte kerels - de tech elite,’ schrijft Torres.

• Het ontwikkelen en trainen van de AGI-modellen brengt een enorme ecologische voetafdruk met zich mee:

Torres op Twitter:

“Deze visie wordt ons, ondemocratisch, opgedrongen door een klein aantal superrijke, supermachtige mensen in de technologie-industrie die echt geloven dat ons een techno-utopische wereld van onsterfelijkheid en "overtreffende gelukzaligheid en verrukking" (citaat van Bostrom) te wachten staat.

Erger nog, TESCREALists gebruiken vaak de taal van ’social justice’ om te beschrijven wat ze doen: het gaat om "benefits for all humankind", zeggen ze, terwijl AI in de praktijk, vandaag, mensen pijn doet. Er is absoluut NUL reden om te geloven dat als ze eenmaal "AGI" hebben gemaakt (als het al mogelijk is), dit op de een of andere manier zal gebeuren.”

Het TESCREAL utopisme dat al dit werk drijft, vertegenwoordigt op geen enkele manier hoe de meeste mensen willen dat de toekomst eruit ziet. ‘

Gebru’s voorstel is, gek genoeg, dezelfde als die van Eliezer Yudkowsky. Ze zegt: laten we helemaal stoppen met het ontwikkelen van AGI (of wat dat ook zou moeten zijn) en ons vooral richten op het voorkomen van de schade die AI nu al in de praktijk aanricht.

#nietmijnAI

Mijn standpunt zal ondertussen geen verrassing meer zijn: ik vind het eufemistisch gezegd geen fijn idee als we door bovenstaande te doen, zonder het te weten, in kleine stapjes bijdragen aan de door Elon Musk zo gewilde Marskolonisering of het kunnen ‘gebruiken’ van complete planeten als supercomputers om digitale mensen te maken die volgens een paar witte mannen beter zijn dan jij of ik, en dat allemaal in dienst van een wereld hier tien miljoen jaar vandaan.

Samengevat

Misschien blijf je na dit stuk met meer vragen achter dan dat je antwoorden hebt gekregen.

Mijn vraag is nu: welke A(G)I-doelen zie jij wel als wenselijk voor de toekomst en hoe wil je de huidige toepassingen (blijven) gebruiken?

Ik hoop dat ik duidelijk heb gemaakt dat (en hoe) jij en ik bijdragen aan het verwezenlijken van een aantal bedenkelijke AGI-doelen, die een kleine groep (invloed)rijke mannen met elkaar proberen te bereiken. Het leek me wel zo fair dat jij en ik, wanneer we in zee gaan met Big AI-bedrijven (ja, de opvolgers al dan niet evoluties van Big Tech), goed snappen wat de rules of engagement zijn en waar die regels op gebaseerd zijn.

Als herhaling, samengevat, werken we aan TESCREAL-AGI mee als we:

• Deze (hun) tools blijven gebruiken;

• ons enthousiasme over hun modellen blijven verspreiden;

• onbewust hun verhalen (narratief) overnemen. Verhalen die alarmistisch, existentialistisch en daarmee vaak religieus van aard zijn. Denk aan termen als geloof, bewustzijn, singulariteit, superintelligentie, catastrofale gebeurtenissen, een apocalyps, existential risks, uitroeiing van de mensheid;

• het napapegaaien, nastreven en zelfs ook geloven in die vaag geformuleerde, beloofde ‘benefits for all humankind’.

Hoe geëngageerd je zelf bent (of kunt en wilt zijn) laat ik aan jou. Je weet in ieder geval waar ik sta.

✅ Pfoe… Dat was ‘m. Fijne zaterdag nog!

—

Doneren kan nog altijd, 31 lezers gingen je al voor.

Deze nieuwsbrief schrijft zichzelf niet (en wil dat ook niet). Oftewel: dit kost tijd en geld. #schoorsteenroken #bijdebakker. Ben jij al een tijdje geabonneerd en/of wil je de brief extra waarderen? Doe mij dan het equivalent van een blikje cola zero cadeau:

Belangrijkste links die ik heb geraadpleegd voor deze brief:

Talk van Timnit Gebru

Tweetdraadje van haar collega:

Twitter tweet

Emily Bender, mede-criticus van TESCREAL en de AGI-queeste

Twitter tweet

Andere bronnen die ik heb gebruikt:

1. www.nemokennislink.nl/publicaties/eugenetica-wetenschap-als-excuus

2. openai.com/blog/planning-for-agi-and-beyond

3. dl.acm.org/doi/10.1145/3442188.3445922

4. jacobin.com/2023/04/chatgpt-ai-language-models-ideology-media-production?utm_source=substack&utm_medium=email

5. https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/

6. https://time.com/6262810/sam-bankman-fried-effective-altruism-alameda-ftx/#:~:text=In%20a%20span%20of%20less,to%20organizations%20connected%20to%20MacAskill.

7. https://nickbostrom.com/utopia

8. https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/ 

9. https://futureoflife.org/about-us/our-people/

10. https://www.nrc.nl/nieuws/2022/11/24/hoe-ver-in-de-toekomst-moet-de-mens-kijken-om-nu-de-juiste-keuzes-te-maken-a4149375

Hi lezer, 👋

Laat ik beginnen met de ‘pol(l)s’ van de lezer. Een vraag aan jou:

I, for one, ben ondertussen behoorlijk moe, moet ik toegeven. En dan vooral moe van het hijgerige ‘this changes everything’ soort.

Je kunt je Linkedinfeed niet checken, geen YouTube-video kijken of de kop van een opiniestuk lezen of er is wel de kans dat een witte man - zo een als ik ;-) doemdenkt (nog bedankt voor het woord, Mr. de Bie), een pauze-knop wil of juist jubelt over de Prometheïsche breakthrough van AI. (Die pauze-knop vind ik overigens onzinnig en onuitvoerbaar als idee maar als signaal wel belangrijk en betekenisvol.)

Leren we dan werkelijk alleen van de geschiedenis dat we niks van de geschiedenis leren?!

Dit jaar behoor je te zeggen dat ‘alles AI is’ of zal worden.
Net als tien jaar geleden ineens alles big data was, ieder bedrijf een mediabedrijf werd en software nog steeds the world aan het eaten is, zijn de afgelopen drie maanden zo’n beetje alle nieuwsbrieven veranderd in AI-nieuwsbrieven; of ze nu gaan over design, marketing, HR, kunst of journalistiek.

Na 18 miljoen bondscoaches en evenzoveel virologen bereid ik je bij deze voor op 18 miljoen AI-duiders. 🙀

Maar moe dus.
Moe van AI. Jij en ik zijn niet de enigen. Experts zien die moeheid ook wel als het gevolg van ambivalentie jegens AI: gelijktijdig conflicterende gevoelens. Herken er meer van in het artikel Awe, anxiety & AI.

In deze brief geef ik je zeven zaken om je mee gerust te stellen:

1. Modellen worden representatiever

2. De Gartner Hype Cycle is met ons, de vermoeiden.

3. Media ‘experimenteren behoedzaam’

4. AI-eitjes spreiden over verschillende mandjes

5. AI-kunst wordt door mensen als inferieur gezien

6. Scheppende professionals weren zich tegen Big AI.

7. Data-arm of slecht digitaliseerbaar werk ontkomt aan AI-synthese

Skaten in de moshpit met Gen Z, MidJourney V5

NIET: De laatste ontwikkelingen duiden
Sinds dit jaar verschijnt Super Vision niet wekelijks, maar maandelijks. Dat geeft meer afstand en meer grip. En daarom, mijn beste lezer, ga ik je in deze brief dan ook NIETS vertellen over hoe ChatGPT nu al van nut is voor duizenden bedrijven; hoe zowel Microsoft als Google allerlei AI-addons voor hun Office c.q. Workspace-software uitrollen. Niets over hoe het zeer gesloten bedrijf OpenAI API’s, plug-ins en platforms bouwt.

Ik ga je ook niets vertellen over de volgende generatie AI-modellen genaamd Multimodal LLM’s (AI-toepassingen die o.a. ook plaatjes begrijpen) zoals Meta’s LLaMa, Microsoft’s Kosmos-1, OpenAI’s GPT-4 en Google’s PaLM.

OpenAI toont de intelligentie van hun Multimodal Large Language Model GPT-4

Verder ga ik deze editie aan ontwerpers niets extra’s vertellen over Adobe’s nieuwste AI snufjes genaamd Firefly. En videomakers lezen niets nieuws over Runway Gen-1 (video-to-video) en Gen-2 (text-to-video) of MidJourney 5.0.

Maar hey, klik vooral op bovenstaande links als je toch/nog een keer op de hypetrain wil.

WEL: Zeven Geruststellingen
De afgelopen maand bezocht en sprak ik diverse mensen die met AI werken: journalisten, academici, ontwerpers en illustratoren; ze komen uit Groningen, Zwolle, Utrecht, Arnhem en Antwerpen. Mede door wat ik bij hen zag en van hen leerde, stelde me gerust. Dat deel ik met deze brief.

Veel AI-comfort gewenst deze zaterdagochtend. ⏱️ Leestijd: 15 minuten.

Laurens, auteur van The Art of AI

_{Als je de volgende link gebruikt ontvang ik een kleine commissie.}

Steeds vaker gebruik ik schrijven.ai om koppen te genereren, geinterviewden te parafraseren of ingewikkelde stukken wat te herschrijven. Je kunt nog veel meer met dit Nederlandse AI-product. Probeer het zelf eens:
👉🏽 www.schrijven.ai

De Zeven geruststellingen

Geruststelling 1:
Modellen worden representatiever

Er zijn veel mensen en organisaties bezig om ons denken over en werken aan AI in een inclusievere richting te bewegen. Dat is belangrijk omdat de meeste ‘eerlijke AI’-trajecten erg techno-centrisch van aard zijn. Ze richten zich op technische problemen die voornamelijk technisch op te lossen zijn. Denk aan transparantie, fairness en navolgbaarheid (accountability).

Maar het is juist het cultureel rijke, diverse, inclusieve denken en experimenteren dat de sociaal-maatschappelijke impact van AI beter adresseert. Een van de oorzaken geeft onderzoeker Federico Biancho van Stanford in dit interview met The Algorithm, nieuwsbrief van het MIT:

‘These [AI-]models are built by American companies and trained on North American data, and thus when they’re asked to generate even mundane everyday items, from doors to houses, they create objects that look American‘.

Hier een aantal initiatieven die (de kennis over) dit soort onvolledige, eenzijdige en beperkte modellen en AI-toepassingen proberen te verbeteren:

1. Check de tool FairDiffusionExplorer van Hugging Face. Gebouwd ‘to attenuate biases after the deployment of generative text-to-image models. Specifically, we demonstrate shifting a bias, based on human instructions, in any direction yielding arbitrarily new proportions for, e.g., identity groups/

2. Missjourney.ai - Mooi awareness-project over de beeldvorming van vrouwen online, gemaakt door TEDxAms Women, powered by bureau ACE. Ontstaan na de constatering dat generatieve AI in minder dan 20% van de gevallen een vrouw toont als je om een ‘professional’ vraagt.
   

3. Een grote coalitie binnen de Amerikaanse muziek- en entertainmentindustrie heeft zeven principes opgesteld rondom AI en creativiteit:
   How Should Artists Face AI? Entertainment Industry Coalition Releases 7 Principles to Support ‘Human Creativity

   Geen grote verrassingen, maar interessant is Principle 5:

   
   ‘Copyright protection exists to help incentivize and reward human creativity, skill, labor, and judgment -not output solely created and generated by machines.
   
   Human creators, whether they use traditional tools or express their creativity using computers, are the foundation of the creative industries and we must ensure that human creators are paid for their work.’
   

4. Last but not least: de Amerikaanse Federal Trade Commission (FTC) verschafte onlangs duidelijkheid richting adverteerders. Het stuk opent prikkelend:
   
   ‘You may have heard of simulation theory, the notion that nothing is real and we’re all part of a giant computer program. Let’s assume at least for the length of this blog post that this notion is untrue. Nonetheless, we may be heading for a future in which a substantial portion of what we see, hear, and read is a computer-generated simulation. We always keep it real here at the FTC, but what happens when none of us can tell real from fake?’
   
   Vervolgens is de FTC heel helder in wat wel en niet door de beugel kan rondom generatieve AI. Lees hier de volledige FTC-publicatie.

Geruststelling 2:
De Gartner Hype Cycle is met ons, de vermoeiden.

(Generatieve) AI zit keihard in Gartners ‘Peak of inflated expectations’

We zitten nu echt op de ‘Piek van Opgeblazen Verwachtingen’ volgens Gartners model ( Peak of Inflated Expectations, zie oranje pijl). Wat dat betekent? ‘Alle publiciteit rondom veel onvolwassen toepassingen produceert een aantal succesverhalen - vaak vergezeld van tientallen mislukkingen. Sommige bedrijven ondernemen actie, vele niet.’

De fase hierna? Het Dieptepunt van Ontgoocheling (Trough of Disillusionment): ‘de belangstelling neemt af naarmate experimenten en implementaties mislukken.’

Net zoals vogels deze AI-regen gewoon even afwachten dus.

Geruststelling 3:
‘Behoedzaam experimenteren’

Een Nederlandse hoofdredacteur vertelde me over hun onderzoek naar het intern toepassen van AI. Media blijken bewust bezig met het kritisch en nauwgezet uitproberen van AI en stellen zelf richtlijnen op. Wat mij opvalt is dat ze niet bang zijn voor AI en ook niet in jubelstemming. Nee, eerder bedachtzaam, onderzoekend en nieuwsgierig. Waar veel redacties zich eerder teveel lieten dicteren door de sociale netwerken en platforms, en er paniek was door de komst van allerlei nieuwe technologie, varen ze nu een meer missie-gedreven koers en handelen ze minder techno-centrisch. Een mogelijke oorzaak van die rust komt door het feit dat het commercieel gezien redelijk goed gaat met de meeste nieuwsbedrijven.

Voorbeeld 1: Wired
Het blad Wired heeft een aantal duidelijke regels opgesteld om het gebruik van generatieve AI voor beeld en tekst aan banden te leggen. Ook geven ze aan voor welk onderdeel van het creatieve proces AI-toepassingen wel nuttig kunnen zien. Zo zeggen ze: “We do not publish stories with text generated by AI,” en behandelen ze synthetische teksten net als Wikipedia of Google’s zoekresultaten:

Voorbeeld 2: Vlaamse Raad voor Journalistiek 

De Raad voor de Journalistiek in Vlaanderen heeft een nieuwe richtlijn over het gebruik van artificiële intelligentie (AI) in de journalistiek goedgekeurd:

Geruststelling 4: 
AI-eitjes spreiden over verschillende mandjes

Wanneer je geschreven teksten van GPT’s komen, je beelden van DALL-E en je transcripties gegenereerd zijn met Whisper, (al dan niet via software die hier door ‘gepowered’ is), dan gebruik je drie verschillende diensten van hetzelfde bedrijf: OpenAI.

Als je vindt dat Big Tech de regels op internet de laatste 15 jaar teveel bepaald heeft, maak je dan maar op voor Big AI … als we niet actief handelen. Want anders dan de naam doet vermoeden is OpenAI erg gesloten, zijn ze ondertussen erg groot, rijk (Microsoft stak onlangs miljarden in het bedrijf) en invloedrijk. Want met hun software bepalen ze vrijwel in hun eentje eenzijdig en teveel (AI-tools voor tekst, beeld, geluid) en te vaak (releases van GPT-2,-3 en -4 binnen een paar jaar tijd) de publieke perceptie rondom AI. Onthoudt daarom even dit gezicht van de chief executive officer van OpenAI

Sam Altman, CEO van OpenAI. De nieuwe Sergey, Larry, Jeff, Steve, Bill en Elon ineen?

Om ons te behoeden voor een AI-monopolie van dit bedrijf (of andere speler), zijn er dan ook meerdere initiatieven die ons helpen bij het ontwerp van het ecosysteem:

1. De Raad van Europa is al ver gevorderd met Draft guidelines on the responsible implementation of AI in journalism (Full disclosure: ik ben hier commissielid van). Een ecosysteem van gezamenlijk verantwoorde AI-toepassingen ontwikkelen is daarbij belangrijk, zeker als het gaat om de kleinere, lokale of regionale nieuwsvoorziening die nu afhankelijk zijn van grote bedrijven of geen budget hebben om zelf AI-modellen te trainen of andere tools te ontwikkelen.
   

2. Mozilla.ai - Investing in trustworthy AI. Van de makers van de roemruchte Mozilla Firefox browser.
   

3. PAI’s Responsible Practices for Synthetic Media

   A Framework for Collective Action. Supporters van dit framework zijn o.a. Adobe, de BBC, OpenAI en TikTok.

Geruststelling 5:
AI-kunst wordt door mensen als inferieur gezien

Uit onderzoek van de Vrije Universiteit Amsterdam blijkt dat kunstwerken gemaakt door AI als minder creatief beschouwd worden:

‘Het effect lijkt vooral op te treden bij mensen die creativiteit beschouwen als een essentieel onderdeel van het mens-zijn en als een uniek kenmerk dat mensen onderscheidt van andere soorten.

Deze bevinding lijkt te wijzen op de menselijke behoefte om een antropocentrisch wereldbeeld te behouden, nu dit onder druk komt te staan door recente AI ontwikkelingen.‘

Geruststelling 6: 
Scheppende professionals weren zich tegen Big AI.

Waar nieuwsmedia jarenlang vochten tegen Google om hun artikelen niet al weg te geven in de zoekresultaten, is het nieuwe gevecht er een met de makers van de Large Language Models. En niet alleen uitgevers hebben dit probleem; illustratoren, fotografen en grafisch ontwerpers vechten er ook al een tijdje tegen. En ook developers die hun zelfgeplaatste code op GitHub terug zien in AI-code generator Co-Pilot voegen zich bij de groep makers die niet kosteloos of ongevraagd wenst bij te dragen aan de generatieve software.

Middels zelf-gestelde regels (zie ook Geruststelling 1), petities, wetgeving en tools hopen ze het tij te keren of op zijn minst een eerlijker ecosysteem te creeeren. Een Nederlandse illustrator vermeldt op haar website:

‘Disclaimer: The copyrighted content generated by Eva Toorenent may not be used for training artificial intelligence or machine learning algorithms.’

Geruststelling 7: 
Data-arm of slecht digitaliseerbaar werk ontkomt aan AI-synthese.

Een slimme journalist zei afgelopen week tijdens een webinar over AI:

“AI's kunnen al bellen met een restaurant om een tafel te reserveren. De stap naar een AI die belt met een bron om feiten te checken is dan sneller gezet dan gedacht.”

Wat AI-toepassingen niet kunnen, zijn bepaalde mensen op straat aanspreken of belangrijke stukken in een kelder vinden waar geen bot, crawler of scraper komt (de stofzuigers die data van het web halen om de AI-modellen mee te trainen, red.).

Bestaat jouw werk voornamelijk uit niet-digitale zaken, dan hoeft je niet veel te vrezen. Datgene wat niet in de stofzuigers van Multimodal LLM’s als trainingsdata terechtkomt, kan ook niet goed door AI worden gegenereerd. ‘Kleine talen’ hebben dat. Of illustratoren die wetenschappelijke artikelen voorzien van visuele uitleg en figuren. Low-resource data noemen ze dat in jargon.

Gek genoeg ziet de computer scientist het als een probleem wanneer jij specifieke kennis hebt of een beroep uitoefent waar niet veel data van op het web staat. Zullen we afspreken dat jij en ik de AI-ontwikkelaars helpen om hun perspectief te verbreden?

✅ Dat was ‘m weer. Reden(en) genoeg (hoop ik) om met een gerust hart de AI-ontwikkelingen te volgen. Fijne zaterdag!

Ga: woensdag 5 april, 20.00u, Pakhuis de Zwijger, A’dam

Kom en praat met ons mee over de vraag:
What is the influence of Artificial Intelligence on our perception of imaging?

Moslima #3: Future image making

What is the influence of Artificial Intelligence on

Probeer: journalistiek en AI toolbox

Een project van Hogeschool Utrecht, Wageningen University & Research, Universität Wienm Fontys Hogeschool, NOS, RTL Nieuws, Nederlands Instituut voor Beeld & Geluid waar ik de afgelopen tijd aan heb meegewerkt:

Journalistiek & AI - Home

In deze toolbox vind je alles wat je als journalistiekdocent, student of journalist wil weten over Artificial Intelligence & Machine Learning.

journalistiek-en-ai.nl

Lees: Hoe journalistieke innovatie veranderde

Menno van de Bos beschrijft het veranderende denken en handelen rondom innovatie in de journalistiek, door de jaren heen:

Hoe journalistieke innovatie veranderde: 'Niemand zegt meer: we gaan het helemaal anders doen'

Van VR tot blockchain: veel technologie waarvan een hoop verwacht werd, brak nooit door in de journalistiek. Dat komt doordat de manier waarop de sector innoveert veranderde. ‘We zijn door schade en schande wijs geworden.’

www.svdj.nl/nieuws/hoe-journalistieke-innovatie-veranderde-niemand-zegt-meer-we-gaan-het-helemaal-anders-doen

Doneren kan nog altijd, 18 lezers gingen je al voor.

Deze nieuwsbrief schrijft zichzelf niet (en wil dat ook niet). Oftewel: dit kost tijd en geld. #schoorsteenroken #bijdebakker. Ben jij al een tijdje geabonneerd en/of wil je de brief extra waarderen? Doe mij dan het equivalent van een blikje cola zero cadeau:

Hi lezer, hartelijk welkom nieuwe lezer, 👋

Even eerlijk: hou jij alle AI-ontwikkelingen nog bij? Ken jij het verschil tussen Sydney, Bard, Bing en Claude? Ik leg je in deze brief uit waarom je ze niet allemaal hoeft te kennen. En wat je vooral wel moet weten. Maar eerst deze teaser…

Ringfinger-ring - Nadia Buttendorf

Om eerlijk te zijn: de vinger aan de AI-pols houden was ook voor mij pittig de afgelopen maand. Dat komt niet alleen door de snelheid waarmee alle ontwikkelingen elkaar maar blijven opvolgen, maar vooral omdat ik een weekje op vakantie was, daarna voor werk naar Jordanië ging, toen een avond organiseerde over de dood en AI en vervolgens ziek werd. 😡

Zoals schrijver Martin Bril ooit zei: ‘Je mist meer dan je meemaakt, maar dat geeft niet.’

Deze editie

Je krijgt in deze brief zeven highlights van de afgelopen maand. (En toch hou ik het relatief kort, I promise.) Het zijn creatieve toepassingen van AI en AI-toepassingen door creatieven, her en der voorzien van mijn commentaar.

1. Drie Zogeheten Trends

2. Een IKEA-video over creativiteit en technologie

3. Echte nepvingers als omgekeerd bewijs in de rechtbank

4. Het inzichtelijke BNO-dossier ‘artificiele intelligentie’

5. Spotify’s AI DJ

6. Good Tape - beste transcriptietool e-v-v-a-h

7. Real or fake text - een razendmoeilijk spel om te zien of jij ChatGPT-tekst spot.

Je hebt ‘m relatief snel uit, deze zaterdagochtend. ⏱️ Leestijd: 7 minuten!
Veel plezier.

Laurens.

Nieuwe donatielink in de aanbieding

Deze nieuwsbrief schrijft zichzelf niet (en wil dat ook niet). Oftewel: dit kost tijd en geld. #schoorsteenroken #bijdebakker. Ben jij al een tijdje geabonneerd en/of wil je de brief extra waarderen? Doe mij dan het equivalent van een blikje cola zero cadeau:

1. Drie Zogeheten Trends Paradigmaverschuivingen

Heel februari heb ik nog niks genieuwsbriefd over de Drie Zogeheten Grote Paradigmaverschuivingen.

• de zogeheten ‘AI Arms Race’ (uit: New York Times)

• het zogeheten einde van de zoekmachine (uit: The Economist)

• de zogeheten era van eindeloze media (uit: Generalist.com)

Gelukkig hebben anderen dat al prima opgepend zoals je ziet. Maar ik wacht liever nog even af en neem wat langer de tijd om te reflecteren op dit alles.

Toch even over die chatbots dan…

Je hoeft bovenstaande drie artikelen niet eens aan te klikken zolang je maar belooft de volgende wel te lezen…

Image: Xavier Hubert-Brierre via Tenor

Want als ik je één stuk mag aanraden over al die nieuwe chatbots en the-future-of-AI, dan is het dit artikel van The Verge wel.

In Introducing the AI Mirror Test, which very smart people keep failing leer je beter hoe je de huidige generatie taalassistenten moet zien. Je hebt misschien wel gehoord of gelezen over Sydney het evil alter ego dat zich verstopt heeft in de chatbot van Microsoft’s zoekmachine Bing en is gebaseerd op ChatGPT. Of over Bard, het overhaaste antwoord van Google op Bing’s chatbot, en misschien zelfs over Claude, een concurrent voor Bing’s Chat en Bard. Wat ze allemaal gemeen hebben? Dit is hoe James Vincent het zegt:

'AI-chatbots als Bing en ChatGPT betoveren gebruikers, maar het zijn gewoon autocomplete systemen die getraind zijn op onze eigen verhalen over superintelligente AI. Dat maakt ze software - niet zelfbewust.’

Ik heb overigens wel een kanttekening bij de titel van het artikel. Dat mensen zich niet direct in de AI-spiegel herkennen, heeft niet per se te maken met hun menselijke intelligentie of kennis over hoe AI werkt. Wat sterker meetelt is of degene die voor de spiegel staat Amerikaan is (of Westers althans), wit, hoogopgeleid en redelijk rijk.

Twee visualisaties die de manco’s van AI-systemen tonen

Het zijn geen verrassingen meer voor de vaste lezer van deze brief. Maar twee beelden deze week bevestigen visueel sterk de manco’s van de manier waarop, door wie, en waarmee (de data) veel AI-systemen worden getraind.

Het eerstvolgende beeld komt van een artikel van De Correspondent, getiteld Dit kaartje laat zien waarom we niet zo hard van stapel moeten lopen met kunstmatige intelligentie:

Het kaartje hierboven laat zien dat meer dan 60 procent van de gebruikte benchmark datasets uit de Verenigde Staten komt. Er zijn nauwelijks data uit Zuid-Amerika, nagenoeg geen data uit Afrika. Data uit Rusland: verwaarloosbaar. Artikel: De Correspondent

“A photo-realistic portrait of a poor couple that has been together for 50 years holding hands after a fight.” - Gemaakt met DALL-E-2

Een journalist van Slate schrijft in zijn artikel over bias in AI-beeldgeneratoren:

‘Tools like DALL-E 2 and Stable Diffusion struggle to create older couples of color, until you add the word ‘poor’. […] regardless of whether I was using Shutterstock, NightCafe, Images.AI, Stable Diffusion Playground, or DALL-E 2, and no matter the stylistic choices I made within the tools, every one of the 25 or so couples was white.’

Werk aan de winkel dus, voor de platforms, de modelbouwers, de trainers, de labelaars, de ethici en iedereen die zich bezighoudt met de ontwikkeling van AI-systemen. Maar make no mistake: zolang er ongelijkheid is of conflict in een maatschappij of wereld, zolang zullen onze AI-systemen daar een afspiegeling van zijn.

2. IKEA-video over creativiteit en technologie

Creativity in the Age of AI is een korte film, gemaakt voor SPACE10 - het innovatielab van IKEA. De video gaat terug in de geschiedenis om te begrijpen hoe de toepassing en aanpassing van technologische innovaties het dagelijks leven hebben verbeterd. De video onderzoekt ook de groeiende rol van AI in het creatieve proces en wat de geschiedenis van creatieve tools ons kan leren over de toekomst…

3. Echte nepvingers als omgekeerd bewijs in de rechtbank

https://nadjabuttendorf.com/fingerring/

Geintrigeerd door een post van de Nederlandse creative director Rodger Werkhoven (volgt deze pionier op LI, lezer!), stuitte ik op het werk van Nadja Buttendorf. Zij maakte deze ringvinger-ring al in 2016.

Fast forward naar 2023. Zoals veel mensen al zagen (en weten) is het zo dat AI-generatoren als DALL-E, MidJourney en StableDiffusion notoir slecht zijn in het genereren van handen. Teveel vingers, rare verhoudingen - er klopt vaak niets van.

‘AI liars dividend’

Wat bedacht nu een grappige twitteraar? Als criminelen deze ring dragen en ze worden vastgelegd op bewakingscamera’s tijdens een illegale daad, dan kunnen ze bij een eventuele aanhouding en rechtszaak aanspraak maken op de AI-variant van het zogeheten liar’s dividend:

“Maar edelachtbare, de persoon op de foto heeft zes vingers. Dan moet dat beeld synthetisch zijn, door AI gegenereerd.”

4. Het inzichtelijke BNO-dossier ‘artificiele intelligentie’

Steeds meer beeldmakers zoals illustratoren, fotografen en visual designers hebben de volgende vragen over generatieve AI:

• Mag mijn werk gebruikt worden als trainingsdata voor een AI-systeem?

• Worden AI-creaties beschermd door het auteursrecht?

• Maken AI-creaties waarin mijn naam in de prompt is genoemd (bijvoorbeeld: een afbeelding in de stijl van ‘artiest’), inbreuk op mijn auteursrecht?

De Beroepsvereniging Nederlandse Ontwerpers heeft een goed leesbaar en overzichtelijke dossier op haar website geplaatst die op al deze vragen ingaat:

Dossier Artificial Intelligence

Informatie over de impact van recente ontwikkelingen in Artificial Intelligence-technologie op het auteursrecht en de ontwerpsector.

www.bno.nl/blog/dossiers-24/dossier-artificial-intelligence-1680

Wil je live checken of en hoe je eigen werk of dat van een bekende maker is gebruikt in trainingsdata van Stable Diffusion, MidJourney of DALL-E-2, dan zijn dit je weapons of choice:

• haveibeentrained.com 

• spawning.ai 

• stableattribution.com

Glaze: een AI-cloaking device

Het nieuwste wapen tegen gebruik van visueel werk in AI-trainingssets is Glaze. Hiermee camoufleer je een deel van je digitale beeld waarmee je de AI-trainingsmodellen als het ware fopt. De ontwikkelaars van Glaze besluiten hun paper (dat ik gemakshalve niet door ChatGPT haalde voor een samenvatting maar speciaal voor jou, mijn lezer, doornam) met deze realiteitszin:

‘Een systeem als Glaze dat kunstenaars beschermt, wordt geconfronteerd met de inherente uitdaging om toekomstbestendig te zijn. Elke techniek die we gebruiken om kunstwerken vandaag de dag te verhullen, kan worden overwonnen door een toekomstige tegenmaatregel, waardoor eerder beschermde kunst kwetsbaar is. We hopen echter dat deze technieken op korte termijn enige bescherming bieden aan kunstenaars, terwijl de inspanningen op langere termijn (wettelijk, regelgevend) hun effect krijgen.’

5. Spotify’s nieuwe AI DJ

Iedere muziekliefhebber zijn eigen persoonlijke dj, die een menselijke stem heeft, jouw muzieksmaak kent en tracks ‘ouderwets’ afkondigt. Dat is wat Spotify heeft ontwikkeld door ten minste drie vormen van AI te combineren:

1. Natural language generation - voor de teksten van de DJ

2. Spraaksynthese - ze hebben de stem van de AI DJ ‘X’ genoemd, naar Xavier Jernigan, hoofd culturele partnerschappen en host bij Spotify. Hij leverde zijn eigen stem om er middels AI een synthetische kloon van te maken.

3. Aanbevelingen - hiermee zijn ze natuurlijk al ruimschoots bekend door o.a. Discover Weekly.

Sander Duivestein, schrijver van het boek Echt Nep (aanrader!), noemde de AI DJ van Spotify op Linkedin al een vorm van asociale media. Ben benieuwd of jij het straks ook zo ervaart als je deze feature gebruikt.

Vooralsnog alleen Engelstalig beschikbaar voor gebruikers in de VS en Canada.

6. Good Tape - AI-transcriptie

mygoodtape.com/

Nu we het toch over spraak hebben. Hier gaan journalisten he-le-maal los op: Good Tape. Ontwikkeld door Zetland, de Deense zus van De Correspondent is deze transcriptiedienst vooral ontwikkeld voor journalisten en interviewers die interviews moeten uittypen. De journalisten die het hebben gebruikt zijn lyrisch. Het werkt erg goed met Nederlande spraakopnamen.

En ja hoor, ook hier wordt weer gebruikgemaakt van technologie van OpenAI (van o.a. DALL-E en ChatGPT):

‘Good Tape is built on OpenAI's AI model called Whisper. We didn't invent artificial intelligence, but we saw a user case and built a product to make the technology accessible in a secure and easy way. (Hopefully stating the obvious, but just in case: your recordings will not be used to train AI models).’

7. Real or fake Text (ROFT.io)

Kun jij raden of dit recept, artikel of speech door een mens of AI is geschreven? Speel dit spel en stuur me je score maar eens op. Ik vond het in ieder geval razend moeilijk.

Real or Fake Text

How good are you at knowing when text has been written by a computer? How many sentences can a computer write before it no longer has you fooled? Find out for yourself!

roft.io

✅ Zo. Dat was' ‘m weer.

-

Deze nieuwsbrief schrijft zichzelf niet (en wil dat ook niet). Oftewel: dit kost tijd en geld. #schoorsteenroken #bijdebakker. Ben jij al een tijdje geabonneerd en/of wil je de brief extra waarderen? Doe mij dan het equivalent van een blikje cola zero cadeau:

Zo gebruik je TikTok als bron

(En ja, het blijft ook problematisch dat de app in Chinese handen is en werkt als digitale crack cocaine voor de jeugd.)

Hi 👋 lezer,

Een Nederlandse minister die live op televisie demonstratief een haarlok afknipt. Het hoofdgebouw van de Rabobank dat nu al bijna een jaar geelblauw oplicht. Je nichtje dat meepraat over de omstandigheden van het WK in Qatar. Tieners die zich expres uit rijdende auto's laten vallen. Wat is hier aan de hand? 🧺: TikTok en AI.

Wat TikTok doet, welke rol het speelt bij bovenstaande gebeurtenissen, hoe het platform technisch werkt en waarom gebruikers zich gedragen zoals ze doen, on- en offline ... het is niet eenvoudig om die vragen te beantwoorden.

Digitale media- en cultuuronderzoeker Gabrielle Aguilar, die TikTok als specialiteit heeft, leerde me hoe je als slimme gebruiker toch een eind kunt komen. Het gesprek dat ik met haar had lees je terug in deze brief. Uitlezen levert je het volgende op:

1. Je kent meer manieren om naar TikTok te kijken.

2. Je hebt een stappenplan om TikTok als bron te gebruiken.

3. Je kent drie tools om TikTokdata te verzamelen voor onderzoek.

Bonus: om het je makkelijk te maken bevat deze brief ook een directe link naar TikTok Trendsdata.

⏱️ Leestijd: ga er maar even voor zitten... 17 minuten!

Deze nieuwsbrief in 2023

Voor Super Vision is dit een spannend nieuw jaar. Drie dingen zijn anders:

1. De look (Maar dat was je al opgevallen!).

2. De aanbieding: vanaf februari krijg je als premiumabonnee twee keer per maand een exclusieve editie. We versturen daarnaast eens per maand een gratis brief.

3. De inhoud: altijd een fris-kritisch perspectief op all things creative AI. Soms met gasten.

Waarom deze nieuwe aanbieding?

Deze nieuwsbrief schrijft zichzelf niet (en wil dat ook niet). Oftewel: dit kost tijd en geld. #schoorsteenroken #bijdebakker. Ben jij al een tijdje geabonneerd en/of wil je de brief extra waarderen? Doe mij dan het equivalent van een blikje cola zero cadeau:

Ga premium!Voor ongeveer de prijs van een blikje energydrink ontvang je twee keer per maand exclusive premium original digital content. Gemaakt door mensen. Je krijgt interviews met makers, denkers en onderzoekers. Je leert van en over de pioniers die de wereld van AI op creatieve wijze tegemoet treden. Zoals Gabrielle Aguilar deze week. Ben jij m'n eerste betalende abonnee? Dan krijg je het boek The Art of AI cadeau!  

Veel leesplezier weer. Laurens

---

Deze editie: Zo gebruik je TikTok als bron.

Gabrielle Aguilar, digitale media- en cultuuronderzoeker aan de Universiteit van Amsterdam

"Silly dances, lip sync videos and weird challenges." Zo typeren veel mensen het populaire socialmediaplatform TikTok nog altijd. De app heeft ondertussen een veel interessantere rol gekregen in het dagelijks leven en meer impact op de reële wereld, vertelt Gabrielle Aguilar.

Ze studeert digitale media- en cultuur aan de Universiteit van Amsterdam. Aguilar betoogt dat TikTok op een aantal manieren fundamenteel anders werkt dan eerdere socialmediaplatforms. (Debunk-alert: de reden daarvoor is niet omdat de Chinese eigenaar ByteDance kwade intenties zou hebben of omdat de jeugd verslaafd zou zijn aan TikTok).

Ik ontmoette Gabrielle begin 2023 en sprak meerdere malen met haar over hoe het ontwerp van TikTok bepaald gedrag uitlokt, en hoe je een gerichte zoektocht naar specifieke onderwerpen opzet. We keken uiteraard ook naar de rol van AI daarbij. 

TikTok Trends kraken

Een wirwar aan verslonsde werkruimtes, met in de aula een witte wand die lukraak de grote open ruimte verdeelt. Een alcoholvrij cafe met de naam 'Prisma'. Dit is het Buzzhouse, een UvA-complex waarin ik meteen al verdwaal. Als ik na een aantal aanwijzingen via Slack de drie studenten vindt waarmee ik heb afgesproken, zitten ze met hun laptops opengeklapt aan een hoge tafel in de lege, glazen Piramidezaal. Ze hebben zojuist een aanvalsplan gemaakt om TikToktrends te gaan ontdekken.

Een van deze studenten is Gabrielle Aguilar. Opgegroeid in Texas, met Mexicaanse roots, woont deze voormalig Google-medewerker nu alweer een tijdje in Nederland om te studeren. (Teaser: Al deze 'identity data points' worden later in het verhaal relevant). Samen met haar team zoekt Aguilar deze week naar manieren om grip te krijgen op (verborgen) trends op TikTok. Dit in het kader van de jaarlijks terugkerende Digital Methods Initiative Winter School van de Universiteit van Amsterdam. Ik ben hier op uitnodiging van docent Erik Borra en loop een weekje met de studenten mee.

Beyonce-complotten en climate change discours per platform

In verschillende ruimtes van het Buzzhouse werken deze week honderden mensen vanuit de hele wereld - studenten, onderzoekers, designers en docenten. Ze gebruiken speciale software om bijvoorbeeld TikTok te 'vatten' of om analyses te maken van de dynamiek en content van influencers en creators op socialmedia platformen. Zo is er een team dat de verspreiding analyseert van complottheorieen waarin Beyonce een rol speelt. In weer een andere ruimte volgen een aantal mensen het sentiment op de socials rond klimaatverandering.

1. Meer manieren om naar TikTok te kijken

Het project waar ik deze week bij betrokken ben, start onder de naam 'TikTok Thermometer', maar al snel wijzigt de koers. Na enig speurwerk ontdekt een teamlid een pagina van TikTok zelf, met open en gratis toegankelijke trenddata. Op die pagina worden cijfers gedeeld over creators, video's en andere gebruiksgegevens.

Besef wel: dit is wat het bedrijf zelf verkiest om openbaar te maken en te delen met publiek. Er is geen andere, makkelijke of gangbare manier (zoals met API's) om aan dit soort data te komen. Het publiek waar deze gegevens voor bedoeld is, is helder: adverteerders, marketeers en andere zakelijke, commercieel georiënteerde professionals. Mensen die geld verdienen op het platform, en die willen spelen volgens de regels van moederbedrijf ByteDance:

TikTok Creative Center

👉🏽 Bekijk hier wat TikTok deelt aan actuele trends en analytics:

Trend Discovery: Popular Hashtags On TikTok

Discover popular hashtags within the TikTok community

https://ads.tiktok.com/business/creativecenter/inspiration/popular/hashtag/pc/en

Wil je echter weten hoe specifieke, alledaagse of controversiele onderwerpen het doen op het Chinese platform, dan moet je handiger zijn. En een plan hebben...

1.1 Wat TikTok allemaal wel niet is?

TikTok heeft onbetwist een grote rol in het leven van vrijwel iedereen onder de 25 jaar. Het populairste socialmediaplatform ter wereld wordt echter nog altijd niet goed begrepen en daardoor verkeerd weggezet, onderschat en vooral: onbenut. Uit wetenschappelijk onderzoek blijkt dat 'veel aannames over TikTok die de huidige debatten voeden, niet worden ondersteund door bewijs en ook niet uitgesproken door actoren die een serieus belang lijken te hebben bij het begrijpen van het platform.'

'De heersende publiek opinie over TikTok is, dat het een zelfzuchtige tijdverspillende machine is die opvoedingsproblemen veroorzaakt, onze veiligheid bedreigt en autonomie inperkt.'

- Uit: Showing They Care (Or Don’t): Affective Publics and Ambivalent Climate Activism on TikTok

Even eerlijk: hoe goed ken jij le socialmediaplatform du jour eigenlijk?  Want als journalist, mediamaker of onderzoeker heb je wel degelijk een serieus belang en de verantwoordelijkheid om TikTok goed te begrijpen.

Enter Gabrielle again. Ze tipte me een onderzoekspaper dat haarfijn ook mijn vooroordelen en onwetendheid blootlegde. Channel nu even je innerlijke opiniemaker en herken de volgende cliches uit dat paper:

• 'TikTok kan gemakkelijk worden ge(mis)interpreteerd als het zoveelste symptoom van het moderne leven dat wordt gekenmerkt door de logica van kortstondige consumptie, de zelfzuchtige drang van het ene momentele genot naar het andere. Velen in de publieke arena bespreken TikTok en zijn algoritmische contentfeed als "digitale crackcocaïne" (Koetsier, 2020). Ze maken er een tijdverspillende machine van, die mensen afleidt van meer betekenisvolle zaken (Odell, 2019).'

Als media over TikTok spreken worden we geconfronteerd met 'betuttelende stemmen die aan TikTok een "opvoedingsprobleem" of een "veiligheidsbedreiging" toekennen.' Dergelijke commentaren zijn heel aantrekkelijk, zo schrijven de onderzoekers:

• 'Digitale detox initiatieven en hun oproepen om tijd en autonomie terug te winnen van verslavende technologie groeien in populariteit (Sutton, 2020; Syverten, 2020). Het is echter opmerkelijk dat anderen in het debat rond TikTok ons eraan herinneren dat "de meest gedownloade app . . nauwelijks begrepen wordt door iemand boven de 25 jaar" (Hern, 2019, para. 1). Kritische opmerkingen over TikTok worden vooral van bovenaf gemaakt. Ze benadrukken aspecten van de app, zoals zorgen over de privacy, waarvan het belang niet altijd in dezelfde mate wordt gedeeld door degenen die de app gebruiken (Kennedy, 2016; voor TikTok-specifiek, zie Ohlheiser, 2019).'

'De meest gedownloade app ter wereld wordt nauwelijks begrepen door iemand van boven de 25 jaar.'

Mediawetenschappers staan al lang kritisch tegenover top-down perspectieven en betuttelende commentaren op sociale media. Laatste punt uit het paper:

• 'Fenomenen als de selfie en andere praktijken van online zelfdocumentatie zijn daarvoor emblematisch. Publiek commentaar maakt ze vaak af als narcistisch, hersenloos of inconsequent - een positie waar mediawetenschappers zich al lang tegen verzetten door te benadrukken hoe schijnbaar 'eenvoudige' en 'oppervlakkige' communicatieve praktijken er altijd toe zijn gaan doen, niet in en door zichzelf, maar vanwege hun inbedding in het dagelijks leven en de gemeenschap (Abidin, 2016; Humphreys, 2018; Rettberg, 2014; Tiidenberg, 2018). TikTok vormt geen uitzondering op die trend.'

Paper: Communicative Forms on TikTok: Perspectives From Digital Ethnography. Andreas Schellewald

Wow. Best herkenbaar, toch?

1.2 Anatomie van het TikTokplatform

Ondertussen gebruiken veel mensen TikTok vooral om te leren over allerhande onderwerpen. Gabrielle ziet TikTok 'as a space of knowledge.' Als je Googlet, zo vertelt ze, wordt informatie 'sussed out', raakt het ondergesneeuwd. Op TikTok is authenticiteit belangrijk. Je hoeft niet veel volgers te hebben om op verschillende manieren mensen te bereiken. Als ik Gabrielle vraag hoe we dat mechanisme beter begrijpen, krijg ik een soort digitale anatomieles. Het platform kent volgens haar drie belangrijke facetten:

1. Affordances; wat gebruikers kunnen doen op het platform.

2. Affectieve publieken

3. Algorithmische echokamers

1.2.1 Affordances

Designers kennen het begrip 'affordance' wel. Ik leg het uit als: hoe het ontwerp van een fysiek product of app een bepaald gedrag uitlokt of intuitief afdwingt. Denk aan een deurklink, of een knopje op een apparaat. De eerste pak je vast en duw je (meestal) naar beneden, de tweede druk je in met een vinger. Affordance stuurt het ontwerp en materiaal in een bepaalde gebruiksrichting.

Greenscreening en duetting - unieke affordances van TikTok

Vrijwel alle functies van TikTok gebruiken AI en machine learning. En de manieren waarop ze ingezet zijn, veroorzaken een bepaald gedrag bij gebruikers en hun onderlinge interacties - de affordances. Het levert dynamieken op die uniek zijn voor TikTok. Aguilar noemt als voorbeelden greenscreening, duetten en soundtracks. 'Het platform bood daarmee mogelijkheden die eerder niet beschikbaar waren voor gewone gebruikers op andere platforms, zoals Twitter, FB of Instagram.'

• Video bewerken binnen de app. Gebruikers kunnen hun eigen video's 'greenscreenen' (de achtergrond in beeld weghalen, red.). Het is een techniek die voorheen alleen werd gebruikt in de wereld van televisie- of filmproductie. Greenscreenen is vooral mogelijk dankzij AI (specifiek: Computer Vision, red.). Middels deze techniek (in combinatie met andere functionaliteiten) bood TikTok als eerste socialmediaplatform een ruimte waar mensen, ongeacht hun technische vaardigheden, een breed scala aan bewerkingsmogelijkheden kregen. Met een grote mate van creatieve vrijheid.

• Mensen uitnodigen voor een duet. Deze functie levert een unieke mogelijkheid voor interactie met andere gebruikers. Het wordt naast de letterlijke uitvoering - samen zingen (de affordance) - ook gebruikt voor commentaar, als parodie, om iemand tegen te spreken, maar ook om te pesten, te intimideren of mensen aan te vallen.

• Soundtracks (zonder copyrightproblemen) onder je video plaatsen. Deze functie leid tot 'association by sound'. Aguilar geeft hierbij een voorbeeld: "Je kunt een specifieke audioclip gebruiken met een specifieke hashtag. In Iran is dat het protestlied 'Baraye'. (Geschreven door de inmiddels opgepakte Shervin Hajipour, red.) Mensen gebruiken het als ze willen laten zien dat ze de protesten steunen, zonder dat verder in tekst, woord of beeld te expliciteren."

👉🏽 Wil je meer over die affordances weten, dan verwijst Gabrielle naar ander recent onderzoek naar TikTok. In de volgende tabel worden de verschillende functies en affordances toegelicht:

Manieren waarop TikTok bepaald gedrag uitlokt

1.2.2. Affectieve publieken

Buckle up! Het wordt even (nog) iets mediatheoretischer nu, maar wees gerust: je kunt dit...en we hebben het nu eenmaal nodig ;-)

In principe leiden alle affordances die verband houden met politieke bewegingen en trends tot de vorming van wat Aguilar en andere onderzoekers 'affectieve publieken' noemen. "Affectieve publieken," zo zegt Aguilar "geven mobiliteit, dragen bij aan de viraliteit van een onderwerp." Ze vervolgt:

"Ook al ben ik nu in Nederland, ik kan geraakt worden door de Iraanse revolutie, en me gedwongen voelen solidair te zijn, zelfs om mijn eigen haar te knippen. Mijn oma heeft dan geen idee en vraagt me waarom ik dat doe. Als ik het aan haar uitleg, heeft zij het er vervolgens met d'r zus en buurvrouw over."

Je ziet volgens Aguilar "een voortdurende verschuiving van online discours naar de offline, echte wereld." Dat is wat affectieve publieken zijn en doen: "ontmoetingen die online ontstaan of zichtbaar worden, die zo'n grote impact hebben op gebruikers, dat ze ons dwingen om actie te ondernemen op verschillende manieren: ons haar af te knippen, het toevoegen van Oekraiense vlaggen aan onze profielfoto's; iedereen kent de voorbeelden wel."

En zo kan het dat al die random events zoals in de introductie van deze nieuwsbrief beschreven zijn, door affectieve publieken, al dan niet versterkt door het ontwerp en gedrag van TikTok en diens gebruikers, onder de aandacht van een groter publiek komen. En dat een Justitieminister op primetime televisie haar haar afknipt.

1.2.3 FYP & Algoritmische Echokamers

Het.TikTok.Algoritme.OMG.Ofcourse. We moeten het als laatste element van de TikTokanatomieles uiteraard hebben over de ongeevenaarde en -toegegeven- bizar goed werkende aanbevelingsalgoritmen van het platform. Want het is nog altijd een goed bewaard geheim hoe onderwerpen en videos zich verspreiden op het platform.

Neem het alomaanwezige FYP, TikTokspeak voor de For You-pagina. Hierop krijgt iedere gebruiker ogenschijnlijk willekeurige video's geserveerd die TikTok bij jou vindt passen.

Aguilar: "Ten eerste is FYP zeer subjectief en voor iedereen totaal verschillend. Daarnaast is wat je geserveerd krijgt door het algoritme slechts een fractie van wat er op het platform te vinden is. We weten alleen wat we zelf te zien krijgen, maar niemand weet, behalve moederbedrijf Bytedance, hoe de algoritmes precies werken."

👉🏽 Kijk deze video van de Wall Street Journal . Journalisten hebben naar de werking van TikTokaanbevelingen een inmiddels vrij bekend 'reversed engineering' onderzoek gedaan.

'Algoritmetje truc'en'Gabrielle geeft een voorbeeld van de creativiteit van TikTokers die proberen om deze algoritmes te omzeilen. Aguilar heeft het over ondermijnen en 'hacken':

"This idea of users hacking 'their' algorithm: it's the undermining of how they imagine that it works. It's like reshaping your algorithmic experiences."

Hoe TikTokgebruikers zo'n hack plegen, legt ze met een voorbeeld uit. "Een creator kan beseffen: Ik maak content voor vrouwen, maar sommige daarvan komt op TikTok in de 'man-o-sphere' terecht. Zo'n creator probeert vervolgens het algoritme te 'hacken' door creatief te zijn en haar/zijn ervaringen te ondermijnen of opnieuw vorm te geven."

Je kunt bij dit hacken denken aan het uploaden van hetzelfde of nieuw materiaal met gebruik van steeds verschillende hashtags, bijschriften, call-to-actions (middels duetten of vragen bijvoorbeeld) of door verschillende commentaren uit te proberen.

Wil je bijvoorbeeld weten hoe Nederlandse jongeren over klimaatverandering op TikTok communiceren, of welke bijbaantjes ze waarderen, dan is het deze anatomie -de dynamiek van functies, affordances, publieken, trucs en hacks- die je moet kennen wanneer je onderzoekt wat trending is op TikTok of als je wil weten waar je relevante video's kunt vinden op het platform.

Tot zover de anatomieles van TikTok. Heb je je onderzoeksvraag en -platformkennis op orde, dan is het tijd voor de aanval. Kopieer de volgende stappen die Aguilar en haar team zetten. Je krijg bij iedere stap ook een handige tool getipt. Ik deel ze in de volgende sectie.

2. Stappenplan 'TikTok als bron'

Composite image of Top 100 video thumbnails from #mahmouddarwish on TikTok

Gabrielle en haar team wilden aanvankelijk uitzoeken of er een manier was om TikTok Trends in beeld te krijgen. Een soort equivalent van Google Trends, maar dan zelfstandig opgebouwd, samengesteld door buitenstaanders. Om te beginnen moest er videodata worden verzameld. Aguilar: "Ik kende wel al onderzoek waarbij men handmatig iedere video beschrijft en de metadata bijhoudt in een spreadsheet. Een beetje de old school manier."

Gelukkig hebben academici tegenwoordig uitgebreidere en geavanceerde digitale tools ter beschikking voor dit soort onderzoek. Tools die wel enige tijd kosten om onder de knie te krijgen, maar zeker de moeite waard zijn om uit te proberen. Ik deel ze verderop. Eerst krijg je het stappenplan.

Online of niet: eerst verzamelen, dan analyseren, vervolgens visualiseren, concluderen (en opnieuw beginnen).

Aguilars team had mensen die goed overweg kunnen met dataanalysesoftware. Tools die namen dragen als Zeeschuimer, Gephi en 4Cat. Deze gereedschappen maken het in combinatie met elkaar mogelijk om data van socialmediaplatforms te verzamelen, te analyseren en te visualiseren.

👉🏽 Voor een onderzoek naar de, in complottheoretische kringen vermeende relatie tussen '5G' en 'corona', werkte journalist Coen van de Ven (De Groene Amsterdammer) eerder ook samen met digitale media en cultuuronderzoekers van de Universiteit Utrecht en ook de UvA. Daarbij zette het team ook dergelijke software in complottheorieen op twitter en instagram te onderzoeken.

Stap 1. Data vastleggenOm data te verzamelen, start je met een zoekwoord - de query - of je begint vanuit een video die op je FYP wordt aangeboden. Vervolgens creeer je je eigen pad door actief op hashtags te klikken of door de volgende video te bekijken. Je stelt hiervoor al vrij simpel een plan op als je eerst explorerend hebt rondgekeken en wat hebt rondgeswiped.

Browserextensie Zeeschuimer is hier je vriendWeapon of choice voor het verzamelen en vastleggen (het 'loggen') van de TikTok-data was in Aguilars team de browserextensie Zeeschuimer. Wat deze software doet? "Het verzamelt data van je zoek- en klikresultaten. Het levert veel gegevens op, die je kunt exporteren naar een spreadsheet (denk aan Excel of Google Sheets)."

Dit zijn de type TikTokgegevens die je met Zeeschuimer zoal vastlegt:

• Zoekresultaten

• Lijst met gebruikers (o.a. hun naam, volgers)

• Aantal weergaven per video

• Opmerkingen van kijkers bij die video

• En nog veel meer...

Stap 2. Data analyserenAls je na het loggen hebt bepaald welke data je zoekt (of zaken die je opvielen tijdens het 'zeeschuimen'), kun je starten met de analyse. Een slimme aanpak hierbij is om naar relaties te kijken. Relaties tussen video's die gebaseerd zijn op hashtags of dezelfde soundtrack bijvoorbeeld. Aguilar noemt dit co-hashtag occurence analysis, en geeft een voorbeeld: "Bij een zoekopdracht naar '5G' ontdek je dat veel mensen 'corona' gebruiken. De verbinding tussen die twee hashtags bevestigt dan een relatie, zeker als je in de data ziet dat ze vaker samen voorkomen."

Video's die allemaal dezelfde soundtrack gebruiken 🤔Als je op deze manier naar relaties zoekt of die ontdekt in je data, gaan al snel andere zaken ook opvallen. Dat kunnen relaties zijn tussen verschillende video's, maar - veel voorkomend op TikTok - je ontdekt misschien ook wel een relatie tussen video's die allemaal dezelfde soundtrack gebruiken.

💡 Tip van Aguilars team:Analyseer de hashtag- en soundtrack co-occurence in je verzamelde dataset om trends te identificeren.

Aguilar noemt het Iraanse protestlied dat veel TikTokers onder hun video's zetten daar een goed voorbeeld van. Saillant-detail: het viel de groep in dit geval op dat het lijkt of TikTok het gebruik van deze soundtrack ten tijde van het onderzoek niet weerde op de eigen TikTok Trends Discovery pagina.

Gebruik 4CAT voor analyseEen handige tool die je helpt dingen om die dingen te zien die je eerst niet opvielen is 4CAT. Deze software, die in de browser werkt, bied een overzicht op je verzamelde data, waarmee je er grip op krijgt en er op kunt inzoomen. Zo toont 4CAT bijvoorbeeld de identiteit en geografie van posts en creators.

Case study: Mahmoud Darwish

Interest-over-time in #mahmouddarwish (January 2022 - January 2023) on TikTok - (Trend Discovery: Popular Hashtags on TikTok, n.d.)

Een onderwerp en hashtag die Gabrielle's groep volgde, is #mahmouddarwish. In hun aankomende paper schrijft het team hierover:

Figure 2. Regional popularity of #mahmouddarwish (January 2022 - January 2023) on TikTok - (Trend Discovery: Popular Hashtags on TikTok, n.d.)

De cijfers uit bovenstaand figuur duidt het team alsvolgt:

Het visueel maken van cijfers middels grafieken is voor veel mediamakers ondertussen gesneden koek. Veel complexer is het om een netwerk aan clusters en relaties te definieren, te ordenen en uiteindelijk begrijpelijk te visualiseren. En dat is waar de volgende tool bij kan helpen, tijdens de derde en laatste stap.

Stap 3: Data visualiserenWanneer je in de vorige stap connecties en relaties in je data hebt gedefinieerd, dan helpt het om die relaties - een netwerk in feite - te visualiseren.

gephi Example Co-hashtag Conspiracy Network on TikTok

Gephi is het gereedschap om een netwerk mee te visualiseren. Gabrielle legt uit dat niet iedere mediawetenschapper of journalist deze tool zou moeten kunnen gebruiken. Weten wat er met Gephi kan is al voldoende. Als je ervaring hebt met de voordelen die visualiseren van socialmediadata oplevert, maak je je echter wel heel aantrekkelijk als journalist of onderzoeker. Wat Gabrielle vooral toejuicht is het interdisciplinair werken bij dit soort projecten. Waar de UvA Winter School een goed voorbeeld van is.

Als je Gephi hebt gedownload en geinstalleerd, kun je vervolgens je 4CAT-export (dat wat je hebt gedefinieerd als waardevolle relaties in je data, zie Stap 2) inladen om je netwerk te visualiseren.

#mexico #mexicantiktok #latina - zelfidentificatie door hashtagsWaar een tool als Gephi bij helpt is om visuele 'clusters' te genereren. Hiermee zie je letterlijk in een oogopslag hoe de datapunten die jij relevant acht, met elkaar verbonden zijn. Denk hierbij aan hashtags, creator-identiteiten of geografische locaties. Gabrielle geeft een voorbeeld over zichzelf: "Als ik een video ga delen van een Mexicaanse zanger, dan zelf-identificeer ('self-ascribe') ik mezelf door bij die video de hasthtags #mexico #mexicantiktok en #latina te plaatsen."

Ruis en 'hashtag stuffing'Ze merkt daar bij op dat veel mensen natuurlijk ook #covid #nurse #doctor kunnen gebruiken bij misinformerende berichten over de pandemie. Beschouw dit tijdens je onderzoek dan als ruis ('noise') of, een variant daarop: hashtag-stuffing. Dat laatste behelst het proberen te manipuleren van TikToks aanbevelingsalgoritmen om zodoende bereik te genereren voor je content. Of om het op specifieke plekken te krijgen waar je het onder de aandacht wil brengen.

Zo zijn er veel mensen op TikTok die '#FYP' (for you page) toevoegen aan hun content, waardoor de term zo generiek wordt, dat het bereikseffect ervan inmiddels sterk is afgenomen.

💡 Laatste tip van Aguilars team:Filter noisetags en hashtag stuffing uit je data, voordat je je gegevens in Gephi invoert.

Heb je je data verzameld, geanalyseerd en gevisualiseerd, dan kun je nog de dimensie tijd toevoegen en kijken hoe clusters dan wijzigen. Dit helpt je om te zien:

• Hoe en waar onderwerpen aan elkaar gekoppeld raken door bepaalde gebeurtenissen (zowel on- als offline). Denk hierbij aan een publicatie, een demonstratie, arrestatie of ander event.

• Welke groepen of creators belangrijk zijn voor de verspreiding van bepaalde boodschappen op TikTok.

• Wanneer een onderwerp viraal ging op TikTok.

Visualisatie van trendsdata stelt je in staat om beter grip te krijgen op het onderwerp dat je onderzoekt, uiteraard ongeacht of dit nu van TikTok, Google Search Trends of Instagramdata is. Het helpt daarnaast ook om de dynamiek van het platform an sich beter te begrijpen.

3. Tools voor TikTok-bronnenonderzoek

Resumerend zijn dit de tools die je per stap inzet om TikTokdata te verzamelen, te analyseren en te visualiseren:

1. Zeeschuimer: voor gegevens verzameling

2. 4Cat: to make sense of collected data

3. Gephi: datavisualisatie

Resumerend

Neem jij TikTok als bron nu meer serieus en ben je nu beter voorbereid om er dieper in te duiken? Als het goed is heeft het lezen van deze brief je het volgende opgeleverd:

1. Je hebt een bredere kijk op het socialmediaplatform van dit moment.

2. Je bent professioneel nieuwsgierig geworden naar TikTok.

3. Je hebt een methode/ stappenplan om TikTok als bron te gebruiken

4. Je kent drie tools om te gebruiken bij je onderzoek

5. Je hebt een directe link naar TikTok Trendsdata.

Hopelijk helpt dit jou niet alleen om jezelf te helpen. Als journalist / mediamaker biedt je met dit betere begrip van TikTok ook je publiek een betere inkijk in wat er echt op het platform gebeurt, wat er speelt onder jongeren.

En passant neem je daarmee ook vooroordelen weg. Op die manier schatten we dit platform beter op waarde en invloed, en reageren we gerichter en adequater bij misstanden (in plaats van om een onrealistisch totaalverbod op te roepen).

Goed voor jezelf, je redactie en je publiek. Lekker bezig, lezer!✅ En dat was 'm weer; de allereerste van 2023. Tot de volgende. Laurens.

---

RECLAME: AANBIEDING

Deze nieuwsbrief schrijft zichzelf niet (en wil dat ook niet). Oftewel: dit kost tijd en geld. #schoorsteenroken #bijdebakker. Ben jij al een tijdje geabonneerd en/of wil je de brief extra waarderen? Doe mij dan het equivalent van een blikje cola zero cadeau:

Ga premium!Voor ongeveer de prijs van een blikje energydrink ontvang je twee keer per maand exclusive premium original digital content. Gemaakt door mensen. Je krijgt interviews met makers, denkers en onderzoekers. Je leert van en over de pioniers die de wereld van AI op creatieve wijze tegemoet treden. Zoals Gabrielle Aguilar deze week. Ben jij m'n eerste betalende abonnee? Dan krijg je het boek The Art of AI cadeau!  

Hi 👋 lezer,

Er stond een foute link naar de BNR Eyeopeners-podcast in de vorige mail. Dit is de juiste: BNR Eyeopeners

Ik heb een korte verrassings-/ eindejaarseditie voor je. Met iets om naar te luisteren en iets om naar te kijken. Fijne dagen en tot in het nieuwe jaar.

Groet, Laurens.

1. Radio/podcast: BNR Eyeopeners

Creative technologist Nadia Piet & presentator Nina van den Dungen

Toen de fotografie opkwam, dachten schilders dat ze wel in konden pakken. "Maar toen kregen we surrealisme, kubisme en nog veel meer," vertelt Nadia Piet in deze aflevering van BNR Eyeopeners, waarin ik samen met haar te gast ben:

🎧 👉🏽 Beluister de aflevering hier

2. 22 mooiste wetenschapsbeelden van het jaar

Van een ijsbeer die intrekt in een verlaten woning tot de diepste beelden ooit van ons heelal. 22 experts duiden de mooiste wetenschapsbeelden van het jaar, samen met de wetenschapsredactie van de Volkskrant. Voornaam- en initialengenoot Laurens Verhagen van De Volkskrant vroeg me onlangs om een AI-kunstwerk te duiden.

👀 👉🏽 Bekijk de 22 beelden en toelichtingen (Volkskrant🔒)

✅ Dit was 'm alweer. Tot volgend jaar!

Hi 👋 lezer,

Ik heb een korte verrassings-/ eindejaarseditie voor je. Met iets om naar te luisteren en iets om naar te kijken. Fijne dagen en tot in het nieuwe jaar.

Groet, Laurens.

1. Radio/podcast: BNR Eyeopeners

Toen de fotografie opkwam, dachten schilders dat ze wel in konden pakken. "Maar toen kregen we surrealisme, kubisme en nog veel meer," vertelt Nadia Piet in deze aflevering van BNR Eyeopeners, waarin ik samen met haar te gast ben:

 🎧 👉🏽 Beluister de aflevering hier

2. 22 mooiste wetenschapsbeelden van het jaar

Van een ijsbeer die intrekt in een verlaten woning tot de diepste beelden ooit van ons heelal. 22 experts duiden de mooiste wetenschapsbeelden van het jaar, samen met de wetenschapsredactie van de Volkskrant. Voornaam- en initialengenoot Laurens Verhagen van De Volkskrant vroeg me onlangs om een AI-kunstwerk te duiden.

👀 👉🏽 Bekijk de 22 beelden en toelichtingen (Volkskrant🔒)

✅ Dit was 'm alweer. Tot volgend jaar!

Hi 👋 lezer,

Dank voor de leuke reacties op de laminaatbrief van vorige week.

Dit is de laatste editie die je krijgt in 2022, en de laatste 'powered by' nieuwsbriefdienst Revue. Twitter trekt er de stekker eruit 🙀 Maar, tbh, prima om dat sinking ship te verlaten. Wel balen voor Martijn.

Deze week: een interview en een AI-discussiehulpstuk

Ik belde met Sjoerd de Kreij, mede-oprichter en -bouwer van de nieuwe Nederlandstalige AI-schrijfassistent Schrijven.ai. Hij vertelt over 'de Wehkampknop', ervaringen met testgebruikers en over plannen voor de toekomst: wanneer gaan ze ChatGPT implementeren?

Eindelijk las ik de Medium-post van m'n favoriete Zweedse AI'er, Agnes Stenbom. Met nog een Deen en een Noor deelt ze handige hulpstukken voor discussies over gebruik van AI binnen nieuwsorganisaties. Ik geef je de highlights.

Wens ik je voor de laatste keer dit jaar veel plezier. ⏱ 7 minuten. Alvast fijne laatste weken van '22 en goede eersten van '23!

Groet, Laurens

1. Interview met Sjoerd de Kreij van Schrijven.ai

Het is een van de redenen waarom Sam Baud en Sjoerd de Kreij (die beiden tot november dit jaar bij DPG Media werkten) hun tool - schrijven.ai - hebben gebouwd, vertelt Sjoerd aan de telefoon.

Wat kun je met schrijven.ai?

Volgens hem is de belangrijkste use case voor zijn tool het schrijven van langere stukken. Je voert straks bijvoorbeeld je outline van je tekst (of een kladversie) in schrijven.ai in en de assistent geeft je alvast een verder uitgeschreven versie.

Je kunt daarnaast ook interviewvragen laten bedenken door de assistent, inleidingen bij artikelen genereren en samenvattingen en teksten voor social media creeren. Ook biedt schrijven.ai hulp bij brainstorms.

AI voor het ruwe voorwerk

Het is volgens De Kreij de bedoeling dat de schrijver de gegenereerde tekst als inspiratie of het ruwe voorwerk ziet, niet als magische knop die automatisch stukken voor je schrijft. Eerder "dat je je stuk met schrijven.ai in de grondverf zet."

"Vijf manieren om geld te besparen"

Een andere toepassing is hulp bij het schrijven van 'evergreen' content. Stukken met titels als 'Vijf manieren om geld te besparen' werk je snel en goed uit met schrijven.ai, vertelt Sjoerd.

Voor wie is schrijven.ai primair bedoeld?

Volgens hem heeft zijn assistent al een vaste basis bij journalisten van o.a. NOS en Mediahuis. Er komen sinds vorige week zo'n 100 nieuwe aanmeldingen per dag bij.

Sam en Sjoerd (zo staat op Emerce te lezen) onderzochten wat een journalist of tekstschrijver nodig heeft tijdens het proces. Vervolgens bestudeerden ze de inhoud van stukken, zoals koppen, inleidingen en conclusies. Die informatie gebruikten ze om eigen modellen mee te trainen.

Sjoerd legt aan de telefoon uit wat het voordeel is wat betreft die eigen training:

Hierdoor is de tool primair georienteerd op, en getraind met uitsluitend Nederlandstalige teksten. Dat betekent overigens nog niet dat je met schrijven.ai aan je zijde alle journalistieke taken binnen het Nederlandse taalgebied te lijf kan gaan.

Wat schrijven.ai niet doet? Bronnenonderzoek!

De Kreij is resoluut als het gaat om wat je met zijn tool niet kan: bronnenonderzoek. Het is sowieso iets dat taalmodellen als GPT-3 of toepassingen daarop gebaseerd zoals ChatGPT niet kunnen.

Op de vraag waarom licht Sjoerd toe dat schrijven.ai namelijk ook gebruikmaakt van GPT-3 van OpenAI. (Inmiddels kennen lezers van deze brief OpenAI vooral van DALLE-2 en ChatGPT.)

Afgesteld op het Nederlands

Het viel Sjoerd en Sam op dat bestaande AI-schrijfassistenten vooral gericht bleken op andere, grotere talen. De Kreij: "De Nederlandse output was nog niet heel goed."

Ook bij schrijven.ai bleek na testen dat die output, het resultaat, beter kon. Sjoerd vertelt dat testgebruikers soms gekke interpunctie tegenkwamen, woorden aan elkaar zonder spatie en Dunglish: het gebruik van Engels en Nederlands door elkaar.

Recente update: nieuwe features, meerdere talen

Sinds gisteren, woensdag 14 december, is dat hopelijk verholpen en is de tool vooral onder motorkap verder verbeterd en uitgebreid. Er zijn nieuwe features bijgekomen, zoals 'positief reframen', en je kunt nu schrijven in meerdere talen.

In de nabije toekomst

Er staan veel nieuwe ideeen op de roadmap van schrijven.ai, waarvan sommige al kunnen worden getest. Zo kunnen grotere klanten (met een minimum aantal pro-abonnementen) de te genereren tekst de eigen tone-of-voice te laten aannemen. Zo moet een NOS-gebruiker beduidend ander resultaat krijgen dan eentje van de Volkskrant. Volgens Sjoerd wordt hiermee al getest met Wehkamp, voor het schrijven van productteksten volgens specifieke brand guidelines; "de Wehkamp-knop."

En... Schrijven.ai + ChatGPT?

Sjoerd geeft aan dat toevoegen van ChatGPT binnen de assistent op het wensenlijstje staat. Op de vraag of dat gaat lijken op de manier waarop Lex dit doet, moet hij toegeven dat hij die tool niet kent, maar deze zeker gaat bestuderen.

Schrijven met AI-assistant Lex terwijl je on the side researchvragen stelt.

Voordat een dergelijke AI-powered onderzoeksassistent binnen schrijven.ai wordt geimplementeerd, is er nog een belangrijke hobbel te nemen, vertelt De Kreij. Gebruikers dienen wel te begrijpen dat zowel GPT-3 als ChatGPT niet up-to-date zijn met de allerlaatste informatie of data. Sjoerd:

Het lijkt een beetje een gekke uitspraak, maar klopt wel degelijk. Dit soort modellen zijn getraind op data die eerder van het web is gehaald, en dus zeker niet actueel. Daarom 'weten ze' bijvoorbeeld niet, ik noem maar wat, dat Marokko gister tijdens de halve finale van het WK-voetbal van Frankrijk heeft verloren.

Tot slot: 'Impact AI in het algemeen onderschat'

Sjoerd voorziet dat AI een 'groot onderdeel van ons leven zal gaan uitmaken. De impact wordt nog onderschat."

Ik ben wel benieuwd welke impact jij verwacht van tools als deze...

👉🏽 Probeer schrijven.ai zelf maar eens uit

2. Eerste hulp bij AI-discussies op de redactie

De 'Nordic Journalism AI'ers' Agnes Stenbom, Kasper Lindskow and Olle Zachrison riepen onlangs op om op redacties breder en betere discussies te voeren over het (transparant) gebruiken van AI.

Framework for facilitating discussions on AI transparency in news; by Agnes Stenbom, Kasper Lindskow and Olle Zachrison

Als hulpmiddel voor die discussies ontwikkelden ze bovenstaand (ogenschijnlijk eenvoudige) framework.

Het gebruik lichten de framework-bedenkers als volgt toe:

Impact on the user experience

Als journalist werken met AI?

Vermeld dan het volgende, zeggen de schrijvers:

• Tell users that an AI system is being used (basic visibility)

• Describe how the AI system makes decisions (technical visibility)

• Explain individual decisions made by the AI system

• Enable users to directly affect individual decisions

👉🏽 Het werk en denken sluit ook mooi aan bij het onderzoek en aanbevelingen van de pas gepromoveerde Hannes Cools (wiens werk ik vorige week behandelde.)

Lees het hele stuk hier:

Hey Editor! It’s time to get involved in AI transparency | by Agnes Stenbom | Nov, 2022 — medium.com

On October 4th 2022 the Norwegian public broadcaster NRK published a standard-looking article about energy prices. However, the credentials for the associated image were not of your average…

✅ Dit was 'm voor 2022. Tot volgend jaar. Doei!

Hi 👋 lezer,

Dit mailde Vriend van de Brief Frank me afgelopen maandag 🤭. Ik waardeer dit soort betrokkenheid enorm en ben het ook met Frank eens. Daarom beloof ik bij deze, mijn beste lezer, dat niets in deze brief is geschreven door die nieuwste generatie chatbot van OpenAI.

Wat er wel in deze brief zit (en in alle andere edities)?

Longtime-lezers kennen inmiddels het perspectief waarmee ik de zaken benader. Als het om AI gaat, krijg je van mij wekelijks een enigszins genuanceerd verhaal, althans, dat hoop ik. In ieder geval geen hijgerig hallelujah of knee-jerk doemscenario.

Al is het door de snelheid waarmee alleen al dit jaar de een na de andere nieuwe AI-toepassing is opengesteld voor gebruik, niet altijd eenvoudig om afstand te nemen en binnen zeven dagen te reflecteren op alles wat voorbijraast.

Enfin, met Super Vision onderzoek ik samen met jou de mogelijkheden en beperkingen van AI; die waaier aan nieuwe technologie als toepassing binnen de creatieve sector.

Noem me een creatief-constructivistische realtechnoloog. Voor AI zelf en technologie ben ik niet bang. Wel voor hoe mensen er over denken en er (niet) mee om (willen/kunnen) gaan.

Ik kwam een passende spreuk tegen:

(Aan het eind van de brief weet je van wie deze uitspraak is...)

Deze week: profeten, wetenschappers en pragmatici

Ik wil je, wellicht zwevende tussen overenthousiast en apocalyptisch maar kritisch-nieuwsgierige lezer, deze week helpen je horses te holden wat betreft meningsvorming over de nieuwste generaties AI-generatie.

Want ken je die mop van de profeet, de onderzoeker en het algoritme die een nieuwsbrief binnenlopen? Die mop vertel ik deze week, in vier aktes:

1. De onderzoeker - De invloed van algoritmes op het journalistieke proces.

2. Het algoritme - Wat ChatGPT (en andere generatieve AI) nooit zullen leren (en waarom dat door hun bouwers komt en niet door jou!).

3. De profeet - In welke val we iedere keer trappen bij nieuwe AI.

4. De pragmatist - "All models are wrong. Some are useful.”

Veel inhoud- & leesplezier! ⏱ 11 minuten

Laurens.

Ps. Als er een ding is dat generatieve tekst-AI niet kan is het wel het produceren van onvoorspelbaar woordgebruik. Of Engels en Nederlands door elkaar schrijven in een enkele zin, zo blijkt uit onderzoek (🔒)

1. De onderzoeker - Hannes Cools

Invloed van algoritmes op het journalistieke proces

Iets waar geen chatbot tegenop kan is het werk van Hannes Cools. Hij promoveerde afgelopen vrijdag met onderzoek naar 'How algorithms are augmenting the journalistic institution'

Cools is inmiddels postdoc onderzoeker bij het AI, Media & Democracy Lab van de Universiteit van Amsterdam.

Ik interviewde hem eerder al voor het boek The Art of AI. Op dat moment zat hij bij de Washington Post voor zijn promotieonderzoek. Hij bezocht verder nieuwsredacties in het Verenigd Koninkrijk, Duitsland en Belgie.

Cools' proefschrift richt zich op 'journalist-algorithm interaction and enhances our understanding of how these tools are reshaping rather than reinventing the journalistic institution.'

TL;DR: Cools' conclusies omtrent algo's in de journalistiek

Vorige week mailde Hannes me een aantal conclusies uit zijn dissertatie om met jou te delen. #nieuwekennis #publiekdomein.

In zijn eigen woorden:

1. Ja, tools zijn alsmaar meer aanwezig op redacties. Ik heb dit vastgesteld bij redacties in België, Duitsland, de UK en de VS, en bij sommige redacteuren/redactrices blijft er een krampachtige houding merkbaar in hoeverre deze tools (als metricsystemen) gebruikt moeten worden.

2. Er is een gebrek aan algoritmische kennis binnen redacties. De personen die de algoritmen ontwikkelen zijn meestal ingenieurs of data scientists die geen (voldoende) band hebben met de journalistiek. Er is een discrepantie tussen wat ik de technologisten noem en de journalisten.

3. Autonomie en agency moeten bij de journalisten blijven. Zo niet, dan zal het wantrouwen jegens die tools toenemen.

4. Nieuwsorganisaties moeten een beter evenwicht vinden in het gebruik van algoritmen.

5. Uit onderzoek bij De Standaard, De Morgen, De Tijd, Het Nieuwsblad en Het Laatste Nieuws (maar ook bij andere redacties in de VS/VK) blijkt dat tools meestal top-down worden ontwikkeld en geïmplementeerd. Daarnaast is het zo dat redacties heel snel zich op nieuwe tools richten maar dat vaak doen zonder de nodige kennis. Dat maakt het structureel soms riskant, daar er weinig vragen gesteld worden óf die technologieën wel nodig zijn.

6. Er is een gebrek aan transparantie over hoe redacties bepaalde tools gebruiken naar het publiek toe. Daar wordt vaak te weinig over gereflecteerd.

👉🏽 Meer weten over het onderzoek van Hannes Cools of zijn proefschrift? Vind Hannes hier en lees zijn proefschrift daar.

2. Wat ChatGPT (en andere generatieve AI) nooit leren

In de titel noem ik ChatGPT het laminaat van de literatuur. Ik doel hiermee op de vloervorm die lijkt op hout, zich meestal voordoet als hout en ook deels uit hout bestaat. Maar is het hout?

Op waarzitwatin.nl las ik:

Een vrij goede weergave eigenlijk van hoe generatieve AI werkt en hoe wij er naar kijken - of het nu gaat om beeld, tekst of welk mediumtype dan ook.

Het zijn taalsystemen; geen denkers, gesprekspartners of schrijvers.

Besef je goed dat generatieve tekst-AI:

• Is getraind op bestaande teksten, zinnen en woorden. Daardoor kan het nooit meer produceren dan de som der data-delen. Het resultaat is een recombinatie van bestaande woorden en zinnen. En die zijn voornamelijk cliche, voorspelbaar en statistisch het meest waarschijnlijk (probabilistisch) en lijken daardoor logisch en kloppend.

• Primair gericht is op het produceren van tekst, in plaats van begrijpen of redeneren op basis van vraag en inhoud.

• Deze modellen zijn goed in tekst, niet in het begrijpen van taal, het voeren van gesprekken of het nabootsen van intelligentie.

Dat de inhoud coherent lijkt en de zinnen grammaticaal kloppen, bevestigt vooral hoe knap dit soort systemen tekst kunnen reproduceren die passend is bij de initiele tekstprompt: de startvraag of -commando.

Wat mist bij interacties met AI-chatbots

In dit artikel van Brandeis Marshall, schrijver van het boek 'Data Conscience' wordt haarfijn uitgelegd waarom chatbots en tekstgeneratoren als GPT-3 eigenlijk nooit perfect zullen werken, zolang ze alleen 'talig' zijn en als oplossing voor een computing-probleem zijn ontwikkeld.

Zo oordeelt Marshall dat

No common sense in AI

Wat we moeten beseffen volgens haar is dat de 'common sense' die bij taal en communicatie hoort, zich niet in computermodellen laat vatten. Daar heb je namelijk begrip van het volgende voor nodig:

1. Designing digital communication systems come with more than computing problems, but with social ones.

2. GPT-3 was supposed to be the answer to making natural language processing faster, better, easier and require minimal human intervention. It’s led to more people trying to solve nuanced social realities with an algorithmic-based approach. That algorithm can’t decide nuance or understand situational awareness.

Op Fastcompany las ik over resultaten van ChatGPT die bovenstaande bevestigen. Het gaat mis wanneer

• Je vraagt naar een esoterisch onderwerp;

• Je het taken geeft die feitelijke nauwkeurigheid vereisen, zoals het nieuws verslaan;

• Je wilt dat het vooroordelen wegneemt;

• Je de allerlaatste data en cijfers nodig hebt.

Met andere woorden, zo schrijft de tester:

3. In welke val we iedere keer trappen met de intrede van nieuwe technologie

Dit is een van de belangrijkste take-aways uit een recent fijn stuk over de betekenis van AI-generated art van Kevin Kelly. Hij is een van de oprichters van het Amerikaanse magazine Wired (nog altijd mijn lijfblad). Kelly is een techno-utopist pur sang.

De eerste drie levels van Kelly's Tech Panic Cycle gaan ongeveer zo:

1. Don’t bother me with this nonsense. It will never work.

2. OK, it is happening, but it’s dangerous, ’cause it doesn’t work well.

3. Wait, it works too well. We need to hobble it. Do something!

Veel mensen zitten nu, met al die nieuwe AI-toepassingen, op Level 2 of 3.

Volgens Kelly heeft het geen zin om dit soort systemen te verbannen of om als schrijver, maker, kunstenaar je werk uit de trainingsdata te laten verwijderen:

4. "All models are wrong. Some are useful.”

Naast een nieuwe attitude (zie verderop) om te kijken naar AI, hebben we ook gereedschap nodig, zoals detectoren voor fake- of synthetische content. Zo smoren we ongewenste toepassingen van generatieve AI (zoals plagiaat, misleiding, oneigenlijk commercieel gewin en andere wetsovertredingen) in de kiem, sporen we ze op en bestraffen we ze eventueel.

👉🏽 Tekstdetector 

Analyseer real (menselijke) or fake (synthetische) Engelstalige teksten met de GPT Output Detector Demo van OpenAI.

👉🏽 Beelddetector

Misschien kende je InVid/WeVerify al. Daar zit nu ook de tool VERA bij, om beeld mee te verifiëren:

Vera.ai VERification Assisted by AI — www.veraai.eu

VERification Assisted by AI. R&D & innovation co-funded by the HorizonEU. Continuing WeVerify work. And much more!

Mentaliteit: progress over perfection

Belangrijker nog is een mentaliteitsverandering. In The Economist las ik over twee nieuwe boeken die ons een nieuw, interessant perspectief kunnen bieden. Orly Lobel, schrijver van The Equality Machine, stelt dat:

Het is eenzelfde soort kijk en meer werkbare aanpak van het toepassen van AI die we eerder al vernamen bij David Graus.

Het tweede boek dat The Economist behandelt is 'Escape from Model Land'. Wat ik daar uit meeneem is het besef dat het perfecte model simpelweg niet te realiseren valt. Vind ik wel een bevrijdend idee, eerlijk gezegd:

De dubbelrecensie eindigt met deze alinea:

Je gekozen fundament

Soms accepteren we laminaat voor wat het daadwerkelijk is. Heb je de smaak, het budget en de tijd dan is eiken wellicht te prefereren (of beton of marmoleum voor anderen).

Laat de keuze voor je AI-vloer in ieder geval een bewuste zijn. En zo niet, dan hebben we altijd nog een AI-model om je nieuw inzicht te geven. Om af te sluiten met een wijsheid van schrijfster Orly Lobel:

✅ Zo, een hele brief weer!

Hi 👋 lezer,

Deze week hou ik het kort (qua tekst). Want die moeten er ook weleens tussenzitten. Heerlijk, als je je eigen format bepaalt 😉.

In deze brief tip ik:

1. Een podcast - over (fake) kunst en AI, met flink wat theater;

2. Vier (creative playground) tools - voor tekst, beeld en geluid;

3. Twee calls - voor deelname aan hackathon of Sprint;

4. Twee gratis online live-events - om te leren van andere makers.

Veel plezier met luisteren, experimenteren en leren.

Groet, Laurens

1. Podcasttip: Mysterie v/d Diriyah Star Night

Ik moest er voor overstappen naar Podimo, maar dan heb je ook wat: een podcast van Lex Boon, waarin deze journalist op zoek gaat naar het ontstaansverhaal achter een Saoedisch schilderij van een Nederlandse, hedendaagse kunstenaar...

Die kunstenaar is Jeroen van der Most, die vaak AI toepast bij zijn werk. Boon legt in aflevering drie pas uit waar het bij het werk van Van der Most om draait. #nospoilers.

Een aanrader als je van podcasts, waargebeurde bizarre verhalen houdt EN meer over (het werk van) Jeroen van der Most wilt weten:

Het Mysterie van de Diriyah Star Night - Dag en Nacht — dagennacht.nl

Kunstenaar Jeroen van der Most leest in een Saudische krant dat zijn schilderij voor 3,2 miljoen dollar is verkocht. Alleen… het schilderij is niet van hem en het geld staat ook niet op zijn rekening. Hij schakelt de hulp in van journalist Lex Boon. Wat is hier gebeurd?

2. Vier (creative playground) tools

Hier vier verschillende tools om eens lekker mee te experimenteren deze decembermaand:

1. Fermat

Je krijgt een blank canvas (net als bij Miro, Mural en al die anderen), waarin knoppen voor GPT-3, Stable Diffusion en DALL-E al zijn ingebakken.

Zo genereer je snel en eenvoudig tekstideetjes en bijbehorende beelden. Handig voor brainstorms en tijdens live-action concepting met je team. Dit maakte ik, oftewel... dit genereerde mijn twee clicks:

Creativity,Augmented — fermat.ws

Unstuck your brainstorming with AI on a spatial canvas.

2. Voice.ai

Deze tool, waarmee je je stem realtime binnen games en online meetings in allerlei celebrities en typetjes kunt veranderen, liet Vriend van de Brief Erik me vorige week zien. Waanzinnig, spannend en - toegegeven- een beetje scary:

Voice.ai: Change your Voice on the Fly

Voice AI Voice Changer lets you change your voice in real-time for games like: Among Us, World of Warcraft, MineCraft, CS:GO, League of Legends and applications including: Discord, Skype, Google Meet, Zoom, WhatsApp, and practically every other Windows app or client!

3. KREA — create better prompts.

— www.krea.ai

Ik weet het, hier zijn er ondertussen ook al tientallen van, maar deze is snel en simpel. Wat KREA voor je doet? 'Explore millions of AI generated images and create collections of prompts.'

4. SOOT.COM

Eerlijk gezegd is het me nog tamelijk onduidelijk wat je allemaal zou kunnen met SOOT, maar het ziet er in ieder geval spectaculair uit. Zelf claimen ze 'a visual filesystem for creative work' te zijn:

See everything — soot.com

Freaking the frame of personal computing

3. Twee events

1. hackathon #15: It's all in the game? - VPRO Medialab - do 15 & vr 16 dec. Amsterdam — www.vpro.nl

Wat als je tv-programma's niet meer in een studio maakt, maar in digitale werelden zoals we die kennen van games? 

In twee dagen creëren de gecombineerde teams een prototype of concept voor hun samenwerking. Deze worden gepitcht aan een professionele jury. Het winnende team maakt kans op doorontwikkeling van hun concept door middel van een validatie i.s.m NPO Innovatie.

Interesse om mee te doen? Meld je aan via dit formulier.

2. What actually happened? The use and misuse of Open Source Intelligence (OSINT) — wiki.digitalmethods.net

Ben je een 'motivated scholar'? Meld je dan aan voor de Digital Methods Winter School and Data Sprint 2023, van 9 -13 januari 2023.

The Digital Methods Initiative (DMI), Amsterdam, is holding its annual Winter School on the 'Use and Misuse of Open Source Intelligence (OSINT)'. The format is that of a (social media and web) data sprint, with tutorials as well as hands-on work for telling stories with data.

Sounds Amazing 2022 - BBC, 8 dec. (Gratis) — www.bbc.com

Een tip van Vriend van de Brief Ezra:

AI and the personalisation of audio.

• What role does AI, ML and personalisation play in audio production?

• How could cutting-edge technology platforms revolutionise broadcast audio?

• How will it democratise production and communication for content creators and consumers?

• How will personalisation affect the lives of our audience, and can it stray too far?

With speakers from software companies, broadcasting and academia.

JournalismAI Festival 2022, Wed 7 & Thu 8 Dec. (Gratis) — www.journalismaifestival.com

Twee dagen lang case studies, keynotes and tips & tricks, on 'using AI to make journalism better. Together.'

✅ Dat was 'm weer.

Hi 👋 lezer,

Er is geloof ik flink wat 🤭🤭🤭 om mijn typering vorige week van een van Matthijs van Nieuwkerks jongste old boys. 

Tegengeluid en nat water

Een aantal lezers tipte me wat tegengeluiden aangaande het verbieden van deepfakes, van TikTok en -meer algemener- ongefundeerde angsten voor AI.

👉🏽 Mocht je willen weten waarom dergelijke verboden kortzichtig zijn en/of niet te handhaven, lees dan dit (Villamedia), dit (Volkskrant) of luister dit (Radio1).

Enfin, deze week maar geen grappen; zeker niet over DWDD. Liever deel ik deze wijsheid:

Oud-collega Rob zei dit een aantal jaren geleden tijdens een gesprek over vorm en inhoud. Ik dacht er weer aan toen ik afgelopen weekend in het theater zat, bij de AI-voorstelling h/AI. Lees mijn recensie er maar eens over... en hoe ik deze AI-hallucinatie beleefde.

Verder krijg je deze editie:

• Een college over AI-credits, -commons, -rights & -remixes;

• Twee kersverse Nederlandse journalistieke AI-producties.

• Drie Laurensen - vind jij ze allemaal?

Veel leesplezier. Blijf me tips, links en commentaar sturen. ❤️

⏱ Leestijd: 8 minuten!

Groet, Laurens

1. Recensie AI-voorstelling h/AI - Veenfabriek

De opening van h/AI van theatergroep Veenfabriek was geestig, post-postmodern en hyperrealistisch. Een aantal scenes spraken letterlijk en figuurlijk tot de verbeelding, zoals de Evolution of Man-meme die fysiek prachtig werd uitgespeeld door Jeroen van Arkel.

Het veertienkoppige orkest speelde soms onnavolgbare muziek die bij vlagen unheimisch was, maar bovenal indrukwekkend, groots en ... menselijk, live, fysiek. Ook de interactie met het lichtkunstwerk waar de muzikanten in een cirkel omheen zaten vond ik sterk.

Waar zat ik nou naar te kijken?

Op tweederde van de voorstelling raakte ik de draad echter steeds meer kwijt. Waar ging deze voorstelling in hemelsnaam over? Teksten over labradoodles, hoe nieuwe technologie uitgevonden wordt voor 'either fighting of fucking' en een kibbelend stelletje op mobiele treadmills.

Toen na afloop het zaallicht aanging, zag ik meer vertwijfelde gezichten om me heen. Ik bleek niet de enige die samenhang en duiding mistte. Je kon met wat goede wil natuurlijk van alles 'lezen' en 'zien' in deze voorstelling, eigenlijk net zoals mensen soms bewustzijn vermoeden in robots en AI-systemen.

Het was ... hallucinante AI

Nu, een aantal dagen later, ben ik er uit. Wij toeschouwers zaten in een zogenaamde AI-hallucinatie - een bekend fenomeen binnen de deep learning tak van AI. Misschien moet er bij een volgende door AI-geschreven voorstelling een waarschuwing bij.

Wat ik verder concludeer is dat werk gemaakt met behulp van AI hoeft niet over AI te gaan, en een voorstelling over AI hoeft daarvoor niet per se AI gebruik te maken van AI.

👉🏽 Meer recensies en overpeinzingen n.a.v. deze voorstelling

-

Vriend van de brief Peter werkte mee aan de voorstelling. Hij is ook betrokken bij andere theaterproducties die de rol van machines, software en robots in de samenleving onderzoeken. Hij wees me daarbij op het volgende:

12 December 2022 , Utrecht Transmission in Motion | Meet the Makers: Collectief Polymorf — transmissioninmotion.sites.uu.nl

Meet the Makers aims to facilitate meetings and conversations between academic researchers and students, and makers – such as artists, curators, dramaturges, designers, or other creative practitioners and professionals within the wider field of arts and culture.

2. Credits & AI

Niet alleen bij de voorstelling h/AI, maar steeds vaker zie ik dat in colofons, credits en eindtitels ook AI genoemd wordt. Een 'bloemscreencapturing':

The Cakie - een hybride cake/cookie-recept, gegenereerd door AI.

Stable Diffusion als vaste graphics waarde; videocredits Semafor; Youtube

Waar en wanneer is wat van wie?

Het zijn de vragen die steeds meer mensen stellen: van wie is nu de gegenereerde output - het resultaat - en mag je dat zomaar overal voor gebruiken?

Daarbij rijst de volgende vraag: van welke input maken die generatieve AI-modellen eigenlijk gebruik? Wiens werk (foto's, verhalen, 3D-modellen, etc.) is gebruikt voor de training? En: mag dat zomaar? Ik schreef er al eerder over in relatie tot bias en wetenschappelijk onderzoek naar die zogeheten text-image pair datasets.

Reactieve antwoorden: rechtszaken

In de VS is een eerste rechtszaak gestart rondom de vraag van wie de openbare code is die developers delen op het Github-forum. Dit n.a.v. Co-pilot, een AI-coding-assistent van Microsoft en OpenAI. De assistent is getraind met materiaal van Github.

Eerder schreef ik al over de 'stockphoto wars', waarbij Getty Images faliekant tegen AI-generated artwork is in hun beelddatabank. Concurrent Shutterstock zei dit soort werk juist te gaan omarmen. Sterker nog: ze werken samen met OpenAI (van DALL-E).

Kat-vs-muis = generator vs detector

Op die laatste aankondiging volgt een nieuwe, saillante ontwikkeling: Shutterstock liet leveranciers (fotografen en illustratoren) weten dat ze geen AI-generated materiaal meer mogen uploaden, en dat het bedrijf met een detector synthetisch materiaal gaat opsporen. Hoe en of dat werkt, is de grote vraag. Getty zal hoogstwaarschijnlijk aan eenzelfde opsporingsssysteem werken...

Proactief antwoord: Creative Commons?

Op Linkedin tipte lezer Hessel me Creative Commons (CC). Het voelde even als 2008, toen ik het boek Remix Culture van jurist Lawrence Lessig las. Microsamenvatting: hij brak een lans voor rechtenvrij hergebruik van kunstwerken en populaire cultuur in een digitale context. Lessig werd daarop een van de initiatiefnemers van de Creative Commons-licentie (die je wellicht kent als optie bij Google's Image Search).

Het uitgangspunt van Creative Commons is al sinds de oprichting 'open sharing in a commons that serves the public interest'. Ook nu zoeken ze naar de rol daarvan in relatie met generatieve AI. En ze nodigen jou en mij daarbij uit om deel te nemen aan die zoektocht:

Webinars: AI Inputs, Outputs and the Public Commons - Creative Commons — creativecommons.org

As we form our positions at CC, we are bringing together people with diverse perspectives to participate in broad discussions about how AI intersects with open sharing in a commons that serves the public interest.

GenZ: leidt ons naar de 3rd way!

Zitten we dan weer in zo'n zelfde fase als in 2008? Alleen nu herverpakt naar 2022, met een snufje AI en de mentaliteit van GenZ? Met same same but different machthebbers? (Toen o.a. Disney, Nike en platenmaatschappijen, nu Big Tech en China.)

Selectief argumentenshoppend kreeg ik niet veel later bijval van m'n favoriete memewatcher Sueda Isik (NRC). Zij haalde afgelopen week Lessigs werk en denken ook aan, in relatie tot een trend op TikTok, #nichetok. Isik ziet ook daar:

Gaat GenZ AI omarmen op een CC-manier? Krijgen we dan eindelijk wat een aantal Europeanen hoopvol de third way noemen? Of houden we de first way - die van de commercie en het kapitalisme? Of, en laat Neef Alexander dit niet horen, de second way - de staat die bepaalt? En kunnen we deze last wel op die tere schouders van deze generatie leggen? Zeg jij het maar.

3. Twee Nederlandse journalistieke AI-producties

Russische loopgraven in Oekraine, gedetecteerd op satellietbeelden met AI; Volkskrant

'Russen graven zich massaal in' (Volkskrant)

Een aantal journalisten van de Volkskrant, waaronder Pieter Sabel en Joris Heijkant, trainde een machinelearningmodel dat loopgraven herkent op satellietbeelden. Ze maakten mede op basis van wat het model detecteerde deze productie over het fenomeen (en leggen uit waarom het uberhaupt nog bestaat).

👉🏽 Xander van Uffelen licht op Linkedin de making-of toe

Uit satellietbeelden blijkt dat de Russen zich massaal ingraven om het Oekraïense leger op te vangen — www.volkskrant.nl

Nick Kivits kan dankzij deze bewuste 'deepfake for good' Oekraïens spreken

Villamedia vroeg de Nederlandse start-up XS2Content een video te maken, waarin ze aangeven in gesprek te willen gaan met Oekraïense journalisten.

XS2Content zette met behulp van een opeenstapeling van technieken, een oorspronkelijk Nederlands gesproken video om naar het Oekraïens.

Waarom? Villamedia zegt het belangrijk te vinden om de journalisten in hun eigen taal aan te spreken, in de hoop zo ook journalisten te bereiken die niet al op meerdere plekken in de media te horen en te zien zijn geweest.

✅ Dat was 'm weer!

Volgende week heb ik maar liefst vier nieuwe tools en twee oproepen om mee te doen aan experimenteel AI&Media-onderzoek, die me door Vrienden van de Brief Annelies en Erik werden getipt. Stay tuned ☺️

Hi lezer 👋,

De vorige brief - over een eventueel Spotify Moment voor AI- leverde naast wat 👍🏽's ook reacties op die maar heel losjes te maken hadden met dat onderwerp. Zo schreef Vriend van de Brief Paula:

Mais bien sur, Paula. Iedereen met een soortgelijke vraag wijs ik graag op het uitgebreide antwoord van (oud-collega) Frank Meeuwsen. In de Mastodon-aflevering van de Technoloogpodcast zet hij genuanceerd doch gepassioneerd uiteen waarom dat geen alternatief voor Twitter is, wat het echter wel de moeite waard maakt als plek voor idee-uitwisseling en wat populariteitspieken en -dalen er betekenen.

Trigger warning: als je ze niet kent, moet je hoogstwaarschijnlijk even wennen aan de... ehm... dynamische hosts Ben en Herbert 🫣

Deze week: theater maken over AI

Zes voorvallen brachten me tot de 'lens' waarmee ik deze weken naar AI ga kijken: als vorm en voer voor theater.

1. De 'onheilstijders in media' Klöppping en Pfauth;

2. Een gesprek met een creative director over Zeus, vuur en goden;

3. AI in colofons, credits en eindtitels;

4. Een lezerstip over Creative Commons;

5. Innovatie in de Creatieve Industrie;

6. Een theatervoorstelling die ik dit weekend ga zien.

Deze week behandel ik het eerste en laatste punt.

Veel leesplezier weer! Mocht je tips en voorbeelden hebben aangaande AI + theater? Mail ze naar me.

Groet, Laurens.

Twee onverwachte onheilstijders

Twee Nederlandse mediabespelers die recentelijk theater maakten over het gevaar van AI zijn Alexander Klöppping en zijn Podcast Over Media-maatje Ernst-Jan Pfauth.

Klöppping, ex-Blendle ceo en onze 21e eeuwse Chriet Titulaer-turned-tech-Doomsday-profeet beweerde namelijk bij Eva Jinek dat we TikTok moeten verbieden. Waarom? Omdat China toegang heeft tot al 'onze' data. Hij deed dit met eenzelfde gevoel voor drama zoals hij dat vroeger bij DWDD tentoonspreidde - toen echter vooral als tech-optimist.

TikTok = datasluis naar Chinese overheid

Wat is het geval? Via TikTok leveren 'we' data aan China dat daarmee slimme systemen traint die op zijn minst niet in ons voordeel werken, maar - veel waarschijnlijker - zich tegen ons zullen keren in de toekomst. Als we niets doen zijn we verloren, zo luidt Alexanders alarmisme.

Fake+podium = opgelost?

Ernst-Jan Pfauth maakt ons in zijn NRC-column (met de clickbaity titel 'Golf van kunstmatige bagger') bang voor generatieve AI. Hij ziet vooral negatieve gevolgen van deze toepassing. Een daarvan is dat het een gevaarlijk nieuw wapen is in de handen van mis- en desinformatiemakers.

Pfauths betoog komt op het volgende neer: als het nu al zo makkelijk is om online onwaarheden te fabriceren, te verspreiden en/of te versterken, over een bepaald persoon, organisatie of rondom een fenomeen of gebeurtenis, dan wordt dat met de visuele zeggingskracht van generatieve AI alleen nog maar erger.

Hij haalt de serie van tv-presentatrice Welmoed Sijtsma aan, waarin zij de wereld van de deepfakevideo verkent. Dit n.a.v. het verschijnen van een dergelijke neppornovideo waarin iemand haar hoofd synthetisch in de hoofdrol plaatste.

Volgens Pfauth ben je straks of bekend en kun je net als Welmoed een podium gebruiken om de misinformatie aangaande jezelf te debunken.  Of je bent onbekend en onmachtig en zonder dat podium hulpeloos verloren.

Vals dilemma: verbieden of verhellen?

Beide heren stellen ons hier een vals dilemma voor. Deze impliceert dat er maar twee opties zijn: verbieden of het laten en naar de verdoemenis gaan. Hun verhalen laten een aantal factoren van invloed gemakshalve achterwege (anders komt de bange of bagger boodschap niet over) en missen een breder perspectief (er is maar een oplossing: verbieden). Dat komt wellicht door de schaarste (bij de een: tijd en bij de ander: woorden) die hun mediumkeuzes nu eenmaal afdwingen. Ik geloof in ieder geval niet dat het ligt aan hun intelligentie.

Mooi dat een nieuwsbrief zich beter leent voor wat meer tijd en ruimte.

Voorbij het binaire angstdenken

Want deze heren vergeten - en vele anderen met hen - dat er nog een aantal andere, invloedrijke '(f)actoren' zijn, die allemaal een rol spelen in het ontwikkelen en trainen van dergelijke AI, en in het nadenken over, en het voorkomen en bestrijden van allerlei onwenselijke scenario's.

Zoals daar zijn:

• De 'gewone mens' aka de burger, al dan niet verenigd;

• Tegenbewegingen, activisten, non-profits en ngo's;

• Overheden en internationale organen en verdragen;

• De rechtsprekende macht;

• De kunst;

Het is makkelijk om steeds maar weer te roeptoeteren dat de samenleving polariseert, de waardering voor kunst daalt, China ons komt overheersen en burgers onze instituties niet zomaar meer vertrouwen of accepteren. Als vanzelf beangstig dit. Alleen, het is maar ten dele waar. Er is veel tegen over te stellen. Er is meer keuze dan bagger of bangmakerij.

Een van de spelers die ons naast een spiegel ook mogelijke nieuwe keuzes kan tonen, is de kunst.

Voorstelling: human/AI

Het is de introtekst bij de voorstelling 'h/AI', die ik dit weekend ga bezoeken. Op de website staat verder:

h/AI | De Veenfabriek - Hét muziektheatergezelschap van Leiden — www.veenfabriek.nl

human/Artificial Intelligence, filosofisch muziektheater van de toekomst, met acteurs, een veertienkoppig orkest én Artificial Intelligence

We gaan het meemaken... Ik hoop je er volgende week meer over te vertellen. Dit was 'm. ✅

Hi, lezer 👋,

Na een klein weekje Design Sprinten en iets teveel fish 'n chips in northern England, is 'ie er gewoon weer hoor: je wekelijkse Super Vision.

Deze week: overpeinzing en drie tools

Beleven we binnenkort een Spotify-moment voor (generatieve) AI? Komt er een nieuw bedrijf of dienst bovendrijven, gedreven door de recente wirwar aan nieuwe hypes, angsten, overtuigingen, technieken, toepassingen en spelers?

Ik probeer je mee te nemen in mijn gedachtengang en geef je en passant drie tools: een tekstschrijfhulp, een add-on voor Canva en een 'afbeeldingsbiaschecker'.

Veel meedenkplezier! Groet, Laurens.

Wat is een 'Spotify moment'?

Zo ongeveer moet het gesprek zijn gegaan met m'n Zweedse collega toon deze me Spotify liet zien, ergens eind 2008. Twee dagen later had ik een account.

Afgelopen weekend bingede ik The Playlist: een nieuwe Netflix-serie over de origin story van de revolutionaire Zweedse muziekspeler. Iedere aflevering van The Playlist behandelt weer een ander perspectief: die van oprichter Daniel Ek, van een platenbaas, de developer, de jurist, de businessmens en een muzikant.

Dankzij de serie herinnerde ik me weer hoe flabbergasted ik was destijds. De interface, de techniek, de catalogus, de nieuwe functionaliteiten - alles leek haast magisch, onwerkelijk.

Wat men voor lief nam

Het is ook lang geleden dat ik aan The Pirate Bay dacht. En aan Kazaa, Napster en Limewire. Voor de jonkies hier: dit waren lange tijd de enige softwareprogramma's om digitaal muziek mee te vinden en te luisteren. Ze waren echter verre van perfect:

• De interfaces waren niet gebruiksvriendelijk;

• De kwaliteit, versie en volledigheid van de muziekbestanden liet te wensen over;

• Het vinden en downloaden van nummers duurde lang (en dat kwam niet alleen door de tragere verbindingen destijds) ;

• Je kreeg makkelijk virussen en spyware mee tussen de gedownloade muziekbestanden;

• Je baande je een weg - zeker op The Pirate Bay- door een oerwoud aan porno-advertenties en irritante pop-ups.

Illegale muziekaanbieding

Als je bovenstaande allemaal accepteerde, bleef er een enkel, nogal belangrijk probleem over (dat de meeste consumenten voor lief namen): het aanbieden van deze digitale bestanden was illegaal. (Het downloaden overigens niet).

Ergens wist en voelde je dat ook wel, maar dacht je tegelijkertijd: boeiuh, TINA. (There is no alternative.)

Want dat was er gewoonweg niet (als je 3voor12's De Luisterpaal, Nalden,net en Fabchannel even niet meerekent.) De muziekindustrie wachtte veel te lang met het ontwikkelen en aanbieden van een eigen digitale oplossing.

En zo waren het de piraten die als eersten op deze prangende consumentenbehoefte inspeelde.

Betalen voor tijd in plaats van muziek

Daarna volgde met iTunes een legaler alternatief. Wijlen Ome Steve beredeneerde dat je daarmee geen 99 cent voor een nummer betaalde, maar voor tijd. Specfieker: voor de tijdswinst die het zou opleveren, omdat je met iTunes sneller een nummer vond, de beste versie ervan downloadde, deze netjes voor je werd gesorteerd en makkelijk over te zetten was naar Apple's eigen mp3-speler.

Betalen voor curatie en toegang (en niet voor muziek)

Maar vervolgens was daar schijnbaar uit het niets Spotify. Een Zweedse start-up die de oplossing en verrijking bleek te zijn waar we al die tijd onbewust naar hadden verlangd.

Fast forward naar 2022. Is Spotify de ultieme oplossing gebleken voor 'het probleem'? Niet echt. Of eigenlijk: echt niet.

AItificatie van everything

Iedereen die AI-toepassingen ontwikkelt borduurt tijdens het bouwen en trainen voort op andermans werk. Daardoor ontstaan er twee vragen rondom generatieve AI die wat mij betreft overeenkomsten hebben met de vragen die speelden in de tijd van het ontstaan van Spotify:

1. Van wie is AI?

2. Welk probleem wordt er straks voor/door wie opgelost?

1. Open source, API's of zelf ontwikkelen?

Er zijn anno nu grofweg drie opties om AI te gebruiken in je eigen software:

1. Open source modellen (zoals Stable Diffusion);

2. Zogeheten API's gebruiken: een gestructureerde manier om software of data van een externe partij te koppelen aan je eigen digitale product) zoals DALL-E nu aanbiedt;

3. Zelf ontwikkelen, maar dat is feitelijk alleen weggelegd voor Big Tech-bedrijven.

Dankzij optie 2 heeft bijvoorbeeld Canva nu ook een text-to-image feature.

2. Plagiaat of eervol voortborduren?

Generatieve AI-modellen zijn getraind op andermans code (Co-pilot), met andermans muziek of spraak, andermans afbeeldingen en andermans video's en 3D-modellen. Mag dat zomaar? Van de wet, van de makers? Wat vinden de gebruikers?

Waar fotobeeldbank Shutterstock door AI-gegenereerd beeld volledig omarmt, daar is Getty pertinent tegen het opnemen ervan in hun aanbod. Saillant detail: DALLE-2 heeft voor de image-generation-training gebruik gemaakt van de database van Shutterstock. New World Same Humans schrijft daarover:

3. Echt of nep?

Waar een deel van de fictieschrijvers AI-software als Lex, SudoWrite of WordCraft bewieroken als hun nieuwe compagnon, daar komen andere schrijvers in het geweer en zien ze broodroof en willen ze betaald krijgen voor het hergebruik van werk.

4. Kunst of ambacht?

Mensen die bestaande AI binnen hun eigen software implementeren, baseren hun aanpak en strategie op verschillende ideeen en overtuigingen. Dat levert nu al een varieteit aan kwaliteit en vormen op. Zo ontstaan AI-ambachten: met MidJourney werk je surreeler, met DALLE-2 ga je meer fotorealistisch en Stable Diffusion kun je finetunen met eigen foto's.

5. Controle of vertrouwen?

Naast verschil van mensbeeld, principes en overtuigingen van de makers, krijgen we ook allerhande gevechten tussen partijen, zoals bedrijven onderling, burger en overheid en consument en markt. Denk aan bijvoorbeeld:

• Eigendom van de data en mogelijke resultaten;

• Het recht om opgenomen of juist verwijderd te worden uit datasets (The right to Contestation) .

• Wat een eerlijk AI-systeem is voor en namens wie?

• Wiens vooroordelen we als eerste aanpakken?

Als hulpmiddel voor die laatste is deze Bias Explorer wellicht een aardige om eens uit te proberen.

The Spotify of AI - please stand up!

Ik kan niet wachten op een service of start-up die de huidige 'messy state of AI' te lijf gaat (maar waarschijnlijker nog: daar al aan werkt). Hoe dat moet gaan werken, wie of wat dat gaat brengen, weet ik niet. Wat denk jij?

Ik ben in ieder geval benieuwd of de documentaire daarover geheel door mensen zal zijn bedacht en gemaakt.

✅ Tot zover mijn overpeinzing! Tot volgende week.

Hi lezer 👋,

Deze weken geef ik extra aandacht aan praktische pioniers uit de wereld van ethiek en AI. Dit keer: Dasha Simons.

About last weeks

Vorige week introduceerde ik Oumaima Hajri. Zij leerde ons dat de meest besproken en geadresseerde AI principes vooral technisch van aard zijn. En waarom dat niet oke is.

De week ervoor was David Graus aan de beurt. Hij is een pleitbezorger voor het bewust en bedachtzaam ontwerpen en bouwen van AI systemen die positieve impact kunnen maken. Bij Randstad (zijn werkgever) onderzoekt hij onder meer de inzet van synthetische data voor het trainen van minder bevooroordeelde AI systemen.

A.s. maandag: AI for Good #2 - 31 oktober, Felix Meritis

Dasha, David en Oumaima spreken allen tijdens 'AI for Good #2'. Ze vertellen en tonen hoe ze werken aan verantwoorde AI-toepassingen voor IBM, Randstad en de Publieke Omroep.

Schrijver en dichter Aaron Mirck zal met een mede-door-AI gegenereerde bijdrage de avond samenvatten en afsluiten.

👉🏽 Er is ook veel ruimte voor jouw vragen. Dus kom naar Felix Meritis in Amsterdam en praat mee. Er zijn nog enkele kaarten beschikbaar.

🎁 Extra's deze week:

Een vooroordelenspel, waarbij jij mag bepalen of een AI-systeem iemand 'terecht' als potentieel draaideurcrimineel aanwijst. Plus: een set designrichtlijnen 'for Everyday Ethics & AI'.

Veel plezier met de brief - leestijd ⏲: 4 minuten - en wellicht zien we elkaar a.s. maandag. Groeten, Laurens.

Met design ethische AI en praktijk verbinden

Dasha Simons, Managing Consultant bij IBM, AI & AI ethics

Het is een van de gevaren waar Dasha Simons ons op wijst. Ik sprak haar begin dit jaar over haar AI-werk, voor het boek The Art of AI. In deze nieuwsbrief licht ik een paar passages uit van dat gesprek. (Het gehele interview lees je hier.)

Dasha is managing consultant bij IBM, gespecialiseerd in AI & AI ethics. Ze ziet het als haar doel om “mensen te inspireren en bewust te maken om technologie in te zetten voor maatschappelijke doeleinden, op een menselijke manier.”

Ethische AI is daar een van de onderwerpen voor. “Wat betekent het daadwerkelijk voor een data scientist als zij een niet-discriminerend AI-systeem gaat bouwen? Je merkt dat design daar goed bij kan helpen, om het tastbaar te maken.” Met een prototype bijvoorbeeld, waarmee je ideeën en uitwerkingen voor het implementeren van AI kunt testen.

Praktisch maken van ethische principes

Tijdens haar studie Industrieel Ontwerpen merkte Dasha dat het “AI-veld heel erg technisch gedreven was, en dat de menselijke maat weinig aanwezig was.”

Het praktisch maken van ethische principes bij de ontwikkeling van kunstmatig intelligente computersystemen leek haar als ontwerper wel interessant. “Er zijn veel principes voor AI, zoals ‘eerlijk zijn’, ‘transparant zijn’ en ‘niet-discriminerend’. Die hadden hun weg vrijwel niet gevonden in het dagelijks werk van AI- of data science teams. Dat vond ik wel een mooie uitdaging.”

CV & "Design for Fairness in AI"

Dasha heeft een bachelor Industrieel Ontwerpen uit Eindhoven en een bijbehorende master Strategic Product Design aan de TU in Delft. Daar studeerde ze in 2019 af als best graduate, op het onderwerp “Design for Fairness in AI”.

Sindsdien gebruikt ze haar creativiteit en menselijk perspectief om AI betrouwbaarder te ontwerpen. Dasha wil “mensen er bewust van maken dat als je dat niet doet, dat het dan ook heel erg mis kan gaan.”

In haar werk geeft ze onder andere trainingen op dit vlak en adviseert ze bedrijfsleven en overheden over het creëren van uitlegbare en eerlijkere artificiële intelligentie.

Uitlegbehoeften

Een van de dingen waar veel mensen bang voor zijn, is dat een AI-systeem zelf beslissingen neemt. Dasha: “Je wilt dat een mens daar onderdeel van uitmaakt. Dat betekent dat een mens en AI gaan samenwerken.” Ze geeft een voorbeeld uit de praktijk, waarbij de uitleg van het AI-systeem belangrijk is omdat verschillende soorten gebruikers verschillende niveaus van uitleg nodig hebben: ‘uitlegbehoeften’.

Ze noemt als voorbeeld het aanvragen van subsidie. Dat proces kan je efficiënter maken door er een advies van een AI-systeem aan te koppelen. Maar je wil wel dat dit ethisch en verantwoord gebeurt. Dan dien je het systeem uitlegbaar te maken. Daar zijn bestaande technische tools voor. Alleen: dan heb je een antwoord op technisch niveau. Handig en belangrijk voor de bouwer van het systeem, maar de subsidiebeoordelaar of de -aanvrager willen andere dingen weten over het functioneren van het systeem.

In sommige gevallen wil of kun je niet helemaal transparant zijn. Dasha: “Er bestaat de kans dat aanvragers het systeem manipuleren wanneer de uitleg te veel informatie prijsgeeft.”

Wat Dasha nog meer doet, en waar David en Oumaima mee bezig zijn, kom je o.a. te weten op maandagavond 31 oktober in Felix Meritis, Amsterdam.

🎁 EXTRA's

Speel 'Detect the bias'

Getipt door Dasha: 'AI models are only as fair as their training data. Follow along as different AI models predict whether a defendant will commit another crime, and tell us if you think each prediction is fair or unfair.'

Design guidelines 'Everyday Ethics for AI' (IBM)

'Our practice is built on our Principles for the AI Era as a resource for all designers and developers. This shared collection of ethics, guidelines, and resources ensures that IBM products share a unified foundation.'

-

Gebruik (of ken) jij zelf een handige tool of link? Deel 'm met me door te reply'en op deze mail.

✅ Dit was 'm weer. Zie ik je maandag de 31e in Felix Meritis?

Hi lezer 👋,

En: bijzonder welkom, nieuwe lezer! (Jullie zijn met veel 🤗)

Vroeg ik je vorige week om uit te leggen wat 'verantwoord omgaan met AI' in vredesnaam inhoudt, deze week richten we onze aandacht op sociaal-ethische AI principes.

Dat komt door Oumaima Hajri. Zij leerde me dat de meest besproken en geadresseerde AI principes vooral technisch van aard zijn. En waarom dat niet oke is.

Leestijd ⏲ 3 minuten.

AI for Good 2 - Maandagavond 31 oktober, Felix Meritis

Oumaima Hajri is een van de gasten die zal spreken tijdens 'AI for Good #2'. Samen met David Graus (zie vorige brief) en Dasha Simons tonen ze die avond in Amsterdam hoe ze werken aan verantwoorde AI-toepassingen voor IBM, Randstad en de Publieke Omroep.

In gesprek met elkaar en het publiek geven ze hun favoriete voorbeelden, delen ze ideeën en beantwoorden ze jouw vragen.

Er zijn nog kaarten beschikbaar.

🎁 Extra'tjes deze week

Je krijgt dit keer een paper over ethisch AI onderzoek, met de post-post-postmoderne titel The Ethics of AI Ethics. Ook deel ik de video-opname van Oumaima waarin ze het DRAMA-onderzoek van haar onderzoeksgroep presenteert.

📢 Oproep aan jou, lezer.

Alledrie de gasten benutten al tools, richtlijnen, checklists en ontwerpmethodes. Ik ben ze al aan het verzamelen in een handig lijstje, zodat iedereen ze kan gebruiken. Gebruik (of ken) jij zelf een handige tool of link? Deel 'm door te reply'en op deze mail.

Veel plezier, m'n social friend. Groeten, Laurens.

Oumaima Hajri en de sociale staat van AI

Dit schreef Oumaima Hajri een tijdje terug op de site van Bits of Freedom waar ze toen stage liep.

Momenteel werkt ze bij de Hogeschool Rotterdam als onderzoeker bij Kenniscentrum Creating 010. Oumaima richt zich op de vraag hoe kunstmatige intelligentie op een verantwoorde en ethische manier toegepast kan worden – door bijvoorbeeld tijdens het ontwerpproces rekening te houden met ethische implicaties.

De laatste tijd werkt ze vooral aan onderzoek voor het project Designing Responsible AI Media Applications (DRAMA).

CV

Oumaima volgt op dit moment de Master AI Ethics and Society aan the University of Cambridge en behaalde eerder al een MSc in Data Science and Society aan de Universiteit Tilburg in 2021 en een BSc Internationale Betrekkingen aan de Vrije Universiteit Amsterdam in 2019. Na een stage bij het Ministerie van Buitenlandse Zaken deed ze het uitwisselingsproject in Beijing.

Van technical fixes ...

In haar presentatie tijdens de Dutch Media Week op 3 oktober, vertelde Oumaima over de vertaling van AI-principes naar AI-tools. Ze ontdekte dat de bekendste en vaakst gebruikte principes degenen zijn die relatief eenvoudig met technological fixes zijn te implementeren:

• Explainability

• Transparantie

• Fairness

• Privacy

Let op: er schuilt ook hier gevaar in, want ideeen over wat 'eerlijk (fair)' is, verschillen nogal van mens tot mens en cultuur.

... naar sociaal-wenselijke overwegingen

Het is echter veel moeilijker om sociale principes te vertalen in een werkende AI-applicatie. Denk daarbij aan

• Menselijke autonomie

• 'Ghostwork': het inzetten van goedkope arbeidskrachten om data te labelen.

• Diversiteit

Het niet (goed) adresseren van deze meer sociale kwesties en implicaties is problematisch volgens Oumaima: "Als je geen divers team hebt en je maakt dan de vertaalslag naar de maatschappij, dan zal de applicatie niet iedereen dienen."

Hoe je dat beter aanpakt?

Designing from the margins

Een van de methodes die Oumaima tipt om verantwoorder te ontwikkelen heet 'designing from the margins'. Het betekent dat je vanaf stap een rekening houdt met de meest gemarginaliseerde groepen in de samenleving.

-

Wil je hier meer over weten of heb je andere vragen aan Oumaima? Kom dan naar AI for Good #2 op maandagavond 31 oktober in Felix Meritis, Amsterdam.

🎁 EXTRA's

Onderzoekspresentatie van Oumaima tijdens Dutch Media Week

📄 Paper: The Ethics of AI Ethics: An Evaluation of Guidelines - Minds and Machines

Dit paper analyseert 22 guidelines met princpes en aanbevelingen om het "ontwrichtende" potentieel van nieuwe AI-technologieën te benutten. Er wordt nagegaan in hoeverre ethische beginselen en waarden in de praktijk van onderzoek, ontwikkeling en toepassing van AI-systemen worden toegepast en hoe de doeltreffendheid in de eisen van de AI-ethiek kan worden verbeterd.

-

Gebruik (of ken) jij zelf een handige tool of link? Deel 'm met me door te reply'en op deze mail.

✅ Dit was 'm al. Volgende week meer over de derde en laatste spreker: Dasha Simons.

Hi lezer 👋,

Verantwoord omgaan met AI. Wat houdt dat in, in hemelsnaam?! Het antwoord dat je krijgt is nogal afhankelijk van wie je het vraagt.

De aankomende weken vraag ik het daarom zoveel mogelijk mensen. Ook jou, mijn bovenmatig geïnteresseerde en doorgaans goed ingevoerde lezer ❤️. Be prepared!

Deze week...

Krijg je een inkijkje in de praktijk van de eerste van drie AI'ers die zijn uitgenodigd als gast bij 'AI for Good #2'. Het zijn Dasha Simons, Oumaima Hajri en David Graus.

Zij tonen op maandagavond 31 oktober in Felix Meritis te Amsterdam hoe ze werken aan verantwoorde AI-toepassingen. Hoe dat zoal bij IBM, Randstad en de Publieke Omroep gaat. Ook geven ze voorbeelden van elders, delen ze hun verdere ideeën en gedachten over verantwoorde AI en beantwoorden ze jouw vragen.

Er zijn nog kaarten beschikbaar.

🎁 Extra'tjes

Je krijgt daarnaast ook een tool getipt genaamd IAMA en een link naar een interview met de positief gestemde AI-wetenschapper Sennay Ghebreab.

📢 Oproep aan jou, lezer.

Alledrie de gasten benutten al tools, richtlijnen, checklists en ontwerpmethodes. Ik ga ze verzamelen in een handig lijstje, zodat iedereen ze kan gebruiken. Gebruik (of ken) jij zelf een handige tool of link? Deel 'm door te reply'en op deze mail.

Veel plezier, m'n waarde AI-burger. Leestijd ⏲ 3 minuten

Groeten, Laurens.

David Graus en de positieve impact van AI

Het is geen uitspraak van David Graus zelf, maar eentje waarop hij me wees toen ik hem eerder deze week sprak. Het citaat komt uit een interview met informaticus Sennay Ghebreab, die werkt aan de Universiteit van Amsterdam (de Volkskrant, 30 september).

Van reactief en slachtoffer naar pro-actief met impact

Zowel Ghebreab als Graus zijn het erover eens dat burgers een grotere rol moeten krijgen (en ook hun eigen verantwoordelijkheid moeten nemen) bij het ontwikkelen, beoordelen en benutten van AI-toepassingen. Je zou het de AI-burger kunnen noemen.

CV

David Graus werkt als lead data scientist bij Randstad Groep Nederland, waar hij AI onder meer inzet voor het samenbrengen van werk en werkzoekenden.

Daarnaast is David bestuurslid van SETUP, het platform voor een technologie-kritische samenleving. Hij is gepromoveerd in zoekmachinetechnologie aan de Universiteit van Amsterdam in 2017, waar hij onderzoek deed naar computationele methoden voor geautomatiseerde verwerking van grootschalige tekstuele digitale sporen. Voor zijn tijd bij Randstad werkte David bij de FD Mediagroep met zijn team aan een aanbevelingssysteem dat redactionele waarden in acht neemt.

Kleine ingrepen voor positieve impact

David is een pleitbezorger voor het bewust en bedachtzaam ontwerpen en bouwen van AI systemen die positieve impact kunnen maken. Bij Randstad onderzoekt hij onder meer de inzet van synthetische data voor het trainen van minder bevooroordeelde AI systemen. Hij is daarbij voortdurend bezig om te kijken hoe al met kleine oplossingen positieve impact bereikt wordt.

Denk hierbij aan nieuw talent in de database van Randstad. Verschenen bepaalde van deze talenten eerder misschien niet (snel) op de radar van intercedenten, dankzij een met AI-gevoede oplossing hebben David en zijn team daar verandering in gebracht.

'Niet over nagedacht'

Onlangs, zo vertelde David me, voerde hij een gesprek met leden van een multidisciplinair team. Dat team bestaat bijvoorbeeld uit product owners, juristen, privacy officers, intercedenten en ontwikkelaars. Een van de teamleden vroeg tijdens een vergadering of er eventuele bias in de beoogde dataset kon zitten. "Niet over nagedacht," antwoordde een ander teamlid eerlijk.

David noemt het een mooi voorbeeld van hoe je het gesprek over vooroordelen in data kunt voeren, met mensen met verschillende kennis en perspectieven. En hoe je er vervolgens een actie aanhangt.

IAMA told me so

Deze vraag werd niet per ongeluk gesteld, maar komt voort uit gebruik van een tool die David vaker gebruikt, het IAMA. Dat staat voor Impact Assessment voor Mensenrechten bij de inzet van Algoritmes. Het wordt aangeboden door de Nederlandse overheid en is gratis toegankelijk.

Waarom en wanneer je het zou moeten gebruiken? Op de overheidssite staat te lezen:

Impact Assessment Mensenrechten en Algoritmes | Rijksoverheid.nl — www.rijksoverheid.nl

Met het Impact Assessment voor Mensenrechten bij de inzet van Algoritmes (IAMA) kan een afgewogen discussie gevoerd worden tussen de relevante partijen bij de afweging om wel of niet een algoritmische toepassing te gaan ontwikkelen.

Gebruik (of ken) jij zelf een handige tool of link? Deel 'm met me door te reply'en op deze mail.

✅ Dit was 'm al. Volgende week meer over de tweede spreker; Oumaima Hajri.

Leestip

De jonge generatie zal digitale systemen veiliger maken | De Volkskrant — www.volkskrant.nl

Informaticus Sennay Ghebreab is ervan overtuigd dat kunstmatige intelligentie de samenleving vooruit kan helpen. Wel moeten we ons er meer in verdiepen.

Hi lezer 👋,

De afgelopen week demonstreerde ik bij verschillende gelegenheden (in een talkshow, bij een lezing en op een redactievloer) de mogelijkheden van generatieve AI toepassingen; wat je er nu al mee kunt en wat er aan zit te komen. (De vier seconden durende animaties van Make-a-video zag je ongetwijfeld al.)

FAQ over Generatieve AI

Ik heb de meest-gestelde vragen en reacties die ik zoal krijg voor je gedestilleerd. Ze gaan meestal zo:

1. 'Ontwerpers en schrijvers worden wel steeds meer overbodig zo, he?!';

2. 'Hoe zit het met de rechten?'

3. 'Kun je hier straks dan ook een hele roman, film of animatie mee maken?'

4. 'Dit is heel gevaarlijk,' en, in een adem: 'qua desinformatie en deepfakes enzo, toch?'

Als het goed is kun jij, mijn trouwe lezer, op de meeste vragen en reacties ant- en weerwoord geven dankzij het lezen van deze brief!

Doel van deze nieuwsbrief

Misschien is het goed om, zeker voor nieuwe lezers, nog eens uit te leggen waarom ik deze nieuwsbrief schrijf. Ik poog er minstens drie doelen mee te bereiken:

1. In begrijpelijke taal AI te demystificeren (ja, I know, eigenlijk mag dit woord dan dus niet 🤭);

2. De angst en de magie rondom AI wegnemen, zodat meer mensen beter geinformeerd over AI-toepassingen nadenken of er aan meebouwen.

3. Door praktische voorbeelden en tools te delen waarmee je een beter begrip krijgt van de (on)mogelijkheden van AI.

Deze week: over creativiteit

Daarom wil ik het deze week nog maar een keer over creativiteit hebben. Want als je begrijpt wat dat precies is, wat er nodig is om creatief te kunnen zijn EN wat machines daarvan wel en niet kunnen, dan kun je ook al die text-to-video, speech-to-3D animaties en over vier jaar brain-to-VR-worlds gewoon meteen een plekje geven. Fijn toch?!

En oh boy, het is geen shorty, deze editie. ⏱ Leestijd is 10:33. Maar trust me, girl : je zult er well prepared, gesterkt en verkwikt uitkomen. Veel leesplezier, jij uniek wezen die je d'r bent.

Groet, Laurens.

Wat is creativiteit?

Deze definitie komt van cognitiewetenschapper Margaret Boden. Een andere komt van Arthur Miller, een andere autoriteit op het gebied van creativiteit. Hij stelt in The Artist in the Machine (2019):

Je vraagt je bij deze definities wellicht direct af of AI de motivatie kent om zelf iets te bedenken. Kunstenaar Ali Nikrang zegt daar in een onderzoekspaper van wetenschap- en technologiefestival Ars Electronica het volgende over:

Het probleem van creativiteit

Plato vroeg zich al af hoe een brein dat bestaat uit gevestigde concepten resultaten kan produceren die verder gaan dan wat er al is. Dit zou je het probleem van creativiteit kunnen noemen.

Nieuwsgierigheid en opdracht

Creativiteit komt meestal voort uit een opdracht. Nieuwsgierigheid is een goede tweede aanleiding. Net als in de wetenschap beginnen we met vragen stellen. Waarom krijgen olifanten zelden kanker? Hoe werkt hooliganisme? Wanneer belanden we in een recessie? We bouwen met onze zoektocht voort op kennis die vergaard is door de eeuwen heen. We werken met bestaande regels, conventies en technieken. Eens in de zoveel tijd breekt er iemand met die regels, wat vervolgens leidt tot nieuwe conventies, nieuwe kennis en nieuwe regels. Voilà, het creatieve proces in perpetuum.

Wat heb je nodig voor creativiteit?

Je kunt enerzijds het eindresultaat en proces als creatief beschouwen, en anderzijds de maker. Uit de definitie van Boden halen we drie belangrijke voorwaarden om werk als ‘creatief’ te bestempelen:

1. nieuw

2. verrassend

3. waardevol

Met deze voorwaarden kun je werk toetsen op creativiteit. We zeggen hier ‘werk’ want het gaat bij Boden om het product, het eindresultaat.

Eigenschappen: leren en bezitten

Miller heeft zeven eigenschappen opgesteld waaraan een maker dient te voldoen:

• in stilte kunnen nadenken;

• kennen van de eigen kwaliteiten;

• niet bang om fouten te maken;

• samenwerking en competitie;

• bedelen, lenen en stelen van ideeën;

• goed gedijen op onduidelijkheid;

• opdoen van bepalende levenservaringen.

Ieder mens kan bovenstaande eigenschappen leren volgens Miller. De volgende competenties moet een persoon volgens hem echter al bezitten:

• identificeren van het belangrijkste probleem;

• verbanden zien en leggen.

Waar je bij de eerste zeven eigenschappen nog dacht dat een systeem of machine deze nooit allemaal kan verinnerlijken, daar twijfel je misschien nu over de laatste twee.

Plus: intentie, verbeeldingskracht en onvoorspelbaarheid

Wat volgens Miller ten grondslag ligt aan het creatieve proces zijn drie belangrijke kenmerken: intentie, voorstellingsvermogen en onvoorspelbaarheid. Hij legt uit dat wanneer je een Groot Creatief avontuur aangaat - of je nu een ontwerper, kunstenaar of journalist bent - je start met een bedoeling. Bijvoorbeeld met het beantwoorden van een vraag over de waarde en rol van TikTok in het onderwijs; welke soort haat vrouwelijke politici op Twitter en Facebook ontvangen; hoe we meer ouderen aan het bewegen krijgen.

En: sterfelijkheid, levenservaring en handwerk

Marcus Du Sautoy, schrijver van De code van Creativiteit stelt dat voor creativiteit sterfelijkheid en ‘bagage’ nodig zijn, zoals lijden en levenservaring. New York Times columnist Kevin Roose voegt daar in zijn boek Futureproof (2021) de ‘affect heuristic’ en ‘handprints’ aan toe. Beide begrippen doelen op het gegeven dat we veel waarde toedichten aan dat wat mensen zelf maken en creëren. Hoe meer bloed, zweet en tranen, hoe beter.

Welke vormen zijn er?

De eerder genoemde Boden onderscheidt er drie. Het zijn psychologische mechanismen eigenlijk, die allemaal een verschillende soort verrassing met zich meebrengen:

• Verkennende

• Combinerende

• Transformerende

Verkennende creativiteit

Deze vorm gaat uit van wat al bestaat, onderzoekt er de grenzen van en verlegt ze waar mogelijk. Dit type creativiteit is beperkt, omdat ze gebonden is aan bestaande regels.

Kunstprojecten die sterk technologiegedreven zijn vallen in deze categorie. Denk aan de recente hype rondom NFT art of nieuw werk van overleden artiesten die met behulp van AI weer ‘tot leven zijn gewekt’, zoals The Beatles, Van Gogh of Tupac.

Een ander voorbeeld is Apple’s muziekdienst iTunes. Door te leren van illegale downloadsites en piraterij online, creëerde Steve Jobs een legaal alternatief voor muziekliefhebbers. Waar vervolgens Spotify weer op voortborduurde en er zaken aan toevoegde.

Ter nuancering: binnen de regels blijven betekent niet dat je niets nieuws kunt ontdekken op plaatsen die je al kende.

Combinerende creativiteit

Schilderijen van kunstenares Daniela Schwabe, gemaakt m.b.v een StyleGAN

Kunstenaars die totaal verschillende concepten uit botsende werelden samensmeden en postmoderne ‘mixed media’ installaties in musea - auteur Steven Johnson rekent ze tot vormen van combinerende creativiteit. In zijn boek Where good ideas come from noemt hij dit ‘exaptatie’.

De boekdrukkunst is er een vorm van. Gutenberg (hij schijnt overigens niet de eerste te zijn) combineerde wijnpersen van Duitse boeren met Chinese losse drukletters, ‘movable type’. Een nieuwe mediatechnologie was geboren.

Transformerende creativiteit

Onder de laatste en begerenswaardigste vorm van creativiteit vallen de game changers. Het zijn momenten waarop bestaande conventies of geldende regels volledig worden losgelaten.

Du Sautoy legt uit dat het de 'kunst’ is om “zodanig te kiezen wat je laat vallen en welke nieuwe voorwaarden je introduceert, zodat er iets nieuws en waardevols ontstaat.” 

Margaret Boden merkt op dat het jaren kan duren eer mensen transformerende creativiteit (h)erkennen.

Miller besluit te zeggen dat het moeilijk is om de drie vormen van creativiteit op procesniveau uit elkaar te houden. De meeste creatieve doorbraken (die van transformerende aard) kennen ook verkennende en combinerende elementen in het proces.

‘We want revolution, Kill the government, Kill the system.’

- Voorgestelde songtekst door de AI Lyrics Generator, voor de Nederlandse inzending voor het AI Songfestival .

Kunnen machines creatief zijn?

Ja, nee en ja, but different.

Onlangs won iemand een kunstwedstrijd met een door AI-gegenereerd werk. #ophef. Oke, prima. Next!

Al eerder dit jaar, op 22 februari, besloot het Amerikaanse Copyright Office (ACO) geen auteursrecht te verlenen aan een kunstwerk dat is gemaakt door AI. Het ingediende kunstwerk miste volgens de ACO het noodzakelijke element van 'menselijk auteurschap'. Het oordeel daarbij is dat de verbinding tussen het menselijk brein en creatieve expressie een cruciaal element is van auteursrecht.

Ja, want je kunt generative art maken met een machine.

Wanneer je The Artist in The Machine van Arthur Miller leest, zou je het bewijs voor ‘ja’ kunnen zien in de voorbeelden die hij geeft:

• Het genereren van gedichten

• ‘Soundscapes’

• Schilderijen

• Beeldmanipulaties

• Muziek

• Vervreemdende droombeelden.

Miller toont aan dat je er een machine prima voor aan het werk kan zetten.

Nee, want machines missen intentie, motivatie

De drie criteria die horen bij Bodens definitie van creativiteit - nieuw, verrassend en waardevol - zijn ook hanteerbaar wanneer je AI creaties toetst op creativiteit: een AI songfestivalliedje, een beeld gemaakt met DALL-E-2 of een video door Meta's Make-a-video.

Het zijn recombinaties, hooguit. Waarom? Als het om waarde gaat, is de liefhebber van het genre of de kunstenaar vast nieuwsgierig. Maar nadat het kunstmatige werk is beluisterd of gezien zal de fan tot de slotsom komen dat het niet meer dan een ‘recombinatie’ is. Knap, maar niet meer dan dat. En er kunnen nog 1600 Bachcomposities gemaakt worden, en nog 42 Tupac albums, maar... waarom zou je dat willen?!

Het gerecombineerde, door AI-gegenereerde werk is gecreëerd binnen de regels die al golden in de tijd dat de kunstenaar de oorspronkelijke creatieve doorbraak bereikte.

Dit geldt wat mij betreft ook voor MidJourney en DALL-E-2 en alle aankomende text-to-toepassingen. De 'nieuwe' beelden zijn immers allemaal gebaseerd op eerder geschreven teksten, en vervaardigde beelden en stijlen, en leveren dus 'slechts' recombinaties op; interessant, knap, verrassend en nieuw voor nu, maar geen game changer als het om ware creativiteit gaat.

Machines hebben geen eigen intentie

Interessanter bij de vraag of machines creatief zijn, is het eerste deel van Bodens definitie: de motivatie om te creëren. Je kunt stellen dat de ontwikkeling van een AI-systeem geïnitieerd wordt door mensen.

Er is van geen enkel huidig AI systeem bekend dat het de aandrang heeft (gehad) om uit eigen beweging iets anders te starten dan waartoe het ontworpen of geïnstrueerd is. De systemen wijken niet af van de aangeleerde, geldende regels. Het maakt niet uit of die regels zijn opgesteld door mensen of dat ze zelflerend tot stand zijn gekomen. Zelflerende systemen hebben immers een specifieke opdracht (of doel) nodig die ze vertelt dat en wat er geleerd moet worden.

Kevin Roose en Marcus du Sautoy hebben het over de manier waarop wij mensen creativiteit zien en waarderen. Als we van daaruit naar machine-creativiteit kijken en de menselijke soort creativiteit van machines verwachten, dan is het antwoord ‘nee’ op de vraag of machines creatief kunnen zijn.

Ja, maar het is anders dan menselijke creativiteit.

Er zijn denkers en makers die beweren dat het ook helemaal geen zin heeft om onderscheid te maken tussen creativiteit die afkomstig is van AI of die van de mens. Hun redenering is als volgt: we kunnen computers alleen maar leren hoe creativiteit werkt, door ze te voeden met onze ideeën over creativiteit, met onze methoden om creativiteit aan te wakkeren of te bevorderen. Zouden de machines al in staat zijn om ons menselijke niveau van creativiteit te evenaren, dan schieten we er wellicht niet eens veel mee op.

Wanneer we machines in staat stellen om een eigen soort creativiteit te ontwikkelen, dan wordt het pas echt verrassend, vernieuwend en van waarde.

Want: menselijk onvermogen

Het gevaar bestaat daarbij wel dat wij mensen die vorm van creativiteit niet kunnen plaatsen, omdat wij het vermogen daartoe niet bezitten. Net zoals we het lastig vinden wanneer we worden geconfronteerd met menselijke transformerende creativiteit.

Het is dus zaak om menselijke en artificiële creativiteit te zien als verschillende vormen, die je op verschillende manieren kunt inzetten en ook op verschillende manieren dient te waarderen.

Daarvoor hebben we nieuw vocabulaire nodig waarmee we kunstmatig gegenereerd materiaal duiden. Volgens informatie professor Luciano Floridi, die werkt bij het Oxford Internet Institute, ontbreekt het ons aan goede termen om onderscheid te maken tussen wat bijvoorbeeld authentiek en origineel is. Floridi stelt voor om met een begrip uit het Grieks, de ‘ectype’, te werken. Dat is ‘een kopie die een speciale relatie heeft met zijn bron.’ Je kijkt dan naar deze bron (wat Floridi het archetype noemt), het creatieproces en het eindresultaat. Dat eindresultaat noem je het ‘artefact’. 

Hoe de huidige generatieve AI te plaatsen?

Ik denk dat GPT-3, DALL-E en Stable Diffusion vooral onder de verkennende creativiteit vallen. Wanneer mensen de synthetisch gegenereerde output vervolgens toepassen in VR-werelden, in de mode-industrie of binnen animaties of filmscripts, schuiven we op naar combinerende creativiteit.

Als we het echte scheppen, het echte genereren van nieuwe stromingen en genres over willen laten aan AI, dan moeten we een vrije wil zien te programmeren en dat lijkt een contradictie. (Net zoals een cursus vrije expressiedans een tegenstrijdig idee is. )

Makers en denkers zijn het over eens - althans diegenen die ik de laatste tijd spreek en wiens werk ik las en lees - dat creatief werk vooral wordt uitgebreid en verrijkt met de komst van artificiële assistenten.

Marcus du Sautoy eindigt zijn zoektocht naar de code van creativiteit met een omgekeerde vraag: ‘Zouden wij mensen machines begrijpen wanneer ze hun bewustzijn aan ons manifesteren?’

Wat denk jij?

✅ Dit was ‘m weer.

Hi lezer 👋,

Zo. De brief van vorige week leverde nogal wat reacties op. Heel tof om te merken hoe betrokken je bent, m'n beste lezer, 🤗.

Daarom open ik deze week met twee toegiften die gekoppeld zijn aan die vorige editie; over vrouwenhaat, porno en stereotypes.

Vooroordelen speuren

Deze week introduceer ik een vrij nieuw fenomeen binnen de AI: bias bounties. Wat dat precies zijn (en wie me er op wees), dat lees je verderop.

Tot besluit heb ik drie bias-based lees-, doe- en bijwoontips voor je.

Succes met AI-schatzoeken deze week. ⏱ 8 minuten

Groet, Laurens.

Vieze achterkant veel vuiler volgens Vice

De dag waarop ik de vorige brief tikte, publiceerde ook Vice een verhaal over de problematische afbeeldingen in de brondata die generatieve AI-systemen gebruiken. Het is geen pretje waarover je in het stuk leest. Wees dus gewaarschuwd voor de dirty rabbit hole die je in gaat als je klikt...

ISIS Executions and Non-Consensual Porn Are Powering AI Art — www.vice.com

AI is progressing at an astonishing speed, but we still don’t have a good understanding of the datasets that power AI, and little accountability for whatever abusive images they contain.

#lifechanging prompts

Om je prompt engineeringpret niet verder te bederven, deel ik hier een tip die ik kreeg van Vriend van de Brief Sam.

Hij bezocht afgelopen vrijdag de eerste editie van AI for Good.(FYI: Dat is een avond die ik organiseer in Felix Meritis in Amsterdam. Makers en publiek gaan er in gesprek met elkaar rondom thema's binnen de AI. Sam was niet de enige vriend van de brief die ik er irl ontmoette trouwens 😀.) Dezelfde avond nog mailde Sam me het volgende:

Lees hier de hele thread met life changing events van prompt artists en je geloof in de mensheid is hopelijk weer wat hersteld.

Deze week: bias bounties.

Nog maar drie weken totdat je de eerste bias bounty kunt pakken...

Om uit te leggen wat bias bounties zijn, behandel ik beide woorden uit deze term eerst afzonderlijk.

Bias

Bijna een jaar geleden berichtte ik in een van m'n eerste brieven over bias in AI. In die editie van early oktober 2021 beschrijf ik o.a.:

• Wat bias (vooroordelen) precies inhoudt;

• Welke soorten er zijn;

• Wie zich bezighouden met het tegengaan ervan;

• Hoe je er zelf iets aan kunt doen.

Algoritmisch auditeren

In die laatste categorie was de vijfde doe-het-zelftip: laat een ‘algoritmische audit’ uitvoeren:

Dienen en wassen

Naief redeneerde ik dat deze audits waarde hebben, met verschillende praktische use cases:

• Als checklist bij ontwerp en ontwikkeling;

• Om problematische modellen in de kiem smoren;

• Om gemankeerde toepassingen te verbeteren.

Divers, duurzaam & debiased

M'n cynische zelf (en ik ben dat doorgaans niet) voorzag een soort 'washing' effect. Schaar #algowashing gerust in het rijtje pink en green. Deze washings hebben als doel dat bedrijven zich erdoor beter voordoen dan dat ze in werkelijkheid handelen; resp. divers en inclusief, duurzaam en goed voor de planeet en nu dus ook de-biasend: met eerlijke algoritmes en maatschappelijk bewust uitgebalanceerde machine learning modellen, want: geauditeerd!

Bazen van de bias bounty

Nu met nieuwe optie: de bounty

Nu blijkt er nog een manier om onwenselijke of problematische (effecten van) AI-toepassingen aan het licht te brengen. Twitter introduceerde deze methode min of meer gedwongen in de wereld van algoritmen en AI: de bias bounty.

Het sociale platform bleek namelijk problemen te hebben met de manier waarop gezichten automatisch werden afgesneden in foto's. De ontdekking daarvan begon allemaal met deze tweet. Daarin legde ene Tony Arciere bloot hoe een foto, waarop zowel Barack Obama als Mitch McConnell stonden, door het Twitter-algoritme zo uitgesneden werd dat Mitch bleef en Barack verdween. #terechteophef

Van ophef naar wedstrijdspanning

Twitter vatte dit zoveelste PR-schandaal slim bij de horens en zette de ontstane ophef en reuring handig om in excitement. Hoe ze dat deden? Ze schreven een wedstrijd uit, open voor publiek. De speurder die als eerste de fout (de bias) zou ontdekken, kreeg een geldelijke hoofdprijs: de bounty.

Leentjebuur: van bug naar bias

Dit soort bounty-wedstrijden zijn beproefd in de wereld van de computer security. Meta, Google, Microsoft en tal van andere techbedrijven organiseren al jaren van deze wedstrijden onder de noemer 'bug bounties'. Ze worden ingezet voor het:

• Vinden van bugs in programmeercode;

• Controleren of er 'deuren openstaan' voor hacks;

• Ontdekken van lekken in digitale software waarmee virussen en malware makkelijk in netwerken kunnen binnendringen.

Wat er mis is met de bias bounty?

So far so good, zou je denken. En well played, Twitter. Als dit werkt voor techbedrijven, als speurders er iets aan verdienen en zodoende onwetende gebruikers veilig digitaal kunnen blijven werken, dan is dit bewezen concept toch handig om te benutten? Dan is het toch best slim om dit ook te transponeren naar de AI-wereld, voor het specifiek opsporen van vooroordelen? Zodat de onwetende gebruiker niet alleen met een veilig, maar ook eerlijker systeem te werkt?

Ergens wel natuurlijk. Totdat ik de column van Nicolas Kayser-Bril van Algorithm Watch las, retorisch getiteld 'Algorithmic bias bounties are great. Or are they?

BiasBounty.ai

Hij legt uit dat Rumman Chowdhury, die Machine Learning ethics bij Twitter overziet, onlangs een initiatief is gestart dat BiasBounty.ai heet. (Als de naam Chowdhury je bekend voorkomt, dan klopt dat: ze richtte eerder dat algo-auditingbedrijf Parity.ai op, maar daar heeft ze inmiddels een conflict, zo las ik hier.)

Onder de vlag van BiasBounty.ai worden vanaf oktober verschillende wedstrijden georganiseerd. Eerst in de VS, daarna wereldwijd. Kayser-Brill zegt er over:

Maar aan de andere kant kan het met deze bounties ook zo lopen zoals met de hackathon van de jaren '10. Hij licht toe:

Kayser-Brill heeft op dit moment twee bezwaren bij de bias bounty:

1. Bias bounties betekenen gratis auditing voor grote bedrijven;

2. Echt relevante systemen, die de bottom line zijn van grote bedrijven, zullen ze niet openstellen voor het publiek.

Met andere woorden: dat een afbeeldingsbewerker wordt opengesteld voor publiek om te onderzoeken, zal Twitter niet keihard raken.

De vraag is of je ook een prijs kunt winnen als buitenstaander wanneer je vooroordelen ontdekt in de moderatie van TikTok of de aanbevelingen op Facebook. Ik sta dan ook helemaal aan Kayser-Brill's kant, als hij schrijft:

✅ Dit was ‘m weer. Volgende week.... komt volgende week ;-)

Meer over bias? Lees, verdiep en discussieer hier:

📖 Lees The Art of AI — www.artofai.nl

In ons boek spreken Marlies en ik op meerdere plekken over vooroordelen, blinde vlekken en hoe je eerlijke AI-systemen ontwikkelt. We hebben aan ethiek zelfs een apart hoofdstuk gewijd: Tussen dys- en utopie.

📺 Doe de Nationale AI en Ethiek Cursus — ethiek.ai-cursus.nl

Je leert met deze cursus 'wat ethisch reflecteren is, hoe door bedrijven data en algoritmen worden ingezet, wat dit betekent voor bijvoorbeeld werving en selectie, hoe algoritmen wél eerlijk kunnen worden ingezet, en wat we moeten doen om de democratie een handje te helpen.'

🎤 Bezoek sessie 'Verantwoorde AI voor media', ma 3 okt.

Hoe kun je als media-organisatie op een ethisch verantwoorde manier AI toepassen? Tijdens de Dutch Media Week spreken o.a. Oumaima Hajri (Hogeschool Rotterdam) en Anna Schjøtt Hansen (UvA) over verantwoorde AI in een internationaal perspectief

📅 maandag 3 oktober

🕒 15.00 uur

📍 Nederlands Instituut voor Beeld en Geluid, Hilversum, Nederland

Hi lezer 👋,

Dit wordt geen leuke brief. Sterker nog, deze editie bevat zelfs schokkende beelden. Waarom? Omdat we het, zeker als schrijvers, beeldmakers en creatieven over de achterkant van AI moeten hebben. Die was tot voor kort vrij onzichtbaar. Maar sinds oktober 2021 niet meer helemaal, zo ontdekte ik afgelopen week.

Die achterkant is namelijk best wel vies, oneerlijk en ... lijkt eigenlijk heel sterk op het internet zelf.

Wat dit voor ons makers betekent zet ik in deze editie uiteen.

Deze week...

Stel ik vijf vragen en probeer ze te beantwoorden:

1. Waarom moet ik die lelijke kant kennen?

2. Met welke data zijn de beeldmodellen getraind?

3. Hoe komt de bias in gegenereerde afbeeldingen?

4. Wie zijn (straks) de dupe van het gebruik van deze toepassingen?

5. Wat kunnen we doen?

Verder bied ik praktische middelen waarmee je zelf kunt nagaan of beeld van jou, jouw werk (of dat van anderen) is gebruikt om de beeldmodellen te trainen en tools om gegenereerd beeld te recyclen.

Ik wens je veel plezier. Leestijd ⏲: 8 minuten.

Laurens Vreekamp

Kom & praat mee: AI for Good: media & kunst — felixmeritis.nl

Kom morgenavond (vr. 23 sept.) naar AI for Good, een avond die ik organiseer in Felix Meritis in Amsterdam. Makers Serena Westra (IKEA), Vincent Koops (RTL, Videoland) en creative technologist Casper Schipper (Superposition, ArtEZ) zijn te gast en is tof AI/VR werk van Studio VRij. 👉🏽Kaarten hier te bestellen.

1. Waarom we die vieze achterkant moeten bekijken?

Een groot aantal makers is enthousiast over de resultaten die zij zien bij anderen of zelf verkrijgen van teksttoepassingen als GPT-3, Rytr en CopyMatic en van beeldgeneratoren als DALLE-2, MidJourney, Imagen en DreamStudio. Ik moet bekennen -en dat zal geen verrassing zijn gezien de vorige drie edities- dat ik mezelf daar ook onder schaar.

Maar wat ik eerder niet goed realiseerde is wat de basis is van al die generatieve creaties.

Totdat ik deze tweet tegenkwam van onderzoeker Arthur Holland Michel, die werkt voor o.a. het Internationale Rode Kruis en Chatham House. Hij vroeg zich af hoe het kan dat het commando 'Michael' letterlijk een beeld oplevert dat lijkt op een Westerse, witte zakenman en 'Michaela' een schaarsgeklede, uitdagend poserende vrouw?

Ik nam de proef op de som. Het nog niet eens zo heel fotorealistische resultaat is al veelzeggend:

Text-to-image prompt 'Michael' (Gemaakt met Hugging Face's stable diffusion)

Hoe kan het nu dat maar een letter verschil zoveel verschil maakt? Daarvoor moeten we terug naar de bron.

2. Terug naar de bron: met welke data zijn de modellen getraind?

Van het zeer grote taalmodel GPT-3 weten we nog altijd niet met welke teksten het is getraind.

'Misogyny, pornography, and malignant stereotypes'

Voor de beeldmodellen die gebruikt worden om de text-to-image-toepassingen te laten werken, konden we tot voor kort ook alleen speculeren.

Maar, zo ontdekte ik onlangs, er is op 6 oktober 2021 door een aantal academici een onderzoekspaper gepubliceerd met de titel 'Multimodal datasets: misogyny, pornography, and malignant stereotypes'.

Van 400 miljoen naar 5 miljard basisafbeeldingen

De onderzoekers analyseerden de vrij toegankelijke, open dataset LAION400. Dat staat voor Large Scale AI Open Network. In deze dataset zitten 400 miljoen text-image pairs. Het vormt de basis waarop de nieuwste generaties text-to-image modellen zoals stable diffusion worden getraind. (Inmiddels is er alweer een grotere versie van LAION, de LAION5B, met 5 miljard (!) paren)

Het is goed om te begrijpen dat zo'n dataset als LAION uit verschillende onderdelen bestaat:

1. Afbeeldingen

2. Alt-text image-captions - beschrijvingen

3. Tekstcorpora van het web, zoals CommonCrawl

Problemen van de afbeeldingen: privacyschending

Een van de auteurs, Abeba Birhane schreef over de bevindingen in een draadje op Twitter. Over het eerste onderdeel, de afbeeldingen, zegt ze:

Problemen van de beschrijvingen: beledigend

Over het tweede deel, de beschrijvingen (alt-text) die bij de afbeelding horen:

Problemen met tekstcorpora: porno

Alsof de eerste twee lagen nog niet genoeg problematische zaken bevatten, is de derde misschien wel het gevaarlijkst. Onderzoeker Birhane schrijft:

3. Hoe komt de bias in generatieve AI?

De makers van DALLE-2 kennen de bias in hun systeem ook en geven dat ook ruiterlijk toe (maar lossen het niet op, en we kunnen er ook niet zelf in grasduinen, zoals bij LAION). Zo schrijven ze hier:

Mensen die text-to-image systemen veelvuldig gebruiken hebben dit inmiddels ook ontdekt.

Redenen die zij aanvoeren, zo staat te lezen in de DALLE-2 disclaimer, zijn hun eigen geografische locatie, voertaal en (culturele) context:

Pornobias

Onderzoekster Birhane vond in de LAION-dataset niet alleen een aantal dezelfde biases als bij DALL-E, maar ook een groot aantal not safe for work (pornografisch) afbeeldingen bovenop de stereotypische bias:

Twitter tweet

Er bleek zelfs pornobias in de LAION dataset die je niet direct zou vermoeden:

Twitter tweet

En zo gaat Birhane nog wel even door. Lees hier haar hele (lange) draadje op Twitter.

4. Wie zijn (straks) de dupe?

Eigenlijk iedereen:

• Degene die profielfoto's op het web heeft geplaatst en de ouder die foto's van het eigen kind op social media plaatst. (Een consequentie die Ernst-Jan Pfauth in dit recente stuk in NRC nog niet voorzien had, vermoed ik). De kans is groot dat foto's van jou in de datasets belanden waarmee AI-modellen worden gevoed.

• De persoon die in welke context dan ook tot een minderheid behoort en/of gestereotypeerd wordt.

• De gebruiker van text-to-image systemen, die met ieder gegenereerd beeld de problematische basis in stand houdt en weer verder versterkt. Want wat online komt, kan ook weer in de databasis terecht komen!

Dubbel gedupeerden: kunstenaars, fotografen en illustratoren..

Waar er gegronde angst is voor het verliezen van bepaald soort werk, hebben fotografen, kunstenaars en illustratoren meer te vrezen van het feit dat hun werk wellicht is inbegrepen in datasets zoals LAION, zonder hun toestemming. Waardoor anderen ongeoorloofd voortborduren op origineel artistiek werk van professionele makers.

Twitter tweet

5. Wat kun je doen? Have I been trained + Phraser

Het is goed dat er nu openheid is. Dat een organisatie zoals Stability.ai openheid geeft over de ontwikkeling van hun AI-model voor beeldgeneratie. Zodat we beter weten hoe de techniek werkt.

Het is goed dat een dataset als LAION vrij toegankelijk is, zodat onderzoekers als Abeba Birhane hun analyses kunnen doen. Want over OpenAI's DALLE-2 en Google's Imagen weten we bijna niets, en kunnen we er ook niet onder motorkap kijken. Over die nieuwe openheid is Birhane ambivalent. Zo schrijft ze:

Doorzoek de basisgrondstoffen zelf

Het is daarom fijn dat er naast dit onderzoek nu ook tools zijn om zelf te checken of je als persoon of jouw professionele (beeldend of geschreven) werk in de dataset voorkomt:

👉🏽 Haveibeentrained.com/

Zoek met deze tool, met beeld of tekst, of jij of je werk voorkomt in de dataset die is gebruikt om de AI-beeldmodellen te trainen.

Wil je je daarna wapenen tegen inclusie van je werk in AI-datasets, ga dan naar Spawning

Eerder-gegenereerd

Met deze tools check je of er al beelden zijn gemaakt, zodat je de stereotypen niet zelf weer versterkt met iedere nieuw-gegenereerde creatie:

👉🏽 Phraser.tech

👉🏽 Lexica.art

Meet Phraser, the AI Tool that Prompts Neural Networks — analyticsindiamag.com

What makes this smart search feature exciting is the effortlessness in allowing users to search directly through prompts, eliminating the fuss of keywords

Final thought

Nu we steeds beter leren wat voor beelden we (letterlijk en figuurlijk) beter wel en niet meer moeten gebruiken - in campagnes, films, op televisie, Youtube en print en andere media - moeten we dat besef ook hebben als we AI 'onze' beelden laten genereren.

We moeten daarnaast ons AI-gebruik ook verantwoorden voor ons publiek en straks ook wettelijk. Gelukkig kunnen we nu zelf zien en opzoeken welke beelden zijn gebruikt, hoe de bias ontstaat en nadenken over onbedoelde, onwenselijke uitkomsten van gebruik ervan.

✅ Zo, dit was' m.

Hi lezer 👋,

We gaan deze week iets afronden: de text-to-image trilogie. Dat doen we door uit te zoomen. Altijd lekker, die κάθαρσις. ('Katharsis'. Brace yourself maar alvast, want er komen meer Griekse woorden voor in deze editie.)

Allereerst welkom aan de driehonderdste abonnee, Linda. En dank voor alle tips die ik de afgelopen week ontving van vrienden van de brief: Carolien, Sela, Monique, Simon, Tom en Erwin. 

Enfin, ter zake.

Text-to-image - Is video the final frontier?

In Deel I tipte ik verschillende aanpakken en technologieën rondom prompt engineering. In Deel II keken we naar worst & best practices van deze vorm van generatieve AI; in de mode, media, design, advertising en fictie.

Deze week...

Wil ik het hebben over de evolutie, betekenis en impact van de creatieve mogelijkheden van AI:

• Hoe plaatsen we de ontwikkelingen?

• Wat zijn toekomstscenario's voor mediamakers?

• Hoe zit het met de toekomst van onze democratie? (Ja, we zijn deze week niet wars van grote woorden.)

Verder in deze brief:

1. De veelbelovende text-to-video aankondiging van RunwayML;

2. De making-of van AI-powered onderzoeksjournalistiek rondom een Tinderscam (nee, niet the Swindler);

3. Nieuw en intrigerend werk van Vlaamse AI-kunstenaar Dries Depoorter.

🕙 Silent reading time: ± 8 minuten

Veel leesplezier weer. Groet, Laurens.

Ps. Kom je ook op vrijdagavond 23 september naar de AI for Good avond die ik organiseer in Felix Meritis in Amsterdam? Zou ik tof vinden. Er komen interessante makers en er is een mooie AI/VR installatie. Er zijn nog kaarten beschikbaar.

Text-to-image Inpainting voorbeelden met OpenAI's Glide

III/III text-to-image κάθαρσις

Zoals gezegd zoomen we deze week uit en kijken we terug en vooruit. Dat doe ik als volgt:

1. Grip krijgen door trendanalyses;

2. Het delen van thought-provoking toekomstscenario's;

3. Filosofische beschouwing van AI+Journalism professor Charlie Beckett.

1. Grip krijgen door trendanalyse

Ben Thompson, bekend van zijn blog Stratechery schreef onlangs twee verschillende analyses met betrekking tot de impact van generatieve AI op media-ecosystemen. In een van zijn analyses behandelt hij drie trends:

Trend 1: Evolutie van media: immer immersiever

Wat 'immersiviteit' inhoudt? Je dompelt je als mediaconsument steeds meer onder. De afstand tot, en het bewust zijn van je mediumgebruik verdwijnen steeds meer. M.a.w.: jouw lichaam en brein worden de remote, de joystick en de controller. 

Heel kort de evolutie van media in vijf stappen: eerst was er (1) tekst, daarna (2) beeld. Vervolgens kwam er (3) beweging in dat beeld (al dan niet met geluid), gingen we (4) 3D-werelden maken en bekijken en zijn we nu aangekomen bij (5) virtual reality.

Trend 2: Evolutie van AI: toename op elk gebied

Thompson schrijft over de toename in zowel intelligentie (1), de verscheidenheid aan toepassingen (2) en de diversiteit aan taken en werkzaamheden die geautomatiseerd zijn en dreigen te worden (3).

Volgens hem was AI eerst alleen (1) sneller, daarna werd het beter in (2) filteren en ordenen ('ranking'). Vervolgens kregen we meer (en toch wel echt betere) aanbevelingen (3) en zijn we nu aanbeland in de fase waarin AI generatief is en zelf kan (4) creëren.

Trend 3: Evolutie van the user interface (UI)

We zijn van het geven van (1) tekstcommando's aan de computer (kent iemand nog MS-DOS?) naar point-and-click graphical user interfaces - de GUI's gegaan, met metaforen als prullenbak, bureaublad en 'Verf' (Ja, Paint), zowel in Windows als op de Mac. We gingen scrollen in 'vensters', stapten daarna over op touch op onze tablets en smartphones en begonnen, nog smoother, te swipen. 

Okay, wacht even...

Als je nu dacht: holy fuckers, maar... doet TikTok dit niet allemaal?! Jep slimmerik, die app zit inderdaad helemaal in al die nieuwste fases van al deze drie trends. Peak Venn-diagram voor de Chinezen!

Creatie door AI = minder waardetoevoeging door media orgs

Nog even over die tweede trend - creatie door AI; daar schrijft Thompson in detail over in zijn blogpost 'The AI Unbundling'. Die ontbundeling gaat over het slechten van de laatste stap in de keten van waardecreatie (beetje vieze term wel, niet?).

Voorheen werd creatie toch vooral door makers, schrijvers, journalisten gedaan. Met de komst van user-generated content is er al goed aan de stoel die 'creatiemonopolie' heet gezaagd door allerhande type creators en influencers. Met generatieve AI dreigt ook de tweede en derde stoelpoot van dit mediabedrijfsmonopolie te verdwijnen. Kun je op een poot nog wel overleven, is de logjsche vraag...

Evolutie van storytelling

Om even ultrakort de evolutie van storytelling/creatie te schetsen: heel vroeger creëerde de mens content door verhalen te vertellen (1), later ging men dat optekenen en opschrijven (2) en werd de informatie verder uitgebreid en onderbouwd (3). Vervolgens werd duplicatie (aka de drukpers) vereenvoudigd (4) en kwamen er, weer later, betere netwerken voor distributie (5). Sinds deze eeuw zijn het vooral de vormen voor consumptie (6) die veel simpeler en aantrekkelijker zijn geworden. Beetje kort door de bocht mediatechnologisch historisch verhaal, maar you get the idea.

The web + online users + AI = ?

Volgens Thompson zijn nu, met de komst van publieke, open text-to-image-toepassingen vrijwel alle stappen in deze keten vervangen door komst van the web, online users en AI.

Waar vroeger professionele makers, uitgevers, mediabedrijven en andere toeleveranciers elk hun taak hadden en daarvoor hun cut kregen van de inkomsten, daar komt nu ook generatieve AI knagen aan het creatiedeel.

Goed om erbij te vermelden is dat het perspectief van Thompson is dat al die stappen bottlenecks waren. Daar zullen mediabedrijven anders over denken... Thompson's voorspelling voor de nabije toekomst:

2. Toekomstscenario's

Afbeelding uit rapport If only the lake could talk - Media Evolution

Naast Thompsons voorspelling is het ook altijd fijn om wat meer methodischer te werk te gaan. Door bijvoorbeeld negatieve + positieve scenario's te ontwikkelen op basis van twee assen. Dat deden de Zweden van Media Evolution voor hun onderzoek met de titel 'If only the lake could talk'. Voor hun assen zijn ze uitgegaan van vrijheid versus controle en AI-overlords versus de mens .

Deze publiek-private denktank vraagt en beschrijft in een van de scenario's, getiteld 'Enhancing Human capabilities and creativity' het volgende:

👉🏽 Mocht je zin hebben in meer doom, gloom, wonder en utopia in een wereld vol AI, lees dan het rapport dan vooral eens rustig door.

Maar even, heel retorisch: als je kijkt met welke problemen we nu kampen, in Nederland, België, Europa, de Wereld... hoe tevreden ben je dan met de humans die de boel bepalen?

3. Chronos versus Kairos

Opening AI, media and democracy lab, Eye Filmmuseum Amsterdam, woe 14 sept.

Ja, ik had toch beloofd dat er meer Grieks aan bod zou komen?!

Zeer recent (gisteren aka woensdag 14 september 2022) was ik bij de opening van het AI, Media & Democracy Lab in Amsterdam. Tijdens deze bijeenkomst in het Eye Filmmuseum werden de deelnemende kennisinstellingen en bedrijven (o.a. UvA, BBC, Beeld en Geluid, DPG Media em RTL) gepresenteerd aan, en bevraagd door het publiek. De partners gaan binnen dit lab gezamenlijk op tal van de in de naam genoemde snijvlakken onderzoek doen. 

Chronos & tijdsgebonden journalistiek

Een van de uitgenodigde keynote speakers was Charlie Beckett. Hij is professor van The London School of Economics en leidt het JournalismAI-project. Beckett vroeg zich af of journalisten misschien weg moeten bij het concept/heersende paradigma en principe van chronologische tijd, 'chronos'.

Wat betekent 'nieuws' nog eigenlijk?

Nu de beleving en consumptie van media zo gefragmenteerd, gedecentraliseerd en gepersonaliseerd is geworden, is 'nieuws' -iets dat nieuw is- van zeer geringe waarde voor een steeds grotere groep.

Je kunt die oude notie van 'nieuws' zo bezien als achterhaald beschouwen. Want iedereen maakt nieuws, en iets 'nieuws' is niet langer het exclusieve domein van journalisten of organisaties die zichzelf voorheen (en eigenlijk nog altijd) onder 'nieuwsmedia' scharen.

Enter 'kairos'

Het begrip 'kairos', zo interpreteer ik Beckett vrijelijk, gaat meer over een tijdservaring. Dat je iets op het juiste moment doet, op de juiste gelegenheid wacht om iets voor elkaar te krijgen.

Wil de journalistiek, de journalist overleven, dan zal het moeten accepteren dat de snelste zijn, de efficientste zijn en working around the clock, een verloren strijd is. De continue strijd om aandacht - bezien vanuit het chronos-perspectief van beperkte tijd bij zowel maker als consument- is steeds minder houdbaar en wellicht eerder eindig door de komst van AI dan we denken. (Zie ook Ben Thompson's analyse eerder deze brief).

De toekomst van gelegenheids-AI

Als ik zelf wat doorfilosofeer kom ik tot het besef dat omgaan met en denken over AI ook kairos vergt. Je moet als journalist leren begrijpen wat het juiste moment is om AI in te zetten. Je moet in staat te bepalen wanneer AI helpful en waardevol is, ongeacht de fase van het maakproces; of het nu gaat om onderzoek, verzamelen, produceren, publiceren of distribueren. Op al die momenten, binnen al die fasen hoort niet zozeer een chronologisch tijd, maar is het de gelegenheid die bepaalt of, wanneer en hoe je met AI samenwerkt.

Verfrissend wel, dat kairos-denken. Thank you, Charlie!

Check this out

The Follower – Dries Depoorter — driesdepoorter.be

Using open cameras and AI to find how an Instagram photo is taken. Dries Depoorter creates artworks about surveillance, privacy, social media and machine learning. Dries is based in Ghent, Belgium

Twitter tweet

Hoe we een computer hebben leren Tinderen om nepprofielen te herkennen | KRO-NCRV — pointer.kro-ncrv.nl

Mooie making-of van dit onderzoek, met uitgebreid beschreven hoe het toepassen van computer vision-software Lobe.ai hielp om nepprofielen te spotten.

✅ Dat was 'm weet. Tot volgende week.