HAIK - Hela AI-Köret

Vad den gamla styrelsen i OpenAI borde sagt om Sam Altman

Gustav Juntti — Sun, 26 Nov 2023 15:42:21 +0000

Cześć! Denna meny består av 999 ord och tar 3,9 minuter att tugga i sig.

Dagens takeaway: OpenAI verkar må okej. Men fler borde prata om hur Sam Altman försöker sko sig på deras affärsmodell och påverka besluten utifrån.

Är nu en route till särintressenas huvudstad Bryssel för att marineras i AI-politik och annat. Planerad balans Nato/choklad/musslor: 40/30/30.

/Dagens meny 🥘

Vad styrelsen för OpenAI borde sagt om Sam Altman 💰️

/Plusmeny 🍺

Hur generativ AI inte är som Google 🌎️

/ Prat 🦜

Vår förvirring beror på bra (dålig) design 📝

/ Digestif 🥃

Max Tegmark är inte jättebra på att kommunicera 🎤

/ När Sam Altman böjde pengarören 💰️

Det råder inbördeskrig på OpenAI. En AI-forskare jag nyligen pratat med beskrev det som “Game of Thrones fast i Silicon Valley.”

Öppna makt- eller falangstrider på snabbt växande bolag är ingenting nytt. Det har skett i många industrier som järnväg, telekom och tobak förut. Sociala medier, främst Facebook, har sett sin beskärda del.

Bråken sker oftast när den gamla ordningen, med ursprungliga grundare och investerare, uppfattas som ett hinder för utvecklingen. De har sannolikt emotionella investeringar i verksamheten som inte linjerar med det utvidgade företagets bästa. Och då har en styrelse all rätt att kräva förändring.

Det är åtminstone en del av förklaringen till att Sam Altman haft tre jobb på tio dagar.

Det går att bryta ner ytterligare i fyra komponenter.

Han åkte till Mellanöstern för att äska flera miljarder dollar till Tigris - ett projekt som ska bygga nya chip för bättre AI-utveckling.
Han vill bygga “AI-erans iPhone” ihop med Apples förra designguru Jony Ive – hårdvara som ska använda ChatGPT. Pengar har raggats i bland annat odemokratiska Saudiarabien.
Sam Altman har plöjt ner 375 miljoner dollar i Helion, ett nytt företag som år 2028 ska leverera fusionskraft till Microsoft – OpenAI:s största ägare.
Han har personliga investeringar i drygt 400 techbolag som uppsnackade “Iphone-dödaren” Humane, samt andra som Asana och Cerebras – som alla använder OpenAI:s tjänster.

Sett var för sig är ingen av punkterna särskilt dåliga.

Ett nytt chipbolag utmanar Nvidia som har monopol på hårdvara för AI-utveckling. Konkurrens är bra.
En skärmfri tillvaro där våra enheter styrs med generativ AI, typ som Humane gör, är bra.
Billigare energi är bra. Om det därmed ger billigare utveckling och tillgång till AI-tjänster är det kanske bra.
Att sprida kunskap och kapital ut i innovationsekosystem är avgörande för människors och länders ekonomiska och sociala utveckling.

The Big But: De första två punkterna innebär att han för egen vinning använder OpenAI som en plattform att tjäna pengar vid sidan av. De andra två betyder att han genom egna medel influerar, direkt och indirekt, vad OpenAI ska ägna sig åt. Båda tendenserna måste en styrelse tämja.

Ett kliv bort: De som bygger AI, och som därmed har ekonomisk och social makt på en skala som knappt synts förut, har rätt extrema värderingar, enligt en studie av två svenska forskare. Det är värt att tänka på när vi använder eller diskuterar generativ AI.

/Plusmeny 🍺

#1 🌎️

De flesta ungdomar som använder generativ AI, exempelvis ChatGPT, tycker att tjänsten är “som Google, fast bättre” för att citera en gymnasieelev jag träffat. En annan, som jag inte träffat, kallar den för “hela Google i ett paket”.

Det är intressant att tjänster som bygger på språkmodeller, exempelvis ChatGPT, börjat användas som sökmotorer fast de aldrig var byggda för det.

De ÄR däremot inte sökmotorer. Varför?

De kan skriva, korrigera och felsöka grammatik, programmeringskod och matematik. Googlar du ett mattetal eller stavning så får du resultat eller förslag som handlar om massor av annat som verkar innehålla de orden. Men du hittar inte rätt klipp som förklarar andragradsekvationer eller en sida som beskriver syntax.
De kan generera bilder, ljud och filmer. Google kan hänvisa till det, men aldrig skapa sådant material.
De ger enskilda svar. Vill du veta vilken bil du ska köpa kan du pressa tjänster som ChatGPT att svara. Det går inte att få personliga rekommendationer, hur godtyckliga de än är, via en sökmotor. De kommer visa sidor med biltester. (Vad för sorts data har ChatGPT tränats på för att rekommendera en Toyota och inte en Volvo? Är det jag som är tråkig?)
De ska förutspå nästa ord i en mening. Kanske uppenbart, men uppenbarligen inte tydligt nog bland gemene kid. Google har ägnat 25 år åt att skapa snabbare och mer relevanta sökresultat. Det gör inte OpenAI.

Förhoppningsvis går det att driva hem den här poängen hos kidsen, så vi inte tappar blicken på vad stora techbolag gör med vår data och varför, genom att sammanblanda deras syften, värden och affärsmodeller.

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

För länge sedan föreslog någon att debatten om artificiell generell intelligens (AGI) skulle bedarra om dagens AI-tjänster var mindre personliga. Exempelvis att svaren i ChatGPT (notera: inte från) inte får innehålla ord som jag, min eller vi. I stället kunde det stå något i stil med “databasen föreslår…”.

Det här verkar Frank Dignum, professor vid Institutionen för datavetenskap vid Umeå universitet, hålla med om. Vid en föreläsning om AGI tog han upp hur designen av tjänsten påverkar debatten.

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#4. Maxat.

De är inte brydda om säkerhet, så länge de tjänar pengar. Det är min summering av AI-pessimisten Max Tegmarks kommentar till SVT gällande inbördeskriget på OpenAI.

De är giriga i så måtto att de för några år sedan ändrade stadgarna i det som då enbart var en icke-vinstdrivande organisation, så att det ska gå att tjäna pengar på bättre AI.

Men att bolaget är nöjt med vad som helst så länge pengarna flödar, är det verkligen en rimlig beskrivning? De bryr sig, åtminstone enligt deras pr-strategi, om säkerhet.

Bolaget är tveksamt till att göra språkmodeller, algoritmer, dataset och specifikationer fritt tillgängliga just för att vem som helst då kan dra iväg och skapa kaos.

Det är ungefär vad Eliezer Yudkowsky, som lanserade tanken om vänlig AI, förespråkar: Det är säkrare att inte vara öppen. Han vill dock att all utveckling ska vara helt stängd, alltså nerstängd. Men folk litar på honom, så varför blir bolagets hållning misstänksam?

OpenAI är inte bra på kommunikation. Därför hamnar de ständigt i skottlinjen. Men Max Tegmark är inte heller jättebra.

Som en AI-forskare jag nyligen träffat summerade det: “Det som är synd är att han inte nödvändigtvis har fel, men folk inte vet vad de ska göra med informationen.”

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

De öppna språkmodellernas dag 🇸🇪

Gustav Juntti — Fri, 17 Nov 2023 14:19:00 +0000

Namaste! Denna meny består av 1055 ord och tar 4,5 minuter att tugga i sig.

Dagens takeaway: Skandinavien går sin egen väg och släpper högkapabla språkmodeller för fri användning. Det kommer stärka förtroendet för generativ AI på lång sikt. Hit måste politiken och civilsamhället pressa stängda modeller.

Vi laddar inför På Spåret, bullbak och 6-årskalas för Johannas kusin. Tjing!

/Dagens meny 🥘

En milstolpe för de öppna modellernas förespråkare 🇸🇪

/Plusmeny 🍺

Satana micket data 🇫🇮

/ Prat 🦜

Hemläxan är död 🪦

/ Digestif 🥃

George Stigler och “regulatory capture” inom AI-världen 🎣

/ Blott Sverige svenska språkmodeller kan 🇸🇪

En stor milstolpe. Så beskriver folk inifrån och utanför AI Sweden som jag pratat med veckans publicering av språkmodellen GPT-SW3. Det har de alldeles rätt i.

Nu kan alla som använder nordiska (nordgermanska, för att vara noggrann) språk – svenska, norska, danska, isländska och färöiska – utveckla egna tjänster utifrån en fritt tillgänglig och öppen teknik.

Den data man själv stoppar in flyger inte iväg till USA. Och det går, till skillnad från de amerikanska bolag som driver de mest populära tjänsterna i dag, att kolla vad för sorts data som använts.

Det stärker inte bara den tekniska utvecklingen av bättre modeller och tjänster, utan lika mycket den samhälleliga tilltron till tekniken.

Som Markus Lingman, årets AI-svensk 2020 och överläkare/strateg vid Region Halland, pekar på kan svensk vård nu testa språkmodeller i sin vardag för att “sammanställa journaltexter, information från röntgenbilder och labbresultat för att skapa en bild över en patients hälsosituation”.

Tar teamet på AI Sweden paus nu för att låta modellen ändra den nordiska världen (eller den nordgermanska språkvärlden)? Nja.

De har ju egentligen haft modellen mer eller mindre på plats i ett års tid. Så de har självklart börjat jobba med annat.

En sådan grej är TrustLLM, ett projekt som satte igång 1 november med drygt 70 miljoner kronor från EU:s forskningsprogram Horizon.

AI Sweden ska, ihop med Linköpings universitet och tio andra organisationer från Norge, Nederländerna, Tyskland, Island och Danmark, skapa en långt mycket större språkmodell än GPT-SW3.

Och det är inte nordgermanska språk utan germanska språk, däribland tyska och nederländska, som är fokus. Det är en tydlig nivåhöjning av europeisk språkmodellsforskning.

Kul: Ett av de 53 officiella germanska språken/dialekterna är krimgotiska, som dog ut på 1700-talet. Kan det gå att återskapa med TrustLLM? I så fall är ju den putslustige personen bakom kontot Muralgranskaren rökt.

Men: En av de involverade i TrustLLM, Fredrik Heintz från Linköpings universitet, säger att EU ska “leda genom innovation” och “inte bara genom reglering”. Det är bra.

Samtidigt säger hans kollega Marco Kuhlmann att denna öppna modell, som ska vara klart bortåt oktober 2026, ska bidra till att EU kan vara lika bra eller bättre än de stora internationella företag som bedriver språkmodells-business. I klartext: EU ska tävla med Amazon, Meta, OpenAI/Microsoft, Anthropic och några till om att göra bäst modeller. Det låter inte rimligt.

/Plusmeny 🍺

#1 🇫🇮

Visst, GPT-SW3 är en milstolpe. Men det finska bolaget Silo AI, som är partner till AI Sweden, har också jobbat hårt.

I måndags släpptes Poro, som betyder ren (alltså djuret) på finska. Den är snäppet mindre än den svenska modellen men är tränad på satana micket data.

GPT-SW3 tränades på 1,2 terabyte data. Det motsvarar 1,2 miljoner kopior av Fjodor Dostojevskijs roman Brott och Straff.

Poro har tillgång till EU:s språkprojekt HPLT, som har samlat in 7 000 terabyte data. En helli-vitti massa tegelstenar av ryska romantiker.

Den kan än så länge finska, engelska och olika programmeringsspråk. Men med tanke på att projektet har HPLT och Europas största superdator Lumi i ryggen lär det inte dröja länge förrän de når sitt mål: att bygga världens största öppna språkmodell.

Det feta: Silo AI jobbar med finska public service-bolaget Yle för att skapa teknik som reflekterar och representerar “vår lokala kultur” som Yle-chefen Merja Ylä-Anttila säger. Tänk om man äntligen kan förstå folk från Karesuvanto, Savolax och Kittilä på tv?! Hyvää työtä!

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Ingen gör läxorna längre, nu när generativ AI löser allt. Så låter det bland de kids jag snackat med.

Nej, inte riktigt. Vissa gillar fortfarande läxor och uppgifter, precis som det alltid varit. Andra har blivit okej med att göra dem för att tjänster som ChatGPT finns. Och några tycker inte om läxor oavsett vad de har för förutsättningar eller hjälpmedel.

På Skolverket ansvarar Johan Falk för en grupp som arbetar med data och AI inom undervisning och utbildning. Han höll nyligen en presentation för OECD om myndighetens arbete med hur eleverna ska bedömas i dessa AI-tider.

Modellen med hemläxor ger han inte mycket för.

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#2. George Stigler och regulatory capture.

Regulatorisk fångst låter inte så bra. Men det har varit ett centralt begrepp inom nationalekonomisk forskning sedan 1970-talet då ekonomen George Stigler gav sig på konsekvenserna av ekonomiska regleringar i USA.

Regulatory capture betyder att en organisation, oftast ett privat företag, tar marknadsandelar genom regleringar som ställer så höga krav att nya konkurrenter inte klarar av att ta sig in på marknaden. Enkelt sagt: Statens regler skapar monopol, duopol eller oligopol.

Andrew Ng är en tongivande person inom AI. Han skötte förut Google Brain och därefter Alibabas AI-grupp. Nu är Stanfordprofessorn orolig för att detta skapande av ett mono/duo/oligo-pol sker framför våra ögon.

Det här hänger ihop med AI Swedens släpp av GPT-SW3. Genom att utveckla modellen “ideellt”, alltså utan vinstmotiv, vill man demokratisera användningen och tillgången till språkmodeller. Och genom att släppa allt öppet, så kallad open source, kan folk bygga vidare på deras arbete.

Andrew Ng ser ett gäng stora techbolag som inte vill konkurrera med open source-initiativ, “så de skapar rädslan att AI leder till människans utrotning”.

Det är klassisk lobbyism, att be om eller uppmuntra till lagstiftning som skadar ens konkurrenter. Det har skett inom tobaksindustrin, telekomindustrin, fordonsindustrin, flygplansindustrin, järnvägarna och så vidare på typ alla områden med stor ekonomisk aktivitet.

Jag håller med Ng till ett hundra procent.

När OpenAI sitter i amerikanska kongressen och pekar ut statliga licenser som ett sätt att skapa säkra AI-modeller säger han i praktiken att bara några kan och ska få utveckla tekniken, och att staten ska välja vinnarna.

Att inte reglera tekniken är inte en framkomlig lösning, vare sig ekonomiskt eller politiskt. Men det handlar om vad man gör. Enligt Ng kommer innovationen “krossas” om de föreslagna regleringarna genomförs.

Att slå ett slag i luften med handlingslösa dokument eller initiativ är illa, men då gör man åtminstone ingen skada. Att stifta lagar och regler som pajar innovationen och konkurrensen, det orsakar tydlig ekonomisk skada för samhällen. Det är tyvärr dit vi är på väg.

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

Algoritmen som vann ett äpple 🍎

Gustav Juntti — Fri, 27 Oct 2023 12:55:00 +0000

Buorre beaivi! Denna meny består av 994 ord och tar 4 minuter att tugga sig igenom.

Dagens takeaway: De stora AI-bolagen vill finansiera oberoende forskning om risker, säkerhet och ansvarsfull användning av generativa språkmodeller. Det är precis som tobaksbolagen en gång gjorde för att hindra politisk förändring.

Jag åkte till Tromsø igår som en del av Nordisk Journalistcenters stora Århuskurs. Temat är den nya verkligheten i Arktis. Vi besöker fiskare, samer, klimatforskare, militärbaser, medier, politiker och diplomater. Sen drar vi till Oslo för att hänga med Stoltenberg, ministrar och Nordiska rådet. Jag ska fråga om AI varje gång jag kan. Och bada i havet. Och kanske gå upp på fjället.

/Dagens meny 🥘

Algoritmen som vann ett äpple 🍎

/Plusmeny 🍺

Biden pekar med hela handen 👊
We shall overcome 🧑‍🤝‍🧑

/ Prat 🦜

Snart fattar vi hur dålig ChatGPT är 🤓

/ Digestif 🥃

Är Microsoft det nya Marlboro? 🚬

/ Inger Persson låter IVA jämföra äpplen och päron 🍎

I somras skrev jag en del om införandet av AI inom bröstcancerbehandling. Capio S:t Görans sjukhus i Stockholm var första bröstcancercentrum i världen att låta en AI-tjänst göra det som två läkare annars behövde göra, nämligen riskbedöma patienter utifrån röntgenbilder.

Sjukhusets intensivvårdsavdelning (IVA) har nu tagit rygg på onkologin. Från 5 oktober pågår en tre månader lång testperiod av Navoy, ett AI-baserat beslutsstöd byggt av företaget AlgoDx, för att bedöma patienters risk att utveckla sepsis (blodförgiftning).

Den underliggande algoritmen är utvecklad av Inger Persson, universitetslektor vid statistiska institutionen vid Uppsala universitet, ihop med ett team på AlgoDx. Den 6 oktober meddelade universitetet att man delar ut sitt innovationspris Hjärnäpplet till Inger Persson för algoritmen.

Navoy är integrerat i det befintliga övervakningssystemet som används på alla patienter på IVA. Varje kvart uppdateras riskbedömningen för om en patient utvecklar sepsis de närmsta tre timmarna. 20 parametrar som ålder, kön, kroppstemperatur och andra vitalparametrar, blodgastester och laboratorievärden används för att ge en risk mellan 1 och 10, ihop med en förklaring om hur säker modellen är. Det hjälper personalen att ta bättre beslut.

Ett stort ÄNTLIGEN: Jag pratade tidigare i år med en person från sjukvården som beklagade sig över att sjukvården inte frigör den kunskap som finns om varje patient. Sjuksköterskor, läkare och annan personal gör hela tiden observationer men de överförs på papper eller muntligt. De ger ingen helhetsbild av risken för att försämras eller för hur bra en medicin fungerar.

Och man frigör inte heller kunskapen från andra patienter när man går in i nästa behandling av en ny person. Kan Navoy vara ett första steg mot en dynamisk och responsiv vård? Man kan ju ta hjälp av AI-bolaget Detectivio som gör saker lättare.

Ett större MEN: Navoy testades först på Södersjukhuset. Nu integreras beslutsstödet på S:t Görans, en kvarts cykeltur bort. Men de har olika journalsystem så Navoy måste skräddarsys för varje system. Enligt Läkartidningen används nio olika journalsystem inom regional vård. Norrbotten har ett egetutvecklat från 1980-talet (som AI-toppen Halland också använder), grannen Västerbotten kör en annan variant, och så här håller det på…

/Plusmeny 🍺

#1 👊

Det kommer en exekutiv order om AI från USA:s president Joe Biden på måndag, enligt Axios Pro och Washington Post.

Det finns, som jag skrev förra veckan, skarpa ekonomiska och politiska motsättningar i hur beslutsfattare vill definiera fältet liksom sitt eget ansvar. Nu verkar presidentens veckovisa AI-möten ha renderat i en riktning.

Det blir kul att se vilka techbolag som ställer sig bredvid presidenten när ordern tillkännages. Det indikerar vilka som är tillräckligt självsäkra på att de ligger i linje med Vita Husets ambitioner, och vilka politiken anser är vettiga källor för inflöde och diskussion. Det formar förstås policyn, så det här är nog ett formativt skede för hur demokratier förhåller sig till AI.

#2 🧑‍🤝‍🧑

Den exekutiva ordern lär sätta tonen för Storbritanniens globala konferens om säker AI. De vill diskutera två sorters risker: kontrollförlust och missbruk.

Redan i våras sa den brittiske finansministern Jeremy Hunt att väst “måste vinna loppet” att sätta globala standarder för AI. Men han var inte orolig för massarbetslöshet.

Säkerhet betyder en sak för stater. Det betyder en helt annan sak för människor i sin vardag som behöver mat på bordet.

Det led Storbritannien kraftigt av under 1800-talets början när automatiseringen av textilindustrin gav upphov till enorma motsättningar mellan utnyttjade arbetare å ena sidan och fabriksägare och fjärmade politiker å andra sidan.

Man måste inte vara apokalyptiker för att lyfta fram värdet av politisk beredskap för strukturella problem på arbetsmarknaden i spåren av automatisering.

Därför är jag också intresserad av hur Sverige deltar i och bidrar till konferensen. Vi har ju en självbild av att vara tekniskt framstående och samtidigt bry oss om den lilla människan. Vi lär dock inte vara kvar under konferensens dag två, när bara de främsta politikerna, företagen och forskarna får dela tankar.

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Den här Lundaprofessorn skräder inte orden. Han brukar säga att “studenterna vet mindre än någonsin men uppsatserna har aldrig varit så bra som nu.” Det är för att de lever “i symbios med Google och AI”.

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#5. Gemensamma åtaganden.

De största AI-bolagen Anthropic, Google, OpenAI och Microsoft lanserade i somras Frontier Model Forum, en sorts gemensam fikastund där de vill prata om AI på sitt sätt.

Nu har man utsett en vd, Chris Meserole, för forumet. Och därtill avsatt 10 miljoner dollar till en “säkerhetsfond” för att stödja “oberoende forskning” om risker och säkerhetstekniker. Ansvarsfull AI är ledorden.

Ända sedan jag läste boken The Cigarette av Sarah Milov uppstår en känsla av misstro och vanmakt när nya initiativ att reglera och granska sig själv dyker upp.

Att de stora spelarna skulle ägna sig åt forskning, rekommendationer och teknikutveckling som inte gagnar dem själva är svårt att se. Även om de kan leverera bra och genomtänkta produkter och policys måste man förstå att de från början kommer från bolag som hotas av skarp lagstiftning.

Att skapa en säkerhetsfond är ungefär lika trovärdigt som när tobaksbolagen finansierade oberoende forskning om rökningens hälsoeffekter och alltid kom fram till att det inte var så farligt, eller att det vetenskapliga läget är oklart och att mer studier behövs.

Tobaksjättarna har ägnat snart 100 år åt att så tvivel om deras produkter, för att sätta politiken på pottkanten och därmed slippa skatter, krav och förbud.

Exakt samma sak har sociala medier och till viss del andra plattformsföretag gjort de senaste 15 åren.

Jag må vara cynisk och enögd, men i detta fall väljer jag det perspektivet för att historien pekat ut industri efter industri som använt samma metod för att skydda sig själva. Och det skadar samhällen, personer och ekonomier.

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

Om ingen får se algoritmen, har den då funnits? 🤔

Gustav Juntti — Fri, 20 Oct 2023 12:54:00 +0000

Shalom! Denna meny består av 1064 ord och tar 4,5 minuter att tugga sig igenom.

Dagens takeaway: Ju viktigare språkmodeller blir för samhället, desto viktigare att de går att granska. Men transparensen blir bara sämre, enligt en ny rapport från HAI vid Stanforduniversitetet.

Förra veckans HAIK utgick av flera skäl. Det var INTE för att vi sprang vilse på långloppet 7 oktober. Nästa vecka är min sista på VLT, sen börjar en intensiv skrivperiod med reportageboken om AI. Är riktigt peppad!

/Dagens meny 🥘

Om ingen får se algoritmen, har den då funnits? 🤔

/Plusmeny 🍺

En lysande satsning på Aftonbladet 💡
Mediedöden är inte riktigt här 🪦

/ Prat 🦜

Björn Lundqvist från Stockholms universitet 🎓️

/ Digestif 🥃

Teknooptimisterna mot apokalypsens lobbyister ⚡️

/ Alla borde prata modellopacitet 🤔

Min namne (nästan) HAI är ett ställe jag verkligen gillar. Hela namnet är egentligen The Stanford Institute for Human-Centered Artificial Intelligence, men alla vet ju att AI-fältet bara består av akronymer.

HAI-institutet har ett forskningscentrum inom sig som kallas CFRM. Det forskar på hur grundmodellerna för många av dagens AI-tjänster utvecklas och fungerar.

I onsdags släppte de ett nytt index, FMTI, som mäter transparensen för de tio största grundläggande modellerna, exempelvis Claude från Anthropic, GPT4 från OpenAI, Stable Diffusion från Stability AI och Facebooks variant Llama.

Den 100 sidor långa sammanställningen är inte rolig läsning.

Det mest uppenbara resultatet är att utvecklare som kör med öppna kort ligger bättre till på varenda delmått av transparens, från datainsamling till träning till användningen.

Det lite mindre uppenbara är att bolagen bakom de stängda modellerna lägger mer tid och resurser på att engagera sig i och driva frågor om transparens, trovärdighet och risker.

Det är med andra ord en klassisk PR-strategi för att bygga en röst och en närvaro i diskussioner om öppenhet och pålitlighet, för att förknippas med den typen av ord och forum och därmed flytta fokus från sina egna tillkortakommanden. Som skaparna av indexet skriver:

Det här är verkligen politikens största gissel, inte bara för en digitaliseringsminister eller några teknikintresserade riksdagsledamöter.

Vi kan inte upprepa samma misstag med stängda, självreglerande plattformar vars särintressen krockar med samhällsintressen att bygga dominans.

Jag tror dock att vissa länder, eller institutioner som EU, förstått vad digitala plattformar kan och ska ha för plats i demokratier.

/Plusmeny 🍺

#1 💡

Aftonbladet verkar gilla AI. Kanske för att de läst HAIK, vem vet. Men deras nya, sju man starka nav för att utforska tekniken är i mina ögon en kraftfull signal om hur de påverkas av utvecklingen.

Det fina är att navet inte bara ska göra medarbetarnas arbetssituation effektivare eller ge dem nya verktyg för att gräva i saker eller överblicka stora mängder information.

De skriver också att syftet är att göra jobbet roligare. Det är värdefullt i sig, men särskilt i relation till att många utgår från att de kommer bli mer avskärmade eller avhumaniserade i sitt jobb på grund av AI-tjänster.

#2 🪦

Apropå medier och AI. I vintras gick jag kursen JournalismAI Discovery hos brittiska Polis, en tankesmedja inom London School of Economics.

Polis släppte redan i november 2019 en första sammanställning av hur media såg på och använde AI. Nu har de gjort en ny variant med nedslag i 46 länder.

Jag träffade i maj Charlie Beckett, ansvarig för Polis och hela rapporten. Han var verkligen taggad på att förstå hur medier omfamnat eller blundat för den generativa teknikens påverkan på deras uppdrag. Det syns exempelvis i deras funderingar i slutet av juni: Kommer det finnas riktiga AI-medier och AI-journalister?

När internet slog igenom påverkade det distributionen av och formatet på nyheter. Nu står vi, enligt Beckett, vid en liknande “kritisk vändpunkt” i mediehistorien.

Men tre av fyra medier är positiva till möjligheterna som AI skapar. Det betyder att vi kanske lärt oss ett och annat kring övergångar från ett tankesätt till ett annat de senaste 20 åren. Samtidigt menar de flesta i undersökningen att “bristen på fokus eller resurser i vår egen organisation är det största hindret” för att använda AI på medieföretag.

I feel you. Just nu jobbar jag på VLT i Västerås. Fantastiskt folk, väldigt bra arbete med nyheter, information och berättelser som berör läsare. Men på sin höjd är det någon som lekt lite med att generera bilder i en AI-tjänst. Det varken produceras med eller rapporteras om AI. Och de robottexter som skrivs om matcher i fotbollens division 6 eller fastighetsförsäljningar uppfattas som “AI-material”.

Om gemene man tycker att AI är svårt kan det nog finnas en viss förklaring i att deras medier är lika passiva (Aftonbladet får väl sägas vara det regelbekräftande undantaget).

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Jag träffade i veckan Björn Lundqvist, professor i europarätt med inriktning mot konkurrensrätt vid Stockholms universitet, för en fika och lite prat om öppen data, ägandet och delandet av data och rättvis konkurrens.

Björn har precis släppt en bok om precis detta, och körde nyss ett seminarium hos SNS på temat.

Vi såg ganska lika på frågan om hur politiken, juridiken och samhället ska angripa vem som tjänar på, och ska få tjäna på, den data som exempelvis AI-tjänster genererar. Det är inte lätt. Vi hamnade rätt snabbt i filosofi, sociologi, nationalekonomi och historia. Schumpeter, Hayek, Friedman och Marx nämndes.

Kuriosa: För länge sedan hade Björn faktiskt självaste Dragoș Tudorache, EU-parlamentarikern som drivit arbetet med EU:s lagpaket för AI, som student inom europarätt på SU. Han var tillbaka i våras för att prata om lagstiftningen, men var enligt uppgift “rätt svår att få tag på”. Bra att han jobbar.

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#3+4. Slagfältet.

Jag gillar Marc Andreessen. Hans snack om vad Galileo hade gjort i AI-tider är fortfarande en av de roligaste tankarna jag brukar leka med för att förstå hur världen relaterar till språkmodeller.

Han är djupt investerad, finansiellt och emotionellt, i AI. Så det är klart att han gillar det. Däremot så märks det att han genuint tror på det positiva inuti detta tekniska aber.

Hans manifest är extremt. Han skriver att våra efterlevande kommer bo “i stjärnorna” och att den “teknokapitalistiska maskinen” är fundamentalt människovänlig. Det GÅR dock att se hans poänger, om man är välvillig.

Men Andreessen har några amerikanska miljardärskompisar som tänker annorlunda, och därför plöjer in massiva summor i att nå beslutsfattare i kongressen.

Jag har återkommande skrivit om och följt senator Chuck Schumer som tagit en ledande position vad gäller AI-reglering. Hans tre närmsta medarbetare inom AI-policy, vilket får sägas vara hans just nu främsta område, har alla tjänstemän och rådgivare från Horizon Institute hos sig – avlönade genom miljardären Dustin Moskowitz, medgrundare till Facebook.

Horizon jobbar inom rörelsen för effektiv altruism, där bland andra Max Tegmark, Olle Häggström och Anders Sandberg är involverade, och vill att politiken fokuserar på människans överlevnad samt hoten mot vår existens från AI.

Det är kladdigt, jag vet. Men det är tydligt att politiken dras mellan två starka poler. Sanningar och framkomliga vägar ligger oftast mellan extremerna.

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

Marx grymtar till liv 🧓

Gustav Juntti — Fri, 06 Oct 2023 14:16:00 +0000

Hej! Denna meny består av 959 ord och tar 4 minuter att tugga sig igenom.

Dagens takeaway: Vi behöver prata mer om produktion, ägandeskap och delande av data om vi ska ha en chans att påverka hur AI-system byggs och används.

Imorgon långlopp längs Sörmlandsleden. I dag sedvanlig uppladdning med ris och marmelad. Trevlig helg!

/Dagens meny 🥘

En 200 år gammal konfliktdimension vaknar till liv 🧓

/Plusmeny 🍺

150 års utveckling på 1,5 år 📸
Folk i norr är less ❄️

/ Prat 🦜

Benjamin Netanyahu pratar flytande AI 🇮🇱

/ Digestif 🥃

En geopolitisk omvälvning

/ Marx hade älskat essentiella relationer 🧓

Jag hängde i torsdags på ett seminarium hos forskningsinstitutet SNS om delad data. Anledningen var att juristen (“konkursrättaren” som han själv sa) Björn Lundqvist, professor vid Stockholms universitet, släppt en bok om att reglera tillgång till och överföringar av data.

AI-forskaren Maja Fjaestad var seminariets ciceron. Hon betonade en grej som fastnade. Vi måste fundera igenom de “essentiella relationer” mellan data och individ, precis som samhällen gjorde under 1800-talet när det kom till arbete, kapital och fördelningen av värdeskapande.

Essentiella relationer… Vackert!

Fjaestad, som tidigare varit statssekreterare åt flera socialdemokratiska ministrar, vill uppenbarligen väcka liv i den gamla konfliktdimensionen arbete-kapital. Det gör att man från den sidan av de politiska förslagen och idéprogrammen kan prata omfördelning, äganderätt och anständiga villkor för alla.

Men det här funkar inte riktigt. En klok person påpekade att individens data i dag är som att folk förut skulle ha samlat ihop våra bilars avgaser och sålt vidare. Vi släpper ifrån oss saker som i sig inte har ett särskilt stort ekonomiskt eller socialt värde.

Min invändning var, och är, att det i dag finns stora och lovande tekniker som kapitaliserar på insamlingen av människors avgaser och andra utsläpp. Jag tror dessutom att data, hur ovärdefull den än är i nedbruten form, skapar värde inom specifika tekniska och ekonomiska modeller på sätt som upphovsmakarna, vi, aldrig har åtkomst till.

Björn Lundqvist föreslog att vi borde få royalties från bolagen som tar, använder och säljer vidare personlig data.

Frågan är dock vem som är användare, vem som är värdeskapare och vem som är mottagare. Vi utför väl inget jobb åt Facebook när vi laddar upp bilder? Kan vi då kräva ersättning? Jag vet inte, men det är svårt att se att vi vill ha det så. Plötsligt blir de flesta aktiviteter vi ägnar oss åt arbete. Men arbete, och därmed det värde som behöver uppstå för att det ska bestå över tid, måste dock bygga på genuina behov.

Seminariet behandlade AI lite perifert. Men jag ser produktionen och ägandet av data, i synnerhet öppna data, som en central del av diskussionen för hur AI ska förstås, regleras och användas.

/Plusmeny 🍺

#1 📸

År 1826 togs det första fotografiet. Ett och ett halvt sekel senare, år 1975, uppskattades att 15 miljarder fotografier tagits runtom i världen.

I en ny sammanställning uppskattar Everypixel, en AI-blogg, att det tagit ett och ett halvt år för världen att generera 15 miljarder illustrationer (jag tycker inte de går att kalla bilder ännu – men konventionerna lär ändras) med AI-modeller.

Stable Diffusion, som kom i augusti 2022, är den mest använda modellen. Den, eller tjänster som bygger på den underliggande och fritt tillgängliga tekniken från Stable Diffusion, står för runt 80 procent av dessa 15 miljarder illustrationer som gjorts med text-till-bild-modeller.

Det här är viktigt. Om 12,6 miljarder illustrationer skapas med en öppen modell är det en fingervisning om hur teknik sprids och förväntas spridas.

#2 ❄️

Carin Nilsson (S), ordföranden i Umeå kommuns äldrenämnd, är arg. Både på IVO och AI.

Den förstnämnda är Inspektionen för vård och omsorg. Myndigheten har använt AI för att granska kommuners socialförvaltningar, enligt en tillförlitlig källa till Nilsson. Det låter löst, men hon säger till Västerbottens-Kuriren att hon inte hade agerat annars. (IVO bekräftar att AI användes “endast för att göra journalerna granskningsbara vid tillsynen av särskilda boenden.”)

Granskningen gillades inte av socialcheferna i Norr- och Västerbotten. De drog iväg ett brev (mail, hoppas jag) till sjukvårdsminister Acko Ankarberg Johansson (KD) i juli. De menade sig ha blivit felaktigt bedömda, och att samma brister påtalades för i princip landets alla kommuner. Något måste ju ha blivit fel med denna AI-granskning…?

Det verkar inte riktigt så. Man har använt algoritmer för att hitta och sammanställa ordkombinationer. Däremot har orden som valts inte avspeglat hur äldreomsorgen dokumenterar sitt arbete. Därför får de dåliga betyg.

AI är knappast lösningen på allt. Hör ni det, IVO? Men det är heller inte lösningen på allt att skylla på AI. Hör du det Ume-Carin?

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Israels premiärminister Benjamin Netanyahu kan man säga mycket om. Men det är få ledande politiker som kan föra sig lika bra som honom i ett samtal om AI med Elon Musk, Max Tegmark och Greg Brockman.

Han var, precis som Fjaestad, inne på den historiska förändringen på arbetsmarknaden genom automatisering.

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#3. Geopolitik.

Ian Bremmer kan mycket om utrikes-, geo- och säkerhetspolitik. När han säger att företagens historiska ställning inte betytt särskilt mycket för länders säkerhet har han säkert rätt.

Men riskerna har ändrats. Företag lämnar beslutsfattare och folkvalda bakom sig i en kapplöpning.

Jag skulle säga att AI redan har vänt upp och ner på geopolitiken. Rysslands president Vladimir Putin sa redan år 2017 att den som kontrollerar AI-utvecklingen kommer dominera världen. Och när Xi Jinping tog över ledarskapet i Kina år 2012 var en ny AI-strategi snabbt på plats. De ville inte vara sena till festen.

Om ledarna i Ryssland och Kina tänkte så här för ett antal år sedan, betyder det i sin tur att administrationen, byråkratin och politiken runtomkring dem börjat arbetet tidigare än så. Det tar lång tid för idéer att bli politik, särskilt i diktaturer där allt måste tvättas från ansvar, demokrati och transparens.

Bremmer har många bra poänger. Suleyman också. Men det är ett misstag att tro att man nu kan påverka geopolitiken globalt sett genom AI-investeringar. Det man nu måste göra i demokratiska länder är att parera, skapa nya konfliktytor och ny policy, och återta förlorad mark. Det tar som sagt tid.

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

En lärare per elev 🤓

Gustav Juntti — Fri, 29 Sep 2023 13:04:00 +0000

Ellô! Denna meny består av 959 ord och tar 4 minuter att tugga sig igenom.

Dagens takeaway: Svensk skola kommer sakna tusentals lärare. Då behöver mer tid frigöras och nya sätt att undervisa tas fram. Generativ AI kan spela en viktig roll, som på Kungsängsgymnasiet i Sala.

Au revoir, som digitaliseringsministern lär behöva säga på sin studieresa om AI i Kanada.

/Dagens meny 🥘

När 12 000 lärare saknas kan AI-tjänster hjälpa med plugget 🤓

/Plusmeny 🍺

UAE + AI = OMG 🇦🇪
Den första AI-strejken är över ✏️

/ Prat 🦜

Den fruktade spiralen av medioker AI 😵‍💫

/ Digestif 🥃

300 miljoner visningar för AI-genererad desinformation 📺️

/ Hjälp lärarna att hjälpa eleverna 🤓

Du är en erfaren lärare i samhällskunskap på Kungsängsgymnasiet i Sala. Följande text behöver förkortas och förenklas utan att förlora grunderna i innehållet. Förklara även de viktigaste begreppen, föreslå tolkningar av texten och presentera det i en punktlista.

Så kan en instruktion till AI-tjänsten ChatGPT se ut, baserat på vad läraren Alexander Stiwenius vid nämnda gymnasium berättade för tidningen Sala Allehanda i måndags.

Han har börjat använda verktyget i undervisningen, som främst sker på barn- och fritidsprogrammets och samhällsprogrammets lektioner i samhällskunskap. Det här är uppmuntrande.

Många förfasas över att skolans digitalisering leder till barns infantilisering. Lärarkåren oroas över elevernas koncentration och kreativitet.

Skolminister Lotta Edholm (L) och utbildningsminister Mats Persson (L) gör allt i sin makt för att punktera uppblåsta föreställningar om skärmars pedagogiska nytta. Det är bra att alltför enspåriga tankesätt utmanas.

Men tjänster som ChatGPT är användbara i klassrummen, så länge de får tydliga instruktioner.

Det är sant att lärandet blir bättre av att hålla i en penna, ett papper eller en fysisk bok än en skärm.

Som Skolverket visat i en forskningssammanställning gör läsning av tryckta texter att läsförståelsen ökar, eleverna kan återge fler viktiga poänger i innehållet och kommer ihåg fler delar vilket gör att de enklare kan koppla ihop strukturen. Det borgar för djupinlärning. De som däremot läste digitalt överskattade sin läsförståelse, vilket riskerar att de inte lägger lika mycket tid på att lära sig.

Men nya funktioner i tjänster som ChatGPT gör att motståndet mot digitala läromedel riskerar att bli kontraproduktivt.

Numer går det att ladda upp bilder, exempelvis på ens hemläxa i matematik, och få strukturerade genomgångar av lösningen – eller ett simpelt svar på uppgiften. Det är dock inget nytt. Barn har alltid slagit upp facit först och listat ut räknemetoden baklänges.

Det finns även flera AI-tjänster som översätter röster, videos eller texter blixtsnabbt. Svenska elever kan lära sig med material från lärare och barn i Japan, Singapore, Finland eller Estland.

Och två amerikanska forskare har nyligen visat sju sätt som AI-tjänster kan gynna lärande. Som de skriver finns “distinkta pedagogiska fördelar” – men också risker. Sådant måste diskuteras, inte förbjudas.

Det är glädjande att läsningen ökar bland alla barn och betygsglappet mellan killar och tjejer i nionde klass minskar. Men undervisningen bör anpassas efter förutsättningarna. Enligt Skolverket kommer det att saknas 12 000 lärare i klassrummen år 2035. Det tarvar nya sätt för hur lärarna använder sin tid.

Ett är förstås att locka tillbaka en del av de dryga 35 000 examinerade lärare som valt att jobba med annat.

Men om Sverige ska må bra måste fler barn bli riktigt bra på att läsa, skriva och räkna. Det kan de få hjälp med av lärare som kan tänka sig att integrera AI-tjänster i sin undervisning och i elevernas egna studier.

Fuskanteckningen: Problematiken med större elevgrupper kan bemötas så här med hjälp av AI.

/Plusmeny 🍺

#1 🇦🇪

I en intervju säger Förenade Arabemiratens AI-minister Omar Sultan Al Olama att det “arabiska muslimska riket” var det enda i världen som förbjöd tryckpressen för 500 år sedan “på grund av rädslan för det okända”.

Och detta enstaka beslut “ledde till förlusten av varje ekonomiskt, vetenskapligt och kulturellt framsteg”.

De har med andra ord lite att ta igen, tycker Al Olama. Därför har de skapat ett dedikerat AI-universitet, de lockar till sig globala talanger genom skattefria monsterlöner, och staten ska lansera ett AI-bolag. Därtill har de skapat och släppt Falcon, en väldigt bra och populär språkmodell, liksom Jais-chat - den mest populära arabiskspråkiga modellen.

Förenade Arabemiraten har tio miljoner invånare. Det har Sverige med. Men vår BNP är 35 procent högre än deras, och vår ekonomi är mer dynamisk och diversifierad. Vi borde kunna göra större insatser på AI-området än i dag.

#2 ✏️

Jag skrev i våras att manusförfattarnas strejk i Hollywood kan ha varit den första AI-strejken.

Nu är den över, 146 dagar senare. Att lägga ner pennan så länge var förstås en kraftig signal till de som betalar lönerna att engagera sig i hur AI påverkar jobbet och sysselsättningen.

AI-tjänster får inte skriva eller skriva om “litterärt material” och AI-genererat material får inte användas “för att underminera en författares kreditering eller enskilda rättigheter.”

Därtill får de välja, med produktionspartnerns medgivande, om de vill använda AI-tjänster, men de kan aldrig bli tvingade till det. Och ska de bearbeta AI-genererat material måste de få veta det i förväg.

Det här är en väldigt nischad självreglering. Men det kan definitivt sätta tonen för andra kreativa näringars krav, rättigheter, skyldigheter och förhandlingar. Och det nya avtalet lär påverka vilket konstnärligt innehåll som skapas.

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Är värdet av AI för ekonomin så stort som vi tror? Och för vilka delar av ekonomin fungerar tekniken egentligen?

Riskkapitalbolaget a16z, som en av mina favoriter inom AI-debatten Marc Andreessen grundat, är rätt djupt investerade i tekniken - och frispråkiga om den.

Martin Casado, en av firmans partners, pratade nyligen om den “fruktade spiralen av medioker AI”.

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#4. AI-konspirationer.

NewsGuard har ögonen på AI, framför allt kinesisk. I våras handlade det om hur ChatGPT-3.5 spred mer desinformation på kinesiska än engelska.

Nu visar en ny analys hur 17 konton på den kinesiska appen TikTok sprider desinformation om covid-19, Barack Obama och skogsbränderna på Hawaii (de påstås vara högenergivapen, inte klimatrelaterade.)

De över 5 000 klippen, som är helt syntetiska men bland annat visar Obama som “pratar”, har fått över 300 miljoner visningar.

Det här fräter på förtroendet för stora teknikbolag, liksom för politikens uppfattning att bolagen klarar av att reglera sig själva. Det är korroderande för demokratin.

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

Ludditernas historia 🩸

Gustav Juntti — Fri, 22 Sep 2023 10:49:00 +0000

Hoho raringar! Denna meny består av 1164 ord och tar 4,8 minuter att tugga sig igenom.

Dagens takeaway: Det finns en lång historia av kamp mellan människor och maskiner som har spillt över i partipolitik och ekonomiska doktriner. Det är bra att tänka på när nästa våg av automatisering är över oss.

Solen lyser. Då stänger köket snart. Kam-sa-ham-ni-da!

/Dagens meny 🥘

Blod i maskinerna 🩸

/Plusmeny 🍺

Fördomar mot maskinerna 🧑‍⚖️

/ Prat 🦜

Magnus Sahlgren, AI Sweden 🦸

/ Digestif 🥃

En bibel för upphovsrätt ⛰️

/ 200 år av blodigt teknikmotstånd 🩸

Samhällets förhållande till automatisering har alltid varit komplicerat, och teknik har ofta tjänat som en projektionsyta för större oroligheter inom och bland människor.

Det är slutsatsen efter att den senaste månaden förhandsläst boken Blood in the Machines av techskribenten Brian Merchant. Den släpps 26 september i USA, och är en fin historieskrivning över teknikmotståndet i industrialiseringens Storbritannien under 1800-talets början. Det är också en kuslig pendang till dagens diskussion om AI-revolutionen.

Det finns en enkel idé som präglat århundraden av ekonomisk politik: vi ska göra mer med mindre. Ekonomer kallar det för att höja produktiviteten.

Det senaste året har många AI-tjänster vuxit fram som förenklar en hel del jobb. I vissa fall renderar de nästan jobben överflödiga, som i amerikanska Ohio där en person förklarar hur han med hjälp av ChatGPT har fyra heltidsjobb. “Fem vore overkill”, som han säger till nätmagasinet Vice News.

Det här är den nya drivkraften bakom produktivitetshöjningar. Och när sådana sker på kort tid, vilket är fallet med AI-utvecklingen, står stora massor av människor och funderar på vad de egentligen kan, vad de är värda och vad de ska göra härnäst. De har all rätt att oroa sig.

Den yttersta manifestationen för oron är förbud. Det blev väldigt vanligt att kräva i 1800-talets Storbritannien, och det är vanligt nu igen.

I Kalifornien sitter den demokratiske guvernören Gavin Newsom i en rävsax. Han är för innovation, teknik och de många ekonomiska nyttor som delstatens stora techföretag skapar. Han är också förankrad i arbetarrörelsen och facken, som länge stöttat Newsom politiskt och ekonomiskt.

Senast 14 oktober måste han ta ställning till ett lagförslag från delstatsparlamentet som vill göra det obligatoriskt att fram till år 2029 ha en människa i hytten på alla lastbilstransporter.

Poängen är tydlig: Stoppa AI-system som kan ratta fordon utan mänsklig inblandning från att ta jobben.

Redan nu kör dock bilar från Waymo, ägt av Google, och Cruise, ägt av fordonsjätten GM, runt på San Franciscos gator dygnet runt. Det ser lite märkligt ut när de svänger runt ett hörn och förarsätet är tomt.

Svenska Einride är ett annat fantastiskt exempel på självkörande eldrivna fordon. Deras skogsfordon kan ta upp till 16 ton timmer och navigera oländig terräng, och fraktbilarna har fått godkänt att operera i höga hastigheter på motorvägar i USA. Redan i mars 2019 fick bolaget tillstånd att köra på allmän väg i Jönköping.

Så här kommer det se ut även i övriga landet, så småningom. Skogen och industriprodukterna – och kanske även skolbarn och morgontidningar – kommer att levereras av autonoma fordon.

Det beror i sin tur på att många lokala företag måste automatisera. Det finns inte tillräckligt med folk som kan utföra en del av uppgifterna som krävs för att verksamheten ska gå runt, och de som finns behövs på flera platser eller högre upp i förädlingskedjan. Att automatisera handlar inte alltid om att ersätta människor, utan att hantera bristen på dem och ersätta luckor med åtminstone något.

Dagens AI-system, främst exemplifierade med stora språkmodeller, är oprecisa. Det gör inget om de stavar fel i en summering av kommunala dokument eller yxar till produktionsloggar. Det kan en människa ändra. Det är där människans värde ligger. Och det kommer folk alltid vilja, och behöva, betala för.

/Plusmeny 🍺

#1 🧑‍⚖️

Jag träffade i veckan några forskare vid Institutet för framtidsstudier. De har skickat in en artikel om algoritmer vid rekrytering. Den väntar på publicering i en vetenskaplig tidskrift, men är ännu inte tillgänglig så den muntliga (och antecknade) versionen får duga för nu.

De har studerat hur ett av de stora bolagen inom dagligvaruhandeln hanterat övergången till ett automatiserat verktyg för att vaska fram kandidater som söker anställning i butikerna.

Förut har den som sökt jobb skickat in sitt cv, ett personligt brev och annat direkt till den rekryterande chefen i den enskilda butiken. Numer ansöker varje kandidat direkt i ett centraliserat verktyg där de får svara på frågor om sig själv och andra saker. Svaren värderas utifrån psykometriska faktorer och sammanställs till en lista som skickas ut till den rekryterande chefen. Verktyget är statistiskt sett inte mer fördomsfullt än människor.

Här, i interaktionen mellan människa och algoritmernas maskinella svar, blir det spännande.

Det visar sig att den som rekryterar ofta väljer att inte följa listan till punkt och pricka. Den grupp som främst drabbas var utomeuropeiskt födda. Cheferna går, något hårdraget, hellre till person fyra på en statistiskt producerad lista än att ta nummer ett, beroende på namn. För det är allt som syns till en början. Först när chefen väljer ut vilka kandidater som ska kontaktas får de tillgång till sådant som cv, personligt brev och kontaktuppgifter.

Så denna skärm bakom vilken en audition sker funkar bra. Men cheferna gillar inte valen och vill hellre göra egna. Så spekulerar åtminstone forskarna.

De saknar kontext kring kandidaterna, och går hellre på enkla och bekväma karaktäristika som bekanta namn. Och de känner en kontrollförlust som gör att de blir mer, inte mindre, fördomsfulla i denna situation. Det är ingen liten situation.

Att skaffa jobb är svårt, och svårare för vissa grupper. Om de möts av företag som köpt in verktyg för att jämna ut spelplanen, men personerna som ska använda verktygen bestämmer sig för något annat, så är ingenting vunnet.

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Jag hittade nyligen podcasten Månskott. Den låter bra, än så länge. Och de pangade på rejält i första avsnittet.

Den sparkade Googleingenjören Blake Lemoine, som menar att han sett medvetande hos företagets AI-system, är med, liksom Magnus Sahlgren, forskningschef vid AI Sweden.

De pratar bland annat om den eminenta filmen Her, där Joaquin Phoenix blir kär i en AI-bot. I San Francisco berättade Sam Altman från OpenAI att det är hans favoritfilm inom AI-genren (om en sådan finns?).

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#1. Bibeln.

Jag har tänkt på information, data, text och annat som språkmodeller tränas på som digitala insatsvaror. Jag har inte varit säker på om metaforen funkar.

Därför blev jag förvånad, och lite glad, när jag läste denna uttömmande artikel om distributionskedjan för generativ AI.

Det är ju lite grann som att säga att språkmodellerna byggs ihop genom olika underleverantörer, delar, montörer och produktionsmiljöer. Så det bidrog väl till läsglädjen att jag kunde se bilderna lika klart som texten.

Jag är enig med författarna i att generativ AI är för stort och brett för att säga att tekniken alltid inkräktar på upphovsrätten. Men de populära tjänsterna gör helt klart det. Annars skulle initiativ som Glaze sakna existensberättigande.

Men jag är inte säker på att man kan tänka på skaparna av tjänsterna som ansvariga i andra hand för brott mot upphovsrätten, beroende på hur användarna promptar systemen.

Det kan ju vara så att vi helt enkelt inte orkar se bortom hörnet och håller fast vid vår upphovsrätt, fastän den uppenbart är utspelad och vi behöver hitta nya former för hur vi äger och delar saker digitalt. Det är ju en fråga som legat under ytan medans ljudböcker, musik, poddar och konst blivit digitala genom tjänster, frivillig delning eller kopiering.

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

Vårriten 2.0

Gustav Juntti — Fri, 15 Sep 2023 14:12:00 +0000

Aloha! Denna meny består av 1074 ord och tar 5,3 minuter att tugga sig igenom.

Dagens takeaway: Regelarbetet börjar få upp farten globalt. Men det kan gå åt pipan redan här i starten. Vad företagen pratar om är inte nödvändigtvis samhällets bästa, och det måste politiken våga säga.

Jag har precis landat i Europa efter Dreamforce i San Francisco. Jag vet inte om jag ska sova eller vaka fram till lördag morgon. Hoppas ni får en vilsam helg!

/Dagens meny 🥘

Harmoni, en bra melodi 🇪🇺
Svängdörrar eller portvakter? 🔓️

/Plusmeny 🍺

Ingen ARN för AI 🛒
Lobbyism i praktiken 🤝

/ Prat 🦜

Sam Altman bredvid brasan 🔥

/ Digestif 🥃

Hjärnans plasticitet 🧠

/ Vi behöver inte 60 ramverk för AI 🇪🇺

På första dagen av Dreamforce satt jag ner med Eric Loeb, global chef för reglering på Salesforce.

Den övergripande poängen är att USA, precis som EU gjort, behöver ett riskbaserat ramverk för AI-reglering. Och att de måste linjera, ihop med exempelvis OECD:s policy, för att vara nyttiga.

Det är en bra början. Men OECD:s definitioner, som EU lagt sig tätt inpå, är inte särskilt bra enligt branschen. Eller: De har inte åstadkommit en gemensam riktning för vad som är värt att prioritera.

Loeb såg det som önskvärt att när land efter land börjar fundera på hur de vill förhålla sig till tekniken så finns det en skiss att börja ifrån. Det ska inte finnas 60 AI-ramverk.

Jag kan förstå intentionen. Men det vore olyckligt om USA väljer att lyfta in samma sorts språk i sin kommande lagstiftning, när de har exempelvis NIST, en expertmyndighet, som har en sund inställning till vilka regler som behövs till olika sektorer.

Loeb gjorde dock en bra poäng. Små svenska bolag kan, tack vare den harmoniserade regelboken och inre marknaden i EU, gå direkt till 27 länder och testa eller sälja sina produkter. De får förutsebarhet och skalbarhet samtidigt.

I USA har åtminstone elva delstater någon sorts AI-reglering, men de skiljer sig mer åt än vad de överlappar. Det ställer till det för innovationen.

Det var fint att få den sortens blick på EU. Vi blir nog lite fartblinda för ofta här hemma, och glömmer vad den ideologiska och den konkreta nyttan av en gemensam marknad faktiskt är.

En försvunnen pusselbit: Efter mötet skulle Loeb träffa brittiska diplomater. Han sa inget men jag antar att det är en del av förberedelserna för landets stora säkerhetsinriktade konferens i november.

Även om den svenska företagsdelegationen på Dreamforce var stor funderade jag på två saker. Varför är inte någon politiker, eller deras tjänstemän, här? Och var är offentlig sektor?

Ledtråden: I onsdags anordnades en frukost där “nordiska” generalkonsuler närvarade. Sverige har förvisso bara har ett honorärkonsulat i stan — generalkonsulatet öppnar efter årsskiftet, men generalkonsuln har tillträtt — men jag förmodar att hon var med.

/ Should I stay or should I go… 🔓️

Det finns en lurig dynamik i det politiska arbetet kring generativ AI.

Under första dagen av Dreamforce, 12 september, höll den demokratiske senatorn John Hickenlooper en öppen utfrågning i kongressen om hur politiken kan skapa bra regler.

Öppna sessioner är ofta ett spektakel för att visa på politisk handlingskraft. En annan demokrat, Amy Klobouchar, använde exempelvis sin tid till att presentera ett eget lagförslag om hur genererat material ska användas i politiska kampanjer.

Dagen efteråt samlade senator Chuck Schumer en drös techjättar för ett stängt möte.

Det framstår som tondövt. Men när jag pratade med Eric Loeb menade han att båda vägarna behövs.

Öppenhet bygger tillit. Men det är inte alltid cheferna för techjättar vågar eller får fråga dumma frågor eller be om hjälp, för att det inte är deras roll och för att det påverkar förtroendet för företaget. Då är stängda forum bra.

I no buy. Mer frivillighet och isolering är inte bra. Det är få som uppskattat att politiken lämnat reglering till techbolagen. Det har skapat misstro, konflikt och polarisering och de har fått fler chanser att förändra sig än de förtjänar.

/Plusmeny 🍺

#1 🛒

I USA pratade alla nästan alltid om konsumenten. Den ska skyddas, den ska hjälpas, den ska stärkas. Det är förvånande hur lite ord som samhället, medborgare och gemenskap förekommer.

Jag frågade flera stycken, däribland svenska representanter för Salesforce, om det riskerar att privatisera definitionen av säker och ansvarsfull användning av AI.

Landsmännen kunde se det. Amerikanarna tyckte att det bör och ska finnas konkurrens även inom etiska aspekter, just för konsumentens skull.

Jag tror det är helt fel om varje bolag eller sektor väljer hur de vill erbjuda tillit, trygghet och säkerhet utan att ta social hänsyn. Det går ju inte att gå till Allmänna reklamationsnämnden och be om hjälp när något händer med ens integritet, data eller sociala liv. Då raseras gemenskapen fort.

#2 🤝

När jag satt och pratade med Eric Loeb berörde vi de stora firmornas ansvar att arbeta för ansvarsfull utveckling och användning av generativ AI.

Han hade en fjäder i hatten. Samma morgon presenterade Vita Huset “frivilliga åtaganden” från åtta AI-bolag, däribland Salesforce, för att möta risker.

Loeb förklarade att de hade fått presidentadministrationen att lyssna och ändra en del formuleringar utifrån vad de tyckte var viktigt. Mer konkret blev han aldrig.

Återigen: självreglering är säkert bättre, men jag tror det får konsekvensen att de med mycket makt kommer undan med det mesta, åtminstone i USA.

Man får dock inte underskatta vikten av landets säkerhetspolitiska strategi, där Kina och AI är det största framtida slagfältet.

Det är klart att man inte vill boxa in de egna kapaciteterna och spetsteknologierna.

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Det var väldigt svårt att komma in till “samtalen vid brasan” i Yerba Buena Theatre, där Salesforces grundare och vd Marc Benioff pratade i en timme med Sam Altman, vd för OpenAI. Det var för övrigt i samma 300 platser stora/lilla salong som Steve Jobs presenterade en iPad för första gången, 27 januari 2010.

Några tyckte efteråt att samtalet var platt och förväntat. Altman är ju trots allt på en charmturné. Några kallade det för skrämmande. Ytterligare andra såg det som lärorikt.

En sak som fastnade var Altmans förvåning över hur AI-tjänster påverkar jobben.

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#3. Skalor.

Människor är dåliga på att hantera sanningen, så vi sprider falsk information oftare än botar och propagandafabriker. Därför är det våra beslut som AI-tjänster borde göra bättre, vi ska inte ge oss på dess svar.

Så kan man sammanfatta två AI-intresserade ekonomers tanke om människans plats i den kognitiva näringskedjan.

Deras egna ord är dock rätt talande: AI är inte det primära hotet för oss just nu, utan “det bästa verktyget för att dämpa ett mycket större hot mot mänskligheten: mänskligt beslutsfattande.”

Jag tror att det är projicerat förakt för vanligt folk. Många andra tekniker som dykt upp och etablerat sig i samhällen har inte medfört att vi fattat sämre beslut då eller ens nu.

Vi fattar andra typer av beslut. Och det är svårare. Hjärnans plasticitet är begränsad alternativt trög alternativt gradvis nedsatt. Tänk Igor Stravinskijs premiär för baletten Våroffer, i Paris i maj 1913, som slutade med total urspårning.

Det är vi som sitter i publiken på nybyggda Théâtre des Champs-Elysées och Altman et al har precis dragit igång första akten.

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

Förgiftade modeller 🤢

Gustav Juntti — Fri, 08 Sep 2023 11:39:00 +0000

Hey there, hi there, ho there! Denna meny består av 993 ord och tar 7,5 minuter att tugga sig igenom.

Dagens takeaway: Säker AI delar världen. Öppen källkod kan sprida ut de risker som högkapabla AI-system skapar genom att fler förstår hur de funkar och var svagheterna finns. Eller så bjuder det in till fientlig exploatering av banbrytande teknik.

Imorgon lyfter jag mot San Francisco för att delta i Dreamforce, en jättekonferens om AI. En av huvudtalarna är Sam Altman, vd för OpenAI. Nu ska vi mysa med Johannas systerdotter. Bye!

/Dagens meny 🥘

Säkerhetspolitikens språk för Sovjet återuppstår 🩸
Förgiftade modeller 🤢

/Plusmeny 🍺

Politiker är inga AI-stjärnor ⭐️

/ Prat 🦜

Per Bolund är orolig…

/ Digestif 🥃

Snack bakom stängda dörrar 🤞

/ En ny doktrin för att undvika skador 🩸

Det pågår en debatt om hur man bäst skapar säker AI-användning. Grovt sett går skiljelinjen mellan de som förordar öppna och delade metoder för utveckling, så kallad open source, och de som vill begränsa spridningen.

Som jag skrev i våras pratade jag med en framgångsrik AI-forskare från det statliga forskningsinstitutet Rise som funderar på att sluta publicera saker öppet, med hänsyn till konsekvenserna om vissa stater eller andra illvilliga aktörer använder forskarens resultat, algoritmer och modeller.

Men vad betyder säkerhet, egentligen? Är det att så få som möjligt ska använda en viss teknik?

Vissa, som DeepMinds grundare Mustafa Suleyman, resonerar i sin nya bok om en “containment strategy”.

Det är precis så den amerikanska utrikespolitiska doktrinen gentemot Sovjetunionen beskrevs under årtionden, och därefter har denna begränsande hållning använts i kärnvapendiskussioner.

Eller betyder säker att tekniken inte ska göra någon skada?

Det är nobelt, men då måste vi tänka på att andra länder som inte är demokratiska utvecklar AI-förmågor för att tillfoga skada. Exempelvis skapar Kina enligt sin nationella AI-strategi alltid AI-teknik för dubbel användning, alltså civilt och militärt, samtidigt.

En rullande boll: Storbritanniens regering har precis satt ihop en task force för att hantera akuta AI-frågor. De har tidigare i veckan lagt fram sina fem ambitioner inför det första toppmötet om AI-säkerhet på global nivå. Man vill engagera så kallade “nyckelländer” i förarbetet och på plats i London i november. Räknas Sverige dit?

Var är AI-ministern? Jag har svårt att se den nuvarande digitaliseringsministern — som bland annat har myndighetsstyrning, landshövdingar, länsstyrelser, konsumentpolitik och kommunallagen på sitt bord — driva fram ett sådant toppmöte. Har man inte tid att testa en AI-tjänst på sex månader, hur ska man hinna med att bestämma hur säker AI-användning ser ut?

/ Fågel, bil eller stridsvagn? 🤢

Apropå säkerhet…

AI har länge använts inom försvars- och underrättelseverksamheter. Därför är det intressant att Totalförsvarets forskningsinstitut (FOI) nyligen publicerat en studie om fientlig maskininlärning.

Det kan med andra ord inte vara någon strategisk kunskap involverad. Men det ger en inblick i hur säkerhetsfolk tänker kring AI.

Enligt Björn Pelzer från FOI är Försvarsmakten “intresserade av att använda maskininlärningssystem, och vill därför kunna bedöma risken att motståndare utnyttjar sårbarheter i systemen för att vilseleda, extrahera information eller förvirra dem”.

Rent konkret: FOI har testat att förvirra, förgifta och baklängesköra modeller.

I det första fallet klarade AI-systemet inte av att ta beslut som det är byggt för.
I det andra fallet kunde träningsdatan i ett stort bildset manipuleras så att “stridsvagnar felaktigt klassificerades som bilar” enligt Pelzer. Men metoden funkar bara (vad vi vet utifrån civila AI-verktyg) om en motståndare förstår vilket maskininlärningssystem de ska ge sig på.
I det sista fallet gick det att få fram hemlig information genom att ge sig på språkmodellers minne av sannolikheter för olika språkliga samband. FOI fick ut var femte text av de 170 000 som modellen tränats på.

Är det viktigt? Självklart. Som SVT nyligen berättade har svenska forskare från bland annat Stockholms universitet tagit fram ett verktyg som sållar fram potentiella terrorister ur textdata. Men om det går att förgifta eller förvirra system blir verktygen slöa.

Djupdyk: En liknande studie om förgiftning av språkmodeller har släppts i USA, efter en workshop i juni om dubbel användning av AI. Samlingen anordnades av Google och universiteten i Stanford och Wisconsin-Madison.

Summa: De är oroliga, men har flera förslag på hur säker användning av generativ AI kan se ut.

/Plusmeny 🍺

#1 ⭐️

Magasinet Time har rankat världens 100 viktigaste namn inom AI. Högst upp är duon bakom Anthropic, vars uttalade mål är att erbjuda säkra verktyg och tjänster. Personligen gillar jag deras Claude-modeller väldigt mycket.

Noterbart är att det nästan bara är folk från eller i USA som är med på listan. En annan sak är att det bara finns fem politiker med. EU-kommissionären Margrethe Vestager är given, men nu ska hon försöka bli chef för Europeiska investeringsbanken. Så vem blir kvar?

Två stycken från amerikanska kongressen, Anna Eshoo och Ted Lieu, samt Taiwans AI-glada digitaliseringsminister Audrey Tang. För vad har Förenade Arabemiratens AI-minister att lära oss?

Listan är dock inte särskilt viktig, på ett sätt. Det här är personer som är bra på att synas mycket. De har väldigt bra kunskaper inom ämnet, men det finns fler som tar beslut om AI-tjänster som påverkar miljarder människors vardag.

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Jag träffade i torsdags Miljöpartiets språkrör Per Bolund för kaffe och bulle. Vi pratade klimatförändringar och AI. Han är orolig för utvecklingen.

Vi hann aldrig fram till att diskutera grön AI, men jag lovar att servera en brakmeny på temat under hösten.

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#7. Insynslöst.

Chuck Schumer, demokrat och majoritetsledare i amerikanska senaten, har tagit en tätplats i USA vad gäller AI-hantering.

Han lanserade i april en ansats för framtida reglering av tekniken. Han bjöd i juni in till en bred parlamentarisk grej som kallas för SAFE Innovation Framework. Och under hösten ska AI Insight Forum hållas.

På ett event anordnat av IBM i augusti menade han att de vill samla “de bästa av de bästa” som ska “prata med varandra och svara på frågor” för att försöka “nå någon konsensus och lösningar”.

Men det kommer ske bakom stängda dörrar.

Man kan inte ha ett politiskt forum vars namn anspelar på insyn, och sen stänga dörren och erbjuda en uppläsning av slutsatserna från mötet.

Så här kan politiken inte jobba om det ska finnas förtroende för den lagstiftning som kommer ut på andra änden.

Så varför gör Chuck Schumer så här?

Kryddigt: Det är ganska många från Times 100-lista som ska vara med på det första mötet 13 september.

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

Utbildningsministern: Back to basics!

Gustav Juntti — Fri, 01 Sep 2023 12:41:00 +0000

Salud! Denna meny är 972 ord lång och tar 7,5 minuter att läsa.

Dagens takeaway: Många skolungdomar använder generativ AI, enligt en ny rapport. Men vi kan inte döma ut dem som fuskare. Däremot måste skolan förklara att AI-tjänster inte är ett nytt Google.

Ännu en fredag på en väg som leder norrut. Sälens fjällmaraton går av stapeln imorgon. Vi får se om någon står på startlinjen.

/Dagens meny 🥘

Det är inte säkert att varannan skolungdom AI-fuskar 🤓

/Plusmeny 🍺

Sju sätt som AI kan gå i skolan 🏫
Trafikverket måste skaffa en tåghjärna 🚂

/ Prat 🦜

Erik Ekstrand om övervakning 🤳

/ Digestif 🥃

Det ljusa och mörka Småland 🪵

/ Stay cool, stay in school 🤓

Enligt en ny rapport från Ungdomsbarometern har tre av fyra skolungdomar i åldrarna 15 till 24 år använt generativ AI.

Flest använder det på fritiden, men mer än var tredje har gjort det i skolarbete och lite fler än var sjätte på jobbet.

Över hälften av de som använt generativ AI i skolarbete har gjort det på ett sätt de tror inte är tillåtet.

Det är förstås svårt att veta om de fuskar. Bara en av tre skolor har regler för hur tjänsterna ska och får användas.

Samma dag som rapporten kom frågade jag utbildningsminister Mats Persson (L) om det finns en risk i att fokusera för mycket på riskerna med AI inom utbildning.

Han svarade att det bör vara som det är nu, och att det är “back to basics” som gäller: penna, papper, läsförståelse, mattetal. Inte fler digitala verktyg. Jag tolkar det som ett nej.

Det skapar svallvågor i en annan sektor. Om regeringen vill förbjuda teknik som generativ AI i skolan, ger det förstås kulturmänniskor vatten på sin kvarn att verktygen ska förbjudas även i deras sektorer. För vad är skillnaden?

Jag frågade även om det behövs nationella riktlinjer för skolan kring användning av AI-tjänster.

Ministern gjorde det till en semantisk grej: Det finns redan råd från Skolverket, både till personal och elever. Råden kan förstås kallas för nationella riktlinjer – men stöd finns.

Jag håller inte med.

Skolverkets undervisningsråd sa tidigare i augusti att det är lärarna som får “[se] över sina arbetssätt”. Detta för att myndigheten inte har “tagit fram några riktlinjer för att komma åt problemet med Chat GPT” enligt en TT-artikel.

Den lilla folkpartisten på axeln: Det är att lämna dem i sticket. Det går ut över eleverna.

Jag skrev en ledare när rapporten släpptes.

Bland annat: “De nya AI-tjänsterna som genererar text, bild, video eller musik är inte ett bättre Google. Det är vanskligt att skolungdomar tror det. Skolan måste utmana deras syn på lärande som något automatiserat. Kanske behöver man gå så långt som att resonera om vad intelligens, kunskap och kognition är givet AI-tjänsternas framfart.”

Men jag skrev också: “Förhoppningsvis kan de nya siffrorna om utbredningen av AI-tjänster bland skolungdomar väcka nya insikter.

Dels att kunskap aldrig är statisk utan en produkt av sin kontext. Dagens människor är långt smartare än neandertalarna, men vi skulle inte överleva en dag i deras värld eftersom de kunde saker om matinsamling och skydd som vi aldrig lärt oss."

/Plusmeny 🍺

#1 🏫

Apropå skola, fusk och förbud. Väldigt få bryr sig om vad AI kan göra för att förbättra skolgången för barn och unga.

Förvisso ska Skolverket under hösten kolla på hur AI-tjänster kan “bidra till undervisningen”. Men den politiska (och publika) uppfattningen tycks vara att skolan ska skyddas från AI-tjänster.

Därför var det intressant att läsa denna vetenskapliga artikel från USA om sju sätt att använda AI i syfte att lyfta undervisningen.

Forskarna föreslår olika roller som generativa tjänster och verktyg kan spela, bland annat mentor, coach, lagkamrat, simulator och student.

Målet är att (AI-översatt av Claude) “hjälpa studenter att lära sig med och om AI, med praktiska strategier utformade för att mildra risker såsom eftergivenhet gällande AI:ns output, fel och fördomar.”

#2 🚂

Regeringen gav i mitten av augusti Trafikverket i uppdrag att stärka järnvägens “robusthet, tillförlitlighet och punktlighet.”

Månne myndigheten kontakta The Train Brain.

Jag skrev i våras om bolaget och dess verktyg för att i realtid planera trafiken utifrån befintlig data och simulering av effekterna på nätet.

Problemet har länge varit att Trafikverket aldrig riktigt vågat ge bolaget, eller andra entreprenörer, tillgång till systemen.

Det är begripligt. Järnväg är kritisk infrastruktur i freds- och krigstider. Men om det finns effektiva, beprövade tekniska lösningar på tågkaoset måste de få en chans.

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Ekstrand Extra är ett nytt program på SVT Play. Avsnitt två handlar om “övervakning/AI”. Fast inte egentligen. Förutom en fråga till en ungdom i programmets första minut om han använt AI kretsar allt kring övervakning.

I programmet träffar vi två foliehattar och en hackare. Varför denna explicita koppling mellan AI och integritetskränkning? Det verkar inte finnas någon röst för det nyttiga med AI-tekniker.

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#4 + 6. Det mörka och ljusa Småland 🪵

Jag jobbade under större delen av år 2020 i Jönköping som politisk redaktör för tidningen där och en handfull andra småländska titlar.

Det första jag fick lära mig var att den största konkurrenten var Smålandsposten nere i Växjö. Tidningen ligger i stiftsstaden Växjö och tillhör således det mörka, konservativa Småland. Jönköping, hem till pingstvänner och andra frikyrkor, var det ljusa, enklare och mer anspråkslösa Småland.

I Smålandsposten skriver ledarskribenten Jacob Sidenvall att utvecklingen inom AI ger den politiska högern “ett guldläge”. Tesen är att vänstern gått från fokus på arbetsvillkor till levnadsvillkor, och där har högerpolitik som fritt företagande och lägre skatt gjort tydliga materiella avtryck hos den breda massan.

Slutsatsen: Högern måste äga AI-regleringen.

Jag håller med. Men de gör ju ingenting, och har inget gjort på länge. Inte ens ideologiska kamper om äganderätt, innovation och integritet har de lyckats skapa.

Samtidigt vill Andreas Sturesson, KD-politiker i Jönköping, hjälpa lokalpolitiken att hänga med.

I en motion till kommunfullmäktige ställs kravet “att kommunen anlitar experter som hjälper politikerna att förstå” vad AI “kan föra med sig”.

Det låter som en biblisk farsot.

Men Sturesson är klok: “[K]ommunen måste kunna förhålla sig till en utveckling vi inte styr över.”

Jag har inte hört mitten- eller vänsterpartier prata om AI på det sättet tidigare. Kanske har högern insett sitt guldläge.

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

Ett samtal med kulturministern 👩‍⚖️

Gustav Juntti — Fri, 25 Aug 2023 13:42:00 +0000

Hej, det är jag igen! Vilken AI-vecka det har varit.

Som först i Sverige skrev jag om den nyhet statsministern smög ut i ett tal vid Tylösandskonferensen i onsdags: Vi ska få en AI-kommission. Inget annat medie har än så länge skrivit en rad. Varför?

LEDARE: Statsministern har rätt: Inget mer mumbo jumbo om AI

Det är smart att Ica Vallby använder AI-tjänster

www.vlt.se/2023-08-24/statsministern-har-ratt-inget-mer-mumbo-jumbo-om-ai

I dag serveras en avsmakningsmeny med bitar från ett längre samtal med kulturminister Parisa Liljestrand (M). Jättekul, och bra tuggmotstånd!

I onsdags pratade jag även med pensionärerna Karin och Else, som satt och diskuterade AI-utvecklingen över en bit mat.

Jag har också djupdykt i hur djurriket inspirerar AI-modeller – och hur de i sin tur följer med jagande pingviner.

Nu sitter jag, Johanna och sex andra krigare i två bilar riktning Idre. Ikväll äter vi ris med marmelad som Vasaloppsvinnaren Emil Persson brukar göra inför långlopp. I morgon springer vi fjällmaraton. Regnprognosen talar för ett fjällspa i gyttjepölar. Svinkul! 🐷

/Dagens meny 🥘

Är data verkligen en skog? 🎋
Cirklarna som omgärdar AI-konsten 🎭️

/Plusmeny 🍺

Djuriska modeller 🐝
Afrikanska pingviners jakt 🐧

/ Prat 🦜

Else, 86, och Karin, 80 om AI.

/ Digestif 🥃

170 000 piratkopierade böcker har tränat Metas språkmodell LLaMA.

/ Materialiteten i data måste utmanas 🎋

Jag var i onsdags inbjuden för att prata AI med kulturminister Parisa Liljestrand (M) och statsrådets stab. Det var väldigt kul.

Samtalet ägde rum på museet Artipelag i Gustavsberg. Utanför lyste solen och vinden susade i talltopparna.

Vi pratade bland annat om materialiteten i data, och hur data inte alls är som olja. Jag beskrev de textmängder, bild- och ljudverk samt annat material som används till att träna AI-modeller som digitala insatsvaror.

Jag är inte säker på metaforen, men den är en arbetshypotes.

Det skulle få implikationer för hur man beskattar utkomsten av konstnärliga och kreativa aktiviteter. En snabb tanke hejdade mig: Är inte data lite som skogen utanför? Återväxande, återskapande, cirkulär, organisk.

När träden vuxit och blommar skapar det avknoppningar, och avfallet leder till tillväxt genom förmultning.

När data skapas och används uppstår nya datamängder, antingen om den ursprungliga eller om nya delar. Förmultning, typ.

En annan person i rummet vågade tänka tanken högt först, och det kändes fint att fler kunde förstå den tanken.

Men det är vanskligt. Data är inte biologiskt eller organiskt. Språket, både det kulturella och politiska, behöver röra sig bort från synen på data som något levande, precis som att vänstern länge knutit data till materiella förhållanden som olja. 2020 pratade Vänsterpartiets partisekreterare Aron Etzler om data som “naturresurser” och datajättarna som “gruvbaroner”.

Att se data som skog gjuter liv i något dött, och förser därmed folk med känslan av att det går att kontrollera. Oljeperspektivet för dock tanken till data som något flytande och okontrollerbart.

Problemet är att det inte går att äga något sådant. Men vi kan faktiskt äga data. Annars skulle nästa rätt på dagens meny aldrig kunnat serveras.

Underförstått finns också en tanke om exploatering. Jag håller med om att alltför mycket personlig data tas utan att vi kan bestämma över den eller ta del av det värde som genereras utifrån datan. Men allt dataägande är knappast illegal eller skadlig för samhället.

Ett stödjeben: Nu får alla använda sin egen data i ChatGPT-3.5. Hade en sådan tjänst vuxit fram om det inte var möjligt att äga data?

/ Cirklarna som omgärdar AI-konsten 🎭️

Samtalet om AI utgick också från behovet av att förstå och relatera teknikens utveckling till de kulturella och kreativa näringarna liksom demokratisk delaktighet.

Att skapa AI-konst har blivit en het potatis. Att AI-tjänster skapar verk, som vissa vill kalla konst, är minst lika splittrande. Så att kulturministern vill prata AI och konst är lika delar rimligt och fantastiskt.

En tanke som jag bär med mig från samtalet är hur vi ska betrakta själva skapandeprocessen.

Många enskilda kreatörer har inte använt sig av fritt tillgängliga kommersiella modeller. De har använt egenbyggda, modifierade varianter som passar dem.

Det betyder att de och bara de har tillgång till den teknikvariant som skapar konst - oavsett om man vill kalla tekniken för maskin, redskap, magisk låda eller annat. Som jag skrev i juli: Varken pennan eller datorn reglerades.

Då är frågan: har konstnärer upphovsrätt utifrån denna personliga modell? Sannolikt inte, givet dagens lagstiftning.

Nästa fråga: Har de skapat något, eller är det tekniken som gjort det? Det är ju mänsklig handpåläggning, mänskliga instruktioner utifrån levda erfarenheter, och mänskligt skapad teknik.

Jag antar att tryckkonstens påverkan på framför allt bilder, målande och annan grafisk återgivning var jobbig för några hundra år sedan. Kanske tyckte man att mekaniseringen frikopplade människan från sitt skapande genom att avsjäla verken.

Jag anar något liknande i debatten om AI-konst i dag, att teknifieringen avmystifierar den besjälade människans uttrycksformer.

Just nu sitter det helt enkelt väldigt många 1600-talsmunkar i sina kloster och är rädda för den nya tryckpressen.

En ny dom från en distriktsdomare i USA, som kom 18 augusti, gäller bildverket (eller grafikverket?) “A Recent Entrance to Paradise:”.

Domen avfärdar skaparen Stephen Thalers anspråk på upphovsrättsskydd för verket med motiveringen att “[h]uman authorship is a bedrock requirement of copyright.”

Enkelt översatt med Anthropics modell Claude-instant-100k: “Mänskligt författarskap är en grundläggande förutsättning för upphovsrättsskydd.”

Det borde kanske beskrivas som att mänskligt skapande leder till upphovsrättsskydd. Men det för juridiken och politiken in i cirklar.

Upphovsrätt följer på mänskligt skapande. Men mänskligt skapande måste definieras på ett sätt som utesluter människors användning av AI-tjänster om nuvarande ordning ska bevaras. Och det är just vad samhället inte har råd att dra ut på. För de är redan här och genererar originella verk.

Då måste man börja borra i estetiska teorier om verks värden, hur en avbildning eller kopia förhåller sig till ett original, och om vad det innebär att skapa.

The poly-ticks: En hyfsat känd författare tillika väletablerad kulturprofil ska nyligen ha uttryckt sin förtvivlan över “spotifieringen” av litteraturen i och med språkmodellernas intåg. Han är nog inte ensam.

Regeringen lär få ytterligare tryck på sig att hantera konsekvenserna av AI-utvecklingen för kulturbranscherna. Antingen att reglera eller förbjuda tekniken, alternativt att subventionerna konstnärernas ekonomiska förluster.

/Plusmeny 🍺

#1 🐝

Han var med i det åtta man starka team hos Google som år 2017 skapade transformern, den arkitektur som ligger till grund för moderna språkmodeller.

Nu har walesaren Llion Jones grundat bolaget Sakana ihop med David Ha, Googles tidigare ansvarige för AI-forskning i Japan och nu senast forskningsansvarig på Stability AI, bolaget bakom tjänsten Stable Diffusion.

Sakana, som typ betyder fisk på japanska, ska bygga en egen modell, och tar avstamp i beteenden från bisvärmar och fiskstim.

De vill fokusera på den kollektiva intelligens som finns i naturliga system, där till synes enkla regler styr komplexa handlingar i stor skala (alltså med många individer inblandade).

Tanken är att bygga många små mindre modeller som samarbetar likt en bikoloni eller fiskstimmen. Det kan sänka kostnaden för att träna en sådan tjänst – och därmed komma med ett lägre pris till användarna.

#2 🐧

Jag ÄLSKAR pingviner. Under plugget ägnades mycken tid åt dokumentärer om dessa magiskt sociala och kloka djur. På min vänstra biceps har jag tatuerat in tre stycken kungspingviner utifrån denna bild. Men min smygfavorit är Humboldtpingvinen.

Nu har forskare från BirdLife i Sydafrika, ihop med folk från universiteten i Bristol och Exeter, byggt datasetet DivingWithPenguins.

Som de skriver: “Vi tillhandahåller en högst pålitlig undervattensdetektor av pingviner, fiskar samt ett värdefullt första försök att automatisera visuell detektion av komplexa beteenden i ett marint rovdjur.”

Datasetet består av 63 videor från lättviktskameror som monterats på den afrikanska pingvinen Spheniscus demersus i sydafrikanska Stony Point under 2017 (tog det så länge att samla in och sammanställa datamaterialet?!). De tejpade fast kameran med Tesa-tejp som gjorde att kameran satt kvar på en enda jaktresa.

Vad är syftet? Forskarna skriver i artikeln att de vill “bättre förstå och konservera den naturliga världen utifrån djurens perspektiv.” Det är bra. Mellan 1989 och 2019 minskade beståndet av afrikanska pingviner med 65 procent. Nu finns bara 17 700 par kvar.

Mer djur: Kanadensiska bönder använder DeLavals AI-verktyg för att korna ska beta bättre. Nytt favorituttryck: “en sofistikerad kobeteendemodell.”

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Det var en fin dag på Artipelag. Solen sken, små molntussar hängde över Saltsjöbaden på andra sidan fjärden.

Jag satte mig på den generösa, soldränkta altanen för att skriva. Vid bordet bredvid mig satt två äldre damer och diskuterade AI. De hade lyssnat på Max Tegmarks sommarprat, som jag skrev om förra veckan.

Jag kunde inte hålla mig från att prata med damerna. De var först tveksamma, de kunde ju ingenting och hade inga särskilda tankar.

Jag pressade dem lite. Till slut började Karin, 80, att beskriva sina bekymmer. Folk är oroliga, menade hon, för att vi inte vet vart det här ska ta vägen.

Men det vet inte vi heller, invände Else, 86.

Karin sa, med ett skratt, att det är tur att de kommer vara döda då.

Är det de yngre eller de äldre som är mest oroliga, frågade jag.

Else menade att de äldre är mer oroliga. Karin tvärtom.

Else hade en rapp invändning.

Jag tror hon har rätt. Många skolungdomar ser AI-tjänster som gudagåvor för att kunna lämna in uppgifter med minimal ansträngning.

Karin höll med, sa förvisso och förmodligen och kanske, och tillstod att hennes generation - så länge de inte blir bortåt 100 år gamla - inte har lika mycket att rädas. De ska ju inte längre arbeta.

Värre är det för de som utbildat sig länge och arbetat med något som till hälften kan ersättas av AI-tjänster. Vad ska de göra? Med det allmänna läget i världen vore det inte bra om AI tog alla jobben.

Else var rar.

Hon tittade på oss båda och sa med lugn röst att det inte är AI som är hotet. Det är den allmänna pessimismen och obryddheten om andra medmänniskor som gör att samhället inte klarar att förhålla sig till den snabba utvecklingen.

Det som var allra roligast var hur intresserade Karin och Else var. De ville veta hur Sverige låg till i diskussionen jämfört med de nordiska grannarna. Och var USA lika inkluderande i besluten som Sverige? Förvisso kände de sig inte så inkluderade här hemma längre, men bättre än i Amerika har vi det ännu.

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#1. Stölden.

Jag blev väldigt nedslagen av att läsa Alex Reisners granskning av den textdata som Metas/Facebooks högkapabla språkmodell LLaMA tränats på.

Som Alex skriver: “En av de mest besvärande frågorna kring generativ AI är enkel: Den skapas i hemlighet.”

Det finns en växande politisk medvetenhet kring den invasiva insamling av personlig data som Facebook, Instagram, Twitter och framför allt Google, Microsoft och Amazon pysslar med.

Men jag tror inte att någon orkat föreställa sig att jättarna skulle stjäla 170 000 upphovsrättsskyddade böcker från internet utan att bry sig.

Problemet är tudelat. Dels att de har gjort fel gentemot de som äger rätten till sina verk. Dels att de inte tycks ha gjort något egentligt fel.

Jag tror bara att de, före alla andra, har sett en enorm lucka mellan politiken och samhället i fråga om vem som äger vad på internet och bestämt sig för att chansa.

Kanske får de böter, kanske kommer någon lag om några år. Men då har de redan enorma försprång i AI-utvecklingen gentemot andra bolag men även stater.

Men de kommer aldrig att stängas ner.

Så länge de vet det finns det pengar att tjäna här och nu som går före den långsiktiga negativa påverkan på samhällena.

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

Tegmark dissar Descartes 🔥

Gustav Juntti — Fri, 18 Aug 2023 14:14:04 +0000

L’Chaim! En vecka som politisk redaktör på VLT är gjord. Det var så pass kul att jag kritade på för en förlängning fram till 31 oktober. HAIK rullar dock på oförtrutet!

Att pendla till Västerås tar tid. Så jag har kunnat djupa lite i Max Tegmarks världssyn.

Det har rasslat till i transferfönstret på senaste. Såväl generaler som jurys för tvenne AI-grejer är utnämnda. Även i Basel sitter en svensk och pysslar med AI.

Nu ska vi umgås med Johannas systerdotter. Auf wiedersehen!

/Dagens meny 🥘

Max Tegmark ba herrå René 🔥

/Plusmeny 🍺

Douze points à la Suède! 🏆️
AI-Janne 🤠

/ Max Tegmark raserar 400 års ontologi 🔥

Många har frågat mig om jag lyssnat på Max Tegmarks sommarprat. Det har jag inte gjort – tills nu. Till skillnad från hans bok Vårt matematiska universum var stora delar tråkiga. Men några saker fastnade.

Det första var hur tydligt han lutar sig in i James Lovelocks argument i boken Novacene om hur hyperintelligens kan hantera människan precis som vi själva i dag betraktar växter och träd.

Tegmark sa i sitt sommarprat från 2018 att begreppet intelligens bör expanderas från kolbaserade varelser till datorer och annat som bygger på kisel.

Men jag tror inte att att Tegmark delar Lovelocks så kallade Gaiahypotes om alltings enhetlighet och samhörighet. Snarare verkar han linnéiskt hierarisk i världen: Det finns steg av intelligens där varje leds avsikt är att dominera de under sig.

Det här går heller inte ihop med att han önskar byta ut beteckningen homo sapiens – den visa människan – mot homo sentiens, för att visa hur det är vårt upplevda känsloliv och inte vårt abstrakta tänkande som är viktigt.

Problemet, såväl för Tegmark som för oss andra, är att det inte finns en enda godtagbar definition av sentiens och medvetande.

Ett till problem är att Tegmark är hyperrationalist, vilket hans tankar om parallella universum är det yttersta exemplet på. Det linjerar inte väl med känslolivets centrering i kosmos.

Detta försätter inte bara honom, men stora delar av det moderna samhället samt vetenskapen historiskt sett, i en knipa.

I århundraden har vi hävdat att det är rationalismen och det betraktningsbara som har företräde. Vi har hävdat att det abstrakta tänkandet ska premieras, vilket tillåter att vi separerar oss från andra livsformer, främst däggdjur men egentligen hela floran och faunan.

Nu finns AI-tekniker som replikerar abstrakt tänkande, om än i begränsade former.

Skulle vi göra som Tegmark tänker och fokusera på sentiens, kännande och inre upplevelser måste vi omdefiniera vår distans till djur och natur. Det vore ett makalöst ontologiskt och filosofiskt skifte. Det skulle riva ner det mesta som byggts upp sedan den franske 1600-talsfilosofen René Descartes postulering cogito ergo sum.

Det andra som slår mig med årets sommarprat är att Tegmark ser att AI blir en ny djurart på jorden. Men han har ju själv tillstått att tekniken är utombiologisk.

Det tredje är att AI kan skapa biologiska vapen som förgör oss. Det är dock precis som med manipulerad text: Modellerna kan lika väl nyttjas för att hitta nya motmedel, eller forska fram dessa vapen i säkra miljöer för att skapa medvetenhet och vaksamhet i säkerhetsapparater.

Summa: Ja, han lät pessimistisk. Men mindre än vad jag trodde. Däremot är det en kraftig förändring sedan 2018 och än mer sedan 2008.

För den skadeglade: Var Tegmark verkligen i färd med att ge en miljon kronor till högerextrema Nya Dagbladet? Expo säger ja, Max nej.

För de konträra: En av de knasigaste böckerna i min bokhylla är skriven av den teoretiske fysikern Michio Kaku. I Physics of the Future, som kom 2011, betar han av hur allt från AI till nanoteknologi, sjukvård och energiförsörjning kommer ändras.

Att Kaku är duktig på att spana framåt betyder inte att han kan mycket om AI. Men han är rolig att lyssna på.

I söndags sa han till CNN att dagens AI-tjänster som GPT4 är “glorifierade bandspelare”. Det är inte språkmodeller som kommer ändra världen, utan kvantdatorer, enligt Kaku.

Det luriga är dock att Google och Microsoft, som får anses dominera språkmodellsmarknaden, utvecklar kvantdatorer. Inte ett sammanträffande.

/Plusmeny 🍺

#1 🏆️

Varje år koras en svensk person som är väldigt bra på eller för AI-utveckling. Priset som årets AI-svensk är viktigt, inte minst för att visa fler vad kreativitet och samarbete kan åstadkomma.

Men också för att det lyfter fram vad som finns att förbättra, och att många får se hur kommunförvaltningar, regionens sjukhus eller ett bolag arbetar för bättre service och produktivitet.

Nu har juryn för årets pris meddelats. Jag gillar Örebroforskaren Amy Loutfi, vars arbete jag för första gången stötte på vid ett AI-seminarium i januari 2020.

Jag var milt kritisk till hennes hållning gentemot data som den nya oljan, men har under detta år tagit del av mer forskning därifrån och tycker den är bra.

Jag fick i våras förhandsläsa Daniel Akenines bok Människan och AI - fem år senare. Den är jättebra. Sådana personer är gjutna jurymedlemmar.

Även Daniel Gillblad, som i Luleå i slutet av maj diskuterade AI med tre EU-kommissionärer och såväl USA:s utrikes- som handelsminister, är med. Fett!

#2 🤠

Schibsted ligger rätt bra till när det gäller AI-utveckling. Sveriges Radio och SVT har gjort dugliga framsteg, exempelvis när det gäller policies för AI-material.

Jag blev glad när Aftonbladet i våras anställde en AI-general. Men Andreas Landmark hann knappt börja före han gick till SVT för att jobba med nyheter. (Som att AI inte är det…)

Bonnier, däremot, har aldrig riktigt vaknat till. Det skrivs och drivs ytterst lite debatt i frågorna, och de flesta anställda tycks inte intresserade av att stanna upp och fråga hur de som mediebolag ska göra.

Nu gör de ett motdrag och plockar in SVT:s programdirektör Jan Helin, som ska ansvara för sådant som “riktlinjer och användning av AI inom Bonnier News innehålls- och tjänsteutveckling.”

Privata AI-medier 1, statliga 1.

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Norska författare spottar ur sig jäkligt bra prosa och poesi – och krim. Där är de som ska tjäna pengar på texterna bekymrade för hur bra översättningarna blir om man släpper loss AI.

De vill skapa kontrakt som utesluter språkmodeller från att arbeta med deras verk.

Det verkar bli likadant i Sverige…

Jag tänkte osökt på podcasten The Bot Canon, där gamla klassiker samskrivs på nytt med AI. För den som läst Lady Chatterleys älskare rekommenderas detta avsnitt.

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#3. Experiment i Basel.

Cecilia Skingsley drev länge på Riksbankens arbete med en e-krona. Om detta har jag skrivit spaltmeter, bland annat hur det ökar kontrollen över individer.

Nu rattar hon centralbankernas gemensamma innovationshub i Basel. De ska bland annat leka med AI för att motverka penningtvätt. Det är ett reellt problem.

Enligt BIS, centralbankernas samarbetsorgan, försvinner mellan två och fem tusen miljarder dollar varje år i pengatvätt. Bara 1 procent återfinns.

Ihop med det isländska AI-bolaget Lucinity och syntetisk data lyckades BIS i projekt Aurora skapa modeller som bättre än tidigare ramverk kunde förutspå beteenden, flöden och risker.

Labbet kan bli värd sin vikt i guld om de får till förbättringar på decimalen.

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

Dagen före kräftjävelns debut 🥃

Gustav Juntti — Fri, 11 Aug 2023 14:50:38 +0000

Howdy! Samtliga karljohansvampar på Österlen är plockade. Traditionsenlig kräftskiva stundar imorgon. Kanske kan den så kallade kräftjäveln från Norrbotten – en nubbe av 3 cl tequila och 3 cl kräftspad – gå hem här nere.

Rötmånaden till trots är menyn fullspäckad: kärnvapen, laxar och politiska halvsanningar smakar mumma.

Som strössel serveras tankeläsning, och digestifen är en amerikansk tolkning av Galileos skuld. Väl bekomna, och fridens liljor!

/Dagens meny 🥘

De felaktiga larmens tid 🤯
En modern pitch till SVT 🎥
Ministerns halvsanning 🤥

/Plusmeny 🍺

Tankeläsning is real 🧠

/ Är AI verkligen det nya kärnvapnet? 🤯

I en intervju med två AI-forskare och en kognitionsvetare får vi veta att larmen om existentiella hot från AI är överdrivna.

Man måste inte nödvändigtvis hålla med om det. Det finns definitivt långsiktiga problem och storskaliga risker med allt mer avancerad AI.

Som kognitionsvetaren Magnus Johnsson säger är AI i sig inte farligt, men “det kan vara farligt om man ser det som ett verktyg, likt kärnvapen, som kan hamna i människors händer.”

Att AI är som kärnvapen är en poäng som ofta kommer upp. Men vart leder det tanken?

För det första: Får vi något som är mer intelligent än oss, skulle “den” verkligen göra något som vi, den dummare av de två, inte gjort? Vi har inte förstört jorden med kärnvapen. Så varför skulle en mer intelligent skapelse se det som ett viktigt mål?

För det andra: Kärnvapen är väl reglerat och övervakat. Länder som vill ha uran till kärnkraftverk förbinder sig att släppa in inspektörer och installera övervakningsutrustning som Internationella atomenergiorganet styr.

Kanske är det dit vissa länder går, exempelvis genom G7-ländernas tanke om den så kallade Hiroshimaprocess (som ännu inte finns). Men vi kan inte byta AI mot övervakning och extern reglering. Det är något som varje land behöver diskutera och förhålla sig till.

För det tredje: Det var inte de som kom på atombomben som använde den. De behövde enorm hjälp genom Manhattanprojektet för att realisera idén. Leo Szilard blev inte världens mäktigaste människa bara för att han kunde bygga kärnvapen. Det var politiska beslut som styrde hur människan ska förhålla sig till tekniken.

För det fjärde: Om en form av AI ska ta över världen eller bli tillräckligt kapabel för att förstöra den krävs enorma mängder människor som agerar i detta intresse. Det underskattar grovt hur vi är funtade. Vi lär knappast gå med på att regissera vår egen undergång.

Det här brukar provocera fram det vanligaste motargumentet från alla som tillber Nick Bostrom och Max Tegmark: Men vi kommer tappa kontrollen när generell AI genomgår en intelligent och kognitiv explosion och blir superintelligent.

Visst, det är svårt för en mänsklig intelligens att föreställa sig samma saker som en eventuell superintelligens ser. Samtidigt har vi världens tröghet som en fördel.

Vi har kroppar. Det har inte superintelligenser. De är utombiologiska. Med våra kroppar kan vi påverka världen rent fysiskt. Vi kan kontrollera råvaror, byggnationer, bilar, varor. Hur ska något som saknar förmåga att finnas i världen göra allt det?

Slutligen: Tänk historiskt. Hur många länder, riken, nationer har skapat världsherravälde med dagens digitala teknik? Tekniken har snarare spräckt möjligheterna att dominera, och brutit upp världen i åtminstone tre maktpoler: Washington, Moskva, Peking.

Jag antar dessutom att de flesta håller med om att dagens människor är smartare än de på 1700-talet eller än vikingarna eller ännu längre bak.

En nutidsmänniska skulle dock inte dominera dåtidsmänniskor. Frågan är om vi ens skulle överleva i äldre samhällen, hur kunniga vi än är på sociala medier, industrirobotar eller självkörande bilar. Vad vi kan, och vad vi kan göra med den kunskapen, relaterar till kontexten.

Vi kanske inte kan tillräckligt mycket för att stoppa superintelligens. Eller så kan vi helt enkelt inte tillräckligt mycket för att förstå eller skapa den.

/ När kommer Den Stora Laxvandringen? 📷️

Kommer ni ihåg när israelisk 3D-fisk var med på menyn? Det var häftigt.

Jag erkänner: Ur ett AI-perspektiv var det långsökt. Men nu har jag hittat äkta fisk-AI att servera.

Jag pratade i början av sommaren med en person som jobbade på Ericsson. De har ett projekt i Älvkarleby i Gävleborg där de använder AI för att räkna fisk vid vandringstrappor.

Med 14 kameror under vattnet fångas varje firre som passerar. Mönsterigenkännande algoritmer skapar unika markörer med hjälp av prickar, fenor, storlek och svampangrepp.

Varför är detta bra, tänker ni.

Förut visste vi väldigt lite om vilka fiskar, eller ens hur många, som klarade av att passera olika drag och vandringstrappor. Och vi visste inte om de återkom år efter år eller dog på färden.

Det måste alla som driver kraftverk i svenska vattendrag veta. Och de har även skyldighet att odla fisk som kompensation för förstörda lekplatser vid reglerade vatten.

Det betyder att man måste kunna räkna odlad och vild fisk för att förstå hur ens miljöarbete faktiskt fungerar och påverkar naturen.

Det kan fisk-AI göra.

Algoritmerna kan med hög precision identifiera den fettfena som sitter långt bak på vild fisk, men som blivit bortskuren på odlad fisk. Och det går att se om det är laxfisk eller annan fisk.

Jag trodde det här var en väldigt nischad grej. Jag har ofta fel, vilket är kul.

Längre upp i Gävleborg, vid Brynäs, pågår ett AI-projekt för att räkna gäddor. I Kalmar och på Värmdö har man under våren räknat abborrar, brax, mört och många andra arter. Och Vattenfall började för tre år sedan att räkna laxar (firrar, inte tusenlappar) vid Stornorrfors i Umeälven.

Det finns, så klart, till och med ett bolag vars hela affärsidé bygger på fisk-AI.

Att det finns en svensk “fish nisch” inom AI gör mig ödmjuk inför nyttorna som tekniken kan tillföra samhället. Kan fiskarna och haven må bättre?

Jag hoppas att SVT någon gång satsar på Den Stora Laxvandringen i Umeälven.

/ Ministerns halvsanning 🤥

I våras intervjuade jag digitaliseringsminister Erik Slottner (KD). Han sa att de privata företagen inte behöver politikens hjälp med att implementera och använda AI.

Ministern vill snarare fokusera på hur offentlig sektor görs bättre med tekniken. Det är en vällovlig ambition.

Det är också en chimär.

Den gängse politiska uppfattningen, särskilt bland borgerliga partier och väljare, är att offentlig sektor är ineffektiv och trögrörlig. Det må stämma på många håll, och jag kommer återvända till hur AI kan förändra det.

Men ministerns politiska berättelse om att näringslivet är bättre på att använda AI än offentlig sektor behöver kompletteras.

Kompletteringen: 4 > 1.

Statistiska Centralbyrån (SCB) släppte i våras en väldigt underrapporterad sammanställning om AI.

Den första meningen i presentationen lyder: “Mellan 2019 och 2021 ökade AI-användningen både bland företag, med 1,1 procentenheter, och i den offentliga sektorn, med 4,1 procentenheter.”

Det är fyra gånger så vanligt att en organisation inom offentlig sektor börjar använda AI som inom den privata sektorn.

Det betyder inte nödvändigtvis att ministern har fel. Antalet företag som använt AI under 2021 var 2 570, enligt SCB. Motsvarande siffra för organisationer inom offentlig sektor var 130.

Men det är fortfarande bara 6,5 procent av företagen i Sverige som använder AI. Inom offentlig sektor ligger det på 26,6 procent.

Även här: fyra gånger så mycket.

Generellt sett är det större verksamheter i offentlig sektor som nyttjar tekniken, medan mindre företag väljer att gå samma väg.

Det betyder att sett till absoluta antal anställda kan användningen spänna över lika mängder arbetskraft i privat som offentlig sektor. Andelen stora enheter som använt AI är exempelvis “liknande i båda sektorerna”, enligt SCB.

Bland medelstora enheter ligger offentlig sektor före privat, men det är få i den förra kategorin och många i den senare vilket påverkar den procentuella andelen. Bland små enheter är skillnaden mellan sektorerna liten.

Varför använder man AI?

2019 var det vanligaste skälet inom offentlig sektor att utveckla eller förbättra interna processer. Två år senare var det i stället en existerande produkt eller tjänst som flest ville förbättra.

Det tyder på att mogenheten inom AI stiger bland kommuner, regioner och statliga myndigheter. De använder tekniken oftare eller bättre än för några år sedan.

Företag följer precis samma mönster, om än i högre utsträckning. It-säkerhet är dock viktigt för privata bolag, medan det alternativet inte ens finns med i de svarsalternativ som verksamheter i offentlig sektor kunde välja.

Kanske ingår säkerhetsarbetet i kategorin utveckling av interna processer, eller i utvecklingen av nya produkter och tjänster, men det är konstigt att tro att våra myndigheter inte använder AI för att skydda sig.

Varför använder man inte AI?

Det finns många svar. Här är de vanligaste, enligt SCB.

För statliga myndigheter är vision eller AI-strategi det största hindret, efter anställdas kompetens. Det senare problemet har dock minskat.
Även regioner saknar kompetens, men därefter är datasäkerhets- eller integritetsfrågor det största hindret ihop med juridiska och etiska frågor. Det hänger samman med deras ansvar för sjukvården.
Kämpigast verkar det för landets kommuner. Att hitta rätt personer att anställa är vanligast även här. Men 45 procent av kommunerna saknar kunskapen om tillgänglig teknologi och tillämpningar.
Bland företag i stort är det också kompetensen som hindrar utvecklingen. Och ju större företag, desto högre blir detta hinder. Men intressant nog är kostnader det näst största hindret, och även här växer det med företagets storlek.

Vad betyder detta?

Att kostnader är så högt upp talar emot narrativet att AI är så effektivt för att det är skalbart. Att implementera AI-system och -tjänster är svårt, vilket tar tid och därmed även pengar, och det kräver omställningar av vilket arbete som görs samt hur, var och när det görs.

Det finns dock ledtrådar till varför hindret är så stort. På delad andra plats ligger kvalitetsproblem med, eller brist på, data.

Det är ett reellt hot mot ens konkurrenskraft.

Antingen har man data som är svår att använda, eller så har man inte tillräckligt med data. Oavsett vad blir det en hög kostnad för företaget i form av stora investeringar i tid för att massera sin data eller i pengar för att köpa den.

Att etiken ligger högre upp inom offentlig sektor kan tolkas som att företag kommit längre i sin förståelse av tekniken. Eller så är det tvärtom: Att myndigheterna tar riskerna på större allvar. Att användningen av AI är utbredd hos dem stödjer den tesen.

Undantaget är kommunerna. Ungefär varannan vet inte ens var de ska börja gräva. Det är riktigt illa.

/Plusmeny 🍺

#1 🧠

Havannasyndromet fanns aldrig. Men biopsykologisk krigsföring har fått en game changer.

Fyra forskare från Texas har lyckats översätta tankar till text med ett AI-verktyg som kallas för en semantisk avkodare.

Modellen tränas genom att låta en person lyssna på timtals med podcasts samtidigt som syresättningen i hjärnan mäts. Ordflödet matchas mot mönster i hjärnaktiviteten.

Med hjälp av neurala nätverkskartor – som dels fångar relationen mellan betydelsen av ord och fraser i ett språknätverk och dels visar hur hjärnan lyser upp vid språkanvändning – kan de både beskriva vad en person tänker på, och summera vad en video som personen tittat på handlar om. Helvete!

Det funkar hyfsat bra. Exempelvis översattes tanken “Jag har inte tagit körkort ännu” till “Hon har inte ens börjat lära sig att köra bil ännu”.

Visst, en ny språkmodell behöver tränas för varje enskild person vars hjärna ska läsas av. Och visst, det funkar inte om personen aktivt tänker på något annat än materialet som forskarna visar. Men andemeningen i hjärnaktiviteten framgår ju.

Det här är förstås nyttigt för människor som är medvetna men inte fysiskt kan prata. Men det kan så klart missbrukas. Forskarna är medvetna om det.

Är det ett bra eller dåligt tecken att de också sökt patent på den semantiska avkodaren?

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Jag har tidigare skrivit om forskarvärldens inställning till AI utifrån ett citat som ofta tillskrivs Galileo Galilei: Eppur si muove. Och likväl rör hon sig.

Som jag också skrev då är det inte säkert att han ska ha uttryckt detta.

Men det beskrivs som ett citat från 1633 och den romerska inkvisitionen, den kyrkliga rättegång som hölls när någon utmanade kyrkliga dogman och doktriner.

Att solen rörde sig runt jorden höll inte Galileo med om. För det blev han åtalad och tvungen att dra tillbaka sitt påstående. Det är kärnan i all framstående forskning: Att söka och hitta sanning när alla andra har fel.

Rättegången, och Galileos skuld, dök upp som ett tankeexperiment i en podcast med techentreprenören och AI-debattören Marc Andreessen.

Vad hade hänt om dagens stora språkmodeller fanns 1633, och de fick frågan om Galileo hade rätt eller fel i sitt påstående att jorden rör sig runt solen?

Förut hade kyrkan och kungar monopol på det sanna och det rätta. Så är det inte i dag.

Men det många människor tycker i dag, och därmed skriver i böcker och på internet, motsvarar samma form av majoritetsåsikt som rådde när Galileo ifrågasatte världsordningen. Och den majoritetsåsikten är den träningsdata som går in i stora språkmodeller.

Modellerna bygger kunskap utifrån kollektivets kunskap. Modellerna har inte tränats på en sanning, eller att söka den, utan på vår konsensus.

En gång i tiden var konsensus att jorden stod still i universums mitt. Och att vissa människor var värda mer än andra.

Vad gör dagens konsensus med den kunskap och de svar som språkmodeller ger oss? Och vad gör det med oss?

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#6. Konsekvenstänket.

Apropå Galileo.

Forskare, åtminstone de framstående, har det kämpigt ibland. De måste hitta sanning och rätta svar. Men de måste framför allt göra det när alla andra har fel. Det kräver en del självförtroende att peka på alla andra och säga att de inte kan något.

Men det är lika viktigt att forskningen som sådan förstår hur det de upptäcker kan påverka världen.

I Lund pågår en debatt om de etiska riktlinjerna kring forskning. De som utför forskningen och hur den ska utföras granskas ofta.

Men sällan blir resultaten etiskt prövade. Hur ska forskare som bryter ny mark inom genteknik eller AI göra med sina resultat eller upptäckter?

Jag tror inte att det går att begränsa eller etikpröva resultaten, förvisso. Men tanken om att blicka bortom labbet börjar växa.

Jag pratade i mitten av maj med en AI-forskare vid det statliga forskningsinstitutet Rise. Forskaren har börjat ändra hållning, från att tro på det öppna samarbetet för att utveckla bättre modeller till att fundera på om resultaten alls ska släppas – just för att en algoritm eller modell lätt kan appliceras i kinesisk övervakning eller rysk propaganda.

Det här är kontroversiellt, och nytt för forskarna själva. Vissa är helt orörda och ångar på som vanligt för att det är deras inre forskarheder. Andra verkar ha stannat upp.

Jag gillar oftast att kolla på det som avviker. De här personerna som har stannat upp kommer jag borra mer i.

Hur säger man “ändå står de still” på latin?

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

Torgnys övriga frågor 👓️

Gustav Juntti — Fri, 04 Aug 2023 13:57:00 +0000

Hej HAIK:are! Fjällen är bytt mot Luleå skärgård. Har funnits gott om tid för reflektioner senaste veckan.

I dag serveras därför en specialare om litteratur om AI.

För att skriva så behöver man fördjupa sig. Så det finns en del från bakgrundläsningen att rota vidare i.

Nu ska vedbastun eldas. Trevlig helg!

/Dagens meny 🥘

Västerbottnisk AI 👓️

/ AI från Raggsjö 👓️

Det är söndag, runt 18-tiden. Aron har suttit hela mötet och lyssnat. Så når de dagordningens sista punkt: Övriga frågor. Det är, precis som Torgny Lindgren skriver i romanen med samma namn, en värdering: Det oviktiga tas upp på slutet.

När han väl ska tala om flyktingarnas situation har han dock ingen plan för hur arbetarekommunens sammanträde ska adresseras. Så han bara börjar.

Det har alltid varit svårt för Aron att börja. Den politiska kumpanen Evan har “försökt rita scheman åt mig: punkter, våglinjer, räta linjer, tankstreck och cirklar. Men de är oanvändbara.”

Det är en fin metafor för 1970-talets förvirrade och stingsliga socialdemokrati. Arons tal girar, kränger, snubblar.

“Ingenting av det jag hittills har sagt överensstämmer med vad vi hade tänkt ut i förväg… Ibland när vi sitter och förbereder oss ser meningarna ut som geometriska serier, där det första ordet redan ger en antydan om det andra och det tredje är självklart och allting är självklart ända fram till punkten som bara kommer som en bekräftelse. Och ibland snuddar man nästan vid de konvergenta serier där n löper ut i oändligheten.”

På sex rader, år 1973, fångar Lindgren vår debatt om artificiell intelligens (AI) och hur stora språkmodeller fungerar.

Oftast skapar de trovärdiga meningar. Men ibland fungerar de inte alls.

Bolaget Anthropics modell Claude räknade fram att i det engelska ordet mayonnaise förekommer bokstaven n fyra gånger: Mayonnaise. Mayonnainse. Mayonnaine. Mayonnaisne. Googles modell Bard räknade i stället noll stycken e i ketchup. Varför?

Språkmodeller arbetar med så kallade tokens. Det är, grovt uttryckt, antingen ett kort ord eller en stavelse i ett längre ord. För Bard, Claude och alla andra modeller består ketchup inte av sju bokstäver utan av två tokens: ket och chup. Den första bokstaven i ketchup är ket, inte k.

Behöver vi verkligen förstå hur modellerna fungerar? Kanske inte. Men som vetenskapsjournalisten Elizabeth Lopatto skriver: “Om det är något chatbottar är värdefulla för, så är det att belysa saker om vår egen intelligens som vi tar för givna.”

Den som skriver schematiskt – ett torrt och förväntat språk, en standardiserad struktur – lär bli manglad.

Översättaren Niclas Hval, tillika styrelseledamot i Författarförbundet, har pratat om “formelartad litteratur”, exempelvis harlequin, som en utsatt genre. Språket är begagnat, dramaturgin lika algoritmisk som Aron och Evans sammanträde: ett möte, en sexscen, ett uppbrott, en återförening, toppat med giftermål eller graviditet.

Forskaren Elle O’Brien lät för sex år sedan en AI-modell träna på 20 000 boktitlar från genren för att skapa nya, med rätt rimliga resultat. Nu finns mycket mer avancerad AI att tillgå för vem som helst.

Den svenska språkmodellen GPT-SW3 är medelstor internationellt sett, men har tränats på textmängder motsvarande 1,2 miljoner kopior av Fjodor Dostojevskijs roman Brott och straff. Mängden engelskspråkig träningsdata, och därmed modellernas kapacitet, är långt större. Det har redan gjort avtryck i författandets värld.

Clarkesworld, ett av världens främsta förlag för sci-fi och fantasy, fick i vintras stänga sin manusmottagning. Över 500 AI-genererade bidrag inkom bara under februari, ibland 50 på en dag.

O’Briens experiment och modellernas storlek implicerar även sådant som feelgood-romaner. Men det är förmodligen för smalt tänkt. Deckare, krim och fantasy går utmärkt att bryta ner i de scheman som Evan försöker rita åt Aron. Och Niclas Hval fruktar för sitt eget jobb. Det är han inte ensam om.

Det är osäkert om exempelvis George Perecs lipogram Försvinna är enklare eller svårare för en språkmodell att skapa än en människa. Claude och konkurrenten GPT4 klarade inte, trots tydliga instruktioner, av att skriva en tusen ord lång berättelse utan bokstaven e i sig. Men det finns andra former av litterärt skapande.

En AI-modell har nyligen börjat avkoda och para ihop enorma mängder fragmentarisk babylonsk litteratur, däribland hittills oläsbara delar av Gilgamesheposet. Det bygger på hur man analyserar genetisk variation i DNA. På 150 år lyckades forskare identifiera 5 000 nya fragment som hör till redan kända texter. De senaste fem åren har 1 500 tillkommit med AI.

Det är alltid en mänsklig impuls som initierar och definierar skrivprocessen, tonläget, formen, avgränsningarna – antingen för sig själv eller åt en språkmodell. Det finns ingen chatbot som bestämt sig för att ägna all sin tid åt att skriva fram nya verkligheter.

Den som tror att AI kommer ta över världen har därför fel. För det krävs kontroll över massiva mängder människor, ihop med grundläggande resurser som el, olja, betong och stål. Ingen civilisation, hur smart den än har varit, har åstadkommit världsherravälde. Sådant nödgar övertygelse, övertalning och samarbete.

AI är en utombiologisk skapelse. Hur kan något som saknar kropp manipulera världen?

Förkroppsligad intelligens måste, enligt robotforskaren Joshua Bongard, “knuffa mot världen och observera världen knuffa tillbaka.”Där brister artificiell intelligens. Och det är precis så människan, författaren, kan relatera till språkmodeller.

Det blir mer värdefullt att leka med motsättningar, brutna röster, över- och underlägen och tidslinjebrott. Och varje skrivprocess kräver friktion. Kanske överför AI motståndet till läsprocessen, så att textens mottagare finns med på nya sätt i författandet.

Språkmodeller gör skrivandet ärligare. De kan inte redogöra för hur en enskild text genererats. Men det kan heller inte författare. Skrivandet har alltid omgärdats av osäkerhet, ett sökande, en okunskap – och hänsynslöshet till verkligheten. Att dikta är att ljuga sig fram till sanningen, som Eyvind Johnson menade.

Litteratur är att skriva i ett nu men bli förstådd i ett sen. Torgny Lindgren var språkmodellerna på spåren 1973. Kanske är modellerna den nya litteraturen på spåren, femtio år senare. Kanske skrivs det något nu som vi bara kan förstå sen.

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

En ny AI-sheriff 👮‍♀️

Gustav Juntti — Fri, 28 Jul 2023 14:58:03 +0000

Terve! Vikariatet på UNT är slut. Från 14 augusti skriver jag ledare i Vestmanlands Läns Tidning. Tills dess: fjäll, skärgård, Österlen.

Som enda huvudrätt på veckans meny kommer en utbyggd version av söndagens krönika i UNT: Kulturdepartementet ska starta en arbetsgrupp för AI. Bravissimo!

I dag serveras en något teknisk plusmeny: maskinell uppmärksamhet.

Airbnb lanserade en partymodell och språkarbetare har mardrömmar.

Jag, Johanna och en hel tågvagn med släktingar har åkt till Abisko. På söndag bombar vi in i Kebnemassivet. Ute ur radioskuggan om en vecka.

/Dagens meny 🥘

En ny AI-sheriff 👮‍♀️

/Plusmeny 🍺

En knackig ekvation 💹

/ Den nya AI-sheriffen i svensk politik 👮‍♀️

Det brukar sägas att teknik slår politik. Det ligger viss sanning i det. Teknik, och därmed den moderna kulturen, är ofta spjutspetsen vid sociala förändringar.

När plattformsekonomin växte fram i takt med nya taxi-, mat- och handelstjänster blixtbelystes välfärdssystemen. Vem var ansvarig för pensioner, arbetsgivaravgifter och försäkringar för gigjobbare? Ska kommuner verkligen ha monopol på att frakta bort möbler? Är skatterna på arbete rimliga?

AI står för samma sorts systemomvälvning. Det har kulturminister Parisa Liljestrand (M) förstått.

Sveriges Radio och TT beskrev i början av veckan hur hon startat en AI-enhet. Men det är inte riktigt så arbetet ser ut.

Egentligen är det en arbetsgrupp med olika tjänstemän som ska formeras de kommande veckorna. Det sker delvis för att vässa arbetet med det första utkastet på den strategi för kulturella och kreativa näringar som ska komma tidig höst – där AI sägs vara bottenplattan. Delvis behövs mer lärande och kunskap för att driva policyutveckling.

Några tjänstemän får börja utforska hur AI påverkar deras arbetsområden, antingen för att de är mer berörda eller har större intresse/kunskap.

Det behövs. Och det är rimligt att kulturdepartementet tar täten.

Under dem sorterar allt från demokratifrågor, val och desinformation till arkeologi, filmpolitik och upphovsrätt. AI har slagit hårt mot alla dessa delar i flera år.

Under radarn: Inom Statsrådsberedningen (SB) görs också AI-satsningar för hela Regeringskansliet, främst för att koppla ihop de mest berörda departementen. Hos SB sorterar bland andra statsministerns kansli, samordningskansliet och kansliet för krishantering.

Denna typ av medvetenhet om AI inom den högsta politiska ledningen stod inte att finna för några månader sedan. Men tekniken driver uppenbarligen politiken framför sig.

Scan it, send it, fax, rename it: Riksantikvarieämbetet (RAÄ) har redan hittat fornlämningar med hjälp av tekniken, och ser möjligheten att scanna och finkamma hela landet efter okända kulturarv. Men hur hantera och strukturera all ny information? Även där kan AI bistå.

Redan nu finns den norsk-svenska databasen Digitalt Museum. Skalan i AI-verktyg gör att alla objekt i alla museers arkiv så småningom kan ses digitalt eller virtuellt. Digitala arkiv omintetgör politiska bråk om gratis entré till statliga museer, och frigör samtidigt en kulturskatt med oändligt värde. Men det omdefinierar också syftet med att skapa utställningar och själva folkbildningsuppdraget.

Därtill sätter dagens pliktlagstiftning käppar i hjulen när fornlämningar upptäcks, exempelvis för anläggningen av konstgräsplanen i Gamla Uppsala liksom ny järnväg i Norrland. Med RAÄ:s inriktning kommer många fler markägare att påverkas. Samtidigt har arkeologer i Uppland tidigare gjort viktiga fynd vid byggena av E18 och E4.

Stora ekonomiska satsningar på infrastruktur har bäring på kulturminnen. Ju fler kulturminnen som upptäcks, desto mer påverkas planeringen av nya bostäder och tågförbindelser.

Kulturpolitiken kan tvinga såväl finans- som utbildningsdepartementet att tänka nytt.

Det finns förstås baksidor med omvälvningen. Kungliga Biblioteket (KB) har bistått med stora textmängder och annan data i byggandet av en svensk språkmodell som hanterar e-post, rapporter och dokument i offentlig sektor.

Men KB har nekat Sveriges nationella AI-center, som utvecklar en svensk variant av ChatGPT, tillgång till arkiven. Skälet är att, som riksbibliotekarien uttryckt det, konsekvenserna inte går att överblicka och att KB:s uppdrag är att värna “det demokratiska samhällets utveckling”. Är inte fri forskning en grundpelare i demokratier?

En ännu viktigare aktör är Riksarkivet. De datamängder som finns lagrade där är ofantliga och orealiserade rikedomar för AI-fältet. Men där döljs också känsliga personuppgifter och information om svenskt försvar som inte får slinka med i träningsdata för en språkmodell.

Då kan ryska eller kinesiska cyberoperationer i princip tanka ner information gratis från en öppen språkmodell, exempelvis om de bästa inloppen till Karlskrona örlogsbas. Redan idag förbjuder många internationella företag anställda från att använda exempelvis ChatGPT för att känslig bolagsinformation hittats i text som genererats av modellen.

Ska textrika myndigheter öppna arkiven för kommersiellt bruk? Vem ska få ersättning när arkiverad text och data används? Att lagstifta är ett dröjsamt instrument för att styra en blixtrande snabb teknikutveckling. Redan nu oroas många konstnärer och kulturutövare för sitt levebröd.

Här måste regeringen peka med hela handen.

Mycket av detta arbete implicerar andra departement. KB sorterar under utbildningsministern. Lagstiftning måste drivas av justitieminister Gunnar Strömmer (M), som tillsammans med digitaliseringsminister Erik Slottner (KD) varit helt osynliga i AI-frågor.

I stället är det kulturministern som satt sina tjänstemän på att skapa en nationell strategi för kulturella och kreativa näringar där AI integreras. Det är i sig en viktig signal. Politiken har det yttersta ansvaret för att hantera de samhällsförändringar som tekniken alltid kommer skapa.

/Plusmeny 🍺

#1 💹

En språkmodell bygger på maskinell uppmärksamhet. Den beräknas genom följande formel:

Det här är centralt för modern AI. Allt härrör ur statistisk mekanik där det användes för beräkningar av distributionen av olika tillstånd beroende på deras energinivå (jag har inte pluggat detta).

Det här tillför bara mer och mer information om varje enskilt ord eller stavelse (token) i en ordsekvens. Det sker för att kunna förstå kontexten som orden presenteras eller förekommer i.

Det finns de som tycker att dagens språkmodeller missar i maskinell uppmärksamhet, vilket gör dem svårare att driftsätta och komprimera. Det går ut över kraften i en tjänst som ChatGPT, även om de flesta inte märker det.

Jag är inte nog tekniskt skolad för att avgöra den fulla tyngden i argumenten. Men modellerna blir mer responsiva och träffsäkra över tid med bättre maskinell uppmärksamhet.

Det låter onekligen lurigt att varenda modell potentiellt har en dålig matematisk grund att stå på när den ska ut och jobba.

The other side: Ingen vet i dag riktigt hur en språkmodell fungerar, eller varför. Det kommer ta år, kanske decennier, att klarlägga.

Mervärde: Hur forskare från Google utvecklade self-attention.

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Hur gör uthyrningsplattformen Airbnb för att övervaka dåliga uthyrningar eller hyresgäster?

Det är svårt, erkänner ingenjören och chefen för “trust product and operations” (oklar titel) Naba Banerjee.

Det är intressant hur Airbnb under pandemins början försökte stoppa fester som ägde rum, men att man fick ge upp och vända sig till AI för att lyckas förutse och övervaka bokningsmönster. I områden med “partymodellen” i bruk minskade festandet med 35 procent.

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#5. Trauman.

Att rensa i språkmodellers träningsdata och svar kan vara riktigt jobbigt. Folk som har gjort det vittnar om mörka beskrivningar av “självmord, sexuella övergrepp på barn och bestialiskt våld”. En kille fick massor av mardrömmar.

Rensandet behövs. Skit in, skit ut, you know. Men det går ju inte att ge människor det skydd som språkarbetarna kräver av arbetsgivarna. Antingen väljer man helt “släta” textmängder, typ barnböcker, och riskerar konstiga inlärningar, eller så måste datan vara “värre” för att bli mer språkligt kognitiv.

Det betyder inte att man ska acceptera brott eller minska sin avsky inför dem. Men dilemmat är inbyggd i modern AI-utveckling.

Jag har under våren pratat med massor av folk som utvecklar språkmodeller. De allra flesta vill exempelvis hellre att en modell tränar på textmängder som innehåller nazistisk propaganda, för att den enklare kan känna igen och markera och utesluta sådant ur sina svar, än att undvika det.

Vi kanske inte gillar det, men vi behöver förhålla oss till det.

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

Törstiga språkmodeller 💧

Gustav Juntti — Fri, 21 Jul 2023 13:16:00 +0000

Grüß Gott, som österrikarna säger! Vecka tre av fyra på UNT:s ledarsida är fulländad. Ingen helgkrönika om AI denna vecka dock.

Till huvudrätten fanns därför lite mer tid att fördjupa sig i AI-modellers miljöpåverkan. Dessutom: Israels AI-krig.

I övrigt serveras en icke-pannkaka från Gotland (och 08), klagande konstnärer, en mellanrätt på kampen mellan data och hårdvara och som digestif imago dei.

Ännu en ytterskärgårdspaddlingshelg stundar. Bis bald!

/Dagens meny 🥘

Törstiga språkmodeller 💧
Vad göra med Fire Factory? 🇮🇱

/Plusmeny 🍺

Alma gnetar på i Stockholm och på Gotland 🏥
Konstnärsklagomål 🎨

/ En halv liter vatten för att chatta 💧

I Skåne jobbar Lucas Ferreira och Steffen Malkowsky med att sänka klimatpåverkan från AI. Bolaget Inceptron komprimerar modeller så att mindre energi krävs för att utveckla dem.

Det är bra, och företaget lär ha enorm potential att göra nytta.

Bara Googles AI-arbete under 2021 förbrukade enligt en uppskattning 2,3 terawattimmar. Det är, enligt Vattenfall, nästan lika mycket som all el under ett år till 500 000 hushåll. Typ Göteborg…

Nu har Google förvisso gjort som Lundagrabbarna och använt AI för att kapa energiåtgången med 40 procent.

Men det finns ju fler utvecklare av AI-modeller. När OpenAI tog fram GPT3 motsvarade det 500 ton koldioxidutsläpp. Det är drygt sex enkelresor med flyg mellan Luleå och Stockholm.

Det är inte bara koldioxid som påverkar klimatet. För att ens skapa GPT3 förbrukade OpenAI/Microsoft drygt 700 000 liter vatten, enligt forskare. Det går främst till att kyla servrar.

Folk har klimatångest på grund av flygresor. Folk som använder ChatGPT har det inte.

Men om det skulle stå det som forskarna får fram – att mellan 20 och 50 frågor i ChatGPT motsvarar förbrukningen av en halvliters vattenflaska – skulle nog fler tveka på att be om hjälp att skapa totalitära regimer eller bygga magiska potatisar.

Ett kliv bak: Vatten är livsviktigt, och bristen ökar globalt sett. Det råder stora konflikter om vatten mellan exempelvis Egypten och Sudan, och i länder som Irak, Somalia, Bolivia och USA. En av de dödligaste vattenkonflikterna är mellan herdar och bönder i gränstrakterna mellan Mali och Burkina Faso.

Som jag skrev i en ledare om vatten i UNT redan 2019: “I dag finns uppskattningsvis 286 gränsöverskridande flod- och sjöområden, men bara 84 stycken omgärdas av samarbeten för att hantera överutnyttjande.” Utan samarbete blir det bråk.

Företagen som utvecklar AI-modeller berättar ingenting om energiåtgång eller dylikt. Med mer transparens kan samhället och politiken bestämma sig för vad vi tycker att priset för användningen ska vara.

Att använda en AI-modell för att hitta nya antibiotika vill nog många. Men när överväger klimatpåverkan de eventuella nyttorna?

Money, money money… Dagens Prat handlar om Josh Wolfe. Han berättar att kostnaden för att utveckla stora språkmodeller ökar, främst för att fabrikerna som tillverkar hårdvaran bakom träningen fördyras vilket överförs till modellutvecklare genom dyrare processorer. ChatGPT3 var “i de låga hundratals miljoner dollar”. Nästa generation modeller förväntas kosta bortåt en miljard dollar.

Ovanpå det måste de miljömässiga konsekvenserna av el- och vattenförbrukning räknas in. Självklart beror klimatavtrycket från modeller på varifrån elen kommer. Google menar att deras utsläpp ligger på netto noll.

Men Google är inte särskilt koldioxidneutralt.

De använder fossila bränslen och köper förnybart någon annanstans, så kallad klimatkompensation. Det betyder att man kan dubblera utsläppen genom att dubblera kompensationen. Inte så nära noll…

Inceptron tror sig kunna minska energiåtgången för sina kunder med 60 procent. Hoppas att de får napp hos Google och Microsoft.

/ Det behövs brandsläckare i Fire Factory 🇮🇱

Israels armé (IDF) använder AI för att identifiera mål och planera luftattacker, enligt Bloomberg News.

Det finns två system. Ett som föreslår vilka mål som ska beskjutas, och ett med namnet Fire Factory som beräknar allt från ammunitionsmängd till flygplans- och drönarbehov till vilken ordning som beskjutningen ska ske.

Det betonas att människor granskar och godkänner alla AI-beslut. Men väldigt få, särskilt militärer, lär ifrågasätta algoritmer på ett systematiskt vis. Det öppnar för godtycklighet i verksamheter med irreversibla konsekvenser.

Som en tidigare jurist för IDF säger: “Man kan radera ut en hel familj baserat på ett misstag.”

The poly-ticks, then…

I Storbritannien finns en parlamentarisk kommittée för att utreda AI inom vapensystem. USA har redan tagit fram sin policy.

Miljöpartisten Carl Schlyter motionerade till riksdagen redan 2017 om att förbjuda “autonoma dödliga vapensystem och reglera utvecklingen av artificiell intelligens”.

Jag frågade i våras försvarsdepartementet om Sveriges deltagande vid det nya toppmötet ReAIM, som handlar om AI inom försvar, vapensystem och militära operationer.

Vissa jag pratade med sa att Sverige inte brydde sig om ReAIM, som anordnades i Haag av Nederländerna och Sydkorea. Det stämde inte.

Sverige hade en rätt stor officiell delegation på plats. Vi skickade försvarsministerns statssekreterare Peter Sandwall, som även var delegationsledare. Ambassadören och försvarsattachén i Nederländerna var där, och Sandwall fick även resesällskap av “3 st tjänstepersoner från Försvars- och utrikesdepartementet, [c]a 10 st tjänstepersoner från relevanta myndigheter FOI, FMV och Försvarsmakten”.

Det är inte tydligt var Sverige la sitt fokus. ReAIM var dels ett toppmöte, dels en parallell konferens med forskare, experter och policyfolk.

Men Försvarsdepartementet sa i ett mail att “Sveriges hållning inför konferensen är att regeringen stödjer de slutsatser som presenterades som ett resultat av konferensen. Slutsatserna hade förberetts genom konsultationer som tjänstemän från Nederländerna anordnade med de medlemsstater som deltog vid konferensen.”

Om allt var färdigt före mötet hade det gemensamma uttalandet efteråt lika gärna kunnat skrivas av ChatGPT, typ…

Varför behövs ReAIM? Israel.

På förhand sa Nederländernas utrikesminister Wopke Hoekstra att de vill samla länderna för att definiera terminologi, se hur AI på ett säkert sätt kan användas för att accelerera beslutsfattande i en militär kontext, och hur det kan användas för att identifiera legitima mål.

“Vi rör oss mot ett fält som vi inte känner, som vi inte har några riktlinjer, regler, ramverk eller överenskommelser för. Men vi behöver de förr än senare.”

Det är precis vad Israel gör nu. Utan reglering. Utan insyn. Utan internationella forum för att granska eller diskutera detta. Det krävs bara en mjukvaruuppdatering av AI-systemen för att de ska kunna bestämma och utföra attacker helt utan mänsklig insyn.

ReAIM kom inte överens om någonting. Men det anordnas i Sydkorea nästa år. Då behövs reella bindande åtaganden från demokratier att utveckla mekanismer för utvärdering före och efter användning av AI-vapen.

Och de måste pressa Israel, som inte skrev under det gemensamma uttalandet i februari, att tänka om.

Kan det gå?

Efter ReAIM ville Kina rikta allt sådant här arbete genom säkerhetsrådet i FN. USA la i stället fram ett eget policyförslag som alla intresserade fick ansluta sig till.

Det förordade “ansvarsfullt” bruk av militär AI-teknik men saknade all typ av närmare definition.

Inget av länderna vill, av rädsla för att halka efter i teknisk kapacitet, engagera sig i frågan på riktigt.

Det splittrar det politiska arbetet att skapa trovärdiga lösningar. Så låter man Israel fortsätta i spåren av det landet självt kallat för “det första AI-kriget”.

/Plusmeny 🍺

#1 🏥

Jag skrev i april en essä om AI och offentlig sektor. Sjukvården är ett bra exempel där AI gör nytta.

Jag skrev bland annat: “[m]ed det AI-baserade beslutsstödet Alma lyckades Capios vårdcentraler i Stockholm tredubbla antalet läkemedelsgenomgångar med äldre patienter. Bolaget bakom Alma, Blackwell Medtech, har räknat ut att en läkare kan spara mellan 10 och 20 procent i dokumentationstid per handläggning med hjälp av programmet.”

I veckan som gick skrev jag en ledare om läkemedelsbristen i Sverige. Den orskar mycket problem.

Ett är att läkare måste lägga massa tid på nya bedömningar av flera patienter vilket stjäl tid från andra uppgifter, främst patienter.

När jag ringde runt för att lära mig mer om läkemedelsbristen fick jag höra att Blackwell Medtech rullat ut en funktion i Alma som kan hjälpa läkarna.

Med en enkel RPA utanpå befintliga journalsystem kan användare av Alma se vilka läkemedel som är restnoterade FÖRE de skriver och skickar iväg recept.

Det är enkelt men väldigt nyttigt. Läkaren slipper återbesök eller samtal för att korrigera utskrivningar, och patienter behöver inte jaga runt på massor av apotek för att hitta rätt läkemedel.

Än så länge finns funktionen bara på Gotland och i Stockholm, men är på väg till fler regioner inom kort. Läkarna har “tagit emot tjänsten väldigt väl” enligt en källa, och allt har fungerat bra.

#2 🎨

Massor av internationella författare har skrivit ett brev om att deras verk inte får användas när AI-modeller skapas, om de inte får ersättning.

Jag skrev i början av mars om denna instinkt.

Och jag poängterade att AI inte skadar alla konstnärer. En hel del gör ny bild- och textkonst.

Det kanske är människor vars verk enklast kan kopieras som nu klagar. Det borde snarare leda till en diskussion om vad för sorts skapande man ägnar sig åt och hur det kan förändras.

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Beräkningskraft eller dataset? Det är ungefär de två lägren som AI-marknaden är uppdelad i.

En del investerare, såväl institutionella som riskkapitalister och enskilda sparare, tror att företagen med massa GPU:s blir framgångsrika inom AI.

Andra ser tillgången till unik data som kan skäras på flera ledder som det enda försprånget. Alla kan köpa processorer, men vad ska de köra genom dem utan vettig data?

Wolfe tror att det finns en inbyggd sårbarhet i de etablerade företagens utveckling av stora språkmodeller. Lux Capital har satsat mycket pengar på andra företag.

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#5. Frikoppling.

Intelligens är svårt att definiera. Så varför kan vi hävda att det som skapas nu är en artificiell variant på vår intelligens?

Det är grunden i en essä av Nicklas Berild Lundblad om vår begreppsliga förvirring kring AI.

Egentligen borde vi insistera på en ny term, ett nytt begrepp för denna märkliga landvinning, och vi borde försöka förstå den som något helt nytt i stället för något som efterliknar oss. Det är först då vi kan börja förstå teknikens möjligheter och risker på djupet – när vi lämpar vårt begreppsliga bagage överbord och börjar att studera dessa komplexa system som något i grunden nytt.
Nicklas Berild Lundblad i SvD 15/7

Jag håller helt med. Språket måste uppdateras för att ge oss en rättvis chans att involvera, reglera eller förbjuda tekniken på olika områden.

Som Berild Lundblad fortsätter så krävs att “vi vinner kampen mot språket, och besegrar den mjuka narcissism som språket invaggar oss i, där vi blir alltings måttstock och spegelbild.“

Så blir det när vi konstant felanvänder språket för att representera utombiologisk materia som något biologiskt.

För den konträre: Det är mänskligt att göra saker till våra avbilder. Evolutionärt har vi tjänat på att tro att en mörk stor yta i skogen om kvällen är en björn eller beväpnad människa snarare än en sten, påpekar antropologen Stewart Guthrie.

Det har dock gjort att vi ser oss själva överallt Så uppkom exempelvis tanken om imago dei, alltså att människan skapades till Guds avbild.

Dessutom är språk är symboler. Alltsedan Tors hammare small över oss i himlen är vi vana att tolka allt som sker som mänskligt, om än i olika grader.

Artificiell vadå? Det finns en matematikprofessor i Lund vid namn Kalle Åström som tycker att AI borde bytas ut mot AV: artificiell vishet. Jag tycker inte att det är ett bättre alternativ. Men ansatsen är bra.

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

Är AI den nya pennan? 📝

Gustav Juntti — Fri, 14 Jul 2023 12:42:00 +0000

Arrivederci! Andra veckan på ledarredaktionen på UNT är till ända. Förra veckans söndagskrönika om AI inom sjukvården blev väl mottagen.

Helgens krönika handlar om reglering. Är AI den nya pennan (eller datorn)? Allt fick inte plats i tidningen, så här kan ni läsa den oreglerade versionen.

Dagens digestif är ett nytt favoritord: Kreativitetsfriktionskoefficienten. Mellanrätter: jobb och våtmarker och om Sverige kan få en AI-minister.

Nu ska jag iväg för att paddla och tälta i ytterskärgården. Hugg in på denna nykomponerade meny. Trevlig helg!

/Dagens meny 🥘

Varken penna eller dator har reglerats 📝
Den odemokratiske AI-ministern 🇬🇧

/Plusmeny 🍺

Mer AI, mindre pengar 🗽
Träskens återkomst 🍀

Trött på att drunkna i ett hav av komplexitet? Testa HAIK!

Håll dig uppdaterad om AI 🔔

/ Vem tjänar på att reglera regler? 📝

Algoritmer är bara en serie av regler. Artificiell intelligens (AI) är bara en serie algoritmer. Ska vi reglera dessa regler?

Jag har länge tänkt att svaret är givet. Politiken behöver erkänna, beskriva och bemöta förändringar i samhället som skapar oro.

Två av tre amerikaner tror att tekniken kommer ha en stor påverkan på arbetare generellt sett de kommande 20 åren, men bara 28 procent tror det kommer påverka dem personligen, enligt en undersökning från april av det amerikanska opinionsinstitutet Pew.

Det är ungefär som i Sverige. Här ser bara var tredje person ett AI-hot mot inkomsten, enligt rapporten Digital Skills Index av molntjänstbolaget Salesforce.

I Spanien, Italien och Frankrike är folk betydligt mer bekymrade.

Många har hört domedagsargumenten från världskända experter om att AI behöver regleras. Entreprenören Elon Musk är väl tydligast. Han har kallat AI för vår sista uppfinning, efter boken av James Barrat.

Men går det att reglera en så pass bred teknik som AI på något vis som är trovärdigt, rimligt och enkelt? Där börjar jag svaja.

Det som anförs – att tekniken kan skapa väldigt mycket förstörelse, misstro, kaos, arbetslöshet och uppror – borde implicera tidigare tekniska erfarenheter.

Vi kanske inte vill erkänna det, men skriften är människans största tekniska utveckling. Det lät oss spara data utanför hjärnan. Det fick statsapparater, litteratur, politik och teknik att blomstra.

Pennan har skapat många revolutioner. Skulle den förbjudits? De flesta vill nog svara nej.

Likadant med datorer. De har frigjort väldigt stora ekonomiska värden och gett mer makt åt många människor att delta i samhället.

Men tänk om den enda versionen av en dator som folk fick köpa eller använda var sådana som står i tentasalar på universitet som har digitala examinationer.

På en tentadator går det bara att köra ett program (webbläsaren) och besöka en hemsida (tentan), trots att datorn har alla hårdvarukomponenter, samma mjukvara och likadana tillbehör som en vanlig dator.

Dagens AI-ledare har en vanlig dator och vi övriga har en tentadator.

Så stor skillnad är det mellan de modeller och tjänster som vi kan använda och de råa, rena AI-modeller som OpenAI/Microsoft, Google/Alphabet/DeepMind, Meta, IBM, Nvidia, Alibaba, Ping An, Baidu, Tencent och andra har tillgång till.

Det går inte att säkerställa att generella generativa språkmodeller inte kan orsaka skada, lika lite som en vanlig dator inte kan orsaka skada.

Det enda sättet är att kraftigt domptera hela tekniken före massanvändning. Antingen som en tentadator eller som en avskalad, enkel och övervakad språkmodell.

Kvar står då några som äger den egentliga, ursprungliga kraften i AI-modellerna.

Därför är reglering så otroligt svårt att stödja, trots all samhällelig oro. Många av de förslag som kommit, exempelvis inom EU, har blivit urvattnade på grund av AI-bolagens lobbyism.

Lästips: En rapport från Corporate Europe Observatory om Big Techs påverkan på AI-förordningen.

Man måste också fråga sig varför exempelvis OpenAI vill reglera de mest avancerade modellerna. Bolaget utvecklar ju själv just sådana.

Det uppenbara svaret är att en avgränsning i vem som får pyssla med sådant betyder att de skyddas från konkurrens.

Det här implicerar även amerikanska lagstiftare inom AI, främst den demokratiske senatorn Chuck Schumer. Varifrån får de sina underlag, vem träffar de, och vad har de för ekonomiska intressen i sina hemstater som tjänar på reglerad AI?

Schumer representerar delstaten New York. Där finns, enligt företagsdatabasen Crunchbase, 1285 AI-företag.

Tillsammans har de dragit in 19 miljarder dollar i finansiering. Nio börsnoteringar kommer därifrån till ett marknadsvärde på 52 miljarder dollar. Vem vill störa en sådan sektor med reglering?

Mer demokrati: USA:s vice president har i veckan träffat företrädare för bland andra civilsamhällesorganisationer för att prata om diskriminering av AI.

Vi reglerade inte pennan, och vi reglerade inte datorer. Vi reglerade handlingar som använder dessa tekniker med negativa konsekvenser.

Hur kan vi reglera språkmodeller på samma sätt?

/ Går posten som AI-minister i arv? 🇬🇧

Jag pratade nyligen med en person som intresserar sig för (och har arbetat med) AI-frågor, och mer specifikt risker, säkerhet och etik.

Vi var båda inne på samma sak: Varför har inte riksdagen ett utskott för teknik, eller rentav AI? Och varför finns det ingen AI-minister?

Den digitala världen, med för- och nackdelar, är väldigt påtaglig för många människor. Vilka politiska alternativ har de för att påverka, förändra, gnälla eller protestera när exempelvis personlig data försvinner?

Svenska riksdagspartier måste ta flera steg framåt.

Förenade Arabemiraten utsåg en AI-minister redan 2017. År 2020 utsågs Maria Gardfjell till Miljöpartiets, och därmed svensk riksdagspolitiks, första talesperson i AI-frågor.

I USA har presidenten ett eget AI-råd och hans seniora rådgivare träffas några gånger i veckan för att diskutera tekniken. Ämnet ingår också i administrationens strategisessioner varje lördag.

Rumäniens premiärminister tog det här ett steg längre i våras genom att anställa en AI-rådgivare som är en språkmodell. Jävligt meta!

Storbritannien tycks ha blandat en sorts geggamojja av alla dessa politiska ansatser.

Jonathan Berry har ärvt sin plats i den övre kammaren av det brittiska parlamentet, som en av 92 så kallade “hereditary peers” (AI-översättning: ärftliga kamrater; Nationalencyklopedin: ärftliga pärer/värdsliga lords).

Jag trodde pärer var potatis på ångermanländska. Anywho…

Berry är en viscount. Det betyder att han är lägre rankad än en earl, men högre rankad än en baron. Har han dock en rätt framstående roll i Storbritanniens politik.

Sedan mars är Berry landets AI-minister, handplockad av premiärminister Rishi Sunak.

Vad kan han?

Historia: Han har arbetat med tech sedan 1990-talet, och fick en bok om AI dedikerad till sig av sin vetenskapsjournalist till far. Berry säger sig ha tänkt på AI “sen han var fem”.
Risker: I några månader satt han även i en parlamentarisk kommitté för att utreda AI inom vapensystem.
ChatGPT: Han använder AI-tjänster dagligdags för att summera information och skriva tal.
Tänka: Berry ser att AI vare sig är en utopi eller en dystopi. Värdet är stort, riskerna likaså, politiken blir därefter.

Senare i år ska han och Storbritannien anordna en global konferens om AI, eftersom Rishi Sunak har pekat ut det som en av fem kritiska tekniker för regeringen att fokusera på. Får Sverige ens en inbjudan?

Demokratin då? Folk gillar inte riktigt personer som ärvt sitt politiska mandat, än mindre att de blir ministrar. Det saknas förankring och därmed legitimitet bland väljare, säger olika kampanjorganisationer för en mer liberal och modern demokratisk ordning.

Sverige då? Jag kommer dragandes med en biografi över en brittisk minister för att skriva fram en bild av vad Sverige inte har. Jag vill ärligt veta: Finns det sådana här personer som politiken i Sverige aldrig tar in? Håller de sig på behörigt avstånd från politiken? Bygger våra kabinetter mer på kontaktnät med kunniga experter och erfarna företagare?

Skulle vi kunna ha en AI-minister? Jag hoppas det, men tror samtidigt inte på det.

Kanske är det jag som behöver förstå mer om den interna partikulturen i de två statsbärande partierna, eller om den parlamentariska traditionen i Sverige.

Men så som jag känner svensk politik är tidigare managementkonsulter inte välkomna i partier. Man måste ha varit på rätt Almedalsmingel, efterfester och möten – och röstat rätt typ år 1992 – för att ha en chans att påverka policyutvecklingen.

Det är inte säkert att ärvda titlar för lagstiftare är bra. Men Sverige tycks inte bättre lämpat för att hantera AI-frågor.

/Plusmeny 🍺

#1 🗽

27 procent av jobben hotas av AI, enligt en ny rapport från OECD.

Alla debatter om oro, reglering och jobb i ljuset av AI tjänar på att inkludera personer som har erfarenheter av det diskussionen handlar om.

Den här studien om AI-användning bland 3 000 amerikaner mellan 18 och 77 år och från fyra generationer gör just det.

Amerikaner hatar inte frihet! 57 procent kan tänka sig lägre lön för att i gengäld använda AI för att skapa en arbetsvecka med fyra dagar. Och 86 procent kan tänka sig att arbeta mindre överlag med hjälp av AI.
Människor vill anpassa sig. Två av tre tillfrågade kan tänka sig att betala ur egen ficka för att förbättra sina AI-kunskaper för att undvika att ersättas.
Folk är nyfikna. 85 procent har använt AI i sitt yrke.
Kunskapsövertaget is real. En klar majoritet, 69 procent, vill inte berätta för sina chefer om vilka AI-verktyg de använder för att de riskerar att bli utbytta mot verktygen.
Det finns oro. Fyra av fem personer ser AI som ett hot mot deras inkomst, och tre av fyra ser AI-uppsägningar de kommande sex till 24 månaderna.

Vänsterpartiet och alla keynesianister borde jubla: mindre jobb, mer statliga säkerhetsnät!

Liberaler med: Folk vill fortbilda sig, människans inneboende kreativitet är äkta!

Vem frågar svenska arbetstagare om de använder eller fasar för AI? Jag vill veta hur många som har börjat planera sin fyradagarsvecka.

#2 🍀

Jag skrev nyligen en ledare om lagen om naturrestaurering som EU röstat igenom. Det var kul att lära sig mer om träsk- och våtmarker, skog, gräs och betesdjur.

Jag trodde inte det fanns någon som helst koppling mellan naturrestaurering och AI. Men tji fick jag!

Jag pratade under textens tillkomst med en person som hjälpt regeringen med underlag och konsekvensanalys av EU-kommissionens lagförslag.

Hen menar att lagen ställer så stora krav på insamling och strukturering av data om olika marktyper, vem som äger dem, vem som ska kompenseras om markens tas i anspråk för restaurering samt om måluppföljning att tjänstemännen kommer få det svårt att göra sitt jobb.

Kanske för svårt? Det var svårt att säga, enligt experten. Classic myndighetssvar.

Men för att strukturera, övervaka och rapportera hur vi följer lagen vore exempelvis språkmodeller värdefulla.

Jag vet att andra myndigheter har infört forum, lekgrupper och regelbundna träffar för att utforska hur AI-verktyg kan fungera i deras uppdrag.

Och om Storbritanniens AI-minister gör det, kan väl Skogsstyrelsen, Jordbruksverket, Naturvårdsverket och Havs- och vattenmyndigheten göra det?

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Jag är kär i AI-bolaget DeepMinds grundare Demis Hassabis. Känslorna svallade således när han pratade med Nilay Patel om när Google i våras slog ihop DeepMind med det egna bolaget Google Brain – en uppdelning som gällt i över tio år.

Hassabis menar att dagens chatbottar kommer se triviala ut i jämförelse med det som kommer om några år.

Är det artificiell generell intelligens (AGI) han surrar om? Nja… Mer att dagens verktyg sätter oss på rätt spår mot AGI. Men han ser att det finns människolik eller generell AI om tio år. Salam alaikum!

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#1. Kreativitetsfriktionskoefficienten.

En it-säkerhetsexpert har beskrivit det så här:

Han är ingen ekonom. Men utifrån A-kursen i nationalekonomi ser definitionen ut att hålla.

Meissler har rätt i att det krävs ett ekosystem för innovation, risktagande och kreativitet för att realisera idéer. Det behövs också ett fungerande koncept, väldigt mycket tid, tålamod och slit för att få igång ett företag till den grad att du kan leva på det.

Sverige må ha en självbild som entreprenörskapsnationen per excellence, men de flesta vill jobba på en arbetsplats med fem veckors semester och pension.

Det kan dock ändras.

Jag tror, precis som Meissler, att AI har sänkt kreativitetsfriktionskoefficienten (jag ÄLSKAR att skriva ut ordet) kraftigt.

Jag tänker på de som i hemlighet har flera jobb med hjälp av AI-verktyg, utan att deras arbetsgivare vet om det. Som en säger: “ChatGPT gör 80 procent av mitt jobb.”

Det här är förstås inte den materiella verkligheten för de allra flesta. Bussar ska köras, patienter medicineras och multiplikation tragglas runtom i svenska kommuner.

Men betänk att de flesta AI-bolag är väldigt små i relation till det värde de skapar och den påverkan de har på hela industrier.

Midjourney, vars tjänst för bildgenerering har vält internet, hade i våras elva heltidsanställda.

Med drygt 400 anställda tog bolaget OpenAI med tjänsten ChatGPT världen med storm. TikTok, som före ChatGPT hade rekordet för att snabbast ha skaffat sig 100 miljoner användare, har drygt 10 000 anställda. Och allas favoritbolag Facebook har ungefär 60 000 anställda.

Att vara ett stort techbolag betyder inte samma sak längre.

Vilket betyder att det kommer vara annorlunda att vara ett litet techbolag framöver. Dessutom lär större företag, oavsett sektor, implementera AI-tjänster för att bli mindre.

Visst ändrar det här radikalt våra mänskliga interaktioner och därmed utbytet och skapandet av originella insikter – de saker som oftast blir vinnare i konkurrensen om människors uppmärksamhet och pengar.

Men det är så mycket inlåst kunskap som kommer att frigöras med AI att den friktion som entreprenörskap alltid bestått av kommer kännas som massageolja.

Kvar blir exempelvis statliga regler för skatter, försäkringar och andra former av pålagor som enskilda företagare inte kan påverka. Enligt en ny uppskattning av Tillväxtverket kostar dagens regelbörda 377 miljarder kronor att följa.

Det är i sig ett stort skäl till att nya tjänster, företag och hela industrier behöver växa fram som hjälper andra att realisera drömmar. Länge leve AI!

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

Hjälp en algoritm, rita din smärta ✏️

Gustav Juntti — Fri, 07 Jul 2023 13:48:00 +0000

Första veckan som ledarskribent på UNT är gjord. Den som vill kan med fördel läsa min text om friskolor eller om papperslösa i vården.

På söndag kommer en längre krönika om AI inom sjukvården, men HAIK serverar förstås smakprov. Teckna en prenumeration, stöd din lokala AI-skribent!

Jag har också funderat över besjälandet av AI. Och så övervägde jag att inte servera en plusmeny. Men det kändes fel. Så ni får läsa om finansnissar. Ciao!

/Dagens meny 🥘

Sätt dig och rita åt doktorn ✏️
Sluta besjäla AI 🧘

/Plusmeny 🍺

Finansnissarnas kamp mot konkurrensen 💰️

Trött på att drunkna i ett hav av komplexitet? Testa HAIK!

Håll dig uppdaterad om AI 🔔

/ Rita din smärta – för vem? ✏️

Teknik har möjlighet att hjälpa människor. Och sjukvården har det tydligaste uppdraget på det området.

Därför har jag gång på gång dragits till olika människor och verksamheter inom vården som använder AI för att göra något lite bättre för patienterna.

Jag ringde runt en del i veckan för att förstå vad som händer på Akademiska sjukhuset i Uppsala.

Jag blev genuint förvånad över vad som kom fram, vilket blev till en längre krönika som publiceras på söndag (kommer finnas här).

De flesta som kommer till akuten sitter där ett antal timmar före de får träffa en läkare. Den tiden är viktig att använda för att ta reda på så mycket som möjligt om patientens tillstånd.

Smärtritning är ett sätt att förstå vad patienten själv upplever och hur den vill beskriva det.

Det är tänkt att användas med andra datamängder, exempelvis EKG och journaldata, för att vägas samman till en diagnos och behandling. Så småningom ska algoritmer få träna och använda de ritade bilderna för att ställa bättre diagnoser.

Min initiala tanke var: Gud så bra! Tänk vad mycket klokt människor ägnar sig åt helt utan förväntningar på tacksamhet från de som hjälps.

Men ju mer jag funderade på saken, desto mer växte frågorna.

För det första: För att kunna rita sin smärta godkänner man att delta i en studie som efter avslutandet samlar patientens data från ett stort antal register i tio år.

Det kan inte vara rimligt, hur mycket läkarna än vill kunna följa upp och jämföra såväl sjukvårdens som algoritmernas utveckling.

För det andra: Kan en person i en så utsatt situation ta ett välinformerat beslut om att ge bort ett årtionde av data?

Sist jag satt på akuten oroades jag av vad det var som drabbat mig (en kraftig öroninflammation = inställd resa till Karibien), när man får hjälp (nio timmar senare) och hur länge man måste vara på sjukhuset (två dygn), när man ska få mat och vatten (sköterskan kom med en mugg i timmen) och vad som kommer hända framöver.

Det är nog fler akutpatienter vars tankar följer det mönstret. Man kan komma runt det här genom att göra ett hemskick via brev, mail eller sms där man i lugn och ro får läsa igenom vad studien syftar till och kräver av den enskilde. Där kan det stå att den som godkänner deltagande och sedan behöver akut vård kan rita sin smärta i utbyte mot följande data.

Det är inte rättvist att tvinga sjuka människor att bestämma sig om sin personliga data i en stressad situation.

Som jag också skriver i söndagens krönika:

Det finns några tankar jag inte fick med i krönikan på grund av platsbrist.

Stora vårdcentraler (och andra vårdenheter, exempelvis mobila) i primärvården utför nästan samma arbete som akutmottagningar ibland. Det finns ingen principiell skillnad på deras åtaganden, utrustning eller patientunderlag som vid akuten på ett större sjukhus. Även de tjänar på att undersöka vad AI kan bistå med. Kanske smärtritning är ett bra sätt att underlätta arbetet i primärvården?
Datainsamling är ofarlig, sägs det så ofta, för att vi kan ta del av och radera vår data. Rätten att syna den insamlande parten tycks räcka för att skänka legitimitet till själva insamlandet. Systemet avväpnar patienter i förväg – en maktlöshet som förstärks ju längre in i AI-åldern vi rör oss. Fler, även AI-utvecklare, måste fråga sig varför de ska ta folks data.
Ytterst blir detta till en existentiell fråga. Vad är vi till för? Många bidrar gärna till en gemenskap och en bättre vård, men vill inte behandlas som dataproducenter åt staten. Hur tillgodoser det offentliga sådana legitima anspråk och förväntningar?

/ Sluta besjäla AI 🧘

Jag gillar Jonna Bornemark. Ända sedan jag lyssnade på hur hon beskrev vad vi ska med filosofi till en mörk decemberkväll i Umeå 2013.

Hon skrev nyligen en artikel i DN om arbetsplatsers och anställdas relation till AI.

Much appreesh, som Hank Moody skulle säga.

Tesen är enkel: Människor och teknik smälter samman när AI-system övertar uppgifter. Så vad blir över för oss?

Det är inte särskilt originella insikter som kommer från den arbetsplats Bornemark besöker, och hennes egna resonemang fick mig inte att ställa ifrån mig skålen med fil vid frukosten.

Men jag studsade till vid en grej. Bornemark skriver:

Hon har rätt. Men hon gör ju själv det hon uppmanar andra att inte göra, nämligen att besjäla en teknik. Skriver man “AI:n” så ger man den en bestämd form den vare sig förtjänar eller vi är betjänta av.

Jag tror att sommartablån för HAIK leder till ett uppdämt behov att skriva om AI. Men jag ska försöka förklara vad det är jag menar. Håll till godo!

För den som inte orkar läsa allt: Jag tycker att vårt språk skänker för mycket agens till något som är icke-biologisk materia. Vi besjälar AI och det är inte bra.

För den som inte håller med: Läs astrofysikern David Brins argument för att besjäla AI.

Tekniken känner aldrig världen knuffa tillbaka

Ledarskribenter, bolagschefer, vetenskaps- och nyhetsreportrar gör det hela tiden. De pratar om vad “en AI” eller “AI:n” kan och inte kan. Felet begås även av de mest erfarna.

I boken The Age of AI skriver USA:s tidigare utrikesminister Henry Kissinger ihop med Googles förre vd Eric Schmidt genomgående om artificiell intelligens i singular och plural.

Men det finns vare sig en eller flera AI, och det stämmer inte att “AI:n” svarat när någon använder AI-tjänster som ChatGPT.

Att sätta en artikel på AI gör kanske inte tekniken till en människa, men väl till en varelse. Språkbruket besjälar icke-biologisk materia.

Att missförstå blir att missköta AI

Sedan 1940-talet har forskare på olika sätt eftersträvat att skapa intelligens som efterliknar människans. Det är inbyggt i forskningen, och kulturen i stort, att beskriva AI som en varelse i en evolutionär process. Ju mer data, ju bättre datorer, desto närmare mänsklig intelligens når vi.

Att chatbottar som bygger på AI är designade att ge svar i första person befäster narrativet. Vad hade hänt om alla svar i stället inleddes med förledet “Enligt databasen”? Hade vi litat mer på det som framställs i en AI-tjänst för att det kommer från en databas och associeras med kalla siffror och varma hårddiskar? Eller hade det fått oss att sluta se tjänsterna som magiska orakel?

Men som datavetaren Jaron Lanier skrivit i New Yorker (20/4) är det värsta sättet att missköta en teknik att missförstå den. Att ge AI (o)bestämda artiklar framställer tekniken som varelser med begynnande intelligens snarare än vad det handlar om: icke-biologisk materia.

Den reduktionistiska beskrivningen väcker ofta ont blod: AI är inte bara kod, elektriska signaler och statistiska fördelningar av ordföljder! Det finns komplexa resonemang och en intuition om abstrakta fenomen! Det finns spår av medvetande!

Att förmänskliga AI, eller djur och natur, kallas för antropomorfism. Det är svårt att förhålla sig till. Och vissa arbetar aktivt för att göra det svårare genom att bygga AI-tjänster vars svar och innehåll är mer oförutsägbara, just för att efterlikna mänsklig kreativitet där tankarna rör sig i oväntade banor. Men många inom AI och techbranschen i stort tycks inte vilja bemöta sådant.

De hemfaller i stället åt en doktrinär hållning där AI enbart är kod. Hållningen kan bäst summeras som att AI fortfarande inte kan knyta sina skor.

Det är sant. Men det behöver AI inte kunna. Eller: Ingen har ännu sett ett värde i att skapa AI som kan det. Skoknytarargument syftar måhända till att lugna folk men säger egentligen ingenting nyttigt.

AI måste bli mer materiellt förankrad

Men har inte tunga namn och bolag inom AI-sektorn varnat för att tekniken börjar likna liv? Microsofts forskare tyckte sig i den senaste versionen av ChatGPT ha identifierat “gnistor av artificiell generell intelligens”, alltså på par med människors intellektuella förmågor.

Det är självcentrerat. Ju mer kapabla bolagens tekniker verkar, desto fler användare och högre intäkter följer. Det finns också ideologiska underströmmar. Begreppet intelligens är svävande. Ju mer immateriellt betingat det görs, desto mindre ansvar behöver man ta.

Men modern AI är allt annat än immateriell.

Det krävs enorma mängder el, och därmed utsläpp, för att driva alla datacenter som gör att bolag kan utveckla och leverera avancerade AI-modeller.

Det krävs tusentals arbetare för att samla, klassificera och strukturera den data som modeller tränas på. Och hårdvaran bakom allt detta har en global produktions- och transportkedja som är högst fysisk, från jordartsmetaller till kinesiska fabriker till fraktfartyg.

Det vederlägger dock inte ansatsen att förmänskliga AI. Genom att se samtliga resurser bakom AI-utvecklingen blir det lättare att förstå den som djupt icke-mänsklig och långt ifrån den biologiska intelligens som utvecklats i naturen över hundratals miljoner år.

Det finns en djupare aspekt av att inte besjäla AI: Vad är intelligens?

Filosofen Peter Godfrey-Smith gör i sina två böcker Metazoa och Other minds en poäng av att intelligens handlar om självmedvetenhet. Han och många andra biologister menar att intelligens är oseparerbar från en fysisk kropp, att själva kroppsmedvetandet är bryggan mellan rå kunskap och fullfjädrad intelligens.

Robotforskaren Joshua Bongard har sammanfattat det fantastiskt: Förkroppsligad intelligens måste kunna knuffa mot världen och känna världen knuffa tillbaka.

Att vara människa är att känna motstånd. AI vet inte vad friktion är. Men likväl skapas det gnistor när det står “en” framför akronymen. Det är i sig förmänskligande.

/Plusmeny 🍺

#1 💰️

När det kommer till att investera utifrån magkänslan så ligger “ligger AI än så länge i lä”, enligt en skribent i Privata Affärer – och nämner ett teoretiskt begrepp, artificiell intuition. Never heard…

Två andra finansnissar från varsin fond säger tvärtom: AI ändrar allt. De pratar bolag, sektorer, värdekedjor. Den första vågen av värdefulla AI-investeringar är borta. Men långsiktigt finns ett värde att styra kapital mot sektorn.

Jag saknar ett företag: Scale AI. Det är värderat till 70 miljarder kronor, understödjer träningen av alla stora språkmodeller och flyger HELT under radarn.

Det finns alltså, som inom många andra branscher, motsättningar i synen på AI. Men de verkar överens om att det behövs och ska investeras i, och att de största bolagen erbjuder bra långsiktig avkastning.

Jag tänker på det här när jag läser en publicering från amerikanska konkurrensmyndigheten FTC. Det finns risk för konsolidering och sämre konkurrens inom generativ AI. Med andra ord: dyrare och sämre produkter från företag som har monopol.

Jag tänker: OpenAI, den generativa AI-ålderns Facebook.

Det tycks som att FTC också tänkt på OpenAI, även om bolaget inte nämns med namn. Myndigheten varnar för att “Öppet först, sedan stängt” är en skadlig taktik för den långsiktiga tillväxten som börjat sättas i bruk.

Det är precis vad OpenAI använt för att samla ihop och bygga massiva datamängder, för att nu sluta sig själv hermetiskt kring såväl affärs- som språkmodell.

Hur ska stora institutionella investerare styra det här? Kommunicerar de sånt här internt? Finns det externa forum där de lyfter vikten av öppenhet och konkurrens? Vågar de det?

För den som vill investera i AI: Det finns exempelvis fonder från SEB och Allianz, och börshandlade fonder som Robo och iShares.

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

Jag har länge intresserat mig för smarta städer.

In Machines We Trust är alltid tunga. Jag fastnade på det här avsnittet om just smarta städer. Programledaren beskriver hur sådan AI-teknik nyttjades mot folk i Iran under vinterns protester.

Inte så smart att bli smartare…

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#1. Idealisten.

I en understreckare skriver Håkan Lindgren att AI får människan att inträda i den omyndighet som 1700-talsfilosofen Immanuel Kant skydde som pesten.

Kanske tänker man: Men det säger ju inte Håkan. Motfrågan är: varför skriva något man inte själv tror på och har intresse av att få andra att förstå?

Nåväl. Lindgren pratar om upplysning. Det är att använda sitt förstånd. Det är ju inte samma sak som intelligens.

Så hur ska artificiell intelligens förstås genom Immanuel Kants idealism? Det är snarare hans kategoriska imperativ som bör vägleda.

Handla som om maximen för din handling genom din vilja skulle kunna bli allmän lag.
Handla så att du aldrig behandlar mänskligheten i [vare sig] din egen [eller någon annan] person bara som ett medel utan alltid tillika som ett ändamål.
Handla enligt maximerna tillhörande en allmänt lagstiftande medlem i ett blott möjligt ändamålens rike.

Tl;DR: Behandla andra som du själv vill bli behandlad. Det man lär sig i förskolan, med andra ord – utan att förringa Kants mästerlighet. (Läs hans bok “Kritik av det rena förnuftet” och du är renad. Det är som att lära sig att äta hummus eller använda balsam, du är evigt ändrad.).

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

AI möter SD 🔎

Gustav Juntti — Fri, 30 Jun 2023 08:07:15 +0000

HAIK fortsätter att växa starkt. Välkomna alla nya till det enda du behöver läsa om AI!

Först en ändring i tablån under sommaren. Hela juli är jag sommarvikarie på ledarsidan i Upsala Nya Tidning. I augusti skriver jag för VLT i Västerås. Därför går HAIK från två till en servering i veckan.

Denna sista dallrande heta juniutgåva tillagades till tonerna av Ted Gärdestads samlingsalbum. Kom ge mig solen, kom ge mig AI! 🎶

Här kommer tre huvudrätter, två plusmenyer, en förödande god munsbit om Galileo och en digestif à la Ebba Grön!

Smaklig spis, trevlig helg och glad sommar!

/Dagens meny 🥘

AI vs SD 🔎
Syntetisk data och den hotande modellkollapsen 🤯
Den nya läkaren har inga sjukhuskläder 🩺

/Plusmeny 🍺

Artificiell Artificiell Artificiell Intelligens 🧪
En ung möbeldesigners praktikant 🪑

Trött på att drunkna i ett hav av komplexitet? Testa HAIK!

Håll dig uppdaterad om AI 🔔

/ Aftonbladet granskar SD med AI 🔎

Äntligen lite AI-driven journalistik om något viktigt!

Aftonbladet har använt Whisper, GPT4 och Twitter-roBERTa-base för att se vad Sverigedemokraternas helägda propagandaorgan Riks pratar om/hatar på.

Tidigare ledaren för Centerpartiet Annie Lööf omnämns fyra gånger så ofta som SD:s partiledare Jimmie Åkesson. Och det är inte för att Riks gillar liberaler…

Riks pratar mer om Annie Lööf än kriminalitet och elpriser, två väldigt viktiga frågor för många väljare.

För den som gillar SD och Riks borde det kännas som en besvikelse att så mycket tid går till enskilda personer före sakfrågor och politiska förslag. Kanske är det därför som partiet bestämt sig för att sälja mediekanalen (utan att ange till vem eller när).

En sådan här omfattande granskning hade tekniskt sett gått att göra. En reporter kan lyssna på massor av poddar eller titta på klipp från Youtube och sedan skriva om det. Men det hade inte gått att få fast storheterna i olika ämnen, hur de relaterar till varandra, eller vilka ord och uttryck som oftast förekommer.

Det är alltid vanskligt att kategorisera och analysera tal med hjälp av digitala verktyg. Vår kommunikation är oftast mer subtil än sju kategorier av stämningar, som vissa modeller presenterar.

Det behöver varje journalist och publicist vara öppen med. Aftonbladet har skrivit en föredömlig metodisk genomgång av granskningen. Kudos!

Men öppenhet är ett tvåsidigt mynt.

Det finns reella och konkreta källor av politisk-journalistiskt råmaterial som AI-tjänster kan hjälpa journalister att borra i.

Förhoppningsvis kan fler journalister och medier acceptera tekniken som både ett verktyg och en kollega, samtidigt som man inte går för långt i sin tillit till kod och statistik som Den Riktiga Sanningen. The data is the limit!

Public service-hörnan: Eftersom jag inte tillhör SVT eller SR behöver jag inte förklara vad SD och Riks tycker om granskningen. Men det går att läsa här.

/ Syntetisk data föder en modellkollaps 🤯

Jag pratade nyligen med en person som arbetar med stora opinionsundersökningar i Sverige. De funderar på hur AI kan hjälpa dem att hitta mer relevant information i den data de får in, såväl som ny data.

Den uppenbara tillämpningen är att AI kan bistå i analysen av de enkätsvar som kommer in.

Det finns en rad steg att ta däromkring, och bortom det. Men det som intresserade mig mest var tanken på syntetiska undersökningar.

För tydlighetens skull: Det här är ingenting de utvecklar, säljer eller genomför i dag. Och jag har inte hört att andra opinionsinstitut gör det.

Men det finns någonting i det som kittlar såväl den epistemologiska som den ekonomiska nerven i mig.

Låt säga att någon har 10 000 datapunkter. Det går att göra hyfsat tillförlitliga prognoser från ett såpass stort urval. Det görs regelbundet inom exempelvis politiken och meteorologin med enkätsvar respektive temperaturobservationer.

Men från de här svaren går det också att skapa nya svar på frågor som inte ställts. Det kallas för syntetisk data.

Det är ny data som genererats av en modell som tränats för att härma “äldre” data.

När man sedan bearbetar den nya och den gamla datan statistiskt så kommer de att uppvisa ungefär samma fördelning, struktur och egenskaper.

Det är så stora språkmodeller tränas i dag. Det är ungefär hundra gånger billigare än att köpa och klassa egen data.

På ren svenska: Har du frågat tio tusen personer vad de tycker om statsminister Ulf Kristersson kan du med hög pålitlighet besvara vad de tycker om oppositionsledaren Magdalena Andersson, eller om regeringens senaste förslag.

Det här är bra på vissa sätt:

Man får en svarsfrekvens på 100 procent (om vi inte får medveten AI som är tillräckligt god för att vägra skapa syntetiska svar).
Det går snabbt att göra “nya” undersökningar bland “folk”.
Det går att öka anonymiteten i olika dataset genom att simulera svar och egenskaper utan att behöva behålla namn och annan känslig data.

Låter det läskigt att AI hittar på vad vi tycker? Sluta använd ChatGPT.

Alla språkmodeller bygger på ursprunglig data – drösvis av mänskligt skriven text som finns på internet eller i böcker – om hur ord (datapunkter) hänger ihop, för att förstå hur de borde hänga ihop i framtiden.

Varje språklig relation mellan ord går att lära sig och reproducera. Varje svar från ChatGPT är syntetisk data.

Det kan även göra att en modell börjar hallucinera. Det vill inget seriöst opinionsinstitut råka ut för. Så det är en bit kvar till simulerade respondenter.

Det som ligger närmare till hands är en syntetisk intervjuare som ställer frågor till riktiga människor.

En person kan inte genomföra intervjuer med 100 respondenter samtidigt, och heller inte bearbeta all insamlad data särskilt snabbt. Men en AI-modell kan göra det. Problemet är, som många upptäckt, att chatbotar inte är lika konversanta som folk. Det kan grumla den information man får in.

Det kan verka effektivt med syntetiska intervjuare. Men är det samma kunskap som en människa hade skapat? Jag sa ju att den epistemologiska nerven skulle kittlas…

Public service-hörnan
Ny forskning från universiteten i Oxford, Cambridge, Toronto och London visar att träningen av modeller med hjälp av syntetisk data försämrar modellen. Jag antar att man kan sammanfatta det som felens rundgång. Vi kommer behöva snacka om AAAI (smakprov i dagens plusmeny!)

The Peking Perspective
Felens rundgång syns redan i språkmodeller. NewsGuard fann i våras att ChatGPT-3.5 genererar mer desinformation på kinesiska än engelska eftersom den kinesiskspråkiga träningsdatan på internet har en större andel officiell propaganda från kommunistpartiet. Äg det digitala narrativet, äg språkmodellerna!

Blast from the past
Jag antar att syntetisk data är lika omskakande som när syntarna kom in i musikbranschen… Men vad vore vi utan Giorgio Moroder?

/ Den nya läkaren har inga sjukhuskläder 🩺

Bland läkarna på Mammografimottagningen vid S:t Görans sjukhus finns sedan 27 juni en ny kollega.

Kollegan heter officiellt Alna, men kallas Lunit av de andra läkarna, och arbetar helt utan de träskor, pösiga byxor, skrivbord och skärm som många röntgenläkare använder dagligdags.

Lunit bär inte ett stetoskop och spritar inte händerna, utan sitter bara “nere i källaren” som en av läkarna beskriver det.

Algoritmer tar väldigt lite fysisk plats på ett kontor. Men deras närvaro kan ändå vara stor.

Jag stack in huvudet på S:t Göran dagen efter att Lunit började jobba. I två rum, ett större och ett lite mindre, granskade läkarna röntgenbilder som de alltid gjort. Men efter varje granskning fick de medhåll eller mothugg av algoritmen, som redan gjort sin bedömning.

Det var ingenting de fokuserade på. De kunde göra massa annat i stället.

Förut kunde en läkare tröska igenom mellan 500 och 800 bilder per dag. Det gör de fortfarande. Men i stället för att vänta på att en kollega får tid över att kolla på det man gått igenom, så kallad dubbelgranskning, så skickas friskbrev ut automatiskt tack vare algoritmen.

Den tar rollen som förste granskare, läkaren som andre granskare. När det andra ledet “friskar” en patient är jobbet gjort. Förut fick de skjuta sådant till slutet av dagen eftersom fysiska personer intog vardera roll. Och det går inte att dubbelgranska sig själv.

I måndags, dagen före algoritmen klev in på kontoret, behövde en läkare gå igenom 900 bilder som låg på hög. I torsdags eftermiddag var de nere på noll i varje hög, och då är en av läkarna inte i tjänst torsdagar och fredagar.

“Vi har hittat ett gäng cancrar där algoritmen flaggat men vi inte ser något”, var summeringen av tre arbetsdagar med Lunit.

Ett cancerbesked är förstås brutalt att ta emot. Men som Cancerfonden skriver: “Prognosen är bättre ju tidigare sjukdomen upptäcks. I dag lever över 85 procent av kvinnorna 10 år efter bröstcancerdiagnos.”

Upptäckt är bättre än ovisshet. Allt är dock inte guld och gröna skogar.

Många, inklusive jag själv, tänker att en algoritm eller modell kan jämföra historisk data med ny data. Men Lunit är inte byggd för att kolla bakåt – än så länge.

Den är tränad på tiotusentals anonyma röntgenbilder för att upptäcka avvikande eller förändrade mönster inuti bröst. Den har ingen koll på en enskild patients historik.

En person som gått på regelbundna undersökningar kan ha haft samma förtätning i årtionden för att hen är skapt så. Läkaren förstår det och blir inte orolig när det dyker upp på bilden från senaste undersökningen. Lunit har dock ingen aning, och flaggar en misstanke.

Det leder till att fler patienter behöver diskuteras läkarna sinsemellan före de kan friskförklara dem. Men det betyder också att varje diskussion är relativt lätt när en läkare kan kolla några bilder bakåt och se att det alltid sett ut på ett visst sätt.

Full patte: Västmanland, Sörmland och Östergötland har anslutit sig till en plattform som heter VAI-B. Där kan de utvärdera hur algoritmer inom screening för bröstcancer presterar. De kan använda egen data och se hur AI-system från tre bolag – Vara från Tyskland, Lunit från Sydkorea och Therapixel från Frankrike – lyckas på just deras patienter. (Under utveckling är plattformarna VAI-P för prostatacancer samt VAI-S för stroke.)

Att mäta hur bra en algoritm är för att hitta bröstcancer är svårt. De flesta tänker nog att träffsäkerhet är ett bra sätt. Men enbart 0,5 procent av alla som undersöks i Sverige får en diagnos.

Skulle algoritmen bedöma varje patient som negativ, alltså frisk, skulle träffsäkerheten ligga på 99,5 procent. Det låter bra, men informationen tillför inget värde för vården.

Dessutom gör äldre bilder med sämre kvalitet saken svårare. Det finns alltså ett modernitetsbias som nu byggs in i AI-driven screening för bröstcancer.

Coding is caring: Koden för att testa och jämföra algoritmer för att hitta cancer ligger öppet för alla att använda. Projektledaren Fredrik Strand från Karolinska institutet hoppas att fler algoritmer, även för andra former av cancer, kan utvärderas.

/Plusmeny 🍺

#1 🧪

Mellan en tredjedel och hälften av de som arbetar på Amazons plattform MTurk med att bearbeta och klassificera textdata använder språkmodeller i sitt dagliga jobb. (Den lilla studien gick igenom hur databehandlare summerar en medicinsk artikel.)

MTurk och liknande plattformar som Fiverrr och Upwork hjälper företag att lägga ut repetitiva och tidskrävande uppgifter som att transkribera intervjuer, klassificera bilder eller bistå vid träning av språkmodeller.

Varför är det dåligt att använda en språkmodell för att hantera data? Det ger mer opålitliga svar. Förut har forskare och företag vetat att människor bemöter och returnerar information.

MTurk har kunnat ta betalt för att alltid leverera mänskligt producerade och granskade resultat.

Nu vet man inte om de eller en språkmodell producerat texter, annoteringar eller dylikt. Det ifrågasätter validiteten i hela dataset.

Forskarna uppmanar plattformar, andra forskare och databehandlare att “hitta nya sätt att säkerställa att mänsklig data förblir mänsklig”.

The Good Life: Det här lär göra dataset skapade före AI-revolutionen väldigt värdefulla.

#2 🪑

På The Cowgirl Gallery i Malmö ställer Ebba Lindgren ut sin design. Tillsammans med ChatGPT och Midjourney har hon skapat en lampa som hänger från taket, till skillnad från övriga utställares verk som finns längs väggarna.

Det var en idé från ChatGPT som instruerades att generera förslag till Lindgrens kollektion Really Rococo.

Det låter inte så kreativt, vilket kan lugna konstnärer av alla slag. Samtidigt var det en respons på bra prompts och en historik av dialoger att luta sig mot.

Det måste inte bli kärnvapenkrig av AI. Det kan också bli bättre upplysta vardagsrum.

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

För några veckor skrev jag om forskarvärldens inställning till AI utifrån ett citat som ofta tillskrivs Galileo Galilei: Eppur si muove. Och likväl rör hon sig.

Som jag också skrev då är det inte säkert att han ska ha uttryckt detta.

Men det beskrivs som ett citat från 1633 och den romerska inkvisitionen, den kyrkliga rättegång som hölls när någon utmanade kyrkliga dogman och doktriner.

Rättegången, och Galileos skuld, dök upp som ett tankeexperiment i en podcast med techentreprenören och AI-debattören Marc Andreessen.

Vad hade hänt om dagens stora språkmodeller fanns 1633, och de fick frågan om Galileo hade rätt eller fel i sitt påstående att jorden rör sig runt solen?

Förut hade kyrkan och kungar monopol på det sanna och det rätta. Så är det inte i dag.

Modellerna bygger kunskap utifrån kollektivets kunskap. Modellerna har inte tränats på en sanning, eller att söka den, utan på vår konsensus.

En gång i tiden var konsensus att jorden stod still i universums mitt. Och att vissa människor var värda mer än andra.

Vad gör dagens konsensus med den kunskap och de svar som språkmodeller ger oss? Och vad gör det med oss?

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#3. AI-båten.

Regeringen tänker skicka in 500 miljoner per år i programmet för avancerad digitalisering, från och med nästa år och i tre år framåt.

Då kommer ABB, Ericsson, Saab och Teknikföretagen enligt en överenskommelse att matcha det krona för krona. En miljard per år, således.

Men att det skulle röra sig om ett “statligt miljardregn till företag för AI-racet” som Dagens industri skriver håller jag inte med om.

Det som sägs är att “en stor del” av avancerad digitalisering är AI. Och digitaliseringsminister Erik Slottner (KD) tycker att välfärden går miste om många nyttor när “digital potential som AI” inte används på bästa sätt.

Det är svårt att se miljardregnet för alla omskrivningar.

Kanske vill man politiskt sett inte knyta sig till enskilda tekniker, löften eller områden. Det är förstås en rimlig försiktighet, om än rätt partipolitiskt medierad snarare än verklighetsförankrad. Få partier lär vinna väljare på att avveckla det digitala samhället.

Kanske vet politiken inte mer i nuläget om vad den vill och kan göra.

Att digitaliseringsministern lyfter fram en AI-driven portal som samlar “goda exempel där bra arbete som enskilda kommuner eller regioner har gjort” känns… vaniljigt.

Att Skatteverket vill ha i uppdrag “att ta fram olika AI-genererade tjänster” är också rätt konturlöst.

Det är symptomatiskt att ministern övergår till att prata om ett nationellt och statligt system för en digital legitimation.

Digitalisering är för de flesta antingen bättre bredband eller enklare banktjänster.

Månne de 500 miljonerna göra någon nytta…

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔

Nämnden för mänsklighetens överlevnad 📍

Gustav Juntti — Tue, 27 Jun 2023 15:17:00 +0000

Det är politikervecka i Almedalen. Även inom AI-bubblan tycks partierna ha börjat dricka bubbel och rosé.

Tre Sverigedemokrater vill införa en nämnd i riksdagen som arbetar för mänsklighetens överlevnad. En tidigare statssekreterare för Socialdemokraterna ser likheter mellan kärnvapen och välfärdsalgoritmer. Och längst ner förklarar jag varför Moderaternas AI-politik gör dem till kameraförnekare.

Häng med på HAIK!

/Dagens meny 🥘

Nämnden för mänsklighetens överlevnad📍
Skolans sanningsparadox 💡
Varför Matteusevangeliet inte kan vägleda AI 👼

/Plusmeny 🍺

Hotet mot sossarnas existens 💣️
Journalister slukar mer pappersmassa och el med AI 🌲

Trött på att drunkna i ett hav av komplexitet? Testa HAIK!

Håll dig uppdaterad om AI 🔔

/ Nämnden för mänsklighetens överlevnad📍

Tre riksdagsledamöter från SD vill införa en parlamentarisk nämnd som pysslar med AI, enligt en debattartikel. (Öppen version här.)

Dit ska alla riksdagspartier, näringsliv och akademi bjudas in för att “hela tiden uppdatera sig med det senaste inom utvecklingen” och “lämna förslag på lagstiftning som styr utvecklingen i positiv riktning.”

Det vore bra om politiker lär sig mer om AI. Det gäller förstås även de tre ledamöterna.

Thomas Morell är vice ordförande för riksdagens trafikutskott och tidigare bilinspektör vid polisen. Utskottskollegan Rashid Farivar är en sparkad ingenjör från Volvo. Och ingenjören Josef Fransson från näringsutskottet har varnat för att AI kan leda till en samhällskollaps och mänsklighetens utplåning.

Ingen av de tre verkar ha jobbat med AI på något sätt tidigare. Och åtminstone Farivar menar att “[k]limatkrisen eller en klimatmässig utplåning av mänskligheten är rent tramsiga villfarelser.”

Alla politikers budskap bör tas med en nypa salt. Men en sådan distans till tekniken och etablerad forskning som SD-trojkan visar gör det värt att misstro avsändarna.

De har förvisso rätt i två saker. Dels att AI i grunden omformar “vad det betyder att vara människa”. Dels att det är “direkt oansvarigt att sitta på händerna i Sverige”.

Men ska man göra en historisk liknelse skulle Sveriges riksdag instiftat en ångmaskinsnämnd och en elektricitetsnämnd när de två allmännyttiga teknikerna kom.

Skillnaden är att de två primärt handlade om mekanisering av muskelkraft och bättre levnadsstandard. AI handlar om kognition. Det är inget fält politiken behöver ägna sig åt.

Förut valde samhället den breda vägen. Många fick och tog ett ansvar att använda teknikerna sunt och rimligt. Ingen nämnd behövdes. Det är inte säkert att det är rätt väg nu, heller.

Men då som nu, och i så många andra perioder av teknikutveckling, finns en gemensam faktor: misslyckandet.

Vi har, som art, lärt oss vilka beteenden som är bra respektive dåliga, rimliga respektive farliga, genom observationer. Flygplan, fabriker, sjukhus och jordbruket har alla blivit gradvis förbättrade genom misslyckanden – ofta dödliga.

Vi behöver inte sikta på att låta människor dö för att AI-tjänster ska bli bättre. Men vi kan inte undvika misslyckanden.

Att instifta en AI-nämnd och be digitaliseringsminister Erik Slottner (KD) om svar på hur Sverige kan “maximera nyttan … samtidigt som riskerna minimeras” är inte så tillitsfullt till människors förmåga att lära och anpassa sig.

/ Är generativ AI verkligen fusk? 💡

I Trollhättan fuskar gymnasieelever med AI-tjänsten ChatGPT. Och i Malmö får en universitetslektor inte underkänna en uppsats från en student som gjort samma sak.

En elev i Trollhättan tycker att tjänsten är “som hela google i ett paket”. Det här har jag hört i samtal med eller om gymnasieelever i andra delar av landet.

Det går att förstå dem.

När Google kom uppmanade skolan min generation att använda tjänsten för att underbygga argument och utöka vår kunskap. Wikipedia var bara ett digitalt bibliotek. Det har färgat av sig på dagens samtal om att hitta och skapa information.

Källkritik infördes i skolan, med följden att dagens 20-30-åringar tvivlar på mediers objektivitet.

Vad ska utbildningsväsendet och politiken nu ta till? Källkritik mot källkritiken? Och vad ska ungdomar framöver vara källkritiska mot?

I deras ögon har ChatGPT bara aggregerat Wikipedia (och massa andra platser för information). I stället för att läsa där får de svaren de vill ha genom en tjänst. Jämför det med Google.

Bolagets fenomenalt lukrativa affärsmodell bygger på så kallat “search intent”, alltså en användarens sökintention. I sökresultaten presenteras vad en person egentligen efterfrågar, inte den bokstavliga söksträngen.

Jag tror att fuskdebatten är en vuxenvärld som pekar finger mot unga människor som känner att de inte gjort något fel, utan använder vad andra (läs: vuxna) har kommit på och spridit. Och att unga egentligen inte tycker att det är fel att använda generativ AI för att läsa, skriva, räkna eller koda – lika lite som att tidigare generationer inte förbjudit Google och Wikipedia.

Äldre personer kan vara arga och oroliga för det. Men känslor och emotionella argument är sällan bra för att styra

Om gymnasister i Trollhättan är fascinerade av ChatGPT är studenter i Malmö inte det.

Det “känns orättvist om man kan bli godkänd när man har fuskat”, som en person summerar det. På dennes senaste examination hade “en betydande andel” använt ChatGPT. Men eftersom reglerna inte tydligt beskrev vad som gällde för plagiat och otillåtna hjälpmedel så händer inget.

Dessutom är material från generativ AI inte plagiat i juridisk mening, enligt disciplinnämndens ordförande.

Och därför får Joschka Wessels inte underkänna en student vars uppsats åtminstone delvis skrivits med en språkmodell.

Side Note: AI verkar mest användas till mail, konst, kodande och musik.

The Matrix Perspective: Universitet måste beskriva vad som är godkänt att göra med generativ AI för att undvika situationen i Malmö. Men om man bryter ner en skriftlig uppgift eller en hel uppsats i små steg så går det förmodligen att komma runt förbuden.

Dessutom skapas en sanningsparadox. Generativ AI är (ibland) ett otillåtet hjälpmedel vid universitetens examinationer. Dit räknas även fusklappar, miniräknare och internetuppkoppling.

Samtidigt röjer lägre skolnivåer, exempelvis gymnasier, bort ChatGPT från kunskapsförmedlingen genom att blockera adressen inuti skolans nätverk eller ta bort alla inlämningsuppgifter.

De högre lärosätena säger inte att generativ AI är osann, bara ett otillåtet hjälpmedel. De lägre säger att tekniken är osann och opålitlig. Vem äger den sanningen?

Den hoppfulla slutnoten: I Linköping ska universitetslektorn Helen Winzell leda en kurs i hur lärare kan använda AI-verktyg.

/ Inga algoritmer i Matteusevangeliet 👼

Jag gillar när religiösa företrädare tar ton. Ömsom säger de självklarheter, ömsom obegripligheter. Sådan spretighet är rolig.

Nyligen var det självaste ärkebiskopen Martin Modéus som menar att vi ska ta emot artificiell intelligens.

Men bara om vinsterna fördelas rättvist, människans värde och värdighet respekteras och det mänskliga mötet upphöjs med hjälp av AI.

Jag tror exempelvis inte att en europeisk AI-lagstiftning kan ta sin utgångspunkt i Matteusevangeliet, även om det talar om nedfall, falska profeter, återuppståndelse och mirakler.

Och jag tror inte att samtalet om AI måste börja med en helt annan diskussion om vår relation till skapelsen. Jag tror att de kan föda varandra, ge fiber och stoff åt argumenten, utan att den politiska debatten väntar in kyrkan.

Det handlar snarast om att kyrkan vill skapa sig tid för att formulera en berättelse om varför de behövs och vad AI egentligen är.

Ärkebiskopen har dock rätt i en sak: “Människan görs mindre än vad hon är och AI görs större än det är.”

Precis som klimatkrisen tvingar oss att konfrontera frågor om vår existens gör AI-utvecklingen att vi måste prata om syftet med våra kemisk-elektriska processer, vårt minne, vår kreativitet, vårt medvetande.

Som min läslista antyder är Meghan O’Gieblyns bok en jäkligt bra utgångspunkt för det samtalet.

För den som hellre läser något på svenska kan mitt samtal med biskop Johan Tyrberg inge hopp.

Apropå kristenhet och AI: under politikerveckan i Almedalen ska digitaliseringsminister Erik Slottner (KD) diskutera AI med den kristna tidningen Dagen. Vad har han lärt sig om AI på en månad som han inte lärt sig sedan november, undrar jag…

/Plusmeny 🍺

#1 💣️

Den tidigare socialdemokratiska statssekreteraren Maja Fjaestad är brydd i AI. Men det låter väldigt “undergångigt”…

Hon skriver: "Först med reglering och kontroll har vi på allvar inflytande över vårt liv med tekniken.”

Implicit så betyder att att vi har tappat vårt inflytande. Det tror inte jag. Men vi har definitivt börjat omförhandla det.

Därtill citeras Elon Musk om att AI är farligare än kärnvapen och därför behöver regleras.

Det blir lite fjuttigt när hon sen exemplifierar med algoritmer i välfärden som måste granskas, förstås och regleras.

Tolkning: Alla förändringar i välfärden kan vara existentiella hot mot sossarna…

#2 🌲

Mer pappersmassa och el ska gå åt med hjälp av AI.

Det är kontentan i det Svenska Dagbladets chefredaktör och vd Anna Careborg skrev på midsommarafton.

Med AI ska tidningen “frigöra tid från monotont arbete till det som verkligen ger värde” och ägna “mer tid till att vara ute i olika miljöer och till det journalistiska berättandet.”

Mer granskning och gräv, med andra ord. Och mer deg till ägarna.

Det här är intressant. Å ena sidan kan det vara räddningen för många nyhetsorganisationer som dragit åt och skalat bort så mycket det bara går och fått varje journalist att göra fler moment eller mer material under sin arbetstid.

Å andra sidan: om en redaktion exempelvis frigör 100 timmar i månaden tack vare ett nytt verktyg för transkribering av intervjuer, ska den göra fem eller tio nya gräv? Finns det så mycket att gräva i?

Om det inte finns så mycket att gräva i, vad gör de i stället? Om ja, varför har det inte gjorts tidigare? Har en chef eller en anställd prioriterat bort uppgiften förut?

/Prat 🦜

/Tänkvärdheter från någon jag har pratat med eller lyssnat på.

I dag, 27 juni 2023, är förmodligen en helt vanlig dag för de flesta. Men för anställda och patienter på Mammografimottagningen vid S:t Görans sjukhus i Stockholm är det första dagen som en algoritm hjälper till att granska röntgenbilder för att hitta misstänkt cancer.

Det är man först i världen med. Grattis! 🥳

Jag har tidigare skrivit om fördelarna med AI inom exempelvis screening för bröstcancer.

/Läsbart 📚️

/Det här har jag tyckt om att dyka ner i på senaste och tror att du också kan göra det.

/En yta för fri reflektion om något av det jag har läst 🤓

#3. Moderaterna.

Jag har länge tyckt att moderater har en konstig inställning till övervakning. Jag kallade dem för några år sedan för kameraförnekare. Det finns inte särskilt bra bevis för att övervakning av alla medborgare leder till färre brott eller bättre säkerhet.

Det här skriver Johanna Grönbäck, krönikör på ledarsidan i moderata Borås Tidning, om.

När EU-parlamentet röstade igenom ett utkast på en ny förordning om AI i mitten av juni röstade alla moderater, kristdemokrater och sverigedemokrater nej. De ville använda AI till att övervaka, vilket utkastet förbjöd.

Som Grönbäck skriver saknas exempel på när ansiktsigenkänning med AI “har förhindrat ett terrorattentat eller hjälpt till att hitta en försvunnen person”.

Moderaternas EU-parlamentariker Jörgen Warborn tycker ändå att AI ska användas för att “bura in grovt kriminella” och att “[h]ederliga medborgares rätt till trygghet måste gå före grovt kriminellas integritet.”

I dunno…

Som Grönbäck skriver saknar de, liksom SD och KD, en förståelse för “vad massövervakning gör och riskerar göra mot ett samhälle och mot dess fria individer.”

Frågan som Moderaterna inte svarar på är om kameror och algoritmer funkar.

Brottsförebyggande rådet publicerade 2018 en översikt av forskningen om kamerors effekt på att förebygga brott.

Kameraövervakning minskar inte våldsbrott eller ordningsstörningar i områden med flerfamiljshus, stadskärnor, kollektivtrafik eller ”andra platser”. Men det kan minska antalet egendomsbrott, fordonsbrott och narkotikabrott i vissa områden.

Moderaterna i EU har gjort allt de kan för att stoppa och vattna ur AI-lagen. Nu är de även kameraförnekare.

Bra tryck i texten? Häng med på HAIK!

Håll dig uppdaterad om AI 🔔