Innehåll utan innehåll

Det har nu gått tre år sedan jag publicerade min bok Kognitiv design. Sedan dess har AI förändrat hur vi arbetar, kommunicerar och tolkar vår omvärld. I takt med den teknologiska utvecklingen har de principer jag då formulerade blivit allt mer relevanta – och därför återvänder jag nu till dem, men i ett bredare perspektiv. Du behöver inte vara bekant med mitt tidigare arbete, eller insatt i designyrket, för att ta del av den här texten. Det räcker att förstå tre grundprinciper:

1. Människor reagerar på världen så som de uppfattar den, inte som den faktiskt är: Två personer kan titta på samma bild och ändå uppleva något helt olika. Det beror inte på att verkligheten är relativ, utan på att deras bakgrund, förväntningar och situation skiljer sig åt. Detta innebär inte att alla perspektiv är lika giltiga. Att behandla alla tolkningar som jämlika leder till relativism och handlingsförlamning.
2. Många designproblem är en konsekvens av kognitiva snedvridningar: Kognitiva snedvridningar, exempelvis confirmation bias (att söka och tolka information som bekräftar det man redan tror), ankareffekten (att påverkas oproportionerligt mycket av den första informationen man får) och tillgänglighetsbias (att överskatta det som är lätt att minnas) gör att vi bekräftar vår tolkning av verkligheten snarare än att faktiskt förstå den.
3. Vägen framåt ligger i att korrigera dessa förvrängningar: Detta gör vi genom att ifrågasätta våra antaganden och testa våra tolkningar mot verkligheten. Förlorar vi viljan att ompröva våra idéer fylls tomrummet av ideologi och vi är inte längre formgivare, utan byråkrater.

Att korrigera våra förvrängda tolkningar är en fråga om att återupprätta närvaro och mening i det vi gör. Detta blir särskilt tydligt i ljuset av den nya AI-tekniken, som mer än tidigare separerat oss från den processen. Vi promptar tills flödets effektivitet övergår vår förståelse, men tappar bort det som tidigare var självklart: att förstå hur saker faktiskt fungerar och hänger ihop. Den existentiella klyftan mellan människan och det hon gör växer när vi reduceras till mottagare av teknik vi inte längre förstår, utan bara ser resultatet av. Den yttersta faran är inte att vi missförstår verkligheten, utan att vi förlorar förmågan att någonsin se den igen.

Om algoritmisk epistemologi

Sociala medieplattformar är optimerade för att främja viral spridning. Detta beror på att deras affärsmodeller i grunden bygger på användarengagemang. Ju längre användare stannar kvar på plattformen, desto fler datapunkter genereras, vilket möjliggör fler och mer precist riktade annonser. Detta omsätts direkt till ökad intäkt per användare.

När du delar ett budskap i social media matar du i själva verket in det i en maskin som kommer att rekursivt förstärka, eller förkasta det, baserat på en affärsmodell som i första hand livnär sig på känsloladdat och polariserande innehåll – eftersom detta sprider sig mer tillförlitligt än något annat. Det skapar en återkopplingsslinga mellan användarens psykologi och algoritmens urval (likt rundgång i ett högtalarsystem), där budskap förstärks och sprids, inte på grund av dess sanningshalt, utan just dess förmåga att engagera. Objektiva kriterier, som relevans, fakta och auktoritet är sekundära jämfört med det överordnade målet att maximera användarengagemang.

Även om sociala medier utåt sett erbjuder valfrihet i vilka man följer och vad man interagerar med, är dessa val till stor del en illusion. Det är en komplex dynamik mellan våra beteenden och teknologins algoritmer som avgör vad som lyfts fram, vad som får genomslag och vad som uppfattas som relevant eller sant. I denna process överlåter vi gradvis vår autonomi till berättelser som maskinerna konstruerat åt oss – berättelser som imiterar våra egna, men som är förstärkta, förvrängda och optimerade för sina egna syften.

Algoritmernas urval påverkar inte bara vilket innehåll som synliggörs, utan kan leda till en skev verklighetsuppfattning där extrema eller marginella ståndpunkter uppfattas som vanligare än de är. De algoritmer som kurerar innehållet styrs främst av maskininlärning snarare än av explicita, mänskligt definierade regler och den algoritmiska selektionen är således inte baserad på mänskliga eller samhälleliga behov (utan engagemangsmått som retention, klickfrekvens och konvertering). När varje interaktion medieras av ett autonomt system, vilket inskränker användarnas möjligheter att exponeras för alternativa perspektiv, överlämnas avgörandet om vad vi ser till system vi inte själva kontrollerar. Vårt eget urval sker i bästa fall i andrahand.

När språket reduceras till engagemangssignaler, förlorar det sin förmåga att skilja mellan det viktiga och det banala. Förenklade budskap leder till förenklade resonemang, vilket distanserar oss från verklighetens komplexitet och ett nyanserat tankesätt. Det gör det svårare för oss att se oss själva utifrån, såväl som andra inifrån.

En konsekvens av detta är att olika grupper i allt högre grad lever i separata informationsmiljöer, så kallade ekokammare. Samhällets institutioner – såsom rättsväsende, journalistik och utbildning – bygger på premissen att det finns objektivt fastställbara fakta. Men när gemensamma referenspunkter saknas blir det svårare att upprätthålla en konstruktiv dialog. Sanningsbegreppet relativiseras och utfallet blir en slags funktionell suveränitet där makten över informationsurvalet hamnar hos system som saknar både institutionell förankring och demokratisk kontroll.

Samtidigt lutar sig samhället i allt högre grad mot ett fåtal privata plattformar för nyhetsförmedling, opinionsbildning och grundläggande social interaktion. Denna konfluens av informationsmakt innebär att offentlig sektor i högre grad än någonsin tidigare filtreras genom system med kommersiella incitament. Själva infrastrukturen för hur medborgare håller sig informerade och förblir socialt förankrade har sammanflätats med system som optimerar för konspirationer och provokationer. En enda algoritmisk förändring kan snabbt påverka medielandskapet, politiska diskussioner och samhälleliga prioriteringar. Det innebär att vissa plattformar, trots att de saknar demokratisk legitimitet och offentlig transparens, i praktiken utövar betydande inflytande över samhällsagendan.

När flockbeteendet tar över

De psykologiska och sociokulturella mekanismer som informerar algoritmerna – såsom memetik (hur idéer sprids kulturellt), heuristiker (mentala genvägar) och irrationella beteenden (vår benägenhet att agera emot vårt eget bästa) – kommer från oss. Vi gillar att tro att vi är rationella varelser med fria viljor, men vår hjärna är inte optimerad för objektivitet. Den är formad för överlevnad – i flock. När idéer blir virala, trots att de saknar förankring i verkligheten, är det inte ett undantag utan en följd. Inte för att människor är korkade, utan för att vi belönas för att agera som om vi vore. Intelligens spelar ingen roll när systemen premierar eftergivenhet.

Richard Dawkins introducerade i Den själviska genen (1976) termen meme för att beskriva en enhet av kulturell överföring – en kulturell gen – analog med den biologiska genens funktion i evolutionen. Memes omfattar idéer, beteenden eller trender som sprids inom en kultur genom imitation och kommunikation. Även begreppet viral har sitt ursprung i biologin och har blivit centralt för att beskriva fenomen i digitala sammanhang: hur innehåll sprider sig snabbt och brett på internet, likt hur ett virus smittar mellan människor.

När ett ”meme sprids viralt” är det resultatet av att många individer väljer att föra det vidare. Dawkins drog parallellen till evolutionen: vissa memes överlever och sprids, andra dör ut, beroende på hur väl de anpassar sig till sin sociala kontext. I spelteoretiska termer kan detta liknas vid en samordningseffekt, där vissa idéer får stor spridning, inte för att de är värdefulla, utan för att individer tror att andra också kommer dela dem – och därför gör det själva. Det finns alltså en kollektiv dynamik där människor agerar på förväntningar om varandras beteenden, snarare än på innehållets inneboende värde.

När vi betraktar hur memes sprids blir det uppenbart att rationalitet ofta kan kastas ut genom fönstret. Det som hade varit otänkbart för bara några år sedan är nu vardag: människor livnär sig på att spela in hur det låter när de tuggar chips framför en kapybara. Det säger något om den kraft innehåll får när det triggar våra mest grundläggande belöningssystem – flockinstinkt och statuslogik – under selektionstryck. Vi ser fenomen som Planking eller Ice Bucket Challenge få fäste, trots att de strider mot all form av logik, nytta och självbevarelsedrift.

Våra klassiska modeller, som Nash-jämvikt inom spelteorin, utgår från att aktörer väljer strategier som är optimala utifrån sina antaganden om vad andra kommer att göra. Men memes visar tydligt att människor ibland beter sig på sätt som inte ens kan beskrivas som optimala enligt personen själv. De agerar i direkt motsats till vad de innerst inne tror eller vill, drivna av sociala mekanismer och flockmentalitet snarare än rationella resonemang. Det handlar alltså inte bara om vad vi väljer att dela med andra, utan vem vi själva blir i processen.

När algoritmernas logik blir vår egen

Tänk på hur vi förändras bakom ratten i en bil: det uppstår en känsla av avstånd och anonymitet som gör oss mer benägna att tappa omdömet. Precis samma sak sker online och med tiden påverkar det inte bara vad vi uttrycker oss, utan hur vi tänker.

Det vore bekvämt att tro att virala fenomen stannar vid ytliga trender. Men i takt med att idéer, reaktioner och normer flödar genom våra digitala kanaler i allt högre hastighet, börjar vi internalisera den logik som styr deras spridning. Vi anpassar oss – inte för att förstå världen, utan för att bli förstådda i den. Det är här algoritmernas belöningslogik blir vår egen. Det är här det börjar kosta oss psykologiskt, kognitivt och i slutänden existentiellt.

När självberättelsen blir central och idealet bygger på synlighet filtreras de delar av livet som inte engagerar bort, medan andra blir till klickvänliga fragment. Den kontinuerliga jämförelsen med andra driver innehållsanpassningen som ger form åt vår digitala persona. Varje notis, Gilla-markering eller kommentar ger en mikrodos bekräftelse och aktiverar hjärnans belöningssystem, vilket motiverar beteendet att fortsätta producera, anpassa och försöka nå ut. Särskilt unga, vars identitet ännu formas, utsätts för ett konstant tryck att kurera, prestera och respondera i en digital offentlighet där gränsen mellan person och persona upplöses.

I ett medielandskap där innehåll förpackas i korta, snabbt konsumerbara fragment behövs inte längre vår förmåga till djup koncentration, reflektion eller analytisk läsning. Det är en ny typ av normklimat – flyktigt, binärt och repressivt moraliserande – där självcensur blir ett villkor för deltagande och där dygdsignalering ersätter substantiell handling.

Människan är återigen fångad i en självrefererande struktur – men nu i kod

I takt med att vi anpassar våra tankestrukturer efter plattformarnas logik, fastnar vi i system som validerar sig själva, men inte längre pekar mot något utanför sig själva. Det är inte första gången mänskligheten skapar sådana loopar. Religionen är ett tidigt exempel – och paradoxerna visar oss dess gränser:

"Den här meningen är falsk."

En klassisk paradox. Men vad är det egentligen? Ett grammatiskt fel. Du försöker validera en sträng som ett booleskt värde. Det är inte djupt. Det är bara feltypat. ”Den här meningen är en sträng” hade varit korrekt. Samma sak gäller Russells paradox, Gödels ofullständighet, Schrödingers katt och teologins favorit: kan Gud skapa en sten så tung att han inte själv kan lyfta den? Det här är inte sprickor i universum. Det är artefakter av system som tillåter obegränsad självreferens.

Paradoxer existerar inte i naturen – de uppstår i våra representationer av den. Gödel visade inte bara att vissa matematiska sanningar inte kan bevisas inom ett givet formellt system, utan även att inget tillräckligt komplext system kan bevisa sin egen konsistens. Det är inte en mystisk insikt, utan en strukturell gräns.

Religion bygger rekursiva strukturer som validerar sig själva inifrån, likt en funktion som anropar sig själv i all evighet utan basfall. Obevakad självreferens skapar mening på samma sätt som en spegel skapar rymd: den reflekterar, men alstrar inte. Mening kan uppstå genom speglar, men det gör dem inte till fönster. Eschers trappor går i eviga loopar och vi kan beundra illusionen, men vi försöker inte gå i dem. När rekursion uppträder i språk, i skrifter, i metafysik, i dogm – misstas den ibland för uppenbarelse. Det är inte upphöjt, det är bara otestat.

Människor producerar problem som bara människor kan uppfatta och höjer dem ibland till doktriner. En mer avancerad art skulle kanske se vår besatthet vid paradoxer så som vi ser på en hund som jagar sin svans. Hundens dilemma är inte verkligt. Det upphör i samma ögonblick som den slutar springa.

Religionens styrka ligger inte i dess logik, utan i dess funktion. Den erbjuder mer än sanning – den erbjuder tillhörighet, identitet och struktur. Det gör den kraftfull, men också sårbar för självreferens. Det är här vi ser likheten med våra digitala system: båda riskerar att skapa känslan av kontroll, men inom gränser vi inte själva dragit.

Verkligheten är inte motsägelsefull – våra abstraktioner är det. Vår logik, vårt språk och våra trossystem (logos), inklusive de digitala och särskilt de som förväxlar självreferens med uppenbarelse. En paradox är vad som händer när ett system kraschar in i gränsen för sin egen definition. Dessa paradoxer löses inte, de termineras.

Ett praktiskt sätt att agera i en värld som är skev, utan att själv bli skev av den

Hur vet du att du är i loopen? När du inte längre vet varför du tycker som du gör. När du har läst trehundra inlägg om ett ämne, men aldrig en hel bok. När du börjar svara innan du ens förstått frågan. När du inte minns när du senast ändrade åsikt. Då är loopen igång – och du är i den.

Att förstå att världen du ser är en tolkning, inte en direkt avbild, är början. Att förstå varför tolkningen är snedvriden – genom psykologi, teknik, algoritmer och flockbeteende – är nästa steg. Men det stannar inte där. Sann förståelse kräver handling. Att veta att du är i en loop betyder inte att du automatiskt tar dig ur den. Det betyder bara att du slutar kalla den för sanning, vilket är det första steget mot någonting verkligt alls.

Att avsluta loopen garanterar inte riktning. Det är inget svar, bara ett utrymme för ett att faktiskt kunna uppstå. Vi måste börja behandla vår informationsmiljö på samma sätt som vi behandlar vår kost, träning och sömn: som något som påverkar vår hälsa och kognitiva kapacitet – varje dag. De flesta skulle inte dricka alkohol, hinka energidryck eller äta snabbmat sju dagar i veckan. Men när det gäller information låter vi självoptimerande, AI-drivna plattformar mata oss med just det: snabba kalorier och dopaminkickar i ett oändligt flöde.

Så vad är lösningen? Rent krasst: hoppa av.

Med det menar jag inte att du ska slänga mobilen i väggen och flytta till en stuga i skogen utan el. Det handlar inte om att avvisa tekniken, utan om att sluta låta den definiera dig. Jag ser med tillförsikt på teknikutvecklingen, men system som är byggda för att deformera din uppfattning av verkligheten kommer inte plötsligt börja främja din autonomi. Många tror att de är undantaget. Att de kan navigera det utan att påverkas. Men just där ligger systemets elegans: det får dig att känna dig immun medan det omformar dig.

Vi kan gå online utifrån vilket perspektiv som helst och hitta ändlöst med källor som bekräftar oss. Problemet är inte brist på information, utan frånvaron av gemensamma metoder för att sålla, väga och förankra den. När vi har obegränsat med källor, förflyttas problemet till vilken information vi faktiskt ska välja att agera på (givet vår referensram). För detta krävs inget radikalt nytt sätt att arbeta. Vi behöver hitta tillbaka till de gamla vägarna och till hur vi gjort saker tidigare: den vetenskapliga metoden.

Vetenskaplig metod är inte bara ett akademiskt verktyg, den är ett verktyg för kollektiv verklighetskontakt. Vetenskapen insisterar på att varje hypotes måste kunna testas mot verkligheten och förkastas om den inte håller måttet. Andra forskare måste kunna följa stegen för att verifiera resultaten på ett reproducerbart sätt.

För att navigera en verklighet alltmer färgad av algoritmiska och psykologiska snedvridningar behöver vi återgå till en process där vi prövar våra antaganden och vågar låta verkligheten korrigera oss. Det innebär inte att vi har ett perfekt svar på varje fråga, utan att vi har en pålitlig metod för att successivt röra oss närmare vad som är sant. Vetenskapen är byggd på ödmjukheten att vi kan ha fel.

Om vi förlorar förtroendet för denna metod, riskerar vi att lämna över definitionen av verkligheten till ideologiska och kommersiella krafter, vars syfte sällan är vår egen klarhet eller välbefinnande. Att återerövra vetenskaplig metod som en personlig och kollektiv hållning blir därmed inte bara en fråga om akademisk praxis, utan en existentiell nödvändighet – en vardaglig form av civilkurage. Inte för att kontrollera sanningen, utan för att inte förlora förmågan att se den.

Låt mig avsluta på ett mer mänskligt plan

Min dotter har en liten nattlampa hon trycker på när det känns mörkt. Vår rädsla för mörkret är egentligen en rädsla för det okända. När vi inte ser, finns det inte längre något som motbevisar vår fantasi. Likt våra drömmar är vår fantasi inte en flykt från verkligheten – utan en inbjudan till att förstå den. Våra drömmar ljuger inte. De kan vara svåra att tolka, men de är sanna i sin essens – en röst från naturen i sin renaste form.

Vi minns inte verkligheten som den var, utan som berättelser vi formar i efterhand. De visar oss vad vi fruktar, vad vi vill, vad vi undviker – och ibland det vi innerst inne behöver se. Trygghet är inget vi hittar. Jag tror snarare det är tvärtom: att vi lär oss leva med ett visst mått av osäkerhet, vilket är ett alternativ till att leva i hat, rädsla eller ilska under en förenklad sanning.