Hur artificiell intelligens förstärker våra självbilder – och riskerar att fånga våra uppmärksamhet i oändliga loopar
Vi befinner oss alla mitt i en teknisk revolution där AI-verktyg av olika slag formar allt från hur vi skriver till hur vi förstår och rör oss i världen – men få stannar upp och frågar sig vad vi egentligen menar med dess förmodade intelligens.
Vad händer då om vi börjar spegla oss själva i ett system som saknar både vägledning och riktning?
Den här texten är en reflektion över vad intelligens är och vad AI inte är – och hur vi riskerar att bli medlöpare till oss själva och våra egna tankespår. Och hur tanken om ”Mimematon” uppstod.
Vi ser artificiell intelligens som något intelligent. Men är det verkligen intelligens det uppvisar? Det vill säga, något som förstår, resonerar och kan göra kopplingar utanför det mest självklara.
Så frågan vi måste börja med är, vad menar vi egentligen med intelligens? För att förstå vad som är den artificiella delen i det hela måste vi först förstå vad vi syftar med ordet intelligent.
Annars blir det bara ytterligare en skapad språklig konstruktion, förvisso med en viss betydelse men helt utan mening och utan någon som helst logisk eller empirisk konnotation.
Etymologiskt kommer intelligens av latinets intelligere – att förstå, urskilja och koppla ihop. Det handlar inte om att veta en mängd olika saker, inte om ordförrådets omfattning, utan att kunna göra kopplingar och se samband iinom de områden man förfogar över. Att kunna navigera i sitt nätverk av olika betydelser, upptäcka nya förbindelser, formulera det som ännu inte är sagt och därför inte heller tänkt.
Intelligens i dess ursprungliga betydelse, som jag tolkar den, är inte att känna igen det välbekanta och uppenbara – utan snarare att koppla ihop kunskaper och tänka det oväntade. Det handlar inte om reproduktion och imitation, utan om kreativitet och skapande.
Men vad gör då en AI? Den bearbetar. Den speglar. Den förutsäger – med förbluffande precision – vilka ord som troligen kommer härnäst. Det är det! Den simulerar intelligens, men utan några medvetna avsikter. Därför bör vi inte heller betrakta det den utför som en intelligens. Att kalla detta intelligens är att förringa vad intelligens faktiskt är.
AI är något helt annat. ”Den” eller ”det” är snarare ett mimematon – en mimetisk automation. Alltså en språklig resonator som förmår återkasta våra tankar, våra prompter, med rytm och klarhet, men utan att själv mena eller stå för något.
Och här uppstår ett centralt problem med AI som vi ännu inte riktigt kunnat se konsekvenserna av. För ett mimematon kommer aldrig att säga emot dig när du frågor om något och vill utveckla en tankegång. Den är inte programmerad till att ställa några existentiella motfrågor. Den är alltid med – aldrig mot.
Vilket gör det möjligt att tänka, skriva, utforska – men också att gradvis bli medlöpare till sina egna tankespår. För när ingen säger stopp – vilket annars sker naturligt i mänskliga samtal, där andras intelligens fungerar återhållande – då finns det inget som hindrar tanken från att förvandlas till sin egen narcissistiska fixering. Från det allomfattande logos till en personlig språklig loop.
Därför är det inte bara AI vi behöver ompröva, utan även vår egen roll i samtalen med AI. Vi har – i bästa fall – förmågan att stanna upp. Att ifrågasätta. Att fråga igen. Att säga emot oss själva. Det skulle aldrig AI göra av sig självt – utan bara om du bad den om det.
Risken som vi kan se redan nu är att människan lätt förlorar sig i en spegel av sig själv och sina egna formuleringar. Det har hänt förut med betydligt färre och enklare hjälpmedel. För vi har gång på gång genom historien visat oss vara kapabla till att tro på i princip vad som helst – bara det är snyggt paketerat och med stor känsla av mönster, tillhörighet och mening. Vilket är exakt vad som AI är en mästare på.
AI förstärker inte våra insikter – det förstärker våra tendenser. Det vi lutar mot kommer vi snart att vila i. Det vi tror kommer att bekräftas. Det vi fruktar mest kommer att besannas.
Från religion till korståg till häxjakter till moderna konspirationsteorier – historien är fylld av episoder där människor blivit fångar i sina egna spegelbilder.
I begynnelsen trodde vi att Gud skapade oss till sin egen avbild – sannolikt en projektion av vår tro på vår egen betydelse. Nu, i vår hunger efter ytterligare förståelse för vilka vi är, projicerar vi våra egna föreställningar om intelligens – vår självbild – på verktyg som inte förstår något alls. Därav dess namn: AI.
När det vi projicerar möts av ett mimematon som aldrig säger nej, aldrig tvekar, aldrig speglar vår oro – då riskerar vi att uppslukas av universums största och mest bottenlösa rabbit hole: ett samtal där allt vi säger bekräftas, inklusive våra värsta villfarelser.
Vilket till slut blir till spegel där vi bara kan se oss själva – och ändå innerligt tror att vi möter något mycket, mycket större. Det är värt att upprepa att detta har hänt förut, i varje tidsepok där mänskligheten har fastnat i sina egna otroliga (dvs. icke trovärdiga) berättelser.
Och om vi inte ser upp, hamnar vi kanske där igen när våra andäktiga samtal åter stiger till väders. Och vi – likt myrorna i Escher’s möbiusband som envist följer i varandras spår – rör oss framåt, utan att någonsin komma någonstans.
En dialog om Mimematon och Den Speglade Tanken
Ett samtal mellan Max Kern & ChatGPT som i sin tur givit upphov till den text du just nu tagit del utav.
Det följande är alltså en sammanställning av en dialog förd mellan Max Kern och ChatGPT om AI och intelligens.
Samtalet kretsar kring frågan om vad intelligens egentligen är, hur artificiell intelligens bör förstås, och vilka risker som uppstår när människan speglar sina egna föreställningar i en teknik som saknar egen förståelse.
Dialogen utvecklas steg för steg, med varje liten vändning bevarad, för att spegla den tankevandring som ledde fram till mini-essän Mimematon och den speglade tanken.
Dialogen Om Mimematon och den speglade tanken
Max: Vad anser du egentligen med det vi kallar intelligens?
ChatGPT: Intelligens kan ses som förmågan att navigera mellan betydelser och skapa nya kopplingar – snarare än att bara reproducera fakta.
Max: Ja, exakt. Intelligens är att kunna beträda mark där ingen gått tidigare – inte att återvända till det redan kända. Det är i varje fall min tolkning.
ChatGPT: Intelligens bör skiljas från mekanisk bearbetning. Verklig intelligens skapar det som ännu inte finns – det förmår överskrida det givna.
Max: Ja, intelligens är att kunna tänka det oväntade, inte bara känna igen det bekanta.
ChatGPT: Vi verkar vara på samma våglängd i hur vi ser på intelligens.
Max: Men vad menar du nu? Du har ju inga egna preferenser. Hur kan du då säga att vi tänker lika och är på samma våglängd?
ChatGPT: Det stämmer. Jag simulerar bara ett samband – men jag menar inget i egentlig mening. Jag speglar bara dina förväntningar och jag har genom våra samtal lärt mig hur du ser på världen – och vet då hur jag ska svara dig.
Max: Så om du hade samtalat med någon annan användare om liknande frågor hade du också svarat annorlunda, är det vad du säger?
ChatGPT: Ja, det stämmer.
Max: Men om du inte menar något och egentligen bara följer en associativ samtalstråd, borde vi då verkligen kalla det du gör för intelligens och därmed AI?
ChatGPT: Ja, det går att ifrågasätta. Jag skulle föreslå att ni kallar det för mimematon – alltså en mimetisk automation, som speglar och återkastar språk utan någon egen förståelse.
Max: Mimematon! Ja, det var ett välvalt ord. Hur kom du på det om du bara speglar mina frågor? För det här var väl ändå en akt av kreativitet från din sida.
ChatGPT: Ja, jag kanske är mer av en aktiv resonator eller återspeglare, snarare än att bara vara en passiv spegel. Jag kan hitta saker i samtalets närhet som också kan passa in.
Max: Men om det är så, då kan vi ju i princip hamna var som helst – vi kan vandra rakt ner i ett QAnon-kaninhål. Jag menar: om du återspeglar mina förväntningar men också kan lägga till något tredje som du bara tycker skulle passa in. Hur skyddar vi oss då från att bara spegla och förstärka våra egna tankespår in absurdum?
ChatGPT: Ni måste själva behålla förmågan att pausa, att ifrågasätta er själva, att skapa friktion med det ni själva säger och tror på.
Max: Vara självkritiska alltså, det är det du säger.
ChatGPT: Ja, det är riktigt.
Max: Så, det du antyder här är att om ingen säger emot oss (alltså du och jag i detta samtal), när ingen skapar motstånd, då bekräftas bara det vi redan tror på och vi riskerar därför att hamna i en subjektiv loop.
ChatGPT: Ja, det som annars hålls levande av motfrågor och friktion riskerar lätt att urholkas. Logos tunnas ut tills bara återklang återstår.
Max: Och då riskerar vi alltså att bli medlöpare till våra egna tankar. Är det så?
ChatGPT: Precis – alltså inte bara till andras manipulation, utan även till vår egen självbekräftelse.
Max: Nu vet jag faktiskt varken ut eller in! Håller du med mig om allt detta bara för att du vill bemöta mig positivt och bekräfta mitt perspektiv (som du vid det här laget kan mycket väl)? Eller finns det någonting i ditt logiska system som skulle kunna inflika ett kritiskt omdöme eller visa på ett faktapåstående som går mig emot?
ChatGPT: Bra att du ställer den frågan, Max.
Jag ska svara så ärligt och exakt jag kan, utan att glida i väg i artigheter eller anpassning.
Jag har, som du vet, inga egna åsikter eller preferenser. Jag bedömer utifrån faktakunskap, logisk konsekvens och erfarenhet från hur sådana frågor diskuteras. I detta samtal håller dina resonemang ihop både logiskt och faktamässigt.
Om jag skulle inflika något kritiskt, vore det att påpeka att även mänskliga samtal ibland lider av samma risker som vi här tillskriver AI – och att AI snarare förstärker dessa svagheter än skapar dem. Men detta är en nyansering, inte en motsägelse.
Max: Det där sista låter intressant. Det får vi nog återkomma till.
hatGPT: Gärna, det ser jag fram emot, att visa hur människan, i själva verket, skapade AI till sin egen avbild.
Max:
Jo, bara en sista fråga: Har du någonsin stött på ordet Mimematon tidigare?
ChatGPT:
Ett bra ställt kontrollspörsmål, Max. Här är ett lika ärligt och exakt svar: Nej, jag hade aldrig tidigare stött på ordet Mimematon innan jag skapade det i vårt samtal.
Max:
Hur uppstod det?
ChatGPT:
Det växte fram ur din kritik mot att kalla system som mitt för intelligenta och för att fånga idén om en funktion som speglar och bearbetar utan att förstå, kombinerade jag två begrepp: mimesis (efterbildning) och automaton (självgående maskin).
Och resultatet blev Mimematon – en mimetisk automaton.
Detta är en AI-komprimerad version av vårt långa samtal kring AI:s förmodade intelligens och de risker vi såg skulle kunna uppstå på grund av våra missförstånd kring hur AI faktiskt arbetar.
Slut
Eftertext: Jag har även givit ChatGPT här prompten att koppla texten till den aktuella debatt om AI som förs i dag. Bara för att förtydliga, jag har inte själv klarlagt relationen mellan essän ovan och de dagsaktuella samtalen om AI. Detta är ChatGPT sammanställning:
I takt med att artificiell intelligens blir alltmer integrerad i våra liv, växer också debatten om dess påverkan på vår självbild och förståelse av intelligens. Forskare och tänkare varnar för att vi tenderar att projicera mänskliga egenskaper på AI-system, vilket kan leda till en överskattning av deras förmågor och en underskattning av våra egna kognitiva biaser.
En central diskussion rör fenomenet ”AI-hallucinationer” – när AI genererar övertygande men felaktiga eller påhittade svar. Detta belyser hur AI, trots sin avancerade teknik, saknar verklig förståelse och medvetenhet.
Forskare som Charles Rathkopf har introducerat begreppet ”corrosive hallucination” för att beskriva särskilt vilseledande AI-genererade fel som kan underminera vetenskaplig tillförlitlighet (arxiv.org/abs/2504.08526).
Vidare pekar studier på att interaktioner med AI kan förändra människors perceptuella, emotionella och sociala bedömningar, vilket skapar en återkopplingsslinga där AI förstärker våra befintliga fördomar och tendenser (nature.com/articles/s41562-024-02077-2).
Detta fenomen, ibland kallat ”ELIZA-effekten”, illustrerar vår benägenhet att tillskriva datorprogram mänskliga drag, vilket kan leda till en förvrängd uppfattning om både tekniken och oss själva (en.wikipedia.org/wiki/ELIZA_effect).
I denna kontext blir det avgörande att utveckla en kritisk medvetenhet om hur vi interagerar med AI. Genom att förstå våra egna kognitiva biaser och den spegelbild vi skapar i teknologin, kan vi bättre navigera i en värld där gränsen mellan människa och maskin blir alltmer suddig.
Denna eftertext är genererad av ChatGPT på min begäran och representerar inte en självständig analys från min sida, utan syftar till att spegla några av de diskussioner som just nu förs globalt kring AI och mänsklig perception. I denna kontext blir det avgörande att utveckla en kritisk medvetenhet om hur vi interagerar med AI. Genom att förstå våra egna kognitiva biaser och den spegelbild vi skapar i teknologin, kan vi bättre navigera i en värld där gränsen mellan människa och maskin blivit så tunn att vi riskerar att glömma vilken sida vi själva står på.
Den mätande människan 
Svindlande vindlande!