Artificiell intelligens tjänar de som härskar

https://www.aftonbladet.se/kultur/a/VP7rdr/ai-organisering-och-desinformation-av-mikael-nyberg

 

Organisering offline är fortfarande det radikala alternativet

 

 

På börserna råder AI-hysteri, men utvecklingen av den artificiella intelligensen väcker farhågor. "Den här teknologin, som borde vara underbar ... utvecklas i ett samhälle som inte är designat för att använda den för allas bästa", förklarade Geoffrey Hinton, en av AI-pionjärerna, när han lämnade Google. Varningen är befogad, men skälen behöver redas ut.

Tidigare skulle datorerna följa strikt logiska formulär. Nu försöker AI-experterna efterlikna de friare tankemönstren i hjärnans nätverk av nervceller. Datorer som drillats av gigarbetare världen runt tuggar sig igenom gigantiska datamängder och spottar ut det som statistiskt sett tycks passa bäst. Men inte ens när den träffar rätt vet den artificiella intelligensen vad den pratar om, och återkommande "hallucinationer" trasslar till automatiken.

AI-systemen är inte ensamma om att bluddra, invänder Hinton. Även människan tänker fel, hittar på och gissar sig fram. Men, tillägger han, de informationsmängder som datorerna kan överblicka är ofantliga, och snart, när algoritmerna förfinats, kommer den artificiella intelligensen att överglänsa människans tankeförmåga.

Han larmar om "det existentiella hotet att de tar kontroll". Se vilka krafter domptören Donald Trump kunde sätta i rörelse vid stormningen av Kapitolium i Washington! Vad står i vägen för AI-system som kan Machiavelli utan och innan och lärt känna människan genom alla böcker som någonsin skrivits? "... de kommer att vara väldigt duktiga på att manipulera oss, och vi kommer inte att fatta vad som pågår."

Andra AI-utvecklare delar oron. Men varningen för den maskinella superintelligensen är missriktad. Fängslandet av människan i tekniska system bortom hennes kontroll är ett gammalt fenomen. Karl Marx beskrev redan på 1800-talet hur kapitalet förminskar arbetaren till ”en maskindel” underordnad ”arbetsprocessens småaktiga och förhatliga despoti”.

Ekonomen Walt Rostow, senare säkerhetsrådgivare till president Lyndon Johnson, hyllade samma ordning i ett antikommunistiskt manifest 1960: "... majoriteten av befolkningen måste vara redo att låta sig tränas för - och sedan betjäna - ett ekonomiskt system ... vilket i allt större omfattning fängslar individen i stora, disciplinerade organisationer som tilldelar henne specialiserade snäva, återkommande arbetsuppgifter."

Det är källkoden. Den artificiella intelligensen är själv fångad i kapitalets automatik.

Åttatimmarsdagen är i upplösning och daglönare och springsjasar tillbaka. Men gränssnittet är digitalt och de AI-genererade manipulationerna utstuderade. Gig-arbetarna hos Uber övervakas och leds genom arbetsdagarna av en app som psykologisk expertis kalibrerat. Lönen är usel men liksom i dataspelen triggas hjärnans belöningssystem med glada tillrop och utmärkelser som poppar upp på skärmen. När föraren försöker avsluta arbetspasset levererar den artificiella intelligensen ett automatiskt meddelande. "Du har bara 10 dollar kvar till 100 dollar i nettointäkt", kan det lyda. "Är det säkert att du vill logga ut?" Knappen "Fortsätt köra" är förvald.

En mångmiljardindustri växer fram kring datoriserad avläsning av sinnesstämningen hos arbetssökande och anställda som arbetar på distans. Träffsäkerheten är låg och teorin bakom operationen mättad med fördomar. Det hindrar inte den artificiella intelligensen att dra slutsatser om pålitlighet, tankeförmåga och social kompetens. En rynkad panna kan göra att det inte blir något jobb. Algoritmen är drillad att tolka muskelrörelsen som ilska.

Föreställningen om superintelligensen lider av sin utgångspunkt. Hinton jämför de digitala mjukvarorna med den individuella hjärnan. Men den mänskliga kunskapsprocessen är kollektiv. I ständiga meningsutbyten prövar och omprövar vi våra idéer. I samtal med vänner och arbetskamrater får bluddret mothugg, och i offentligheten kan felaktiva uppfattningar sättas i fråga.

Donald Trumps manipulativa framgångar har inte med bristande intelligens hos anhängarna att göra. De är förknippade med en försvagning av den kollektiva kunskapsprocessen.

En av orsakerna är inordningen av miljarder mänskliga tankeutbyten i IT-bolagens affärsmodeller. "De skarpaste hjärnorna i min generation ägnar sig åt att tänka ut hur man ska få folk att klicka på annonser", förklarar Jeff Hemmerbacher, tidigare datachef hos Facebook, i Financial Times. Meta, Facebooks och Instagrams moderbolag, lade i våras ner en medicinsk forskargrupp som med AI kartlade över 600 miljoner proteinstrukturer. Företaget koncentrerar sin AI-utveckling till projekt "som kan förbättra Metas affärer". De vinstgivande dopaminkickarna har en destruktiv verkan. Klarsyn och förnuftiga meningsutbyten kvävs i filterbubblor och vanebildande strunt.

Bolagen i klickmaximeringsbranschen har utfäst sig att moderera innehållet. Arbetet outsourcar de ofta till länder i Syd. Till priset av sin mentala hälsa granskar nätarbetare dagarna i ända rashets, barnpornografi, halshuggningar och andra vedervärdigheter. Tanken är att de ska lära algoritmerna att ta över. Facebook använder redan AI-program för att prioritera vilka inlägg som ska granskas.

Men det är inte allt. I den pågående militariseringen av samhället dras de digitala kanalerna in i stormakternas spel. EU har förbjudit spridning av material från flera ryska medier. Nätoperatörerna är också skyldiga att på uppmaning radera oönskat innehåll.

Kommissionen har vänt sig till X, TikTok och Meta med krav på utrensningar av "desinformation" om kriget i Gaza. Elon Musk efterlyste en förteckning och fick svar av kommissionären Thierry Breton: "Du är säkert medveten om dina användares - och myndigheters - rapporter om falskt innehåll och förhärligande av våld. Det är din sak att visa att du fattat galoppen." X har nu stängt "Hamasanknutna konton". Meta har raderat hundratusentals inlägg stämplade som Hamaspropaganda. Men den israeliska historien om hur Hamas soldater huggit huvudet av fyrtio spädbarn cirkulerar fortfarande på Facebook och andra sajter. Officiellt är uppgiften numera, som det heter, "icke bekräftad".

Amnesty har dokumenterat "ett antal antisemitiska inlägg" som förordar våld mot judar samt "ett betydande antal ... som glorifierar Israels attacker på civila i Gaza, stöder förstörelsen av Gaza och förordar våld mot palestinier", ofta med "ett avhumaniserande och rasistiskt ordval". Talrika rapporter har inkommit till organisationen om hur IT-bolagen i sin moderering tar parti. Plattformarna stoppar inlägg till stöd för palestiniernas sak eller låter den artificiella intelligensen i smyg begränsa spridningen.

Krigspropagandan kallas i dag strategisk kommunikation. Den brittiske arméstabschefen Nick Carter framhöll dess betydelse 2015: "... kriget är en teater, och du är producenten av en föreställning som måste tilltala en rad olika publiker. Narrativets triumf är alltid avgörande för framgång."

Nato inrättade 2013 StratCom, ett fristående organ för strategisk kommunikation. Sverige anslöt sig 2017. I en Stratcom-rapport från 2022 förordas "en åtminstone partiell automatisering av spårning och analys av desinformation" i de sociala medierna. Med AI-assistans förväntas analytiker snabbare hejda "fientliga narrativ". Algoritmerna kan kalibreras med "nyhetsuppgifter från CNN och Daily Mail" samt "meta-data om källors pålitlighet och information om sociala interaktioner online".

97 procent av det som den artificiella intelligensen matas med är engelskspråkigt, och det som från höger och vänster sköljer över oss på nätet härrör redan till stor del från andra sidan Atlanten. I fortsättningen ska vi inte själva med sökmaskiner leta oss fram i flödet, förklarar Metas AI-chef Yann LeCun: "Allas interaktioner med den digitala världen kommer att förmedlas av AI-system." Det lär inte förbättra saken.

Den artificiella intelligensen tjänar det härskande narrativet. Men kontrollen är inte ofelbar, och algoritmerna går av och till att överlista. "P@l3stin3" slank ett slag förbi den automatiserade övervakningen, och aktivister lärde sig att hantera de robotstyrda taxibilarna i San Francisco. En trafikkon på motorhuven fick underverken att stanna. Bolagen bakom bilarna ser en mångmiljardmarknad framför sig. En bred opinion kräver investeringar i kollektivtrafik i stället.

Vi kan kura i krympande filterbubblor och utnyttja de öppningar i offentligheten som finns kvar. Men först med organiserad rörelse offline tar en annan berättelse sin början.

https://www.aftonbladet.se/nyheter/a/gE2JaB/andreas-cervenka-obehaglig-sanning-bakom-petningen-av-ai-gurun-sam-altman

Turbulensen kring den sparkade AI-gurun Sam Altman sätter fingret på en obehaglig sanning:

I valet mellan pengar och vad som är bäst för mänskligheten kommer pengarna alltid att vinna. 

Det var nyheten som fick alla världens tech-bros att fullständigt gå i spinn i helgen: Sam Altman, AI-teknikens golden boy, fick respass på grått papper från OpenAI – bolaget bakom ChatGPT.

Att en vd får kicken är i sig ungefär lika dramatiskt som en tallrik yoghurt, det är en del av vardagen.

Den företagsledare som inte levererar ”aktieägarvärde” är på sikt lika omöjlig på sin post som en förbundskapten som förlorar mot ett Tintin-land i fotboll. 

Det var just därför Sam Altmans sorti kom som en chock. 

Denne 38-åring med pojkaktig utstrålning har nämligen gjort sina ägare ofantligt förmögna på kort tid. Före helgens händelser räknade OpenAI med att få in nya pengar på värderingen 86 miljarder dollar, nästan 1 000 miljarder kronor. 

Förklaringen är den otroliga framgången för ChatGPT. 

I vilket annat bolag som helst skulle Sam Altman sitta så säkert i vd-stolen att han lika gärna kunde ha skruvats fast. 

Men OpenAI är inte vilket företag som helst. Grundat 2015 av en grupp forskare med det uttalade målet att se till att AI-tekniken utvecklas på ett sätt så att den ”har störst sannolikhet att gynna mänskligheten i stort”.

OpenAI består därför av två delar – ett icke-vinstdrivande bolag som sysslar med forskning och ett dotterbolag som ska finansiera kalaset genom att dra in pengar. 

Det verkar vara i denna inbyggda dragkamp mellan idealism och profit som problemen uppstått. 

Enligt flera affärsmedier tyckte styrelsen att Sam Altman expanderade allt för fort utan att ta tillräckligt stor hänsyn till säkerheten.

Sam Altman ansåg å sin sida att bolaget måste gasa för att kunna finansiera utvecklingen av tekniken. Enligt nyhetsbyrån Bloomberg har anstormningen till ChatGPT varit så stor att bolagets datorkraft helt enkelt inte räcker till – och att investera i ny utrustning kostar stora pengar. 

Sam Altman har medgett att det finns faror med AI men anser att de kan hanteras och att möjligheterna med tekniken är så stora att det är värt risken. 

Men i OpenAI:s styrelse är de skeptiska forskartyperna i majoritet. Därför kunde de tvinga bort Altman.

Orsaken, att Sam Altman inte varit för dålig på att tjäna pengar utan tvärtom för bra – är vad som gör denna historia unik. 

I en normal företagsekonomisk kontext framstår styrelsen som ett gäng världsfrånvända kufar. 

Men de starka reaktionerna säger också en del om dagens moderna kapitalism, där det trots allt prat om klimat, jämställdhet och socialt ansvarstagande ändå är ekonomiska intressen som kommer i första hand. 

OpenAI är antitesen. I bolagets stadgar står till och med att vinst alltid ska prioriteras lägre än bolagets huvudsyfte att främja mänskligheten. 

Det tog bara något dygn innan det stod klart att Sam Altman fått ett nytt jobb hos Microsoft, som är OpenAI:s största investerare. 

Han lär ta med sig ett stort gäng från OpenAI och en gissning är att de inte främst lär syssla med att hjälpa gamla damer över gatan.

Det är trots allt inte Microsofts altruism som gjort bolaget till världens näst största efter Apple med ett börsvärde på nätta 30 000 miljarder kronor. 

AI är inte som vilken teknologi som helst. Om bara en tiondel av forskarnas profetior blir besannade kommer den förändra världen. Och om bara en hundradel av varningarna slår in är riskerna enorma. 

Den som har mest pengar kommer vinna racet om AI. Och därmed få en makt som kan jämställas med en slags gud.

Okej, det kan låta lite överdrivet.

För alla utom Silicon Valleys tech-snubbar.

Flera av dem har redan iklätt sig rollen som världshärskare utan minsta antydan till att rodna. 

Mark Zuckerberg har via Instagram hundratals miljoner ungas välbefinnande i sina händer. Google-grundarna Sergey Brin och Larry Page vet mer om människors innersta tankar än vi själva. Och Elon Musk lockar med sitt X aktivt fram människans mindre vackra sidor.

Ironiskt nog var just Elon Musk en av initiativtagarna till OpenAI, och tillhör de som uttalat sig mest dystopiskt om AI.

Det han verkar ha funderat mindre på är de existentiella farorna med att koncentrera ekonomisk och teknologisk makt till några få människor – exempelvis sig själv.

Med sitt satellitsystem Starlink har han oombedd tagit på sig uppgiften att avgöra krig (som i Ukraina) – och därmed vem som får leva och vem som får dö. Hans makt är så stor att människor inom den amerikanska militären kallar det ett slags ”skuggstyre”.

Varför säger ingen i Elon Musks närhet till honom att skärpa sig? Därför att han är världens rikaste man och inte har någon chef. Och ännu viktigare, att han har gjort så många så otroligt rika. Det finns få saker som mer effektivt tystar kritiker.

Och samtidigt som Elon Musk i vissas ögon alltmer uppträder som en Bond-skurk, ser miljoner människor honom som en idol och förebild.

”Ni kan inte tjäna både Gud och mammon”, står det i en tjock, känd bok.

De som skrev den kan inte ha förutsett 2020-talet.

Det går alldeles utmärkt att jobba åt båda två. De är ju numera ett och samma väsen.

https://www.aftonbladet.se/kultur/a/0QaX7G/sam-altman-och-open-ai-artikel-av-rasmus-fleischer

OpenAI-kaoset handlar om gud och miljarder

https://www.aftonbladet.se/podcasts/episode/362284