Forskaren German Bender efterlyser färre kommersiella intressen och mer demokratisk styrning i utvecklingen av AI.
Det kan finnas en poäng för företag att träna upp egna AI-modeller, menar han – men avråder bestämt från att låta AI fatta affärskritiska beslut.
Dela i ditt flöde
AI-tekniken utvecklas för fort och med fel incitament. Det anser German Bender, tidigare gästforskare vid Harvard och i dag utredningschef på tankesmedjan Arena idé samt doktorand vid Handelshögskolan.
Han menar att det behövs färre kommersiella intressen och mer demokratisk styrning.
– Vi vet att bara en bråkdel av alla de som jobbar med att utveckla AI-system arbetar med att motverka riskerna med systemen, säger han.
En stark drivkraft i utvecklingen – eller kapplöpningen, både mellan stater och mellan företag – handlar om att komma först fram. Inte att se vilka konsekvenser tekniken kan få.
– Det är dessutom oklart vad det innebär att ”komma först”. Men jag tänker mig att det är något så avancerat så att andra inte kan komma ikapp, en nivå på tekniken så att ett icke-demokratiskt land skulle få förmågor som på allvar kan utgöra ett hot mot resten av världen. Det andra racet som pågår, det mellan företag, innebär att vinna flest marknadsandelar och att snabbt utveckla så kraftfulla AI-system att de blir svåra att konkurrera med.
German Bender. FOTO: Anneli Nygårds
Open AI lanserades från början som en icke-vinstdrivande organisation med syfte att utveckla AI på ett ansvarsfullt sätt. De uppmärksammade turerna när Open AI:s vd Sam Altman i november plötsligt fick sparken, för att därefter återanställas bara dagar senare, antas delvis ha haft med företagets framtida inriktning att göra.
– Microsoft har investerat så mycket i Open AI att vinstintresset numera är en stark drivkraft i utvecklingen av deras AI-modell, Chat GPT. Det är problematiskt med tanke på att utgångspunkten var att Open AI, också enligt namnet, skulle vara transparenta och sätta samhällsintresset främst. Att de blivit mer slutna handlar både om att skydda sin teknik från aktörer som har mindre fredliga avsikter men också om att skydda sig från konkurrenter, säger German Bender.
Fler chattrobotar är på väg, det ryktas bland annat om flera från Facebook och Google.
– Det är viktigt att komma ihåg att chattrobotarna är utvecklade för breda arbetsområden och därför svåra att använda. Därför kan det finnas en poäng för företag att träna upp en egen AI-modell för det specifika område man behöver hjälp med. Det kostar såklart en hel del, men det kommer att göra AI:n mer precis och du minskar risken för att den hallucinerar.
German Bender anser att vi måste ta osäkerhetsmomenten med AI på allvar, både de existentiella och de som uppstår på kortare sikt, till exempel på arbetsmarknaden.
– Det finns helt klart en risk att ta till sig teknik innan den är mogen. Jag skulle inte rekommendera att låta Chat GPT fatta affärskritiska beslut. Och en ännu mindre god idé är att myndigheter använder den. Än så länge är Chat GPT och liknande system alldeles för opålitliga.
Samtidigt menar han att AI förr eller senare kommer att påverka alla arbetsområden. Därför är det lika bra att ta till sig tekniken direkt i stället för att ducka eller ignorera utvecklingen.
– Jag råder alla att testa Chat GPT för att bli bekväm med tekniken.
Fakta
Olika nivåer av AI
- AI: Förmågan hos datorprogram att efterlikna människans naturliga intelligens. Används till exempel när du öppnar din mobil med ansiktsigenkänning.
- Generativ AI: AI som i sig kan skapa något nytt, till exempel text och bilder utifrån en enorm mängd data som systemet tränats på.
- Generell AI (AGI): AI som lär sig nya färdigheter, fattar egna beslut och är kreativ. Finns ännu inte.
- Artificiell superintelligens (ASI): Har alla mänskliga förmågor men är både snabbare och bättre än människor. Den teknologiska singulariteten uppstår när AI kan förbättra sig själv. Finns inte heller ännu.
Case. Så jobbar vi med AI i vardagen
Läkemedelsjätten tänkte nytt.
Låter AI sköta intervjuerna.
AI ger kunden bästa dealen.
