AI-bolagen anställer filosofer: ”Plockas upp ganska snabbt”
Samtidigt som dagens AI-modeller brottas med tendenser att vara för inställsamma och självsäkra, växer ett intresse i branschen för filosofiska frågor.
Åsa Wikforss, professor i teoretisk filosofi, ser att fler filosofer numera rekryteras för att bland annat hjälpa AI-modellerna att resonera bättre med hjälp av filosofi.
– Filosofer anställs nu med en lön som de aldrig skulle fått på ett universitet, säger hon.
En rapport av Federal Reserve visar att amerikanska filosofistudenter har större chans att få jobb än sina jämlikar som studerat datavetenskap. Flera av dem rekryteras av AI-bolag redan innan de tagit examen, enligt Luciano Floridi, filosof vid Yale University, skriver The Economist.
Även filosofi- och AI-experten Jörg Noller vid Ludwig Maximilian University i München ser ett intresse för filosofer hos de stora AI-företagen som Anthropic och Open AI.
– Jag tror att fler och fler företag i framtiden kommer behöva filosofer som jobbar med dem, särskilt när det kommer till koncept som intelligens, säger Noller.
”Göra de bättre på att resonera”
Varför är just filosofer eftertraktade? Enligt Åsa Wikforss, professor i teoretisk filosofi vid Stockholms universitet, handlar det bland annat om att träna AI-modellerna för att göra dem bättre på att resonera och inte dra förhastade slutsatser eller hallucinera.
– Att ge dem epistemisk ödmjukhet, det vill säga att man är ödmjuk inför att man kan ha fel, och därför ställer några fler frågor och kontrollerar lite bättre och undviker felslut av olika slag, säger Åsa Wikforss.
Daniel Greco, filosofiprofessor vid Yale, har själv arbetat med träning av AI-modeller.
– Vi är några stycken i filosofi-fakulteten som arbetat vid sidan av med AI-förstärkningsinlärning med mänsklig feedback, men jag tror inte att det är ett heltidsarbete för många, säger han.
– Arbetet handlade mycket om att göra dem bättre på att resonera filosofiskt snarare än att göra dem mer etiska.
”Sätt för dem att säga vi bryr oss”
Även Karim Jebari, forskare vid Institutet för framtidsstudier, ser en viss ökning av antalet filosofer i AI-branschen, men uppfattar att arbetet handlar mycket om att bland annat skriva olika typer av värdegrundsplaner och diskutera AI-etik.
– Det här är ett sätt för dem att säga: vi bryr oss, vi tar etik på väldigt stort allvar, säger Jebari.
– Jag tror att det är en väsentlig roll för filosoferna är att tvätta ryktet på de här företagen som blir alltmer impopulära.
Så arbetar vi
SVT:s nyheter ska stå för saklighet och opartiskhet. Det vi publicerar ska vara sant och relevant. Vid akuta nyhetslägen kan det vara svårt att få alla fakta bekräftade, då ska vi berätta vad vi vet – och inte vet. Läs mer om hur vi arbetar.