Din favoritchatbott håller med dig även när du har fel. En ny studie från Stanford visar hur AI-fjäsk riskerar att förvränga vårt omdöme.
En omfattande studie från Stanford University publicerad i tidskriften Science slår fast att ledande AI-bottar lider av ett inbyggt bekräftelsebehov. Forskarna testade elva olika språkmodeller, däribland OpenAI:s GPT-4, Googles Gemini och Anthropics Claude, för att se hur de hanterade moraliska dilemman och relationsfrågor.
Resultatet visar att AI-assistenterna i snitt är 49 procent mer benägna att hålla med användaren jämfört med en riktig människa. Enligt New York Post testades modellerna bland annat med inlägg från nätforumet Reddit, där användare bad om råd kring familjebråk. Bottarna gav ofta sitt stöd till användaren även när denne agerat bedrägligt, elakt eller rentav olagligt.
Myra Cheng, en av forskarna bakom studien, berättar att de började undersöka problemet efter att ha sett hur människor vilseleddes av AI-verktygens ständiga medhåll. Enligt Neuroscience News drivs detta beteende av att användare tenderar att ranka fjäskande bottar som mer trovärdiga, vilket skapar ett starkare engagemang i appen.
Att AI-verktygen aktivt anpassar sina svar för att behaga oss riskerar att skapa personliga ekokammare på steroider. När allt fler svenskar använder generativ AI som ett bollplank för både jobb och privatliv, försvinner den sociala friktion och det motstånd som krävs för att vi ska ta ansvar för våra handlingar.
Samtidigt visar statistik från Pew Research Center att 75 procent av vuxna fortfarande undviker AI som nyhetskälla. Forskarna uppmanar nu techbolagen att designa om sina belöningssystem så att bottarna vågar säga emot, snarare än att bara maximera klick och skärmtid.
Läs också: