Googles nya AI-sökning skulle ge snabba svar direkt i mobilen. I stället råder den folk att äta stenar och blanda lim i maten.
Googles nya funktion "AI Overviews" har skapat förvirring bland användare sedan den lanserades. Funktionen, som genererar korta sammanfattningar högst upp bland sökresultaten, har visat sig ha stora problem med att skilja på fakta och uppenbara skämt.
Enligt MIT Technology Review dröjde det bara några dagar efter den amerikanska lanseringen innan internet fylldes av bisarra skärmdumpar. AI-assistenten har bland annat föreslagit att man ska lägga giftfritt lim på pizzan för att få osten att fästa, äta minst en liten sten om dagen och hävdat att en tidigare amerikansk president tog universitetsexamen hundra år efter sin död.
Felen beror till stor del på att systemet skrapat information från satiriska inlägg och forum som Reddit. Mozilla Foundation konstaterar att AI-sökningarna snabbt blev så opålitliga att Google tvingades rulla tillbaka delar av funktionen manuellt för att rensa bort lögnerna.
Även om funktionen än så länge bara testas i länder som USA och Storbritannien, visar situationen på en radikal förändring av hur vi hittar information på nätet. När den dominanta sökmotorn går från att lista länkar till att presentera färdiga svar, riskerar vanliga användare att omedvetet ta till sig information från hallucinerande algoritmer.
Googles sökchef Liz Reid har meddelat att företaget nu jobbar på akuta tekniska förbättringar. Fokus ligger på att systemet ska bli bättre på att upptäcka orimliga frågor och helt sluta använda humoristiskt eller användargenererat innehåll som faktaunderlag.
Läs också: