Att använda värsting-AI för enkla uppgifter bränner hål i plånboken. Nu släpps ett verktyg som automatiskt väljer den billigaste AI:n.
AI-tjänster som Chatgpt och Claude har på kort tid blivit en självklarhet för dagens systemutvecklare. Men bekvämligheten har ett högt pris. Många företag använder rutinmässigt de absolut dyraste och mest avancerade AI-modellerna för simpla uppgifter som att formatera text eller sortera mejl.
Enligt branschsiffror är upp till 70 procent av alla AI-anrop i vanliga appar helt överflödiga eller dåligt optimerade. Ett amerikanskt utvecklarteam vittnar om hur ren "utvecklarlathet" ledde till onödiga kostnader på över 80 000 kronor i månaden. Efter en granskning insåg de att endast en tredjedel av deras uppgifter faktiskt krävde artificiell intelligens.
– Att använda en toppmodell för allt är som att ta en Ferrari för att åka och handla mat. Det fungerar perfekt, men du bränner pengar helt i onödan, förklarar en utvecklare.
För många hobbykodare och tech-startups har kostnaden blivit ett påtagligt hinder. Varje ny AI-idé måste ofta budgeteras innan den ens kan testas, vilket kväver innovationen.
För att lösa problemet har nu ett nytt gratisverktyg lanserats under öppen källkod. Verktyget, som kallas Manifest, fungerar som en smart mellanhand mellan användarens program och över 300 olika AI-modeller.
På under två millisekunder analyserar Manifest hur svår en inkommande uppgift är. Enkla frågor skickas blixtsnabbt till billiga basmodeller, medan de svåra och komplexa problemen slussas vidare till de dyrare tungviktarna.
Resultatet är att systemet automatiskt väljer det mest kostnadseffektiva alternativet varje gång. För företag innebär detta att man kan kapa sina AI-kostnader med upp till 90 procent – helt utan att användarupplevelsen eller kvaliteten försämras.
Läs också: