Metas nya AI-assistent Muse Spark ber dig ladda upp dina provsvar och hälsodata. Men informationen kan sparas för att sälja annonser.
Meta har lanserat sin nya AI-modell Muse Spark, som just nu rullas ut i bolagets egna app och snart dyker upp i Facebook, Instagram och WhatsApp. Modellen marknadsförs bland annat som ett verktyg för att svara på hälsofrågor.
När AI-assistenten testades bad den direkt om att få analysera rådata från träningsklockor, blodsockermätare och medicinska provsvar för att hitta mönster. Meta uppger i ett inlägg att de samarbetat med över tusen läkare för att trimma modellens medicinska förmågor.
Att dela sina personliga värden med en chattbot innebär dock stora risker. Monica Agrawal, forskare vid Duke University och medgrundare av AI-plattformen Layer Health, poängterar att informationen du matar in saknar det sekretesskydd som annars gäller under ett vanligt läkarbesök.
Enligt Metas egen integritetspolicy kan allt som skrivs i chatten sparas för att träna framtida AI-modeller. Uppgifterna kan dessutom användas för att skräddarsy reklam åt användaren.
Konkurrenterna agerar på liknande sätt. Både Openai och Anthropic har chattfunktioner designade för hälsoråd, där Anthropics AI Claude till och med kan kopplas direkt till en telefons inbyggda hälsoapp.
Inom EU sätter dock den strikta dataskyddsförordningen GDPR och den nyligen klubbade AI-lagen tydliga gränser för hur techjättarna får dammsuga upp känslig hälsoinformation. Det gör att den europeiska utrullningen av de mest avancerade hälsofunktionerna riskerar att försenas eller begränsas kraftigt.
Muse Spark integreras successivt i Metas plattformar under de kommande veckorna. Samtidigt granskar flera europeiska dataskyddsmyndigheter redan techbolagens insamling av AI-träningsdata.
Läs också: