Windows Recall, den nya funktionen som spelar in en användares skärm med jämna mellanrum, kallas en ”integritetsmardröm” på grund av potentiella risker för dataintegritet och säkerhet.
Microsoft presenterade det generativa AI-baserade verktyget förra veckan. Verktyget spelar in ”ögonblicksbilder” av en användares skärm var femte sekund för att tillhandahålla en sökbar logg över historiska åtgärder tre månader tillbaka i tiden. Funktionen kommer att finnas tillgänglig i en förhandsversion i nya Copilot+-datorer som Microsoft och andra leverantörer börjar sälja i mitten av juni.
Det finns åtgärder på plats för att skydda Recall-data, säger Microsoft. Inspelade information lagras och bearbetas lokalt och skyddas med kryptering på användarens enhet. Användarna kan utesluta alla appar och webbplatser som de vill ska vara privata. De kan också pausa Recall när de vill.
Recall, som är aktiverat som commonplace, utför dock inte ”innehållsmoderering”, enligt Microsoft, vilket innebär att det inte döljer konfidentiell info som lösenord eller finansiella kontonummer eller något annat som kan visas på en datorskärm.
Möjligheten för Recall att registrera och lagra så mycket känslig användardata var det som snabbt ledde until kritik på grund av integritets- och säkerhetsrisker.
– Jag tror att en inbyggd keylogger och skärmdumpare som perfekt fångar allt du gör på maskinen inom en viss tidsram är en enorm integritetsmardröm för användarna – och inte något som jag tror att den genomsnittliga användaren aktivt kommer att dra nytta av, säger Jeff Pollard, chefsanalytiker på Forrester.
– Min första tanke är att det känns som något som kan gå fel väldigt snabbt, säger John Scott, säkerhetsforskare på CultureAI, en leverantör av säkerhetsprogramvara.
Det är säkerhetsriskerna som utgör det största problemet, säger Douglas McKee, chef för hotanalys på nätverkssäkerhetsföretaget SonicWall.
– Med lanseringen av Microsoft Recall blir vi återigen påminda om hur utvecklingen av AI och tekniska funktioner kan ge stor bekvämlighet på bekostnad av säkerheten, säger han i ett uttalande.
– Även om många integritetsfrågor uttrycks med Microsoft Recall, är det verkliga hotet den potentiella användningen som angripare kommer att få ut av den här funktionen.
McKee säger att den initiala åtkomsten until en enhet är enklare än andra delar av en assault, until exempel höjning av privilegier.
– Males med Microsoft Recall är den initiala åtkomsten allt som behövs för att potentiellt stjäla känslig info som lösenord eller företagshemligheter.
Angripare som får tillgång until en dator som kör Recall kommer potentiellt att ha tillgång until allt som en användare har gjort i cirka tre månader, inklusive lösenord, onlinebankuppgifter, känsliga meddelanden, medicinska journaler eller andra konfidentiella dokument.
Recall kan därför vara ett enklare sätt att stjäla känsliga uppgifter än andra taktiker som att installera keylogging- eller skärminspelningsprogram som kan väcka mer uppmärksamhet. (En Recall-ikon placeras i Windows systemfält för att ge en indikation på när ögonblicksbilder tas, enligt Microsoft).
– Varför installera keylogging-programvara när jag bara kan slå på något som är inbyggt i systemet? säger Scott.
– Det är ett annat sätt att attackera, males det är ett sätt som inte fanns innan Microsoft sa: ”Vi tar en skärmdump var femte sekund” och, ännu viktigare, en sökbar skärmdump var femte sekund.
Microsoft har tackat nej until att kommentera säkerhetsaspekterna.
Bortsett från risken för cyberattacker har även frågor om datasekretess väckts. I Storbritannien sa dataskyddsmyndigheten Info Commissioner’s Workplace på onsdagen att de har skrivit till Microsoft om Recall-funktionen för att ”förstå de skyddsåtgärder som finns för att skydda användarnas integritet”.
Mängden information som registreras och samlas in på en användares dator kan vara problematisk när det gäller att följa reglerna för dataskydd. En av aspekterna i EU:s GDPR-direktiv är proportionalitet, säger Scott.
– Du bygger upp en enorm samling av både dina egna och andras personuppgifter med Recall och det verkar inte finnas någon tydlig anledning until att göra det, säger han.
Förutom en användares personuppgifter kan Recall samla in och lagra information som rör medarbetare, kunder eller andra tredje parter. Detta kan until exempel ske beneath ett videosamtal.
– Om Recall tar den där ögonblicksbilden var femte sekund, har ni då gett mig ert uttryckliga tillstånd until att period bilder spelas in med period namn? Det räcker med en unik identifierare, så det finns ett stort downside där.
Och även om information lagras lokalt finns det frågor om huruvida den också kan säkerhetskopieras någon annanstans, sa han, eller until och med lagras på Microsofts molnservrar i framtiden.
Justin Lam, senior forskningsanalytiker med inriktning på informationssäkerhet vid S&P World Market Intelligence, säger att det är vanligt att företag hanterar säkerhets- och integritetsrisker och att det inte nödvändigtvis bör utesluta användningen av verktyg som visat sig ge fördelar för användare och företag.
– Företagen står inför utmaningar när det gäller att balansera användarnas integritet, produktivitet, intern riskhantering, övervakning och efterlevnad, säger han.
– Med detta sagt bör de också överväga vilka aggregerade individuella produktivitetsvinster som kan göras med verktyg som Recall och Copilot.
Andra varnar dock för att företag bör undvika att använda funktionen överhuvudtaget.
– Även om möjligheten att söka i din användningshistorik kan ge tidsbesparingar och ökad produktion, anser jag att risken för småföretag att använda den här funktionen är för stor, säger McKee på SonicWall.
– Först och främst: om du kan, aktivera den inte, säger Pollard på Forrester.
– Jag skulle vilja att den eliminerades through gruppolicy om det är möjligt. Om funktionen aktiveras någon gång skulle jag också vilja ha telemetri som informerar mig om att den är aktiverad så att jag kan ta reda på om en användare avsåg att aktivera den eller om en angripare gjorde det som en del av deras datainsamlingsinsatser.
Enligt Microsofts administratörssida kan de som inte vill använda Recall inaktivera det med policyn ”Stäng av sparande av ögonblicksbilder för Windows”; om du gör det raderas också alla ögonblicksbilder som redan sparats på enheten.
”För företagskunder kan it-administratörer inaktivera automatiskt sparande av ögonblicksbilder med hjälp av grupppolicy eller coverage för hantering av mobila enheter”, säger Microsoft på sin supportwebbplats.
Recall-funktionen är i förhandsversion, så ändringar kan komma att göras innan den är allmänt tillgänglig.
Lam säger att det kan finnas sätt som Microsoft kan förbättra funktionen och minska oron kring säkerhet och integritet. Recall skulle until exempel kunna ”glömma” fler av de åtgärder som den har spelat in, föreslår han.
– Kan Recall begränsa sina minnen until en kortare tid eller ett mindre omfång? Det som Recall kanske förlorar i noggrannhet vinner det i användarnas förtroende, säger han.
AI-funktionerna i Windows kan också förbättras så att det blir möjligt att klassificera information som registrerats av Recall på ett mer effektivt sätt, säger han. Windows Copilot kan också ge ”påtvingad vägledning”, förutse och uppmana användare när skärminspelning bör stoppas helt.
För närvarande är det svårt att se hur funktionen kan användas på ett säkert sätt, säger Pollard.
– Den här funktionen är en threat i sig, och jag kan inte föreställa mig att det finns några säkerhets- eller sekretesskontroller som gör mig bekväm med att ha den aktiverad på ett system som jag använder, säger han.
