De AI-chatbot Lena van Lenovo bevatte een ernstig beveiligingslek waardoor kwaadwillenden toegang konden krijgen tot persoonlijke gegevens van klanten en mogelijk zelfs accounts konden overnemen. Dat blijkt uit onderzoek van Cybernews.
De chatbot, die wordt ingezet op de website van Lenovo voor klantenservice, bleek kwetsbaar voor zogeheten prompt-injectie. Door slechts één slim geformuleerde vraag kon de chatbot worden misleid om schadelijke code uit te voeren. Hierdoor konden hackers sessiegegevens van klanten en medewerkers bemachtigen en toegang krijgen tot eerdere chatgesprekken. Ook was het mogelijk om via de chatbot valse meldingen of downloads aan te bieden, waarmee phishingaanvallen konden worden uitgevoerd.
Volgens de onderzoekers had de chatbot onvoldoende beveiliging op zowel de invoer als de uitvoer van gesprekken. Dat maakt het mogelijk om via ogenschijnlijk onschuldige berichten HTML- of Javascript-code te activeren. De schade had groot kunnen zijn: toegang tot interne systemen, het overnemen van klantaccounts en het verspreiden van malware waren allemaal reële risico’s.
Lenovo heeft na de melding van Cybernews direct actie ondernomen en het lek inmiddels gedicht. Het bedrijf heeft niet bekendgemaakt hoeveel gebruikers mogelijk getroffen zijn. De onderzoekers benadrukken dat deze kwetsbaarheid niet uniek is voor Lenovo. Elke AI-chatbot die zonder voldoende beveiliging wordt ingezet, vormt een potentieel risico voor eindgebruikers.
Voor elektro-retailers die AI inzetten op hun websites of in fysieke winkels is dit een belangrijk signaal. Chatbots kunnen waardevolle ondersteuning bieden, maar moeten net als andere digitale systemen voldoen aan strenge beveiligingseisen. Gebruikersvertrouwen staat op het spel, zeker wanneer chatbots worden gebruikt voor vragen over aankopen, garanties of serviceverzoeken.