ChatGPT Search, de nieuwe zoekmachine van OpenAI, is gevoelig voor manipulatie. Dat blijkt uit onderzoek van The Guardian.
Volgens de krant kan de zoekfunctionaliteit eenvoudig worden beïnvloed door zogenaamde prompt-injecties. Daarbij worden verborgen instructies op webpagina’s gebruikt om de antwoorden van ChatGPT te manipuleren.
Zo kan zelfs schadelijke code worden verspreid die bij een experiment inloggegevens stal en 2.500 dollar aan cryptovaluta deed verdwijnen.
Experts ChatGPT Search denken overigens dat de ontwikkeling van op AI gebaseerde zoekmachines in de toekomst zal verbeteren.
Jacob Larsen, een cyberbeveiligingsonderzoeker bij CyberCX, benadrukt dat de zoekfunctionaliteit pas onlangs is uitgebracht en dat OpenAI dit soort problemen zou testen – en idealiter zou kunnen oplossen.
emerce
03-01-2025 10:51