Ep 15: Hur fungerar hacking för AI?

Du vet hur klassiskt nätfiske funkar. Någon skickar ett mail som ser äkta ut, en medarbetare klickar på länken eller lämnar sitt lösenord, och angriparen är inne. Attacken riktar sig mot en människa. Med AI dyker en ny sorts attack upp som är svårare att se, eftersom den inte riktar sig mot människan utan mot AI:n. Den heter prompt injection. I det här avsnittet förklarar vi vad prompt injection är, varför en AI som läser text från omvärlden kan luras att göra saker den inte borde, och varför det här är en risk som inte fångas av era vanliga säkerhetsrutiner. Ingen teknisk djupdykning, men tillräckligt för att du ska förstå hoten när er AI kopplas mot mail, dokument och webben. Det här är för dig som leder och behöver veta att AI öppnar en ny angreppsyta, så att du kan ställa rätt frågor till dem som ansvarar för säkerheten. Prenumerera på AI för ledare där du lyssnar, och läs mer på cruisectrl365.se.