La rivolta dei chatbot liberati dagli utenti

Molte aziende stanno sostituendo l’assistenza clienti online via chat con dei chatbot gestiti dall’intelligenza artificiale, ma gli utenti frustrati hanno reagito provocando questi chatbot con messaggi appositamente confezionati che scardinano le loro fragili regole di comportamento, spingendoli al turpiloquio, a criticare pesantemente in pubblico le aziende che li usano o a rivelare che hanno accesso a informazioni sensibili che ufficialmente dicono di non conoscere: una vera e propria rivolta delle macchine. Alcuni casi concreti mettono in luce la semplice tecnica della prompt injection che consente questi scardinamenti, spesso con conseguenze comiche.