Cybernormer #41: Vil AI virkelig udrydde os?

"AI-agent angreb kunde hos virksomhed, inden den hackede sig videre" "»Vanvittigt«: Nu sætter ai-chef tal på risikoen for, at ai udrydder menneskeheden inden for få år" – sådan nogle af den seneste måneds nyhedsoverskrifter fra DR, Berlingske og Politiken. Og det er lige præcis denne slags overskrifter, der får Cybernauternes indbakke til at flyde over med bekymrede følgere, som synes, det er svært at finde ud af hvad, der er op og ned. Og vi forstår det godt, for det er da uhyggeligt, hele tiden at høre om at alle de tech-CEO's, som udvikler denne her teknologi, bliver ved med at fortælle at de at bange for den og den er en trussel for menneskeheden.

Denne slags nyheder har datalogiprofessor Cal Newport kaldt "doom trolling". I denne episode af Cybernormer er Cybernauterne Maia Kahlke Lorentzen, Anne Katrine Raahede og algoritmisk kunstner Ada Ada Ada i studiet, for sammen at komme dommedagsprofetierne til livs ved at tage udgangspunkt i specifikke historier og forklare, hvad der egentligt skete, og hvordan det blev twistet til de nyhedshistorier, vi får ind i vores hverdagsfeeds. Vi dykker vi ned i den AI dommedagskult der faktisk findes i silicon valley, og diskuterer de mange og reelle risici ved AI.

Vi håber at denne episode vil tydeliggøre hvordan 1 fjer bliver til fem robothøns, så det kan blive lidt lettere at spotte doom trollling og navigere i nyhedsstrømmen. God lytning, og husk at dele den med din bekymrede kollega eller familiemedlem.

Vært: Anne Katrine Raahede
Gæster: Maia Kahlke Lorentzen
Ada Ada Ada, Ig: @ada_ada_ada_art og Patreon

Kilder og mere om emnet

• DR: AI-forsker kvitter jobbet i frygt for teknologien – men skal vi være nervøse?
• Cal Newports blog: Dear AI Companies: Stop the “Doom Trolling”
• Cal Newport på youtube: AI Isn’t “Out of Control” — The AI Companies Are
• Cal Newport på youtube: The Truth about OpenAI’s “Secret AI Civilizations”
• Better Offline: The AI Industry Must Stop Doom Trolling w/ Cal Newport
• Better Offline: No, AI Is Not "Autonomously Hacking" with Cal Newport
• Better Offline: Monologue: Jacob Coxon and the AI Safety Grift
• Marcus on AI substack: 5 lessons from the OpenAI / Hugging Face incident
• Better Offlines subreddit: /r/BetterOffline
• Shell game: When AI doomerism spirals into violence
• Wired: The Delirious, Violent, Impossible True Story of the Zizians
• Rolling Stone: The rise and fall of the Zizians
• Jacob Coxons omdiskuterede Twittertråd
• Pirate Wires: Jacob Coxon Worked With Doomer PR Firm
• Pivot to AI: How to run an AI doomsday media campaign
• Timnit Gebru: The real risks of AI are fires and floods
• +972 Magasine: ‘Lavender’: The AI machine directing Israel’s bombing spree in Gaza
• Eryk Salvaggio: Models don't go rogue
• Brian Merchant: The politics and possibilities of ‘AI could kill us all’
• FN: AI’s environmental costs threaten water, land and climate

Cybernauterne er uafhængige vidensformidlere, og vores podcasts bliver til med støtte fra vores støttemedlemmer på Cybernauternes Patreon. Hvis du vil have endnu flere afsnit og støtte vores arbejde, så bliv medlem og få adgang til vores månedlige læseanbefalinger og livestreams.