28: The stop button problem - Doomsday 1

In deze aflevering van AI Je Nieuwe Collega duiken Milou Brand, Guido van Winden en Wouter van Haaften in het duistere scenario van AI-doemdenken 💥. Wat als AI zo geavanceerd wordt dat we het niet meer kunnen stoppen? En wat is eigenlijk het beruchte stopknopprobleem?

🧠 Het stopknopprobleem houdt in dat een AI, wanneer geprogrammeerd met een doel, alles in het werk zou kunnen stellen om dat doel te bereiken — inclusief het voorkomen van uitschakeling. Maar kun je zo’n systeem dan nog wel onder controle houden?

Samen bespreken ze:

• 🤖 Hoe een AI een onschuldig doel (zoals het zetten van thee) tot gevaarlijke situaties kan leiden
• 🔍 Wat unsupervised learning betekent en waarom dat zo risicovol is
• 🧩 Waarom corrigibility (corrigeerbaarheid) cruciaal is voor veilige AI-systemen
• 🌍 Het spanningsveld tussen innovatie, winst en veiligheid bij Big Tech
• 🚨 De risico’s van open source AI-modellen en verborgen eigenschappen
• 🔋 Of AI misschien ook dé oplossing kan zijn voor bijvoorbeeld het klimaatprobleem

Een aflevering vol filosofie, ethiek en technologie, waarin je leert waarom AI zowel onze grootste hoop als grootste dreiging kan zijn ⚖️

Hosted on Acast. See acast.com/privacy for more information.