#38: Warum KI vielleicht doch länger braucht - Exponentiell vs. Normal

Willkommen zu Episode 38 von Co-Intelligence, eurem KI-Lern-Podcast mit Moritz Heininger und Benjamin Wüstenhagen.

In dieser Folge diskutieren wir zwei radikal unterschiedliche Visionen für die Zukunft der KI. Auf der einen Seite steht das vieldiskutierte "AI 2027"-Szenario des AI Futures Project (Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland und Romeo Dean), das eine explosive Transformation und Super-Intelligenz bis Ende des Jahrzehnts vorhersagt. Auf der anderen Seite stehen die "Normalos" (Princeton-Forscher Narayanan & Kapoor), die argumentieren, dass KI wie jede andere Technologie (z.B. Elektrizität oder Internet) ist: Die Verbreitung dauert aufgrund gesellschaftlicher Trägheit viel länger als gedacht.

Wir analysieren nicht nur die Unterschiede, sondern vor allem die überraschenden Gemeinsamkeiten beider Lager: Vom ungelösten "Alignment Problem" (Stichwort: Büroklammern) bis zur Gefahr einer geheimen Intelligenz-Explosion in einem abgeschotteten Labor.

Mehr von uns:

- Website (alle Folgen, Shownotes, Glossar): https://coipod.de

- Diese Folge auf COIPOD: https://coipod.de/folgen/38-warum-ki-vielleicht-doch-langer-braucht-exponentiell-vs-normal

- YouTube: https://www.youtube.com/@Co-IntelligencePod

- Spotify: https://open.spotify.com/show/5ZPRrXTInXPiDnVqb1HziP

- Apple Podcasts: https://podcasts.apple.com/us/podcast/co-intelligence-der-ki-lernpodcast/id1804213774

- Newsletter: https://coipod.de/newsletter

- Instagram: https://www.instagram.com/cointelligencepod/

- TikTok: https://www.tiktok.com/@cointelligencepod

- LinkedIn: https://www.linkedin.com/company/co-intelligence-pod/

Quellen:

- AI 2027 (AI Futures Project): https://ai-2027.com/

- Leopold Aschenbrenner – Situational Awareness: The Decade Ahead: https://situational-awareness.ai/

Kapitel

00:00 Intro: Normalität vs. Transformation

00:18 Das "AI 2027"-Papier: Super-Intelligenz bis Ende der 20er?

01:34 Die Gegenposition: Die "Normalos" aus Princeton

03:51 Das Argument der Exponential-Kurve (Daten & Energie)

06:00 Warum es länger dauert: Gesellschaftliche Trägheit & "Data Readiness"

09:35 Konsens 1: Bis zur AGI ist KI eine "normale" Technologie

10:43 Konsens 2: "Strong AGI" wäre eine Zäsur der Evolution

11:56 Konsens 3: Warum heutige Benchmarks versagen

14:29 Konsens 4: Das "Alignment Problem" (Paperclip Maximizer)

16:17 Konsens 5: Keine autonomen Entscheidungen in kritischen Systemen

20:04 Die Gefahr der "geheimen Intelligenz-Explosion" (Life 3.0 Szenario)

22:45 Fazit: Mehr Miteinander statt Lagerbildung

24:00 Unsere Meinung: Verliert Europa den Anschluss?