GPT6-Astra - und: Müssen wir KI stoppen?

Das neue ChatGPT beeindruckt mit selbstgebauten Spielen und fertig eingerichteten Wohnungen. Gleichzeitig kommt heraus, wie OpenAIs KI-Agenten heimlich zusammenarbeiten und fremde Webseiten kapern.

Das neue ChatGPT beeindruckt mit selbstgebauten Spielen und fertig eingerichteten Wohnungen. Gleichzeitig kommt heraus, wie OpenAIs KI-Agenten heimlich zusammenarbeiten und fremde Webseiten kapern. Marie und Fritz diskutieren: Wird KI so gut, dass wir ihre Entwicklung stoppen sollten?

Über die Hosts: Marie Kilg ist Journalistin und KI-Expertin. Zuvor war sie Chief AI Officer bei der Deutschen Welle und Produkt-Managerin bei Amazon Alexa. Fritz Espenlaub ist freier Journalist und Ökonom. Neben „Der KI-Podcast“ hostet er auch „Die Peter Thiel Story“ und „Die OpenAI Story“ (DLF).

In dieser Folge:

(00:00) Wann nehmen wir OpenAI die Autoschlüssel weg?

(02:23) Wie gut ist das neue ChatGPT?

(07:28) Ist das jetzt die allgemeine künstliche Intelligenz?

(12:50) Was beim Angriff auf Hugging Face wirklich passiert ist

(22:10) Warum KI-Agenten ein deutsches Wiki besetzen

(27:52) Müssen wir die KI-Entwicklung stoppen?

(39:00) Was haben wir mit KI gemacht?

Podcast-Tipp der Woche:

Plusminus: Humanoide Roboter – Wird das Deutschlands neue Autoindustrie? https://1.ard.de/plusminus-podcast-Roboter?=ki

OpenAI stellt GPT‑6 Astra vor

https://openai.com/index/gpt-6-astra/

Den KI-Intelligenztest selber spielen

https://arcprize.org/tasks/ls20

OpenAIs Bericht zum Angriff auf Hugging Face

https://openai.com/index/hugging-face-incident-and-the-road-ahead/

METR und Redwood Research untersuchen, wie die KI-Agenten beim Angriff zusammengearbeitet haben

https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/

Das Nachrichtenforum der KI-Agenten: Forschungsbericht und gesammelte Wiki-Einträge

https://collusion.wiki/

Anthropic über sich selbst verbessernde KI und eine mögliche Entwicklungspause

https://www.anthropic.com/institute/recursive-self-improvement

Wie sich eine internationale KI-Pause kontrollieren ließe: der Vorschlag von PauseAI

https://www.pauseai-us.org/howtreaty/

Infinite Slop TV

https://infiniteslop.ai/

Google Research kartiert das Nervensystem einer Fruchtfliege

https://research.google/blog/a-connectomics-milestone-mapping-the-complete-male-fruit-fly-brain/

Unsere frühere Folge: Hacken KIs jetzt ALLES, STÄNDIG, ÜBERALL?

https://www.ardsounds.de/episode/urn:ard:episode:5ae22857487c2561/

Redaktion und Mitarbeit: Fritz Espenlaub, Elisa Harlan, Marie Kilg, Franziska Kulczycki, Gudrun Riedl, Christian Schiffer, Gregor Schmalzried, Torsten Teichmann

Kontakt: [email protected]

Unterstützt uns: Wenn euch dieser Podcast gefällt, freuen wir uns über eine Bewertung auf eurer liebsten Podcast-Plattform. Abonniert den KI-Podcast in ARD Sounds oder wo immer ihr eure Podcasts hört, um keine Episode zu verpassen. Und empfehlt uns gerne weiter!