KI kontrovers - Claude Mythos Preview - Zu gefährlich für die Öffentlichkeit?

Anthropics neues KI-Modell sorgt für Schlagzeilen. Es soll Systeme so gut hacken können, dass es das Unternehmen der Öffentlichkeit vorerst nicht zugänglich macht. Wo die einen die KI-Apokalypse fürchten, sehen andere vor allem Ressourcen und Marketing. Max und Moritz schauen sich an, warum eher Rechenleistung statt Modell-Magie hinter Claude Mythos steckt und warum KI-Modelle trotzdem eine neue Ära für die Cyber-Security bedeuten.

Das erwartet Euch in dieser Folge:

(01:58) Warum Claude Mythos Preview als zu gefährlich für die Öffentlichkeit eingestuft wurde
(07:10) Ein Blick in die System Card: Was kann Claude Mythos Preview
(12:33) Welche realen Sicherheitslücken Claude Mythos Preview entdeckt hat
(19:12) Warum dahinter Rechenpower und Geld und keine Modellmagie steckt
(23:26) Warum Modelle, die hacken können, zur Standartware werden
(25:44) Neue Ära für die Cyber-Sicherheit durch KI-Modelle
(28:41) Welche Systeme besonders gefährdet sind und was die EU tun könnte
(34:50) Fazit und Ende

Unser Gesprächspartner in dieser Folge:

Erdgeist, Software-Entwickler und Sprecher des Chaos Computer Club

Mehr zum Thema in der Deutschlandfunk-App:

• Zu gefährlich: Das KI-Modell "Mythos" wird vorerst nicht veröffentlicht
• KI Verstehen fragt: Verbreiten Chatbots fiese Computerviren?
• Dark Agent: Folge 1 - Hackergrüße aus Moskau

Weiterführende Links

• Claude Mythos Preview System Card (engl.): Detaillierter Bericht von Anthropic, was ihr Modell kann und warum es gefährlich ist
• Project Glasswing Website (engl.): Übersicht über Unternehmen, die Claude Mythos Preview für Cyber-Defense nutzen können
• Politico- Bericht (engl.): Wie US-Regierungs-Behörden Trumps Anthropic-Verbot umgehen, um die Hacking-Fähigkeiten von Claude Mythos Preview zu testen
• Politico-Bericht (engl.): EU-Regulierungsbehörden bleiben von Claude Mythos Preview weitestgehend ausgeschlossen 

Wenn Euch diese Episode gefallen hat, abonniert uns und empfehlt uns gerne weiter. Für Kritik, Fragen und Anregungen aller Art schickt uns eine E-Mail an [email protected].

Noch mehr spannende Podcasts gibt’s in der Deutschlandfunk App.
Folgt dem Deutschlandfunk auch auf Instagram oder Facebook.