KI-Sicherheit wird Machtkampf: Amodei bremst, Trump und Johnson kontern

Archiv

Auf den Punkt gebracht

  • Die Sicherheitsdebatte wird zum Machtkampf: Anthropic-CEO Amodei fordert ein langsameres Tempo, Altman, Musk und Hassabis stimmen teilweise zu — während Trump und Johnson eine Pause als riskant für die US-Position gegenüber China ablehnen.
  • Offene Gewichte holen auf: Occamy-1.0 und die Iris-Agenten verschieben die Kosten-Leistungs-Pareto-Grenze nach unten und machen selbst gehostete Agenten-Workflows ohne Frontier-Budget realistisch.
  • Agenten werden operativ messbar: GPT-6 Astra bewirtschaftet im Benchmark einen Verkaufsautomaten und programmiert autonome Drohnen — die Bewertungsfrage verschiebt sich von Chat-Qualität zu ökonomischer und physischer Handlungsfähigkeit.
  • Policy rückt in den Wahlkampf: Obama verlangt von den Demokraten einen klaren KI-Plan, während eine zweijährige Uni-Studie zeigt, dass Verbote schlechter wirken als begleitete Nutzung.

⚖️ Politik & Regulierung

Trump and Mike Johnson think the AI industry is overreacting
13. September 2026

Nach dem offenen Brief von Anthropic-CEO Dario Amodei für ein langsameres Entwicklungstempo widersprechen Donald Trump und Mike Johnson offen: Eine Pause würde China im KI-Rennen nach vorn bringen. Die Debatte verschiebt KI-Sicherheit damit endgültig von der Laborebene auf die geopolitische Agenda — und macht freiwillige Selbstverpflichtungen der Anbieter politisch angreifbar.

Obama urges Democrats to have a 'clear plan' for AI safeguards
13. September 2026

Barack Obama hat die Demokraten aufgefordert, KI zu einer zentralen Agenda zu machen und einen klaren Rahmen für den Umgang mit wirtschaftlichen und sicherheitsrelevanten Folgen vorzulegen. Damit wird KI-Regulierung erstmals seit Jahren wieder als profilbildendes Wahlkampfthema positioniert, was den Zeitdruck für verbindliche Standards in den USA erhöht.

Zweijährige Uni-Studie zeigt: KI-Verbot schadet Studierenden mehr als es nützt
13. September 2026

Eine zweijährige Studie an der Vrije Universiteit Amsterdam verglich bei Jurastudierenden ein KI-Verbot, unkommentierte KI-Nutzung und gezieltes Training — mit einem Ergebnis, das die Ausgangsannahme des Forschers widerlegt. Für Hochschulen und Unternehmen heißt das: Verbote sind der schwächste Hebel, begleitete Nutzung mit klaren Regeln der stärkste.

💼 Unternehmen & Markt

KI-Entwicklung verlangsamen: OpenAI-Chef Sam Altman und Elon Musk pflichten Anthropic-CEO bei
13. September 2026

Sam Altman und Elon Musk haben sich teilweise den Forderungen von Dario Amodei angeschlossen, Labore unabhängig evaluieren zu lassen; Altman schloss zudem einen Börsengang von OpenAI in diesem Jahr aus Sicherheitsgründen aus. Die seltene Allianz der größten Wettbewerber erhöht den Druck auf Regulierer, verbindliche Prüfstandards statt freiwilliger Selbstauskunft zu definieren.

What's behind the AI industry's latest warnings of doom?
13. September 2026

Der Equity-Podcast von TechCrunch ordnet die jüngste Runde apokalyptischer Warnungen ein, ausgelöst durch den Rücktritt eines Anthropic-Forschers und die Aussage des Alignment-Leads, das Risiko eines katastrophalen Ausgangs liege bei über zehn Prozent. Wer die Argumente kennt, kann die institutionellen Reaktionen — von Aufsichtsgremien bis zu Investoren — deutlich präziser einordnen.

🔬 Modelle & Forschung

Occamy-1.0: Open Pareto-frontier 35B Intelligence for Co-work
13. September 2026

Occamy-1.0 ist ein offen verfügbares 35B-Agentenmodell auf Qwen3.6-Basis, das mit ausführungsbasierten Daten, Langhorizont-Trajektorien und mehrstufigem Post-Training auf Co-Work-Aufgaben spezialisiert wurde. Es markiert den kostengünstigen Knick der Kosten-Leistungs-Pareto-Grenze und macht selbst gehostete Agenten-Workflows für Teams ohne Frontier-Budget realistisch, ohne Tool-Calling oder Coding zu verlieren.

GPT-6 Astra taugt als Überwachungsdrohnen-Pilot und als autonomer Händler
13. September 2026

In zwei Agenten-Benchmarks von Andon Labs erzielt GPT-6 Astra deutlich bessere Ergebnisse als Claude Fable 5.1: Als simulierter Automatenbetreiber erwirtschaftet es im Schnitt 15.515 Dollar und als erstes Modell übertrifft es in allen fünf Teilaufgaben zur Programmierung einer autonomen Drohne die Referenzwerte. Damit verschiebt sich die Bewertungsfrage von Chat-Qualität hin zu messbarer ökonomischer und physischer Handlungsfähigkeit von Agenten.

Iris-mini und Iris-pro: Stärkste offene Suchagenten ihrer Klasse stehen jetzt als Open-Weight-Modelle bereit
13. September 2026

Das AllSpark-Team veröffentlicht mit Iris-mini und Iris-pro zwei Open-Weight-Suchagenten samt Trainingsrezeptur, die laut Bericht auch Aufgaben verbessern, für die sie nie trainiert wurden, etwa allgemeine Werkzeugnutzung und Büroarbeit. Für Unternehmen senkt das die Einstiegshürde, eigene Recherche-Agenten auf offener Basis zu betreiben, und liefert gleichzeitig eine nachvollziehbare Blaupause für das Training solcher Systeme.

🛠️ Tools & Produkte

Elevenlabs stellt neues KI-Musikmodell Music 2.5 vor, das natürlicher klingen soll
13. September 2026

ElevenLabs hat Music v2.5 für ElevenMusic veröffentlicht, das in einem Blindtest über 47.885 Vergleichspaare den Vorgänger vor allem bei R&B, Soul, Hip-Hop, Rock und Orchestermusik schlägt. Nutzer behalten die Rechte an ihren Stücken, womit generierte Musik sich als kommerziell verwertbares Produktionsmittel positioniert statt als Experiment — bei fünf verlustfreien Downloads pro Tag im kostenlosen Tarif.