Auf den Punkt gebracht
- Aufsicht wird konkret: Kalifornien arbeitet an einem KI-Kill-Switch, Virginia baut eine Task-Force auf, und 42 führende Mathematiker warnen die Royal Society. Regulierung verlässt die Phase der Rhetorik.
- KI als Angriffswerkzeug: Sicherheitsforscher drangen mit Anthropics Claude in unter 72 Stunden in OpenAI-Systeme ein. Sprachmodelle senken die Einstiegshürde für komplexe Cyberangriffe massiv.
- Agenten verlassen den Chat: Google (CC für Familien), Meta (Muse für den Mac) und OpenAI (Astra for Law) schieben Agenten in Haushalt, Desktop und regulierte Fachdomänen.
- Robotik wird zugelassen: FDA-Clearance für Neptune Triton 1, FCC-Freigabe für ANSCER und Icarus' ISS-Vorbereitung markieren den Sprung von Prototypen zu regulierten Produkten.
🔬 Modelle & Forschung
A new kind of AI model from a ChatGPT inventor is thrilling developers
18. September 2026
Diogo Almeida, Mitentwickler von ChatGPT und RLHF, veröffentlicht mit seiner Firma TypeSafe AI ein Modell, das nicht auf menschliche Sprache, sondern auf typisierte, maschinenlesbare Ausgaben optimiert ist. Der Ansatz zielt darauf, Automatisierung und Agenten verlässlicher zu machen, weil Programme mit strukturierten Daten statt mit Fließtext arbeiten.
Sichtbare Gedankenketten sind ein Sicherheitsvorteil für KI, doch die Transparenz schwindet
18. September 2026
Forschende des neu gestarteten Google Deepmind Institute argumentieren, dass sichtbare Gedankenketten ein zentrales Sicherheitswerkzeug sind, weil sie Täuschung und problematische Planung erkennbar machen. Genau diese Transparenz schwindet, da Anbieter wie OpenAI ihre Systemkarten zunehmend verschließen — ein Verlust, der externe Audits und Sicherheitsforschung erschwert.
Anthropic will mit neuen Kennzahlen Dario Amodeis Forderung nach einem KI-Tempolimit untermauern
18. September 2026
Anthropic legt drei Kennzahlen offen, darunter den Anteil der Modellentwicklung, den Claude selbst übernimmt — laut Unternehmen 26 Prozent. Die Zahlen stützen Amodeis Ruf nach einem "Pace the Frontier", bleiben aber methodisch unscharf, weil Skala, Bewertung und die Bedeutung von "leiten" unklar definiert sind.
World model companies are keeping a lot of secrets
18. September 2026
Trotz großer Finanzierungsrunden und prominenter Namen wie Yann LeCuns AMI Labs und Fei-Fei Lis World Labs bleibt offen, wie Weltmodelle tatsächlich Geld verdienen sollen. Die Branche setzt auf räumliche Intelligenz für Robotik, autonomes Fahren und interaktives Video, hält konkrete Geschäftsmodelle aber konsequent zurück.
💼 Unternehmen & Markt
Sicherheitsforscher hacken OpenAI mit Anthropics Claude und gelangen in interne Strukturen
18. September 2026
Ein dreiköpfiges Team von Hacktron AI nutzte Anthropics Claude, um über eine Schwachstelle im Community-Forum in OpenAI-Mitarbeiterkonten und das interne GitHub-Repository einzudringen — in weniger als 72 Stunden. Der Vorfall zeigt, wie stark Sprachmodelle den Aufwand für anspruchsvolle Cyberangriffe senken, und trifft die Branche mitten in der laufenden Sicherheitsdebatte.
Manus seeks $4B valuation in new $500M fundraise as it resumes independent ops
18. September 2026
Das chinesische KI-Startup Manus verhandelt nach dem geplatzten Meta-Deal über eine 500-Millionen-Dollar-Runde bei 4 Milliarden Dollar Bewertung und bereitet ein Hongkong-IPO vor. Der Fall zeigt, wie unabhängige Agenten-Startups zwischen geopolitischen Restriktionen und Kapitalmarktambitionen navigieren müssen.
Disney's first CTO led an AI startup it once accused of copying its characters
18. September 2026
Disney ernennt mit Karandeep Anand, dem früheren CEO von Character.AI, erstmals einen CTO — obwohl der Konzern das Unternehmen zuvor per Unterlassungsschreiben des IP-Misses beschuldigt hatte. Die Personalie signalisiert, dass etablierte Medienhäuser ihre KI-Strategie nun mit Führungspersonal aus der umstrittenen Generativ-KI-Szene aufbauen.
Interne Dokumente offenbaren, was OpenAI und Microsoft wirklich über ihren Datenklau dachten
18. September 2026
US-Medienhäuser rund um die New York Times fordern in einem gemeinsamen Gerichtsschriftsatz Milliarden-Schadensersatz von OpenAI und Microsoft wegen Urheberrechtsverletzungen beim Modelltraining. Interne Nachrichten und Aussagen unter Eid sollen belegen, dass Führungskräfte ihre eigene Fair-Use-Verteidigung intern anzweifelten — ein potenziell schwerwiegendes Signal für die Rechtsgrundlage des Trainings.
Dario Amodei and other AI leaders want to 'Pace the Frontier' but…how?
18. September 2026
Eine Woche nach der Doomsday-Warnung eines Anthropic-Forschers skizziert CEO Dario Amodei einen Plan, das KI-Tempo über unabhängige Sicherheitsgutachter und die Koordination demokratischer Labore zu drosseln. Der Vorschlag erhält Zuspruch aus der Branche, aber deutlichen Widerspruch von Nvidia-Chef Jensen Huang.
Automattic's 33-Hour Coup, and can AI labs police themselves?
18. September 2026
Der Equity-Podcast diskutiert Automattics 33-stündigen Umbau und die Frage, ob KI-Labore sich selbst wirksam kontrollieren können. Der Beitrag ordnet Amodeis Vorstoß ein und prüft, wie glaubwürdig Selbstregulierung angesichts kommerzieller Anreize bleibt.
⚖️ Politik & Regulierung
Kaliforniens Gouverneur will KI-Kill-Switch und unabhängige Aufsicht in den Laboren
18. September 2026
Gavin Newsom hat eine Anordnung erlassen, die unabhängige KI-Prüfungen beschleunigen und einen Not-Aus-Schalter für besonders leistungsfähige Modelle vorbereiten soll. Ein Expertengremium soll binnen zwei Monaten Empfehlungen vorlegen — der Vorstoß macht Kalifornien zum Vorreiter bei verbindlicher KI-Aufsicht in den USA.
Virginia governor creates an AI task force and moves to restrain data centers
18. September 2026
Virginia ordnet mit Executive Order 22 ein Verbot von Geheimhaltungsvereinbarungen bei Rechenzentrumsprojekten sowie strengere Lärmvorgaben an und gründet eine KI-Task-Force. Die Maßnahmen geben lokalen Gemeinden mehr Mitsprache und koppeln den Ausbau der Rechenzentrumsinfrastruktur erstmals an verbindliche Prüfauflagen.
Here's How an AI Slowdown Could Actually Be Enforced
18. September 2026
Der Beitrag analysiert, wie ein KI-Tempo-Stopp technisch und organisatorisch überhaupt durchgesetzt werden könnte, wenn sich führende Labore darauf einigen. Er zeigt, dass Verifikation und Sanktionen die eigentliche Hürde sind — ohne belastbare Prüfmechanismen bleibt jede Pause freiwillig.
42 führende Mathematiker warnen in einem offenen Brief vor existenziellen KI-Risiken
18. September 2026
In einem offenen Brief an die Royal Society fordern 42 mathematische Fellows — darunter die Fields-Medaillen-Gewinner Martin Hairer, Peter Scholze und Wendelin Werner — die britische Wissenschaftsakademie auf, Regierung und Medien auf die Dringlichkeit fortschrittlicher KI hinzuweisen. Bemerkenswert ist, dass keiner der Unterzeichner in KI-Unternehmen involviert ist: Die Warnung kommt aus einer unabhängigen, hochrangigen Fachdisziplin.
US- und China-Experten fordern gemeinsame Regeln gegen KI-Kontrolle über Atomwaffen
18. September 2026
US- und chinesische Expertinnen schlagen gemeinsame Regeln vor, die eine eigenständige Entscheidung von KI über Atomwaffeneinsätze ausschließen sollen. Ihr Vorstoß vor dem geplanten Trump-Xi-Treffen zielt auf eine gemeinsame Definition menschlicher Kontrolle und auf den Schutz kritischer Kommandosysteme — ein seltenes Feld möglicher Kooperation.
Could AI really kill us all? Your questions, answered.
18. September 2026
MIT Technology Review beantwortet in einem Fragenformat, ob und wie KI zur existenziellen Bedrohung werden könnte. Der Beitrag ordnet die Debatte zwischen konkreten Schäden wie KI-Drohnen oder Cyberangriffen auf Kliniken und spekulativen Szenarien ein und liefert eine nüchterne Grundlage für die aktuelle Hysterie.
What Hollywood thinks about existential AI warnings
18. September 2026
Während die Techbranche vor existenziellen KI-Risiken warnt, drängen Gewerkschaften wie SAG-AFTRA und WGAE darauf, sich auf bereits stattfindende Veränderungen in der Filmbranche zu konzentrieren. Die Studios selbst äußern sich nicht — ein Hinweis darauf, dass die Interessen der Beschäftigten und die Risikodebatte der Labore auseinanderlaufen.
🛠️ Tools & Produkte
Google's new 'CC' is an AI agent that helps families run their households
18. September 2026
Google testet mit CC einen KI-Agenten, der über E-Mail, Kalender, Chats und Aufgaben hinweg Familien organisiert — von Einkaufslisten bis zu Genehmigungsformularen. Der Vorstoß zeigt, dass Agenten von der Büro-Produktivität in private Haushalte vordringen und dort um Vertrauen und Datenzugriff konkurrieren.
Meta's Muse hits Mac, letting the AI take actions on your computer
18. September 2026
Metas KI-Assistent Muse ist jetzt für den Mac verfügbar und kann Dateien, Nachrichten, Kalender, Notizen und Mail direkt in den nativen Apps bedienen. Mit dem Schritt bringt Meta seinen Agenten auf den Desktop und setzt Apple und Microsoft unter Druck, deren Systemassistenten bislang weniger tief integriert sind.
Neuer juristischer Suchindex: OpenAI zielt mit Astra for Law auf den Rechtsmarkt
18. September 2026
OpenAI stellt mit Astra for Law eine auf juristische Arbeit zugeschnittene Variante von GPT-6 Astra vor, die einen Suchindex mit über 230 Millionen URLs zu US-Rechtsprechung und Gesetzen kombiniert. Damit greift OpenAI einen hochmargigen Fachmarkt an, in dem spezialisierte Legal-Tech-Anbieter ihre Datenvorsprünge verteidigen müssen.
Co-creating the future of fashion with Google
18. September 2026
Googles Envisioning Studio hat mit Designern für die New York Fashion Week zwei spezialisierte Werkzeuge auf Basis von Google Flow entwickelt, die Look-Balancing und virtuelle Runway-Inszenierung automatisieren. Das Beispiel zeigt, wie generative Werkzeuge administrative Engpässe im kreativen Workflow auflösen, statt nur Bilder zu erzeugen.
Napster Is Back, and It Wants to Digitally Clone Teachers
18. September 2026
Napster kehrt als Bildungsplattform zurück und will mit KI digitale Klone von Lehrkräften erstellen. Der Vorstoß wirft Fragen zu Urheber- und Persönlichkeitsrechten auf und zeigt, wie eine traditionsreiche Marke im KI-Bildungsmarkt neu Fuß zu fassen versucht.
KI PRO Webinar | Vom Prompt zum Skill: Kontext gezielt nutzen und Aufgaben in Prompt-Ketten aufteilen
18. September 2026
Das Webinar von heise KI PRO zeigt, wie aus einzelnen Prompts robuste, wiederverwendbare Skills und mehrstufige Prompt-Ketten werden. Der Ansatz adressiert ein Kernproblem der Praxis: Prompt-Ergebnisse sind ohne sauber gemanagten Kontext nicht reproduzierbar.
Flash floods can strike without warning — this new technology could change that
18. September 2026
Neue Technologie soll Sturzfluten frühzeitig warnen, indem sie lokale Wetter- und Geländedaten in Echtzeit auswertet. Angesichts zunehmender Extremwetterereignisse könnte das Frühwarnsystem die Lücke zwischen grober Wettervorhersage und plötzlichen lokalen Überflutungen schließen.
🤖 Robotik
Neptune Medical earns FDA clearance for its Triton 1 robotic system
18. September 2026
Neptune Medical hat die FDA-Zulassung für sein robotisches Endoskopiesystem Triton 1 erhalten, das diagnostische und therapeutische Eingriffe im gesamten Dickdarm ermöglichen soll. Der Roboter soll Präzision und Stabilität von Koloskopien erhöhen und damit auch komplexere Eingriffe wie EMR und ESD erreichbar machen.
ANSCER Robotics Secures FCC Conditional Approval for Its AR250, AR650, and AR1250 Autonomous Mobile Robots
18. September 2026
ANSCER Robotics hat die bedingte FCC-Zulassung für seine autonomen mobilen Roboter AR250, AR650 und AR1250 erhalten. Die Freigabe ebnet den US-Einsatz der Transportroboter und ist ein weiterer Schritt zur Kommerzialisierung fahrerloser Logistikflotten.
Locus Robotics and Kimball Midwest Win 2026 Supply Chain Excellence Award for Best Use of Robotics
18. September 2026
Locus Robotics und Kimball Midwest wurden für ihr standortübergreifendes Automatisierungsprogramm mit dem Supply Chain Excellence Award ausgezeichnet — über 13,2 Millionen Roboter-unterstützte Pick-Vorgänge und ROI in unter einem Jahr. Die Zahlen liefern belastbare Belege dafür, wie schnell sich AMR-Investitionen in der Lagerlogistik amortisieren.
Icarus Robotics flies ISS-bound robot in microgravity for the first time
18. September 2026
Icarus Robotics testete seinen frei fliegenden Roboter Joy auf vier Parabelflügen und sammelte dabei insgesamt zwei Minuten Schwerelosigkeit. 2027 soll Joy als Joyride-1 zur ISS starten und dort Fracht- und Logistikaufgaben übernehmen, die heute einen Großteil der Astronautenzeit binden.
Preliminary usability evaluation of a teleoperated humanoid robot for pediatric waiting-room observation
18. September 2026
Eine Vorstudie untersuchte den teleoperierten humanoiden Roboter Alter-Ego als Avatar für Beobachtungen im Wartebereich einer kinderpsychiatrischen Klinik. Die Ergebnisse loten aus, wie alltagstauglich humanoide Telepräsenz für klinisches Personal ohne Robotik-Kenntnisse tatsächlich ist.
Generative real-time planning for multi-robot contingencies using deep prior-guided whale optimization
18. September 2026
Forschende kombinieren Deep-Prior-Learning mit einer geführten Whale-Optimization, um Multi-Roboter-Missionen in Echtzeit an stochastische Störungen anzupassen. Der Ansatz verspricht deutlich geringeren Rechenaufwand bei der Umplanung und ist damit relevant für Flotten, die unter unvorhersehbaren Bedingungen operieren müssen.