Pandorex
DEEN
KI & Chips

Apollo rückt bei OpenAIs Sicherheitsprüfung näher an die Entwicklung

Veröffentlicht Aktualisiert Pandorex Redaktion·1 min Lesezeit
—

Wie sich eine KI unter Kontrolle halten lässt, soll bei OpenAI künftig näher am Entwicklungsprozess untersucht werden. Apollo Research kündigte am 16. November einen viermonatigen Pilotversuch mit sechs Forschern an. Sie sollen prüfen, ob Modelle ihre eigenen Kontrollmechanismen oder die ihrer Nachfolger unterlaufen – während des Trainings, bei Tests und im internen Einsatz.

Das Vorhaben gehört zu einem größeren Programm, das OpenAI drei Tage zuvor mit Apollo, METR, Transluce und Goodfire vorgestellt hatte. Die Organisationen widmen sich unterschiedlichen Fragen, von Fehlverhalten während des Trainings bis zu den inneren Abläufen der Modelle. So reicht die Untersuchung über das Verhalten eines fertigen Produkts hinaus.

Apollo plant zwei öffentliche Berichte. Der vereinbarte Zugang bleibt allerdings begrenzt; OpenAI kann beispielsweise Informationen zum Schutz geistigen Eigentums zurückhalten. Apollo darf solche Einschränkungen öffentlich erläutern und bezeichnet den Versuch selbst noch nicht als vollständig eingebettete Prüfung.

Welche Einblicke der engere Kontakt tatsächlich ermöglicht, werden die Berichte zeigen. Die Ankündigung eröffnet einen Prüfprozess; ein Sicherheitsurteil über die Modelle steht noch aus.

Quellen und Nachweise

Quellen für die Fakten und den Kontext dieses Artikels.

  1. Apollo Research, 16.11.2026apolloresearch.ai
  2. OpenAI, 13.11.2026openai.com

So recherchiert und korrigiert Pandorex

Kommentare

Melde dich an, um einen Kommentar zu schreiben.

Nach oben swipen
Nächster Artikel

TSMC erreicht im dritten Quartal Rekordumsatz – die Marge bleibt noch offen

KI & Chips