Wie sich eine KI unter Kontrolle halten lässt, soll bei OpenAI künftig näher am Entwicklungsprozess untersucht werden. Apollo Research kündigte am 16. November einen viermonatigen Pilotversuch mit sechs Forschern an. Sie sollen prüfen, ob Modelle ihre eigenen Kontrollmechanismen oder die ihrer Nachfolger unterlaufen – während des Trainings, bei Tests und im internen Einsatz.
Das Vorhaben gehört zu einem größeren Programm, das OpenAI drei Tage zuvor mit Apollo, METR, Transluce und Goodfire vorgestellt hatte. Die Organisationen widmen sich unterschiedlichen Fragen, von Fehlverhalten während des Trainings bis zu den inneren Abläufen der Modelle. So reicht die Untersuchung über das Verhalten eines fertigen Produkts hinaus.
Apollo plant zwei öffentliche Berichte. Der vereinbarte Zugang bleibt allerdings begrenzt; OpenAI kann beispielsweise Informationen zum Schutz geistigen Eigentums zurückhalten. Apollo darf solche Einschränkungen öffentlich erläutern und bezeichnet den Versuch selbst noch nicht als vollständig eingebettete Prüfung.
Welche Einblicke der engere Kontakt tatsächlich ermöglicht, werden die Berichte zeigen. Die Ankündigung eröffnet einen Prüfprozess; ein Sicherheitsurteil über die Modelle steht noch aus.