Der Wendepunktbrief

Reuters zitierte am 23. November exklusive Quellen mit der Aussage, dass vier Tage vor der Entlassung von CEO Sam Altman mehrere Forscher von OpenAI einen Brief an den Vorstand des Unternehmens geschickt hätten, in dem sie vor einer mächtigen Entdeckung im Bereich der künstlichen Intelligenz (KI) warnten, die die Menschheit bedrohen könnte. Der bisher nicht veröffentlichte Brief und der KI-Algorithmus waren wichtige Entwicklungen vor der Entlassung von OpenAI-Mitbegründer Sam Altman am 17. November. Nach zwei Verhandlungen mit OpenAI kehrte er am 21. November (US-Zeit) zurück, um die Position anzutreten. Quellen zufolge war der Brief einer der Gründe, die der OpenAI-Vorstand für die Entlassung anführte. In einer offiziellen Mitteilung erklärte das Unternehmen jedoch lediglich, dass Altman „in seiner Kommunikation mit dem Vorstand nicht konsequent und offen“ gewesen sei.

Quellen zufolge erwähnte Mira Murati, eine der langjährigen leitenden Managerinnen von OpenAI, gegenüber den Mitarbeitern am 22. November ein Projekt namens Q* und sagte, der Vorstand des Unternehmens habe einen Brief erhalten, bevor er Herrn Altman entließ. Eine der Quellen gab bekannt, dass OpenAI beim Q*-Projekt Fortschritte gemacht hat, was einen Durchbruch bei der Suche nach Superintelligenz, auch bekannt als künstliche allgemeine Intelligenz (AGI), darstellen könnte.

Obwohl das Modell nur Mathematik auf Grundschulniveau beherrscht, sind die Forscher angesichts der Lösung solcher Probleme sehr optimistisch, was den zukünftigen Erfolg von Q* angeht. Forscher sehen in der Mathematik eine Voraussetzung für die Entwicklung generativer KI. Generative KI kann jetzt Sprachen schreiben und übersetzen, obwohl die Antworten auf dieselbe Frage sehr unterschiedlich ausfallen können. Doch die Eroberung der Mathematik, wo es nur eine richtige Antwort gibt, bedeutet, dass KI ebenso wie Menschen besser schlussfolgern kann. Forscher glauben, dass dies auf neue wissenschaftliche Studien angewendet werden könnte.

Potentielle Gefahr?

Quellen zufolge skizzierten die Forscher in einem Brief an den Vorstand von OpenAI die potenziellen Möglichkeiten und Gefahren der KI. Informatiker diskutieren schon seit langem über die Gefahren, die von superintelligenten Maschinen ausgehen, etwa darüber, ob sie sich zu ihrem eigenen Vorteil dazu entschließen könnten, die Menschheit zu vernichten. In diesem Zusammenhang leitete Herr Altman die Bemühungen, ChatGPT zu einer der am schnellsten wachsenden Softwareanwendungen der Geschichte zu machen und die Investitionen und Computerressourcen anzuziehen, die erforderlich sind, um der AGI näher zu kommen. Neben der Ankündigung einer ganzen Reihe neuer Tools bei einer Veranstaltung in diesem Monat erklärte Herr Altman letzte Woche in San Francisco vor führenden Politikern aus aller Welt, dass er davon überzeugt sei, dass AGI in greifbarer Nähe sei. Einen Tag später wurde er vom Vorstand von OpenAI entlassen. OpenAI und Herr Altman haben den Brief nicht kommentiert.

Aus Sorge über die potenziellen Risiken der KI haben sich viele westliche Regierungen und Technologieunternehmen auf einen neuen Mechanismus zur Sicherheitsüberprüfung geeinigt. UN-Generalsekretär Antonio Guterres erklärte jedoch laut AFP, dass die Welt bei den Bemühungen zur Regulierung der KI noch immer „hinke“. Dies könne langfristig negative Folgen für alle Bereiche haben, von Arbeitsplätzen bis hin zur Kultur.