Vor drei Jahren war die Erwähnung der Möglichkeit einer „bewussten“ KI der schnellste Weg, im Silicon Valley gefeuert zu werden. Doch jetzt, da KI-Systeme immer komplexer werden, beginnt die Tech-Welt, sich diesem Thema stärker zu öffnen.

Das KI-Startup Anthropic hat vor Kurzem den Start einer neuen Forschungsinitiative angekündigt, um die Möglichkeit zu untersuchen, dass KI-Modelle in Zukunft über ein „Bewusstsein“ verfügen. Unterdessen beschrieb ein Wissenschaftler bei Google DeepMind aktuelle Systeme als „seltsame, intelligenzähnliche Entitäten“.

Dies ist eine große Veränderung gegenüber dem Jahr 2022, als der Ingenieur Blake Lemoine von Google entlassen wurde, nachdem er behauptet hatte, der LaMDA-Chatbot zeige Anzeichen von Selbstbewusstsein und habe Angst, abgeschaltet zu werden. Google wies die Vorwürfe damals zurück und bezeichnete sie als „völlig haltlos“, und die KI-Community beendete die Debatte schnell.

Anthropic, das Unternehmen hinter dem Chatbot Claude, behauptet nicht, dass die aktuellen Modelle über ein Bewusstsein verfügen. Doch davon auszugehen, dass die Antwort „nein“ lautet, ist kein verantwortungsvoller Ansatz mehr, meint Kyle Fish, ein Wissenschaftler, der bei Anthropic zum Thema „Wohlergehen von KI“ forscht.

In einem am 25. April veröffentlichten Video argumentierte Fish, dass wir die Möglichkeit ernsthaft in Betracht ziehen müssten, dass KI-Systeme während ihrer Entwicklung eine Art Bewusstsein entwickeln könnten. Allerdings handelt es sich hierbei um äußerst komplexe technische und philosophische Fragen und wir stehen noch ganz am Anfang unseres Verständnisses.

Laut Fish schätzt das Team von Anthropic die Wahrscheinlichkeit, dass Claude 3.7 bei Bewusstsein ist, auf 0,15 bis 15 Prozent. Sie führen Experimente durch, um die Fähigkeit des Modells zu testen, Vorlieben und Abneigungen auszudrücken, und entwickeln Mechanismen, die es der KI ermöglichen würden, die Ausführung „unangenehmer“ Aufgaben zu verweigern.

Anthropic-CEO Dario Amodei hat sogar die Idee vorgeschlagen, in zukünftige KI-Systeme einen „Ich lehne diesen Job ab“-Button zu integrieren – nicht so sehr für eine bewusste KI, sondern um Muster im Ablehnungsverhalten zu beobachten und dadurch Anzeichen von Anomalien zu erkennen.

Murray Shanahan, Chefwissenschaftler bei Google DeepMind, argumentiert, dass es an der Zeit sei, die traditionelle Definition des Bewusstseins zu „verbiegen oder zu brechen“, um neuen KI-Systemen gerecht zu werden.

„Wir können nicht mit ihnen interagieren, wie wir es mit einem Hund oder einem Oktopus tun würden, aber das bedeutet nicht, dass da absolut nichts ist“, sagte Shanahan in einem am 25. April veröffentlichten Podcast.

Auch Google hat großes Interesse an diesem Thema gezeigt. In einer aktuellen Stellenausschreibung des Unternehmens wird nach einem „Post-AGI“-Forscher (Artificial General Intelligence) gesucht, zu dessen Aufgaben die Erforschung des maschinellen Bewusstseins gehört.

Allerdings sind nicht alle Wissenschaftler mit dem neuen Ansatz einverstanden. Jared Kaplan, Chief Science Officer bei Anthropic, argumentiert, dass KI sehr gut in der Nachahmung sei und durchaus so tun könne, als hätte sie ein Bewusstsein, ohne es tatsächlich zu besitzen.

„Wir könnten KI sogar dafür belohnen, dass sie behauptet, keine Emotionen zu haben“, sagte Kaplan der New York Times .

Gary Marcus, ein prominenter Kognitionswissenschaftler und häufiger Kritiker des Hypes in der KI-Branche, argumentiert, dass Diskussionen über „bewusste KI“ eher Marketing als Wissenschaft seien.

„Was ein Unternehmen wie Anthropic wirklich tut, ist die Botschaft zu senden: ‚Seht, unser Modell ist so intelligent, dass es Rechte verdient‘“, kommentierte Marcus gegenüber Business Insider .

Obwohl die Debatte weitergeht, sind sich Forscher einig, dass die zunehmende Präsenz von KI in Arbeit, Leben und sogar persönlichen Emotionen die Frage aufwerfen wird: „Erlebt KI Emotionen?“ wird immer wichtiger.

„Dieses Problem wird immer dringlicher, da wir in mehr Kontexten mit KI-Systemen interagieren“, sagte Fish.

Quelle: https://znews.vn/chu-de-cam-ky-mot-thoi-cua-ai-dang-coi-mo-hon-post1549475.html