zurück
Chat GPT und Co.
KI-Wettrennen "außer Kontrolle": Experten fordern Entwicklungsstopp
Die internationale Tech-Prominenz um Tesla-Chef Elon Musk hat dazu aufgerufen, einen Entwicklungsstopp bei KI-Experimenten einzulegen. Welche Gründe sie nennen und wie die Reaktionen ausfallen.
Künstliche Intelligenz Roboterhand menschliche Hand       -  Die Entwicklungssprünge in der Künstlichen Intelligenz rufen nicht nur Begeisterung hervor.
Foto: Christophe Gateau, dpa (Symbolbild) | Die Entwicklungssprünge in der Künstlichen Intelligenz rufen nicht nur Begeisterung hervor.
Ann-Katrin Hahner
 |  aktualisiert: 11.03.2024 12:37 Uhr

Seit der Einführung des KI-Sprachmodells Chat-GPT haben sich die Ereignisse in der Technik-Welt in den vergangenen Monaten überschlagen. Unternehmen stürzen sich auf KI-Modelle, um ihre Programme und Apps zu verbessern, Google hat seinen Konkurrenten "Apprentice Bard" ins Spiel gebracht und OpenAI selbst hat Chat GPT mit Version 4 noch einmal deutlich verbessert.

Die schnellen Entwicklungssprünge und das Rennen darum, wer die beste KI zur Verfügung hat, rufen jetzt allerdings Kritiker auf den Plan.

In einem offenen Brief auf der Website der Organisation "Futures of Life" haben sich Tech-Größen wie Elon Musk, der OpenAI vor Jahren mitgründete, Apple-Mitbegründer Steve Wozniak und Pioniere der KI-Entwicklung wie Stuart Russel und Yoshua Bengio für ein Pause bei der Entwicklung von KI ausgesprochen. Auch CEOs der wichtigsten KI-Unternehmen finden sich unter den Unterzeichnern. Worum es ihnen geht, lesen Sie in diesem Artikel

KI-Entwicklungsstopp: Das fordern Musk, Wozniak, Russel und Co.

Der offene Brief der Organisation hat inzwischen 1377 Unterschriften (Stand 30. März) gesammelt. Neben den eingangs erwähnten "Promis" der Tech-Industrie finden sich unter den Unterzeichnern Professoren der Naturwissenschaften, der Technik aber auch aus Bereichen der Ethik. Sie kritisieren das derzeitige "Wettrüsten" in der KI-Entwicklung und mahnen vor Gefahren. Wir haben einige ihrer Kritikpunkte aufgelistet.

KI könne laut der Autoren:

  • Bei einfachen Aufgaben in Konkurrenz zu Menschen treten
  • Dafür sorgen, dass Berufe, die für manche Menschen erfüllend sind, wegautomatisiert werden
  • Zur Verbreitung von Unwahrheiten und Propaganda genutzt werden
  • Irgendwann eventuell klüger sein als Menschen, diese in gewissen Bereichen überflüssig machen und ersetzen

Wie die Autoren schreiben, sollte sich die Gesellschaft die Frage stellen, ob man riskieren wolle, durch den Einsatz von KI die Kontrolle über unsere Zivilisation zu verlieren. "Mächtige KI-Systeme sollten nur dann entwickelt werden, wenn wir uns sicher sind, dass ihre Auswirkungen positiv und ihre Risiken für uns handhabbar sind", schreiben die Autoren.

Experten fordern: KI soll nicht mehr weiterentwickelt werden - Entwickler hätten Kontrolle verloren

Dies sei derzeit nicht mehr möglich. Mehr noch: Das Wettrennen der Entwickler sei in den Augen der Unterzeichner außer Kontrolle geraten. Die derzeit entwickelte KIs könnten nicht einmal von ihren Entwicklern vollumfänglich verstanden, vorhergesagt und kontrolliert werden.

Deshalb fordern die Experten alle KI-Forschungseinrichtungen und Unternehmen auf, die Entwicklung von KI-Systemen, die mächtiger sind als ChatGPT-4 unverzüglich zu stoppen. "Diese Pause sollte öffentlich und nachvollziehbar sein und alle Schlüsselakteure einschließen", heißt es in dem Brief. Werde es nicht zeitnah zu einer Entwicklungspause kommen, sollten die Regierungen einschreiten.

Der Entwicklungsstopp solle dazu führen, dass Forscher gemeinsame Sicherheitsstandards entwickeln können und mit der Politik zusammenarbeiten. Die Regeln müssten "Echtes" von "Synthetischem" unterscheidbar machen und auch klären wer für durch KI-verursachte Schäden hafte.

Übrigens: Wenn Sie wissen möchten, ob ein Text mit künstlicher Intelligenz geschrieben wurde, können Sie den AI Classifier zur Hilfe nehmen.

KI-Entwicklungsstopp: Das steckt hinter "Future of life"

Während sowohl der offene Brief als auch Kritiker desselben Unterstützer finden - der TÜV-Verband Deutschland begrüßte das Statement der Tech-Größen beispielsweise - muss zumindest die Organisation "Futures for Life" hinterfragt werden.

Laut Recherchen der Süddeutschen Zeitung handelt es sich dabei um einen Thinktank, um den sich Anhänger des sogenannten "Longtermismus" sammeln. Der Begriff bezeichnet eine philosophisch-esoterische Strömung, die unter der Tech-Elite viele Anhänger hat. "Sie behauptet, wichtiger als naheliegende Menschheitsprobleme, wie der Klimawandel seien Szenarien für die extrem ferne Zukunft, wie eine Machtübernahme durch Maschinen oder eine Flucht der Menschheit ins Weltall", schreibt die SZ.

In diesen Kreisen herrsche eine regelrechte Obsession mit Künstlicher Intelligenz. KI müsse weiterentwickelt werden, aber unter die Kontrolle der Menschen gebracht werden, um sie dann für futuristische Projekte nutzen zu können.

Die KI ChatGPT-4 ist derzeit in vollem Umfang nur im Abo erhältlich. Einige der Neuerungen können Sie trotzdem kostenlos testen. Um KIs einmal auszuprobieren können Sie zunächst aber auch erst einmal Gratis-Tools - wie YouChat - nutzen. Mit diesen können Sie inzwischen Bilder professionell bearbeiten.

 
Themen & Autoren / Autorinnen
Briefe
Chat
Elon Musk
Google
Konkurrenz
Steve Wozniak
Überwachung und Kontrolle
Lädt

Damit Sie Schlagwörter zu "Meine Themen" hinzufügen können, müssen Sie sich anmelden.

Anmelden Jetzt registrieren

Das folgende Schlagwort zu „Meine Themen“ hinzufügen:

Sie haben bereits von 50 Themen gewählt

bearbeiten

Sie folgen diesem Thema bereits.

entfernen