KI-Forscher und Führungskräfte fordern einen internationalen Regulierungsrahmen

Dutzende Forscher und Führungskräfte aus dem Bereich der künstlichen Intelligenz veröffentlichten am Montag einen gemeinsamen Aufruf zur Schaffung eines internationalen Regulierungsrahmens, der dem Einsatz von KI Grenzen setzt, um verheerende Auswirkungen auf die Menschheit zu verhindern.

„KI hat ein immenses Potenzial für das Wohl der Menschheit, doch ihre derzeitige Entwicklung birgt beispiellose Gefahren“, schreiben die Unterzeichner in einem Brief, der anlässlich der Eröffnung der UN-Generalversammlung in New York veröffentlicht wurde. Sie fordern die Staats- und Regierungschefs zur Zusammenarbeit auf, um „internationale Vereinbarungen über die roten Linien der KI“ zu treffen – Grenzen, die den wichtigsten Akteuren der künstlichen Intelligenz bei der Entwicklung dieser Technologie gesetzt werden.

Überspringen Sie die Anzeige

Es handele sich um „Mindestschutzmaßnahmen“, „den ‚kleinsten gemeinsamen Nenner‘, auf den sich Regierungen einigen sollten, um die unmittelbarsten und inakzeptabelsten Risiken einzudämmen“, erklären die Organisatoren der Initiative. Es handelt sich um das französische Zentrum für KI-Sicherheit (CeSIA) sowie The Future Society und das Zentrum für menschenkompatible KI an der Universität Berkeley, unterstützt von 20 Partnerorganisationen. „KI könnte die menschlichen Fähigkeiten bald bei weitem übertreffen und bestimmte Risiken wie den Ausbruch von Pandemien, die Verbreitung von Desinformation, (…) nationale Sicherheitsprobleme, Massenarbeitslosigkeit oder Menschenrechtsverletzungen erhöhen“, warnen die Unterzeichner.

Zu ihnen zählen Branchengrößen wie Jason Clinton, Leiter der IT-Sicherheit bei Anthropic, einem der führenden Unternehmen der Branche, und einige seiner Kollegen sowie mehrere Mitarbeiter von Googles KI-Tochter DeepMind und OpenAI. Auf der Liste stehen auch Geoffrey Hinton, der Physik-Nobelpreisträger des Jahres 2024 und einer der Väter der modernen KI, und Yoshua Bengio, Professor an der Universität Montreal und einer der einflussreichsten Köpfe der Branche. Die meisten großen Akteure der Branche streben die Entwicklung künstlicher allgemeiner Intelligenz (AGI) an, einer Stufe, auf der KI die intellektuellen Fähigkeiten des Menschen in vollem Umfang erreicht, aber auch eine „Superintelligenz“ erreicht, die sie noch übertrifft.

Die Autoren des Briefes argumentieren, dass es für Technologien, die als gefährlich für die gesamte Menschheit oder einen Teil der Menschheit gelten, bereits internationale Abkommen gibt. Dies gilt beispielsweise für den Vertrag über die Nichtverbreitung von Kernwaffen (NPT, 1970) oder das Genfer Protokoll (1925) zum Verbot des Einsatzes chemischer Waffen, erweitert durch das Chemiewaffenübereinkommen (CWC), das 1997 in Kraft trat.