Anthropic Chef Dario Amodei warnt vor UNO Sicherheitsrat vor Risiken durch KI
Anthropic Chef Dario Amodei hat vor dem Sicherheitsrat der Vereinten Nationen vor den möglichen Folgen immer leistungsfähigerer künstlicher Intelligenz gewarnt. Regierungen müssten international zusammenarbeiten, um Risiken durch fortgeschrittene Systeme zu begrenzen. Auch OpenAI Chef Sam Altman und weitere Fachleute forderten gemeinsame Regeln für den Umgang mit der Technologie.
Amodei sieht mögliches Risiko für die gesamte Menschheit
Bei der Sitzung am 23. September in New York erklärte Amodei vor den 15 Mitgliedern des Sicherheitsrats, dass die weitere Entwicklung künstlicher Intelligenz erhebliche Chancen, aber auch weitreichende Gefahren mit sich bringe.
Wenn die Technologie schlecht gesteuert werde, könne KI nach Einschätzung des Anthropic Chefs sogar „ein Risiko für die Menschheit als Ganzes“ darstellen. Kein Unternehmen, kein Staat und keine einzelne Führung könne diese Entwicklung allein kontrollieren, sagte Amodei. Trotz politischer Unterschiede müssten Staaten deshalb bei der Bewältigung der Risiken zusammenarbeiten.
Hintergrund der Warnungen ist die schnelle Weiterentwicklung besonders leistungsfähiger KI Systeme. Fachleute beschäftigen sich unter anderem mit der Frage, wie verhindert werden kann, dass zukünftige Systeme Fähigkeiten entwickeln, die nur noch schwer kontrollierbar sind. Die Sitzung wurde von Frankreich im Rahmen der Generalversammlung der Vereinten Nationen einberufen und behandelte künstliche Intelligenz ausdrücklich als Thema der internationalen Sicherheit.
Altman fordert internationale Zusammenarbeit
Auch OpenAI Chef Sam Altman sprach sich für eine stärkere Beteiligung von Regierungen aus. Entscheidungen über die Zukunft künstlicher Intelligenz dürften seiner Ansicht nach nicht ausschließlich von Technologieunternehmen getroffen werden.
„Wenn KI demokratisch sein soll, dürfen die wichtigsten Entscheidungen nicht allein von Laboren in San Francisco getroffen werden“, erklärte Altman. Sie müssten durch demokratische Prozesse und verantwortliche Regierungen mitgestaltet werden. Gegenüber Associated Press warnte er zudem davor, dass Menschen die Kontrolle über die Zukunft an KI verlieren könnten.
Der KI Forscher Yoshua Bengio, der dem unabhängigen wissenschaftlichen KI Gremium der Vereinten Nationen vorsitzt, bezeichnete die Gefahren vor dem Sicherheitsrat als „real und unmittelbar“. Nach seiner Einschätzung handelt es sich um eine grenzüberschreitende Herausforderung, die kein Staat allein kontrollieren kann.
Uneinigkeit über internationale Regeln
Wie stark künstliche Intelligenz reguliert werden sollte, ist international weiterhin umstritten. Während Vertreter mehrerer KI Unternehmen stärkere internationale Zusammenarbeit und Schutzmechanismen fordern, verfolgen die großen Technologiezentren unterschiedliche politische Ansätze.
US Präsident Donald Trump hatte einen Tag vor der Sitzung vor der Generalversammlung erklärt, dass er Versuche ablehne, ein internationales System zur Kontrolle künstlicher Intelligenz aufzubauen. Er betonte zugleich, die Vereinigten Staaten wollten die Entwicklung beobachten, aber das Wachstum der Technologie nicht bremsen. China hat dagegen bereits verschiedene Vorschriften für Algorithmen, Trainingsdaten und die Kennzeichnung von durch KI erzeugten Inhalten eingeführt.
