Die Vereinbarung kam während einer virtuellen Sitzung des AI Safety Summit zustande, der gemeinsam von Südkorea und Großbritannien ausgerichtet wurde.
Zehn Länder und die Europäische Union werden weitere Sicherheitsinstitute für künstliche Intelligenz (KI) aufbauen, um die Forschung auf Standards und Tests für maschinelles Lernen abzustimmen.
Das internationale Netzwerk wurde während des AI Safety Summit in Seoul, Südkorea, vereinbart, bei dem sich führende Persönlichkeiten der Welt virtuell trafen.
Es bringt Wissenschaftler aus öffentlich geförderten Institutionen wie dem britischen AI Safety Institute zusammen, um Informationen über die Risiken, Möglichkeiten und Grenzen von KI-Modellen auszutauschen.
Die Institutionengruppe wird auch „spezifische KI-Sicherheitsvorfälle“ überwachen, wenn sie auftreten.
„KI ist eine äußerst spannende Technologie … aber um die Vorteile zu nutzen, müssen wir sicherstellen, dass sie sicher ist“, sagte der britische Premierminister Rishi Sunak in einer Pressemitteilung.
„Deshalb freue ich mich, dass wir heute eine Vereinbarung für ein Netzwerk von KI-Sicherheitsinstituten getroffen haben.“
Welche Länder stehen hinter den neuen Sicherheitsinstituten?
Zu den Unterzeichnern dieses neuen Netzwerks des AI Safety Institute gehören die EU, Frankreich, Deutschland, Italien, das Vereinigte Königreich, die Vereinigten Staaten, Singapur, Japan, Südkorea, Australien und Kanada.
Das Vereinigte Königreich behauptet, im vergangenen November mit einer Anfangsinvestition von 100 Millionen Pfund (117,4 Millionen Euro) das weltweit erste KI-Sicherheitsinstitut gegründet zu haben.
Seitdem haben andere Länder wie die Vereinigten Staaten, Japan und Singapur ihre eigenen eingeführt.
Die Mission des britischen AI Safety Institute besteht darin, „Überraschungen für Großbritannien und die Menschheit durch schnelle und unerwartete Fortschritte in der KI zu minimieren“, heißt es in einer Pressemitteilung der britischen Regierung vom November 2023.
Die EU bereitet sich nach der Verabschiedung des EU-KI-Gesetzes nun auf die Eröffnung ihres KI-Büros vor. Die Europäische Kommission hatte zuvor sagte Euronews Sie würden den Leiter des neuen Büros einstellen, sobald das Gesetz vollständig verabschiedet wurde.
Ursula von der Leyen, Präsidentin der Europäischen Kommission, sagte beim AI Safety Summit im vergangenen Jahr, das KI-Büro werde und solle eine „globale Ausrichtung“ haben, damit es „mit ähnlichen Einrichtungen auf der ganzen Welt zusammenarbeiten“ könne.
Die Staats- und Regierungschefs haben während dieser Konferenz auch die umfassendere Seoul-Erklärung unterzeichnet, in der die Bedeutung einer „verstärkten internationalen Zusammenarbeit“ für die Entwicklung einer menschenzentrierten, vertrauenswürdigen KI betont wird.
Der erste Tag des AI Safety Summit Diese Woche waren es 16 der weltweit größten Technologieunternehmen, darunter Open AI, Mistral, Amazon, Anthropic, Google, Meta, Microsoft und IBM, vereinbaren eine Reihe von Sicherheitsverpflichtungen.
Die Liste umfasst die Festlegung von Schwellenwerten für den Fall, dass die Risiken der KI zu hoch werden, und die Transparenz darüber. In einer Erklärung der britischen Regierung, die die Veranstaltung mitveranstaltete, wurde sie als „historische Premiere“ bezeichnet.
Frankreich wird Gastgeber des nächsten Gipfels zum sicheren KI-Einsatz sein.
