Das US-amerikanische Unternehmen Anthropic warnt davor, dass die Künstliche Intelligenz schon bald in der Lage sein wird, sich ohne menschliches Eingreifen selbst zu verbessern. Die KI-Branche müsse eine Art Bremse einbauen, sonst riskieren Unternehmen, die Kontrolle über ihre Entwicklungen zu verlieren.
KI-Systeme, die sich selbst weiterentwickeln können, stellen laut einem Blogbeitrag von Marina Favaro, Leiterin des Anthropic Institute, und Jack Clark, Mitbegründer von Anthropic, auch «erhebliche Risiken für die Menschheit dar».
«Vollständige rekursive Selbstverbesserung könnte auch das Risiko erhöhen, dass Menschen die Kontrolle über KI-Systeme verlieren», schreiben sie in jenem Blogbeitrag weiter.
Technologieunternehmen sollten daher erwägen, die Entwicklung fortschrittlicher KI-Systeme zu verlangsamen oder ganz auszusetzen, um Forschern Zeit zu geben, die potenziellen gesellschaftlichen Gefahren einer sich selbst verbessernden KI besser zu verstehen. Zudem sollten Forscher Mechanismen entwickeln, die es Menschen ermöglichen, einzugreifen, falls die Situation ausser Kontrolle gerät.
In einem Interview mit der CNN vom Donnerstag forderte Jack Clark die Branche auf, sich selbst eine Art «Bremse» zu geben.
Der US-Fernsehsender brachte das Beispiel von Science-Fiction-Filmen zur Sprache, in denen KI dazu übergeht, Menschen zu töten, und fragte, ob Clark sich darüber Sorgen mache.
«Ja, wir lesen und sehen hier auch Science-Fiction-Filme, das ist uns also nicht entgangen», antwortete Clark. «Wie behält man die Kontrolle über grosse Gruppen von Wissenschaftlern, die viel, viel grösser und viel schneller sind als je zuvor?»
Anthropic hat vor wenigen Tagen einen Antrag auf Börsengang gestellt. Dieser Schritt könnte Investoren Dutzende Milliarden Dollar einbringen, um den Bau von Rechenzentren und Computern, die für KI benötigt werden, zu beschleunigen.
Dass grosse KI-Unternehmen wie Anthropic, SpaceX und OpenAI zusammenarbeiten, um Bremsmechanismen zu entwickeln, mag in einem wettbewerbsintensiven Geschäft, in dem es um Milliarden, wenn nicht Billionen von Dollar geht, widersprüchlich erscheinen. Doch eine solche Kooperation sei möglich, betonte Clark.
«Wir haben das schon einmal gemacht. Auf dem Höhepunkt des Kalten Krieges, in hochstressigen Situationen zwischen rivalisierenden Ländern, fanden sie Wege, Aspekte des nuklearen Wettrüstens zu stabilisieren», sagte Clark gegenüber CNN. «All das wurde schon in anderen Bereichen gemacht, und es könnte etwas sein, das wir auch im Bereich der KI tun müssen.»
