Experten zufolge hat die KI eine 5 %ige Chance, den Menschen zum Aussterben zu bringen!

Laut einer Umfrage unter führenden KI-Wissenschaftlern besteht eine 5 %ige Chance, dass die KI unkontrollierbar wird und die Menschheit auslöscht. Den Forschern zufolge wird sich die KI bis 2030 erheblich weiterentwickeln und in der Lage sein, musikalische und literarische Hits zu kreieren. Wenn dieses apokalyptische Szenario eintritt, werden wir zumindest unterhaltsam sterben.

Untersuchungen von Experten der Universitäten Berkeley und Oxford im Dezember untermauern, dass die Vorhersagen dieser Experten zwar nicht als absolute Wahrheiten angesehen werden sollten, aber einen wichtigen Einblick in die Landschaft bieten. Diese Forscher, die über ein tiefes Verständnis der technologischen und historischen Entwicklung der KI verfügen, sind gut positioniert, um fundierte Vermutungen über ihre Zukunft anzustellen.

Die Studie unterstreicht die von den weltweit führenden Forschern wahrgenommenen Gefahren im Zusammenhang mit der Entwicklung einer leistungsstarken künstlichen Intelligenz. Rund 68 % der Forscher halten einen positiven übermenschlichen Durchbruch in der KI für eher möglich, obwohl die Hälfte dieser Optimisten immer noch eine Wahrscheinlichkeit von nicht Null für ein mögliches Aussterben der Menschheit hält und erklärt, dass es einen Konsens darüber gibt, der Forschung Vorrang zu geben, um die Risiken der KI zu mindern.

"Es ist ein wichtiges Signal, dass die meisten KI-Forscher es nicht für weit hergeholt halten, dass fortgeschrittene KI die Menschheit zerstören wird", sagt Katja Grace vom Machine Intelligence Research Institute in Kalifornien, Autorin der Studie. "Ich denke, dass dieser allgemeine Glaube an ein nicht geringes Risiko viel aussagekräftiger ist als das genaue prozentuale Risiko."

Andere Gefahren

Die mögliche Entwicklung einer KI, die den Menschen bei allen Aufgaben übertrifft, wird mit 50 % Wahrscheinlichkeit bis 2047 erwartet, während die Möglichkeit, dass alle menschlichen Arbeitsplätze vollständig automatisiert werden können, mit 50 % Wahrscheinlichkeit bis 2116 eintritt. Diese Schätzungen liegen 13 bzw. 48 Jahre früher als in der letztjährigen Umfrage.

In den nächsten zehn Jahren hat künstliche Intelligenz eine mindestens 50%ige Chance, die meisten der befragten Aufgaben zu übernehmen. Dazu gehört die Erstellung von Hits wie dem von Taylor Swift oder die Programmierung eines ganzen Systems zur Abwicklung von Zahlungen von Grund auf. Für Aufgaben wie die physische Installation von elektrischen Leitungen in einem neuen Haus oder das Lösen alter mathematischer Rätsel könnte eine KI jedoch länger brauchen.

Mehr als 80 % der KI-Forscher äußern "extreme" oder "erhebliche" Bedenken hinsichtlich des Potenzials der KI, die Verbreitung von Fehlinformationen zu erleichtern. Ebenso gibt es Bedenken hinsichtlich des Potenzials der KI, von autoritären Machthabern eingesetzt zu werden, die wirtschaftliche Ungleichheit zu verschärfen und an der Schaffung von künstlichen Viren beteiligt zu sein.

Können wir KIs trainieren, um die Apokalypse zu verhindern?

Zwar haben führende KI-Unternehmen wie OpenAI und Anthropic Leitlinien für die Anpassung von KI an menschliche Werte aufgestellt. Aber werden diese Methoden bei KI-Modellen, die schlauer sind als Menschen, wirklich funktionieren? Die Wirksamkeit dieser Maßnahmen bei KI-Modellen, die weiter fortgeschritten sind als der Mensch, bleibt eine Unbekannte, da die aktuelle KI nicht so intelligent ist.

Dennoch hat diese Technologie eine Menge zu bieten. Experten schätzen, dass die KI bis 2033 in der Lage sein wird, LEGO zusammenzubauen, neu entdeckte Sprachen zu übersetzen und Videospiele zu entwickeln. Bis 2063 soll die KI chirurgische Aufgaben und sogar die eigene Forschung der KI-Experten übernehmen können.

Quellenhinweis

Katja Grace, Harlan Stewart, et.al. Thousands of AI authors on the future of AI