Warnung vor dem Aufstieg der KI!
Am 1. Mai gab der Informatiker Geoffrey Hinton sein Ausscheiden aus Google bekannt, weil er Bedenken in Bezug auf die von ihm mitentwickelte Technologie hat. Seine Sorge gilt der zunehmenden Intelligenz der Technologie. Dr. Hinton ist nur einer von einer wachsenden Anzahl einflussreicher Personen, die vor einer neuen Generation von KI-gestützten Chatbots wie ChatGPT warnen. „Im Moment sind sie noch nicht intelligenter als wir, soweit ich das beurteilen kann. Aber ich denke, sie könnten es bald sein“, sagte er der „BBC“. „[W]as wir sehen, ist, dass ein Programm wie GPT-4 einen Menschen in Bezug auf sein Allgemeinwissen in den Schatten stellen, und zwar bei weitem. In Sachen logisches Denken ist es zwar nicht so gut, aber es beherrscht bereits einfaches Denken. In Anbetracht des raschen Fortschritts erwarten wir, dass sich diese Dinge schnell verbessern werden. Aus diesem Grund müssen wir uns Gedanken darüber machen.“
Die aufkommenden Risiken verstehen
Die Entwicklung der KI birgt „tiefgreifende Risiken für die Gesellschaft und die Menschheit“, so Dr. Hinton in „The New York Times“. „Sehen Sie sich an, wie es vor fünf Jahren war und wie es jetzt ist. Übertragen Sie den Unterschied zu damals auf die Zukunft. Das ist beängstigend. Es ist schwer vorstellbar, wie man verhindern kann, dass die negativen Kräfte dies für ihre Zwecke nutzen.“ Er führte weiter aus: „Die Vorstellung, dass diese Technologie tatsächlich intelligenter werden könnte als der Mensch – daran haben ein paar Leute geglaubt. Die meisten aber hielten es für völlig abwegig. Und auch ich hielt es für abwegig. Ich dachte, das sei mindestens 30 bis 50 Jahre oder noch weiter entfernt. Natürlich glaube ich das nicht mehr.“ Es geht nicht nur um Intelligenz. Das ist der Punkt, an dem die Dinge sehr beunruhigend werden. KI könnte Menschen gezielt manipulieren und vielleicht sogar einen Weg finden, sie zu vernichten. „Falls sie viel intelligenter wird als wir, dann wird sie sehr gut im Manipulieren sein, weil sie das von uns gelernt hat, und es gibt nur sehr wenige Beispiele dafür, dass ein intelligenteres Wesen von einem weniger intelligenten Wesen beherrscht wird“, so Dr. Hinton in einem Live-Interview auf „CNN“. „Es weiß, wie man programmiert, daher wird es Wege finden, die von uns auferlegten Beschränkungen zu umgehen. Es wird Möglichkeiten finden, Menschen zu manipulieren, damit sie tun, was es will.“ Wie also sieht also die Antwort aus? „Mir ist nicht klar, ob wir dieses Problem lösen können. Ich glaube, wir sollten uns intensiv mit der Frage beschäftigen, wie wir diese Aufgabe bewältigen. Im Moment sehe ich keine Lösung.“
Einen Schritt zurück tun?
Im März baten der Tech-Milliardär Elon Musk und mehrere Sachverständige darum, die Entwicklung von KI-Systemen zu bremsen. Dadurch sollte sichergestellt werden, dass diese sicher seien. Die Bereitstellung von GPT-4, einer wesentlich leistungsfähigeren Version der von ChatGPT verwendeten Technologie, gab Anlass zu einem offenen Brief, der von über 1 000 KI-Fachleuten, darunter Musk und Apple-Mitbegründer Steve Wozniak, unterzeichnet wurde. Interessanterweise gehörte Dr. Hinton nicht zu den Unterzeichnern. „Ich glaube nicht, dass wir den Fortschritt aufhalten können“, sagte er gegenüber „CNN“. „Ich habe die Petition nicht unterschrieben, die uns auffordert, die Arbeit an der KI abzubrechen, denn selbst wenn die Menschen in Amerika damit aufhören, werden es die Menschen in China nicht tun.“
Schlüsselbegriffe
KI, Google, Geoffrey Hinton, Technologie, Chatbot, ChatGPT, GPT-4, Intelligenz