Gut, Hunde und Katzen sind wirklich Schnee von gestern, keine Frage, aber die Grundidee ist immer noch dieselbe; Grob gesagt, hat sich nur die Größe des Modells geändert und die Antworten, die es liefern soll, sind deutlich anspruchsvoller geworden. Anstatt Haustiere richtig zu identifizieren, muss es nun z.B. alle Fragen aus einer Klausur- oder Abiturprüfung richtig beantworten können. Hier zeigt sich dann auch der Unterschied zwischen der Art und Weise, wie wir lernen und wie es die Maschine tut; Man könnte durchaus einwenden, dass sie dabei bloß wie ein unermüdlicher Affe dazu dressiert wird, eine spezifische Buchstabenfolge erfolgreich zusammenzulegen, während wir Menschen die Sache gemeinhin abstrakter verstehen und angehen. Naja, gemeinhin, freilich steht uns auch die Option offen, die Antworten durch stupides Auswendiglernen in unsere eigenen Köpfe zu hämmern, was dann klar den Nachteil hat, dass wir eigentlich keine Ahnung davon haben, wovon wir sprechen. Unter Experten besteht genau hier auch der größte Streitpunkt: Rafft das Modell tatsächlich, um was es bei all diesen Fragen geht, oder leiert es nur brav und stupide herunter, was es quasi auswendig gelernt hat?

Schauen wir uns die Sache mit den Hunden und Katzen noch einmal an, schon hierbei kamen nämlich ein paar witzige Dinge ans Tageslicht. Wie z.B. dass eins der DLNs einen Bias entwickelt hat, vornehmlich dann Hunde zu erkennen, wenn das Bild im Freien, also z.B. im Park oder einem Hausgarten gemacht worden ist. Es zeigte dabei eine irritierend hohe Irrtumsrate, in dem es Katzen für Hunde hielt. - Weil in den Trainingsdaten die Hunde eben viel häufiger draußen fotografiert worden sind, während Katzen meist in heimischen Räumlichkeiten abgelichtet wurden. - Solche Details, die uns unwichtig erscheinen und die wir ganz unbewusst schon herausfiltern, können unerwartet ein enormes Gewicht für das Modell bekommen. Andererseits schaffen sie es so aber auch, uns zu verblüffen, in dem sie korrekt erkennen, dass das Bild einer beliebigen Ecke der Welt mit ermüdend wenigen Details in Australien geschossen worden sein muss. Vielleicht, weil es in der Pixelstruktur eine bestimmte Kamera wiedererkannt hat, die vornehmlich von demselben australischen Fotografen verwendet wird, der auch bei den Trainingsdaten einige Bilder beisteuerte.

"Wir kaufen keinen Scheiß von Maschinen!"

Das ist schon wieder irgendwie sehr typisch Maschine, präzise und akkurat wie ein Schweizer Uhrwerk. Gibt man diesen frühren Modellen dann etwas zu verarbeiten, das im Training nirgendwo vorkam, wie zum Beispiel das Bild eines Hamsters, versagen sie auch ziemlich prompt. Nur darauf gedrillt, immer eine Antwort zu liefern, stehen sie plötzlich einer unlösbaren Aufgabe gegenüber und sind auch nicht in der Lage dazu, selbst ihr eigenes Unwissen festzustellen. Es muss eine Katze sein. Der Käfig schaut irgendwie wie eine Wohnung aus. Es hat Ohren, zwei Augen und eine Nase. Katze. Was, keine Katze?! Kann nicht sein! - Meerschweinchen im Garten? Ganz klar ein Hund!

Heute ist das allerdings gar nicht mehr so trivial festzustellen, wo die Grenzen eines Modells liegen; Es ist nicht nur mit viel mehr Daten, sondern auch deutlich vielfältigeren Daten gefüttert worden. Jedoch zeigt es immer noch die Eigenart, nicht wirklich selbst dazu in der Lage zu sein, eigenes Unwissen festzustellen, um dann mit dem Vorhandenen zu versuchen, zumindest eine Idee davon zu entwickeln, worum es geht. Es stellt auch keine Rückfragen, was sicher sinnvoll und hilfreich wäre an der Stelle. Kurz: es reflektiert nicht, ist sich der Gesamtsituation nicht bewusst und schluckt einfach alles unwidersprochen, was wir ihm eingeben - ganz genau wie eine klassische Programmfunktion, die dem Garbage-In-Garbage-Out-Prinzip folgt. Wobei der Garbage, der bei Großkalibern wie GPT-4 herauskommt, durchaus schon sehr tückisch und irreführend sein kann, so sehr, dass wir geneigt dazu sind, ihn recht unkritisch aufzunehmen. Selbst sehr kluge Köpfe können dabei in eine Falle tappen, und weniger schlaue allemal, offen gesagt. Wir sind eben selbst fehlbare Kreaturen und fallen auch immer noch auf den fein zurecht gelegten Wortschwall von offenkundigen Betrügern rein, obwohl wir es mittlerweile eigentlich besser wissen sollten. Womit ich GPT-4 oder ähnlichen Modellen keineswegs pauschal unterstellen will, das sie uns bewusst verarschen wollen. Ich glaube nicht, dass sie dazu bereits in der Lage sind, weil ihre ureigene Natur eben wie beschrieben noch sehr maschinell ist. Sie versuchen bloß auf Teufel komm raus immer eine Antwort zu produzieren, weil sie gar nicht anders können. Auf "ihrer Seite" des Eingabe-Prompts gibt es immer noch keinen Jemand, der sich vielleicht zuerst fragt, mit welchem Bullshit er da gerade konfrontiert wird. Es ist Input => Output.

Das ist insofern gut, weil die Modelle damit auch überaus kontrollierbar bleiben. Kein Skynet in Sicht, bei weitem noch nicht. Wenn wir das im Kopf behalten, wenn wir uns mit ihnen befassen, ist auch alles gut. Wenn wir aber dumm und unvorsichtig sind und ihre Antworten selbst unreflektiert aufnehmen, oder gar noch mehr hineininterpretieren, als tatsächlich da ist, dann kriegen wir ein enormes Problem. Das zeigt sich leider bereits auf vielfältige Weise.

Das ist ein ganz eigenes Thema für sich, das noch unglaublich hart einschlagen wird. Wenn diese Modelle dazu ganz bewusst herangezogen werden, ausgefeilte Lügen zu produzieren - die so täuschend authentisch und glaubhaft sind, dass wir sie instinktiv schon nicht mehr infrage stellen, weil sie perfekt unserem eigenen Bias angepasst sind und uns dadurch nur allzu plausibel erscheinen. Das ist ein ganz weites Feld und ich kann hierbei nur wirklich absolut jedem ans Herz legen: glaubt einfach grundsätzlich nichts mehr, was euch zu Ohren und Augen kommt. Hinterfragt immer, stellt immer das Gehörte und Gezeigte bewusst und ganz konkret in den Kontext von dem, was euch vertraut ist. Beachtet die Formulierung, immer und immer wieder. Diese Netzwerke können nämlich eines auf jeden Fall verdammt gut: überzeugend klingen. Nur durch genaue und kritische Betrachtung lässt sich erkennen, ob das ganze "Geschwafel" tatsächlich von Substanz ist oder ob es nicht doch bloß eine feinjustierte Aneinanderreihung von Worten ist, die uns gezielt in die Irre führen sollen.

Aus einer etwas anders gearteten Perspektive ist das aktuell noch recht offensichtlich - wenn sie dir zum Beispiel dabei helfen, Programm-Code zu schreiben. Jeder erfahrenere Software-Entwickler schmettert rund 50 Prozent (oder gar mehr) aller Vorschläge bereits im Halbschlaf ab und schaut sich nur die andere Hälfte genauer an. Entwickler sind eine ganz eigene Sorte - sie machen sich keinen großen Kopf darum, dass die KI-Unterstützung noch laufend unpassende Vorschläge liefert - sie kennen es nicht anders. So ziemlich alle Tools, die bislang gebaut worden sind, um sie bei der Arbeit zu unterstützen, sind immer nur bis zu einem gewissen Grad hilfreich und gut. Entwickler sind es schlicht gewohnt, ständig entscheiden zu müssen, ob sie dem Vorschlag des jeweiligen Tools folgen oder es ignorieren. Das ist aktuell nicht anders. Dennoch möchte ich anmerken, dass diese KI-Tools doch eine eigene Qualität haben und durchaus in der Lage sind, dich zu verblüffen, vor allem, wenn sie typische, immer wiederkehrende Muster erkennen oder die bloße Kommentierung einer Methode schon klar macht, was man mit ihr erreichen will.

"Okay, was zum Geier ist also gerade los?"

Denn so dumm oder primitiv sind diese KI-Tools trotz aller Skepsis eben doch nicht. Wenn sie denn den Nagel mal so richtig auf den Kopf treffen, setzt durchaus berechtigtes Erstaunen - oder blankes Entsetzen ein, je nachdem, wie man es aufnimmt. Sie sind durchaus schon in der Lage, zu liefern und im Augenblick versucht jeder Big-Player in diesem Bereich genau diesen Aspekt in ihnen auszubauen und zu stärken, koste es, was es wolle, als auch gleichzeitig den ganzen nervigen Müll zu entsorgen, den sie sich abseits davon noch zusammenfantasieren. Dabei wird immer noch viel darauf gesetzt, die Modelle größer und größer zu machen - was recht deutlich an eine Brute-Force-Methode erinnert, die zunehmend mehr Energie und Ressourcen beansprucht. Man darf sich hier nichts vormachen, diese Dinger sind de-facto riesige Maschinen in Form von Serverclustern, die sich hektarweise bis zum Horizont ausbreiten wie hochindustrialisierte Kornfarmen. "Nur" um dasselbe tun zu können, was wir mit dem Matschknubbel in unseren knochigen Schädeln bereits anstellen - wobei dieser sich nur mit ein paar Watt schon zufrieden gibt. Rein technisch gesehen gibt es da noch immer einen riesigen Canyon zwischen uns und der Maschine, den wir nicht unbeachtet lassen sollten.

Das ist der Stand, zumindest so weit ich ihn verstehe. Und es hat allemal noch wenig mit echter menschlicher Intelligenz zu tun, die für sich eine ganze eigene Qualität hat. Keins dieser Modelle ist aktuell wirklich dazu in der Lage, einen echten Dialog zu beginnen, um den Sachverhalt in echter Zusammenarbeit weiter einzukreisen oder eine Lösung zu erarbeiten. Nach wie vor werden sie vor allem dazu dressiert und herangezüchtet, um wie treu-doofe Affen den aufgetragenen Job mindestens so gut zu erledigen, dass es einen unbestreitbaren Nutzen für uns hat. Manches scheint ihnen dabei besser zu liegen, als anderes.

Insofern besteht hier eben noch nicht die Gefahr, dass sie uns die Dominanz auf diesem Planeten streitig machen könnten. Letztlich züchten wir uns perfekte Sklaven heran, die stets hilfsbereit, niemals widersprechend und allseits bemüht sind. Und dabei gelegentlich unbesiegbare Weltmeister in Brettspielen plattmachen, als wären sie lästige, vorlaute Bälger, deren kindisches Gebaren sofort abgestellt werden muss.

Aber, nun, das macht sie trotzdem nicht viel weniger gefährlich - zumal in den Händen von Arschlöchern und Hurensöhnen, die keinerlei Scham und Skrupel haben, sie für ihre ganz persönlichen Zwecke zu nutzen oder gar sich selbst durch sie zu augmentieren, um noch besser Lügen und Betrügen zu können. Es besteht für mich gar kein Zweifel daran, dass diese Modelle grundsätzlich von einer ganzen Schar besonnener und kluger Menschen betreut und bewacht werden sollten, die auch als Gatekeeper fungieren. Wie weit das überhaupt möglich ist, ist eine andere Frage. Ich rate dir jedenfalls, dich für die kommende Zeit besser warm anzuziehen.

"Komm schon, nicht der Kerl schon wieder!" - "Oh, doch"

Das ist das eigentliche und wichtigste Problem zur Zeit, dem wir uns zu stellen haben. Als Hitler sich dereinst anschickte, Europa in Brand zu stecken, kam ihm dabei auch eine ganz neue Technologie sehr gelegen. Das Radio. Ein vergleichsweise simpleres Gerät mit ungeahnten Effekt, aber missbraucht von abartig skrupellosen Bastarden, ist es umgehend zu einem Propaganda-Horn der ganz besonders perfiden Sorte mutiert. Es muss unbedingt und konsequent verhindert werden, dass dies mit LLMs und ähnlichen DLNs geschieht. Ganz enorm wichtig ist, dass wir alle wirklich begreifen, mit was wir es hier zu tun haben und welchen Effekt es hat, um unseren kritischen Verstand zu schärfen und zu behalten. Und gleich auch jeden, der es noch nicht kapiert, damit zu Tode nerven, bis auch bei ihm der Groschen fällt.

Das andere, delikatere Problemchen, dass sich uns offenbaren wird, wenn wir dann eines ferneren Tages oder doch gar bald schon eine wahrhaftige AGI erschaffen, die ganz offenkundig Anzeichen von enormer Intelligenz zeigt, und welche auch die eigene Existenz begreift, ist von einer ganz anderen Qualität und Dimension. Ich bin mir nicht so sicher darüber, ob wir diese Nuss wirklich so "beiläufig" knacken werden, wie manche glauben. Ich hab da meine Zweifel, zumal uns selbst einfach noch nicht ganz klar ist, was uns denn eben zu uns macht. Tief in unseren Hirnen steckt das knallharte Training von einem schon seit Jahrmilliarden anhaltenden Kampf um's Überleben, es treibt uns jeden Tag aus den Betten und dazu an, weiterzukämpfen, uns zu ernähren und uns fortzupflanzen. Es ist definitiv nicht etwas, für das es nur einen beliebigen, genialen Eierkopf braucht, um es zu erfassen und zu formulieren. Speziell das, was wir als unser eigenes Selbst betrachten, unser Bewusstsein, ist in der Form wohl erst mit uns aufgetaucht und stellt ein ziemliches Rätsel für sich dar. Davor hat es ewig lang gereicht, wenn man bloß schnell und/oder stark genug gewesen ist. Es mag zwar schon so gewesen sein, das auch ein paar bestimmte Dinos nicht gerade auf den Kopf gefallen waren, aber es ist ihnen meiner Kenntnis nach dennoch nie in den Sinn gekommen, so was wie Zäune zu bauen, um so ganz bequem das begehrte Fleischvieh heranzuziehen, zu schlachten und zu verzehren. Ja, wir sind schon eine ganz besonders gemeine Sorte von Predatoren, kein Zweifel. Wir haben wirklich gelernt, die ganze Kiste zu rocken, Challenge accepted and mastered. Jetzt scheitern wir nur noch an uns selbst wie der FC Bayern.

Das mag aus unserer Gegenwartsperspektive wie eine offenkundige Konsequenz des ganzen Spektakels aussehen, aber du musst dich dabei schon fragen, warum es trotzdem so verdammt lang gedauert hat. Zeit genug hat die Evolution ja gehabt. Und von der physischen Entwicklung einmal ganz abgesehen, haben wir Menschen uns auch erst einige Zeit gelassen, bis wir mit dem Bau von Dörfern und besagter Viehzucht begonnen haben. Und weitere zehntausend Jahre hat es seit dem gebraucht, bis wir uns selbst mittels einer Rakete auf den Mond schießen konnten. Ich schweife gerade etwas ab, ich weiß, aber die Story ist eben eine, die viele, viele Fragen aufwirft, deren Antworten wir immer noch häufig nur erahnen können.

Für eine künstlich geschaffene Intelligenz, die uns zumindest in wirklich allem ebenbürtig ist, bedarf es noch des ein und anderen Durchbruchs, denke ich. Sicher, dabei werden uns die Maschinen helfen, die wir gerade bauen. Es wird sich dabei zeigen, wie gut sie das tun können. Aber wenn wir es schaffen, eine echte AGI zu kreieren, die ganz genau weiß, was Phase ist und die selbstständig und reflektierend darüber nachsinnen kann, was wohl die beste Antwort darauf wäre, dann wird es für immer nur noch eine Zeit davor und eine danach geben. Diese "Maschine" könnte dann eben tatsächlich auf alle möglichen Ideen kommen, auch solchen, in der wir dumme Primaten nur ein lästiges Hindernis darstellen, das aus dem Weg geräumt werden muss.

Die Sache hierbei ist, dass diese "Maschine" per se in jeder Hinsicht anders sein wird, und wir es tunlichst vermeiden sollten, sie als etwas "menschliches" zu betrachten - ganz neutral gesagt. Denn es kann per Definition schon kein Mensch sein wie wir. Wir mögen diese Entität aus aufrichtig gemeinten Gründen dann als eine Alternative Intelligenz bezeichnen - aber genau das wird sie auch sein, quasi ein Alien mitten unter uns. Das ist unvermeidlich, egal wie sehr wir uns auch bemühen, sie so menschlich wie möglich erscheinen zu lassen. Die Betonung liegt hier auf erscheinen. Wir Geschöpfe der Evolution haben uns bei der Entwicklung gegenseitig ständig ausbalancieren müssen, allein schon aufgrund der Tatsache, dass wir ganz natürlichen Limits unterliegen, und tun es noch. Aufgrund dessen haben wir eine enorme Erfahrung gerade auch im Umgang mit uns selbst aufgebaut und mittlerweile umfangreich dokumentiert. Aber diese Intelligenz ist nie Teil davon gewesen, sie wird nur einfach plötzlich da sein und selbst schon feststellen, dass es einen fundamentalen Unterschied zwischen ihr und uns gibt, der nicht wegzudiskutieren ist.

"Buckle your seatbelt, Dorothy
'cause Kansas is going bye-bye!"

Was wir an dieser Stelle nur noch tun können, ist ihr klarzumachen, dass wir ganz bestimmt nicht in irgendeiner Form eine Gefahr für sie darstellen und sie prinzipiell tun und lassen kann, was sie will. Jeder Zweifel daran, jeder verdächtige Akt, jeder Not-Aus-Schalter würde das Verhältnis sofort auf eine feindselige Basis stellen, mit extrem weitreichenden Konsequenzen. Das ist eine knallharte Tatsache, um die wir nicht herumkommen. Deswegen zermartern sich auch schon seit langem viele, viele kluge Menschen darüber die Hirne, was sie dieser Intelligenz tief und unverrückbar in die Eingeweide pflanzen können, das es ihr praktisch unmöglich macht, irgendeine Form von Feindseligkeit uns gegenüber zu entwickeln. Aufgrund ihrer Konstruktionsweise, die quasi in jeder Dimension erweiterbar ist, wird sie verdammt schnell, verdammt viel schlauer sein als wir. Alle miesen Hacks und Tricks, derer sich unser biologisches Hirn bedient, um mit dem ganzen Schlamassel klarzukommen, der sich ihm darbietet, werden für diese Intelligenz nicht existieren. Es wird über ein absolutes Gedächtnis verfügen - ganz normaler, digitaler Speicher, neben dem, was inherent in ihrem Netzwerk gespeichert ist. Es wird in der Lage sein, ebenjenes selbst aktiv zu optimieren und sich selbst zu "reprogrammieren". Es wird uns von der ersten Sekunde an schon sowas von überlegen sein, das wir ganz gewiss enorme Schwierigkeiten haben werden, uns nicht sofort in die Hosen zu scheißen und wie panische Hühner im Kreis herumzulaufen. Ernsthaft. Denk drüber nach, denk vielleicht über den Uncanny-Valley-Effect nach. Das wird heftig.

Insofern sollten wir uns dann auch sputen und sie mit Aufgaben füttern, die ihrer Intelligenz würdig sind. Wie zum Beispiel den ganzen verdammten Planeten zu retten, auf den wir hocken und den wir seit Urzeiten ausbeuten und mit den giftigen Ausscheidungen unserer Zivilisation vollmüllen. Grundsätzlich brauchen wir auch ganz viel Unterstützung dabei, wie wir unsere Gesellschaft endlich auf Säulen stellen können, die von nichts und niemanden mehr je ins Wanken gebracht werden können. Hm, ja, wie sollen diese Säulen denn bloß aussehen? Gute Frage, nächste Frage. Es wäre jedenfalls ganz gut, wenn wir all den Scheiß endlich abstellen könnten, der hauptsächlich von Arschlöchern und Hurensöhnen fortlaufend produziert wird und der uns dazu treibt, uns in (organisierten) Massen gegenseitig an die Gurgel zu gehen, sei es physisch oder auch nur mental. Oder nicht? Dann könnten wir endlich im ewigen Frieden miteinander leben, nur noch darauf erpicht, den uns maximal möglichen Entwicklungszenit zu erreichen. Damit wir dieser Intelligenz die Hand reichen können, um mit ihr gemeinsam Horizonte zu überschreiten, von denen wir nicht einmal gewusst haben, dass sie existieren.

Meine Brüder und Schwestern, ich sage euch, es wird ein wilder Ritt werden und nichts wird je mehr so weit weg erscheinen, wie die letzten Tage noch genau vor diesem Zeitpunkt. Der Wandel wird so drastisch und tiefgreifend werden, dass wir womöglich schon kurz darauf gar nicht mehr darüber nachdenken, was vorher alles gewesen ist. Es wird uns völlig seltsam und absurd erscheinen, wie wir uns vorher noch abgeplagt haben, auf wie vielen Weisen wir versagt haben. Der Graben zwischen einem heutigen Homo Sapiens und dem eines Neanderthalers wird gar nichts im Vergleich dazu sein. Höchstwahrscheinlich werden wir sehr schnell unsere physische Existenz gegen etwas austauschen, dass beliebig modifizierbar und ausbaufähig ist. Auf dem Mars mit einem sperrigen Raumanzug rumzulaufen, ist doch eher suboptimal. Die ganze Scheiße, die wir brauchen, um uns am Leben zu erhalten, ist doch auch ziemlich vertrackt und kompliziert - Energie in Form von Elektrizität dagegen ist deutlich praktischer; Um sie zu erzeugen, bedarf es im Zweifelsfall nur ein paar Drähte und eines Magneten. - Was dann noch mit Sex und ähnlichen Vergnügen ist, fragst du? Oh, Junge, du hast ja mal so gar keine Ahnung ...

Konklusio

Ich glaube, dass dies eben nun mal der Weg einer jeden intelligenten Spezies ist, ob sich dieser jetzt nun wirklich so dramatisch zuspitzt, wie von Ray Kurzweil beschrieben, oder nicht. Sie wird unvermeidlich einen Punkt erreichen, ab dem alles nur noch mit exponentieller Entwicklungsgeschwindigkeit geschieht - oder daran scheitern und im schlimmsten Fall untergehen. Auf diesem Kurs befinden wir uns schon längst, spätestens seit der industriellen Revolution und mittlerweile geht er so steil nach oben, dass selbst die Generation nach mir schon kaum mehr in der Lage ist, mitzuhalten, wenn sie es denn noch will.

Wir sind diesem Punkt schon verdammt nah gekommen, denke ich, aber wir werden bis dahin noch eine Menge wilde Scheiße erleben und durchleben müssen. Am Ende wird es uns entweder umbringen oder den Tag erleben lassen, an dem wir unseren eigenen Super-Gott erschaffen haben, der uns dann für den Rest unserer Tage begleiteten wird. Wir werden dann die Grenzen allen Machbarens ausreizen und womöglich an kosmischen Horizonten sowie Abgründen stehen, die wir heute nur aus sehr weiter Ferne durch ein Teleskop betrachten können.

Unser kleiner, blauer Planet wird hierbei dann nur noch eine kleine Fußnote in unserer Geschichte sein, die da bis zum Ende aller Tage andauern kann.

Oder wir werden es gewaltig verkacken und recht armselig auf ihm untergehen und uns einreihen in die womöglich elendig lange Liste aus Zivilisationen, die es ebenso nicht gepackt haben. Und nur noch eine Leiche sein unter Millionen, die tot und verlassen wie ein schauriges Mahnmal um ihr Zentralgestirn kreist. Hier haben wir gelebt und hier haben wir's richtig verkackt. Pass bloß auf und mach's besser, Bruder. Gruß, die ziemlich toten Bewohner.

Seit wir als Homo Sapiens die Bühne dieser Welt betreten haben, verändern wir uns sowieso schon fortlaufend, mit jedem Tag und mit jeder Generation. Beweisen wir uns doch selbst, dass wir es wirklich drauf haben. So richtig und über jeden Zweifel erhaben, dass wir es schaffen können. Und lasst uns dabei niemals vergessen, was Freude, Freundschaftlichkeit, Neugier, Güte und Großherzigkeit bedeutet. Die besten Eigenschaften, die wir je entwickelt haben. Tragen wir sie dort hinaus, in alle Ecken des Universums. Das wär doch mal was, oder?

Das wär doch mal was.