Stillstand im Fortschritt: Der paradoxe Umgang mit KI

1969 gelang es der Menschheit, mit Apollo 11 auf dem Mond zu landen. Ein gigantisches gesellschaftliches Vorhaben mit unzähligen möglichen Single Points of Failure. Vor Kurzem haben wir dann das James Webb Teleskop erfolgreich ins All geschossen – und aufgebaut – mit sage und schreibe 344 Single Points of Failure. Und doch: Bei jedem beginnenden Flugzeugboarding hören wir das vertraute Geräusch von Nadeldruckern. Seit wie vielen Jahrzehnten versuchen wir, synchronisierte Terminkalender (und Termineinladungen) zu lösen? Wie lange werden wir noch Suchen-und-Ersetzen verwenden?

Während wir unaufhörlich kleine, aber inkrementelle Fortschritte machen, sind die wirklich großen Herausforderungen, die uns als Unternehmen und Gesellschaften antreiben sollten, noch weitgehend unberührt. Unstrukturierte Daten türmen sich in unseren Systemen. Wir widmen uns weiter mit Inbrunst dem Kleinteiligen. Während wir gleichzeitig die großen Herausforderungen in den Hintergrund drängen. Unsere Zeit ist endlich. Haben wir aufgegeben?

Talk+ (Vortrag zum Nachlesen)

Wer würde denn gerne mal zum Mars fliegen? Tatsächlich gehen ein paar Hände hoch. Oft ist es aber auch so, dass keine einzige Hand hochgeht - zu viele negative Konnotationen zum Mars. Elon ist da nur eines der Probleme. Für viele ist es keine besonders reizvolle Idee, für andere wiederum total. Aber ich würde euch gerne mitnehmen - lasst uns mal probieren, dorthin zu fliegen.

Kurz zu mir, bevor wir einsteigen: Ich bin Robert von INNOQ und dort Head of Data und AI. Nebenbei mache ich noch einen Podcast - wenn euch das interessiert, hört gerne mal rein. Meine Kollegin und ich sprechen dort mit den verschiedensten Menschen zum Thema AI. Wir hatten schon spannende Gäste dabei: einen Designer, einen FAZ-Journalisten, eine Verhaltensmathematikerin und weitere. Wir sind noch relativ frisch, haben also noch nicht allzu viele Folgen.

Wer weiß, was diese Dinge hier sind? Die Titelfolie hat es ja schon verraten - das sind Nadeldrucker. Als ich früher noch als Consultant bei uns arbeitete - wir sind ja eine IT-Beratung - bin ich noch viel geflogen. Ein Projekt hatte ich in Zürich, da ging es einmal die Woche zum Flughafen Zürich, hin und zurück. Das ist übrigens kein Foto vom Züricher Flughafen, das stammt aus dem Internet.

Wenn man regelmäßig am Flughafen sitzt, fängt man irgendwann an, sich Fragen zu stellen. Das kennen bestimmt einige von euch. Bei mir war es diese eine Sache: Irgendwann ist es dem Businesskasper oder der Businesskasperin regelrecht ins Blut übergegangen - wenn der Nadeldrucker rattert, muss alles stehen und liegen gelassen werden, das Boarding beginnt. Dieses charakteristische Geräusch ertönt noch bevor die Ansage kommt, dass die Boarding-Gruppen nach vorne kommen sollen. Manche Länder sind mittlerweile so schlau, dass sie das mit den Boarding-Gruppen gar nicht mehr machen. Aber der Businesskasper weiß: Wenn der Nadeldrucker rattert, geht es los.

Ich war damals in einem Digitalisierungsprojekt und fragte mich: Warum? Das kann doch nicht wahr sein! Warum sitze ich hier seit gefühlt Ewigkeiten am Flughafen und höre immer noch ratternde Nadeldrucker? Was ist da los? Wir sind doch eigentlich weiter. In meiner Vorstellung war das das ältestmögliche Museumsstück an Technik, dem man im Alltag noch regelmäßig begegnet.

Bei der Recherche dazu geriet ich in ein regelrechtes Rabbit Hole. Ihr kennt diese Internet-Rabbit-Holes - man fängt an zu recherchieren und landet meistens auf Reddit, wo man dann ewig hängenbleibt. Bei mir begann es auf Twitter - damals hieß es noch Twitter. Interessanterweise stellte nicht nur ich mir diese Fragen. Das Internet ist voll davon: “Warum leiten Nadeldrucker das Boarding ein?” Es gibt unzählige Weisheiten und Witze dazu. Wenn man nach Nadeldruckern auf Social Media sucht, findet man erstaunlich viel Unterhaltsames.

Der Weg führt einen natürlich immer zu Reddit, wo alles erschöpfend von der Community diskutiert wird. Die besten Antworten stehen ganz oben. Die Antwort eines Users - den es mittlerweile scheinbar nicht mehr gibt - fand ich besonders interessant. Sie enthielt vieles, wo ich mich überhaupt nicht hineinversetzen konnte oder wollte.

Aber ein Punkt war faszinierend: Es ist ein UX-Problem, das diese Drucker lösen. Man hält an ihnen fest, weil sie im Gegensatz zu normalen Tintenstrahl- oder Laserdruckern auf einem endlosen Papier drucken können. Bei Passagierlisten ist so ein langes, rollbares Blatt Papier, auf dem man auch wieder zurückgehen kann, ausgesprochen praktisch. Der menschliche Körper interagiert mit einem solchen Stück Papier erstaunlich effektiv.

Und: sie sind einfach verdammt robust. Wer hat denn einen Tintenstrahldrucker zu Hause oder hatte einen? Ich hatte bestimmt schon zehn Stück. Die sind nicht für Robustheit entwickelt, sondern dafür, Tintenpatronen zu verkaufen. Manche nennen das sogar einen Scam.

Aber zurück zu den Nadeldruckern und zu mir als Digitalisierungsconsultant am Boarding Gate der Swiss Air. Da habe ich mich gefragt: Bist du nicht eigentlich ein bisschen überheblich? Da sitzt du, der Businesskasper-Consultant, der den Leuten erzählt, wie sie ihre Digitalisierungsprojekte voranbekommen sollen - oder daran mitarbeitet. Du sitzt am Boarding Gate und rümpfst die Nase: “Ach ihr Deppen, wieso benutzt ihr in Zeiten der Digitalisierung noch Nadeldrucker? Wie lächerlich.”

Im Rückblick fand ich mich da ziemlich überheblich. Und dann fragte ich mich: Liegt uns das irgendwie? Ich sage jetzt “uns”, aber eigentlich meine ich mich - bitte fühlt euch nicht angegriffen. Wenn man in der IT-Branche arbeitet, erwischt man sich schon dabei. Wir lösen ja Digitalisierungsthemen im Kleinen wie im Großen. Man ertappt sich nicht nur bei der Nadeldrucker-Überheblichkeit dabei, wie man urteilt, Leute abstempelt: “Ah, die Deppen, die wissen es nicht besser” oder “Die Drucker stehen da halt seit 1000 Jahren, hat mal jemand vergessen auszutauschen.” Meistens haben die Leute aber gute Gründe.

Wer weiß, was das hier ist? “Rakete” höre ich von vielen Seiten, es geht in die Richtung. Das war das Transportfahrzeug für die Saturn V-Rakete der Apollo 11-Mission, um sie zur Abschussrampe zu fahren. Dieses Fahrzeug hatte keine andere Aufgabe, wurde nur dafür gebaut. Beeindruckend sind die Größenverhältnisse - ein gigantisches Vorhaben, dieses Transportfahrzeug für ein paar hundert Meter zu bauen, das danach nicht mehr benutzt wird. Und das ist nur ein kleiner Teil eines gewaltigen Vorhabens wie der Mondmission. Solche Details großer Projekte zu betrachten und einen Schritt zurückzutreten, finde ich faszinierend.

Wer sich dafür interessiert: Es gibt eine großartige Dokumentation namens “Apollo 11” von Todd Douglas Miller. Ich weiß nicht, wie viele Apollo 11-Dokus es gibt - wenn man auf Netflix danach sucht, findet man sicher einige. Diese ist besonders, weil niemand etwas erzählt. Man sieht nur Originalaufnahmen aus der Zeit der Mission. Es ist eine sehr beobachtende Dokumentation. Ich hing gebannt vorm Fernseher und fand es unglaublich intensiv, weil eben niemand spricht - du bist einfach dabei.

Sie haben enormen Aufwand betrieben, diese alten Filmmaterialien unter anderem mit KI und anderen Verfahren hochzuskalieren. Man bekommt sogar 8K-Neuabtastungen des Materials. Auf einem guten Fernseher ist das extrem beeindruckend. Und nie sagt jemand ein Wort. Absolut empfehlenswert.

Wer weiß, was das hier ist? Das sind Teile des James Webb-Weltraumteleskops. Der Mitarbeiter, den man hier sieht, macht die Endabnahme, bevor das Teleskop gefaltet, verpackt, zur Startrampe transportiert, in die Kapsel verladen und zum Lagrange-Punkt geschossen wird. Ich hätte keinen Bock auf so eine Endabnahme. Das Problem ist: Wenn da ein Staubkorn drauf ist, dann ist es da für immer. Auch das ist wieder so ein Thema der großen Vorhaben.

Das finde ich total beeindruckend - diese Endabnahme, und dann noch mal mit dem Staubwedel drüber, bevor das Teleskop zum Lagrange-Punkt geschossen wird. Wenn ich da etwas vergesse, war es das. Oder wenn der Staubwedel noch schmutzig war vom Bücherregal. Das ist ein echter Single Point of Failure.

Hier sehen wir das ganze Teleskop noch einmal. Gerade haben wir Teile gesehen, jetzt nur noch ein Element. Es ist ein gewaltiges Gerät, wenn auch in den Dimensionen natürlich nicht mit Apollo 11 vergleichbar. Aber es zeigt, was passiert, wenn man in einen Ausschnitt solcher Vorhaben eintaucht. Das waren ja gesamtgesellschaftliche Projekte - Apollo 11 sicherlich noch mehr als James Webb.

Das ist kein gewöhnliches Projekt, keine Digitalisierung, keine Prozessautomatisierung. Was da dranhängt, ist Wahnsinn. Beim James Webb-Weltraumteleskop gab es 344 Single Points of Failure. Für Apollo 11 habe ich keine genaue Zahl gefunden - vielleicht waren es mehr, vielleicht weniger. Aber selbst diese dreistellige Zahl klingt erstmal relativ niedrig. Doch was bedeutet ein Single Point of Failure? Wenn einer dieser Fälle eintritt, ist die Mission katastrophal gescheitert.

Ein Staubkorn kann man vielleicht noch ausgleichen, das ist kein Single Point of Failure. Aber wenn irgendetwas schiefgeht - der Transport zur Startrampe, falsches Verpacken, wenn sich das Sonnensegel am Lagrange-Punkt nicht entfaltet, irgendeine Sicherung rausfliegt - von solchen kritischen Punkten gibt es 344. Dann kann ich die vielen, vielen Milliarden, die in dieses Projekt geflossen sind, abschreiben. Das war’s dann. Man hat kein zweites Exemplar.

Wir wissen ja, dass wir es geschafft haben. Jetzt bekommen wir super schöne Bilder. Wobei - das Ding macht natürlich keine Fotos, auch wenn man sich das so vorstellt. Es nimmt Rohdaten auf verschiedenen Lichtwellenlängen auf, aus denen man dann solche Bilder generieren kann. Die werden auch umfangreich nachbearbeitet, mittlerweile ist da auch viel KI im Einsatz. Es liefert gigantisch viel mehr Daten als das Hubble-Teleskop.

Da habe ich mich gefragt: Warum macht man das überhaupt? Es löst ein Problem, das wir bisher nicht lösen konnten: Wir konnten nicht weit genug in die Vergangenheit schauen. Ihr kennt das alle - wenn Papa oder Mama erzählt haben: “Schau mal da oben, die Sterne am Himmel. Den Stern dort gibt es vielleicht schon gar nicht mehr, weil das Licht so lange zu uns braucht.” Als Kind ist man davon total fasziniert. Mit dem Teleskop können wir das jetzt im großen Maßstab: Wir können so weit zurückschauen, bis zum Ursprung der Photonen und anderen Daten, dass wir quasi die Entstehung des Universums erforschen können. Vieles deutet darauf hin, dass wir das damit entschlüsseln werden. Das ist schon ein gewaltiges Projekt, finde ich.

Also - wer will noch zum Mars? Wer will denn weiter? Ich würde auch lieber weiter. Mars haben wir schon so oft gesehen, wie viele Roboter hatten wir da schon? Elon versucht es immer noch, es wird jetzt wahrscheinlich sehr viel schneller gehen. Aber was sollen wir da? Die Atmosphäre ist giftig, die Schwerkraft ist anders, die Oberfläche ist nicht bewohnbar. Um in Bunkern zu leben, muss ich nicht dorthin.

Eigentlich ist doch interstellare Raumfahrt viel interessanter. Da gibt es vielleicht Sternensysteme mit bewohnbaren Planeten. Vieles deutet darauf hin, dass es sie gibt - das erforscht man jetzt auch mit dem James Webb Teleskop. Ich finde es immer gut, Bücher aus völlig anderen Domänen zu lesen. Avi Loeb ist ein faszinierender Wissenschaftler, der in Harvard lehrt und schon lange Themen wie interstellare Raumfahrt erforscht.

So, wenn wir jetzt sagen: Mars? Nee, lass uns lieber eine Nummer größer denken, irgendwohin, wo vielleicht Leben möglich wäre - dann müssen wir interstellar reisen. Mein eigentliches Thema für den Vortrag - falls wir den Nadeldrucker schon vergessen haben - ist: Lasst uns doch wieder die großen Sachen als Gesellschaft anpacken. Dieses Wühlen im Kleinen und Meckern über “Wieso benutzt ihr nur Nadeldrucker?” nervt. Eigentlich müsste man zwei Schritte zurücktreten und sich wieder die großen Bretter vornehmen und die bohren.

Das tun wir Menschen irgendwie nur ganz, ganz selten. Alle Jubeljahrzehnte mal: Apollo 11, James Webb. So wahnsinnig viel gibt es da nicht. Was wir gut können, sind Kriege dazwischen. Aber bleiben wir mal beim Thema.

Also: Mars - keinen Bock, aus welchen Gründen auch immer. Wir wollen mal zu Tau Ceti oder so fliegen. Was brauchen wir dafür? Zunächst müssen wir schauen, wo wir überhaupt stehen.

In dem Buch von Avi Loeb wird die sogenannte Kardaschow-Skala erwähnt. Dort ordnet man Zivilisationen in Schubladen ein. Wir lieben ja Schubladen, aber manchmal sind sie ganz hilfreich, um zu sehen, wer wo steht. Interstellare Raumfahrt ist einfach das härteste Problem, das eine Zivilisation - müssen nicht die Menschen sein - lösen kann. Es gibt nichts Härteres, das weiß man.

Wo stehen wir denn? Es gibt die Typ-1-Zivilisationen, die können die auf ihrem Heimatplaneten verfügbare Energie vollständig nutzen. Da können wir aufhören zu lesen, weil das können wir nicht. Damit fangen wir gerade erst an, wenn man in großen Maßstäben denkt. Typ 2 - wie gesagt, wir brauchen nicht so weit lesen - kann die gesamte Energie ihres Sterns nutzen, Dyson-Sphäre drumherum bauen, keine Energieverluste. Da geht man schon sehr weit in die Science-Fiction. Und Typ 3 kann die Energie der ganzen Galaxie, in unserem Fall der Milchstraße, nutzen.

Warum brauchen wir so viel Energie? Wenn wir uns anschauen, was interstellare Raumfahrt für eine Energie kostet, merkt man schnell, dass man sie braucht. In dem Buch gibt es einen interessanten Fall, der tatsächlich erforscht wird. Man experimentiert damit, eine winzige Sonde vom Gewicht einer Briefmarke mit einem Laser zu beschleunigen - von der Erde aus oder besser der Erdumlaufbahn, damit man die Gravitation schon überwunden hat. Wir bündeln Lichtenergie auf eine briefmarkengroße Fläche und versuchen, ein Sensormodul mit ein paar Sensoren in Richtung eines anderen Sonnensystems zu schießen.

Ganz klein, aber ein Riesenvorhaben. Man braucht derart viel Energie, um diese Briefmarke auf die nötigen Geschwindigkeiten zu bringen, dass man in den nächsten Jahrhunderten vielleicht noch mitbekommt - wir oder unsere Nachfolgegenerationen - was das Ding dann für Daten zurückübermittelt. Denn die müssen ja auch wieder zurück. Wenn man da einmal eintaucht - nächstes Rabbit Hole - ist es unfassbar. Das ist das größte Problem. Wir haben gesehen: Wir sind noch nicht mal Typ 1.

Was sind wir denn? Das können wir auch nachlesen - sehr eindrücklich: Wir sind eine “Consumer Goods to Trash Civilization”. Wir haben es leider perfektioniert, im industriellen Maßstab Konsumgüter herzustellen, die direkt in die Tonne wandern. Darin sind wir Meister. Man kann es kaum besser machen.

Was begegnet uns noch bei diesen großen Vorhaben? Kennt den jemand? Der “Point of Diminishing Returns” ist ein faszinierendes Konzept, weil es so universell ist. Wir sehen es in der Softwareentwicklung, im Alltag - überall. Die Kurve sieht grundsätzlich so aus: Man forscht an etwas, entwickelt etwas und macht zunächst viele Fortschritte in kurzer Zeit. Aber am Ende flacht die Kurve ab. Ob bei der Entwicklung einer Technologie oder bei großen Vorhaben - dieses Muster sieht man oft. Der Point of Diminishing Returns liegt meist da, wo man sehr viel investieren muss, aber kaum noch Fortschritte erzielt.

Einer unserer Points of Diminishing Returns ist zum Beispiel die Weiterentwicklung des Verbrennungsmotors. Das Ding ist tot, das wissen alle, die Autoindustrie am besten. Aber wie viele Ressourcen haben wir in den letzten Jahrzehnten reingesteckt, um diese Technologie noch minimal zu verbessern? Es gibt in Deutschland eigene Studiengänge für Maschinenbau und Motorenbau - irrsinnig, was wir da als einzelnes Land investieren, nur damit ein Motor vielleicht 0,1 Liter weniger Sprit verbraucht. Leider waren sogar Software-Tricks nötig, weil wir das Ding eigentlich gar nicht mehr so weit bekommen, wie wir es bräuchten, um Gesetze zu erfüllen.

Jetzt wissen wir ungefähr, wo wir als Menschheit stehen. Dann können wir eigentlich loslegen, oder? Wir wollen interstellar reisen. Wenn wir ehrlich sind - darum geht es auch in dem Buch - müssen wir von allem Gelernten zurücktreten, vor allem von uns selbst, und schauen: Was brauchen wir dafür? Eine Prämisse in dem Buch ist, dass wir dafür Software brauchen.

Wo stehen wir denn mit Software? Es gibt da ein paar kluge Leute - Bill Gates hat zwar auch schon viel Unsinn erzählt, wie er selbst zugibt, aber das fand ich eindrücklich: Er brennt seit jeher für Software, sie hat ihn reich gemacht mit Microsoft und seiner Stiftung, mit der er viel Gutes tut. Aber er sagt auch: Software ist immer noch ziemlich dumm. Es ist immer noch so wie damals, als er DOS und Windows mit seinem Kollegen entwickelt und Microsoft gegründet hat. In vieler Hinsicht ist Software immer noch sehr, sehr beschränkt.

Wir brauchen aber Software, um solche großen Vorhaben wie Reisen zu anderen Sternensystemen zu bewältigen.

Weiß jemand, was das hier ist? Keine Sorge, ich will euch nicht mit UFO-Videos langweilen - aber ja, ich zeige euch UFO-Videos. Diese hat das Pentagon erst letztes Jahr freigegeben. Es gab diverse Sichtungen - sie heißen übrigens nicht mehr UFOs, ich habe den neuen Terminus vergessen. Das war eine Sichtung der US Navy. Es gibt fünf Videos davon, man findet sie auch auf YouTube, alle seriösen Medien haben darüber berichtet. Das war hier der Guardian.

Was man da sieht - man hört es auch im Ton - sah aus wie eine Art Kreisel. Die Navy-Piloten haben das gefilmt. Es war zunächst schwierig, das Objekt im Tracking-Sensor ihrer Kameras zu erfassen, weil es sich mit einer Geschwindigkeit bewegte, die nach den Gesetzen der Gravitation eigentlich unmöglich ist. Dann vollführte es Manöver - das sieht man am Ende - wo es plötzlich zehnmal so schnell wie eine Gewehrkugel fliegt und dann abrupt stehenbleibt und sich dreht. Das sind alles Dinge, die eigentlich nicht möglich sind - wurden aber gefilmt und waren lange unter Verschluss. Es gab eine Freigabe, auch Einordnungen vom Pentagon und anderen Behörden. Man kann sich da reinlesen, aber letztlich weiß niemand, was es ist. Ganz am Anfang heißt es ja relativ oft, die Dinger seien chinesische Wetterballonn - das passt hier nicht so ganz. Man weiß einfach nicht, was es ist.

In dem Buch geht es darum: Die einzige Möglichkeit, in ein anderes Sternensystem zu kommen, ist, dass man es nicht selbst tut. Wir können es per Definition nicht selbst tun. In der Science Fiction gibt es viele Lösungskonzepte dafür. Ihr kennt alle den Kryoschlaf - aber so viel spricht technisch dagegen. Es gibt Generationenschiffe, die tausende Jahre zum Ziel fliegen. Da leben dann Generationen von Familien, alles muss erhalten bleiben. Aber auch so ein Schiff verrottet ja. Menschen verrotten auch, wenn man sie lange einschließt - oder eben nicht. Das ist unglaublich kompliziert.

Deswegen ist die Lösung - und das ist die Hypothese von Avi Loeb: Wenn wir das hinkriegen wollen, dürfen wir es nicht selbst machen. Was haben wir denn für Technologien, um etwas nicht selbst zu tun, aber sehr viel Entscheidung, Autonomie und Wissen zu konzentrieren? Das ist tatsächlich die KI. Was in den letzten zwei Jahren passiert ist, und auch schon davor, war ein völlig normaler industrieller Skaleneffekt, gepaart mit dem neu erfundenen Attention-Mechanismus und der Transformer-Architektur. Wir haben eine eigentlich sehr alte Technologie - neuronale Netze sind nichts Neues - durch Skalierung im industriellen Maßstab, durch gigantische Investments - ihr wisst alle, auf welchen Rechnerbergen die großen Large Language Models trainiert werden - so weit gebracht, dass wir heute Wahnsinnssachen damit machen können. Mit allen Nebenwirkungen, die das so hat.

Aber zurück zum Flughafen. Wir sind die IT, was sagen wir? “Das ist doch nur ein statistischer Papagei”, “Generative KI ist doch nur Next Token Prediction”. Ich könnte die Argumente noch fortführen, ist aber müßig. Und da habe ich mich wieder erwischt - das habe nicht ich gesagt, ich habe es aber gehört. Das hat mich so an den Nadeldrucker am Flughafen erinnert, an meine Aussagen dort. Ich sitze hier als Digitalisierer und ordne das erstmal ein. Was ich sage, stimmt wahrscheinlich, weil ich bin Technologe, ich bin ITler, ich bin Software Engineer.

Wir digitalisieren ja die Gesellschaft, wir sagen der Gesellschaft, welche Prozesse sie digitalisieren muss und wie - nur dann geht es weiter. Wir ordnen schon immer die Sachen ein: Entwicklung für Leute, Kunden, Behörden, Firmen. In dieser Rolle waren wir lange sehr gut. Und jetzt sitzen wir im Zentrum des Sturms, der in den letzten zwei Jahren passiert ist. Wir wissen alle nicht, was nächste Woche released wird, das weiß niemand - und wir sagen: “Ach komm, das ist doch nur Statistik.” Ja, natürlich ist es Statistik, aber wir setzen einen Punkt dahinter.

Das hat mich getriggert, deswegen bin ich in dieses Rabbit Hole abgestiegen und habe mich gefragt: Warum sagen wir das denn? Was wollen wir mit solchen Aussagen bewirken? Ich bin auf Recherche gegangen: Was sagen denn die Leute zu dem, was in den letzten zwei Jahren passiert ist, die neuronale Netze schon lange erforschen?

Da ist Professor Sam Bowman von der NYU (heute: Anthropic), der sagt: Es gibt immer mehr Indizien, also substanzielle Beweise, dass Large Language Models interne Repräsentationen der Welt bis zu einem gewissen Grad entwickeln und dass diese Repräsentationen der realen Welt ihnen erlauben, zu einem gewissen Grad “Reasoning” zu betreiben. Niemand versteht aber gerade, warum. Weil die Dinger sind gigantische schwarze Löcher - wieder die Analogie zum All. Wir können da nicht reingucken.

Was Bowman herausgefunden hat: Mit IT-Skills kommen wir denen nicht bei, um sie zu erforschen. Wir kommen ihnen nur mit Geisteswissenschaften näher und vor allem biotechnologischen Ansätzen. Er ist Sprachwissenschaftler, die kommen da rein, aber es ist ein irrsinniger Aufwand. Da stehen wir ganz am Anfang. Wir sind quasi in der Steinzeit der KI, haben aber gerade einen explosiven Sprung hinter uns.

Was sagt er noch? Diese neuronalen Netze können wir sehr klein haben, Machine Learning und so weiter, und bei den Large Language Models sind sie je nach Parametergröße gigantisch. Ich habe gestern hier auf meinem Mac ein 70-Milliarden-Parameter-Modell in den Speicher geladen und habe die Tokens herauströpfeln sehen. Und 70 Milliarden Parameter ist ja mittelgroß, aber wirklich groß ist das noch nicht.

Er sagt, in diesen neuronalen Netzen - die sind nichts Neues - hat man durch schiere Größe Effekte und Fähigkeiten erreicht, die vorher nicht möglich waren. Man hat eigentlich nichts anderes gemacht. Klar, es gab noch die Transformer-Architektur und den Attention-Mechanismus.

Und er sagt, es gibt so viele Verbindungen in diesen neuronalen Netzen, die man sich als Neurowissenschaftler angucken sollte. Dann kann man versuchen zu verstehen, warum sie Dinge können, die ganz offenkundig nicht aus den Trainingsdaten stammen. Das wird erforscht.

Und da habe ich mich gefragt, wieder zurück zum Flughafen und den Nadeldruckern: Wir sind doch die IT. Ich habe mich und viele, die ich kenne, immer so verstanden: Wir sind progressiv, weil wir die Leute in die Moderne bringen. Wer mal wieder leiden will - heute Abend im Hotel, ARD Mediathek, einfach mal “BAföG-Amt” eintippen. Ich hoffe, es ist niemand vom BAföG-Amt hier, ich will auch niemanden dissen, bitte nicht falsch verstehen. Aber es zeigt uns eindrücklich, was wir als Gesellschaft immer noch für Prozesse haben. Da wird ausgedruckt, abgeheftet, wegsortiert, ausgedruckt, eingescannt, Ausdrucke eingescannt. Es ist irre, diese Doku. Man ist ja einiges gewohnt, aber die Doku hat das noch mal wirklich deutlich gemacht.

Trotzdem frage ich mich: Jetzt stehen wir quasi im Auge des Sturms. So ein Durchbruch passiert nicht alle fünf Jahre, auch nicht alle zehn Jahre. Einige sagen, das ist ein technologischer Durchbruch, den man nur einmal in der Generation erlebt. Das heißt, wir, die hier sitzen, erleben das jetzt einmal, und dann vielleicht unsere Kinder noch mal.

Jetzt frage ich mich: Warum sind ausgerechnet wir, die Speerspitze der Digitalisierung, auf einmal so defensiv und sagen “Ja komm, das ist nur Next Token Prediction”, “das ist ein glorifiziertes Autocomplete”, “das ist ein statistischer Papagei”? Da denke ich mir: Ja, so kann man die Technologie natürlich auch framen. Man hat damit nicht völlig unrecht, aber man verkennt, was damit möglich ist und was gerade passiert. Ich will aber auch nicht alles glorifizieren, nicht hier stehen und sagen: “Das ist der heilige Gral, wir haben ihn endlich gefunden.”

Es gibt smarte Leute, zum Beispiel von Apple - die Studie GSM-Symbolic ist noch gar nicht so alt, ein paar Wochen. Die forschen auch. Unternehmen werfen jetzt Wahnsinns-Investments rein, auch Apple, auch wenn sie etwas spät dran sind. Die haben Top-Leute und forschen daran: Können diese Systeme wirklich räsonieren? Sie kamen zum Schluss: Nach mathematischem Verständnis können sie es nicht. Okay, also widerlegt: LLMs können formal-definitionsmäßig kein Reasoning machen.

Jetzt könnten wir als ITler sagen: “Ja, hab ich doch gesagt, die können nicht nachdenken, die können kein Reasoning machen.” Gestern ist OpenAI’s Reasoning-Modell o1 erschienen, inkl. o1 Pro - das sind Reasoning-Modelle, das sind andere Skalierungsansätze. Wenn wir uns immer wieder hinstellen und sagen “Ja, aber lass uns erstmal gucken, kann dieses Ding Reasoning nach Formaldefinition?” - wir haben geforscht, geforscht, geforscht, ein Paper beweist, dass es das nicht kann. Was aber passiert, ist, dass Menschen es erfolgreich für Reasoning einsetzen.

Ich finde die Menschenanalogie bei dieser Technologie immer sehr interessant. Ich selbst kann nicht behaupten, ich könnte formal-definitiv Reasoning - kann ich nicht. Ich bin eine Katastrophe in Mathe. Ich setze mich auch nicht hin und mache alles formal-definitiv korrekt. Die Frage ist: Wer von uns tut das? Und wir können ja trotzdem viel bewegen als Menschheit, auch wenn wir in der Mehrheit wahrscheinlich nicht nach Formaldefinition Reasoning können.

Deswegen habe ich ChatGPT gefragt, wie man das nennt, wenn wir als Technologen so eine Aussage wie “Das ist doch nur ein statistischer Papagei” treffen, um eine Technologie jemandem zu erklären, der nicht aus der Technologie kommt. ChatGPT hat relativ schnell gesagt: Das ist eine ganz bekannte Form von Gatekeeping. Jetzt frage ich mich: Sind wir jetzt auf einmal Gatekeeper? Wir sind doch die Progressiven. Wir zeigen doch allen, wie man eine Gesellschaft, wie man Organisationen digitalisiert. Warum sind wir jetzt auf einmal die Stillen? Oder warum sind wir noch nicht still, sondern sogar voreilig im Framen?

Diesem Mann solltet ihr folgen: Ethan Mollick. Der hat gar nichts mit KI-Entwicklung oder Informatik zu tun, ist eigentlich Wirtschaftsprofessor an der Wharton School. Er hat aber relativ schnell erkannt, was in den letzten zwei Jahren passiert, hat sofort seine Curricula umgeschmissen, baut alles neu auf. Er hat gesagt: Das Ding ist jetzt in der Welt. Wer bin ich, meinen Studenten zu sagen “Benutzt das nicht” oder “Lernt erstmal zu Fuß eure Business- und BWL-Skills, dann dürft ihr vom goldenen Trunk kosten”?

Es gibt ja viele solcher Gatekeeping-Mechanismen. Wir wissen aber alle: Was verboten ist, wird sofort benutzt. Er schaut sich relativ viel an und forscht aus der Sicht eines Menschen, der eigentlich kein Technologe ist. Er ist natürlich nah an der Technologie, aber ich finde es immer hilfreich mir anzugucken, was andere Leute damit machen, die nicht aus meiner Branche kommen. Oft sitzt man doch zu lange in seinem Silo.

Er sagt: Hier passiert gerade etwas, was man nicht oft sieht. Die üblichen Wege, Technologie für andere zu erklären und zu erschließen - was unsere Aufgabe ist - funktionieren auf einmal nicht mehr. Nichts funktioniert hier mehr, es steht alles Kopf.

Man kann das von verschiedenen Enden des Spektrums beleuchten: Blue Collar Work, White Collar Work. Wir machen ja White Collar Work - auch wenn wir meistens keine weißen Hemden tragen, aber wir sind Wissensarbeiter in dem Sinne. Die Blue Collars haben schon diverse industrielle Revolutionen und Iterationen hinter sich, die sind Disruption gewohnt. Es wird auch nicht alle zehn Jahre eine Dampfmaschine erfunden, aber die können damit umgehen. Die sind organisiert, haben Gewerkschaften. Die Industriearbeiter sind nicht geschockt, wenn jemand etwas Neues erfindet und ihre Arbeit plötzlich nicht mehr dasselbe wert ist wie vorher.

Wir sind das, glaube ich, gar nicht so gewohnt und wir sehen gerade mehr oder weniger bewusst nicht, dass es uns an den Kragen geht. Man kann das sehr radikal formulieren - ich sehe das persönlich nicht so.

Erik Meijer - kennt ihr vielleicht, bekannter niederländischer Informatiker, tritt auf allen möglichen großen Konferenzen auf - hat jetzt einen Talk gegeben. Er ist ja relativ harsch und ein sehr unterhaltsamer Typ. Er hat gesagt: “Ich habe für mich festgestellt, ich bin die letzte Generation von Programmierern. Ich hatte nie Bock auf Commit Messages, ich hatte keinen Bock auf Stand-ups, ich hatte keinen Bock auf Scrum-Rituale. Ich wollte doch einfach immer nur coden.” Und er meinte ganz ehrlich: “Ich wette darauf, ich bin der letzte meiner Generation, die diesen Skill fulltime als Arbeit leben wird. Also lasst uns doch einfach Spaß haben dabei.”

Worauf ich hinaus will: Es ist ganz paradox, was hier gerade passiert. Meiner Wahrnehmung nach waren wir immer enorm schnell darin, Technologien zu adaptieren - mehr oder weniger auf der Skala schnell. Klar, es gibt große Organisationen, kleine Organisationen, alles. Aber im großen Ganzen waren wir die, deren Job es ist, Technologie zu erkennen, zu verstehen, Anwendungszwecke zu erkennen und damit Wert zu schaffen. Jetzt sind wir aber auf einmal die Stillen oder die, die sagen: “Ja, das ist eben nur ein statistischer Papagei” oder “Copilot ist irgendwie cool, so eine Autocompletion zu haben. Manchmal ist das schon ganz praktisch, aber irgendwie weiß ich nicht…”

Ethan Mollick sagt, man soll alles damit probieren - wenn es nicht gut funktioniert, in zwei Wochen nochmal angucken. Die Entwicklungsgeschwindigkeit ist so schnell gerade, vieles hängt auch an diesem verdammten Kontextfenster. Aber das ist ein anderer Talk.

Ich glaube, wir haben hier ein Technologie-Adaptions-Paradox. Ich wollte immer schon mal ein Paradox erfinden - Wikipedia-Eintrag will ich, bitte! Aber ich glaube, wir haben hier den Fall. Das ist total paradox, weil wir Technologen sind, aber gerade nicht zur Adoption beitragen, weil wir auf einmal nicht mehr in unseren Sphären erklären können. Wir wissen genauso wenig wie unsere Manager, wie unsere Bandarbeiter, wie andere Wissensarbeiter. Wir sind nicht mehr die Vorhut, die das sondiert, erklärt oder eben gar nicht erklärt, sondern einfach anwendet.

Wenn wir uns angucken, was unser Handwerk ist - wir sind ja White Collars, aber am Ende machen wir auch Handwerk. Erik Meijer: “Ich habe Bock zu programmieren, ich wollte nie was anderes in diesem Handwerk.” In den Software Craft ist ganz schön viel Bullshit eingezogen in den letzten Jahrzehnten. Wie viele API-Specs wollen wir denn noch erfinden? Wie viele Methoden, Syntaxen, die man in Markdown einbetten kann, um Diagramme für Softwarearchitektur zu erstellen, wollen wir denn noch erfinden? Wir lösen halt alles zehnmal, wir werden iterativ besser, aber Point of Diminishing Returns und so. Tests schreiben - wer schreibt denn gerne Tests? Ich will das nicht. (Ein paar Hände gehen hoch) – Ja, fair, total fair. Ich nicht.

Ich programmiere auch gerne, aber ich bin ja Software Engineer, auch wenn ich nicht mehr so viel programmiere wie früher. Und ich will nichts abwerten - das ist nur meine Bestandsaufnahme.

Wenn wir die großen Bretter bohren wollen - interstellare Raumfahrt nicht wörtlich nehmen - aber wenn wir uns mal wieder die großen Herausforderungen vornehmen wollen, statt ständig Quatsch neu zu erfinden, der schon zehnmal gelöst wurde… Da müssen wir doch mal gucken: Was machen wir eigentlich den ganzen Tag? Governance-Regeln schreiben. Da ist er wieder: der Point.

Wo stehen wir denn da? Ich frage mich: Programmieren wir uns eigentlich zu Tode, wenn wir denn noch die Ehre haben zu programmieren? Aber wir machen und machen und machen. Vielleicht kennt ihr das Gefühl, ich hatte es schon öfter: Macht freitags den Rechner zu und denkt “Was habe ich die Woche eigentlich gemacht?” Ganz schön viel programmiert, viele Stand-ups gehabt, viele Meetings, aber was habe ich produziert? Das verschwindet manchmal in der Schwemme der Dinge, die wir tun. Wir tun so viele Dinge - und Vorsicht bei dem Begriff.

Es gibt dazu ein Buch, es heißt “Bullshit Jobs” und ein Job ist ja eigentlich nur eine Bündelung von Tasks. Die Tasks können sich ändern. Am Job hängt meistens ein Mensch. Mensch kriegt ein Paket von Aufgaben, da fließen mal welche raus, da gehen welche rein. Work ist eine Kapselung von Aufgaben für einen Job. Wie viel von dem Sch… - Entschuldigung - haben wir schon entwickelt? Suchen-und-Ersetzen-Dialoge…

Das ist also immer noch hilfreich im Alltag, aber es gibt auch viele Neuerfindungen davon. Die Frage ist: Wie lange wollen wir uns damit noch aufhalten? Worauf müssen wir uns eigentlich konzentrieren, wenn wir die dicken Bretter bohren wollen? Das dickste Brett von allen: interstellare Raumfahrt.

Was brauchen wir dafür wirklich? Lasst uns von der Tastatur zurücktreten. Von Avi Loeb haben wir gelernt: Wir fliegen nicht selbst dort hoch - ein autonomes Objekt fliegt hoch und das muss gesteuert werden. Es muss Messwerte erfassen, aus diesen Messwerten Erkenntnisse gewinnen. Verschiedene Maschinen müssen miteinander kommunizieren. Aber wie viel Maschine-zu-Maschine-Kommunikation haben wir schon erfunden? Wie viele JSON-API-Specs wollen wir noch entwickeln, damit APIs miteinander oder mit Clients sprechen können? Wofür braucht es noch weitere Formate?

Was ihr hier seht, ist der Figure-Roboter in der BMW-Testfabrik in Spartanburg. Ein kalifornisches Startup. Die Robotik explodiert gerade, auch wenn man das in der breiten Wahrnehmung kaum mitbekommt. Was dort gerade passiert, ist wirklich krass. Was wir als Menschen längst gelöst haben - Point of Diminishing Returns und so - ist die Mechanik eines Roboters. Die gibt es schon ewig: Aktuatoren, diese kleinen Motoren, die Finger biegen und drehen. Da gibt es in Deutschland viele kleine Hersteller, die Milliardenumsätze damit machen. Das ist längst gelöst.

Was nie funktioniert hat, ist, dass die Dinger Aufgaben übernehmen, wo echtes Reasoning nötig ist. “Schmeiße ich jetzt das kleine Kind in das heiße Fett am Herd oder drehe ich lieber die Herdplatte runter?” Was ergibt im Interesse des Menschen am meisten Sinn? Oder im Sinne des Gemeinwohls: Was muss ich in einer Fabrik tun, um dieses Auto zusammenzusetzen?

Figure - das ist jetzt nur ein Beispielhersteller - mit einer amerikanischen Produktentwicklungsmentalität an die Sache herangegangen. Sie haben keine revolutionären Robotergelenke oder Motoren erfunden, sondern einen guten humanoiden Roboter gebaut, der auf einmal sehen und hören kann. Das ging bisher nicht - jetzt geht es.

Roboter bauen wir ja schon immer. Diese ASIMO-Demos, wo das Ding die Treppe runterfällt, kennt ihr alle. Ihr kennt auch die Boston-Dynamics-Tiere. Das wirkt schon sehr gruselig, diese militaristischen Roboterhunde, die Treppen hoch und runter rennen. Will ich mir nicht auf dem Battlefield vorstellen - wird aber passieren. Ein negativer Effekt der Weiterentwicklung. Wobei “negativ” - am Ende muss man das auch differenziert betrachten. Wir leben in Zeiten, wo man sich offenbar doch wieder verteidigen können muss.

Aber zurück zu den Fabriken. BMW erprobt das mit Figure. Ich finde es bezeichnend, dass das ein US-Hersteller ist und kein deutscher, wo die Deutschen doch eigentlich immer super darin waren, Roboter zu bauen. Die Deutschen stehen gerade da und schauen zu. Wenn es um die zentrale Komponente geht - wie mache ich einen Roboter so, dass er sich durch eine Fabrik bewegen kann, wo auch Menschen rumlaufen, niemand anrempelt und seinen Job macht, aber alles im Blick hat und ein grundsätzliches Weltverständnis besitzt - das geht jetzt. Das kriegen aber scheinbar die Amerikaner für deutsche Unternehmen gelöst, obwohl wir die Kompetenz eigentlich haben müssten.

Was wir da sehen, ist eigentlich eine Neukonzeption der Fabrik. Eine Fabrik ist ja eigentlich - Henry Ford und so weiter - nichts weiter als eine Verlängerung des menschlichen Körpers. Das Förderband, die ganze Produktionshalle ist als Verlängerung des menschlichen Körpers gedacht. Die Bandhöhe eines Förderbands ist so, dass ich bequem daran arbeiten kann, niemand sich den Rücken krumm biegen muss. Die Armbewegungen sind so ausgelegt, dass sie möglichst kurz sind und ich auf Strecke angenehm mit Menschen produzieren kann.

Aber wenn ich jetzt Roboter habe - wie sehen dann die Fabriken aus? Also Roboter, die sich wie Menschen verhalten können, aber nicht müssen? Die werden wir wahrscheinlich nächstes Jahr schon in Produktionshallen neben Menschen sehen. Bei Amazon genauso, in Warenhäusern. Die Frage ist aber: Was kommt danach? Ich glaube, wir werden nicht mehr endlos Teile an Fließbändern zusammensetzen. Ist ja jetzt schon nicht mehr so - ein organischer Verlauf der Dinge.

Was wir da warten, ist sehr viele menschliche Arbeit in Produktionshallen. Der Roboter als Instandhalter ist in dem Sinne nichts Neues, aber jetzt haben wir Humanoide, die sich mit anderen Maschinen und Menschen verständigen können. Die bewegen sich ein bisschen anders als wir, aber das ist auch Teil der UX. Diese hühnerartigen Bewegungen der Roboter sind übrigens Absicht, um keine Angst zu machen. Wenn zwischen uns in solchen Produktionshallen ultraschnelle, smooth Bewegungen wie bei Boston Dynamics wären - das wäre schon ein bisschen scary. Für den Anfang. Wir werden uns auch daran gewöhnen.

Was brauchen wir noch für andere Sternensysteme? Wer weiß denn, was das hier ist? Die Voyager Deep Space Mission kennt ihr bestimmt. Da hat die NASA vor Jahrzehnten eine Deep Space Sonde losgeschickt. Da ist nicht viel drauf, sie wiegt auch nicht viel, aber es ist eine goldene Metallplatte dabei, die ähnlich funktioniert wie eine Vinylplatte, eine Schallplatte. Darauf sind menschliche Stimmen zu hören, Tier- und Naturgeräusche - alles, was hypothetisch eine andere Zivilisation über die Menschheit lernen könnte. Da ist sogar ein David Bowie Song drauf, kulturelle Errungenschaften der Menschheit, der Natur und der Tierwelt.

Wir brauchen heute nichts mehr in goldene Schallplatten zu kratzen. Denn wer weiß denn, wie die das abspielen wollen, wenn es jemand findet? Klar, wenn das jemand findet, ist die Zivilisation wahrscheinlich auch sehr weit entwickelt. Aber vielleicht können die sich nicht zurückerinnern, dass man eine Nadel als Tonabnehmer braucht, die man in eine Rille legt. Und was die dann überhaupt hören können - das weiß man ja auch nicht. Ist ja ein atmosphärisch bedingtes Ding.

Was wir jetzt haben, ist zum ersten Mal ein Mechanismus zur Abstraktion von Wissen. Sprachunabhängig. Wie viele Papyrusrollen und Bücher haben wir schon vollgeschrieben? Ist aber alles in Sprachen. Mathematik ist auch so eine Abstraktion von Wissen. Aber jetzt haben wir einen Mechanismus, wo unser ganzes menschliches Wissen reinkondensiert werden kann. Und nicht nur als ZIP-Paket, sondern mit Reasoning, in Anführungszeichen. Sprachunabhängig. Wir wissen, 32 Sprachen und so weiter, aber am Ende sind es Tokens, keine Sprachen. Sprachen sind ein netter Nebeneffekt. Das wäre schon ganz praktisch, so etwas in einer Sonde zu haben. Besser als die goldene Schallplatte.

Stichwort: die ganze Energie des Heimatplaneten nutzen. Kernfusion - mein Gott - zu jeder Wahl wird wieder neu darüber geredet. “Ja, wir investieren in Kernfusion und bis das gelöst ist, lassen wir alle Kohlemeiler laufen.” Kernfusion ist wahrscheinlich lösbar, aber es braucht gigantische Investments und Geduld. Man muss, glaube ich, viele verschiedene Dinge tun, nicht nur alles in Kernfusion stecken.

Ihr kennt das Problem wahrscheinlich: die Funktionsweise der Sonne im Kleinen, das ist Kernfusion. Ich muss ein sogenanntes Plasma entfachen, das irrsinnig heiß wird, Millionen von Grad, in so einem Donut-artigen Gebilde, und ich muss das stabil in der Mitte halten – sonst erlischt es. Wenn ich das schaffe, habe ich im Prinzip die Energie der Sonne im Kleinen auf der Erde. Dann haben wir de facto kein Energieproblem mehr. Dann kann man wieder Innovationen machen. Das ist so ein dickes Brett, das man jetzt mal bohren könnte. Man sieht ja auch Fortschritte, Gott sei Dank setzen sich Leute da hin. In einem Experiment haben sie es geschafft, dieses Ding deutlich stabiler zu halten - durch KI.

Ethan Mollick sagt in seinem Buch “Co-Intelligence”, für die von uns, die Technologie schon lange beobachten und erklären: Das, was zuletzt passiert ist, nämlich generative KI und diese gigantischen neuronalen Netze - wir haben auf einmal eine neue General Purpose Technology.

Das sehen wir wahrscheinlich nur einmal in der Generation. Wann waren die letzten GPTs - General Purpose Technologies? Weiß das noch jemand? Internet ist die letzte gewesen. Was kam davor? Dampfmaschine, das war’s. Und auf dieser Skala müssen wir das eigentlich betrachten.

Bei der Dampfmaschine hat es fast 120 Jahre gebraucht, bis Gesellschaften sich die Produktivitätssteigerungen und Innovationen, die zweitausendein Wirkeffekte, zu Nutze gemacht haben. Beim Internet ging es sehr viel schneller, auch wenn es bis heute keine Studie gibt, die belegen kann, dass das Internet zu Produktivitätssteigerungen beiträgt. Aber ich glaube, das wissen wir alle. Es ist unglaublich schwer zu belegen bei diesen General Purpose Technologies. Beim Internet sagt man 25 Jahre.

Und jetzt sitzen wir schon seit zwei Jahren im Auge des Sturms und es passiert so viel - das sind gerade mal zwei Jahre rum. Als Gesellschaften werden wir schneller in der Adaption und Dinge passieren einfach viel, viel schneller als die 120 Jahre mit der Dampfmaschine. Aber so etwas haben wir hier halt vor uns.

Deswegen noch mal den Bogen zurück zu uns: Warum sitzen wir denn da und sagen Sachen wie “Das ist ja doch nur ein statistischer Papagei”? Da frage ich mich manchmal: Lieben wir denn diese Bullshit Work? Also manchmal habe ich ja auch Tage, wo ich sage, ich will jetzt heute mal was Berechenbares machen.

Klar, gestern Abend war lang, da mache ich heute mal berechenbare Arbeit. Aber ich glaube, ganz tief in uns drin lieben wir diese Bullshit Work. Wir haben das schon ganz gern. Und schlimmer noch: Wir bilden das ja sogar in unseren Organisationen ab. Ganze Firmen, ganze Abteilungen beschäftigen sich nur mit dieser Bullshit Work.

Nicht vergessen: Bullshit Work ist eine Ansammlung von Tasks zu verwalten, aber an die eigentlichen Tasks geht keiner ran. Die machen wir, bis wir umfallen, oder wir automatisieren die kleinen davon zuerst, weil das die einfachen sind. Dann können wir schneller Erfolge zeigen. Aber eigentlich haben wir jetzt etwas, womit wir dicke Bretter bohren können.

Und was tun wir? Wir machen weiter das Berechenbare. Ich würde sogar sagen, wir müssen das Zeitalter der Algorithmik eigentlich verlassen, um die Riesenbretter jetzt zu bohren. Niemand muss jetzt seine Programmierskills wegwerfen - ein bisschen polemisch, aber ich glaube, das Zeitalter der Algorithmik faded gerade aus. Wir müssen jetzt einfach Verantwortung abgeben, weil wir nur mit sehr hohem, wenn nicht unendlichem Aufwand Dinge tun können, die eben sehr schwere Probleme sind.

Ich sage oft, die KI, die wir jetzt haben, ist vielleicht das Ende von “zu teuer”. Wenn wir Prozesse automatisieren, Features bauen - ihr kennt das alle im Backlog: “Geht in dem Sprint nicht. Sorry, ist auch in zwei Sprints nicht möglich. Oh ne, das ist so ein dickes Brett, das müssen wir erstmal zerschneiden.” Dann zerschneiden wir das dicke Brett in ganz viele Späne, setzen fünf Späne um in 365 Tagen und haben am Ende vergessen, wie das Brett aussah.

Aber das können wir nicht mit endlicher Arbeit, nicht mit unseren Hard Skills. Wenn wir uns jetzt hinstellen und sagen: “Ja okay, aber die KI-Modelle haben nur eine Accuracy von 85% und der Rest sind Halluzinationen.” Ja, aber ist das bei uns anders? Wer von uns hat denn eine Accuracy von 100% in seiner oder ihrer Arbeit? Das ist doch abstrus. Und das jetzt auf dem Grad zu messen…

Es gibt Techniken, Halluzinationen zu reduzieren, aber es ist ein Feature. Es ist kein Bug dieser Technologie, das ist ein Feature. Diese Technologie würde nicht funktionieren, gäbe es das nicht. Genau wie wir als Menschen nicht funktionieren würden, würden wir nicht auch ab und zu mal halluzinieren oder Quatsch erzählen oder verquer denken oder in irgendwelche abstrusen Konzepte reinbeißen und dran bleiben.

Ganz viele Gespräche, die ich gerade führe, sind: “Das ist ja schon beeindruckend, aber wir brauchen 100% Accuracy.” Da sage ich: “Ja, aber ihr könnt den Prozess doch nicht mit endlicher Arbeit lösen. Wie viele Abteilungen wollt ihr denn noch aus dem Boden stampfen?” Und ihr kapselt diese Work in Bullshit Jobs. Das sind ja auch keine Jobs, die Leute auf Dauer erfüllen. Niemand ist happy. Es gibt Studien dazu, das sind “Burnout-Abteilungen”, nennt man die manchmal, die diese Ochsenarbeit - gar nicht abwertend gemeint - machen müssen.

Voranmeldung für einen Hauskredit, Vorprüfung Stufe eins, first wave, second wave - das konnten wir schon vor zwei Jahren automatisieren, das können wir heute automatisieren. Das ist aber nur Automatisierung. Und das werden wir jetzt viel machen, weil das für uns greifbare Probleme sind. Und wir werden auch sehr viel über Workshift reden. Was machen wir denn mit den Jobs, die bisher diese Work gemacht haben? Aber Work ist ja nur eine Kapselung von Aufgaben.

Es wäre doch total toll, wenn man den Leuten Aufgaben geben könnte, die ein bisschen erfüllender sind. Und das hat die Zeit ja auch immer gezeigt, dass das passiert. Aber ich will jetzt auch nicht den Propheten machen. Es kann sehr gut sein, weil das so eine Querschnittstechnologie ist, weil die so mächtig ist, dass hier nicht einfach durch die Bank alles 100% shiftet - weiß niemand, beschäftigen sich schlauere Leute als ich damit.

Deswegen: Wir müssen ins Zeitalter des Reasonings einsteigen. Wir müssen lernen, Verantwortung abzugeben. Wir müssen uns als Engineers im Gegenteil jetzt darauf fokussieren, wie wir unsere Engineering Skills anwenden, um Ergebnisse zu prüfen und in die richtige Richtung zu bringen.

Deswegen frage ich nochmal: Haben wir vielleicht Angst? Wie begreifen wir Veränderung? Manche wissen es vielleicht - “Oh shit!” Man hat ja gar nicht damit gerechnet, dass die programmieren können. Das war so ein Zufallsfund, und am Anfang war da auch noch sehr viel Quatsch. Aber mittlerweile können wir mittelgroße, lokale Modelle auf dem Rechner laufen lassen, die verdammt gut programmieren können. Wir müssen erstmal Patterns kennenlernen und erfinden, damit umzugehen. Da geht es nicht nur um Autocompletion von Syntax.

Der Grund, warum die das so gut können, ist, weil Code ja nur eine vereinfachte Repräsentation von Sprache ist. Sprache ist ja sehr viel komplexer, menschliche Sprache. Und deswegen können die Code besonders gut, weil die menschliche Sprache auch besonders gut können und Code halt noch sehr viel besser.

Es wird leider nicht schlechter. Deswegen sollten wir uns fragen: Haben wir vielleicht doch ein bisschen Angst? Klar, ich bin auch gelernter Programmierer, Software Engineer. Das ist ein Hard Skill Set, was ich habe, und ich bin mir sehr bewusst, dass es daran geht. Ob das eine Entwertung ist, kann ich noch nicht sagen, aber was in den letzten zwei Jahren passiert - schon. Zumindest macht es das billiger.

Dann bin ich wieder in so eine Reddit Rabbit Hole abgetaucht. Ich habe gesucht: “Wird KI Software Engineers ersetzen?” Da findet man wieder wahnsinnig schlaue Leute. Und dann dachte ich “Ja, der hat es endlich kapiert.”

Die erste Regel, die man hat, wenn man Software Engineer ist: “Man muss adaptiv bleiben”. Generell für alle Menschen eine gute Eigenschaft. Dinge verändern sich, wir müssen uns darauf einstellen. Das ist doch eigentlich, worum es geht.

Dann habe ich weitergelesen und am Ende gefunden: “It’s just another tool in your tool belt.” Da dachte ich: Irgendwie hast du das jetzt alles mit dem Allerwertesten wieder eingerissen, was du am Anfang aufgebaut hast. Klar, so kann man es begreifen. Man macht es sich aber sehr einfach. Es ist auch nicht abwertend gemeint, es ist menschlich. Man muss Dinge für sich einfacher machen, wenn sie zu groß sind.

Um mir in 8 Stunden eine endliche Zahl von Use Cases für eine Allzwecktechnologie auszudenken… Also mit der Abstraktion von Wissen, Kernfusion, Programmieren, Texte zusammenfassen - was liest man überall, was man mit generativer KI machen kann? “Texte zusammenfassen”, ja, kann man auch. Ist aber derartig faul, heute noch Artikel zu veröffentlichen und zu sagen “Ja, damit können Sie besonders gut Texte zusammenfassen. Und Übersetzung geht auch ganz gut.” Das ist einfach ein Tropfen Wasser in einem Meer von Use Cases.

Da wackeln gerade ganze Geschäftsmodelle. Belegdatenerkennung zum Beispiel: Es gibt Unternehmen am Markt, die machen Belegdatenerkennung, Mehrwertsteuer 7%, 19% mit Custom Machine Learning Modellen. Wir verpflichten uns vertraglich, unsere manuellen Menschenkorrekturen denen zurückzuliefern, damit die ihr Machine Learning Modell trainieren können.

Und da sind natürlich persönliche Daten drin. Was wir mit generativer KI jetzt hören, ist: “Ja okay, aber wir können das hausintern nicht nutzen, weil bei KI müssen wir besonders aufpassen mit dem Datenschutz.” Da denke ich wieder: Leute, KI-Cloud-Anbieter, OpenAI, besonders Anthropic - ihr habt mit euren ganzen SaaS-Dienstleistern noch nie so gute Bedingungen für die Handhabung eurer Daten bekommen wie mit denen.

Guckt euch das doch erstmal an. Man stellt sich die LLMs gerne als schwarzes Loch vor, aber bestimmte Daten, die ihr denen schickt, die bewahren die wie jeder Anbieter, mit dem ihr Verträge habt, für x Tage auf. Danach löschen die die. Ins Modell gehen Tokens, dann kommen andere Tokens raus. Da bleibt nichts im Modell. Keiner trainiert damit, keiner hat Interesse an eurem Datengefriemel. Da geht es um völlig andere Skalenmaßstäbe.

Niemand will eure Daten jetzt mehr, das ist übersprungen. Niemand interessiert sich für eure Unternehmensdaten für das Weitertrainieren der Modelle. Die sind so weit, die verkaufen euch Finetuning-Lösungen, damit ihr die Modelle mit euren Daten bei euch oder bei ihnen finetunen könnt, was auch eine Form von Training ist. Die interessieren sich aber nicht für eure Daten, die sind schon viel, viel weiter. Eure internen Daten sind ein Glas Wasser im Regen.

Und wenn dann - das sind auch Gatekeeping-Aussagen, nicht wahr? “Befassen wir uns dieses Jahr nicht mehr mit, ist wegen Datenschutz.” - “Besonders bei KI müssen wir aufpassen!” Das Gegenteil ist der Fall. Besonders bei KI könnt ihr sofort starten, man findet Dienstleister mit hervorragenden vertraglichen Bedingungen. Jeder Datenbank-Host ist komplexer aus DSGVO-Sicht als ein LLM.

Um einen Strich drunter zu machen: Lasst uns wieder groß denken. Ich zitiere Deichkind: “Denken Sie groß.”

Date

2024-12-10

Time

19:00 - 21:00

Conference / Event

IT-Tage

Venue

Kap Europa, Frankfurt am Main