Künstliche Intelligenz ist inzwischen überall. Sprachassistenten schreiben Texte, Bildgeneratoren erzeugen Menschen, die nie existiert haben, Softwareagenten schreiben und testen Programme, Smartphones bearbeiten Fotos in Echtzeit und moderne Computer besitzen sogar eigene Prozessorbereiche, die speziell für KI-Rechenoperationen ausgelegt sind.
Gleichzeitig wird kaum ein Thema so schnell entweder mystifiziert oder dramatisiert. Für die einen ist KI nichts weiter als Statistik und ein besonders großes Computerprogramm. Für die anderen steht schon die nächste Stufe der Maschinenherrschaft vor der Tür.
Die Wahrheit ist zunächst viel nüchterner – und gerade deshalb faszinierend.
Im Kern ist moderne KI tatsächlich Software, die auf ganz normaler Rechenhardware läuft. Der entscheidende Unterschied zur klassischen Software besteht aber darin, wie ihr konkretes Verhalten entsteht. Bei einem klassischen Programm schreibt ein Mensch die Regeln weitgehend explizit vor. Bei Machine-Learning-Systemen wird dagegen ein Modell trainiert: Aus Daten und einem Lernverfahren entstehen Millionen, Milliarden oder noch mehr numerische Parameter, die gemeinsam das spätere Verhalten bestimmen.
1. Klassische Software: Der Computer macht genau das, was wir ihm sagen
Beginnen wir mit etwas, das jeder versteht: einem normalen Computerprogramm.
Stellen wir uns ein winziges Programm vor, das die Außentemperatur beurteilt. In Pseudocode könnte die Anweisung einfach lauten:
Wenn die Temperatur höher als 30 °C ist, gib „heiß“ aus. Andernfalls gib „nicht heiß“ aus.
Hier ist die Regel von einem Menschen festgelegt worden. Der Computer muss nicht selbst herausfinden, was „heiß“ bedeutet. Er führt eine explizite Anweisung aus.
Genau darin liegt eine der großen Stärken klassischer Software: Sie ist prinzipiell vorhersehbar. Derselbe Input führt bei unverändertem Zustand und derselben Software nach denselben Regeln zum selben Ergebnis.
Das bedeutet selbstverständlich nicht, dass klassische Software fehlerfrei ist. Ein Programmierfehler kann zu falschen Ergebnissen, Abstürzen, Datenverlust oder in kritischen Systemen sogar zu gefährlichen Fehlfunktionen führen. Aber die Regel selbst wurde normalerweise von Menschen formuliert.
Der Computer folgt also einer vom Menschen vorgegebenen Logik.
2. Machine Learning: Wenn die Regeln nicht mehr vollständig von Menschen geschrieben werden
Jetzt verändern wir die Aufgabe.
Wir möchten, dass ein Computer erkennt, ob auf einem Bild eine Katze zu sehen ist. Wir könnten versuchen, unzählige Regeln zu schreiben:
Wenn zwei dunkle Flächen ungefähr dort liegen, wo Augen sein könnten, die Form des Kopfes ungefähr passt, zwei spitze Formen oben sichtbar sind und ...
Das wird schnell absurd. Die Welt ist zu variantenreich, um sie für jede denkbare Situation vollständig mit if-Regeln zu beschreiben.
Machine Learning verfolgt einen anderen Ansatz. Wir geben dem System viele Beispiele:
Dieses Bild ist eine Katze.
Dieses Bild ist keine Katze.
Dieses Bild ist eine Katze.
Dieses Bild ist keine Katze.
Das Modell macht zunächst eine Vorhersage. Diese Vorhersage wird mit der bekannten richtigen Antwort verglichen. Aus dem Fehler wird berechnet, wie die internen Zahlenwerte des Modells verändert werden müssen. Anschließend wird die nächste Vorhersage gemacht.
Vereinfacht sieht der Lernprozess so aus:
Vorhersage → Fehler feststellen → Modell anpassen → erneut vorhersagen → wieder anpassen.
Dieser Prozess wird sehr oft wiederholt. Je nach Lernverfahren kommt das Feedback aus bekannten Zielwerten, aus automatisch berechenbaren Fehlern, aus menschlichen Bewertungen oder aus anderen Lernverfahren. Bei überwachten Lernverfahren ist beispielsweise für die Trainingsbeispiele bekannt, welches Ergebnis richtig ist. Menschliche Rückmeldungen sind daher nicht grundsätzlich bei jedem einzelnen Trainingsschritt erforderlich.
Der entscheidende Unterschied zur klassischen Programmierung lautet deshalb:
Beim klassischen Programmieren schreibt der Mensch die konkrete Regel. Beim Machine Learning schreibt der Mensch das Lernverfahren – und das Modell ermittelt aus Beispielen die Zahlenwerte, mit denen es die Aufgabe möglichst gut lösen kann.
3. Neuronale Netze: Einfache Bausteine, komplexes Verhalten
Ein sehr verbreiteter Ansatz für Machine Learning sind neuronale Netze. Die Idee ist lose vom biologischen Nervensystem inspiriert, ohne dass ein künstliches neuronales Netz deshalb ein künstliches Gehirn wäre.
Ein künstliches Neuron kann man für den Einstieg extrem vereinfacht beschreiben:
Es bekommt mehrere Zahlen als Eingabe, berücksichtigt sie mit unterschiedlichen Gewichtungen, verrechnet sie mathematisch und erzeugt daraus eine neue Zahl.
Ein solches Neuron ist ziemlich unspektakulär. Spannend wird es, wenn sehr viele solcher Recheneinheiten miteinander verbunden und in mehreren Schichten angeordnet werden:
Eingabe → viele Recheneinheiten → weitere Recheneinheiten → weitere Schichten → Ausgabe
Während des Trainings verändern sich die Gewichte dieser Verbindungen. Das Modell lernt dadurch, welche Kombinationen von Eingaben für die jeweilige Aufgabe hilfreich sind.
Ein Mensch programmiert also nicht für jeden Einzelfall die Aussage „Diese Pixel bedeuten Katze“. Er baut vielmehr ein System, das aus vielen Beispielen eine brauchbare mathematische Repräsentation erlernen kann.
4. Was sind Parameter und Gewichte?
Hier taucht einer der wichtigsten Begriffe moderner KI auf: Parameter.
Ein trainiertes Modell enthält nicht einfach eine riesige Textdatei mit sämtlichen Informationen, auf denen es trainiert wurde. Stattdessen hat das Training sehr viele numerische Werte angepasst. Diese Werte – unter anderem Gewichte – bilden zusammen die interne numerische Repräsentation, mit der das Modell später arbeitet.
Bei einem großen Modell können das Milliarden solcher Werte sein.
Ein wichtiger Denkfehler wäre allerdings:
„Ein Parameter entspricht einer gespeicherten Information.“
So funktioniert es nicht. Ein einzelner Parameter bedeutet normalerweise nicht „Berlin“, „Katze“ oder „Paragraph 23“. Das Verhalten des Modells entsteht aus dem Zusammenspiel sehr vieler Parameter.
Eine brauchbare Laienvorstellung ist deshalb:
Trainingsdaten liefern die Erfahrungen. Das Training verändert Milliarden numerischer Stellschrauben. Das fertige Modell enthält danach keine klassische Datenbank des Wissens, sondern eine riesige numerische Struktur, die gelernte Muster repräsentiert.
Genau deshalb muss ein großes Modell bei seiner Nutzung auch in einer für die Berechnung geeigneten Speicherform verfügbar sein. Bei großen Modellen ist die Größe dieser Parameterstruktur selbst bereits ein erheblicher Hardwarefaktor.
5. Vom neuronalen Netz zum Large Language Model
Ein Large Language Model, kurz LLM, ist ein sehr großes Modell, das auf die Verarbeitung und Erzeugung von Sprache beziehungsweise Text spezialisiert ist.
Eine stark vereinfachte Beschreibung lautet: Das Modell betrachtet den bisherigen Kontext und berechnet, welche Fortsetzungen wahrscheinlich sind.
Dabei arbeitet ein Sprachmodell nicht zwingend mit vollständigen Wörtern, sondern mit sogenannten Tokens. Ein Token kann ein ganzes kurzes Wort sein, aber ebenso ein Teil eines längeren Wortes oder ein kleiner „Wortschnipsel“.
Aus den Wahrscheinlichkeiten für mögliche nächste Tokens entsteht schrittweise eine Ausgabe. Das erklärt auch, warum ein Sprachmodell auf dieselbe Frage nicht zwangsläufig immer exakt dieselbe Antwort produzieren muss.
Wichtig ist dabei: Ein LLM ist nicht einfach eine gigantische Suchmaschine, die bei jeder Frage einen passenden Datensatz aus einer Datenbank herausholt. Das Modell erzeugt seine Ausgabe aus seiner gelernten numerischen Struktur und dem aktuellen Kontext. Zusätzliche Werkzeuge wie Websuche, Rechner oder Codeausführung können diese Fähigkeiten wiederum erweitern – aber das Modell selbst und seine Werkzeuge sind nicht dasselbe.
6. Warum ChatGPT 2022 so plötzlich explodierte
ChatGPT wurde am 30. November 2022 öffentlich vorgestellt. Das war jedoch keineswegs der Moment, in dem künstliche Intelligenz oder neuronale Netze plötzlich erfunden wurden.
Neuronale Netze, Machine Learning und große Datenbestände existierten bereits lange vorher. Auch leistungsfähige GPUs waren keine Erfindung des Jahres 2022.
Der entscheidende Punkt war vielmehr, dass mehrere Entwicklungen gleichzeitig einen Reifegrad erreicht hatten, bei dem sehr große Modelle praktisch trainierbar wurden:
- größere und besser nutzbare Trainingsdatenmengen,
- leistungsfähigere Beschleuniger und große Rechencluster,
- verbesserte Trainings- und Optimierungsverfahren,
- verteiltes Rechnen über viele Beschleuniger,
- und vor allem neue Modellarchitekturen wie der Transformer.
Es war also weniger ein einzelner magischer Durchbruch als eine Situation, in der viele technische Puzzleteile plötzlich zusammenpassten.
7. Der Transformer: Der unscheinbare Gamechanger
2017 wurde mit dem Paper Attention Is All You Need die Transformer-Architektur vorgestellt. Sie basiert auf sogenannten Attention-Mechanismen und wurde unter anderem deshalb bedeutsam, weil sie sich sehr gut parallelisieren lässt und für lange Sequenzen neue Möglichkeiten eröffnete.
Für Laien kann man sich Attention ungefähr so vorstellen:
Wenn das Modell gerade etwas berechnen muss, kann es stärker berücksichtigen, welche Teile des bisherigen Kontexts dafür besonders relevant sind.
Bei Sprache ist das enorm wichtig. In einem langen Satz können viele Wörter weit voneinander entfernt sein und trotzdem zusammengehören. Die Transformer-Architektur erlaubte es, solche Beziehungen mit einer für moderne Hardware sehr günstigen Form der Parallelisierung zu verarbeiten.
Genau daraus entstand ein wesentlicher Teil der technischen Grundlage für die heutigen großen Sprachmodelle.
8. CPU, GPU und NPU: Die Rechenmaschinen hinter der KI
Die CPU: der Allrounder
Eine CPU ist ein sehr vielseitiger Prozessor. Sie kann unterschiedlichste Arten von Anweisungen bearbeiten, komplexe Verzweigungen ausführen und ist für allgemeine Computeraufgaben optimiert.
Die GPU: der Spezialist für Parallelität
GPUs besitzen sehr viele Recheneinheiten und sind besonders gut darin, große Mengen ähnlicher mathematischer Operationen parallel durchzuführen. Gerade neuronale Netze enthalten sehr viele Matrix- und Vektoroperationen, weshalb GPUs für das Training und die Ausführung großer Modelle so wertvoll sind.
Das bedeutet nicht, dass eine GPU in jeder Aufgabe „besser“ als eine CPU wäre. Ein universeller Prozessor kann bestimmte komplexe und verzweigte Aufgaben flexibler bearbeiten. Die Stärke der GPU liegt vielmehr darin, dass sich bestimmte Rechenarten massiv parallel ausführen lassen.
Die NPU: noch stärker auf KI-Rechenarbeit zugeschnitten
Eine Neural Processing Unit ist ein spezialisierter Beschleuniger für typische Rechenoperationen neuronaler Netze. Moderne AI-PCs kombinieren CPU, GPU und NPU und verteilen Aufgaben entsprechend auf unterschiedliche Recheneinheiten. Intel beschreibt aktuelle AI-PCs ausdrücklich als Systeme mit CPU, GPU und NPU; Microsoft nennt für Copilot+-PCs NPUs mit mehr als 40 Billionen Operationen pro Sekunde.
Warum tauchten solche NPUs plötzlich in Smartphones und Laptops auf?
Weil KI zunehmend lokal auf dem Gerät stattfinden sollte. Ein Smartphone hat aber nur einen begrenzten Akku und kann nicht einfach dauerhaft einen riesigen Server ersetzen. Eine NPU kann bestimmte KI-Berechnungen mit hoher Energieeffizienz ausführen. Qualcomm beschreibt seine NPU beispielsweise ausdrücklich als Teil eines heterogenen Systems aus CPU, GPU, NPU und weiteren Beschleunigern für On-Device-AI.
Die NPU ist deshalb keine „KI im Chip“, sondern eine für bestimmte KI-Berechnungen optimierte Recheneinheit.
9. Von der Cloud auf den Heim-PC: Quantisierung, llama.cpp und Ollama
Lange Zeit war die Vorstellung eines großen Sprachmodells eng mit Rechenzentren verbunden. Inzwischen können auch Privatnutzer zahlreiche Modelle lokal auf dem eigenen Computer ausführen.
Ein wichtiger Baustein dafür ist die effizientere Darstellung der Modellgewichte. Bei der Quantisierung werden Zahlenwerte mit geringerer Präzision gespeichert. Aus einer hochpräzisen Darstellung kann beispielsweise eine deutlich kleinere 4-Bit-Darstellung werden. Dadurch schrumpft das Modell erheblich; gleichzeitig kann etwas Genauigkeit verloren gehen. Das Quantisierungswerkzeug von llama.cpp beschreibt genau diesen Zielkonflikt.
Projekte wie llama.cpp haben wesentlich dazu beigetragen, große Sprachmodelle effizient auf lokaler Hardware ausführbar zu machen. Darauf aufbauende Werkzeuge wie Ollama vereinfachen den Umgang mit solchen lokalen Modellen.
Der Gedanke dahinter ist bemerkenswert einfach:
Nicht unbedingt das gleiche Modell mit voller Präzision auf einem riesigen Server ausführen – sondern ein Modell effizient genug darstellen und ausführen, dass es auf wesentlich kleinerer Hardware funktioniert.
Moderne KI ist damit nicht mehr ausschließlich etwas, das „irgendwo in der Cloud“ passiert. Ein Teil davon kann inzwischen direkt auf dem eigenen Gerät stattfinden.
10. „Eine KI ist nur so gut wie ihre Daten“ – und warum das nur die halbe Wahrheit ist
Der Satz „Eine KI ist nur so gut wie ihre Daten“ ist populär, und im Kern steckt viel Wahrheit darin.
Wenn Trainingsdaten Fehler enthalten, einseitig zusammengestellt sind, bestimmte Gruppen nicht repräsentieren oder zufällige Korrelationen enthalten, kann das Modell diese Eigenschaften übernehmen.
Aber Daten sind nicht der einzige Faktor. Ebenfalls entscheidend sind:
- die Modellarchitektur,
- das Trainingsverfahren,
- das Ziel, das optimiert wird,
- und die Art, wie das fertige Modell später eingesetzt wird.
Ein sehr gutes Modell kann aus schlechten Daten eine schlechte Strategie lernen. Umgekehrt können gute Daten durch eine ungünstige Zielsetzung oder ein unpassendes Trainingsverfahren ebenfalls zu unerwartetem Verhalten führen.
Und genau hier beginnt der wirklich spannende Teil.
11. Wenn das Training vorbei ist: Wir wissen nicht immer, was das Modell gelernt hat
Bis hierhin klingt alles noch einigermaßen übersichtlich. Wir definieren eine Architektur, geben Daten hinein, trainieren das Modell und erhalten ein System, das eine Aufgabe gut lösen kann.
Doch nun kommt eine unangenehme Frage:
Woran erkennt das Modell eigentlich, was es erkennt?
Wir kennen den Rechenweg. Wir kennen die Modellarchitektur. Wir kennen die Parameter. Wir können die mathematischen Operationen aufschreiben.
Was wir nicht automatisch haben, ist eine verständliche Liste nach dem Muster:
Parameter 1 bis 10.000.000: Gesichtserkennung.
Parameter 10.000.001 bis 20.000.000: Ohren.
Parameter 20.000.001 bis 30.000.000: Katzen.
Moderne neuronale Netze organisieren ihre Fähigkeiten nicht in sauber beschrifteten Programmdateien. Vieles verteilt sich über zahlreiche Parameter und interne Aktivierungen.
Das bedeutet nicht, dass wir „keine Ahnung haben, was das Modell macht“. Wir können sein Verhalten messen, Komponenten untersuchen und mit vielen Methoden versuchen, seine internen Repräsentationen zu verstehen. Aber aus der bloßen Tatsache, dass wir jede mathematische Operation kennen, folgt nicht automatisch, dass wir eine leicht verständliche Erklärung der gesamten erlernten Strategie besitzen.
12. Wenn die KI recht hat – aber aus dem falschen Grund
Genau hier kommt das Phänomen des Shortcut Learning ins Spiel.
Ein Modell bekommt eine Aufgabe und sucht nach Merkmalen, die seine Vorhersage verbessern. Niemand garantiert, dass es ausgerechnet diejenigen Merkmale verwendet, die ein Mensch für „sachlich richtig“ hält.
Angenommen, wir wollen einen Fisch klassifizieren. Wir erwarten:
Fischform, Flossen, Schuppen, Farbe, Körperbau ...
Wenn in den Trainingsdaten aber eine bestimmte Fischart fast immer in einem bestimmten Umfeld fotografiert wurde, kann das Umfeld statistisch äußerst nützlich sein. Das Modell könnte also eine Abkürzung lernen.
Die besonders irritierende Situation ist nicht:
„Die KI lag falsch.“
Die irritierendere Situation ist:
„Die KI lag richtig – aber aus einem Grund, den wir gar nicht beabsichtigt hatten.“
Genau solche Fälle werden in der Forschung als Clever-Hans-Verhalten oder Shortcut Learning untersucht. Eine einschlägige Forschungsarbeit beschreibt ausdrücklich Modelle, die sich auf statistische Scheinzusammenhänge in ihren Trainingsdaten stützen und dadurch zwar auf dem Datensatz gut funktionieren, aber nicht unbedingt eine sinnvolle und generalisierbare Strategie gelernt haben.
13. Der Clever-Hans-Effekt
Der Name stammt ursprünglich nicht aus der KI-Forschung, sondern aus der Geschichte der Psychologie und Tierforschung.
„Kluger Hans“ war ein Pferd, das scheinbar rechnen konnte. Untersuchungen zeigten später, dass das Pferd nicht tatsächlich komplexe Mathematik beherrschte, sondern subtile Hinweise aus dem Verhalten der Menschen nutzte.
Das Prinzip ist für Machine Learning geradezu perfekt:
Ein System kann eine Aufgabe scheinbar intelligent lösen, obwohl es nicht die von uns erwartete Fähigkeit nutzt, sondern ein scheinbar nebensächliches Signal.
Dadurch bekommt der Satz „Die KI hat es gelernt“ plötzlich eine neue Bedeutung.
Sie hat tatsächlich etwas gelernt. Die Frage ist nur:
Was genau?
14. Wenn eine medizinische KI nicht die Krankheit, sondern das Umfeld erkennt
Besonders ernst wird dieses Problem in Bereichen, in denen Menschen sich auf die Vorhersage eines Modells verlassen wollen.
Medizinische Bilddaten sind dafür ein hervorragendes Beispiel. Untersuchungen können aus unterschiedlichen Krankenhäusern stammen, mit unterschiedlichen Geräten aufgenommen worden sein und unterschiedliche Aufnahmebedingungen besitzen. Solche Unterschiede können für den Menschen nebensächlich sein, für ein neuronales Netz aber statistisch sehr gut erkennbar.
In der medizinischen KI wurde deshalb wiederholt gezeigt, dass Modelle sogenannte Surrogate oder Shortcuts verwenden können. Eine Studie zu COVID-19-Erkennung aus Röntgenbildern zeigte beispielsweise, dass Modelle statt der medizinisch relevanten Pathologie teilweise Konfounder aus dem Datensatz nutzten und ihre Leistung auf Daten aus anderen Krankenhäusern einbrechen konnte.
Auch neuere Arbeiten beschreiben, dass Unterschiede bei Krankenhäusern, Aufnahmegeräten und Aufnahmebedingungen mit Krankheitslabels korrelieren können und dadurch für Modelle als unerwünschte Abkürzungen dienen
Das ist der wirklich gefährliche Teil:
Ein Modell kann im Test hervorragend aussehen und trotzdem eine Strategie gelernt haben, die unter veränderten Bedingungen nicht mehr funktioniert.
15. Können wir der KI beim „Denken“ zuschauen?
Die kurze Antwort lautet: teilweise.
Mit Verfahren aus der Explainable AI können Forschende beispielsweise untersuchen, welche Teile eines Bildes die Entscheidung eines Modells besonders beeinflusst haben. Man kann Inputs verändern, Merkmale entfernen und sogenannte Gegenbeispiele oder Gegenfaktualen erzeugen:
„Was müsste sich am Eingabebild ändern, damit das Modell seine Entscheidung ändert?“
Solche Verfahren können sehr nützliche Hinweise liefern. Aber eine Visualisierung ist nicht automatisch eine vollständige Rekonstruktion der internen Berechnung.
Ein Sprachmodell oder Vision-Modell mit Milliarden Parametern besitzt keine einfach lesbare Ablaufbeschreibung nach dem Muster eines von Menschen geschriebenen Programms. Genau deshalb gibt es inzwischen Forschungsrichtungen, die versuchen, interne Repräsentationen und sogenannte Schaltkreise im Modell systematischer zu rekonstruieren.
16. Explainable AI an der Hochschule Ruhr West
Besonders interessant ist für mich, dass genau diese Fragestellung nicht irgendwo weit weg stattfindet, sondern sogar an der Hochschule Ruhr West in Bottrop erforscht wird.
Prof. Dr. Anselm Haselhoff vom Institut Informatik der HRW ist im Bereich Computer Vision, KI und insbesondere Explainable AI aktiv. In einem Workshop an der HRW wurden unter anderem „Transparent Visual Counterfactual Explanations“ vorgestellt: Methoden, die nicht nur eine Entscheidung liefern, sondern auch erklären sollen, welche Veränderungen an einem Eingabebild die Entscheidung des Modells verändern würden.
Auch die Fachgruppe „KI und Data Science“ der HRW führt entsprechende wissenschaftliche Arbeiten und Kolloquien durch; ein von Haselhoff organisiertes Doktorand*innen-Kolloquium fand 2025 am Standort Bottrop statt.
Das macht die Frage für mich besonders anschaulich: Wir bauen nicht nur KI-Systeme. Wir bauen gleichzeitig Werkzeuge, um nachträglich herauszufinden, was diese Systeme während ihres Trainings eigentlich gelernt haben.
17. Von Text zu Bildern, Audio und Video
Sprachmodelle sind nur eine Form generativer KI.
Generative Modelle können auch andere Medien erzeugen:
- Text: Geschichten, Antworten, Zusammenfassungen oder Code
- Bilder: Personen, Landschaften, Illustrationen oder ganze Szenen
- Audio: Sprache, Geräusche und Musik
- Video: bewegte Szenen und zunehmend ganze Sequenzen
Ein Beispiel, das für mich persönlich bis heute besonders eindrucksvoll ist, ist This Person Does Not Exist. Die bekannte Website wurde 2019 durch ein von NVIDIA entwickeltes StyleGAN-System populär und zeigte bei jedem Neuladen ein künstlich erzeugtes menschliches Gesicht. Der Mensch auf dem Bild existierte nicht – zumindest existierte die konkrete abgebildete Person nie als fotografierte Person. StyleGAN wurde genau dazu entwickelt, realistisch wirkende Gesichter zu synthetisieren.
Heute sind generative Modelle natürlich weit darüber hinaus. Sie erzeugen nicht mehr nur ein Gesicht auf schwarzem Hintergrund, sondern ganze Bildwelten, Stimmen, Musikstücke und Videos.
Und gerade deshalb war „This Person Does Not Exist“ für viele Menschen ein so eindringlicher Moment: Es genügte ein einziges unspektakuläres Porträt, um eine ziemlich unheimliche Frage zu stellen:
Wenn ich einen völlig normalen Menschen sehe – woher weiß ich eigentlich, dass dieser Mensch jemals vor einer Kamera stand?
18. Vom Chatbot zum Agenten
Ein normales Sprachmodell erzeugt zunächst eine Antwort. Moderne KI-Systeme können aber zusätzlich Werkzeuge benutzen.
Dann kann aus einer einfachen Unterhaltung eine Schleife entstehen:
Aufgabe verstehen → Werkzeug auswählen → Werkzeug ausführen → Ergebnis lesen → nächste Aktion entscheiden → erneut Werkzeug verwenden
Genau so funktionieren viele moderne KI-Agenten.
In einer Entwicklungsumgebung kann ein Modell zum Beispiel:
- ein Python-Skript erstellen,
- es ausführen,
- die erzeugten Daten lesen,
- einen Fehler erkennen,
- PowerShell-Kommandos ausführen,
- Dateien untersuchen,
- Code verändern,
- und anschließend erneut testen.
Das ist ein qualitativ anderes Erlebnis als ein Chatbot, der ausschließlich Text erzeugt. Das Modell erhält plötzlich die Möglichkeit, in einer digitalen Umgebung zu handeln.
19. Vibe Coding: Wenn der Mensch den erzeugten Code selbst nicht mehr vollständig versteht
Genau hier entsteht eine sehr moderne Form des Problems.
Ein Mensch kann eine Idee haben, sie einer KI beschreiben und daraus ein funktionierendes Programm erhalten – ohne selbst jede Zeile Syntax geschrieben zu haben.
Das ist fantastisch produktiv. Es kann aber auch eine neue Art von Wissenslücke erzeugen:
„Es funktioniert. Aber verstehe ich wirklich, warum es funktioniert und was genau die KI dort gebaut hat?“
Die Gefahr muss nicht darin liegen, dass ein Modell absichtlich etwas Böses versteckt. Viel häufiger wird es schlicht eine funktionierende Lösung gewählt haben, die innerhalb seiner Aufgabenstellung plausibel erscheint.
Genau das verbindet Vibe Coding mit dem Problem des Shortcut Learning:
„Es funktioniert“ bedeutet nicht automatisch „es funktioniert aus dem Grund, den ich erwartet habe“.
20. Was daran tatsächlich gefährlich sein kann
An diesem Punkt ist es wichtig, sachlich zu bleiben. Nicht jedes unerwartete KI-Verhalten ist ein Vorzeichen einer Maschinenapokalypse.
Viele Probleme sind viel nüchterner:
- Ein Modell halluziniert eine Tatsache.
- Ein Bildmodell übernimmt Verzerrungen aus seinen Trainingsdaten.
- Ein Klassifikator nutzt einen unerwünschten statistischen Hinweis.
- Ein Agent führt einen technisch plausiblen, aber riskanten Schritt aus.
- Erzeugter Code enthält eine Schwachstelle.
- Eine Entscheidung funktioniert im Testdatensatz, scheitert aber in der realen Welt.
Darüber hinaus existieren langfristige Forschungsfragen: Wie bleiben leistungsfähige Modelle kontrollierbar? Wie kann man ihre Ziele mit menschlichen Zielen vereinbar halten? Wie untersucht man unerwartete Fähigkeiten? Und wie kann man nachweisen, dass ein System auch unter veränderten Bedingungen zuverlässig bleibt?
Diese Fragen sind real. Aber aus ihnen folgt nicht automatisch, dass heutige Systeme bewusst eigene Ziele besitzen oder kurz vor einem vollständigen Kontrollverlust stehen.
21. Das Paradox der modernen KI
Vielleicht ist genau das eines der interessantesten Dinge an moderner KI:
Das Grundprinzip ist vergleichsweise einfach. Das daraus entstehende System ist extrem komplex.
Ein künstliches Neuron ist mathematisch nicht besonders geheimnisvoll. Ein Netzwerk aus vielen Schichten ist schon interessanter. Ein Modell mit Milliarden Parametern ist gewaltig. Ein verteiltes Trainingssystem mit tausenden Beschleunigern, riesigen Datenpipelines, Hochgeschwindigkeitsnetzwerken und komplexer Softwareinfrastruktur ist schließlich eines der kompliziertesten technischen Systeme, die wir überhaupt bauen.
Das erklärt auch, warum bei einer Erklärung so viele Vereinfachungen notwendig sind. Man kann das Grundprinzip in wenigen Sätzen erklären, aber die vollständige Implementierung ist eine völlig andere Größenordnung.
22. Was ist KI nun eigentlich?
Nach all diesen Umwegen können wir die Ausgangsfrage wieder ziemlich nüchtern beantworten:
Moderne KI ist Software, die mithilfe mathematischer Modelle aus Daten Muster und Strukturen lernt und diese anschließend nutzt, um Vorhersagen, Entscheidungen oder neue Inhalte zu erzeugen.
Ja: Im fundamentalsten Sinne ist KI Code, der auf Hardware ausgeführt wird.
Der entscheidende Unterschied zur klassischen Software ist jedoch, dass das konkrete Verhalten eines trainierten Modells nicht vollständig aus einer von Menschen geschriebenen Liste expliziter Regeln besteht. Ein erheblicher Teil des Verhaltens entsteht aus den beim Training gelernten numerischen Parametern.
Das macht das System nicht magisch.
Aber es macht es anders.
23. Schluss: Wir haben etwas gebaut, das wir noch selbst erforschen müssen
Vielleicht ist deshalb die wichtigste Erkenntnis dieses ganzen Themas nicht:
„KI denkt wie ein Mensch.“
Und auch nicht:
„KI ist nur ein Taschenrechner mit sehr viel Rechenleistung.“
Viel treffender ist etwas dazwischen:
Wir haben Systeme gebaut, deren mathematische Grundlagen wir verstehen, deren Rechenoperationen wir nachvollziehen und deren Verhalten wir testen können – deren intern gelernte Strukturen wir aber noch nicht vollständig verstehen.
Genau deshalb gibt es Forschende, die versuchen, neuronale Netze rückwärts zu analysieren. Nicht weil niemand wüsste, wie ein Computer funktioniert, sondern weil ein großes trainiertes Netzwerk eine enorme Menge an mathematischen Wechselwirkungen enthält und seine Fähigkeiten nicht in Form einer verständlichen Regel-Liste abgespeichert sind.
Und vielleicht liegt genau darin einer der faszinierendsten Unterschiede zwischen klassischer Software und moderner KI:
Bei klassischer Software fragen wir normalerweise: „Welche Regeln hat der Programmierer eingebaut?“
Bei moderner KI müssen wir zusätzlich fragen: „Was hat das Training daraus gemacht?“
24. Der Selbsttest: Kann eine KI ihr eigenes Verhalten analysieren?
Zeit für das kleine Experiment, das ich am Anfang angekündigt habe.
Die Frage lautet nicht:
„Kann eine KI ihre eigenen geheimen neuronalen Gedanken auslesen?“
Darauf lautet die ehrliche Antwort: Nein, jedenfalls nicht in dem Sinne, dass ein Chatmodell seinen vollständigen internen Berechnungsweg einfach nachträglich als menschenlesbares Protokoll ausgeben könnte.
Aber wir können etwas anderes testen:
Kann ein KI-System seine eigenen sichtbaren Antworten analysieren und dabei unerwartete Annahmen, Fehlinterpretationen oder Muster im eigenen Verhalten erkennen?
Genau diese Frage habe ich dem Modell am Ende unserer Unterhaltung gestellt.
Interessanterweise konnte es dabei einige konkrete Fehlgriffe identifizieren. Beispielsweise hatte es meine ursprüngliche Erklärung an mehreren Stellen unnötig technisch korrigiert, obwohl die vereinfachte Aussage für den gewünschten Zweck bereits sinnvoll war. Es hatte meine Vorstellung von Modellparametern zunächst zu stark in Richtung einer „Datenbank“ interpretiert und später erkannt, dass ich eigentlich von einer numerischen Repräsentation gelernter Information gesprochen hatte. Und es hatte meine Aussage über CPU und GPU zunächst enger am technischen Fachbegriff „intelligent“ interpretiert, als ich sie gemeint hatte.
Das ist bereits interessant – aber es beweist nicht, dass die KI ihre eigenen neuronalen Berechnungen transparent gemacht hätte.
Was hier analysiert wurde, war das beobachtbare Verhalten im Gespräch: die Antworten, die Annahmen, die Formulierungen und die Reaktionen auf Korrekturen.
Und damit schließt sich der Kreis:
Wir können das Verhalten eines KI-Systems untersuchen, ohne damit automatisch sein gesamtes internes „Denken“ sichtbar gemacht zu haben.
Genau diese Lücke – zwischen dem, was ein Modell tut, und dem, was wir über seine innere Organisation tatsächlich verstehen – ist eine der spannendsten Fragen der modernen KI-Forschung.
25. Quellen und weiterführende Literatur
- OpenAI – „ChatGPT ist da“ – Veröffentlichung vom 30. November 2022.
- Vaswani et al. – Attention Is All You Need – das grundlegende Transformer-Paper von 2017.
- llama.cpp – Quantization – technische Dokumentation zur Quantisierung von Modellgewichten.
- ggml-org/llama.cpp – lokales Ausführen von Sprachmodellen.
- Intel – What is an AI PC? – CPU, GPU und NPU im aktuellen AI-PC-Konzept.
- Microsoft – Copilot+ PCs – Beschreibung von NPUs und On-Device-AI.
- Qualcomm – AI Engine – heterogene On-Device-AI mit CPU, GPU und NPU.
- Anders et al. – Finding and Removing Clever Hans – Shortcut Learning und spurious correlations in Deep-Learning-Modellen.
- Nature Machine Intelligence – AI for radiographic COVID-19 detection selects shortcuts over signal.
- npj Digital Medicine – Shortcut learning in medical AI hinders generalization.
- Hochschule Ruhr West – Exploratory Workshop on Intelligent Vehicles and Road Infrastructure – Explainable AI und transparente Gegenfaktual-Erklärungen mit Prof. Dr. Anselm Haselhoff.
- Hochschule Ruhr West – Doktorand:innen-Kolloquium der Fachgruppe KI und Data Science.
- This Person Does Not Exist – das bekannte Beispiel synthetisch erzeugter menschlicher Gesichter.
- Karras et al. – A Style-Based Generator Architecture for Generative Adversarial Networks – das StyleGAN-Paper.
Hinweis: Der Artikel verwendet bewusst vereinfachte Erklärungen. Wo eine Vereinfachung technisch relevant ist, wird sie im Text kenntlich gemacht. Bei einzelnen bekannten Internet-Anekdoten wurde bewusst auf die Darstellung als gesicherte Tatsache verzichtet, wenn sich ihre ursprüngliche Quelle nicht zuverlässig verifizieren ließ.
