Warum wurde KI nicht schon viel früher entwickelt und in der Masse angewendet? Was waren die limitierenden Faktoren?
Die Grundkonzepte der künstlichen Intelligenz (wie Perzeptronen und neuronale Netze) wurden bereits in den 1950er- und 1960er-Jahren entwickelt. Dass der Durchbruch für die breite Masse erst Jahrzehnte später erfolgte, lag an drei zentralen, miteinander verknüpften Engpässen:
1. Rechenleistung (Hardware-Flaschenhals)
- Rechenleistung: Frühere Mainframes und PCs waren um viele Größenordnungen zu langsam, um Millionen von Parametern zu verarbeiten.
- Parallele Verarbeitung: Erst die Umwidmung von Grafikprozessoren (GPUs) ab ca. 2009–2012 für Matrix-Berechnungen ermöglichte effizientes Deep Learning.
2. Datenverfügbarkeit (Trainingsmaterial)
- Mangel an digitalen Daten: Neuronale Netze benötigen gigantische Datenmengen. Vor dem breiten Durchbruch des Internets, von Social Media und der Digitalisierung von Texten/Bildern fehlte das nötige Trainingsmaterial.
- Unstrukturierte Daten: Erst mit dem Web 2.0 standen ausreichend Text-, Bild- und Audio-Datensätze im Terabyte- und Petabyte-Bereich zur Verfügung.
3. Algorithmen & mathematische Durchbrüche
- Backpropagation: Das effiziente Anpassen von Gewichten in tiefen Netzen wurde erst in den 1980ern populär, funktionierte auf damaliger Hardware aber nur für sehr flache Netze.
- Vanishing Gradient Problem: Das mathematische Problem, dass Gradienten in tiefen Netzen beim Training verschwinden, wurde erst um die Jahrtausendwende gelöst.
- Transformer-Architektur: Erst die 2017 vorgestellte Transformer-Architektur („Attention Is All You Need“) erlaubte die effiziente Parallelisierung bei der Verarbeitung von Sequenzen – die Grundlage heutiger LLMs.
Die historischen „KI-Winter“
Aufgrund der Diskrepanz zwischen überzogenen Erwartungen und den damaligen technischen Limitierungen brachen die Fördergelder und das Interesse mehrfach komplett ein (vor allem Mitte der 1970er und Ende der 1980er Jahre). Erst die synchrone Verfügbarkeit von extrem hoher GPU-Rechenleistung, dem Internet als Datenspeicher und ausgereiften Deep-Learning-Architekturen löste ab etwa 2012 den aktuellen Boom aus.
(KI generiertes Bild... wo hast du meine versteckte Katze gefunden, welches Objekt ist aus der Zukunft?)