Die Zukunft der KI ist tiny! 

ChatGPT hat unsere Welt im Sturm erobert. Für manch einen ist die KI fast gar nicht  mehr wegzudenken. 

Die Kritik an der Technologie ist jedoch mindestens genauso groß. ChatGPT wird durch ein riesiges Rechenzentrum, das Herzstück des Modells, am Laufen gehalten.  Wenn man sich eine E-Mail mit 100 Wörtern von ChatGPT generieren lässt, werden knapp 140Wh verbraucht. Damit kann man knapp sieben Mal das eigene Handy vollständig aufladen. Dabei hört es jedoch nicht auf, denn die Server im  Rechenzentrum müssen ständig gekühlt werden. Die Kühlung erfolgt herkömmlich über Wasser. Das Beispiel von oben benötigt knapp 500ml Wasser – nur um die  Temperatur zu regulieren. Statt die eigene Nachhaltigkeit zu verbessern, setzt OpenAI – die Firma hinter ChatGPT – auf Wachstum nach dem kapitalistischen Prinzip: immer größer, immer schneller, immer mehr. Es geht aber auch anders. Es gibt intelligente Modelle, die kein riesiges  Rechenzentrum oder Unmengen an Wasser benötigen. Und: sie passen in die  Hosentasche. Das Prinzip nennt sich „TinyML“ (kurz für Tiny Maschine Learning)  oder „EdgeAI“. Viele werden den Begriff noch nicht gekannt haben, obwohl TinyML uns fast täglich begegnet. Wann immer ein Sprachassistent durch „Hey, Siri“ oder  „Hey, Google“ aktiviert wird, wird davon Gebrauch gemacht. In unseren Smartphones  ist nämlich ein Chip eingebaut, der darauf trainiert ist, dieses bestimmte Wort zu  erkennen. Dieses Wort, was eine bestimmte Aktion auslöst, wird auch „Wake Word“  genannt. TinyML begegnet uns auch in vielen Smart-Home-Geräten, z.B. einer  Lampe, die automatisch angeht, wenn sie Bewegung erkennt oder die Umgebung dunkel wird. Häufig wird sie für die Erkennung von Audiosignalen („Hey Siri“), Objekten oder Gesten erkannt. 

Ein TinyML-Modell wird direkt in die Hardware eingebunden. Das kann beispielsweise ein Chip oder ein Mikrokontroller sein. Sie zeichnen sich deswegen – im  Gegensatz zu ChatGPT – während ihrer Laufzeit durch einen besonders niedrigen  Stromverbrauch aus. Es reicht aus, einen Mikrokontroller an eine herkömmliche 9V Batterie zu stecken, um es für mehrere Stunden zu betreiben. Da solche Geräte gleichzeitig weniger Speicher besitzen, muss das Modell entsprechend klein sein. Im Gegensatz zu Modellen wie ChatGPT, die auf einer Anzahl von Servern laufen und unzählige Parameter besitzen, werden die Modelle so stark komprimiert, dass sie nur noch ein paar Bytes in Anspruch nehmen – ein winziger Bruchteil der Größe. Die begrenzte Größe der Modelle hat auch einen Haken: die Anwendungsgebiete für ein TinyML-Modell sind in der Regel streng begrenzt. Sie ist sogar so stark begrenzt,  dass sie sich auf eine einzige Aufgabe beschränken. Wenn man also ein solches Modell trainiert, trainiert man es für ein einziges spezielles Gerät mit einer speziellen Aufgabe und für gewöhnlich auch einen ganz speziellen Anwendungsfall oder Kontext. Ein Mikrokontroller mit TinyML ist damit beispielsweise nicht in der Lage, gleichzeitig Gesangstöne und Gesten zu erkennen. Diese Beschränkung ermöglicht es allerdings auch, das Modell für seinen Anwendungsfall zu optimieren. TinyML ist damit keine künstliche Intelligenz im klassischen Sinne, zumindest keine generalisierte. Sie ist aber in der Lage, ein Muster in einem Datenset präzise zu erkennen und basierend darauf eine Entscheidung zu treffen, beispielsweise ob die Lampe angehen sollte oder nicht. 

TinyML und EdgeAI ersetzen ChatGPT damit natürlich nicht und als solches sollte es auch nicht behandelt werden. Dafür ist das, was so ein kleines Modell kann, zu wenig. Aber das, was es kann, macht es gut und macht es, ohne dabei viele  Ressourcen zu verbrauchen. In Zeiten, in denen sowohl die Digitalisierung als auch  der Klimawandel in rasendem Tempo voranschreiten, müssen innovative Lösungen gefunden werden, die Zukunftstechnologie und Nachhaltigkeit miteinander vereint. Mit TinyML und EdgeAI können kleine Assistenten geschaffen werden, die  redundante Arbeiten automatisieren und uns Zeit für wichtigere Dinge einräumen,  ohne währenddessen Unmengen an Strom und Wasser zu verbrauchen. Aktuell sehen wir eine Entwicklung, im Zuge dessen alle unsere Geräte immer  stärker, leistungsfähiger und schneller werden. Die Laptops und PCs, die wir uns  anschaffen, brauchen mehr Speicher und mehr Leistung, um die Anwendungen laufen lassen zu können. Diese Anwendungen können unseren Geräten wiederum so viel Leistung abverlangen können, weil die Kapazität „ja eh schon da ist“. Ein Teufelskreislauf entsteht. Dabei braucht es diese Anhäufung von Kapazitäten und  ständige Erneuerung und Erweiterung von Hardware nicht, damit eine Technologie besser wird.  

TinyML kann als Sinnbild dafür verstanden werden. Die Leistung der Geräte, auf  denen die Modelle laufen, ist sehr stark begrenzt und dennoch sind sie in der Lage, zuverlässig ihre Aufgabe zu erledigen. Dieses Prinzip funktioniert, weil wir die Technologie optimieren und die Kapazitäten, die aktuell da sind, ausnutzen. Wir können Fortschritt erreichen, ohne uns mehr Ressourcen zu nehmen, ohne immer  größer und immer mehr zu werden und immer mehr Leistung zu erbringen, wie wir vielleicht glauben. Raffiniert, klein, optimiert – so geht es auch.