Der Kampf um die Kanten- und Seiten-KI ist offiziell eröffnet.

Der Kampf um On-Device-AI: Wenn AI vom „Cloud-Brain“ in Ihre Tasche und Ihr Auto kommt

Hallo zusammen, ich bin euer Finanzjournalist. Heute sprechen wir über eine Veränderung, die bereits im Gange ist, aber vielleicht noch nicht vollständig in Ihrem Blickfeld erschienen ist: AI verlässt den Cloud und zieht in Ihre Geräte ein.

Früher dachten wir bei AI an ChatGPT oder DeepSeek – man brauchte eine Internetverbindung, und die Server, die die Berechnungen durchführten, befanden sich tausende Kilometer entfernt. Jetzt hat sich die Situation geändert. Smartphones, Autos – sogar eine „Maschinenente“ – verfügen über ihre eigenen „Kleinhirne“ und können ohne Internet arbeiten. Das ist On-Device-AI.

Die Kernbotschaft dieses Artikels ist: 2026 könnte das Jahr der Kommerzialisierung von On-Device-AI werden. Großunternehmen (NVIDIA, Meta, Apple, Huawei, Xiaomi, ByteDance usw.) sowie Start-ups (wie Mianbi Intelligence oder Jieyue Xingchen) bauen intensiv darauf auf. Warum? Weil der Cloud zu teuer, zu langsam ist und Privatsphärenbedenken besteht, während On-Device-AI günstiger, schneller und den Datenschutz besser gewährleistet. Es handelt sich dabei um eine umfassende Modernisierung der Hardwareindustrie – und auch um einen Kampf um die Kontrolle über die Zugänge zu diesen Technologien.

Im Folgenden zerlege ich diesen langen Artikel in fünf Schlüsselaspekte und erkläre sie Ihnen in einfachen Worten.

---

1. Warum On-Device-AI? Weil der Cloud zu teuer, zu langsam und riskant für die Privatsphäre ist

Vielleicht denken Sie: Wenn der Cloud große Modelle wie GPT-4 so leistungsfähig sind, warum dann nicht einfach ein kleineres Modell in das Smartphone integrieren? Es gibt drei Hauptprobleme:

• Sehr teuer und kostspielig in der Nutzung: Die Entwicklung eines Top-Modells wie Anthropics Mythos kostet bis zu 10 Milliarden US-Dollar. Noch schlimmer ist der Betriebskostenaspekt: ByteDances „DouBao“ ist zwar kostenlos, aber allein die Rechenkosten belaufen sich täglich auf 130 bis 240 Millionen Yuan. Je mehr Nutzer, desto höher die Kosten – das Geschäft kann nicht auf Dauer verlustbringend sein. On-Device-AI hingegen läuft auf Ihrem eigenen Smartphone-Chip und hat nahezu keine zusätzlichen Kosten. Selbst wenn Sie das Modell tausendmal nutzen, zahlt Ihr Handy keine zusätzlichen Gebühren, und der Hersteller muss keine hohen Serverkosten tragen.
• Abhängig vom Internet – hohe Latenz: Cloud-AI funktioniert nur, wenn Sie eine Verbindung haben (z. B. in der U-Bahn, im Flugzeug oder an Orten mit schlechtem Signal). Zudem gibt es Verzögerungen beim Datentransfer zwischen Cloud und Gerät. On-Device-AI arbeitet direkt auf Ihrem Gerät und reagiert daher extrem schnell – auch ohne Internetverbindung.
• Datenschutz: Sie möchten sicherstellen, dass die Welt nicht weiß, wonach Sie suchen oder welche Fotos Sie machen. Cloud-AI erfordert die Übertragung Ihrer Daten. On-Device-AI hingegen speichert die Daten lokal und schützt so Ihre Privatsphäre.

Kurz gesagt: Cloud-AI ist wie ein „Expertenberatungsdienst“ – leistungsfähig, aber teuer und langsam; On-Device-AI ist wie ein „Hausarzt“, der immer zur Stelle ist und Ihre Privatsphäre schützt.

---

2. Wie wird das technisch umgesetzt? „Kleine, leistungsfähige Modelle“ + Chip-Verbesserungen = Mehr mit weniger

Viele Menschen fragen sich: Reicht die Speicherkapazität eines Smartphones aus, um große Modelle zu integrieren? Die Antwort lautet: Ja, dank Komprimierungstechniken und Fortschritten in der Chiptechnologie.

• Modelle werden „verkleinert“: Wissenschaftler nutzen Techniken wie „Knowledge Distillation“, „Pruning“ und „Quantization“, um riesige Modelle mit Billionen von Parametern auf Modelle mit nur einigen Milliarden Parametern zu reduzieren. Trotz der Größe sind sie in bestimmten Aufgaben (z. B. Spracherkennung, einfache Fragen und Antworten, Bildverarbeitung) immer noch sehr leistungsfähig.
• Beispiel: Mianbi Intelligence’s MiniCPM5-2B hat nur 2 Milliarden Parameter, ist aber unter den weltweit verfügbaren Open-Source-Modellen führend. Das ist wie ein kleiner, aber kraftvoller Kampfkünstler.
• Chip-Leistung verdoppelt sich (Moores Gesetz + Dichtegesetz): Die Rechenleistung von Chips verdoppelt sich alle zwei Jahre (Moores Gesetz), während die Leistungsdichte der Modelle alle 100 Tage steigt. Diese Kombination bedeutet, dass moderne Smartphone-Chips bereits in der Lage sind, Modelle zu betreiben, die früher nur Supercomputer bewältigen konnten.
• Beispiel: NVIDIAS neuer Chip RTX Spark bietet eine Rechenleistung von 1 Petaflop und kann Modelle mit 12 Milliarden Parametern lokal ausführen. Auch AMD und Intel arbeiten intensiv an der Steigerung der Rechenleistung.

Folglich: AI ist nicht mehr nur auf dem Cloud beschränkt – es breitet sich auf Smartphones, PCs, Autos und Roboter aus. Bis 2025 verfügen 36 % der neuen Smartphones über generative AI-Funktionen; bis 2027 wird dieser Anteil auf über 50 % steigen.

---

3. Wer kämpft darum? Großunternehmen, Start-ups und Hardwarehersteller – jeder mit eigenen Zielen

Dieser Kampf ist nicht einseitig, sondern ein Mischkampf mit unterschiedlichen Akteuren und Strategien:

A. Internationale Großunternehmen: Ökosysteme kaufen, Hardware entwickeln

• NVIDIA: Investierte 12,9 Milliarden US-Dollar in die Übernahme von Hugging Face (der größten Open-Source-AI-Plattform). Warum? Um die Kontrolle über das Open-Source-Ökosystem zu erlangen. Ihr Produkt „Microduck“ (399 US-Dollar) läuft mit Mittelklasse-Chips und soll die Barriere für die Nutzung von AI-Robotern senken, um NVIDIAS Position in der AI-Infrastruktur zu stärken.
• Apple, Meta, Google: Werden ihre eigenen On-Device-AI-Lösungen (Apple Intelligence, Meta Llama usw.) vorantreiben, um AI zu einem Standard ihrer eigenen Ökosysteme zu machen und die Kundenbindung zu stärken.

B. Chinesische Akteure: Jeder mit eigenen Schwerpunkten

• Mianbi Intelligence (reiner Anbieter von On-Device-Modellen): Konzentriert sich auf die Entwicklung von Modellen, die an verschiedene Hardwarehersteller verkauft werden.
• Hervorhebung: Ihre Open-Source-Modelle (MiniCPM-Serie) wurden in die Samsung-Supply Chain integriert; ihre Technologie kommt auch in den Fahrzeugen von Changan Mazda zum Einsatz.
• Risiko: Große Hersteller (wie Apple oder Huawei) könnten in Zukunft eigene Modelle entwickeln – Mianbi könnte als reiner Drittanbieter an seine Grenzen stoßen.
• ByteDance (DouBao) + ZTE Nubia: Setzen auf die Entwicklung von „Super-Eingängen“ (z. B. NaviX Ultra-Smartphones), die AI direkt in Anwendungen integrieren.
• Ziel: Nutzen ByteDances große C-Endnutzerbasis, um DouBao von einem Chattool zu einem „Betriebssystemassistenten“ zu entwickeln und so mehr Zeit der Nutzer zu gewinnen.
• Jieyue Xingchen (Kombination aus Software und Hardware): Entwickelt sowohl Modelle als auch Smartphones (STEPX Neo) und arbeitet mit Geely zusammen an Autos.
• Hervorhebung: Ziel ist es, die gesamte Kette von Modell, System und Hardware zu vereinen.
• Horizon Robotics, Desay SV Automotive: Spezialisten für Automobiltechnologie; ihre Lösungen sind besonders sicher und reaktionsschnell.
• iFlytek: Konzentriert sich auf die Verbesserung der Büroproduktivität durch AI.

Zusammenfassung: Jeder versucht, die Kontrolle über die Definition und den Zugang zu On-Device-AI zu erlangen.

---

4. Ein symbolischer Moment: Was hat der 399-Dollar-„Roboter“ bewirkt?

Der Artikel erwähnt besonders die „Microduck“-Entwicklung von NVIDIA nach der Übernahme von Hugging Face. Dieser Fall ist entscheidend, da er den Beginn der On-Device-AI-Ära markiert:

• Sehr günstig: Für 399 US-Dollar wird ein Modell mit einem 2020er Mittelklasse-Chip (RK3566) verwendet – kein teurer Top-GPU.
• Open Source: Nutzer können das Modell selbst trainieren und Daten an die Hugging Face Hub übertragen.
• Datenschutz: Tausende „Roboter“ sammeln Daten in der realen Welt, die wiederum die Algorithmen optimieren. Diese „Daten-Algorithmus-Hardware“-Schleife ist kostengünstig und ermöglicht schnelle Iterationen.
• Marktreaktion: Innerhalb von 24 Stunden wurden über 2,6 Millionen Bestellungen aufgenommen; das erste Exemplar wurde innerhalb von 4 Sekunden verkauft.

Erkenntnis: On-Device-AI betrifft nicht nur Smartphones und Autos, sondern auch Roboter, Smart Homes und Wearable-Geräte. In Zukunft wird AI nicht nur auf dem Bildschirm erscheinen, sondern als physische, interaktive Einheiten.

---

5. Die zukünftige Struktur: Der Cloud setzt die Grenzen, On-Device bestimmt den Zugang

Der Artikel skizziert eine klare zukünftige Aufteilung der Rollen:

1. Cloud-Modelle: Für komplexe Berechnungen, die Erstellung von langen Videos und die Entwicklung von Super-Agenten – sie bilden das „Gehirn“ von AI.

2. Branchenspezifische Modelle: Für Anwendungen in Finanzwesen, Medizin, Recht usw., die spezifische Probleme lösen.

3. On-Device-Modelle: Für häufige, Echtzeit-Anfragen, den Schutz der Privatsphäre und den Betrieb ohne Internetverbindung. Sie sind die „Arme und Beine“ von AI und bestimmen, wie viele Menschen und Geräte AI nutzen können.

Kernlogik: Der Cloud ist zu teuer und nicht für alle Anwendungen geeignet; On-Device-AI ist günstiger, schneller und schützt die Privatsphäre – daher der notwendige Weg zur breiten Nutzung von AI.

Auswirkungen auf die Allgemeinbevölkerung: Ihre Smartphones, Computer und Autos werden immer intelligenter und verstehen Sie besser (dank der lokal gespeicherten Daten). AI-Anwendungen werden von „Chat-Funktionen“ zu praktischen Hilfsdiensten (z. B. Taxi-Ruf, Einkauf, Steuerung von Haushaltsgeräten).

Auswirkungen für Investoren: Konzentrieren Sie sich auf Hersteller von On-Device-Chips (NPU, SoC) und Modellanbietern (wie Mianbi Intelligence – aber seien Sie vorsichtig vor der möglichen Abschottung durch große Unternehmen).

---

Fazit

Der Kampf um On-Device-AI ist im Grunde ein Prozess der „Demokratisierung von AI“. Er macht AI aus teuren Cloud-Diensten zu einem Standardelement in unseren Taschen, Autos und Häusern.

Obwohl der eigentliche Wert von On-Device-AI noch nicht vollständig erkennbar ist, wird mit der Steigerung der Chip-Leistung und der Verbesserung der Modellkomprimierungstechnologie die Ära der „allgemeinen Verfügbarkeit von AI“ tatsächlich beginnen. Für Unternehmen ist es jetzt an der Zeit, in diesen Bereich einzusteigen, um den Zugang zum nächsten Jahrzehnt zu sichern; für die Nutzer bedeutet dies, sich auf eine intelligentere, privaterere und bequemere digitale Lebensweise vorzubereiten.

Vielen Dank für Ihre Aufmerksamkeit!