Partnerschaft von Tech-Unternehmen: KI soll von der Cloud auf den Chip umziehen

Mit dem Einzug von Large-Language-Modellen wie ChatGPT hat die Sprachsteuerung im Auto eine völlig neue Stufe erreicht. Schluss mit roboterhaften Dialogen und ewigen Missverständnissen.

Stattdessen lassen sich natürliche Gespräche führen und neben Navigationszielen auch Informationen über das Wetter, Sehenswürdigkeiten auf der Strecke oder den mysteriösen Schalter links am Armaturenbrett abrufen.

Allerdings läuft jede Anfrage an KI-Assistenten bisher über eine Cloud, was je nach Region zu Verbindungsproblemen für den Kunden und enormen Kosten für den Hersteller führen kann. Denn jeden Datenaustausch lassen sich Tech-Unternehmen wie Google, Amazon oder Microsoft ordentlich vergüten.

Um diese Nachteile zu umgehen, haben sich die beiden US-Tech-Unternehmen Cerence AI und Sima.ai zusammengetan. Sie wollen im Rahmen einer strategischen Partnerschaft energieeffizente und intelligente Sprachsteuerung auf einem Chip im Fahrzeug ermöglichen.

Bei Cerence AI handelt es sich um einen weltweit führenden KI-Spezialisten, der nach eigenen Angaben mit nahezu allen OEMs in den USA, Europa und China an der Entwicklung von sprachbasierten Assistenten arbeitet.

"Wenn etwa chinesische Hersteller wie BYD, Nio oder Geely nach Europa kommen, dann muss die Sprachbedienung in 20 verschiedenen Sprachen funktionieren. Wir tauchen dabei mit unseren Daten tief in den Kontext des Fahrzeugs ein", sagt Nils Schanz, Leiter Produktentwicklung und Technologie bei Cerence AI.

Die Verbindung zur Hardware im Auto liefert der amerikanische Chip-Spezialist Sima.ai, dessen Automotive-Geschäft vom ehemaligen Bosch-Geschäftsführer Harald Kröger geführt wird. Der hatte als Anwendung zunächst eher an Fahrassistenzsysteme gedacht, sieht aber kurzfristig ein großes Interesse beim Thema KI und Large-Language-Modelle im Fahrzeug.

"Es geht um hohe Cloud-Kosten, und um wirklich überzeugende Performance, die ein Cloudsystem nicht zuverlässig bieten kann", sagt Kröger – und verspricht: "Innerhalb von zwölf bis 18 Monaten können wir jede GenAI-Sprachbedienung aus der Cloud holen. Wir rechnen mit einem ersten Serieneinsatz im Jahr 2028."

Die Integration der KI in die so genannte Modalix-Plattform von Sima.ai wäre theoretisch sogar während des Lebenszyklus' eines Modells möglich. "Der Chip von Sima.ai ist ideal, weil er offene Schnittstellen mitbringt und sich sehr leicht in die Fahrzeuge integrieren lässt", sagt Schanz. Beide Unternehmen wollen ihre Lösung, die auch einen kompakten KI-Stack beinhaltet, auf der IAA in München (Halle B2, Stand D21) den Herstellern präsentieren.

Ganz ohne Cloud kommt aber auch die Chip-Lösung nicht aus. Kröger rechnet vor, dass sich etwa 90 Prozent der Aufgaben einer KI auch im Fahrzeug selbst erledigen lassen.

"Nur noch in zehn Prozent der Fälle muss dann auf die Cloud zugegriffen werden, etwa beim Wetter oder Fußballergebnissen." Die hybride KI von Cerence soll dabei flüssige Übergänge zwischen Edge- und Cloud-Ausführung gewährleisten.

Zwar bieten die etablierten Tech-Konzerne wie Nvidia oder Qualcomm ähnliche Konzepte an, die haben laut Kröger allerdings einen entscheidenden Nachteil. "Man könnte theoretisch dafür auch Grafikkarten nutzen, die wirken aber eher als Heizkörper, und nicht als KI-Maschinen – keine Option fürs Auto."

Der Chip von Sima.ai habe in vielen Tests bewiesen, dass er besonders schnell sowie energieeffizient sei und damit neben sehr geringen Latenzzeiten auch Kosten für die Hersteller sparen könne.

Cerence hat mit CaLLM für die eigene Plattform xUi ein Sprachmodell entwickelt, das sich von den gängigen KI-Assistenten unterscheidet. "Unser Vorteil gegenüber Google oder Amazon besteht darin, dass wir viel tiefer in die Marke und das Fahrzeug eindringen", sagt Schanz. "Wenn Sie beispielsweise nach dem CEO von Mercedes fragen, antwortet das System gezielt durch die Brille des Unternehmens, geht etwa auf die Historie ein."

Google würde laut Schanz etwa auch Ladestationen in einer anderen Reihenfolge auflisten, als es die meisten Hersteller bevorzugen. "Darüber hinaus bieten wir den Automobilherstellern mehr Flexibilität mit einem breiten Ökosystem von Partnern und können marktspezifische KI-Modelle einbinden, um ein besseres Gesamterlebnis zu ermöglichen."

Vision beider Unternehmen ist ein verbessertes Kundenerlebnis. "Die KI im Fahrzeug ist wie ein unsichtbarer Beifahrer, mit dem ich mich unterhalten kann. Er wird zum Assistenten mit echtem Mehrwert", sagt Schanz. Beispielsweise könnte Software aus dem Büro integriert werden, ohne sensible Geschäftsdaten mit den großen Tech-Konzernen über die Cloud teilen zu müssen.

Auf dem Weg ins Büro könnte die KI dann die Präsentation des Chefs zusammenfassen. Schanz: "Ich bin überzeugt, dass für solche Anwendungsfälle auch die Zahlungsbereitschaft der Kunden zunimmt."