Was ist On-Device-KI und wie funktioniert sie?

Die zentralen Thesen

• On-Device AI bezieht sich auf Funktionen der künstlichen Intelligenz, die lokal auf einem Gerät ohne Verbindung zum Internet ausgeführt werden und so Datenschutz und schnellere Verarbeitung bieten.
• Mit der KI auf dem Gerät können Smartphones beeindruckende Aufgaben erfüllen, wie zum Beispiel die schnelle Generierung von Bildern, die Bereitstellung personalisierter KI-Assistenten und die Verbesserung der Grafik- und Audioqualität von Spielen.
• Unternehmen wie Qualcomm integrieren spezielle Hardware in ihre Geräte, um die KI auf dem Gerät zu optimieren Leistung und bietet erweiterte Funktionen wie intelligente Assistenten, Echtzeitübersetzung und Automatisierung Fotobearbeitung.

Von Chatbots bis hin zu selbstfahrenden Autos – KI verändert die Technologielandschaft. Ein Bereich, in dem die KI-Einführung rasant zunimmt, sind Verbrauchergeräte wie Smartphones. Technologiegiganten bemühen sich darum, geräteinterne KI-Funktionen in ihre neueste Hardware und Software zu integrieren.

Aber was genau ist KI auf dem Gerät und wie funktioniert sie?

Was KI auf dem Gerät ist und wie sie funktioniert

Heutzutage basiert der Großteil der Verbraucher-KI auf riesigen Datensätzen, die in der Cloud gespeichert sind. Jedoch, Das Hochladen persönlicher Daten auf KI-Server ist nicht gut für die Privatsphäre. Hier kommt die On-Device-KI ins Spiel.

On-Device AI bezieht sich auf Funktionen der künstlichen Intelligenz, die lokal auf einem Gerät und nicht in der Cloud ausgeführt werden. Das bedeutet, dass die KI-Verarbeitung direkt auf Ihrem Telefon, Tablet oder anderen Geräten erfolgt, ohne dass eine Verbindung zum Internet besteht.

So funktioniert es unter der Haube: KI-Modelle mögen Stabile Diffusion, DALLE-E, Midjourneyusw. werden mit viel Daten und Rechenleistung in der Cloud trainiert. Diese Modelle werden dann optimiert, um effizient auf den Zielgeräten zu laufen. Die optimierten KI-Modelle werden in Apps eingebettet und auf das Gerät jedes Benutzers heruntergeladen. Die App-Daten bleiben isoliert in einer sicheren Enklave.

Wenn die App eine Aufgabe wie das Erkennen eines Tons oder das Identifizieren eines Objekts auf einem Foto ausführen muss, führt sie das KI-Modell lokal mithilfe der integrierten CPU oder GPU des Geräts aus. Das KI-Modell verarbeitet die Eingabedaten und generiert eine Ausgabevorhersage oder ein Ausgabeergebnis, ohne Daten extern zu senden.

All dies geschieht vollständig auf Ihrem Gerät, sodass Ihre Interaktionen privat bleiben.

Wie Sie von On-Device-KI profitieren können

Die On-Device-KI ermöglicht beeindruckende Funktionen auf Ihrem Gerät. Dazu gehört die schnelle Bilderzeugung mit Modellen wie Stable Diffusion, bei denen Bilder in Sekundenschnelle erstellt werden können, was rasant schnell ist. Dies könnte großartig sein, wenn Sie schnell Bilder und Hintergründe für Ihre Social-Media-Beiträge erstellen möchten. Und da es lokal verarbeitet wird, bleiben Ihre Bildaufforderungen privat.

Ein KI-Assistent kann auch lokal betrieben werden und bietet ein personalisiertes Erlebnis basierend auf Ihren Daten und Vorlieben, wie z. B. Lieblingsaktivitäten und Fitnessniveau. Es kann natürliche Sprache für Aufgaben wie Foto- und Videobearbeitung verstehen. Beispielsweise können Sie sagen: „Entfernen Sie die Person auf der linken Seite“, um ein Bild sofort zu bearbeiten.

Für die Fotografie kann die KI auf dem Gerät Funktionen wie das Erweitern von Bildrändern ermöglichen (ähnlich wie Die Füllfunktion von Photoshop), die gleichzeitige Verwendung von Vorder- und Rückkameras für Videoeffekte und die unabhängige Bearbeitung verschiedener Ebenen.

Auch Gaming-Grafiken können von der KI auf dem Gerät profitieren, indem die Auflösung auf bis zu 8K hochskaliert, Raytracing für realistische Beleuchtung beschleunigt und die Bildraten effizient verdoppelt werden. In Bezug auf Audio kann die KI auf dem Gerät eine Audiosynchronisierung in Echtzeit ermöglichen, sodass Ihr Audio von Videos und Spielen nie aus der Synchronisierung gerät. Es ermöglicht auch kristallklare Anrufe und Musik, selbst wenn Sie einen anderen Raum betreten.

Insgesamt entspricht die KI auf dem Gerät den Wünschen vieler Benutzer – schnelle Ergebnisse und Datenschutz –, da sie mehr Verarbeitung lokal statt in der Cloud ermöglicht.

KI auf dem Gerät sorgt für schnellere und privatere KI-Erlebnisse

Die KI auf dem Gerät ist ziemlich ordentlich. Es ermöglicht unseren Telefonen und anderen Geräten, fortschrittliche KI-Algorithmen lokal auszuführen, ohne dass eine Verbindung zur Cloud erforderlich ist und ohne Verzögerung.

Unternehmen wie Qualcomm packen ihre neuesten Chips bereits mit spezieller Hardware aus, um neuronale Netze effizient auf unseren Geräten auszuführen. Beispielsweise unterstützt Qualcomms Snapdragon 8 Gen 3 bis zu 24 GB (auf einem Smartphone!) und verfügt über eine integrierte Unterstützung für Stable Diffusion und Llama 2 und nutzt den AI Stack von Qualcomm, um einige der derzeit besten KI-Leistungen auf dem Gerät zu liefern Zeit.

Erwarten Sie also mit jeder neuen Smartphone-Generation noch leistungsfähigere KI-Funktionen auf dem Gerät für Dinge wie Intelligente Assistenten, Echtzeitübersetzung, automatisierte Fotobearbeitung und blitzschnelle generative KI-Bilder Generation.