Dein wichtigster Touchpoint zur Digitalbranche.
Dein wichtigster Touchpoint zur Digitalbranche.
Technologie
Chat with RTX: NVIDIA launcht ChatGPT-Konkurrenz

Chat with RTX: NVIDIA launcht ChatGPT-Konkurrenz

Swantje Schemmerling | 15.02.24

Das Grafikprozessoren- und Computerchipunternehmen NVIDIA hat kürzlich mit Chat with RTX einen KI-Chatbot veröffentlicht, der lokal auf dem PC der Nutzer:innen läuft.

NVIDIA betritt damit den KI-Chatbot-Markt, der bisher von bekannten Unternehmen wie OpenAI mit ChatGPT, Google mit Gemini oder Microsoft mit Copilot beherrscht wurde. Auf dem eigenen Blog beschreibt das Unternehmen die Leistungen und Möglichkeiten des Chatbots. Chat with RTX ermöglicht es Usern, die Leistung eines Large Language Models (LLM) mit persönlichen Inhalten zu kombinieren – von Dokumenten über Videos bis hin zu Notizen – und verspricht kontextbezogene Antworten auf Knopfdruck.

Voraussetzungen und Leistungen

Die Anwendung, die einen Webserver und eine Python-Instanz auf dem PC installiert, nutzt externe LLMs wie Mistral (von Microsoft) oder Llama 2 (von Meta), um die eingegebenen Daten abzufragen. NVIDIA empfiehlt für die Nutzung mindestens eine GeForce-Grafikkarte der RTX-30-Serie mit 8 GB VRAM und 16 GB Arbeitsspeicher sowie Windows 11 als Betriebssystem. Der Download ist rund 35 GB groß.

Die Anwendung nutzt außerdem die Retrieval Augmented Generation (RAG), eine Technik, die es großen Sprachmodellen ermöglicht, ohne erneutes Training auf zusätzliche Datenressourcen zuzugreifen. In diesem Fall sind dies eigene Dokumente und Ordner auf den PCs der Nutzer:innen. Dies könnte vor allem für Journalist:innen und Forscher:innen für Datenrecherche und Analyse sowie für die Verarbeitung großer Datenmengen interessant sein. Mit der Fähigkeit, YouTube-Videos zu transkribieren und eine Vielzahl von Dateiformaten zu unterstützen, eröffnet Chat with RTX neue Möglichkeiten für Nutzer:innen, ihre Informationsbeschaffung und -analyse zu personalisieren.

Wert von NVIDIA steigt

Einem Bericht von Bloomberg zufolge spiegelt sich NVIDIAs Erfolg auch im Börsenwert wider. Das Unternehmen hat sowohl Alphabet als auch Amazon überholt, womit es zu den wertvollsten Unternehmen der Welt gehört. NVIDIAs finanzielle Power könnte dafür sorgen, dass Tools wie Chat with RTX langfristig zu einem Go-to Tool für zahlreiche Nutzer:innen avancieren. Grundsätzlich profitiert das Unternehmen seit einiger Zeit stark vom KI-Trend, weil es umfassende Lösungen für das globale KI-Computing bereitstellt. Chat with RTX zeigt NVIDIAs Engagement, die Grenzen der KI-Technologie zu erweitern und Werkzeuge bereitzustellen, die die Effizienz und die Möglichkeiten der Nutzer:innen verbessern können.


OpenAI greift Google an:

Web-Suche wird entwickelt

OpenAI-Logo, pinkfarben und mehrfach
© Mariia Shalabaieva – Unsplash

Kommentare aus der Community

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

*
*