Nvidia, ein weltweit führender Hersteller von AI-Chips, hat eine AI-Chatbot-Anwendung eingeführt, die lokal auf PCs läuft. Diese Anwendung, genannt Chat with RTX, bietet interessante Funktionen, die den Benutzern in vielerlei Hinsicht helfen können.
Zusammenfassung von Dokumenten und Videos
Eine der Hauptfunktionen von Chat with RTX ist die Fähigkeit, Dokumente zusammenzufassen, die Benutzer in den Formaten .txt, .pdf, .doc/.docx und .xml hochladen. Benutzer können eine Zusammenfassung dieser Dokumente anfordern, indem sie sie an die Anwendung senden, und die Anwendung wird eine kurze und prägnante Zusammenfassung liefern.
Neben Dokumenten kann Chat with RTX auch YouTube-Videos zusammenfassen, indem ihre Links eingebettet werden. Diese Anwendung kann wichtige Informationen aus dem Video liefern, wie Titel, Dauer, Beschreibung und Schlüsselpunkte. Die Anwendung kann auch Empfehlungen für Touristenorte oder Kuchenherstellungstutorials aus YouTube Creator-Videos geben, indem sie den Inhalt und die Schlüsselwörter des Videos analysiert.
Fortgeschrittene Technologie und hohe Spezifikationen
Chat with RTX verwendet die Technologie der Retrieval Augmented Generation (RAG) und die Nvidia TensorRT-LLM-Software, die die Leistungsfähigkeit von AI nutzt. Diese Technologie ermöglicht es der Anwendung, relevante und genaue Informationen aus den von den Benutzern bereitgestellten Dokumenten oder Videos zu suchen und zu generieren.
Um diese Anwendung auszuführen, benötigen Benutzer eine Mindestgerätespezifikation, die recht hoch ist, nämlich eine GPU mit 8 GB VRAM, 16 GB RAM, Windows 10 oder 11 und Nvidia GPU-Treiber Version 535.11 oder neuer. Diese Anwendung erfordert auch 35 GB Speicherplatz und benötigt keine Internetverbindung bei der Nutzung.
Diese Anwendung ist kostenlos zum Download verfügbar, obwohl sie noch in der Demoversion ist. Benutzer müssen jedoch während des Installationsprozesses geduldig sein, und diese Anwendung kann manchmal stromhungrig sein. Darüber hinaus erinnert sich diese Anwendung nicht an den Kontext des Gesprächs, so dass Benutzer keine Folgefragen zu bereits gestellten Fragen stellen können.
Ein sichererer und privaterer AI-Chatbot
Chat with RTX ähnelt dem Gemini-Chatbot von Google oder dem ChatGPT von OpenAI, die ebenfalls Dokumente oder Videos zusammenfassen können. Im Gegensatz zu Cloud-Anwendungen ist Chat with RTX jedoch ein persönlicher digitaler Assistent, der lokal auf dem PC des Benutzers arbeitet.
Das bedeutet, dass diese Anwendung keine Benutzerdaten an Nvidia-Server oder andere Dritte sendet, was sie sicherer und privater macht. Benutzer müssen sich keine Sorgen um ihre Datenschutz machen, da diese Anwendung nur auf Daten zugreift, die direkt vom Benutzer bereitgestellt werden.
Nvidias Schritt zur Bindung von Kunden
Die Einführung von Chat with RTX ist einer der Schritte von Nvidia, um ihre Kunden zu binden, die planen, AI-Chip-Projekte zu entwickeln und weiterhin mit Nvidia zusammenzuarbeiten. Nvidia entwickelt eine spezielle Geschäftseinheit, die sich auf das Design und den Verkauf von semi-kundenspezifischen AI-Chips konzentriert, die in Zusammenarbeit zwischen Nvidia und dem Kunden entwickelt werden.
Mit den IP-Blöcken von Nvidia als Basis haben Kunden auch die Möglichkeit, IP-Blöcke von Dritten nach ihren Bedürfnissen zu integrieren. Nvidia schätzt ein Marktpotenzial von 30 Milliarden USD für diese spezielle Geschäftseinheit.
Darüber hinaus geht Nvidia eine Partnerschaft mit Cisco, einem Anbieter von Netzwerkinfrastrukturen, ein, um Technologielösungen anzubieten, die es Unternehmen erleichtern, ihre eigene interne AI-Computing-Infrastruktur aufzubauen und gleichzeitig die Reichweite der AI-Technologie über große Rechenzentrumsanbieter hinaus zu erweitern.
Cisco wird M7-Servercomputer bereitstellen, die Nvidias neueste Prozessoren, Software, AI-Modelle und Entwicklungswerkzeuge von Nvidia verwenden. Cisco wird auch seinen eigenen Cloud-basierten Service zur Überwachung und Verwaltung des Systems bereitstellen.
Diese Zusammenarbeit öffnet die Tür für den Einsatz von Nvidia-Technologie in verschiedenen Sektoren, während Cisco von der zunehmenden Nutzung von KI profitieren kann, die Nvidia zu einem der wertvollsten Chiphersteller der Welt gemacht hat.
