NVIDIA heeft zojuist een gratis chatbot-demo uitgebracht die lokaal op uw pc draait. Dit is erg handig omdat het de chatbot toegang geeft tot jouw bestanden en documenten. Jij kunt voorzien Chat met RTX bepaalde persoonsgegevens en vraag hem om op basis van die informatie een cv op te stellen. Je kunt hem ook vragen stellen zoals elke chatbot, en hij zal in je gegevens duiken voor antwoorden.
Het bedrijf zegt dat het gebruikers in staat stelt om "lokale pc-bestanden snel en eenvoudig als dataset te verbinden met een groot open source taalmodel zoals Mistral of Llama 2." NVIDIA geeft een voorbeeld van een gebruiker die een chatbot vraagt naar een restaurant dat wordt aanbevolen door een partner terwijl hij in Las Vegas is. De software scant lokale bestanden om het antwoord te vinden. Het ondersteunt een reeks bestandsformaten, waaronder .txt, .pdf, .doc, .docx en .xml. Het bedrijf zegt dat het relevante bestanden "binnen enkele seconden" naar zijn dataset uploadt.
Chat met RTX integreert ook video's en afspeellijsten YouTube. U kunt de URL van de video aan de dataset toevoegen en de kennis uit de video integreren voor contextuele zoekopdrachten. NVIDIA zegt dat het nuttig zal zijn bij het opvragen van reisaanbevelingen “gebaseerd op inhoud van favoriete video’s van influencers” of bij het zoeken naar tutorials en samenvattingen afgeleid van educatieve bronnen.
Dit klinkt als een grote stap in de richting van zoiets als een echte digitale assistent die werkt in de context van uw persoonlijke gegevens. De meeste chatbots sturen gegevens naar de cloud, maar Chat met RTX "stelt gebruikers in staat gevoelige gegevens op een lokale computer te verwerken zonder deze met een derde partij te hoeven delen of een internetverbinding te hebben." Het is dus veiliger en meer contextgerichte communicatie.
Er zijn enkele beperkingen. Dit is een demoproduct, dus verwacht wel veel bugs NVIDIA zouden moeten beginnen met het repareren ervan zodra gebruikers bugrapporten en dergelijke beginnen te schrijven. Er zijn hier ook enkele strikte hardwarebeperkingen. Chatten met RTX werkt alleen op Windows 11-computers met GPU's NVIDIA GeForce RTX 30-serie of hoger en minimaal 8 GB VRAM.
Sinds kort NVIDIA pronkt echt met zijn AI-bekwaamheid, aangezien het bedrijf zojuist zijn volgende generatie AI-supercomputerchips heeft gelanceerd. Het koestert simpelweg winst, voornamelijk dankzij zijn AI- en datacentersegmenten.
Lees ook: