Elektronikföretaget Nvidia släpper nu “Chat with RTX”, en generativ AI-chattbot som kan köras direkt på Home windows-datorer.
“Eftersom Chat with RTX körs lokalt på Home windows RTX-datorer så är resultaten snabba och användardatan stannar på enheten”, skriver Nvidias produktchef Jesse Clayton på företagets blogg och fortsätter.
“Istället för att förlita sig på en molnbaserad stor språkmodell låter Chat with RTX användare hantera känslig information på en lokal pc utan att den behöver delas med en tredjepart eller ha en internetuppkoppling.”
Chat with RTX låter användare välja mellan antingen Mistral eller Llama 2 som är två stora språkmodeller i öppen källkod. För att använda verktyget krävs ett grafikkort i Nvidia Geforce RTX 30-serien eller senare med åtminstone 8 gigabyte minne som körs på Home windows 10 eller 11 med de senaste Nvidia-drivrutinerna.
Intresserade användare har möjlighet att testa en kostnadsfri demo som finns ute nu.
Generative AI
Source link
