ایتنا - «مجمع جهانی اقتصاد» در گزارش اخیر خود رشدی «چشمگیر» را برای دستگاه‌های مقرون‌به‌صرفه‌ای که می‌توانند مدل‌های GenAI را به‌صورت آفلاین اجرا کنند، از جمله رایانه‌های شخصی، تلفن‌های هوشمند، دستگاه‌های اینترنت اشیا و تجهیزات شبکه، پیش‌بینی کرد.

انویدیا، که همیشه می‌خواهد مشتریان را به خرید جدیدترین پردازنده‌های گرافیکی خود تشویق کند، ابزاری را عرضه می‌کند که به دارندگان کارت‌های GeForce RTX سری 30 و سری 40 این امکان را می‌دهد یک ربات چت مبتنی بر هوش مصنوعی را به‌صورت آفلاین بر روی رایانه شخصی ویندوزی‌شان اجرا کنند.
 
به گزارش ایتنا و به نقل تک‌کرانچ، این ابزار، که «چت با RTX» نامیده شده است، برای کاربران این امکان را فراهم می‌آورد که تا یک مدل GenAI را همراستا با ChatGPT OpenAI با اتصال آن به اسناد، فایل‌ها و یادداشت‌هایی که می‌توانند در آنها جستار (کوئری) کند سفارشی‌سازی نمایند.
 
انویدیا اینگونه توضیح داده است که: «کاربران به‌جای جستجو در یادداشت‌ها یا محتوای ذخیره‌شده، کافیست کوئری‌ها را تایپ کنند. به عنوان مثال، می‌توان پرسید: "در زمان حضور در لاس‌وگاس، شریکم چه رستورانی را پیشنهاد می‌کرد؟" تا Chat with RTX فایل‌های محلی را که کاربر به آن اشاره کرده را اسکن خواهد کرد و پاسخ را با زمینه ارائه می‌کند.»
 
«چت با RTX» به طور پیش‌فرض به مدل منبع‌باز استارتاپ هوش مصنوعی Mistral متصل است، اما از مدل‌های دیگر مبتنی بر متن، از جمله  Llama 2شرکت متا، نیز پشتیبانی می‌کند.
انویدیا هشدار داده است که دانلود همه فایل‌های ضروری، بسته به مدل(های) انتخابی، فضای ذخیره‌سازی در حدود 50 تا 100 گیگابایتی را اشغال می‌کند.