Nvidia, sebuah pengeluar cip AI terkemuka di dunia, telah melancarkan aplikasi chatbot AI yang beroperasi secara tempatan di komputer PC. Aplikasi ini dikenali sebagai Chat with RTX, dan mempunyai ciri-ciri menarik yang dapat membantu pengguna dalam pelbagai cara.
Merumuskan Dokumen dan Video
Salah satu ciri utama Chat with RTX adalah keupayaannya untuk merumuskan dokumen yang dimuat naik oleh pengguna dalam format .txt, .pdf, .doc/.docx, dan .xml. Pengguna boleh meminta ringkasan dokumen tersebut dengan menghantarnya ke aplikasi, dan aplikasi akan memberikan ringkasan yang ringkas dan padat.
Selain dokumen, Chat with RTX juga boleh merumuskan video YouTube dengan menyisipkan pautannya. Aplikasi ini dapat memberikan maklumat penting dari video tersebut, seperti tajuk, tempoh, deskripsi, dan poin-poin utama. Aplikasi ini juga boleh memberikan cadangan tempat pelancongan atau tutorial membuat kek dari video kreator di YouTube, dengan menganalisis kandungan dan kata kunci dari video tersebut.
Teknologi Canggih dan Spesifikasi Tinggi
Chat with RTX menggunakan teknologi retrieval augmented generation (RAG) dan perisian Nvidia TensorRT-LLM yang memanfaatkan kekuatan AI. Teknologi ini membolehkan aplikasi mencari dan menghasilkan maklumat yang relevan dan tepat dari dokumen atau video yang diberikan oleh pengguna.
Untuk menjalankan aplikasi ini, pengguna memerlukan spesifikasi minimum peranti yang cukup tinggi, iaitu GPU dengan VRAM 8 GB, RAM 16 GB, Windows 10 atau 11, dan pemandu GPU Nvidia versi 535.11 atau lebih baru. Aplikasi ini juga memerlukan ruang penyimpanan sebanyak 35 GB dan tidak memerlukan sambungan internet semasa digunakan.
Aplikasi ini percuma untuk dimuat turun, walaupun masih dalam versi demo. Namun, pengguna harus bersabar dalam proses pemasangannya, dan aplikasi ini kadang-kadang boros tenaga. Selain itu, aplikasi ini tidak mengingat konteks perbualan, jadi pengguna tidak boleh menanyakan soalan lanjutan dari soalan yang telah diajukan.
Chatbot AI yang Lebih Selamat dan Privat
Chat with RTX mempunyai persamaan dengan chatbot Gemini milik Google atau ChatGPT yang dibuat oleh OpenAI, yang juga mempunyai ciri merumuskan dokumen atau video. Namun, berbeza dengan aplikasi awan, Chat with RTX adalah pembantu digital peribadi yang berfungsi secara tempatan di PC pengguna.
Ini bermakna bahawa aplikasi ini tidak menghantar data pengguna ke pelayan Nvidia atau pihak ketiga lain, menjadikannya lebih selamat dan privat. Pengguna tidak perlu risau tentang privasi data mereka, kerana aplikasi ini hanya mengakses data yang diberikan oleh pengguna secara langsung.
Langkah Nvidia untuk Mengekalkan Pelanggan
Pelancaran Chat with RTX merupakan salah satu langkah Nvidia untuk mengekalkan pelanggan mereka yang merancang untuk mengembangkan projek cip AI dengan terus bekerjasama dengan Nvidia. Nvidia mengembangkan unit perniagaan khusus yang fokus merancang dan menjual cip AI semi-kustom, yang dibangunkan secara kolaboratif antara Nvidia dan pelanggan.
Dengan menggunakan blok IP dari Nvidia sebagai asas, pelanggan juga mempunyai pilihan untuk mengintegrasikan blok IP dari pihak ketiga mengikut keperluan mereka. Nvidia menganggarkan potensi pasaran sebesar USD 30 bilion untuk unit perniagaan khusus ini.
Selain itu, Nvidia juga menjalin kerjasama dengan Cisco, sebuah syarikat penyedia infrastruktur rangkaian, untuk menawarkan penyelesaian teknologi yang memudahkan syarikat membangun infrastruktur komputasi AI dalaman mereka sendiri sambil memperluas jangkauan teknologi AI di luar penyedia pusat data besar.
Cisco akan menyediakan komputer pelayan M7 yang menggunakan pemproses terkini Nvidia, perisian, model AI, dan alat pembangunan dari Nvidia. Cisco juga akan menyediakan perkhidmatan berbasis awan sendiri untuk memantau dan mengurus sistem tersebut.
Kerjasama ini membuka pintu kepada penggunaan teknologi Nvidia dalam pelbagai sektor, manakala Cisco boleh memanfaatkan peningkatan penggunaan AI yang telah menjadikan Nvidia sebagai salah satu pembuat cip paling berharga di dunia.
