Instal webUI ollama dengan Docker
Seperti yang kita ketahui, ollama merupakan container yang digunakan untuk menjalankan AI pada komputer kita secara offline atau bisa kita kenal menjadikan AI (seperti chatGPT) berjalan didalam system komputer pribadi kita sendiri, pastinya menggunakan sumber daya dari komputer pribadi kita, alias gratis, dan bebas dalam penggunaannya (tanpa ada limitasi , dan quota internet yang dibutuhkan seperti ketika akses chatGPT dari openAI), dalam tahap awal, atau tradisionalnya setelah instalasi ollama kita akan menjalankan Model AI kita melalui CMD atau powershell, yang pada prinsipnya memang sudah lancar, namun fitur seperti , menyimpan topik, dan menampilkan jawaban yang intuitif, masih belum bisa dilakukan.contoh ketika kita reques kode html jika kita lakukan pada CMD maka jawabannya akan ditampilkan flat seperti text regular lainnya, beda halnya jika kita melakukannya pada webUI dari chatGPT, mereka akan memberikan frame khusus untuk membedakan maka kode, text biasa, ataupun paragraf penjelasan.
Nah pada postingan ini saya akan membagikan gimana caranya membawa webUI semacam chatGPT beserta fitur nya kedalam komputer kita dan dijalankan secara offline, layaknya kita menjalankan AI dalam system komputer kita pribadi.
Pada prinsipnya dari langkah ini adalah, membuat WebUI sebagai antarmuka untuk menyajikan ollama yang menjalankan model AI.
Pre Instalasi
pastikan anda telah memiliki atau instal ollama , untuk detail instalasi ollama anda bisa cek pada postingan disini > cara instal ollama
Mulai Cara Instal WebUI
1. instal docker , download instaler docker terbaru dini, lalu anda tinggal buat akun, dan restart komputer.
Jalankan semua perintah dibawah ini dari CMD atau powershell, dengan Run As Administrator.
2. Tahap instalasi dengan konfigurasi bawaan,jalankan perintah ini dan tunggu aja sampai download selesai:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
3. Installing Bundled Ollama Support (pilih salah satu dari kedua perintah dibawah ini tergantung kriteria komputer masing masing yang dimiliki)
jika komputer memiliki atau menggunakan kartu grafis VGA
docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama
jika komputer TIDAK memiliki atau menggunakan kartu grafis VGA
docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama
4. Setelah semua tahap sebelmnya dilakukan, tunnggu hingga semua proses download selesai (*agak lama, sesuai dengan koneksi internet masing masing), maka WebUI sudah siap , silahkan jalankan dengan akses alamat ini dari browser:
http://localhost:3000
*untuk pertama kali buka anda akan diinstruksikan untuk buat akun lagi, signup aja , untuk selanjutnya anda akan langsung login.
Selamat sekarang anda akan disuguhkan WebUI untuk menjalankan modelAI ollama, untuk pertama kali anda bisa pilih modelAI, dengan klik select a model" pada pojok kiri atas,
pilih model yang akan digunakan, dan boom, silahkan masukkan pertanyaan, maka modelAI yang anda pilih sebelumnya tersebut akan menjawabnya. Sampai sini anda sudah berhasil membawa ChatGPT kedalam komputer anda secara gratis dan tentunya offline base ya..
Ingat selalu jalankan dengan cmd atau powershell dalam mode Run As Administrator
* Cek dan Update system docker
docker run --rm --volume /var/run/docker.sock:/var/run/docker.sock containrrr/watchtower --run-once open-webui
* Cek List namamodel dari ModelAI yang sudah terinstal dan tersedia dikomputer andaollama list
* Menambah ModelAI ke dalam komputer andaollama pull namamodel
isi namamodel dengan pilihan model di ollama library yang tersedia bisa pilih pilih disini > Macam ModelAI Ollama*Menghapus ModelAI yang anda rasa sudah tidak terpakai (biar melegakan memory)rm namamodel
Comments