>>

Instal webUI ollama dengan Docker


Seperti yang kita ketahui, ollama merupakan container yang digunakan untuk menjalankan AI pada komputer kita secara offline atau bisa kita kenal menjadikan AI (seperti chatGPT) berjalan didalam system komputer pribadi kita sendiri, pastinya menggunakan sumber daya dari komputer pribadi kita, alias gratis, dan bebas dalam penggunaannya (tanpa ada limitasi , dan quota internet yang dibutuhkan seperti ketika akses chatGPT dari openAI), dalam tahap awal, atau tradisionalnya setelah instalasi ollama kita akan menjalankan Model AI kita melalui CMD atau powershell, yang pada prinsipnya memang sudah lancar, namun fitur seperti , menyimpan topik, dan menampilkan jawaban yang intuitif, masih belum bisa dilakukan.contoh ketika kita reques kode html jika kita lakukan pada CMD maka jawabannya akan ditampilkan flat seperti text regular lainnya, beda halnya jika kita melakukannya pada webUI dari chatGPT, mereka akan memberikan frame khusus  untuk membedakan maka kode, text biasa, ataupun paragraf penjelasan.


Nah pada postingan ini saya akan membagikan gimana caranya membawa webUI semacam chatGPT beserta fitur nya kedalam komputer kita dan dijalankan secara offline, layaknya kita menjalankan AI dalam system komputer kita pribadi.
Pada prinsipnya dari langkah ini adalah, membuat WebUI sebagai antarmuka untuk menyajikan ollama yang menjalankan model AI.

Pre Instalasi
pastikan anda telah memiliki atau instal ollama , untuk detail instalasi ollama anda bisa cek pada postingan disini > cara instal ollama

Mulai Cara Instal WebUI
1. instal docker , download instaler docker terbaru dini, lalu anda tinggal buat akun, dan restart komputer.

Jalankan semua perintah dibawah ini dari CMD atau powershell, dengan Run As Administrator.

2. Tahap instalasi dengan konfigurasi bawaan,jalankan perintah ini dan tunggu aja sampai download selesai: 

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

3. Installing Bundled Ollama Support (pilih salah satu dari kedua perintah dibawah ini tergantung kriteria komputer masing masing yang dimiliki)

jika komputer memiliki atau menggunakan kartu grafis VGA

docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

jika komputer TIDAK memiliki atau menggunakan kartu grafis VGA

docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

4. Setelah semua tahap sebelmnya dilakukan, tunnggu hingga semua proses download selesai (*agak lama, sesuai dengan koneksi internet masing masing), maka WebUI sudah siap , silahkan jalankan dengan akses alamat ini dari browser: 

http://localhost:3000

*untuk pertama kali buka anda akan diinstruksikan untuk buat akun lagi, signup aja , untuk selanjutnya anda akan langsung login.

Selamat sekarang anda akan disuguhkan WebUI untuk menjalankan modelAI ollama, untuk pertama kali anda bisa pilih modelAI, dengan klik select a model" pada pojok kiri atas,


pilih model yang akan digunakan, dan boom, silahkan masukkan pertanyaan, maka modelAI yang anda pilih sebelumnya tersebut akan menjawabnya. Sampai sini anda sudah berhasil membawa ChatGPT kedalam komputer anda secara gratis dan tentunya offline base ya..


Ingat selalu jalankan dengan cmd atau powershell dalam mode Run As Administrator

* Cek dan Update system docker

docker run --rm --volume /var/run/docker.sock:/var/run/docker.sock containrrr/watchtower --run-once open-webui
* Cek List namamodel dari ModelAI yang sudah terinstal dan tersedia dikomputer anda
ollama list
* Menambah ModelAI ke dalam komputer anda
ollama pull namamodel
isi namamodel dengan pilihan model di ollama library yang tersedia bisa pilih pilih disini > Macam ModelAI Ollama*Menghapus ModelAI yang anda rasa sudah tidak terpakai (biar melegakan memory)
rm namamodel
DONASI SAWER TRAKTIR Terimakasih Atas Dukungan serta Keiklasan Anda
Newer Posts Newer Posts Older Posts Older Posts

Baca Juga

Comments

Post a Comment