Menjalankan Deepseek R1 dengan Ollama

 1. Download Ollama disini. 

Ollama adalah sebuah platform open source untuk menjalankan large language model (LLM) secara lokal di komputer. Ollama menyediakan runtime yang telah dikonfigurasi sehingga pengguna tidak perlu repot menginstal dan mengonfigurasi berbagai dependensi.

Kompatibilitas: Ollama mendukung berbagai macam model LLM, termasuk Llama 2, Mistral, CodeLlama, LLaVA dan tentunya Deepseek V3 hingga Deepseek R1.

Download Ollama disini.

OllamaSetup.exe berukuran kurang lebih 745mb.

2. Run Deepseek R1 dengan Ollama

PS C:\Windows\System32> ollama run deepseek-v3:1.5b

ollama run deepseek-v3:1.5b

3. Install dan Jalankan OPEN-WEBUI

Open WebUI adalah platform AI self-hosted yang mudah diperluas, kaya fitur, dan ramah pengguna, yang dirancang untuk beroperasi sepenuhnya secara offline. Platform ini mendukung berbagai runner LLM seperti Ollama dan API yang kompatibel dengan OpenAI, dengan mesin inferensi bawaan untuk RAG, menjadikannya solusi penerapan AI yang мощный. Untuk informasi lebih lanjut, pastikan untuk melihat Dokumentasi Open WebUI atau https://github.com/open-webui/open-webui. 

Instalasi via Python pip 🐍

Instal Open WebUI: 

pip install open-webui

pip install open-webui

pip install open-webui

Jalankan Open WebUI

Instal Open WebUI: 

c:\users\lenovo\appdata\roaming\python\python312\scripts\open-webui.exe serve

http://localhost:8080/

Register Admin

Dasboard Chat