YAPAY ZEKA DÜNYASINI SARSAN BALİNA DEEPSEEK
Son günlerde yapay zeka dünyasını sarsan Çinli DeepSeek, gerek düşük sistem gereksinimleri, gerekse çalıştırmak için gereken düşük maliyeti sayesinde büyük popülerlik kazandı. Peki bu Deepseek nasıl kullanılır? ve bilgisayara nasıl indirilir görelim.
Son günlerde yapay zeka dünyasını sarsan Çinli DeepSeek, gerek düşük sistem gereksinimleri, gerekse çalıştırmak için gereken düşük maliyeti sayesinde büyük popülerlik kazandı. Peki bu Deepseek nedir? Deepseek nasıl kullanılır? ve Deepseek bilgisayara hem de internet olmadan nasıl indirilir öğrenelim.
DEEPSEEK R1'İ İNTERNET OLMADAN KULLANABİLİRSİNİZ AMA NASIL?
Tabii konu Çin olunca, kişisel verilerle ilgili soru işaretleri de akla gelmiyor değil. Peki ya size kendi bilgisayarınızda DeepSeek R1 modelini çalıştırabileceğinizi söylesek? Bu mümkün, ancak çalıştırdığınız DeepSeek R1 modelinin parametre boyutuna göre, bilgisayarınızın donanım özellikleri önem taşıyor. Burada en önemli donanım özelliği ise kullandığınız grafik kartının video belleği. Aşağıdaki tabloda, farklı parametre sayılarına sahip DeepSeek modellerinin ne kadar video belleğe (VRAM) ihtiyaç duyduğunu görebilirsiniz. Ancak yine de belirteyim ki, kişisel PC'imde kullandığım 24GB VRAM'e sahip olan AMD Radeon RX 7900XTX modeli grafik kartıyla, yaklaşık 32GB VRAM ihtiyacı duyan 14 milyar parametreli DeepSeek-R1-Distill-Qwen-14B modelini rahatça çalıştırmayı başardım.
DeepSeek PC veya Mac'te nasıl çalıştırılır?
Öncelikle belirttiğimiz adımları hem PC hem de Mac üzerinde uygulayabilirsiniz. PC'nizin de Windows veya Linux işletim sistemi olması fark etmiyor. 3 adımda DeepSeek R1 modelini bilgisayarınıza indirip çalıştırabilirsiniz.
1. ADIM: Ollama'yı kurun
Yapay zeka modellerini yerel olarak makinenizde çalıştırmaya yarayan Ollama'yı aşağıdaki bağlantıdan işletim sisteminize uygun olanını indirin ve kurun.
2. ADIM: Uygun DeepSeek R1 modelini indirin
Ollama farklı parametre sayılarındaki modelleri destekliyor. Parametre sayısı, yapay zeka dil modelinin bir nevi ne kadar "akıllı" olduğunu gösteriyor.
Uygun modeli indirmek için "Terminal" uygulamasını çalıştırmanız gerekiyor. MacOS işletim sisteminde direkt olarak "Terminal" aramasıyla bu uygulamaya erişebiliyorsunuz. Windows'ta ise uygulamayı Microsoft Store üzerinden indirmeniz gerekebilir. Windows kullanıyor ve cihazınızda Terminal uygulaması yoksa buradan indirebilirsiniz.
Ardından Terminal uygulamasına aşağıdaki kalın şekilde yazılmış komutları girip indirmeyi başlatmanız gerekiyor:
1,5 Milyar parametre (en küçük):
ollama run deepseek-r1:1.5b
8 Milyar parametre:
ollama run deepseek-r1:8b
14 Milyar parametre:
ollama run deepseek-r1:14b
32 Milyar parametre:
ollama run deepseek-r1:32b
70 Milyar parametre (en büyük/en akıllı):
ollama run deepseek-r1:70b
3. ADIM ChatBox'u kurun
ChatBox çoğu yapay zeka dil modeliyle çalışan bir arayüz. Tüm verileriniz makinenizde saklanıyor. Aşağıdaki adresten indirip kullanabilirsiniz:
ChatBox'ı kurduktan sonra uygulamanın "Settings" (Ayarlar) kısmından "Model Provider" (Model Sağlayıcı) kısmını "OLLAMA" olarak seçmeniz gerekiyor. Sonrasındaysa aşağıdaki "Model" kısmından bir önceki aşamada indirdiğiniz modeli seçmeniz gerekiyor.
İşte bu kadar! Artık kendi bilgisayarınızda, internet bağlantısı olmadan DeepSeek R1'i kullanabilirsiniz.
14 milyar parametreli DeepSeek R1 sürümü, AMD Radeon 7900XTX grafik kartıyla neredeyse anlık cevap verebiliyor.
İndirdiğiniz modelin Türkçe konusunda çok başarılı olduğunu söyleyemeyeceğiz. Ancak İngilizce yazdığınızda oldukça kullanışlı ve ücretsiz bir yapay zeka dil modeli sahibi oluyorsunuz.
Not: İndirdiğiniz model, sisteminizin özelliklerini aşıyorsa, modelin cevap verme süresi de artıyor. Bu yüzden "çalışmıyor" sanabilirsiniz, ancak biraz sabredin ve zaman verin.
Kaynak: mashable.com
