Ocak Tatilleri
Yayınlanma tarihi: 2025-01-07 | Kaynak: PubMag

Ocak tatillerinde neler oldu? Sitelerin taranmasını hızlandırmak ve ölçekleme mekanizmalarını geliştirmek için çalışmalar yapıldı, ayrıca küçük düzeltmeler uygulandı.
Bu, görevlerin toplam yürütme süresini kısalttı ve paralel yürütme sırasında sistemin performansını artırdı. Ayrıca, sistem bileşenleri arasındaki yük dağıtımını daha verimli hale getiren bir kuyruk mekanizması geliştirildi.
Kendime iddialı bir hedef koydum: sitelere her ay bir kez tarama yaparak açık artırma bileşimlerindeki değişiklikleri kontrol etmek. Bu, adaptör listesindeki değişiklikleri zamanında takip etmeyi, verilerin güncelliğini sağlamayı ve gelecekteki analizler için bir arşiv oluşturmayı mümkün kılacaktır. İlk yeniden kontroller Aralık ayında gerçekleştirildi ve bu sırada servislerin birden çok örneğinin başlatılması ve bunların veritabanı ile etkileşimi mekanizması da optimize edildi.

Ocak ayında, hata işleme ve kesinti sonrası kurtarma mekanizmaları geliştirildi, bu da sistemin dayanıklılığını artırdı. Bellek kullanımının optimize edilmesi de genel yükü azalttı.
Şu anda hizmet, yerel bir sunucuda çalışıyor. Bu çözüm, değişikliklerin hızlı bir şekilde test edilmesini ve kademeli ölçeklendirmeyi sağlıyor. Yakın gelecekte buluta taşımayı planlamıyorum çünkü bu, bu aşamada gereksiz maliyetler getirecektir.
Global hedef, 8 milyon siteyi kapsamak, yani neredeyse tüm Runet'i. Bunu başarmak için, sistemin analiz algoritmalarını daha etkili hale getirerek ve hesaplama gücünü artırarak kapasitesi genişletilecek. İlk hedef: ayda 200-250 bin siteye ulaşmak.
Hizmet MVP aşamasında olduğu için, çalışma hızını artırmak amacıyla ev sunucusu için ek donanım satın almaya karar verdim. Yeni ekipman yalnızca performansı artırmakla kalmayacak, aynı zamanda gelecekteki büyüme için bir temel oluşturacaktır. Ek bir sunucu, kapasiteyi artırmayı mümkün kılacaktır.
Çözülmemiş birçok soru olmasına rağmen, mevcut aşamada mümkün olan her şey yapıldı ve sistem istikrarlı bir şekilde çalışıyor. Şimdi başka görevlere odaklanma zamanı.

Öyleyse Ocak ayı için HBTracker ve LibTracker görevleri:
- Hizmetin optimizasyonuna iki yönde devam edin:
- Trafik tüketimini azaltmak
- Performansı artırmak
- LibTracker'a, HBTracker'a benzer bir ölçekleme şeması ekleyin
- LibTracker için PubMag üzerinde kontrol panelleri ekleyin
- Adaptörlerdeki ve kütüphanelerdeki değişiklikler için aylık bir tablo raporu oluşturun. Bu, analizleri daha görsel hale getirecek ve sistemdeki önemli değişiklikleri daha hızlı tespit etmeye yardımcı olacaktır.
Bu görevler, hem projenin teknik kısmını hem de kullanıcı deneyimini geliştirmeyi hedefliyor. Değişiklikleri izlemeyi daha görsel ve eğlenceli hale getirecek olan oyunlaştırma uygulaması özellikle umut verici görünüyor.
Biraz rakamlarla konuşacak olursak: hizmet şu anda günde 3 binden fazla siteyi (ayda yaklaşık 100 bin) işliyor. Bu hacim için maliyet: ayda yaklaşık 1 TB trafik, site başına ortalama 45 saniye işlem süresi.