Raspberry Pi 5 (8 GB) üzerinde CPU-only çıkarım senaryosunda YOLOv11 ve YOLOv8 mimarilerinin performansını karşılaştırdığım bu çalışmada, ADAS uygulamaları için kritik olan ortalama doğruluktan ziyade uçtan uca gecikme (E2E latency), saf inference süresi ve p99 kuyruk gecikmesi gibi metriklere odaklandım. Deneyleri CPU governor’ı performance modunda, ONNX Runtime kullanarak gerçekleştirdim. YOLOv11n/s ve YOLOv8n/s varyantlarını PyTorch’tan ONNX formatına dönüştürdüm; ardından QDQ tabanlı INT8 post-training quantization ve %30 pruning uygulayarak modelleri CPU üzerinde çalışmaya uygun hâle getirdim. Bu optimizasyon sürecinde temel hedefim, bellek bant genişliği kaynaklı darboğazları azaltmak ve gecikme davranışını daha kararlı hâle getirmekti.
Elde ettiğim sonuçlar, nano ölçekli mimarilerin small varyantlara kıyasla CPU üzerinde belirgin biçimde daha uygun olduğunu gösterdi. Özellikle YOLOv11 Nano INT8 modeli, KITTI ve BDD100K veri setlerinde yaklaşık 13 FPS seviyesine ulaşırken ortalama ~77 ms E2E gecikme ve görece düşük p99 latency değerleri sundu. Small varyantlar daha yüksek mAP değerleri sağlasa da, CPU-only çalışmada gecikme dalgalanmaları ve throughput düşüşleri nedeniyle pratik ADAS senaryolarında daha az öngörülebilir bir performans sergiledi.
Çalışmam şu anda preprint aşamasında, tamamına DOI adresi üzerinden ulaşabilirsiniz. Yorumlarınızı merakla bekliyorum.
Saygılarımla,
Furkan
Elde ettiğim sonuçlar, nano ölçekli mimarilerin small varyantlara kıyasla CPU üzerinde belirgin biçimde daha uygun olduğunu gösterdi. Özellikle YOLOv11 Nano INT8 modeli, KITTI ve BDD100K veri setlerinde yaklaşık 13 FPS seviyesine ulaşırken ortalama ~77 ms E2E gecikme ve görece düşük p99 latency değerleri sundu. Small varyantlar daha yüksek mAP değerleri sağlasa da, CPU-only çalışmada gecikme dalgalanmaları ve throughput düşüşleri nedeniyle pratik ADAS senaryolarında daha az öngörülebilir bir performans sergiledi.
Çalışmam şu anda preprint aşamasında, tamamına DOI adresi üzerinden ulaşabilirsiniz. Yorumlarınızı merakla bekliyorum.
Saygılarımla,
Furkan
