Futbol yaşamına 1963’te Samsun Akınspor’da başladı. Daha sonra sırasıyla Samsun Yolspor, Hacettepe, Mersin İdman Yurdu, Fenerbahçe ve Balıkesirspor formalarını giydi. Mersin İdman Yurdu’nda parladıktan sonra, 1971’de Fenerbahçe’ye transfer oldu.
6 sezon boyunca formasını giydiği Fenerbahçe’nin 2 lig şampiyonluğu (1974, 1975), 1 Türkiye Kupası (1974), 1 Cumhurbaşkanlığı Kupası (1975) ve 1 Başbakanlık Kupası (1973) kazanan kadrolarında yer aldı. 1973’te 16 golle gol kralı oldu. Osman Arpacıoğlu 1. Lig tarihinde oynanan Fenerbahçe-Galatasaray derbilerinde, Aykut Kocaman ve Elvir Bolić’ten sonra Galatasaray’a en çok gol atan 3. Fenerbahçeli futbolcudur (5 gol).
1974 yılında Nesrin Sipahi, Fecri Ebcioğlu, Ziya, Şükrü, Cemil, Emin Cankurtaran, Didi ve Yılmaz ile birlikte kulübün bilinen ilk marşı olan sözleri Fecri Ebcioğlu’na ait Yaşa Fenerbahçe’nin kaydında yer aldı.
1977 yılında transfer olduğu Balıkesirspor formasını 1977-78 ve 1978-79 sezonlarında giydi. 9 Haziran 1980 tarihinde oynanan Balıkesirspor - Fenerbahçe maçıyla futbola veda etti.
1968-1974 arasında 13 kez giydiği A Millî formayla 3 gol attı. 14 Şubat 1973’te oynanan Türkiye-Cezayir maçında, Türkiye millî futbol takımının tarihindeki 200. golünü attı. Uzun süre yazarlığı da yapmakta olan Osman Arpacıoğlu 5 Aralık 2021 tarihinde öldü. Karşıyaka Örnekköy Mezarlığı’na defnedildi
