Perpustakaan Universitas Cokroaminoto Yogyakarta berdiri sejak berdirinya Universitas Cokroaminoto Yogyakarta pada tanggal 10 Oktober 1979 berdasarkan SK Rektor Universitas Cokroaminoto No. 22/1979 tertanggal 28 Oktober 1979. Pada waktu itu, Perpustakaan Universitas Cokroaminoto masih berada di bawah bagian sekretariat atau tata usaha Fakultas Tarbiyah dan Syariah yang bertempat di Gambiran, Yogyakarta.

Pada tahun 1987 Perpustakaan Universitas Cokroaminoto yang semula terpisah pada masing-masing fakultas kembali disentralisasikan dan direkolasi dari semula yang berada dekat mushola dipindahkan ke tengah yang letaknya lebih strategis dan bertahan hingga saat ini.