本館前身係「臺灣總督府圖書館」，於1914年日本政府以敕令第六十二號公布「臺灣總督府圖書館」官制，而於同年十一月在艋舺（萬華）清水祖師廟內，設置臨時事務所，籌備開館事宜，翌年六月，遷館至博愛路舊彩票局(位於臺灣總督府左後方，即博愛路與寶慶路口，今博愛大樓)內辦公，八月九日正式對外開放閱覽。目前為臺灣歷史最悠久的公立公共圖書館。 1975年成立「盲人讀物資料中心」，2011年教育部指定本館為視障專責圖書館，2014年擴大指定為「身心障礙者數位化圖書資源利用辦法」之專責單位，長期以來促進閱讀平權為重要任務。 為了因應社會需求的發展，本館亦戮力推動多元族群的閱讀服務，從0歲開始的早期閱讀素養、兒童與青少年閱讀服務及高齡者友善服務等，企盼打造多元、豐富、有趣及多元包容的學習平臺，成為民眾生活的大客廳。
