Μετά την ίδρυση του Μεγάρου Μουσικής Αθηνών, το δεύτερο μεγάλο επίτευγμα των Φίλων της Μουσικής υπήρξε η δημιουργία της «Μεγάλης Μουσικής Βιβλιοθήκης της Ελλάδος Λίλιαν Βουδούρη», την οποία ο Σύλλογος οραματίστηκε ως δεξαμενή πληροφοριών για τη Μουσική και τις Τέχνες, ικανή να επιτελέσει ένα πολυεπίπεδο έργο στο χώρο της παιδείας και της έρευνας.
Υπό την εμπνευσμένη καθοδήγηση του μουσικολόγου Δρ. Κρίστοφ Στρουξ, πρώτου Διευθυντή της μέχρι το 2005, η Μουσική Βιβλιοθήκη οργανώθηκε (1995-1997) χάρη στη μεγάλη δωρεά του «Ιδρύματος Λίλιαν Βουδούρη» ως μια πολυμεσική ηλεκτρονική βιβλιοθήκη με ηλεκτρονικό κατάλογο και ιστοσελίδα, σύμφωνα με τα σύγχρονα διεθνή πρότυπα.
Η λειτουργία των υπηρεσιών της χρηματοδοτείται έκτοτε από τον Σύλλογο, στον οποίο υπάγεται διοικητικά, κυρίως μέσω του Κληροδοτήματος της Αλεξάνδρας Τριάντη. Η Μουσική Βιβλιοθήκη στεγάζεται στη νέα πτέρυγα του Μεγάρου, μαζί με τις υπηρεσίες του Συλλόγου, σε ειδικά διαμορφωμένο χώρο εμβαδού 3.800 τ.μ.
Η τεράστια συλλογή της, που εμπλουτίζεται κάθε χρόνο, συγκεντρώνει πλούσιο οπτικοακουστικό υλικό, τίτλους βιβλίων και περιοδικών, σπάνιες εκδόσεις, παρτιτούρες, χειρόγραφα, φωτογραφίες, προγράμματα συναυλιών, μικροφίλμ, ηχογραφήσεις, ηλεκτρονικές εκδόσεις και πολυμέσα, με κύριο αντικείμενο τη δυτική μουσική, τις μουσικές παραδοσιακών πολιτισμών ανά τον κόσμο και όλες τις εκφάνσεις της ελληνικής μουσικής δημιουργίας: αρχαίας, βυζαντινής, δημοτικής, ρεμπέτικης και λόγιας.
Μεγάλο τμήμα της Βιβλιοθήκης αποτελεί το Αρχείο Ελληνικής Μουσικής, σημαντικό κέντρο διάσωσης, διαφύλαξης και μελέτης της ελληνικής μουσικής παραγωγής. Εκεί φυλάσσονται δεκάδες πολύτιμα αρχεία Ελλήνων συνθετών και καλλιτεχνών, όπως του Μίκη Θεοδωράκη, του Νίκου Σκαλκώτα, του Μανώλη Καλομοίρη και άλλων μεγάλων Ελλήνων δημιουργών, τα οποία υφίστανται, όπως και το υπόλοιπο υλικό, τεκμηρίωση και ψηφιοποίηση με σκοπό τη διάσωση, αξιοποίηση και προβολή τους.
Η Βιβλιοθήκη διαθέτει το υλικό και τις υπηρεσίες της δωρεάν και μέσω της ιστοσελίδας της, ενώ συμμετέχει ενεργά στη μουσική εκπαίδευση και έρευνα, μέσα από πολύπλευρες δραστηριότητες που διοργανώνει όπως: ειδικά εκπαιδευτικά προγράμματα και μουσικοθεατρικά δρώμενα για παιδιά, βρέφη και νέους όλων των ηλικιών, επιμορφωτικά σεμινάρια για ενήλικες, εκθέσεις, ξεναγήσεις, παρουσιάσεις βιβλίων και δισκογραφικών εκδόσεων, διεθνή συνέδρια, ημερίδες κ.ά.
Μέλος της Διεθνούς Οργάνωσης Μουσικών Βιβλιοθηκών, και ένας από τους πρώτους πολιτιστικούς οργανισμούς στην Ελλάδα που έδωσε ψηφιακό περιεχόμενο στην Europeana, η Μουσική Βιβλιοθήκη των Φίλων της Μουσικής συνεργάζεται με δίκτυα πολιτισμού και φορείς στην Ελλάδα και το εξωτερικό, συμμετέχει σε χρηματοδοτούμενα ερευνητικά προγράμματα και κατατάσσεται, χάρη στο έργο που επιτελεί, σε περίοπτη θέση στον διεθνή επιστημονικό χάρτη.
Τη Διεύθυνση και επιστημονική καθοδήγηση της Μουσικής Βιβλιοθήκης ασκεί από το 2005 η μουσικολόγος κυρία Στεφανία Μεράκου.