En 1930, estando ya instalado el Club en su sede de Viamonte, se inauguró el Ateneo y Biblioteca. La ceremonia contó con la presencia del primer presidente del Club, Dr. Carlos P. Waldorp, acompañado por el Rector de la Universidad de Buenos Aires, Ing. Enrique Butty.
El fin de la creación del Ateneo fue dar cumplimiento a los objetivos que el Club había fijado en su Estatuto: "estimular entre sus asociados las manifestaciones y actividades culturales y de extensión universitaria, promover el intercambio universitario cultural con instituciones del país y del extranjero..."

En 1930, el entonces presidente de la institución, Dr. Carlos P. Waldorp, junto al Dr. Lisandro Galíndez, incorporó material bibliográfico "Por iniciativa del entonces vicepresidente del Colegio de Abogados, Dr. Antonio De Tomaso, supimos de la existencia de la biblioteca que perteneció al ilustre maestro de la psiquiatría argentina, el doctor José María Ramos Mejía, en depósito en el Palacio de Justicia, nos pusimos en la tarea de conseguir la donación. Traída al club, gracias a la generosidad de la familia del Dr. Ramos Mejía, que nos la cediera, hubo que arreglar la estantería de la biblioteca y encuadernar y fichar los 5.000 volúmenes de que consta ella".

En 1935, el Dr. Lisandro Galíndez -director de la biblioteca- logró incluir en el presupuesto del Club, una partida para la adquisición de obras, y para la impresión y distribución del catálogo, al que consideró como el "medio más eficaz para hacer conocer la importancia de una biblioteca, su distribución dentro y fuera del club", concepto que continua vigente en la actualidad.

El acervo bibliográfico aumenta en el período 1940-1941, con la adquisición de la biblioteca que perteneciera al Dr. Norberto Piñero, compuesta por 10.000 volúmenes e igual número de folletos.

En el período 1951/1952 con las donaciones provenientes de las bibliotecas del Dr. Lucas Ayarragaray, del Dr. Roberto Repetto y posteriormente la del Dr. Hipólito J. Paz en los años 1983/1984, se puede considerar el nacimiento de la Biblioteca, que fuera iniciada en mayo de 1930 y bautizada con el nombre Dr. José M. Ramos Mejía el 26 de diciembre de 1949.

En 1970, la Comisión Directiva del Club redactó el nuevo Reglamento del Ateneo del Club Universitario de Buenos Aires, para facilitar e intensificar las actividades culturales, y se puso en manos del Ateneo la dirección de la Biblioteca. Ese año se adquirió material bibliográfico para acercar a los consocios estudiantes la consulta en Biblioteca de aquellas obras que se utilizan en las diferentes disciplinas universitarias. 

Reorganización, Modernización y automatización de la Biblioteca

En septiembre de 2004, la Comisión Directiva del Club aprobó la reorganización, modernización y automatización de la Biblioteca, para lo cual contrató a un grupo de profesionales en bibliotecología. El grupo verificó las existencias e inventario del fondo bibliográfico, el estado de conservación de las colecciones y puso en valor "obras raras y valiosas" como patrimonio del Club.

Más de 20.000 volúmenes fueron sometidos a un exhaustivo proceso de selección, quedando los que conformarían -junto con las nuevas adquisiciones- el fondo bibliográfico de la biblioteca y destinándose al "programa de donaciones", las obras de marcada obsolescencia, deterioro físico o que se hallaban duplicadas en la colección, las que fueron ofrecidas -a través del Foro de la Asociación de Bibliotecarios Graduados de la República Argentina- a bibliotecas públicas y populares de escasos recursos y a bibliotecas del interior, y a bibliotecas universitarias públicas y privadas, en un total de 4.600 libros y revistas. Se restauraron y encuaderon obras y colecciones en estado comprometido, que se pusieron nuevamente en circulación.

Se diseñó una nueva versión del software para el registro y control automatizado del sistema de gestión de la biblioteca, complementando así el desarrollo informático implementado para el Club. Este proceso permite que hoy se pueda acceder al catálogo realizando búsquedas por autor, título, y materia.

Para continuar con la actualización de la biblioteca, se gestionó la incorporación de una partida presupuestaria anual para adquirir libros de uso frecuente en las carreras de las distintas facultades. Se solicitó a distintos decanos y consocios el asesoramiento en la selección de los libros señalados en los programas como bibliografía obligatoria, se verificó la "no existencia" de estos títulos en biblioteca y se dio comienzo al programa de compras.