L'abate Nilo, nato a Rossano Calabro, ma di origine e formazione greca, aveva lasciato la Calabria sfuggendo alle incursioni dei Saraceni e per lungo tempo aveva dimorato con i suoi monaci in Campania. Viene infatti da Serperi vicino Gaeta, da dove si muovono i monaci per raggiungere il piccolo santuario di S. Agata nel Tuscolo dove aveva sostato in attesa dei suoi "fratelli". Questi sotto la guida dell'abate Paolo e poi di Cirillo, ma soprattutto del giovane Bartolomeo, con l'aiuto del generoso conte Gregorio e di munifici benefattori, costruiscono una modesta casa per loro stessi e per i pellegrini, e quindi la chiesa, che sarà consacrata il 17 dicembre dell'anno 1024. Se per volontà dell'abate, in seguito divenuto Santo, Nilo - che qui è sepolto - ha avuto inizio il primo insediamento dell'abbazia a lui intitolata, all'opera sapiente ed appassionata dell'abate Bartolomeo si deve la costruzione del monastero e della chiesa nonché la continuazione della tradizione del monachesimo orientale - che basa la sua dottrina su quella di San Basilio - e l'indirizzo operoso della comunità alla composizione e alla trascrizione di inni sacri.
Nel secolo successivo, per donazioni dei conti del Tuscolo e dei pontefici romani, accrescono le proprietà terriere del monastero - che arrivano a estendersi fino al mare - sapientemente curate e amministrate dai monaci. Ma le lotte fra Albano e Tuscolo e le guerre tra Romani e Tuscolani costringono i monaci a trasferirsi a Subiaco, abbandonando per circa 30 anni l'abbazia. Tornano a Grottaferrata nel 1191 e l'abbazia riprende la vita di lavoro e di studio purtroppo più volte interrotta, nei secoli successivi, dalle vicende della Chiesa - il periodo avignonese prima, lo scisma d'Occidente poi - e dalle lotte politiche e di conquista che la vedono spesso invasa da truppe e oggetto di saccheggi e devastazioni. Con l'istituzione della Commenda nel 1462, per volere di Pio II, il primo commendatario cardinale Giovanni Bessarione, dotto umanista greco, ridona all'abbazia un periodo di pace e di notevole ripresa. Ma episodi di occupazione e di distruzione inducono il suo successore, cardinale Giuliano della Rovere, a erigere poderose fortificazioni a difesa del complesso abbaziale, costituendo quel castello, ancora esistente, che da lui prende il nome di Roveriano. Allo stesso si devono altri importanti lavori di ampliamento e abbellimento all'interno dell'abbazia, interrotti dalla sua elevazione pontefice con il nome di Giulio II nel 1503. Continuano nei secoli successivi gli ampliamenti e gli abbellimenti al monastero e alla chiesa, fino a quando nel 1820 l'abbazia viene dichiarata monumento nazionale per il suo patrimonio artistico, culturale e religioso. Nel 1824 il Papa Leone XII sopprime la Commenda e rimane unico abate Nilo III Alessandrini.
L'arte scrittoria che è stata la prima e principale attività dei monaci di S. Nilo e che , per la qualità e l'abbondanza della produzione, merita al monastero il nome di officina librorum, è stata integrata fino dal 1888 da una modesta tipografia che nel primo decennio del 1900 si è trasformata, con ricche attrezzature, nella scuola tipografica italo-orientale che oggi, ulteriormente ampliata, pubblica preziose edizioni soprattutto di libri liturgici delle Chiese orientali, mentre è attiva e preziosa l'opera del laboratorio per il restauro di antichi codici e incunaboli. La biblioteca che attraverso le vicende del monastero ha trattato la sua definitiva sistemazione in questo secolo intorno agli anni 50, accoglie inestimabili manoscritti dei primi monaci e dello stesso S. Nilo, insieme ad altri pervenuti nel tempo fra i quali numerosi codici greci, a cui si è aggiunta una vasta raccolta di libri stampati a carattere ecclesiastico e storico umanistico. A testimonianza della storia lunga e varia dell'abbazia e dell'attività che nei secoli si è svolta nel suo interno è stato organizzato sul finire dell'Ottocento, al piano terra del palazzo dei Commendatari, un Museo che raccoglie oggetti di scavo di epoca preistorica e romana rinvenuti nelle aree più prossime e nel territorio tuscolano, residui medioevali provenienti dalle prime costruzioni dell'abbazia, oggetti e opere d'arte accumulati durante la presenza delle famiglie gentilizie con i Cardinali commendatari.