Η πρώτη ίδρυση Εκκλησίας στο Βυζάντιο έγινε από τον Άγιο Ανδρέα το 36 μ.Χ., γι΄ αυτό και μια από τις επισημότερες τελετές που γίνονται στο Πατριαρχείο είναι στις 30/11 και τότε ο Πατριάρχης φοράει τα πολυτιμότερα άμφιά του.

Κατά τον 6ο αιώνα ο Πατριάρχης έλαβε τον τίτλο "Οικουμενικός" ως προκαθήμενος των Πατριαρχών της Ανατολικής Εκκλησίας. Η έδρα που στεγάζεται λέγεται Οικουμενικό Πατριαρχείο και η Εκκλησία, "Μεγάλη του Χριστού Εκκλησία". Ήταν ο ισχυρότερος μετά τη βασιλεία θεσμός της Βυζαντινής αυτοκρατορίας, που συνέβαλε στον εξελληνισμό του κράτους και στη διατήρηση της ενότητας της αυτοκρατορίας. 

Το Οικουμενικό Πατριαρχείο βρίσκεται στην εκκλησία του Αγίου Γεωργίου στο Φανάρι. Σε όλη την ιστορία του Βυζαντίου μέχρι την Άλωση το Πατριαρχείο στεγαζόταν αρχικά στη βόρεια πλευρά της Αγίας Σοφίας και αργότερα στη νότια.

Μετά την Άλωση μεταφέρθηκε αρχικά στο Ναό των Αγίων Αποστόλων όπου παρέμεινε μέχρι το 1456, όταν έγινε Πατριαρχείο η εκκλησία της Παμμακάριστου. Μετά τη μετατροπή της Παμμακάριστου σε τζαμί το 1587, το Πατριαρχείο μεταφέρθηκε στο Ναό της Παναγίας των Παλατίων και στο Ναό του Αγίου Δημητρίου της Ξυλόπορτας.

Το 1599 έγινε η μεταφορά του στη σημερινή του θέση στο Φανάρι, όπου υπήρχε ένας μικρός ενοριακός Ναός. Την "σεβασμίαν όψιν μοναστηρί¬ου" που το χαρακτηρίζει, απέκτησε το Πατριαρχείο μετά την επισκευή του 1797. Η αριστερή πύλη οδηγούσε στον πατριαρχικό ναό, ενώ η δεξιά στον Πατριαρχικό Οίκο. H μεσαία, στην οποία οι Τούρκοι απαγχόνισαν το Πάσχα του 1821 τον Πατριάρχη Γρηγόριο Ε΄ θα παρέμενε έκτοτε κλειστή. Ο Ναός δεν είναι καθόλου επιβλητικός. Αριστερά στο χαμηλό κτίριο, γίνεται κάθε 10 χρόνια το Άγιο Μύρο, που διοχετεύεται σε όλες τις ορθόδοξες εκκλησίες του κόσμου.

Η Πατριαρχική Βιβλιοθήκη περιλαμβάνει 32.000 βιβλία. Η ριζική αναμόρφωσή της ξεκίνησε επί πατριαρχίας Δημητρίου το 1991 και ολοκληρώθηκε επί Βαρθολομαίου το 1994. Το ύψος της δωρεάς για την αποκατάσταση έφτασε τα 200 εκατομμύρια δρχ. και ήταν συνέχεια της τεράστιας δωρεάς των περίπου 2 δισ. δρχ. που διέθεσε η οικογένεια Αγγελοπούλου για την ανασυγκρότηση του Πατριαρχείου. Η Πατριαρχική Βιβλιοθήκη θεωρείται η αρχαιότερη της χριστιανοσύνης. Η ιστορία της ξεκίνησε όταν ο Μέγας Κωνσταντίνος παράγγειλε στον επίσκοπο της Καισάρειας Ευσέβιο, 50 καλλιγραφημένα χειρόγραφα της Αγίας Γραφής, μέρος των οποίων αποτέλεσε τον πυρήνα της βιβλιοθήκης.