Γύρω στο 400, η πόλη ξαναβρήκε ένα μέρος της παλιάς της δόξας. Τα σπίτια πλήθυναν και το εξωτερικό τείχος επισκευάστηκε. Στην Αγορά, τα ερείπια του Ωδείου του Αγρίππα μετατράπηκαν σε ένα ογκωδέστατο κτηριακό συγκρότημα (πιθανώς Γυμνάσιο), ενώ λίγο πιο νότια, στη βόρεια πλευρά του Αρείου Πάγου χτίστηκαν πολλά ιδιωτικά εκπαιδευτήρια.
Στις αρχές του 5ου αιώνα με διάταγμα του Θεοδόσιου, έκλεισαν όλες οι φιλοσοφικές σχολές. Αυτό ήταν και το σημαντικότερο πλήγμα για την πόλη η οποία πλέον έπεσε σε λήθη. Την ίδια εποχή, με την επιβολή του Χριστιανισμού, διατάχθηκε ο "εξαγνισμός" των αρχαίων ναών. Έτσι όλοι οι αρχαίοι ναοί μετατράπηκαν σε εκκλησίες με όλες τις απαραίτητες μετατροπές στο εσωτερικό και με την καταστροφή, πολλές φορές, των διαφόρων γλυπτών (Παρθενώνας, Ερέχθειο, Θησείο). Ταυτόχρονα οικοδομήθηκαν και δεκάδες νέοι ναοί.
Από τον 6ο αιώνα η Αθήνα υπέφερε από συνεχείς επιδρομές διαφόρων φύλων, κυρίως Σλάβους (580). Γύρω στο 1000 χτίστηκε ένα νέο τείχος γύρω από την Ακρόπολη, το Ριζόκαστρο, που υπήρχε και μέχρι τους χρόνους της Τουρκοκρατίας. Παρά αυτές τις οχυρώσεις η πόλη υπέκυψε σε διάφορες επιδρομές, με κυριότερη αυτή των Σαρακηνών πειρατών γύρω στο 1200. Οι επιδρομές αυτές κατέστρεψαν τα τείχη και γέμισαν την πόλη ερείπια. Έτσι, όταν έφασαν οι Φράγκοι σταυροφόροι το 1204, κατέλαβαν αμαχητί την πόλη.
Για τα επόμενα 252 χρόνια, η Αθήνα πέρασε κατά σειρά, στα χέρια Καταλανών, Φλωρεντινών και Ενετών οι οποίοι καταλεηλάτησαν τα μνημεία της. Οι δυτικοί αυτοί νέοι κύριοι της πόλης επικέντρωσαν την προσοχή τους στο φρούριο της Ακρόπολης. Η δυτική πλευρά του βράχου, όπου και τα Προπύλαια, οχυρώθηκε με ισχυρότατο τείχος με σειρές επάλξεων. Τα Προπύλαια εξαφανίστηκαν ανάμεσα στα καινούργια κτίσματα και μετατράπηκαν σε παλάτι-κάστρο του Φράγκου διοικητή. Το Ερέχθειο έγινε το διοικητήριο και ο Παρθενώνας καθολική εκκλησία της Notre Dame. Τέλος υψώθηκαν δύο πύργοι, ο μεγαλύτερος από τους οποίους κατεδαφίστηκε το 1875.
Το 1456 οι Οθωμανοί έφτασαν στην Αθήνα και την κατέλαβαν ειρηνικά με συνθηκολόγηση του Δούκα Acciaiuoli το 1458.