Στο Β.Α. άκρο του κάστρου της Ακρόπολης βρίσκεται ο πανέμορφος βυζαντινός ναός του Αγίου Νικολάου, που αναστηλώθηκε και ανανεώθηκε το 1937 με την πρωτοβουλία τριών Σερραίων κυριών. Την παλαιότερη πληροφορία για τον Ναό την βρίσκουμε σε απόσπασμα Πρακτικού (1339-1342 μ.χ.) όπου γίνεται μνεία περί «πύργου του Αγίου Νικολάου». Προφανώς πρόκειται περί του πύργου της Ακρόπολης, που υψωνόταν κοντά στο ανό του Αγίου Νικολάου, απ΄όπου πήρε και την ονομασία του. Δεύτερη μνεία για το ναό έχουμε στο οδοιπορικό του Τούρκου περιηγητή Εβλιά Τσελεμπή (17ος αιώνας), ο οποίος αναφέρει ότι στο έρημο τότε κάστρο είδε ένα κατεστραμμένο ναό. Πρόκειται ασφαλώς για τον ναό του Αγίου Νικολάου, του οποίου η ερείπωση είχε αρχίσει κατά την εποχή εκείνη.

Οι πρώτες πληροφορίες για το Βυζαντινό Ναό δίνονται σε απόσπασμα Πρακτικού (1339-1342 μ.χ) στο οποίο γίνεται αναφορά «…Πύργου του Αγίου Νικολάου…» και σύμφωνα με μία εκδοχή πρόκειται για πύργο της Ακρόπολης κοντά στο Ναό.

Από αρχιτεκτονικής πλευράς κατατάσσεται μεταξύ των τρίκογχων μονόκλιτων με τρούλο, ρυθμό με τον οποίο είναι κτισμένες πολλές εκκλησίες στην περιοχή της Μακεδονίας.

Ουσιαστικά αποτελείτο από ένα κεντρικό τετράγωνο που καλύπτοντο από τρούλο, ο οποίος στηριζόταν στην ανατολική του πλευρά, πάνω σε ελεύθερο τόξο, οι άλλες του δε πλευρές επάνω σε αβαθείς καμάρες που άνοιγαν κατά το πάχος των τοίχων. Στη δυτική πλευρά του τετραγώνου ήταν προσκεκολλημένος άλλος στενός επιμήκης χώρος, ο οποίος αποτελούσε τον νάρθηκα. Μέχρι το 1926 διατηρούνταν στο εσωτερικό του ναού αρκετά λείψανα τοιχογραφιών, όπως: παράσταση της Θείας Μετάληψης και Μετάδοσης των Αποστόλων, ο Ιησούς ξαπλωμένος ως παιδί γυμνό (Αμνός), ΄Αγγελος που κρατούσε λειτουργικό ριπίδιο, Προτομή της Θεοτόκου δεομένης, η εικόνα του Αγίου Μοδέστου, ο οποίος με το δεξί του χέρι ευλογούσε και με το αριστερό του κρατούσε το Ευαγγέλιο. Σε πολλά Δε σημεία του ναού διακρίνονται λείψανα κοσμημάτων με την συνήθη τεχνοτροπία και τα θέματα της εποχής των Παλαιολόγων.

Πρόκειται για κοιμητηριακό Ναό με κρύπτη, στην ανατολική πλευρά του οποίου βρίσκεται η είσοδος αυτής. Η κρύπτη ήταν τόπος ταφής των στρατιωτών της φρουράς του Κάστρου.

Ο Γάλλος καπουτσίνος Robert de Dreux, όταν πέρασε από την πόλη των Σερρών το 1669, αναφέρει ότι είδε επί του κάστρου δυο ερειπωμένα παρεκκλήσια. Το ένα απ΄αυτά πιθανότατα ήταν ο ναΐσκος του Αγίου Νικολάου. Ο Γάλλος πρόξενος και περιηγητής Cousinery κατά την δεύτερή του επίσκεψη στην πόλη των Σερρών (1814) σημειώνει ότι είδε μέσα στο κάστρο τα ερείπια του Αγίου Νικολάου, στον οποίο μάλιστα εσώζοντο και αρκετά λείψανα τοιχογραφιών.

Κατά τις ανασκαφές του 1926, βρέθηκαν λείψανα τοιχογραφιών στο εσωτερικό του Ναού. Στην κόγχη του Ιερού Βήματος σώζονται λείψανα με παράσταση της Θείας Μετάληψης. Παράλληλα, σε πολλά σημεία βρέθηκαν λείψανα κοσμημάτων που η τεχνοτροπία και το θέμα τους είχε σχέση με την εποχή των Παλαιολόγων.

Ο Ναός έως το 1937 ήταν ερειπωμένος, όμως την ίδια χρονιά ξεκίνησε η αναστήλωσή του , η οποία δεν θεωρήθηκε απόλυτα πετυχημένη, αφού προστέθηκαν πολλά εξαρτήματα που αλλοίωσαν το αρχικό σχέδιο.

Το 1956, ο Ναός εικονογραφήθηκε από τους ζωγράφους Γ.Παραλή και Δ.Κεντάκη. Σύμφωνα με τις ενδείξεις πρακτικού του 1339-1342μ.Χ. , αλλά και της μορφής τοιχοδομίας του ναού, συμπεραίνεται ότι ο ναός κτίσθηκε πριν από τη Σερβική και συγκεκριμένα κατά το πρώτο μισό το 14ου αιώνα (εποχή Παλαιολόγων).