Ιστορική μπορεί να θεωρηθεί η απόφαση της συγχώνευσης με την ΑΕΚ Θεσσαλονίκης. Μέχρι τις 20 Μαρτίου 1929 κράτησε ο ανταγωνισμός και η αντιπαλότητα των δύο αδερφών σωματείων. Τότε ο πρόεδρος του πολιτικού σωματείου της Ενώσεως Κωνσταντινουπολιτών, γιατρός Καραμαούνας, πέτυχε τη συγχώνευση των δύο προσφυγικών ομάδων της Θεσσαλονίκης. Πρωτεργάτες της ιδέας και της υλοποίησής της ήταν ο Φανούριος Βυζάντιος και ο Παντελής Καλπακτσόγλου, που αποσκίρτησαν από την ΑΕΚ (την Αθλητική Ένωση Κωνσταντινουπολιτών της Θεσσαλονίκης), η οποία είχε ιδρυθεί την περίοδο 1924-25 από τους πρώτους πρόσφυγες που ήρθαν στη Θεσσαλονίκη από την Κωνσταντινούπολη το 1922. Στο σημείο αυτό, σημαντικό θα ήταν να αναφέρουμε πως μέλη της ΑΕΚ Θεσσαλονίκης, πήραν το δρόμο για την πρωτεύουσα, όπου και δημιούργησαν τη σημερινή ΑΕΚ.

Μετά τη συγχώνευση με την ΑΕΚ, το 1929, ο ΠΑΟΚ αλλάζει και έμβλημα. Το νέο έμβλημα έγινε ο Αετός - που παραμένει ως σήμερα - και συμβολίζει την προέλευση του συλλόγου και την επάνοδο της μνήμης στις ρίζες και την κληρονομιά των προσφύγων (Βυζάντιο και Κωνσταντινούπολη). Ο Αετός κρατούσε ένα σπαθί και μία κορώνα, με τα δύο κεφάλια να ατενίζουν την Ανατολή και τη Δύση. Η διαφορά του εμβλήματος από αυτό της ΑΕΚ - που είναι και το σύμβολο της Ανατολικής Ορθόδοξης Εκκλησίας - είναι πως του ΠΑΟΚ έχει τα φτερά του κλειστά, σε ένδειξη του μακροχρόνιου πένθους, λόγω του ξεριζωμού από την πατρίδα. Τα έτη 1931-1932 δούλεψε στο Δικεφάλο ο πρώτος ξένος προπονητής στην ιστορία της ομάδας, ο Γερμανός Ροδόλφος Γκάνσερ.