Ιδρύθηκε από πρόσφυγες φιλάθλους και μέλη του Απόλλων Σμύρνης που μετά την Μικρασιατική καταστροφή του 1922 ήρθαν στην Πάτρα και εγκαταστάθηκαν στην σημερινή συνοικία των Προσφυγικών. Μαζί τους έφεραν και την αγάπη τους για τον αθλητισμό. Έτσι ιδρύθηκαν πολλά σωματεία, ανάμεσα τους και ο Ολυμπιακός το 1925, ένα από τα πιο ιστορικά σωματεία της πόλης , με χρώματα το μπλε και άσπρο στην αρχή και αργότερα το κόκκινο.
Ιδρύθηκε τον Ιούλιο του 1925 όταν έξι παίκτες της Παναχαϊκής και τέσσερις του Λευκού Αστέρα , όλοι τους πρόσφυγες , αποχωρούν από τις ομάδες τους και ιδρύουν τον Ερμή . Στην νέα ομάδα δίνουν για χρώματα το μπλέ και άσπρο , τα χρώματα του Απόλλωνα, δεν περνά ένας μήνας όμως και αποφασίζουν την αλλαγή του ονόματος σε Ολυμπιακός. Μέσα στο 1925 αναγνωρίζετε και επίσημα από την ΕΠΣ Πατρών και την ΕΠΟ.
Το πρώτο παιχνίδι στην ιστορία του το έδωσε απέναντι στον Λευκό Αστέρα , σαν Ερμής όμως όπου ήταν και το μοναδικό που έδωσε με αυτό το όνομα. Σαν Ολυμπιακός τον πρώτο αγώνα τον έδωσε με αντίπαλο το Αγγλικό ατμόπλοιο "Cavallo" νικώντας με 7-1. Στο πρωτάθλημα έδωσε το πρώτο επίσημο παιχνίδι στις 9-11-1925 και ο αγώνας Παναχαϊκή-Ολυμπιακός 0-2 για το πρωτάθλημα της περιόδου το οποίο και κατέκτησε.
Σε αυτά τα πρώτα χρόνια της ιστορίας του ο Ολυμπιακός δημιουργήθηκε μια μεγάλη κόντρα με την Παναχαϊκή η οποία ξεκίνησε αμέσως με την ίδρυση του και με αιτία την αποχώρηση των έξι παικτών,Μία κόντρα η οποία σημαδεύτηκε με φοβερά επεισόδια για την εποχή εκείνη.Στο πρωτάθλημα του 1925 η Παναχαϊκή δεν κατεβαίνει στον τελικό με πρόφαση όπως είδαμε την αποχώρηση των "έξι" και πέρνη τον τίτλο ο Ολυμπιακός και μετά συνεχίζετε η κόντρα με δημοσίευσης στον τοπικό τύπο πολλές φορές προσβλητικές για τον αντίπαλο. Στις 5 Μαρτίου 1928 έχουμε επεισόδια στον μεταξύ τους αγώνα με πολλές αποβολές παικτών , τόσες πολλές που η Παναχαϊκή σχεδόν διαλύθηκε αφού δεν είχε παίκτες να κατέβει στον επόμενο αγώνα.Στις 26-8 Εισβολή φιλάθλων του Ολυμπιακού στον αγωνιστικό χώρο. Η κόντρα αυτή συνεχίστηκε μέχρι τον Β΄παγκόσμιο πόλεμο μετά την κόντρα την συνέχισε ένα άλλο προσφυγικό σωματείο η Θύελλα.
Το 1933 έκανε μια περιοδεία στην Τουρκία και ήταν η πρώτη επαρχιακή ομάδα στην Ελλάδα που το έκανε αυτό. Ολοι οι παίκτες είχαν γεννηθή όλοι εκεί ίσως ήθελαν να δούν τι απέγιναν οι περιουσίες τους και κάποια αγαπημένα πρόσωπα που άφησαν πίσω . Οι πόλεις που επισκέφθηκαν και έπαιξαν κυρίως με μικτές ομάδες ήταν Κωνσταντινούπολη, Αντάμπαζα, Προύσα, Μπαλούκεσεν και Σμύρνη.Προπονητή τότε είχε τον Ούγγρο Ζίγκερ ο οποίος κανόνισε και την περιοδεία.
To 1960 αποφασίζετε να συγχωνευτή με την Θύελλα , μια συγχώνευση η οποία κράτησε δύο χρόνια αφού οι δύο σύλλογοι δεν τα βρήκαν στο όνομα η πλευρά της Θύελλας ήθελε το "Θυελλώδης Ολυμπιακός" ενώ η πλευρά τού Ολυμπιακού ήθελε το "Ολυμπιακή Θύελλα" , έτσι στο πρωτάθλημα της Β εθνικής το 1959-1960 κατέβηκε σαν Ολυμπιακός και την περίοδο 1960-1961 πάλι στην Β΄εθνική σαν Θύελλα . Το 1967 συγχωνεύεται μαζί με τα υπόλοιπα σωματεία της Πάτρας με τον αναγκαστικό νόμο της χούντας και δημιουργείται ο Α.Π.Σ. Πάτραι
Ο Ολυμπιακός το 1972 επανιδρύεται σαν Ολυμπιακός Αγίου Γερασίμου ,Το 1973 με την πτώση της χούντας ξαναπαίρνει το κανονικό του όνομα, αλλά δεν καταφέρνει να πρωταγωνιστήσει ξανά, παίζοντας μέχρι σήμερα στις μικρές κατηγορίες του τοπικού πρωταθλήματος.
Το τμήμα βόλεϋ ιδρύθηκε το 1927 , το χάντμπολ έχει παρουσίες σε Εθνικές κατηγορίες αλλά το 2006 κι ενώ αγωνιζόταν στην Α2 Εθνική κατηγορία συγχωνεύτηκε με αυτό του Μινώταυρου Πάτρας πέρνωντας το όνομα του δεύτερου. Εχει ακόμα τμήματα καλαθοσφαίρισης και βόλευ . Τα πρώτα χρόνια ίδρυσης του διατηρούσε και τμήμα πόλο.
Έδρα του ήταν και είναι το Γήπεδο των προσφυγικών. Το 1926 οι πρόσφυγες νοικιάζουν κάποια οικόπεδα δίπλα στο ναό της Αγίας Φωτεινής στην προσφυγική συνοικία και φτιάχνουν το θρυλικό γήπεδο του Ολυμπιακού, που υπάρχει ακόμα και σήμερα σαν Γήπεδο Προσφυγικών και είναι το τρίτο αρχαιότερο εν χρήση γήπεδο της Ελλάδας μετά το Καραϊσκάκη και την Λεωφόρο.Τα εγκαίνια του έγιναν το 1927 , δύο χρόνια μετά την κατασκευή και χρήση του, σε αγώνα με αντίπαλο τον Ολυμπιακό Πετραλώνων τον οποίο νίκησε με 4-1.
Έχει κατακτήσει 6 φορές το πρωτάθλημα Πάτρας στο ποδόσφαιρο , το: 1926, 1927, 1940, 1950, 1960 και 1967. Στο Χάντμπολ έχει κατακτήσει ένα πρωτάθλημα Β΄εθνικής το 2005 και πολλά ηλιακά τοπικά πρωταθλήματα.
σημείωση:Οι φωτογραφίες είναι από το αρχείο του Κώστα Ηλιόπουλου
