A l'époque des croisades, le site avait été concédé aux Hospitaliers de Saint-Jean de Jérusalem qui s'installèrent sur ce promontoire abrupt et y élevèrent leur commanderie pour acheminer les troupes vers la Terre Sainte. Les hospitaliers occupèrent l'ancienne chapelle de Saint-Jean-Baptiste, puis entreprirent la construction d'une nouvelle église, de l'hôpital et du palais du commandeur. L'ensemble était achevé en 1365.

Le contrôle de l'entrée du port était assuré par une chaînes de 226 gros anneaux qui reliait les deux tours Saint-Nicolas et Maubec. Celle-ci, lors du sac de Marseille en 1423 par les Argonais, fut entièrement détruite et la chaîne emportée comme trophée par les Espagnols.
Le roi RENE, désireux d'assurer plus efficacement la défense du port, fit édifier sur le même emplacement de la tour Maubec une nouvelle tour qui porte son nom : "tour du roi RENE" ou "tour carrée" (1447-1453).
En 1644, à la demande des armateurs marseillais, on érigea une tour de vigie destinée à être repérée des navires de commerce depuis 20Km de la rade de Marseille. C'est à la pointe occidentale du rempart et sur l'emplacement de la maison du guet que l'on édifia la "Tour ronde", appelée "Tour du Fanal".

A la suite de la rébellion des Marseillais contre le pouvoir royal (de 1658 à 1660), LOUIS XIV, décidé à tenir la ville en respect, fit construire les citadelles à l'entrée du port :
*Premier fort à l'emplacement de la tour Saint-Nicolas sur la rive sud, le 11 Février 1660.
*Sur la rive nord, le 16 Juin 1666, le roi ordonnait la construction d'une deuxième citadelle sur le promontoire de Saint-Jean (les rues et les maisons du quartier étaient à la portée des 27 canons installés sur les bastions du fort.
Le 14 août 1668, le président d'OPPEDE posait la première pierre du fort, le gros œuvre de la construction était presque achevé en 1671, avant la mort du chevalier de Clerville. Vauban, qui prit sa succession en 1678, décida de renforcer la protection du fort en creusant un large fossé destiné à isoler totalement le promontoire.
La construction du fort avait nécessité la démolition de nombreuses habitations du quartier Saint-Jean ainsi qu'une partie de l'église Saint-Laurent restructurée à cette occasion.
La masse de déblais résultant du percement de cette large tranchée fut transporté à l'intérieur des murs et répandue sur le plateau supérieur et les divers bastions. Ainsi disparurent tous les vestiges antiques, et particulièrement ce qui pouvait subsister du temple archaïque et d'une partie de l'acropole grecque.
Cette disparition n'est pas nécessairement définitive, car la couche de remblais de 6 à 8 m d'épaisseur qui constitue la partie supérieur du fort, sur une superficie de près de 10 000 m2, recèle certainement le plus riche tessonier grec qu'un fouilleur puisse exploiter.

L'aménagement intérieur du fort était divisée en deux parties :
* Le fort intérieur au sud, englobant tous les bâtiments préexistants.
*Le fort supérieur au nord, regroupant les casements des officiers et sous-officiers.
Ces deux parties étaient reliées par un tunnel couvrant un escalier et un plan incliné qui servait à hisser les canons.
A la suite de la loi du 5 août 1844, on créa le bassin de la joliette ainsi que le canal destiné à relier le Vieux Port et le nouveau port.
Les travaux commencés en 1845 entraînèrent la démolition du bastion en demi-lune et des fortifications extérieures du côté de la ville. Le tracé du canal pratiqué dans le bastion en demi-lune perdure dans le tracé de la voie rapide.

Le fort garda un rôle strictement militaire jusqu'à la révolution française. Le fort et la tour carrée furent alors transformés en prison d'état.
De 1792 à 1796, plusieurs membres de la famille royale y furent détenus, notamment Philippe-Egalite jusqu'à son transfert à Paris en Octobre 1793.
Le 5 juin 1795, à la fin de la terreur, une troupe des compagnons du soleil pénétrèrent dans l'enceint du fort et massacrèrent 127 Jacobins qui étaient emprisonnés. C'est l'épisode le plus tragique de l'histoire du fort Saint-Jean.
En 1942, les allemands instalèrent dans le fort intérieur des dépots de munitions afin de les mettre à l'abri d'éventuelles attaques aériennes. En août 1944, les munitions explosèrent, détruisant une grande partie des constructions.