Tout au long de son histoire, l'Olympique de Marseille possède de grands joueurs qui pour la plupart ont connu également l'honneur d'être internationaux.
Jean Boyer est un attaquant français qui est le premier international français de l'OM. Il passe onze saisons à Marseille (1923-1934), devenant ainsi l'un des joueurs emblématiques de l'OM de l'entre-deux-guerres. Avec l'Équipe de France, il participe au tournoi olympique de football à l'occasion des Jeux olympiques d'été de 1924 à Paris après avoir participé à ceux de 1920 à Anvers.
La perle noire marocaine Larbi Ben Barek, qui sera international français a été découvert très jeune par les recruteurs marseillais. Après avoir quitté la France durant la Seconde guerre mondiale et joué notamment à l'Atlético de Madrid où il décrocha 2 titres de champion d'Espagne, il revient à l'OM et dispute la finale de la coupe de France 1954 contre l'OGC Nice. Mario Zatelli est le premier grand avant-centre du club olympien en marquant 103 buts sous le maillot blanc. Il remporte deux titres de champion de France et une Coupe de France. Il continuera à contribuer à l'histoire du club mais en tant qu'entraîneur.
Le franco-suédois Gunnar Andersson est le plus grand buteur de l'histoire du club. En sept ans, il marque 186 buts sous le maillot olympien. Olympien jusqu'en 1958, il termine sa carrière à Montpellier, Bordeaux (qu'il contribue à hisser en première division) et Aix, avant de sombrer dans la misère. Gunnar Andersson terminera difficilement sa carrière et sera un peu abandonné par le milieu, il travaillera comme docker sur le port, et il disparaîtra à seulement 41 ans, mort d'une crise cardiaque près de la rue Breteuil à l'automne 1969. La légende dira qu'il avait un billet pour voir jouer l'OM contre le Dukla Prague en Coupe d'Europe des vainqueurs de coupes dans sa poche.
Le Suédois Roger Magnusson a été prêté par la Juventus de Turin à l'OM en 1968 parce que les règlements du football italien interdisent alors la présence de footballeurs étrangers. Il estt surnommé le magicien dans les années 1970 pour ses dribbles qui mystifient les défenses adverses et enchantent les supporters. Il a formé avec le buteur croate Josip Skoblar (« l'aigle dalmate », soulier d'or européen avec 44 buts marqués) une paire redoutable qui a contribué au doublé coupe-championnat de 1972. Il a également gagné avec l'OM la coupe de France de 1969 et le titre de champion de France de 1971.
Marius Trésor, l'international guadeloupéen, a commencé sa carrière à Ajaccio puis joue pour l'Olympique de Marseille avec lequel il remporte la Coupe de France en 1976 et enfin aux Girondins de Bordeaux (champion de France en 1984 et une Coupe des Alpes en 1980).
C'est avec l'arrivée de Tapie que l'OM renoue son histoire avec les grands joueurs avec les arrivées en fanfare d'Alain Giresse, Jean-François Domergue, Bernard Genghini, Karl-Heinz Förster et surtout du canonnier Jean-Pierre Papin (cinq fois meilleur buteur consécutivement du championnat et Ballon d'or 1991). D'année en année, l'effectif se bonifie : Klaus Allofs, Franck Sauzée, Carlos Mozer, Enzo Francescoli, Éric Cantona et Chris Waddle se succèdent, ce premier cru sera symbolisé malheureusement par une finale de Coupe des clubs champions européens perdue à Bari en 1991 face à l'Étoile rouge de Belgrade.
La saison suivante, commence un renouvellement de l'effectif, restent au club en 1992 Abedi Pelé (Ballon d'or africain en 1991, 1992 et 1993), Basile Boli, Manuel Amoros, Éric Di Meco et Sauzée, les autres sont remplacés par le champion du monde 1990 Rudi Völler, Alen Boksic, Didier Deschamps, Marcel Desailly et Fabien Barthez. C'est avec cette équipe que l'OM décroche son plus beau titre, la Coupe d'Europe grâce à une tête de Boli. Mais l'affaire OM-VA éclate et bon nombre de ses cadres partent, seuls émergent le Brésilien Sonny Anderson ou Dragan Stojkovic qui s'en vont en 1994 lors de la rétrogradation.
Remonté en Division 1 en 1996 après deux ans en Division 2 (où Tony Cascarino parvient à devenir à deux reprises meilleur buteur de la division), le club cherche très vite à se doter d'un bon effectif, arrivent alors Andreas Köpke et Xavier Gravelaine puis William Gallas, Laurent Blanc, Fabrizio Ravanelli, Christophe Dugarry et Claude Makélélé en 1997 et enfin Robert Pirès et Florian Maurice en 1998.
Dans les années 2000, l'OM permet à certains joueurs de se révéler comme l'Ivoirien Didier Drogba qui est le meilleur buteur en Coupe d'Europe en 2004. L'international français Franck Ribéry s'est révélé sous le maillot olympien avant d'aller au Bayern Munich. Le club voit aussi le retour aux sources de Djibril Cissé et l'éclosion d'un minot, Samir Nasri.