De 7 à 13 ans, Paul Le Guen joue à Landerneau, dans un club de patronage local, les Gars d’Arvor, et évolue au milieu de terrain en tant que numéro 10. En 1977, il rejoint le club tout juste créé de Pencran, sa ville natale. Il débute en équipe 1^re à l’âge de 17 ans. À 18 ans, il rejoint l’AS Brest, qui évolue en Division 3. Il est alors remarqué par le Stade Brestois, avec lequel il signe en 1983, tout en poursuivant ses études en sciences économiques en parallèle.

Le Guen est recruté en 1991 par le Paris Saint-Germain, récemment racheté par Canal+, et entraîné par Artur Jorge. Artur Jorge le place au milieu de terrain au poste de récupérateur, au côté de Vincent Guérin. Le PSG termine 3^e du classement lors de la saison 1991-1992 puis est vice-champion lors de la saison 1992-1993. Paul Le Guen dispute 36 matchs lors de ses deux premières saisons parisiennes, et remporte la Coupe de France en 1993 face à son ancien club du FC Nantes (3-0).

Immédiatement après sa retraite de joueur, Le Guen devient entraîneur du Stade rennais. Le club termine 5^e du championnat, notamment sous l’impulsion du buteur Shabani Nonda. En 1999-2000, le Stade Rennais se classe 13^e du championnat, puis 6^e la saison suivante. Poussé vers la sortie par les dirigeants rennais, Le Guen décide alors de prendre une année sabbatique, le temps de parcourir l’Europe et d’apprendre auprès d’entraîneurs étrangers.

A l'été 2002, Jean-Michel Aulas, le président lyonnais tout nouveau champion de France, cherche un nouvel entraîneur pour succéder à Jacques Santini parti entraîner l’Équipe de France, et il se tourne vers Le Guen. Avec le club rhodanien, il remporte trois nouveaux titres de champion de France en 2003, 2004 et 2005, ainsi que trois trophées des champions, en trois participations. Sur le plan européen, il atteint deux fois les quarts de finale de la Ligue des Champions. À l'issue de la saison 2004-2005, il décide de quitter le club et de prendre une nouvelle année sabbatique.

Durant la saison 2005-2006, Paul Le Guen refuse de reprendre en main la destinée du Paris-Saint-Germain car il ne veut pas prendre la place de son ami Laurent Fournier. Il partage son temps entre sa maison bretonne, ses activités de consultant pour Canal+ et notamment dans L'Équipe du Dimanche, où il commente les matchs étrangers. Le Guen participe également à des manifestations sportives, il court le marathon de New York, ou encore le Marathon des Sables.

En mai 2006, il devient entraîneur des Glasgow Rangers. La lutte pour le titre de champion d'Écosse tourne vite à l'avantage du Celtic Glasgow, et des problèmes relationnels éclatent avec une partie de l'effectif, menée par le capitaine de l'équipe Barry Ferguson. Le Guen démissionne en compagnie de son adjoint Yves Colleu le 4 janvier 2007. Quelques jours plus tard, il remplace Guy Lacombe comme entraîneur du PSG, qui lutte pour le maintien en Ligue 1.

Malgré des débuts malchanceux, avec notamment un blessure à la cheville de Mario Yepes, une série de quatre défaites consécutives en championnat, une élimination en Coupe de France ainsi qu'en coupe de l'UEFA, Paul Le Guen parvient à assurer le maintien du Paris Saint-Germain parmi l'élite.

La saison 2007-2008 tourne au calvaire. En dépit des promesses de bons matchs amicaux (notamment en Emirates Cup), l'équipe réalise un parcours catastrophique en championnat : le PSG est 18^e au soir de la 15^e journée, et l'est toujours à deux journées de la fin ! Malgré tout, le club remporte la coupe de la Ligue et atteint la finale de la coupe de France. Le président Alain Cayzac préfère démissionner que licencier Paul Le Guen. En mai 2008, Charles Villeneuve, nouveau président du club, maintient sa confiance en Paul Le Guen.

Grâce à un recrutement ciblé et la confirmation de certains cadres du PSG, le début de la saison 2008-2009 s'annonce beaucoup plus prometteur mais finit en queue de poisson. En effet, le PSG manque la qualification pour l'Europa League en terminant 6 ieme après avoir joué pour le titre tout au long de la saison.

Après une annonce de L'Equipe dans son édition du 5 mai 2009, qui l'annonçait partant à la fin de la saison, le PSG confirme par un communiqué que le contrat de Le Guen ne serait pas renouvelé. Il réalise alors une bonne saison 2008-2009, mais se doit de quitter le club après des conflits internes avec la direction du club vis a vis de la gestion du groupe. Il quitte officiellement le club en fin de saison après avoir été coiffé au poteau par le LOSC pour l'Europa League.

En juillet 2009, il signe un contrat de six mois comme sélectionneur de l'Equipe nationale du Cameroun. Il a pour mission directe la qualification des Lions Indomptables du Cameroun au Mondial 2010 en Afrique du Sud et à la CAN 2010 en Angola, tâche qui ne sera pas facile puisque les Lions sont derniers de leur poule en ce moment avec 1 point en 2 matchs joués.