Seine Karriere bekam einen großen Schub, als er 1782 an einem Bewerb der Berliner Akademie teilnahm, der für Arbeiten zur Flugbahn von Bomben und Kanonenkugeln bei Luftwiderstand ausgeschrieben war, und diesen auch gewann. Lagrange, der damalige Direktor der Berliner Akademie, wurde aufmerksam auf den jungen Legendre und auch seine weiteren Arbeiten erregten großes Aufsehen, sodaß er 1783 den freiwerdenden Assistentenposten seines Freundes Laplace in der Academie des Sciences übernahm. In den folgenden Jahren veröffentlichte Legendre in vielen Gebieten Arbeiten, hervorzuheben dabei wären seine Arbeit aus 1784, "Sur la figure des planetes", in der erstmals seine "Legendre-Polynome" vorkamen, Arbeiten zur Zahlentheorie und seine Arbeiten zur Theorie der elliptischen Funktionen. Seine Arbeiten über Zahlentheorie enthielten bereits Ergebnisse, die heute (auch zurecht) anderen Mathematikern zugesprochen werden, nämlich das quadratische Reziprozitätsgesetz, das er nur zum Teil bewies und das erst von Gauß vollständig bewiesen wurde und die heute als "Satz von Dirichlet" bekannte Tatsache über die Verteilung von Primzahlen in arithmetischen Progressionen. (Hier hatte Legendre gar keinen Beweis angegeben.)
1793 brach aufgrund der Revolution eine schwere Zeit für Legendre herein, da die Academie des Science geschlossen wurde und Legendre, der gerade geheiratet hatte, sein Vermögen und sein gesichertes Einkommen verlor. Glücklicherweise wurde die Academie 1795 wiedereröffnet und zwar unter dem Namen "Institut National des Science et des Arts". In dieser Zeit arbeitete Legendre auch an seinem Buch "Elements de geometrie", daß für 100 Jahre zum Standardwerk in diesem Gebiet werden sollte. (In diesem Buch gibt Legendre einen sehr kurzen Beweis, daß Pi irrational ist und er gibt den 1. Beweis dafür, daß auch das Quadrat von Pi irrational ist.) Ein weiteres Projekt war die Erstellung von trigonometrischen und Logarithmentafeln (gemeinsam mit de Prony), das von 1792 bis 1802 dauerte und an dem 70 - 80 Assistenten mitarbeiteten.
1806 beschrieb Legendre in einem Buch über Kometenbewegungen die Methode der kleinsten Quadrate, die heute ebenfalls immer im Zusammenhang mit GAuß zitiert wird, der seine Version aber erst 1809 puplizierte. Gauß erwähnte die Arbeit von Legendre, sah die Urheberrechte doch bei sich selbst, was Legendre sehr erzürnte. (Man bedenke, daß Gauß auch Legendres Arbeit über das Reziprozitätsgesetz öffentlich kritisierte, wobei er natürlich Recht hatte, doch war Gauß 23 und Legendre bereits 50.) Es sollte noch einen weiteren Streitpunkt geben, nämlich um die Abschätzung der Primzahlen kleiner n.
In den Jahren 1811, 1817 und 1819 erschienen erstmals die 3 Bände seines Hauptwerkes über elliptische Funktionen, "Exercises du Calcul Integral", das er 1825, 1826 und 1830 neu überarbeitet als "Traite des Fonctions Elliptiques" herausgab. Doch auch hier steht Legendre als tragische Figur da, denn auch wenn er 40 Jahre in diesem Gebiet gearbeitet hat, hat er nie den tiefen Einblick wie Abel oder Jacobi, die mit ihrer Arbeit auf dem Gebiet der elliptischen Funktionen Legendre´s Buch, sobald es erschien, obsolet machten.
Tragisch sollte auch die letzte Periode seines Lebens sein, denn er weigerte sich bei einer Wahl am Institut National den Kanditaten der Regierung seine Stimme zu geben, woraufhin die Regierung seine Pension einstellte und Legendre am 10. Jänner 1833 in Paris in Armut starb.