En 1913, il est nommé médecin en chef de l’Hospice Départemental Paul Brousse venant d’être fondé à Villejuif. Dans cet hospice, initialement réservé aux personnes âgées, Gustave Roussy accueille les infirmes et tous ceux qui présentent une tare physique irréparable. Les personnes admises sont groupées en familles pathologiques pour une meilleure prise en charge. Le cancer y est une maladie fréquente et Gustave Roussy commence à s’y intéresser.

Durant la première guerre mondiale, Gustave Roussy est mobilisé. Il sert l’Armée comme médecin aide-major de 1ère classe, puis gravit rapidement les échelons de la hiérarchie des Services de Santé. Après la guerre, il reprend ses fonctions de directeur de l’Hospice Paul-Brousse. Il constate alors un retard de la France dans le domaine de la cancérologie par rapport à l’Angleterre, où le Middlesex-Hospital a établi les fondements de la lutte contre le cancer depuis 1792.

En 1921, il ouvre la première consultation externe réservée aux malades présumés cancéreux ou redoutant d’être porteurs de tumeurs, dans une petite salle de l’Hospice Paul Brousse. Il examine lui-même ces personnes et analyse leurs biopsies afin de poser rapidement un diagnostic. Les analyses anatomo-pathologiques, les traitements de radiothérapie, curiethérapie et de chirurgie sont réalisés sur place et à cela s’ajoute une dynamique d’enseignement scientifique et clinique.

En 1925, avec l’autorisation du Conseil Général de la Seine, la consultation de Gustave Roussy, laisse place au premier « Centre Anticancéreux de la Banlieue Parisienne ». Toujours en 1925 il convainc les pouvoirs publics de voter les fonds nécessaires à la création de « l’Institut pour l’Etude et le Traitement du Cancer ». La même année est créée la « Fondation pour le développement de l’Institut du Cancer » de la Faculté de Médecine de Paris, reconnue d’utilité publique en 1927. « L’Institut du Cancer » est inauguré le 27 mars 1930 par Gaston Doumergue, Président de la République. Sa section hospitalière de 150 lits est inaugurée le 16 juin 1934 par le Président de la République, Albert Lebrun.

L’Institut du Cancer poursuit un triple but : être à la fois un établissement de recherche, d’hospitalisation et d’enseignement.

En 1937, alors Doyen de la Faculté de Médecine de Paris, Gustave Roussy est nommé Recteur de l’Université de Paris par le gouvernement, devenant le premier médecin à exercer cette fonction. Il fait une brillante carrière, comme chercheur, mais surtout comme médecin. C’est à lui que l’on doit l’organisation de la cancérologie en France et le fondement de ses bonnes pratiques.

Ses dernières années sont plus tragiques. En 1940, le gouvernement de Vichy promulgue une loi visant à exclure les fils d’étrangers de la fonction publique. De plus, agacé par une manifestation étudiante sur la tombe du Soldat Inconnu le 11 novembre 1940 que Gustave Roussy n’a pas interdite, Philippe Pétain le révoque de ses fonctions de Recteur. Contraint au repos, il réapparaît en janvier 1944 pour recruter son élève, le Professeur Wickham, pour le compte du Service de Santé de la Résistance. Un autre de ses élèves, Jean Lhermitte, à qui il confie l’Institut quelques semaines en 1940, en est déjà membre. Dès la fin de l’occupation allemande, Gustave Roussy est réintégré.

Le 22 janvier 1946, Gustave Roussy cède sa place de directeur de l’Institut du Cancer au Professeur René Huguenin.

Le 28 avril 1947, Gustave Roussy est suspendu par le Conseil des Ministres sous la présidence de Vincent Auriol ; une instruction judiciaire est ouverte suite à une plainte du Ministre des Finances, Robert Schumann. Il est inculpé pour ne pas avoir versé les taxes exigées de lui par le gouvernement de Vichy lors de transferts de fonds depuis la Suisse vers la France. Très affecté par ces accusations et le déchaînement médiatique qui s’en suit, il tente une première fois de mettre fin à ses jours. Parallèlement et par manque de preuves, le Procureur Général prépare son réquisitoire définitif et demande un non lieu général. Mais avant qu’il ne se prononce, Gustave Roussy s’ouvre les veines le 30 septembre 1948. Sa mort mettant fin à l’action publique, le non lieu n’est jamais prononcé. Gustave Roussy laisse derrière lui une veuve, Marguerite Thomson, qu’il a épousée en 1907. Ils n’ont pas eu d’enfant.

Madame Roussy obtient, le 20 juillet 1949, du Président Vincent Auriol, un décret «portant sur la réhabilitation et mise à la retraite » du Recteur Roussy. Pour autant, le gouvernement s’oppose de façon explicite à ce que ce décret fasse l’objet d’une publication au Journal Officiel : la réhabilitation de Gustave Roussy est avérée mais se veut confidentielle.

Un décret du 1er avril 1950 donne le nom de son fondateur à l’Institut du Cancer, qui devient l’«Institut Gustave Roussy».