En 1896, Harris s'installa à Chicago et ouvrit un cabinet d’avocats. Quatre ans plus tard, son homologue Bob Frank et lui se rencontrèrent pour dîner, dans le North Side de Chicago. Ils se promenaient dans le quartier, s'arrêtant en chemin dans les magasins, quand Harris fut frappé par l’attitude amicale de Frank envers de nombreux commerçants. Depuis qu’il vivait à Chicago, il n'avait pas perçu cet esprit de camaraderie de la part des hommes d’affaires ; elle lui rappelait ses jeunes années à Wallingford et il s’interrogea sur les moyens de la canaliser.

« J'étais certain qu'il devait y avoir de nombreux autres jeunes gens en provenance de la campagne venus s'installer à Chicago... Pourquoi ne pas nous retrouver ? Si, comme pour moi, la camaraderie leur manquait, quelque chose en ressortirait. »

Harris réussit à convaincre plusieurs associés de discuter de l'idée de former une organisation rassemblant des professionnels locaux. Le 23 février 1905, Paul Harris, Gustavus Loehr, Silvester Schiele et Hiram Shorey se retrouvent dans le bureau de M. Loehr, situé dans l'Unity Building (salle 711) dans le centre-ville de Chicago, pour la première réunion d'un Rotary club.

En février 1907, Harris fut élu troisième président du club de Chicago. Vers la fin de sa présidence, il travailla à l’extension du Rotary par delà la ville. Certains membres du club furent réticents, ne voulant assumer de charges financières supplémentaires. Mais Harris tint bon et en 1910, le Rotary s'était implanté dans plusieurs autres grandes villes américaines.

Paul Harris décède le 27 janvier 1947 à Chicago à l'âge de 78 ans des suites d’une longue maladie.

À l’annonce de sa mort, le Rotary mit en place le Fonds commémoratif Paul Harris, afin de solliciter des dons. Les Rotariens furent encouragés à honorer la mémoire du défunt en contribuant au fonds, qui serait utilisé à des fins chères au cœur de Paul Harris. Durant les 18 mois qui suivirent sa mort, la Fondation Rotary reçut 1,3 millions de dollars, ce qui contribua à financer son premier programme, des bourses d'études supérieures à l'étranger.