Membre permanent du SPD (Sozialdemokratische Partei Deutschlands) jusqu’en 1910, il participe à la fondation du KPD (Kommunistische Partei Deutschlands) en 1918. Exilé en France puis en URSS pendant la Seconde Guerre mondiale, il revient à Berlin dès 1945 où il œuvre à la construction du SED (Sozialistische Einheitspartei Deutschlands).
Élu premier secrétaire du SED dès 1946 (parti au pouvoir en RDA, né de la fusion en avril 1946 du KPD et du SPD), Walter Ulbricht lui succède en 1950. Jusqu’à cette date, Wilhem Pieck cumule les fonctions de premier secrétaire du parti et de Président de la République Démocratique allemande.
A sa mort, en décembre 1960, Walter Ulbricht lui succède à la présidence. Le titre de Président de la République est aboli et est remplacé par celui de Président du Conseil d’État.