Le XVIIe Congrès du Parti, dit « Congrès des Vainqueurs », semble marquer une volonté d’apaisement. Les pires moments de la dékoulakisation et les difficultés du Ier Plan sont passés. D’anciens opposants sont réintégrés, des mesures d’amnistie partielles sont adoptées à l’égard des prisonniers du Goulag ou des ex-koulaks. Les signes d’ouverture envers les non-membres du Parti se multiplient. La levée du rationnement en ville (1935), l’essor des loisirs et le regain de la consommation marquent un desserrement de la pression politique et sociale. Un tournant conservateur se dessine avec la réhabilitation de la famille et de la patrie « socialistes », le retour à l’académisme, au nationalisme grand-russe, au militarisme.
Soucieux également de se rapprocher des démocraties parlementaires contre le Troisième Reich hitlérien, Staline se fend de déclarations humanistes : « L’homme est le capital le plus précieux » (mai 1935). Une nouvelle constitution est mise en chantier : dite « constitution stalinienne », La constitution soviétique de 1936, adoptée le 5 décembre 1936, et aussi connue sous le nom de « Constitution Staline », redéfinit le gouvernement de l'Union soviétique. La constitution supprima les restrictions de vote et ajouta le suffrage universel direct aux droits garantis par la constitution précédente. En outre, la constitution reconnut les droits collectifs sociaux et économiques, non reconnus par les constitutions des pays capitalistes à cette époque, parmi lesquels les droits au travail, au repos et au loisir, la protection de la santé, le soin aux personnes âgées ou malades, le droit au logement, à l'éducation et aux bénéfices culturels. La constitution permit aussi l'élection directe de tous les corps gouvernementaux et leur réorganisation en un système unique et uniforme. La constitution de 1936 changea le nom du Comité Central Exécutif en soviet suprême de l'Union des républiques socialistes soviétiques. Comme ses prédécesseurs, le soviet suprême comprenait deux chambres: le Soviet de l'Union et le Soviet des nationalités. La constitution accrut les pouvoirs du soviet suprême, lui permettant d'élire des commissions, ce qui constitua la majeure partie de son travail. Comme sous la constitution précédente, le Præsidium exerçait les pleins pouvoirs du soviet suprême entre les sessions, et avait le droit d'interpréter les lois. Le président du Présidium devint le chef d'État titulaire. Le Sovnarkom (connu après 1946 comme le Conseil des Ministres) continuait d'agir en tant que bras exécutif du gouvernement.
Des quatre constitutions soviétiques, celle de 1936 fut la plus longtemps en vigueur.
Elle est formellement la plus démocratique du monde, mais restera évidemment inappliquée, d’autant que son entrée en vigueur en décembre 1936 coïncidera avec le début des Grandes Purges.
En effet, au cours du XVIIe Congrès, Staline mesure aussi la part des réticences envers sa personne : il n’est reconduit au Comité Central qu’en dernier de la liste, 200 à 300 délégués sur près de 1200 ayant rayé son nom. Par ailleurs, il sait qu’une bonne part de la société soviétique reste hostile ou mal contrôlée, et que les transformations brutales qu’il lui a imposées ont engendré bien des mécontents et des déclassés socialement suspects.
Le 1er décembre 1934, son familier Kirov est abattu à Leningrad par un jeune révolté, Leonid Nikolaïev. S’il n’a pas organisé lui-même l’attentat comme on l’a longtemps cru, Staline exploite l’événement pour relancer une campagne de terreur.