Dans les discussions autour de la Nep, le problème paysan avait été le problème central, le point de divergence. Mais aucun des protagonistes n'avait mis en doute l'ultime but du régime, la disparition de l'exploitation privée, la socialisation de l'agriculture, ni les voies de cette transformation, le développement des exploitations coopératives. En fait, les divergences portaient sur les rythmes, et le nœud du désaccord se situait dans les problèmes d'industrialisation. Aussi le premier plan de collectivisation, à l'époque où pesaient encore les souvenirs du « rythme de la tortue », ne prévoyait-il pour 1932 que la collectivisation de 12 % de la surface cultivée. La raison en était évidente : le parti partageait toujours l'opinion exprimée par Lénine en 1919 : « La paysannerie moyenne dans la société communiste ne se rangera à nos côtes que lorsque nous aurons allégé et amélioré les conditions économiques de son existence. Si demain nous pouvions fournir cent mille tracteurs de premier ordre, les pourvoir en essence, les pourvoir en mécaniciens (vous savez bien que, pour l'instant, c'est une utopie) le paysan moyen dirait : « Je suis pour la Commune. » Mais pour ce faire, il faut d'abord vaincre la bourgeoisie internationale, il faut l'obliger à nous fournir ces tracteurs, ou bien il faut élever notre productivité du travail de telle sorte que nous puissions les fournir nous-mêmes ».
En cette matière, la politique à courte vue de maintien intégral de la Nep n'avait en rien amélioré la situation. Alors que les besoins de l'agriculture en tracteurs sont estimés par Staline lui-même à 250 000, le nombre des tracteurs utilisables dans la campagne soviétique s'élève à 7000 en début de 1929. A la fin de cette même année, il est de 30 000 un chiffre encore dérisoire, quoique Staline promette 60 000 tracteurs pour 1930, 100 000 pour 1931, 250 000 pour 1932, où la collectivisation serait ainsi techniquement réalisable du point de vue de la mécanisation, à la condition qu'aient été en même temps fournis l'essence, les moyens de transport, l'énergie électrique nécessaires. Or, si en octobre 1929, 4,1 % seulement des ménages paysans sont intégrés dans des kolkhozes, six mois après, en mars 1930, il y en aura 58,1 %, donc la plus grande partie sans tracteurs ni machines.
Ces chiffres seuls font justice de l'affirmation, souvent reprise après les historiographes officiels, suivant laquelle la collectivisation aurait constitué un développement prévu et organisé, une étape de la construction socialiste après la reconstruction tout court. En fait, la collectivisation est apparue, dans les conditions où elle a été réalisée, comme la conséquence directe de la fuite en avant des dirigeants face à la crise du blé, née elle-même du développement des contradictions de classe à la campagne. Les « mesures d'urgence » adoptées au début de 1928 permettent, dans l'immédiat, de ravitailler les villes, dans la mesure où les détachements envoyés dans les campagnes mettent la main sur les stocks de blé accumulés par les koulaks. L'application de l'article 127 permet aussi, suivant l'expression de Staline, d' « introduire la lutte de classes à la campagne » et au pouvoir soviétique de s'appuyer sur les paysans pauvres, directement intéressés par la lutte contre le koulak et le stockage du blé. Mais il est évident que ces mesures ne peuvent produire d'effet concret que pour un temps très bref : la part de grain reçue par les villes est diminuée par le prélèvement effectué au profit du paysan pauvre - ce qui explique que de nombreux détachements d'ouvriers communistes aient délibérément confisqué le grain sans appliquer l'article 127 - et surtout elles ont pour effet de diminuer considérablement la production, puisque le koulak peut poursuivre la lutte en diminuant son ensemencement ou en changeant de culture; et les enquêtes effectuées au début de l'automne 1927 révèlent effectivement une diminution importante des emblavures.
C'est ce dilemme que reflète la politique de Staline entre février et juillet 1928. La hausse de 20 % du prix du blé en juillet 1928 montre que le comité central cherche encore une issue à la crise dans la conciliation et non la suppression du koulak. Mais on ne peut « prendre les mouches avec du vinaigre » : tant qu'il est le principal producteur de blé, le koulak reste celui qui a l'initiative, celui, surtout, de qui tout dépend, puisqu'il a toujours, en 1928, malgré quelques restrictions, le droit de louer des terres et d'employer des salariés. La solution qui consiste à s'appuyer contre lui sur le paysan pauvre, et, dans la mesure du possible, le paysan moyen, indique la seule voie de l'affaiblissement possible du koulak dans le village : son joug est d'autant plus pesant qu'il est, pour beaucoup, à la fois patron et usurier. La tentation est donc grande de s'appuyer sur les paysans pauvres et moyens: mais, dans le cadre créé par la Nep, ce n'est qu'une solution purement politique, puisque les dix huit millions de paysans moyens ne peuvent pas, par leur seule production, combler le déficit créé dans le pays par le sabotage des koulaks.
C'est pourtant la solution qui prévaut dans la deuxième moitié de l'année 1929. Mais la collectivisation des terres des paysans pauvres et moyens n'est pas, dans l'état du développement de la production industrielle, une opération techniquement payante : la collectivisation est dénuée de sens quand elle touche cinq millions de paysans travaillant encore avec l'araire et des outils de bois. Surtout, elle ne permet toujours pas de ravitailler les villes, tant que le koulak est le maître de ses terres, qui continuent à fournir la plus grande partie de la production commercialisable. Ainsi, inéluctablement, en vient-on à la « liquidation du koulak » : les biens du koulak, terres et matériel, sont confisqués et attribués au kolkhoze. Lui et sa famille sont exclus du kolkhoze où l'on redoute qu'il ne cherche à reprendre son influence. Les terres du koulak étant désormais cultivées par le kolkhozien, on peut espérer, en se fiant à de simples chiffres, que la production restera la même avec ce changement de mode d'exploitation et que le ravitaillement sera ainsi assuré dans l'immédiat.
En fait, la collectivisation se déroule de façon beaucoup moins schématique et surtout moins linéaire. Elle provoque un incontestable enthousiasme dans les couches les plus pauvres des paysans, appelées ainsi à reprendre, sous une forme originale, la lutte séculaire pour la terre de celui qu'ils considèrent comme l'exploiteur, et l'on a pu parler, en ce sens, d'un véritable « Octobre paysan ». Elle mobilise aussi de jeunes couches ouvrières qui partent au « front » de la campagne avec l'espoir de l'avènement d'un monde nouveau, d'un triomphe sur le passé médiocre de l'usurier et de l'individualisme rural, d'un avenir de production collective et égalitaire. Mais le paysan russe - comme tous les paysans du monde - ne croit que ce qu'il voit. Lénine avait raison lorsqu'il supposait que l'arrivée dans les campagnes de tracteurs, de mécaniciens, de matériel de toute sorte, rallierait le paysan au système collectiviste : encore faudrait-il qu'il ait, de ses yeux, constaté la supériorité du système et la réalité des promesses. Or le pouvoir n'a pas de tracteurs à envoyer et le kolkhoze doit être constitué sans attendre. Le paysan moyen n'est pas convaincu. Il restera à le forcer.
Le régime s'engage d'autant plus facilement dans cette voie que la pyramide bureaucratique de l'appareil donne des instructions qui sont des ordres et dont la non-exécution risque de valoir au responsable subalterne d'être accusé de « manque de confiance », de « déviation de droite », voire de « sabotage » ou de « trahison au profit du koulak ». L'essentiel pour certains - c'est Staline qui le dit - est de prendre « une foule de résolutions fanfaronnes » de « courir après un pourcentage élevé de collectivisation », dans un « zèle administratif » caractéristique d'un état d'esprit bureaucratique. Aussi la collectivisation se déroule-t-elle dans une atmosphère de violence, absurde puisque de nombreux villages font bloc autour des koulaks et doivent être pris d'assaut, puisque chaque organisation du parti a, conformément au plan établi, à répartir un nombre donné de koulaks entre ceux qui doivent être immédiatement arrêtés et ceux qui doivent être rassemblés en vue d'être ultérieurement déportés.
Dix millions de personnes au moins sont ainsi arrachées de leurs foyers comme « koulaks » et « contre-révolutionnaires », groupés par la Guépéou dans des centres et expédiés ensuite vers la Sibérie où ils constitueront les premiers détachements du travail forcé. Alors que la forme de collectivisation prévue est l'artel, mettant en commun les terres et les instruments de travail, les responsables zélés - une quintessence de l'appareil puisque ce sont, dans chaque rayon, une troïka formée du premier secrétaire du parti, du président de l'exécutif des soviets et du chef de la Guépéou - qui ont reçu instruction de collectiviser « dans le plus bref délai possible » et qui ont quinze jours pour remettre l'inventaire des biens des koulaks de leur circonscription, « collectivisent » également les habitations, le bétail, les volailles. Les rapports de la Guépéou de Smolensk citent des cas précis où koulaks, paysans moyens considérés comme koulaks et même des paysans pauvres et les membres de leurs familles sont dépouillés de leurs chaussures, de leurs vêtements et même de leurs sous-vêtements, un autre où les lunettes sont « collectivisées ». Un rapport du 28 février signale que la dékoulakisation se développe en expropriation et pillage sur une grande échelle : « Mangeons, buvons, tout est à nous », étant le mot d'ordre de certaines brigades. Victor Serge cite des régions où toute la population, considérée comme « koulak » est déportée : les femmes d'un bourg du Kouban le seront, nues, dans des wagons à bestiaux, parce qu'elles ne pensaient pas qu'on oserait les faire sortir ainsi. Avant l'arrivée des hommes de la Guépeou, les villageois - koulaks, bien sûr, mais les autres aussi - brûlent les meubles, les granges, les isbas, égorgent le bétail, et quand ils le peuvent, égorgent aussi les communistes. Le 2 mars 1930 dans un article de la Pravda intitulé « Le vertige du succès », Staline dénonce une partie de ces excès, qui « ne profitent qu'aux ennemis », « compromettent la liaison avec les masses » et dont il rejette entièrement et exclusivement la responsabilité sur les exécutants et leur zèle abusif.
Un ancien communiste russe raconte ainsi la collectivisation dans son village : « Quand on nous parla de collectivisation, l'idée me plut. A d'autres aussi, dans le village, des hommes qui comme moi, avaient travaillé en ville et servi dans l'armée rouge. Le reste du village y était résolument hostile : on ne m'écouta même pas. Mes amis et moi décidâmes alors de faire démarrer une petite ferme coopérative et de mettre en commun terres et outils. Vous connaissez nos paysans, ce n'est pas la peine de leur parler plans ni figures : il faut montrer des résultats qui puissent les convaincre. Nous savions que si nous pouvions leur montrer que nous avions un plus gros bénéfice qu'avant, cela leur plairait et qu'ils feraient comme nous. [...] Un jour, un ordre est venu du comité de Klin de faire entrer cent familles de plus dans notre kolkhoze. Nous sommes arrivés à en avoir une douzaine. Croyez-moi, ce n'était pas facile ... Rien à faire pour avoir une famille de plus. J'allai à Klin expliquer la situation au parti. Je leur demandai de nous laisser continuer comme avant et je leur promis, dans ce cas, d'avoir tout le village dans le kolkhoze dans un an. Ils ne m'écoutaient pas, ils avaient des listes, de longues listes disant combien de kolkhozes, avec combien de membres, devaient figurer sur leurs rapports. C'était tout. Ils me dirent que je sabotais la collectivisation et que si je ne faisais pas ce qu'on me disait, je serais exclu du parti. Je savais que je ne pouvais amener personne, sauf en faisant ce que j'avais entendu dire que d'autres faisaient, en d'autres termes, en -les forçant. [...] Je convoquai une assemblée du village et leur dis qu'ils devaient rejoindre le kolkhoze, que c'étaient les ordres de Moscou, que, s'ils ne le faisaient pas, ils seraient exilés, leurs propriétés confisquées. Ils signèrent tous, le soir même. [...] Et dans la nuit, ils commencèrent à faire ce que faisaient tous les villages d'U.R.S.S. quand on les forçait à entrer dans les kolkhozes - tuer leur bétail. [...] Je pris la liste des nouveaux membres, la portai au comité de Klin, et, cette fois, ils furent très contents de moi. Quand je leur parlai du meurtre du bétail et leur dis que les paysans se sentaient comme en prison, cela ne les intéressa pas. Ils avaient la liste et pouvaient l'expédier à Moscou : c'est tout ce qui les occupait. Je ne pouvais les en blâmer : ils avaient des ordres, comme moi ».
La crise est si grave - on se bat un peu partout, les réserves alimentaires sont épuisées - que l'article de Staline, tiré en tract, sera diffusé à 18 millions d'exemplaires, et qu'un certain nombre de responsables locaux de la Guépéou seront fusillés pour l'exemple. Le décret du 15 mars autorise les paysans à quitter le kolkhoze; l'écho de la mesure est foudroyant et la majorité des paysans s'en vont dans les semaines qui suivent. En juin 1930, il n'y a plus que 23,6, % de foyers paysans dans les kolkhozes, au lieu de 58,1 trois mois auparavant. Dans la région des Terres noires d'Ukraine, où 82 % des paysans étaient entrés dans les kolkhozes en mars, il n'en reste plus que 18 % en mai. Ce recul n'est que temporaire : les moyens de pression sont adaptés, le kolkhozien bénéficie d'exemptions d'impôts, de crédits, de promesses et le paysan individuel est lourdement taxé. Après le désastre du début de l'année 1930, il n'a plus les moyens de résister, et, souvent, plus rien à préserver : il cède et adaptera les formes de sa résistance. Au milieu de 1931, il y a 51,7 % de foyers paysans dans les kolkhozes, 61,5 % en 1932; 25 millions de petites entreprises ont laissé la place à 240 000 kolkhozes et 4 000 sovkhozes.
Les ravages sont énormes : les statistiques officielles avouent la disparition, entre 1929 et 1934, de 55 % des chevaux (19 millions de têtes), 40 % des bêtes à cornes (11 millions), 55 % des porcs, 66 % des moutons. Les pertes en hommes ne sont pas chiffrées. A cette tragique aventure s'en ajoute une deuxième, celle qui consiste à encadrer techniquement les 25 millions de familles paysannes collectivisées de cette manière. Alors qu'en 1930, dans les conditions que l'on sait, la récolte avait été de 835 millions de quintaux de céréales, elle est de 700 seulement en 1931.
Dans son rapport sur le premier plan quinquennal, Staline affirmera que la quantité de blé stockée par le marché a doublé depuis 1927. C'est que le gouvernement fait signer aux paysans des « contrats » draconiens, eux aussi à la discrétion des fonctionnaires locaux avides de « résultats » : il faut assurer à la fois le ravitaillement minimum des villes et les exportations de blé, qui financent partiellement l'industrialisation. Les campagnes connaissent une terrible famine en 1932-1933 : les estimations du nombre de paysans morts de faim varient entre un et plusieurs millions. La répression est dure : la peine de mort est applicable pour vol de grain. Une nouvelle vague d'arrestations dans les campagnes sera stoppée le 8 mai 1933 par une circulaire secrète de Staline et Molotov qui évoque « les saturnales d'arrestations » et fixe, pour certaines régions, des quotas maximum de déportation. En ville, le rationnement est introduit : la carte, pourtant, ne permettra pas toujours d'avoir du pain. Au printemps 1932, le secrétaire régional de Smolensk avise les organisations qu'il dirige qui ne sera plus possible d'assurer les rations, jusque-là maintenues en toute circonstance, des membres des cellules d'usine et de l'armée rouge. En juillet, il n'y aura plus de pain du tout, avec ou sans carte, et un rapport de la Guépéou cite une infirmière qui gagne 40 roubles par mois et se procure du pain à plus de 3 roubles le kilo.