Negli anni alla guida della Fgci Berlinguer è membro candidato nella direzione del Pci, uno status che gli consente il diritto di parola, ma non quello di voto. Terminata nel 1956 l'esperienza nell'organizzazione giovanile, assume nel 1957 l'incarico di direttore dell'Istituto centrale di studi comunisti, più comunemente noto come la "scuola di Frattocchie" e nel dicembre dello stesso anno viene nominato vicesegretario regionale della Sardegna. Nel luglio 1958 Berlinguer entra nella segreteria nazionale e nell'ufficio di segreteria del Pci, saldando il rapporto con Luigi Longo, il vicesegretario del partito. Entra in direzione col IX Congresso nazionale (Roma 30 gennaio - 4 febbraio 1960), assumendo anche l'incarico di responsabile dell'organizzazione. Alla fine del X Congresso nazionale (Roma, 2 - 8 dicembre 1962) fa parte congiuntamente della direzione, della segreteria e dell'ufficio di segreteria. In questi anni la parola d'ordine della "via italiana al socialismo" viene declinata in base alle diverse sensibilità del partito. Il confronto interno, continuo e profondo, investe la strategia nazionale e internazionale. Berlinguer è sulle posizioni di Togliatti e del centro del partito, sia in merito al centrosinistra, a cui il Pci riserva inizialmente una "opposizione particolare", testimoniata dal sostegno ad alcuni provvedimenti governativi come la nazionalizzazione dell'energia elettrica, sia in merito a un rapporto con l'Unione sovietica impostato a una maggiore autonomia del comunismo italiano. Dopo la morte di Togliatti e con l'avvento di Longo alla segreteria, il confronto si fa più libero ma anche più teso. Nel corso dell'XI Congresso nazionale (Roma 25-31 gennaio 1966), durante il quale Pietro Ingrao esprime il suo dissenso sulla linea della maggioranza e rivendica il diritto a una maggiore pubblicità del dibattito, Berlinguer non si schiera apertamente nello scontro che vede sconfitta la sinistra ingraiana. Dopo il Congresso, viene destinato all'incarico di segretario regionale del Lazio, rimanendo membro solo della direzione e dell'ufficio politico. Al tempo stesso, il suo rapporto con Longo resta molto stretto ed è quest'ultimo a sollecitarne la candidatura alla Camera dei deputati nelle elezioni del maggio 1968. Un anno dopo, al XII Congresso nazionale (Bologna 8-15 febbraio 1969), Berlinguer è eletto vicesegretario, affiancando Longo che era stato colpito da un ictus il 27 ottobre 1968.