The Godfather Part II presenteert twee parallelle verhaallijnen. De eerste betreft maffiabaas Michael Corleone in 1958 en 1959 na de gebeurtenissen van de eerste film; de andere is een reeks flashbacks die zijn vader, Vito Corleone, volgen van 1917 tot 1925, vanaf zijn jeugd op Sicilië (in 1901) naar de oprichting van de Corleone-familie in New York City. De film begint in 1901, in het stadje Corleone, Sicilië, op de begrafenis van de jonge Vito's vader, Antonio Andolini, die is vermoord voor een belediging aan het adres van de lokale maffiabaas, Don Ciccio. Tijdens de processie wordt Vito's oudere broer vermoord omdat hij wraak had gezworen op de Don.. Vito's moeder gaat naar Ciccio om genade smeken, maar hij weigert, wetende dat de negenjarige Vito later wraak zal nemen.. Vito's moeder neemt Ciccio vervolgens onder bedreiging van een mes gegijzeld, waardoor haar zoon kan ontsnappen, en de mannen van Ciccio doden haar.. Ze zoeken de stad af naar de jongen, maar hij wordt geholpen bij zijn ontsnapping door de stadsbewoners.. Vito vindt zijn weg per schip naar New York City, en op Ellis Island kiest een immigratiebeambte Vito's geboorteplaats Corleone als zijn achternaam, en hij wordt geregistreerd als "Vito Corleone". In 1958, in een scène die lijkt op de opening van de eerste film, Michael Corleone (Al Pacino), Peetvader van de Corleone-familie, behandelt diverse zakelijke en familieproblemen tijdens een uitgebreid feest in zijn landgoed bij Lake Tahoe, Nevada, om de Eerste Communie van zijn zoon Anthony te vieren.. In zijn kantoor ontmoet Michael de corrupte senator uit Nevada, Pat Geary. (G. D. Spradlin) om de prijs van de gaminglicenties voor het hotel/de casino's die de Familie koopt te bespreken. Geary, die zijn minachting voor Michael en andere Italiaanse zakenlieden die zijn staat binnenkomen om te profiteren van gokmogelijkheden kenbaar maakt, belooft dat Michael's verkrijging van zijn goklicentie een moeilijk proces zal worden.. Michael beëindigt zijn gesprek met Geary wanneer hij weigert de buitensporige vergoeding te betalen die Geary eist, en vertelt de senator dat hij niets zal krijgen.