Venne incoronato re dei Franchi dal papa che, minacciato dall'avanzata dei Longobardi, ne aveva ottenuto la protezione e ricambiò l'aiuto ricevuto da Pipino il Breve con un'incoronazione formalmente illegittima.
Era il figlio secondogenito del Maggiordomo di palazzo di Austrasia ed in seguito maggiordomo di palazzo di tutti i regni dei Franchi, Carlo Martello (che era figlio di Pipino di Herstal o Pipino II maggiordomo di palazzo di tutti i regni dei Franchi e di Alpaïde di Bruyères, (ca. 650-† 717), di cui non si conoscono gli ascendenti, ma l'Ex Chronico Sigeberti monachi ci informa che era sorella di un certo Dodone, domestico di Pipino II, che martirizzò il vescovo di Liegi, Lamberto) e della sua prima moglie, Rotrude di Treviri (695-724) che per molto tempo è stata ritenuta figlia di Willigarda di Baviera e di San Liévin, Liutwin o Leudin (?-†713), arcivescovo di Treviri; ma studi più recenti hanno stabilito che fu la figlia del conte Lambert de Hesbaye (?-†714), antenato dei Robertingi (poi Capetingi); da cui discese anche Ermengarda (778-818), moglie di Ludovico il Pio.
Pipino il Breve nel 736, assieme al padre Carlo Martello e al fratello maggiore Carlomanno, attraversò la Loira e, combattendo il duca d'Aquitania Hunaldo, giunse alla Garonna, conquistò la città di Bordeaux e il castello di Blavia e riuscì ad assoggettare tutta la regione e a impossessarsene. Concesse però a Hunaldo di governare il ducato in seguito al giuramento di fedeltà fatto a Carlo e ai suoi figli, Carlomanno e Pipino III.
Nel 741, il padre Carlo divise il regno in due parti: a Carlomanno, il primogenito, consegnò l'Austrasia, la Svevia - oggi denominata Alemannia - e la Turingia; al secondogenito, Pipino consegnò la Neustria, la Burgundia e la Provenza. In quello stesso anno, Carlo, assalito dalla febbre, morì.Secondo gli Annales Mettenses il padre, Carlo, avrebbe voluto dividere il regno in tre parti, come richiesto dalla seconda moglie Swanachilde, ma - seguendo il parere dei Franchi, che consideravano il figlio di secondo letto, Grifone, illegittimo - Carlomanno e Pipino rifiutarono.
Grifone si ribellò ai fratellastri, per poter avere una parte o addirittura tutto il dominio paterno. Allora Carlomanno e Pipino radunarono l'esercito per catturare Grifone che, avuta la notizia, fuggì con la madre e si chiuse in Laudunum (l'attuale Laon), dove i fratellastri posero l'assedio.
