Ha lavorato tra le carte della Sede romana, tra biblioteca e archivio, ma è stato anche al fianco del suo predecessore, papa Costantino, in una difficile missione a Costantinopoli. Gregorio è innanzitutto uomo di missione. Viene da lui la spinta all'evangelizzazione della Germania, che egli affida all'anglosassone Winfrido, ribattezzandolo Bonifacio. Come i suoi predecessori, anche l’imperatore bizantino Leone III si riserva non solo la nomina dei vescovi, ma anche gli interventi in tema di dottrina e disciplina ecclesiastica. E su questo punto fa un drammatico passo avanti a partire dal 726, ordinando prima la rimozione delle immagini sacre dalle residenze imperiali, e poi addirittura l’iconoclastia, cioè la loro distruzione,
dovunque si trovino. Questa “guerra totale” scatena conflitti sanguinosi in Oriente, mentre i sudditi italiani dell’Impero non obbediscono più a Leone III, schierandosi invece col papa che difende le immagini. Gregorio II, a questo punto, potrebbe provocare una secessione da Bisanzio. Ma non lo fa. Anzi, dice un no risoluto agli eccessi del sovrano, ma non viene meno alla lealtà verso l’Impero. La morte lo coglie il 10 febbraio 731. Viene sepolto in San Pietro il giorno 11.