Istituito fin dall'inizio della Presidenza Einaudi, con D.P. 9 nov. 1948, n. 4, l'Ufficio per gli atti legislativi e di governo ha competenze in materia di relazioni su problemi costituzionali e giuridici, prassi, firma delle leggi e dei decreti, Consiglio superiore della magistratura, Corte costituzionale, archivio legislativo. L'anno seguente, con D.P. 25 ott.1949, n. 26, diventa Ufficio rapporti con il Parlamento e con il Governo, assumendo competenze anche in materia di affari economici e finanziari.
Con il Presidente Gronchi, in base a D.P. 28 feb. 1957, n. 39, l'Ufficio diventa Servizio rapporti con il Parlamento e con il Governo, articolato in tre uffici. L'Ufficio rapporti con il Parlamento, il Governo e gli altri organi costituzionali include rapporti con il neocostituito Consiglio nazionale dell'economia e del lavoro (CNEL), con il Consiglio di Stato e la Corte dei conti, mentre non tratta più di affari economici e finanziari; si occupa della firma delle leggi e decreti e tiene l'archivio legislativo. L'Ufficio studi e controlli provvede alle relazioni su problemi costituzionali e giuridici, alla prassi e all'archivio riservato, al controllo di legittimità sugli atti del Segretario generale. L'Ufficio grazie si occupa delle grazie e commutazione delle pene, in precedenza affidate all'Ufficio affari generali e per due anni alla Segreteria presidenziale, e del Consiglio superiore della magistratura.
Non più articolato in uffici, nel 1965 - con decreto D.P. 1° mar. 1965, n. 5, del Presidente Saragat - il Servizio rapporti con il Parlamento e il Governo acquisisce le competenze in materia di ricorsi straordinari al Capo dello Stato, già di pertinenza della Segreteria presidenziale, mentre non annovera più quelle relative al controllo di legittimità sugli atti del Segretario generale.
Il Presidente Segni aveva affiancato al capo del servizio il Consulente per studi e ricerche di carattere giuridico-istituzionale Leopoldo Elia, che verrà confermato dal Presidente Saragat. Il Presidente Leone conferisce invece ad Amedeo Martinelli l'incarico di Consigliere parlamentare.
Il D.P. 24 giu. 1980, n. 36, del Presidente Pertini cambia la denominazione del servizio in Servizio affari giuridici e rapporti con gli organi costituzionali, aggiungendo tra le istituzioni con cui tratta anche i rapporti con le Regioni.
Durante la Presidenza Cossiga, con D.P. 30 ott. 1985, n. 9, il servizio diventa Ufficio per gli affari giuridici e le relazioni costituzionali, che include anche i rapporti con le province autonome e aggiunge alle competenze le guarentigie, prerogative e immunità del Presidente della Repubblica e del Segretario generale, la raccolta dei precedenti, usi e convenzioni, gli affari giuridici e legali relativi alla dotazione del Presidente e del Segretariato generale, pareri e collaborazione giuridica con gli altri uffici e servizi, ricerca documentazione e studi delle materie di competenza. Il Presidente Cossiga conferisce anche un incarico di Consulente per alcuni aspetti della posizione istituzionale del Presidente della Repubblica al magistrato Renato Alberto Squillante dal maggio 1986 al giugno 1992.
Durante la Presidenza Scalfaro vengono conferiti nell'ambito dell'Ufficio per gli affari giuridici e le relazioni costituzionali anche un incarico di Consulente per gli affari attinenti all'esercizio del potere di grazia, a Edeo De Vincentiis, e un incarico di Consulente per le questioni relative all'organizzazione giudiziaria, a Erminio Pennacchini, che muore il 10 luglio 1998. Con D.P. 1° mar. 1999, n. 126/N, del Presidente Scalfaro, l'Ufficio viene articolato in due divisioni: Divisione affari costituzionali, atti normativi e grazie che detiene oltre all'archivio legislativo, l'archivio costituzionale e l'archivio grazie; Divisione atti amministrativi, ricorsi straordinari e Consiglio superiore della magistratura, che detiene l'archivio dei ricorsi straordinari e l'archivio del Consiglio superiore della magistratura.
Il D.P. 26 lug. 2005, n. 60/N, del Presidente Ciampi precostituisce un'articolazione in due divisioni: una Divisione per gli affari costituzionali e gli atti normativi, con la tenuta dell'archivio costituzionale e dell'archivio legislativo, e una Divisione per gli atti amministrativi, ricorsi straordinari, archivio nomine e gestione biblioteca. In base a tale articolazione non risultano conferite alle due divisioni le competenze che dall'aprile 2002 sono svolte presso lo stesso Ufficio dal Consulente per gli affari della giustizia Loris D'Ambrosio.
L'articolazione in due divisioni viene confermata dal Presidente Napolitano, con il D.P. 31 mag. 2006, n. 1/N, quando le competenze sulle grazie e sul Consiglio superiore della magistratura passano al nuovo Ufficio per gli affari dell'amministrazione della giustizia che, in collaborazione con l'Ufficio per gli affari giuridici e le relazioni costituzionali, cura anche l'istruttoria relativa ai disegni di legge governativi da autorizzare, alle leggi da promulgare, ai decreti da emanare, in materia di giustizia. Il D.P. 30 dic. 2008, n. 35/N, prevede che la competenza in materia di ricerca, documentazione e studi sia in collaborazione con il Servizio studi e biblioteca; l'Ufficio per gli affari giuridici e le relazioni costituzionali svolge le sue competenze senza articolazione in divisioni.