Wkrótce po wydaniu przez cesarza Konstantyna Wielkiego edyktu mediolańskiego, który gwarantował chrześcijanom wolność wyznania, papież Sylwester I postanowił pokazać władcy miejsce pochówku św. Piotra – najświętsze dla chrześcijan miejsce w Rzymie, które przez trzy wieki gorliwie chroniono przed prześladowcami.

Konstantyn, choć ochrzczony został dopiero na łożu śmierci, dzięki bogobojnej matce Helenie wzrastał w wierze w Jedynego Boga. Władca był urzeczony i oszołomiony atmosferą miejsca, które zobaczył. Oto na wyciągnięcie ręki miał przed sobą szczątki apostoła namaszczonego przez Chrystusa, Jego następcy na ziemi, Szymona Piotra – Skały. Wokół znajdowały się też kości pierwszych papieży.

Konstantyn Wielki czuł, że w miejscu, gdzie pochowano św. Piotra, wznieść trzeba kościół, który będzie trwałym pomnikiem. Wydał więc zgodę na rozpoczęcie budowy na cmentarzu i w niedługim czasie na wzgórzu watykańskim zaczęto wznosić świątynię ku czci św. Piotra, co czyniło ją bazyliką memorialną (ku czci zmarłego).

Budowa pięcionawowej świątyni trwała wiele lat. Najpierw wiele pracy wymagało zniwelowanie różnicy w poziomach gruntu, ponieważ konieczne było dosypanie kilkudziesięciu tysięcy ton ziemi. W pracach tych brał udział sam cesarz, który samodzielnie przeniósł 12 koszy ziemi – tyle, ilu było apostołów.

Dziejopis i zaufany Konstantyna, Euzebiusz z Cezarei, opisał, jak cesarz zatroszczył się o szczątki św. Piotra: imperator miał owinąć kości pierwszego papieża w drogocenną, purpurową szatę przetykaną złotymi nićmi (purpura zarezerwowana była tylko dla cesarskiego rodu) i złożył je w bogato zdobionym sarkofagu podczas uroczystej ceremonii.