רודולף ויליאם ג'וליאני נולד בברוקלין, נכד למהגרים איטלקיים. ב-1968 סיים את לימודיו בהצטיינות בבית הספר למשפטים של אוניברסיטת ניו יורק. ב-1970 הצטרף למשרד התובע המחוזי בדרום ניו יורק, שם קודם לאחראי על יחידת הסמים. ב-1975 זומן לוושינגטון ומונה לאחד מסגני התובע הכללי וראש המטה של סגן התובע הכללי. לאחר חילופי השלטון נאלצו בכירים רפובליקנים, וג'וליאני ביניהם, לעזוב את וושינגטון והוא הצטרף למשרד עורכי הדין פטרסון, בלקנפ, ווב וטיילר.
ב-1981 שב ג'וליאני לשירות הציבורי ומונה לסגן התובע הכללי. ב-1983 מונה לתובע המחוזי של דרום ניו יורק. ב-1989 התמודד לראשונה על ראשות עיריית ניו יורק והפסיד למועמד הדמוקרטי דיוויד דינקינס. ב-1993 זכה בבחירות, וב-1997 נבחר שוב לתפקיד.
ג'וליאני נהג ביד קשה בפשע בעיר, ובזמן כהונתו ירד היקף הפשיעה בעשרות אחוזים. עם זאת מבקריו טוענים כי ההצלחה נבעה מאלימות משטרתית ומהפרה של זכויות אזרח.
באפריל 2000 הודיע ג'וליאני בפומבי כי הוא חולה בסרטן. זמן קצר לאחר מכן חזר בו מכוונתו להתמודד על כהונת סנאטור מטעם מדינת ניו יורק.
ג'וליאני גרוש בשנית, ואב לשניים.