נולד בירושלים בשנת 1937. לאחר שירותו הצבאי בנח"ל המוצנח גוייס עזרא לשב"כ בשנת 1962. הוא התקדם בשורות הארגון וכיהן בראש מרחבי ירושלים, יהודה ושומרון, עזה ולבנון. בתפקידו האחרון בשירות כיהן כסגן ראש השב"כ.
ב-1995 פרש מהשירות וכיהן כמנכ"ל חברת איתוראן, המייצרת מערכות איתור לרכב.
גדעון עזרא החל בלימודי תואר ראשון בגיאוגרפיה ובמדע המדינה, אך לאחר שנתיים הפסיק את לימודיו ולא השלים את התואר הראשון.
ב-1996 נבחר לכנסת מטעם הליכוד. במרץ 2001 מונה לסגן השר לביטחון הפנים בממשלתו הראשונה של שרון. לאחר בחירות 2003 מונה עזרא לשר במשרד ראש הממשלה ובאוגוסט 2004 קיבל את תיק התיירות בעקבות פרישת שרי האיחוד הלאומי מהממשלה. בספטמבר 2004 מונה עזרא לשר לביטחון הפנים לאחר שצחי הנגבי אולץ לעזוב את התפקיד עקב פתיחת חקירת משטרה נגדו בפרשת המינויים הפוליטיים.
עזרא תמך בתוכנית ההתנתקות של אריאל שרון והיה ממונה על פעולת המשטרה בעת פינוי ההתנחלויות. עזרא עזב את הליכוד בעקבותיו של אריאל שרון והצטרף למפלגתו החדשה קדימה.
עזרא נשוי ואב לשלושה.