קולין לות'ר פאוול נולד למהגרים מג'מייקה, וגדל בהארלם ובברונקס בניו-יורק. בעת לימודיו בקולג' הצטרף לעתודה האמריקאית. הוא לחם כחייל וכמפקד בקוריאה, והתקדם בשורות הפיקוד, כמפקד הבריגדה השניה, חטיבת הרגלים הרביעית ומפקד הגיס החמישי. במקביל, מונה למספר תפקידים בבית הלבן, כעוזר צבאי במשרד ההגנה.
בשנת 1987 מונה ליועץ לביטחון לאומי לנשיא רולנד רייגן. פאוול היה האפרו-אמריקאי הראשון שמונה לתפקיד זה. בינואר 1989 מונה למפקד כוחות היבשה, ותשעה חודשים מאוחר יותר מונה לרמטכ"ל צבא ארה"ב. גם בתפקיד זה היה פאוול המינוי האפרו-אמריקאי הראשון. בתפקידו פיקד בין השאר על מבצע "סופה במדבר", לאחר פלישת עירק לכווית. פאוול כיהן בתפקיד עד ספטמבר 1993, ופנה לפעילות התנדבותית.
בינואר 2001 מינה אותו הנשיא ג'ורג' בוש הבן למזכיר המדינה.
פאוול נשוי ואב לשלושה.