אילון התגייס לצה"ל בשנת 1963 והתנדב לשייטת. במלחמת ששת הימים השתתף כלוחם בשייטת בים האדום. לאחר המלחמה התקדם אילון במסלול הקצונה בחיל הים.
במהלך מלחמת ההתשה השתתף כלוחם בפעולות רבות מעבר לקווי האויב. ביוני 1969 השתתף בפשיטה על האי גרין בצפון מפרץ סואץ, לחיסול עמדות תותחנים ומכ"ם בבסיס המצרי באי. על פועלו בפשיטה זכה אילון בעיטור הגבורה.
בזמן מלחמת בלנון שהה בלימודים בארה"ב, אך שב לישראל והשתתף במלחמה.
במהלך שירותו בחיל הים כיהן כמפקד השייטת, מפקד בסיסי אשדוד וחיפה של חיל הים וסגן מפקד חיל הים. תחת פיקודו זכתה השייטת בצל"ש הרמטכ"ל.
ביולי 1992 מונה למפקד חיל הים, תפקיד בו כיהן ארבע שנים, עד ינואר 1996.