אביגדור קהלני נולד בשנת 1944 בישראל. בשנת 1962 התגייס לצה"ל, הוצב בחיל השריון ומילא שורה של תפקידי פיקוד בחטיבת השריון הסדירה 7. במלחמת ששת הימים פיקד על פלוגת טנקים בגדוד 79 ולחם בקרב ההבקעה מול הצבא המצרי בגזרת רפיח-אל-עריש. הוא נפצע במהלכו באורח קשה וקיבל על תפקודו בקרב ציון לשבח שהומר לעיטור המופת. לאחר התאוששותו עמד בשנים 1970-1968 בראש מדור תותחנות בבית הספר לשריון ולאחר מכן למד במכללה הבין זרועית לפיקוד ומטה (פו"ם).
בתום לימודיו התמנה לסגן מפקד גדוד טנקים 77 בחטיבה 7 ובשנת 1973 היה למפקדו. במהלך כהונתו פרצה מלחמת יום הכיפורים והגדוד מילא תפקיד מכריע בבלימת הסורים בגזרה הצפונית של רמת הגולן. בקרב עמק הבכא שנערך בפתחת קוניטרה, השמיד הגדוד בפיקודו עשרות טנקים סוריים על אף יחס כוחות נחות וסלל בכך את הדרך להעברת הלחימה לשטח האויב. בהמשך הוביל את הגדוד בהבקעה לגולן הסורי, לחם בקרב לכיבוש מזרעת בית ג'ן והדף שורה של התקפות סוריות בגזרה זו. על תפקודו במלחמה ובפרט בקרבות הבלימה קיבל את עיטור הגבורה.
לאחר המלחמה שימש כסגן מפקד בית הספר לשריון ובשנת 1975 פיקד על מתקן האימונים של גייסות השריון בצאלים. בשנים 1977-1975 פיקד על חטיבה 7 ובשנים 1978-1977 שימש כסגן מפקד אוגדת השריון במילואים 131. בשנים 1979-1978 שהה בלימודים במסגרת הצבא האמריקני.
בשנת 1979 שימש תקופה קצרה כסגן מפקד אוגדת השריון במילואים 49 ובשנים 1981-1980 היה למפקדה בדרגת תת אלוף. בשנים 1982-1981 פיקד על אוגדת השריון הסדירה 36, שהייתה כפופה לפיקוד הצפון. במהלך כהונתו פרצה מלחמת שלום הגליל והוא הוביל את האוגדה תחילה בלחימה ברמת נבטיה, בהמשך בקרבות לאורך ציר החוף הלבנוני ולבסוף במצור על ביירות. בתום תפקידו למד במכללה לביטחון לאומי (מב"ל) ובשנים 1986-1983 פיקד על פו"ם.
בשנים 1988-1986 שימש כסגן מפקד המפח"ש ובשנת 1989 השתחרר משירות קבע בצה"ל. בשנים 1996-1992 היה חבר ועדת חוץ וביטחון של הכנסת ובשנים 1999-1996 שימש כשר לביטחון פנים. בשנים 2007-2004 עמד בראש האגף הביטחוני חברתי במשרד הביטחון.