ولد علي محسن صالح الأحمر، في قرية بيت الأحمر بمديرية سنحان مسقط رأس صالح، الواقعة جنوب العاصمة صنعاء، عام 1945، التحق بالجيش اليمني عام 1961، في السرية الرابعة، وفي عام 1968 رُقِّيَ من جندي إلى رتبة ملازم أول، ثمّ التحق بالكلية الحربية اليمنية عام 1971، وحصل منها على شهادة البكالوريوس في العلوم العسكرية عام 1974، وعقب حصوله على تلك الشهادة رُقّيَ إلى رتبة نقيب والتحق بمعهد الثلايا في تعز، فحصل على شهادة قادة كتائب، كما حصل على زمالة الدكتوراه من أكاديمية ناصر العسكرية العليا في القاهرة سنة 1986، وظل يترقى حتى وصل إلى رتبة لواء ركن. عمل قائد سرية مشاة في معسكر المغاوير، ثم قائد سرية دبابات في اللواء الأول مدرع، ثم قائد كتيبة دبابات مستقلة في الكتيبة الرابعة، ثم أركان حرب اللواء أول مدرع، وبعد إنشاء الفرقة الأولى مدرع عمل أركان حرب لهذه الفرقة، وقائد اللواء الأول فيها، ثم عُين قائداً للمنطقة العسكرية الشمالية الغربية، وقائداً للفرقة الأولى مدرع.
رغم أنه كان الذراع اليمنى للمخلوع، والرجل الثاني خلال حكم صالح، إلا انه انشق عنه في مارس 2011، عقب حادثة جمعة الكرامة الدائمة في إطار احتجاجات إطار «الربيع العربي»، وأعلن تأييده ثورة الشباب «11 فبراير».
واستمر في منصبه قائداً للفرقة الأولى مدرع والمنطقة العسكرية الشمالية الغربية لأكثر من 35 عاماً، خاض خلالها ست حروب ضد الانقلابيين، قبل أن يتم تعيينه مستشاراً لرئيس الجمهورية لشؤون الدفاع والأمن في عام 2013، وعقب سيطرة الانقلابيين على صنعاء، غادر الأحمر البلاد إلى السعودية.