وهو أعزب ومتعطش للقراءة ودارس للتاريخ العسكري، ما جعله يحصل على لقب "المحارب الراهب". الدراسة والتكويندرس ماتيس بجامعة كولومبيا، وتخرج فيها عام 1968. كما درس التاريخ وحصل على شهادة الآداب في التاريخ من جامعة واشنطن. التجربة العسكريةبدأ ماتيس مساره العسكري في قوات المارينز وعمره لما يتجاوز 19.

خدم طوال حياته داخل الجيش، وترقى في المناصب حتى أصبح رئيسا للقيادة المركزية برتبة جنرال، قبل أن يعين وزيرا للدفاع عام 2016. قاد عدة وحدات عسكرية في مناطق متعددة من العالم، لكن عام 1991 شكل نقلة فاصلة في حياة ماتيس عندما شارك في الحرب ضد العراق قائدا للقوات القتالية. كما شارك ماتيس في غزو أفغانستان عام 2001 حيث تم قصف القرى والمدن بمختلف أنواع الأسلحة، ما خلف مقتل وجرح الآلاف.

وعام 2003 كان ماتيس من الذين شاركوا في غزو العراق وإسقاط نظام صدام حسين.وعرف بقيادته للقوات الأميركية والبريطانية التي هاجمت الفلوجة عام 2004 لدفع المقاومة بها للاستسلام، بينما وصفت بأنها "حرب إبادة" تعرضت لها المدينة. وعلى إثر تلك المعركة حمل ماتيس لقب "الكلب المسعور". وخلال المعارك بالعراق، ترسخ هذا اللقب بقرارات اتخذها ماتيس وصفت بالدموية، بينها إصداره أمرا بقصف منزل بقرية عراقية يضم "مشتبها به" ليتبين بعدها أن البيت كان به حفل زفاف، وقد أسفر القصف عن مقتل 42 شخصا بينهم نساء وأطفال.

ونقلت عنه وسائل إعلام قوله إن مناقشة قصف المنزل من عدمه تطلبت منه ثلاثين ثانية فقط. كما عرف ماتيس بتصريحاته المثيرة التي تجد لها صدى وسط الجنود الأميركيين، بينها مثلا ما أعلنه عام 2005 في حلقة نقاش حول حركة طالبان أنه "من الممتع إطلاق النار على الناس". غير أنه حاول لاحقا التخفيف من حدة تصريحاته لتجنب ردود الفعل الشعبية الغاضبة، حيث حذر من قتل المدنيين، موضحا أن ضبط النفس أثناء الحروب يفوت الفرصة على المتطرفين مثل تنظيم القاعدة.

عين عام 2007 رئيسا لقيادة القوات المشتركة الأميركية، ثم اختير لاحقا عام 2010 رئيسا للقيادة العسكرية الوس