1849 में तभी से वे ब्रिटिश ईस्ट इंडिया कंपनी की सेना में शामिल हुए और मंगल बैरकपुर की सैनिक छावनी में “34 वीं बंगाल नेटिव इन्फैंट्री” की पैदल सेना में एक सिपाही रहे।
ईस्ट इंडिया कंपनी की स्वार्थी नीतियों के कारण मंगल पांडे के मन में अंग्रेजी हुकुमत के प्रति पहले ही नफरत थी। जब कंपनी की सेना की बंगाल इकाई में ‘एनफील्ड पी.53’ राइफल में नई कारतूसों का इस्तेमाल शुरू हुआ तो इन कारतूसों को बंदूक में डालने से पहले मुंह से खोलना पड़ता था। सैनिकों के बीच ऐसी खबर फैल गई कि इन कारतूसों को बनाने में गाय तथा सूअर की चर्बी का प्रयोग किया जाता है जो कि हिन्दू और मुसलमानों दोनों के लिए गंभीर और धार्मिक विषय था।
इस अफवाह ने सैनिकों के मन में अंग्रेजी सेना के विरूद्ध आक्रोश पैदा कर दिया। इसके बाद 9 फरवरी 1857 को जब यह कारतूा देशी पैदल सेना को बांटा गया तब मंगल पाण्डेय ने उसे न लेने को लेकर विद्रोह जता दिया। इस बात से गुस्साए अंग्रेजल अफसर द्वारा मंगल पांडे से उनके हथियार छीन लेने और वर्दी उतरवाने क का आदेश दिया जिसे मानने से मंगल पांडे ने इनकार कर दिया। मंगल पांडे ने राइफल छीनने के लिए आगे बढ़ने वाले अंग्रेज अफसर मेजर ह्यूसन पर आक्रमण कर दिया। मंगल पांडेय ने बैरकपुर छावनी में 29 मार्च 1857 को अंग्रेजों के विरुद्ध विद्रोह का बिगुल बजा दिया।
इतना ही नहीं मंगल पांडे ने रायफल से उस अंग्रेज अधिकारी मेजर ह्यूसन को मौत के घाट उतार दिया। इसके बाद पांडे ने उनके रास्ते में आए एक और अंग्रेज अधिकारी लेफ्टिनेंट बॉब को भी मौत के घात उतार दिया। इस घटना के बाद उन्हें अंग्रेज सिपाहियों द्वारा गिरफ्तार किया गया और उन पर कोर्ट मार्शल द्वारा मुकदमा चलाकर 6 अप्रैल 1857 को फांसी की सजा सुना दी गई।
फैसले के अनुसार उन्हें 18 अप्रैल 1857 को फांसी दी जानी थी, लेकिन अंग्रेजों द्वारा मंगल पांडे को दस दिन पूर्व ही 8 अप्रैल सन् 1857 को फांसी दे दी गई।
मंगल द्वारा विद्रोह किए जाने के एक महीने बाद ही 10 मई को मेरठ की सैनिक छावनी में भी बगावत हुई और यह विद्रोह देखते-देखते पूरे उत्तर भारत में फैल गया।
मंगल पांडे की शहादत की खबर फैलते ही अंग्रेजों के खिलाफ जगह-जगह संघर्ष भड़क उठा। हालांकि अंग्रेज इसे काबू करने में कामयाब रहे लेकिन मंगल पांडे द्वारा लगाई गई यह चिंगारी ही आजादी की लड़ाई का मूल बीज साबित हुई।
यह विद्रोह ही भारत का प्राथम स्वतंत्रता संग्राम था, जिसमें सिर्फ सैनिक ही नहीं, राजा-रजवाड़े, किसान, मजदूर एवं अन्य सभी सामान्य लोग शामिल हुए। इस विद्रोह के बाद भारत पर राज्य करने का अंग्रेजों का सपना उन्हें कमजोर होता साबित हुआ।