अनंत सिंह से मोर्चा लेने के लिए विवेका पहलवान ने अपना एक गैंग बनाया था. पैसों का जुगाड़ कर के उस ने प्रतिबंधित 2 एके 47 राइफलें खरीदी थीं.
29 नवंबर, 1995 को अनंत सिंह के ऊपर विवेका ने ताबड़तोड़ गोलियां बरसाई थीं. इस के बाद विवेका पहलवान ने अनंत सिंह के बड़े भाई फाजो सिंह, उन का मुकदमा लडऩे वाले अधिवक्ता जालेश्वर शर्मा और खास शूटर राजीव सिंह को मौत के घाट उतार दिया था.
भाई की मौत ने अनंत सिंह को तोड़ कर रख दिया था. जून, 2004 में विवेका पहलवान ने एक बार फिर अनंत सिंह पर एके 47 से लदमा में हमला किया था, जिस में अनंत सिंह बुरी तरह घायल हो गए थे. काफी इलाज के बाद अनंत सिंह बच गए. उन के बयान के आधार पर बाढ़ पुलिस ने विवेका पहलवान के खिलाफ हत्या के प्रयास का मुकदमा दर्ज कर के उसे गिरफ्तार कर लिया और जेल भेज दिया.
इलाज के बाद कई मामलों में वांछित चल रहे अनंत सिंह को पुलिस ने गिरफ्तार कर के जेल भेज दिया था. उन दिनों बिहार में राबड़ी देवी की सरकार थी. अनंत सिंह के कारनामों से बिहार सरकार की खूब छीछालेदर हुई थी, इसलिए राबड़ी देवी सरकार ने अनंत सिंह पर सीसीए (क्राइम कंट्रोल एक्ट) लगाने की सिफारिश पटना उच्च न्यायालय से की थी. लेकिन उच्च न्यायालय ने सरकार की इस सिफारिश को नामंजूर कर दिया था.
करीब डेढ़ साल बाद फरवरी, 2005 में अनंत सिंह जमानत पर रिहा हो कर जेल से बाहर आए. उस समय विधानसभा के चुनाव होने वाले थे. जनता दल (युनाइटेड) के नेता और मुख्यमंत्री नितीश कुमार ने अनंत सिंह को अपनी पार्टी में शामिल ही नहीं किया, बल्कि मोकामा से टिकट भी दे दिया. अनंत सिंह चुनाव जीत गए. इस तरह बाहुबली अनंत सिंह सम्माननीय बन कर विधानसभा पहुंच गए. सत्ता की ताकत हाथ में आते ही विधायक अनंत सिंह और खतरनाक हो गए. उन का सीधा दखल नितीश कुमार सरकार में था. इस के बाद उन्हें छोटे सरकार के नाम से जाना जाने लगा.