وأصبح وجود جماعة مسلحة قرب طرق الكوفة خطرا على حركة الجند وعلى الأمن بين العراق والمواضع الشرقية، كما صار على علي أن يقرر هل يتوجه إلى معاو ية و يترك الخوارج خلفه، أم يعالج الاضطراب الداخلي قبل استئناف الحرب مع الشام. وتذكر الروايات أن أصحابه رأوا أن يبدأ بمعاو ية، لكن الأخبار التي ربطت الخوارج بالقتل والاعتراض جعلت بقاءهم تهديدا لا يمكن تجاهله، فتهيأ الخليفة للتحرك نحو النهروان.
وكان علي قد أرسل إليهم من يدعوهم إلى الرجوع و يعرض عليهم الأمان، وتذكر الأخبار رسائل وخطبا ولقاءات متعددة، كما تذكر أن جماعة منهم رجعت أو انفصلت عن القيادة المتشددة. وتختلف في عدد الذين رجعوا وفي زمن الرجوع وفي أسماء الوسطاء، لكن أصل عرض الأمان والتمييز بين من لم يقاتل ومن أصر على القتال حاضر في الروايات، وهو ما يفسر قلة من بقي في الميدان مقارنة بالأعداد التي تذكرها أخبار خروجهم الأول.
وتذكر بعض المصادر إرسال ابن عباس أو مجيئه إلى الخوارج، كما تذكر حوارا حول التحكيم والقصاص والقرآن وحكم الرجال، ثم رجوع أفراد أو جماعات بعد المناقشة. ولا يثبت عدد محدد للراجعين، لأن الأرقام في هذا الباب اتصلت بمقاصد الرواية في مدح الحجة أو وصف شدة الفرقة، لكن الحوار يبين أن عليا لم يقطع باب الرجوع قبل القتال.
وكان الخارجون يتفرقون في موقفهم؛ فمنهم من عاد إلى الكوفة أو اعتزل، ومنهم من بقي في النهروان مع عبد الله بن وهب الراسبي، ومنهم من رأى أن القتال لا يبدأ إلا بعد دعوة أو إنذار. وتذكر الروايات حرقوص بن زهير وشبث بن ربعي وأسماء أخرى في صفوف القادة