طبقاً لما روى فى أهم كتب التاريخ مثل «البداية والنهاية» لابن كثير، و«الكامل» فى التاريخ لابن الأثير، و«تاريخ الأمم والملوك» للطبرى، تعود نشأة الخوارج بشكل تنظيمى واضح كجماعات يقوم منهجها الفكرى على تكفير المخالفين لمعتقداتها، وإباحة الخروج على الحاكم، واستخدام السلاح فى مواجهة المسلمين، إلى واقعة التحكيم فى معركة صفين سنة 37 هجرياً، بين جيوش أمير المؤمنين على بن أبى طالب، وجيش الشام بقيادة معاوية بن أبى سفيان، على خلفية قضية القصاص من قتلة ثالث الخلفاء الراشدين عثمان بن عفان، رضى الله عنهم. ويروى أنه لما حاقت الهزيمة بجيش أهل الشام، اقترح عمرو بن العاص على معاوية دعوة رفع مصحف، ودعوة «على» للاحتكام إلى كتاب الله، مؤكداً أن علياً لن يرفض، وبالفعل رفع رجل مصحفاً كبيراً وهو يقول: بيننا وبينكم كتاب الله، مردداً قوله تعالى «أَلَمْ تَرَ إلى الَّذِينَ أُوتُوا نَصِيبًا مِّنَ الْكِتَابِ يُدْعَوْنَ إلى كِتَابِ اللَّهِ لِيَحْكُمَ بَيْنَهُمْ ثُمَّ يَتَوَلَّى فَرِيقٌ مِّنْهُمْ وَهُم مُّعْرِضُونَ». فاستجاب لذلك عدد كبير من أهل العراق من جيش على، خاصة ممن كانوا يسمون بالقراء، أى حفظة القرآن وقالوا: نجيب إلى كتاب الله وننيب إليه. وروى أن علياً قال لهم «عباد الله امضوا إلى حقكم وصدقكم وقتال عدوكم، فإن معاوية وعمرو بن العاص.. ليسا بأصحاب دين ولا قرآن، أنا أعرف بهما منكم، صحبتهما أطفالاً، وصحبتهما رجالاً، فكانا شر أطفال وشر رجال، ويحكم والله إنهم ما رفعوها إنهم يقرأونها ولا تعلمون بما فيها وما رفعوها إلا خديعة ودهاء ومكيدة». فرفضوا وقالوا ما يسعنا أن ندعى إلى كتاب الله فنأبى أن نقبله، فقال لهم على: إنى إنما أقاتلهم ليدينوا بحكم الكتاب فإنهم قد عصوا الله فيما أمرهم به، وتركوا عهده ونبذوا كتابه. ويروى أن مسعر بن فدكى التميمى وزيد بن حصين الطائى والسبائى ومعهم عصبة من القراء قالوا له «يا على أجب إلى كتاب الله إذ دعيت إليه وإلا دفعناك برمتك إلى القوم أو نفعل بك ما فعلنا بابن عفان، إنه غلبنا أن يعمل بكتاب الله فقتلناه، والله لتفعلنها أو لنفعلنها بك». فرد عليه قائلاً «فاحفظوا عنى نهيى إياكم واحفظوا مقالتكم لى، أما أنا فإن تطيعونى فقاتلوا، وإن تعصونى فاصنعوا ما بدا لكم». فرفض ذلك عمار وقاتل حتى قتل رحمه الله، وكذلك الأشتر الذى خاطبهم قائلاً: إن كان أول قتالكم هؤلاء حقاً فاستمروا عليه، وإن كان باطلاً فاشهدوا لقتلاكم بالنار، فقالوا: دعنا منك فإنا لا نطيعك ولا صاحبك أبداً، ونحن قاتلنا هؤلاء فى الله، وتركنا قتالهم لله، فقال لهم الأشتر: خدعتم والله فانخدعتم، ودعيتم إلى وضع الحرب فأجبتم، يا أصحاب السوء كنا نظن صلاتكم زهادة فى الدنيا وشوقاً إلى لقاء الله، فلا أرى فراركم إلا إلى الدنيا من الموت، يا أشباه النيب الجلالة ما أنتم بربانيين بعدها فابعدوا بعد القوم الظالمون»، فسبوه وسبهم فضربوا وجه دابته بسياطهم. وكانت المعركة قد شهدت مقتل سبعين ألفاً من الفريقين، قيل خمسة وأربعون ألفاً من أهل الشام، وخمسة وعشرون ألفاً من أهل العراق، وكان فى أهل العراق، خمسة وعشرون بدرياً، من الذين شهدوا معركة بدر، واستمرت حوالى سبعة وسبعين يوماً على أرجح الأقوال. وحمل البيهقى هذه الواقعة على حديث الرسول الله صلى الله عليه وسلم أنه قال: «لا تقوم الساعة حتى تقتتل فئتان عظيمتان دعوتهما واحدة فبينما هم كذلك مرق منهما مارقة تقتلهم أولى الطائفتين بالحق». وقال أيضاً عمر لابن عباس: كيف يختلفون وإلههم واحد وكتابهم واحد وملتهم واحدة؟ فقال: إنه سيجيء قوم لا يفهمون القرآن كما نفهمه، فيختلفون فيه فإذا اختلفوا فيه اقتتلوا. واتفق الفريقان بعد مكاتبات ومراجعات طويلة على التحكيم، وهو أن يحكم كل واحد من الأميرين -على ومعاوية- رجلاً من جهته، ثم يتفق الحكمان على ما فيه مصلحة للمسلمين. فوكل معاوية عمرو بن العاص، وأراد على أن يوكل عبدالله بن عباس، ولكن منعه القراء وقالوا: لا نرضى إلا بأبى موسى الأشعرى، قال على: فإنى أجعل الأشتر حكماً، فرفضوا وعرض الأحنف نفسه فرفضوا أيضاً وأصروا على أبى موسى الأشعرى، فذهبت الرسل إلى أبى موسى الأشعرى -وكان قد اعتزل- فلما قيل له إن الناس قد اصطلحوا قال: الحمد لله، قيل له: وقد جعلت حكماً، فقال: إنا لله وإنا إليه راجعون، ثم أخذوه حتى أحضروه إلى على رضى الله عنه. ثم كتبوا بينهم كتاباً، بسم الله الرحمن الرحيم هذا ما قاضى عليه على بن أبى طالب أمير المؤمنين، فقال عمرو بن العاص: اكتب اسمه واسم أبيه، هو أميركم وليس بأميرنا، فقال الأحنف: لا تكتب إلا أمير المؤمنين، فقال على: امح أمير المؤمنين واكتب هذا ما قاضى عليه على بن أبى طالب ثم استشهد على بقصة الحديبية حين امتنع أهل مكة هذا ما قاضى عليه محمد رسول الله، فامتنع المشركون من ذلك وقالوا: اكتب هذا ما قاضى عليه محمد بن عبدالله، فكتب الكاتب: هذا ما تقاضى عليه على بن أبى طالب ومعاوية بن أبى سفيان، قاضى علىّ على أهل العراق ومن معهم من شيعتهم والمسلمين، وقاضى معاوية على أهل الشام ومن كان معه من المؤمنين والمسلمين أنا ننزل عند حكم الله وكتابه ونحيى ما أحيى الله، ونميت ما أمات الله فما وجد الحكمان فى كتاب الله - وهما أبوموسى الأشعرى وعمرو بن العاص - عملاً به وما لم يجدا فى كتاب الله فالسنة العادلة الجامعة غير المتفرقة. ثم أخذ الحكمان من على ومعاوية العهود والمواثيق أنهما آمنان على أنفسهما وأهلهما، والأمة لهما أنصار على الذى يتقاضيان عليه، وعلى المؤمنين والمسلمين من الطائفتين كلتيهما عهد الله وميثاقه أنهما على ما فى هذه الصحيفة، وأجلا القضاء إلى رمضان وإن أحبا أن يؤخرا ذلك على تراض منهما، على أن يوافى على ومعاوية موضع الحكمين بدومة الجندل فى رمضان، ومع كل واحد من الحكمين أربعمائة من أصحابه، فإن لم يجتمعا لذلك اجتمعا من العام المقبل بأذرح، وخرج الأشعث بن قيس بذلك الكتاب يقرأه على الناس ويعرضه على الطائفتين، ثم شرع الناس فى دفن قتلاهم، وقيل إنه دُفن فى كل قبر خمسون نفساً.