وكان عبد الله بن الزبير قد اتخذ مكة مقاما له منذ رفض بيعة يزيد، فوجد في الحرم حماية دينية وسياسية، وفي صلته بقريش وبأهل الحجاز أساسا لجمع الأنصار، ولم يكن وجوده في مكة في بدايته إعلانا مكتملا لخلافة عامة، بل كان إقامة معارضة تنتظر تغير ميزان القوة. وكانت مكة تختلف عن الكوفة في بنيتها وموقعها، إذ اجتمع فيها الحجاج والقبائل وأبناء الصحابة، وكان خبرها ينتشر إلى الأمصار بسرعة.
وكان خروج ابن الزبير من المدينة إلى مكة مرتبطا برفض البيعة وبالخوف من إجباره عليها، وتختلف الروايات في تفاصيل خروجه وفي الرسائل التي تلقاها من يزيد وفي مقدار ما بذلته دمشق لاحتوائه. ولم يكن ابن الزبير والحسين على طريق واحد، فاشتركا في عدم التسليم ليزيد، ثم اختار الحسين العراق استجابة لرسائل الكوفة، بينما بقي ابن الزبير في الحجاز وبنى معارضته من مكة، ولذلك لا تختزل العلاقة بينهما في منافسة شخصية ولا في تحالف كامل.
وكان ابن الزبير يتصل بأهل مكة والطائف وبقبائل الحجاز، ويستفيد من صلاته بأبناء المهاجرين والأنصار ومن مكانة أبيه الزبير بن العوام وأمه أسماء بنت أبي بكر، كما كان يستند إلى صورة الرجل الذي يحتمي بالبيت و يعارض سلطة دمشق. وتختلف الأخبار في عدد أنصاره وفي تنظيمهم وفي مقدار المال والسلاح الذي توفر لهم، لكن المعارضة لم تكن مجرد جماعة من أهل مكة، بل اتصلت برجال من الحجاز وبمن قدم من الأمصار.
وكانت سلطة يزيد في الحجاز ممثلة بولاة وموظفين يتغيرون بحسب الأزمة، وتذكر الروايات مراسلات ومحاولات سلمية لاستعادة ابن الزبير إلى الطاعة أو حمله على الدخول في بيعة،