על פי המסורת היהודית, תקופת הזוגות נמשכה כמאתיים שנה בימי הבית השני (במאות הראשונה והשנייה לפנה"ס) בתקופה זו ההנהגה הרוחנית של עם ישראל הורכבה מזוג חכמים שכיהנו במשותף כראשי הדור: אחד כנשיא, ומשנהו כאב בית הדין של הסנהדרין. במהלך התקופה כיהנו בתפקיד חמישה זוגות של תנאים בחמישה דורות עוקבים.
כותב הרמב"ם: "סנהדרי גדולה ומניינם שבעים ואחד ..ואחד הגדול בחכמה שבכולן מושיבין אותו ראש עליהן והוא ראש הישיבה והוא שקורין אותו החכמים נשיא בכל מקום והוא העומד תחת משה רבינו ומושיבין הגדול שבשבעים משנה לראש ויושב מימינו והוא הנקרא אב בית דין ".
בספר דורות ראשונים מציע המחבר, רב אייזיק הלוי, כי בתחילה היה בראש הסנהדרין רק אב בית דין, והכהן הגדול שימש כמייצג הסנהדרין כלפי העם והשלטונות, אך בזמנו של הכהן הגדול חוניו השני העביר מלך מצרים חלק מסמכויותיו של הכהן הגדול לאחיינו יוסף בן טוביה החוכר. ומכיוון שהוא הוביל מדיניות של התייוונות, הסנהדרין הגיעה למסקנה שהוא לא ראוי להחליף את הכהן הגדול בסמכויותיו בסנהדרין ובחרו מתוכם נשיא, ולכן מאז הונהגה הסנהדרין בידי נשיא ואב בית דין במשותף.
עם עזיבתה של הסנהדרין את לשכת הגזית, 40 שנה לפני חורבן הבית, ירד מעמדו של אב בית הדין. מכאן ואילך עמד הנשיא בלבד בראש חכמי התורה. בזה תמה תקופת הזוגות והחלה תקופת התנאים.
על פי המשנה במסכת חגיגה נראה כי הזוגות נחלקו במחלוקת הראשונה בתולדות ההלכה: מחלוקת הסמיכה (השאלה האם מביא הקורבן סומך ידו על הקורבן ביום טוב )
"יוסי בן יועזר אומר שלא לסמוך, יוסי בן יוחנן אומר לסמוך.
יהושע בן פרחיה אומר שלא לסמוך, נתאי הארבלי אומר לסמוך.
יהודה בן טבאי אומר שלא לסמוך, שמעון בן שטח אומר לסמוך.
שמעיה אומר לסמוך. אבטליון אומר שלא לסמוך.
…. שמאי אומר שלא לסמוך, הלל אומר לסמוך.
הראשונים היו נשיאים, ושניים להם אבות בית דין"
מחלוקת זו לא הוכרעה במשך כמה דורות, כאשר בכל דור נחלקו ביניהם הנשיא ואב בית הדין של אותו דור. לדעת הרב מרגליות לנשיא ולאב בית דין הייתה "זכות וטו" על ההצבעה, ומכיוון שנחלקו בה הנשיאים עם אבות בתי הדין – לא הושגה הכרעה.
