בשנת 1988 נבחר ריבלין לכנסת ה-12 מטעם הליכוד לקדנציה אחת. בתקופה זו כיהן כחבר בוועדת הכנסת, ועדת החוץ והביטחון, ועדת חוקה חוק ומשפט, ועדה לענייני ביקורת המדינה, וועדה למאבק בנגע הסמים.
בספטמבר 1996 הצטרף ריבלין מחדש לכנסת במקום ח"כ אליהו בן-אלישר שמונה לשגריר בארה"ב. בכנסת זו כיהן כחבר בוועדת חוקה חוק ומשפט, ועדת החינוך והתרבות, ועדה לקידום מעמד האישה, ועדה למאבק בנגע הסמים, ועדה מיוחדת למינוי שופטים, וועדה מיוחדת לעניין לקחי אסון גשר המכביה.
בכנסת הנוכחית מכהן ריבלין כיו"ר סיעת הליכוד בכנסת, ומכהן כחבר בוועדת הכנסת, ועדה למאבק בנגע הסמים, ועדת חוקה חוק ומשפט, וועדת חקירה פרלמנטרית בעניין המצוקה הכספית המתמשכת של הרשויות המקומיות.