إنظم رءوف عباس إلى عضوية الجمعية المصرية للدراسات التاريخية فى عام 1966 أثناء دراسته فى مرحلة الدكتوراه وشارك فى أنشطتها العلمية منذ ذلك الوقت.  فقد ساهم فى إعداد بيبلوجرافيا عن رسائل الماجستير والدكتوراه التى أجازتها جامعة القاهرة منذ بداية الدراسات العليا فيها.  وألقى فيها أول محاضرة عامة فى حياته أمام جمهور من كبار الأساتذة.

وتم إنتخابه لعضوية مجلس إدارة الجمعية للمرة الأولى عام 1979 وإستمر فى عضويته فى عدة مناصب منها الأمين العام وأمين الصندوق ونائب الرئيس.  وفى خلال الثمانينات والتسعينات مرت الجمعية بأزمات مالية وإدارية تسببت فى تدهور نشاطها العلمى وفى تعرض الجمعية لفقد مقرها المستأجر.  وعند تولى الدكتور رءوف عباس رئاسة مجلس إدارة الجمعية فى عام 1999 وجَه وزملائه جهدهم لإيجاد مصادر لتمويل الجمعية وكللت جهودهم بالنجاح.  فقد قدم عدد من رجال الأعمال المصريين مساهمات مادية وتبرع حاكم إمارة الشارقة للجمعية بمقر صارت تمتلكه بحى مدينة نصر فى القاهرة.  وإلى جانب تحسن الإمكانيات المادية للجمعية فقد توسع النشاط العلمى للجمعية من خلال الموسم الثقافى السنوى وإعداد الندوات وعقد السمنارات.  فكانت فترة رئاسته للجمعية بمثابة ميلاد جديد لها حيث صارت تقوم بنشاطا غير مسبوق فى تاريخها كما وكيفا منذ تأسيسها عام 1945.