در شهریور ۱۳۲۴ همزمان با نآرامی‌های ناشی از ادامه اشغال آذربایجان، ناچار به ترک خوی شد و به تهران آمد و دو سال اول را با سختی در تهران زندگی کرد و به نوشتن مقاله در نشریه‌های علمی و ادبی پرداخت تا اینکه به کار در کتابخانه مجلس شورای ملی مشغول شد. همزمان دوره لیسانس را در دانشکده معقول و منقول (الهیات) دانشگاه تهران گذراند. در کتابخانه مجلس شورای ملی بود که با سیدحسن تقی‌زاده آشنا شد و مورد توجه خاص او قرار گرفت. این‌گونه بود که پس از تاسیس مجلس سنا و انتخاب تقی‌زاده به ریاست آن در سال ۱۳۲۸ و تاسیس کتابخانه مجلس سنا، محل خدمت عباس زریاب‌خویی به این کتابخانه منتقل شد و چندی بعد به‌عنوان مدیر کتابخانه مجلس سنا معرفی شد.

در سال ۱۳۳۴ بورس مطالعاتی بنیاد هومبولت در آلمان غربی (بنابر معرفی سیدحسن تقی‌زاده) در اختیار عباس زریاب‌خویی قرار گرفت. عباس زریاب خویی به مدت پنج سال در شهرهای ماینز و فرانکفورت و مونیخ به تحصیل و مطالعه در رشته‌های تاریخ، علوم و معارف اسلامی، فلسفه و فرهنگ تطبیقی پرداخت. در سال ۱۳۳۹ از دانشگاه یوهانس گوتنبرگ شهر ماینز در رشته‌های تاریخ و فلسفه درجه دکترای گرفت. عنوان رساله دکترای او «گزارش درباره جانشینان تیمور برگرفته از کتاب تاریخ کبیر جعفری» تالیف ابن محمد حسینی بود که زیر نظر هانس روبرت رویمر و پرفسور شل از ایران‌شناسان مشهور آلمانی تهیه شد.

دکتر عباس زریاب‌خویی در سال ۱۳۳۹ به تهران بازگشت و مجددا در کتابخانه مجلس سنا مشغول به کار شد. در سال ۱۳۴۱ به دعوت والتر هنینگ که آن زمان کرسی استادی در دانشگاه برکلی کالیفرنیا داشت به برکلی رفت و دو سال در آن دانشگاه به تدریس زبان و ادبیات فارسی مشغول بود. با اینکه هنینگ پست دائمی در دانشگاه برکلی برای زریاب درنظر گرفته بود او ترجیح داد به ایران بازگردد و دانسته‌ها و تجربه‌های خود را در اختیار دانشجویان ایرانی بگذارد. دکتر عباس زریاب از سال ۱۳۴۴ استاد تاریخ در دانشکده ادبیات دانشگاه تهران بود و از آنجا که در رشته‌های دیگر مانند ادبیات فارسی، ادبیات عرب، فلسفه، زبان‌شناسی و معارف اسلامی صاحب‌نظر بود، تا سال ۱۳۵۷ که در دانشگاه تهران اشتغال داشت، در اغلب این رشته‌ها تدریس و سخنرانی می‌کرد. از آثار تالیفی او می‌توان به «اطلس تاریخی ایران»، «تاریخ ساسانیان»، «بزم‌آورد؛ شصت مقاله درباره تاریخ، فرهنگ و فلسفه» و نیز ترجمه کتاب‌های مهمی مانند «تاریخ فلسفه، ویل دورانت»، «لذات فلسفه، ویل دورانت»، «تاریخ ایرانیان و عرب‌ها در زمان ساسانیان» اشاره کرد. این مورخ برجسته ۱۴ بهمن ۱۳۷۳ در تهران چشم بر جهان فروبست.