Masuk Masjid Dan Mendapati Jamaah Shalat Sedang Tasyahud, Apakah Dia Harus Menunggu Atau Langsung Mengikuti Jamaah?

Saya punya masalah, yaitu pernah sekali saya pergi ke masjid untuk salat Asar, ketika itu saya mendapati jamaah salat telah selesai mengerjakan tiga rakaat dan mereka sedang sujud (rakaat keempat), apakah saya langsung mengikuti mereka atau menunggu sampai selesai?