Mellby kyrka är en medeltida stenkyrka uppförd i tuktad gråsten med timrade spånklädda gavlar. Takstolarna är uppförda av timmer som fällts vid två tillfällen; 1290-talet och 1340-talet. Fristående klockstapel är byggd 1673.
1916 byttes den gamla orgeln av Sven Nordström ut mot en ny från firman Setterqvist & son i Örebro. Orgelfasaden från 1844 behölls dock, och ändrades i bara liten omfattning.
Kyrkorummet är försett med medeltida platt innertak rikt dekorerat 1719 av Olof Raam från Eksjö. De består av elva figurscener i åttakantiga kassettfält.
Mellby kyrka har i hög grad behållit sin ursprungliga prägel. Bland inventarierna märks främst altarskåpet av tyskt ursprung från tidigt 1500- tal och en medeltida mässhake.