I åtminstone nio århundraden har det funnits en kristen församling i Långaryd, för redan år 1157 omnämnde påven Alexander III att ”Langaryhs” kyrka hade renoverats. Denna första kyrka var antagligen en stavkyrka, som år 1303 ersattes av en stenkyrka, från vilken det finns murrester kvar under den nuvarande kyrkan.
1487-1488 byggdes en ny kyrka. Denna kyrka kom att tjänstgöra som församlingens kyrka fram tills den nuvarande byggdes. Då hade den bränts av danska krigshärar två gånger, 1563 och 1644. Vid det senare tillfället behandlades kyrkoherden Truls Skarp så illa av danskarna att han senare avled. Kyrkan byggdes till i omgångar, den första gången under Ambjörn Lindelius tid som kyrkoherde i Långaryd. Kyrkoherde Lindelius var även värd för drottning Kristina när hon år 1654, efter sin abdikation, reste till Rom.
På 1750-talet renoverades kyrkan och byggdes till igen. Efter renoveringen förföll kyrkan och redan på 1780-talet började man tala om att bygga en ny. Inget hände dock, förrän Samuel Adelin blev kyrkoherde i församlingen år 1797. Tio år senare kom bygget igång på allvar och den nya kyrkan murades upp runt den gamla, som revs 1809. År 1810 fick häradssnickaren Israel Kramp i uppdrag att göra kyrkans inredning, som från början skulle fått en helt annorlunda utformning i storstilad nyklassicism. På överintendentämbetets ritningar har kyrkan till exempel läktare längs båda långsidorna. Inredningen blev visserligen ändå i nyklassicism, men istället en enklare, kanske vackrare, form av stilen. Kyrkan är en så kallad tegnérlada, även om inte biskop Esaias Tegnér hade tillträtt ännu då den invigdes den 21 augusti 1816.
Sedan dess har kyrkan renoverats fyra gånger: 1899 – då predikstolen fick sin lite ovanliga placering på sydväggen, 1933 – då absidmålningen och altartavlan kom till, 1966 och slutligen 1994 – då rummen under läktaren byggdes och kyrkan fick sin nuvarande färgsättning, som inspirerats av färgerna på dörren till predikstolen.
Dopfunten i Långaryds kyrka är en barockpjäs i mässing, tillverkad år 1702 i Norrköping. Församlingen har även en äldre stendopfunt från 1500- eller 1600-talet, men den lånades under 1800-talet ut till Färgaryds kyrka. Och där står den än.
Nästan lika gammal som dopfunten är den gamla altartavlan som i modifierat skick nu hänger på kyrkans norrvägg. Den gamla altartavlan är tillverkad år 1704 av Hans Hultman och var ursprungligen komponerad runt ett fönster i den gamla kyrkan. Sedan hängde den på sin nuvarande plats i många år, plockades ned och plockades fram på nytt 1899 då den byggdes om och tjänstgjorde till 1933 som altartavla. Man antar att den gamla altartavlan ursprungligen krönts av Karl XII:s namnchiffer, vilket har inspirerat till att sätta ett likadant över den vänstra dörren i korskranket. Korskranket i sig anses vara unikt i Sverige och riksantikvarieämbetet har därför beslutat att det måste bevaras.
Till de gamla altarprydnaderna hör även den stora sol som nu hänger på kyrkans sydvägg. Ursprungligen har den hängt i absidvalvet. Triangeln i mitten symboliserar treenigheten och ”krumelurerna” inuti är gudsnamnet Jahve skrivet på hebreiska.
Den nuvarande altartavlan är utförd i marmorstuck av skulptören Nils Engberg år 1933 och föreställer Jesus på korset. Den är inspirerad av medeltida altarskåp, med ett större mittparti och två ”dörrar”. Till altaruppsatsen hör även absidmålningen som utförts av konstnärerna Ambe och Hjelm på Ateljé Punkten 1933. Målningen föreställer Kristi himmelsfärd med en svävande Kristus omgiven av elva apostlar (Judas hade ju tagit livet av sig). Själva altaret är tillverkat i ek av Gunnar Karlsson, Allbo.
Långaryds predikstol är från 1756 och tillverkad av Sven Segerwall i Växjö. Den pryds av de fyra evangelisterna med Kristus i mitten. Över Jesus står det J. C. S. M. vilket betyder Jesus Christus Salvator Mundi (Jesus Kristus världens frälsare). I baldakinen ovanför hänger Andens duva och ovanpå finns symboler för tro, hopp och kärlek och sköldar med gudsnamnet på hebreiska, initialerna AF (kung Adolf Fredrik) och LU (drottning Lovisa Ulrika) och bibelord. Dessutom finns en skulptur föreställande Kristus med korsstav, stående på ett blått klot (jorden) vilket är omslingrat av en orm (Satan). Jesus trampar på ormens huvud – Satans makt är bruten.
Av nattvardskärlen är sockenbudskalken från 1600-talets början äldst. Därefter följer patenen, även den från 1600-talet och sockentygets oblatask från 1783. Resten av det gamla nattvardssilvret försvann vid ett inbrott i kyrkan år 1873. Året därpå inköptes en ny kalk, nästa år skänktes en oblatask i silver till kyrkan och följande år även en vinkanna. De nattvardskärl som används nu är från 1960-talet och tillverkade i tenn.
Vid inbrottet 1873 försvann även en svart mässhake från 1772. 1875 skänkte rallare från Långaryd en ny svart mässhake med silverbroderier till kyrkan. Idag finns det mässhakar i alla de liturgiska färgerna i Långaryds kyrka och dessutom en korkåpa inköpt 2001.
Madonnaskulpturen i koret är från 1990-talet och gjord av Eva Spångberg i Gamla Hjelmseryd.
De båda kyrkklockorna härstammar från 1600-talet, men göts om 1813 eftersom de hade spruckit.
Redan på 1690-talet köptes den första orgeln till Långaryds kyrka (i andra landsortskyrkor dröjde det ofta ända till 1800-talet innan någon orgel köptes in). År 1828 lät man tillverka en ny orgel och då tillkom även den ståtliga orgelfasad som fortfarande tronar på läktaren. 1935 byttes orgeln igen. År 1978 beställde församlingen en kororgel av orgelbyggaren och långarydsbon Ingvar Johansson, Håknaryd. Sju år senare byggde han även en ny läktarorgel. Denna orgel, inuti orgelfasaden från 1828, saknar motsvarighet bland landsortskyrkor i södra Sverige. Bland de 34 stämmorna (registren), fördelade på tre manualer samt pedal, finns tre stämmor från 1828 års orgel.