Panic! At The Disco had nog nooit een live optreden gedaan toen ze in 2004 werden getekend door de platenmaatschappij van Pete Wentz (Fall Out Boy). Om en nabij een jaar later was daar hun debuutalbum A Fever You Can’t Sweat Out, welke een groot commercieel succes werd. Het album is onder andere bekend van singles als I Write Sins Not Tragedies en Lying Is the Most Fun a Girl Can Have Without Taking Her Clothes Off.
A Fever You Can’t Sweat Out verkent thema’s van sociale problemen, huwelijk, vreemdgaan, mentale gezondheid, alcoholisme en prostitutie. Het album is verdeeld in twee onderdelen, waar de eerste voornamelijk een pop punk/electronic genre kent en het tweede deel meer neigt naar baroque pop en swing.