피트 타운젠드의 스튜디오를 인수하고 그곳에서 녹음을 진행하였다. 엘리자베스 프레이저와 로빈 거스리 부부가 아이를 가지고 사이먼 레이먼드 또한 결혼하는 등 밴드 내부에서 여러 변화가 있었는데 레이먼드의 경우 마약 의존증이 심화되고 녹음 기간 도중 아버지가 사망하는 악재가 있었다. 레이먼드는 마약 중독으로 인한 편집증이, 프레이저와 거스리 부부는 아이가 태어난다는 것에 대한 기쁨과 부모로서의 책임에 대한 압박감이 앨범 작업에 강박을 가지게 하였다. 이러한 환경적 요인으로 인해 앨범의 사운드는 한결 직관적이고 대중적으로 바뀌었다.
앨범 아트는 밴드의 전작 Blue Bell Knoll의 앨범 아트를 담당했던 폴 웨스트(Paul West)가 친구 사진 작가인 앤디 럼블(Andy Rumble)과 함께 크리스마스 트리 조명을 장기간 노출하여 촬영한 것이다. 원본은 홍수로 인해 손상되었다.
Heaven or Las Vegas 앨범은 대중적으로 성공했지만 밴드는 자신들이 속해있던 4AD 레코드사의 사장과 불화를 겪게되고 결국 머큐리 레코드 사와 새로 계약을 맺게된다. 한편, 밴드의 주 작곡자인 거스리는 다음 앨범의 완성도에 대한 압박감으로 마약과 알콜에 더욱 깊이 빠지며 Four-Calendar Café 작업 당시에 밴드 멤버들에게 히스테리를 부렸고 아이가 태어나면 아버지로서의 책임감 때문에 거스리가 달라질거라고 믿었던 프레이저는 이런 거스리의 모습을 보고 완전히 질려버려 Four-Calendar Café 앨범 작업 도중 거스리와의 관계를 청산하게 된다. 다만, 머큐리 레코드사와의 계약 때문에 1997년까지 음악적 동반자로서의 관계는 유지했다.