어린 시절부터 클래식 피아노를 배운 존 루이스(John Lewis)는 군대에서 재즈 드러머 케니 클락을 만나 함께 어울리며 재즈에 관심을 두기 시작했다. 루이스가 클락을 따라 뉴욕에 진출했을 때 찰리 파커, 디지 길레스피, 마일스 데이비스 같은 당대 최고의 재즈 스타들이 그의 작곡과 편곡 능력을 알아보고 그를 찾았다. 하지만 마음속에 클래식 음악에 대한 열망이 아직 남아 있었던 그는, 디지 길레스피 빅밴드 시절 동료들과 소그룹을 형성해 빅밴드 공연 도중 별도로 2~3곡의 섹션 공연을 펼쳤고, 청중의 호응을 얻었다. 이들 네 명은 밀트 잭슨 쿼텟(Milt Jackson Quartet)의 이름으로 첫 음반을 냈고, 곧 밴드 이름을 모던 재즈 쿼텟(Modern Jazz Quartet, 줄여서 MJQ)라 바꾸었다. 이 때가 1952년이었다.
초기 멤버였던 케니 클락(드럼)과 레이 브라운(베이스)이 떠나고, MJQ는 존 루이스(피아노), 밀트 잭슨(비브라폰), 퍼시 히스(베이스), 코니 케이(드럼)의 네 명으로 안정된 콤보 구성을 이루게 되었다. 이들은 밴드 이름에서 알 수 있듯이, 특정 리더가 주도하는 밴드가 아니었다. 음악적으로 솔로와 리듬 섹션의 구분을 없애고 밴드 멤버의 동일한 역할과 구성을 추구하였다. 어두운 나이트클럽에서의 연주를 사양하고, 밝은 콘서트홀에서 공연하였다. 뮤직 디렉터 역할을 맡았던 존 루이스의 의견을 수용하여, 바로크 시대 클래식 실내악(챔버) 음악과의 접목하여 슬로우 템포의 우아하고 절제된 재즈 음악으로 다가갔다.
이들이 초창기에 나이트클럽에서 연주할 때는 관객들의 소음이 너무 커서 연주가 거의 들리지 않을 정도였다. 이에 MJQ는 연주 소리를 키우지 않고, 중간에 퇴장해 버리거나 오히려 음량을 더 줄였다. 그러자 관객들이 그들의 의중을 알아채고 잡담이나 소음을 줄이기 시작했고, 이들의 연주는 더 부드럽고 절제된 그들만의 스타일을 찾아 나갔다. MJQ는 클럽에서의 연주를 사양하고 콘서트홀을 빌려 순회공연을 했고, 멤버 모두 동일하게 턱시도나 양복을 입고 무대에 올랐다. 약 40여 년 동안 같은 멤버로 50여 장의 음반을 출시하며 끊임없이 투어에 나서 가장 존경받는 재즈 밴드가 되었다. 이들의 독자적인 음악 스타일은 ‘챔버 재즈(Chamber Jazz)’ 또는 ‘쿨 재즈(Cool Jazz)’로 분류되었다.
MJQ는 격조 높은 연주로 명성이 높았으나, 1970년대 들어 매너리즘에 빠지며 음반 판매가 저조해지자 멤버들의 독자 활동이 늘었다. 여유가 없는 순회공연 일정으로 독자 활동이나 휴가에 차질을 빚자 밀트 잭슨이 1974년에 밴드를 떠나며 밴드가 해체했다. 존 루이스는 대학에서 학생을 가르치거나 몬터레이 재즈 페스티벌의 디렉터를 맡았다. 각자 독자적인 활동에 주력한 멤버들은 해체 7년 만인 1981년 재결합하며 다시 활동을 재개했다. 하지만 드러머 코니 케이가 1994년에 심장마비로 사망하자 음반 <Dedicated to Connie>(1995)를 냈고, 간혹 모여서 연주 활동을 하던 멤버들은 1997년에 공식적으로 밴드를 해체하여 대장정을 마무리했다.
1950년대 후반 모던 재즈 쿼텟이 런던의 콘서트홀에서 공연할 때, 존 루이스는 무대 위에 준비된 열악한 피아노를 보고 실망했다. 그는 구석에 놓여있던 스타인웨이 피아노를 발견하고 콘서트홀 관계자에게 교체를 요구했으나 거절당했다. 그 피아노는 그에 맞는 음악이 있다는 이유를 들었다. 하지만 공연이 끝난 후 그 관계자는 존 루이스를 찾아와서 그런 재즈 연주를 들어본 적이 없다며 정중하게 사과했다고 한다. 모던 재즈 쿼텟을 말해주는 에피소드로 지금까지 전해진다.