O livro é uma continuação da história da nave Discovery, do computador HAL 9000 e do tripulante Dave Bowman (principal personagem do primeiro livro) que foram ao encontro de Júpiter e, consequentemente do "Grande Irmão":denominação dada ao grande monolito (AMT-2) encontrado em Júpiter que, ao não ser pelo tamanho, é idêntico ao monolito encontrado na Lua em 2001. Nesta história o personagem principal trata-se do Dr. Heywood Floyd, que havia comandado da Terra a missão da Discovery em 2001, e agora parte na nave Leonov (uma nave russa) junto com Walter Curnow (o engenheiro que projetou a Discovery) e Dr.Chandra (que construiu HAL 9000), além da tripulação russa, em uma missão para resgatar a primeira nave e tentar descobrir mais sobre o monolito de Júpiter e o paradeiro de Dave Bowman. Nesta viagem o computador HAL 9000 é reativado, assim como toda a Discovery. Eles descobrem que os mesmos seres inteligentes que nos deixaram os monolitos estão desenvolvendo vida no satélite jupiteriano Europa. Junto a Leonov outra nave parte para as proximidades de Júpiter: a nave chinesa Tsien, que pousa em Europa, mas acaba sendo destruída. Um de seus tripulantes (Dr.Chang), o único sobrevivente, consegue relatar as formas de vida europanas através de seu rádio para a humanidade antes de morrer. Quando Leonov finalmente chega ao monolito este não apresenta nenhuma reação durante um longo tempo, até que o "Novo Dave Bowman" (ou aquilo em que ele se transformou) reaparece e avisa a tripulação que a Leonov deve voltar para Terra o qunato antes. Através de uma acoplagem entre a Leonov e a Discovery a tripulação foge das proximidades de Júpiter, com a grande ajuda de HAL, que deixa de ser um antigo vilão para se tornar um verdadeiro herói. Eles escapam bem a tempo da explosão de Júpiter causada pelo monolito, que transforma o antigo planeta em uma nova estrela, um segundo sol. Junto com esta explosão é transmitida uma mensagem dos donos dos monolitos a toda a humanidade: "TODOS ESTES MUNDOS SÂO SEUS EXCETO EUROPA. NÃO TENTEM ATERRISSAR LÁ!" Com este desfecho é dada a resposta definitiva sobre vida inteligente não-humana e inicia-se a conquista do espaço pelo homem.