A frase 'O livro, que estava na mesa, era muito interessante.' usa corretamente:

Explicação

A vírgula é usada para isolar aposto, que é um termo que explica ou acrescenta informação sobre o substantivo anterior.