Ronnie James Dio, Tony Iommi, Geezer Butler y Vinny Appice no tenían planeado un disco nuevo, pero el éxito de su gira de reunión fue tan salvaje que la inercia los obligó a encerrarse en Rockfield para parir una obra maestra de puro metal pesado. Lo que empezó como la grabación de tres temas extra para un recopilatorio terminó convirtiéndose en The Devil You Know, el último testamento sonoro de la formación más mística de la historia del género.
El proceso creativo fue un ejercicio de democracia absoluta. A diferencia de otras bandas donde un dictador impone su ley, aquí cada uno traía sus ideas en un CD para "echarlas al caldero". Tony Iommi, el arquitecto de los riffs, admite que la conexión con Geezer Butler es algo sobrenatural: cuando tocan juntos suena como si hubiera diez personas en la habitación. La banda se mudó a los míticos estudios Rockfield en Gales porque necesitaban un lugar donde convivir y mantener viva esa química que, según ellos mismos, estaba más afilada que nunca.
La producción fue un asunto interno. Se produjeron a sí mismos porque, tras décadas de carretera, nadie sabe mejor que ellos cómo debe rugir el bajo de Geezer o cómo debe tronar la batería de un Vinny Appice que se define a sí mismo como un "monstruo de la pegada". El álbum se siente como una continuación espiritual de Dehumanizer, pero con un enfoque más moderno y pulido, evitando el exceso de teclados para dejar que el poder del trío instrumental y la voz de Dios hicieran el trabajo sucio.