Альбом открывает песня «Hospital Roll Call», которую многие поклонники Ланегана интерпретируют как хитрую ссылку на номер больничной палаты, в которой находился музыкант во время своего очередного попадания в реабилитационный центр. Эту тему расширяет «Hotel», а «Stay» и «Bell Black Ocean» рассказывают о любви и нежности. «Last One In The World» возможно посвящена другу Марка Курту Кобейну, который ушёл из жизни в 1994 году. Scraps at Midnight можно считать последней частью в трилогии альбомов The Winding Sheet — Whiskey for the Holy Ghost — Scraps at Midnight, тревожные тексты которых вдохновлены американской фолк-музыкой и исследуют тему потери и греха. В интервью 2004 года музыкант поделился идеей создания своих альбомов: «Это всегда было моей цель, когда я начинал… Это была своего рода моя навязчивая идея, сделать записи с чувством блюза, с его духом, но при этом, я думаю, это не то, что мы считаем традиционным блюзом, который является скучным и устаревшым, в нём я совсем не заинтересован. Я заинтересован в настоящих чувствах.»[1]