O pai de Andrew Murray era pastor vinculado à Igreja Presbiteriana da Escócia, que, por sua vez, mantinha estreita relação com a Igreja Reformada da Holanda, o que foi importante para impressionar Murray com o fervoroso espírito cristão holandês.

Andrew Murray com seu irmão, John, estudar na Escócia quando tinha apenas 10 anos. Dois anos depois, foi imensamente impactado com a pregação do avivalista William C. Burns. O grande amor desse homem pelos perdidos, suas orações em favor de todos os homens, além de seus tocantes sermões serviram de modelo para o tipo de ministro do evangelho que Andrew Murray desejava ser. Ambos os irmãos foram estudar em Utrecht, Holanda, para terminar o treinamento teológico e lá foram ordenados ao ministério em 1848, retornando em seguida à África do Sul.

Em 1856, Andrew casou-se com Emma Rutherford, uma inglesa filha de pastor, e, em 1860, aceitou o pastorado na cidade de Worcester, depois de algum tempo em ministério itinerante. Após isso, Murray dedicou muito tempo, muitas madrugadas, orando por um avivamento em seu país e lendo sobre experiências desse tipo ocorridas em outras nações. Seu ministério enfatizava especialmente a necessidade de os cristãos habitarem em Cristo. Isso foi despertado especialmente quando, ao voltar para a África, deparou-se com a grande extensão geográfica em que deveria ministrar. Aí começou a sentir necessidade de uma vida cristã mais profunda. Transferiu-se para a Cidade do Cabo em 1864, onde foi cuidar de uma nova igreja.

O ministério de Murray, pela influência recebida do pai, foi caracterizado por profunda e ardente espiritualidade e por ação social. Em 1877, viajou pela primeira vez aos Estados Unidos onde ouviu falar muito sobre o movimento de Escola Dominical (iniciado no século anterior) e o avivamento por intermédio de Dwight L. Moody. Participou de muitas conferências nos EUA e na Europa. Quando retornou à África empenhou-se na tarefa do ensino e treinamento de novos ministros do evangelho.

Sua teologia era conservadora e se opunha francamente ao liberalismo. Em seus livros, enfatizou a consagração integral e absoluta a Deus, a oração e a santidade.

Durante os últimos 28 anos de sua vida, foi considerado o pai do Movimento Keswick da África do Sul. Muitos aspectos místicos de sua obra devem-se à influência de William Law. Murray, assim como Law, Madame Guyon, Jessie Penn-Lewis e T. Austin-Sparks, conheceu o Senhor de forma profunda e se tornou um dos mais proeminentes no movimento da vida interior.

Foi acometido de uma infecção na garganta, em 1879, a qual o deixou sem voz por quase dois anos. Foi curado dela, na casa de uma família cristã, em Londres. Como resultado dessa experiência, veio a crer que os dons miraculosos do Espírito Santo não se limitavam à Igreja primitiva. Para ele, uma das características da vida vitoriosa era uma profunda e silenciosa percepção de Deus e uma intensa devoção a Ele.

Quando morreu, em 18 de janeiro de 1917, Murray havia escrito mais de 240 livros e inúmeros artigos. Por crer no que Deus pode fazer por meio da literatura, sua obra tocou e toca a Igreja no mundo inteiro, por meio de escritos profundos, incluindo O Espírito de Cristo, Com Cristo na escola de oração e Humildade, os quais são considerados clássicos da literatura cristã.