Nacido en un pequeño pueblo de Lituania, Gurvich llegó al Uruguay con su familia cuando contaba con cinco años de edad. A los quince años entró en la Escuela Nacional de Bellas Artes, donde asistió al curso de José Cuneo. Posteriormente, ingresó en el Taller Torres García, donde llegó a ser docente durante varios años y participó en sus numerosas exposiciones colectivas.

Entre 1954 y 1956 viajó a Europa y a Israel. En ese período realizó su primera y exitosa exposición europea en la Galería San Marco de Roma. En Israel se instaló en un kibutz. Incorporado a la vida comunitaria, se convirtió en pastor y continuó trabajando su obra plástica. A fines de 1956, regresó al Uruguay y se reintegró al Taller Torres García. En 1963 volvió a Israel. Se reencontró con su tarea de pastor, continuó pintando y expuso en la Galería Katz de Tel Aviv. En 1965, nuevamente instalado en Montevideo, se abocó a preparar su gran muestra que tendría lugar en 1967 en la sede de la Comisión Nacional de Bellas Artes, que funcionaba en el edificio ocupado por el Teatro Solís. Esta exposición fue recibida por la crítica con unánime reconocimiento, señalándose a Gurvich como uno de los grandes artistas nacionales.

En noviembre de 1969, nuevamente comenzó un viaje que a la postre, se convertiría en su alejamiento definitivo del Uruguay. Recorrió Israel, Grecia, Italia, España y Francia, países en los cuales trabajó intensamente, hasta que finalmente se radicó en Nueva York, ciudad en la que moriría a la edad de 47 años.