¿Supongo que sin batería la luz se apagará?
Que se quede con la luz encendida pienso que puede ser porque el puerto usb o el regulador de carga no funcionan correctamente y gps se crea que está en proceso de carga todo el rato.
Prueba a conectar el cable usb sin tenerlo conectado al pc y mueve del enchufe despacito sin forzar mucho a ver si se apaga o parpadea.