Сделать что-то втихомолку, не привлекая к себе внимания, не спеша.
Это выражение близко по смыслу к обороту «под сурдинку», только пришло оно из речи военных.
И не просто военных, а сапёров — оказывается, название этой специальности и происходит от слова «сапа».
Исследователи установили, что слово «сапа» — французское, образовавшееся в свою очередь от итальянского «цаппа» — лопата, заступ.
Сапой во Франции стали называть земляные армейские работы, рытьё окопов и укреплений. Сапёр, соответственно, — тот, кто занимается этой самой сапой.
Тихой сапой — стало быть, работать с особой осторожностью, тайно, чтобы никоим образом не раскрыть себя противнику.
На укреплении номер три, японцы ... временно отошли в ближайшие свои траншеи и идут тихой сапой. Вот и всё о нашем участке, — закончил Науменко.
Александр Николаевич Степанов. «Порт-Артур»