Перья гусей и уток смазаны жиром, поэтому вода в них не впитывается, а скатывается — птица выходит из пруда сухой. Отсюда «как с гуся вода» — о том, на кого ничего не действует.
А ещё у выражения есть корень в старинном заговоре. В сборнике Владимира Даля записано: «С гуся вода, с лебедя вода, а с тебя, моё детятко, вся худоба» — так приговаривали, когда больного ребёнка спрыскивали водой.
Подробнее — в журнале: «Как с гуся вода».