Je třeba nastavit ještě fileencoding, to může být od encoding odlišné a při každém uložení se provede konverze. P.S.: Vím, že už je na odpověď trochu pozdě, ale na googlu je odkaz sem na prvním místě při zadání gvim encoding, tak snad pro někoho dalšího...