vnet: On rx-mode set, return error for an actual error.