与装修公司签订装修合同,我想和装修公司解除合同,并退还我已批下来的全部装修款

早上好,我今年买房办了装修贷款,与装修公司签订装修合同,后面写着自双方签字之日起生效,装修公司只给了我一份合同复印件。现在装修贷款批下来了,但是比预期少了几万,主要是发现装修材料,风格都不由我意,达不到我要求,我想和装修公司解除合同,并退还我已批下来的全部装修款,这样可以吗?