公司不可以单方面解除财务负责人,除非财务负责人有重大过失.

根据《中华人民共和国劳动合同法》

第三十九条 劳动者有下列情形之一的,用人单位可以解除劳动合同:

(一)在试用期间被证明不符合录用条件的;

(二)严重违反用人单位的规章制度的;

(三)严重失职,营私舞弊,给用人单位造成重大损害的;

(四)劳动者同时与其他用人单位建立劳动关系,对完成本单位的工作任务造成严重影响,或者经用人单位提出,拒不改正的;

(五)因本法第二十六条 第一款第一项规定的情形致使劳动合同无效的;

(六)被依法追究刑事责任的.

第四十三条 用人单位单方解除劳动合同,应当事先将理由通知工会.用人单位违反法律、行政法规规定或者劳动合同约定的,工会有权要求用人单位纠正.用人单位应当研究工会的意见,并将处理结果书面通知工会.

根据《中华人民共和国劳动合同法》

第四十八条 用人单位违反本法规定解除或者终止劳动合同,劳动者要求继续履行劳动合同的,用人单位应当继续履行;劳动者不要求继续履行劳动合同或者劳动合同已经不能继续履行的,用人单位应当依照本法第八十七条 规定支付赔偿金.

第八十七条 用人单位违反本法规定解除或者终止劳动合同的,应当依照本法第四十七条 规定的经济补偿标准的二倍向劳动者支付赔偿金.