但乙方未能按时缴纳租金，甲方可以单方面终止合同吗

乙方未能按时缴纳租金，甲方可以单方面终止合同。
有下列情形之一的，当事人可以解除合同：
1、因不可抗力致使不能实现合同目的；
2、在履行期限届满前，当事人一方明确表示或者以自己的行为表明不履行主要债务；
3、当事人一方迟延履行主要债务，经催告后在合理期限内仍未履行；
4、当事人一方迟延履行债务或者有其他违约行为致使不能实现合同目的；
5、法律规定的其他情形。
以持续履行的债务为内容的不定期合同，当事人可以随时解除合同，但是应当在合理期限之前通知对方。
《中华人民共和国民法典》第四百六十四条 合同是民事主体之间设立、变更、终止民事法律关系的协议。
婚姻、收养、监护等有关身份关系的协议，适用有关该身份关系的法律规定；没有规定的，可以根据其性质参照适用本编规定。
第四百六十五条 依法成立的合同，受法律保护。
依法成立的合同，仅对当事人具有法律约束力，但是法律另有规定的除外。
第四百六十六条 当事人对合同条款的理解有争议的，应当依据本法第一百四十二条第一款的规定，确定争议条款的含义。
合同文本采用两种以上文字订立并约定具有同等效力的，对各文本使用的词句推定具有相同含义。各文本使用的词句不一致的，应当根据合同的相关条款、性质、目的以及诚信原则等予以解释。
第四百六十九条 当事人订立合同，可以采用书面形式、口头形式或者其他形式。
书面形式是合同书、信件、电报、电传、传真等可以有形地表现所载内容的形式。
以电子数据交换、电子邮件等方式能够有形地表现所载内容，并可以随时调取查用的数据电文，视为书面形式。
第四百六十八条 非因合同产生的债权债务关系，适用有关该债权债务关系的法律规定；没有规定的，适用本编通则的有关规定，但是根据其性质不能适用的除外。

你单方解除合同他坚持不搬出也是个问题。先看一下你的合同是什么规定的，有没有关于逾期缴纳租金的违约条款。最好能双方协商解决，找一个合理的解决方式

看双方合同约定的解除条件