拖延申报出口退税是需要缴纳增值税的。根据国家税务总局《关于出口货物退（免）税若干问题的通知》（国税发〔2006〕102号）第一条规定，出口企业出口的下列货物，除另有规定以外，视同内销货物计提销项税额或征收增值税：

1、国家明确规定不予退（免）增值税的货物；

2、出口企业未在规定期限内申报退（免）税的货物；

3、出口企业虽已申报退（免）税但未在规定期限内向税务机关补齐有关凭证的货物；

4、出口企业未在规定期限内申报开具《代理出口货物证明》的货物；

5、生产企业出口的除四类视同自产产品以外的其他外购货物。