不可以。沒有營業，沒有收入的新成立的公司，可以申請零報稅。但一定不能不報稅。

《中華人民共和國稅收征收管理法》 第六十條 納稅人有下列行為之一的，由稅務機關責令限期改正，可以處二千元以下的罰款；情節嚴重的，處二千元以上一萬元以下的罰款：1、未按照規定的期限申報辦理稅務登記、變更或者注銷登記的；2、未按照規定設置、保管帳簿或者保管記帳憑證和有關資料的；3、未按照規定將財務、會計制度或者財務、會計處理辦法和會計核算軟件報送稅務機關備查的；4、未按照規定將其全部銀行帳號向稅務機關報告的；5、未按照規定安裝、使用稅控裝置，或者損毀或者擅自改動稅控裝置的。納稅人不辦理稅務登記的，由稅務機關責令限期改正；逾期不改正的，經稅務機關提請，由工商行政管理機關吊銷其營業執照。納稅人未按照規定使用稅務登記證件，或者轉借、涂改、損毀、買賣、偽造稅務登記證件的，處二千元以上一萬元以下的罰款；情節嚴重的，處一萬元以上五萬元以下的罰款。