并不是所有的行政機關都有行政執法權，僅法律規定的具有行政執法權的行政機關以及受委托組織具有執法權?！缎姓幜P法》規定，行政處罰由具有行政處罰權的行政機關在法定職權范圍內實施。

法律依據：

《中華人民共和國行政處罰法》第四條

公民、法人或者其他組織違反行政管理秩序的行為，應當給予行政處罰的，依照本法由法律、法規、規章規定，并由行政機關依照本法規定的程序實施。

第十七條

行政處罰由具有行政處罰權的行政機關在法定職權范圍內實施。

第二十一條

受委托組織必須符合以下條件：

（一）依法成立并具有管理公共事務職能；

（二）有熟悉有關法律、法規、規章和業務并取得行政執法資格的工作人員；

（三）需要進行技術檢查或者技術鑒定的，應當有條件組織進行相應的技術檢查或者技術鑒定。