行政機關在行政處罰聽證會上是不一定當場做出決定的，一般需要根據聽證會的內容進行具體的審查進行決定。《行政處罰法》規定，對情節復雜或者重大違法行為給予行政處罰，行政機關負責人在聽證后應當集體討論決定。

法律依據：

《中華人民共和國行政處罰法》第五十七條

調查終結，行政機關負責人應當對調查結果進行審查，根據不同情況，分別作出如下決定：

（一）確有應受行政處罰的違法行為的，根據情節輕重及具體情況，作出行政處罰決定；

（二）違法行為輕微，依法可以不予行政處罰的，不予行政處罰；

（三）違法事實不能成立的，不予行政處罰；

（四）違法行為涉嫌犯罪的，移送司法機關。

對情節復雜或者重大違法行為給予行政處罰，行政機關負責人應當集體討論決定。