已经过了行政复议和行政诉讼期的行政处罚决定确有错误的,本着有错必究的原则,相对人可以向作出处罚决定的机关及其上级机关申诉,也可以进行信访。参照《行政处罚法》第五十四条:行政机关应当建立健全对行政处罚的监督制度。县级以上人民政府应当加强对行政处罚的监督检查。公民、法人或者其他组织对行政机关作出的行政处罚,有权申诉或者检举;行政机关应当认真审查,发现行政处罚有错误的,应当主动改正。
如果此类行政处罚决定书对你有严重影响的话,可以尝试去申请异议或者说重新复合。