公司的行政处罚记录不可以消除。根据中国现行的法律制度,行政处罚信息一旦在国家企业信用信息公示系统或其他相关门户网站公示,公示期限为五年。五年期满后,该记录虽然不再对外公示,但依然保存在系统中,并不会被删除或消除。这意味着,即使五年后该行政处罚记录不再展示,它仍然是有效的,并且无法通过任何方式申请消除。