这些情形下：1、人民检察院或者被告人、自诉人及其法定代理人不服第一审人民法院作出的有关证据收集合法性的调查结论，需要抗诉、上诉的。2、第一审人民法院没有对当事人及其诉讼代理人、辩护人排除非法证据的申请进行审查，并且以这些证据作为定案根据的。

　　3、一审结束后，当事人及其辩护人、诉讼代理人才发现相关线索或者材料，申请法院排除非法证据的。

　　审查证据的合法性：

　　1、主体合法

　　证据主体合法。证据主体是指形成证据内容的个人或单位，证据主体合法，是指形成证据的主体须符合法律的要求。主体不合法也将导致证据的不合法。对证据主体的法律要求，也是为保障证据的真实性。因此法律根据证据特点，对某些证据的证据主体规定了相应的要求。

　　2、形式合法

　　证据形式合法。证据形式的合法性，是指作为证据不仅要求在内容上是真实的，还要求形式上也符合法律规定的要求。例如，单位向法院提交的证明文书须有单位负责人签名或盖章，并加盖单位印章；保证合同、抵押合同等，需要以书面形式的合同文本加以证明。

　　3、取得方式合法

　　证据取得方式合法。当事人收集的证据材料能否作为法院认定案件事实的证据，还要看该证据材料的取得方法是否符合法律的规定。法律规定证据取得方法必须合法，是为了保障他人的合法权利不至于因为证据的违法取得而受到侵害。例如，利用视听资料来证明案件事实时，就要求视听资料的取得不得侵犯他人的合法权利，如他人的隐私权等。常见的容易侵犯他人隐私权的证据取得方式是所谓偷录、偷拍。再如，法院调查收集证据，应当两人以上共同进行，不得由一名审判员或书记员独立调查，属于应当回避的审判人员也不能进行证据调查。

　　4、程序合法

　　证据材料最后要作为证据还必须经过一定的诉讼程序，没有经过法律规定的程序该证据仍然不能作为认定案件的根据。这一程序就是证据的质证程序。

　　法律依据：

　　《刑事诉讼法》第五十八条：法庭审理过程中，审判人员认为可能存在本法第五十六条规定的以非法方法收集证据情形的，应当对证据收集的合法性进行法庭调查。当事人及其辩护人、诉讼代理人有权申请人民法院对以非法方法收集的证据依法予以排除。申请排除以非法方法收集的证据的，应当提供相关线索或者材料。