这个跟你转机在哪个国家有关。
首先航空公司有责任保证航班的所有旅客有进入最终目的地国家的通行文件,所以比如你要去韩国,则不管你在哪转机,你上飞机之前都要有到韩国的签证,如果你到达韩国的时候被发现没有签证,则航空公司会被罚款。这一点在中国是由各个机场海关的出关柜台控制的,在外国一般都是航空公司自行控制。
如果有转机的话,要看转机国是否需要转机签证。现在还有很多国家规定在其境内机场转机要提前办理转机签证,比如英国。同样,这个也是航空公司的责任。日本不需要转机签证,所以如果像你所说的上海-东京-韩国的话,如果你有韩国签证,则不需要任何其他证件就可以在日本转机,但是由于你没有日本签证,所以不能在日本入关。(入关是指通过海关进入该国境内,所以你的问题实际上问返了,出关是指离境,所以你是在中国出关,然后到韩国入关)
对于你的后面一个问题,航空公司如果能这么出票,而且两票还是联程的话,则在你没有日本签证的情况下也可以登机,因为你有到达最终目的地的有效通行证件(中国护照)。只是实际操作中航空公司不会卖这样的票。