A esso fa seguire Take Out, che co-sceneggia, co-dirige, co-monta e co-produce assieme a Tsou Shih-ching, oltre a dirigerne la fotografia.[5] Il film parla di un immigrato clandestino cinese che lavora come fattorino con un giorno di tempo per saldare il debito coi suoi trafficanti.[6] È stato presentato nel 2004 allo Slamdance Film Festival, ma non è arrivato in sala fino al 2008,[6] anno in cui il terzo lungometraggio di Baker, Prince of Broadway, ha avuto la sua anteprima al Los Angeles Film Festival.[7]Prince of Broadway segue un intrallazzino newyorkese che vive della contraffazione di marchi registrati e che scopre di avere un figlio. Baker scrive, dirige, co-produce, monta e cura nuovamente la fotografia del film, che ha una distribuzione limitata negli Stati Uniti due anni dopo. Entrambi vengono candidati al premio John Cassavetes agli Independent Spirit Awards 2009.[8]
Il successivo Starlet segna l'inizio della collaborazione alla sceneggiatura con Chris Bergoch ed è interpretato per la prima volta da un'attrice professionista, Dree Hemingway. Una storia d'amicizia femminile intergenerazionale nella valle di San Fernando, viene presentata al festival SXSW nel 2012 e distribuita l'anno stesso nelle sale. Il suo quinto lungometraggio, Tangerine, si fa notare oltre che per la consueta originalità che caratterizza le sue scelte di trama, questa volta incentrata su di una prostituta transgender che scopre l'infedeltà del suo ragazzo (e pappone), che per meriti tecnici, essendo interamente girato su iPhone 5S, ma mantenendo comunque certe qualità filmiche che la critica definirà «espressive, calorose» e «sofisticate».[9][10] Prodotto sotto l'egida di Mark e Jay Duplass, il film vede Baker ricoprire i suoi soliti ruoli e viene distribuito dalla Magnolia Pictures dopo un'anteprima al Sundance Film Festival 2015.[10]