Pues para eso sirve el canal Z. Lo que hace es sacarte un canal con un dibujo en blanco y negro, donde todo lo que está al fondo lo pinta de negro y lo que está aquí, lo pinta de blanco. Lo del medio lo pinta de gris y así.
Entonces Combustion con el operador z interpreta estos colores como profundidad y, por ejemplo, para que la persona animada pase por detrás de una columna, hay que decirle al operador que ponga la animación a la altura de los grises tales, por ejemplo.
TBC3D creo que confundes el canal Z con el mate. Me explico, si tú tienes un paisaje 3d y un personaje gravado en croma y quieres, por ejemplo, que ese personaje pase por detrás de un árbol CG lo que tienes que tener es un matte (o máscara) de ese árbol. El matte es un imagen generada con blancos y negros, entendiendo que el negro puro es transparente y el blanco puro opaco, de esta forma los diferentes tonos de grises tendrán una transparencia proporcional a la cantidad de blanco o negro que posean. Bueno más o menos. El mapaz que genera, por ejemplo, el max, y supongo que, casi todas las aplicaciones 3d, parte de la misma filosofía, solo que en este caso el blanco puro será lo que este a foco mientras que el negro puro lo que este completamente desenfocado, entendiendo como completamente desenfocado el parámetro que tú coloques, los grises tendrán diferente nivel de desenfoque dependiendo de lo próximos al blanco o al negro que estén.
Lo que ocurre es que el problema que aquí se plantea creo que es diferente, no se trata de generar un canal Z a un render en 3d, el problema que se plantea es como sacar un canal Z de una imagen 2d y eso, por el hecho de tratase de 2d ya constituye el problema. Creo que una solución que se me ocurre es clara y sinceramente falsearlo, se puede hacer con Adobe Photoshop atendiendo a los parámetro que te he comentado antes (blanco para lo que va a estar completamente enfocado y negro lo que va a estar completamente desenfocado) lo demás un degradado de blanco a negro y ya tienes un cutre-canalz. A partir de ahí esta lo que te lo quieras trabajar. También el plano manda, está en movimiento? Fijo? Que tipo de plano es? Por ejemplo, si es un primer plano de la cara y quieres los ojos a foco y la punta de la nariz desenfocada.
En fin, lo mejor, antes de entrar en estas interminables sesiones de postproducción, poco agradecidas además, yo aconsejaría planificar bien las cosas a rodar, ya sé que el video y la profundidad de campo no son muy buenos amigos, pero hay trucos para imitarla en el mismo rodaje sin necesidad de que te acuerdes de la madre que pario al Combustion. Un saludo.