Buenas knum: Primero contestare lo que ha dicho Fiz3d. Esa opción que comentas sirve para que los objetos de tu escena no tengan antialias respecto al fondo, pero no influye en el antialias de este último. Knum, yo lo que haría, ya que no creo que exista la opción que buscas, es después de renderizar (guardando el canal alfa) sustituir el fondo en Adobe Photoshop por la fotografía que tú quieras. De esta forma te evitas cualquier manipulación que el max pueda hacerle. Un saludo de Gorehide.
"It's better to burn out than to fade away" K.C.