El problema con las sombras en RPC en 3ds Max 2011 con V-Ray 2.0 es conocido, principalmente porque los RPC son objetos de billboard (imágenes 2D siempre frente a cámara) y su compatibilidad con sombras de V-Ray era limitada en esa versión antigua.
La solución más efectiva y actual es reemplazar los RPC por sistemas más modernos. Los RPC son tecnología obsoleta. Debes migrar a Archmodels de V-Ray o usar Forest Pack, que son herramientas estándar en la industria actual. Estos sistemas generan geometría 3D real que proyecta y recibe sombras correctamente en cualquier motor de render, incluido V-Ray.
Si necesitas una solución inmediata para el archivo antiguo, puedes intentar un truco. Convierte el RPC en una geometría editable. Selecciona el objeto RPC, ve al panel de utilidades (el icono del martillo) y busca el botón More. En la lista que aparece, selecciona RPC Converter. Esto transformará el RPC en un conjunto de planos con texturas. Luego, en el Material Editor, asigna un material VrayMtl a estos planos y carga las texturas manualmente. En las opciones de sombras del material, asegúrate de que esté habilitado Cast Shadows y Receive Shadows.
Para las luces V-Ray, verifica que sean luces que proyecten sombras. Abre las propiedades de la luz V-Ray y en la sección de sombras (Shadows) asegúrate de que esté activada la opción. Para un ambiente exterior, la luz principal suele ser un V-Ray Sun. En sus parámetros, la opción enabled en el grupo de sombras debe estar activa. También es crucial que en los ajustes de render global de V-Ray (V-Ray:: System), el parámetro Raycaster no esté limitando en exceso la memoria para sombras complejas.
Finalmente, considera seriamente actualizar tu flujo de trabajo. Las versiones de 3ds Max y V-Ray que mencionas tienen más de una década. Los problemas de compatibilidad con formatos antiguos como RPC se resuelven en versiones recientes con sistemas de vegetación y personas integrados y optimizados para V-Ray, Corona o RenderMan.