Para generar animaciones de asteroides con colisiones realistas hoy en día, la mejor solución es utilizar un motor de juegos o un software de simulación física. Estos programas manejan cálculos complejos de dinámica de cuerpos rígidos de forma automática.
Te recomiendo encarecidamente Blender. Es software gratuito y de código abierto, muy potente y actualizado constantemente. Su motor de física Bullet (y también el nuevo soporte para Pixar's USD) permite simular colisiones realistas entre múltiples objetos de forma muy convincente. Puedes modelar tus asteroides, asignarles propiedades físicas como masa y fricción, y luego simular su movimiento y choques. El resultado lo puedes renderizar como una animación de alta calidad.
Una alternativa excelente, especialmente si buscas algo más orientado a la programación, es Unity. Este motor de juegos tiene un sistema de física robusto (NVIDIA PhysX) y es ideal para crear simulaciones interactivas o animaciones pre-renderizadas de asteroides. Tiene una curva de aprendizaje, pero ofrece un control muy detallado sobre cada aspecto de la simulación.
Para ambos casos, el proceso general sería similar. Primero, importas o creas modelos 3D de tus asteroides. Luego, les añades componentes de colisión y cuerpos rígidos para que el motor los trate como objetos físicos. Configuras las fuerzas iniciales, como impulsos o gravedad, para que se muevan. Finalmente, ejecutas la simulación física y el software calcula automáticamente todas las trayectorias y colisiones de manera realista. Después, solo tienes que configurar la cámara y renderizar la animación.