El problema con Edit Seams suele ocurrir cuando no se ha generado correctamente el mapa UV o cuando la herramienta no está en el modo correcto.
Primero, asegúrate de que tu objeto tiene coordenadas UV desplegadas. Ve al panel de propiedades, a la pestaña Object Data Properties (el icono de triángulo/verde). Allí, en la sección UV Maps, debe haber un mapa UV. Si no lo hay, selecciona tu objeto en modo objeto, ve a la pestaña UV en la parte superior, y elige Smart UV Project o Unwrap después de marcar algunas costuras.
Ahora, para usar Edit Seams correctamente, debes estar en modo edición (presiona Tab). Selecciona todos los bordes que quieras marcar como costuras. Luego, en el menú de la vista 3D, ve a Edge y selecciona Mark Seam. Las costuras se verán de color rojo. Para que Edit Seams funcione en el modo de pintura de texturas, estas costuras deben estar ya creadas.
Si estás en el modo Texture Paint y la herramienta Edit Seams no responde, es probable que el problema sea la visualización. En la ventana de pintura de texturas, busca un menú desplegable que suele decir Material o Texture y cámbialo a UV Editing o Stencil. Esto hará visibles las costuras para editarlas.
Una solución actual y robusta es usar el espacio de trabajo UV Editing que viene en Blender. Allí tienes una vista dedicada para trabajar con UVs y costuras. Selecciona tus bordes en la vista 3D (panel inferior) y márcalos como costura. Los cambios se verán al instante en el editor UV (panel superior).
Si el problema persiste, reinicia Blender y abre un archivo nuevo de prueba con un cubo. Aplica un Smart UV Project, entra en modo Texture Paint y prueba la herramienta Edit Seams en ese cubo. Esto te dirá si el error es de tu escena original o de la configuración.
Finalmente, verifica que tu versión de Blender esté actualizada, ya que versiones antiguas pueden tener bugs en estas herramientas.