Пытаюсь его распаковать с такими настройками с нескольких попыток, каждый раз ошибка
Этой игрой я занимался очень много лет назад (проверил по readme - 12 лет), поэтому сейчас просто невозможно что-то сказать. Глядя на код umodel, изменения были как раз для палитры. Полагаю, мне тогда прислали пару utx файлов, и я сделал чтобы они работали - а остальное осталось за кадром. Или у вас вообще эти utx из какого-нибудь мода, а не из игры.
Ну и по прозрачности вопрос остаётся. Я так понимаю, если в свойствах не стоит bModulated и bTransparent, то утилита экспортирует прозрачность как первый цвет палитры?
Опять же, посмотрел код. Прозрачность для текстур с палитрой явно устанавливается для первого цвета в палитре. Никаких "розовых" не проверяется.