у меня vmx-09 и ESXi 5.0.х под рукой нет. У меня стартует и из ISO и из flp и CentOS и Other Linux 
Кроме как
- посмотреть на Limitations тут,
- попробовать версии plop поменьшее,
- посмотреть как себя ведет чистая виртуалка,
- разобраться как plop заставить жаловаться на экран что ему не так
- идей нет
(+)
Мы просто всегда используем plopbootmanager для таких штук и до сих пор без особых проблем