на мониторе картинка должна быть ВЕЗДЕ (бут, browser) - или только тогда когда запущена игра, которая поддерживает этот режим?
для нормальной работы кабеля вам нужна приставка с модчипом,поддерживающим фикс изображения VGA мониторов
я без VGA-fix вслепую запускал программу GSM, вслепую включал нужный режим (появилась картинка), потом уже запускал что нужно (игру с диска или через OPL игру из образа)
Так монитор вообще этого кабеля в упор не видит, и соответственно соньки на нем.
Проблема с определением сигнала (монитор говорит "проверьте сигнал кабеля" когда приставка подключена к нему,но не работает) решается довольно просто-5й пин закорачивается на землю (10)
если есть доступ к осцилографу - посмотреть сигналы.... нет доступа - распотрашить кабель и спаять свой (схемы выше)...