По Shenmue я не большой любитель, но на сколько помню - в самой игре кнопки перенастроить нельзя, кроме нескольких предустановленных вариантов, если не ошибаюсь.
В любом случае - если через эмулятор, то тогда проблем с перенастройкой кнопок быть не должно, искать нужно в настройках самого эмулятора. Так, почти во всех эмуляторах для ПК - можно задать любые соответствия кнопок виртуального джоя Дримкаст кнопкам на ПК-клавиатуре, мышке и пр. подключенным девайсам. С эмулятором рейкаст - не знаком (это под смартфоны наверное?), но должно и у него все настраиваться, если это толковый эмулятор, как же без этого.