ロックスミス2014

ゲームハードは特にこだわりがなければどちらでもいいと思います。
ただロックスミス2014のXbox360版はps3とギターをつなぐケーブル(出力がUSBのシールドのようなもの)が付いてこないので別途で購入する必要があります。前作に付属していたものの流用もできますし、単品でも売っています。
ps3版はケーブル有り無しどちらもあります。

本体も、ソフトのインストールが無いので容量が少ないモデルでも大丈夫です。

次に一番の課題の遅延ですが、両機種ともただHDMIで繋いだ状態だと遅延が酷く、プレイしいるときの不快感が凄いです。ですので環境を整える必要があります。

ps3版の場合は、HDMIケーブルをテレビに差し、最初から付いてくる3色端子ケーブル(コンポジットケーブル)をスピーカーに繋ぐのがベストです。

xbox360版は少々面倒で、HDMIをテレビに、そしてオーディオケーブルというものをスピーカーに繋ぎます。ただこのオーディオケーブルが高価な上既に生産終了していたと思います。
このオーディオケーブルの代わりに初期本体に付いてきた3色端子ケーブル(中古ショップで1000円しないくらいで売っていたと思います)をスピーカーにつなげるってこともできます。こちらのが現実的かなと思います。
ただし比較的新しい本体に最初からついてくるD端子ケーブルは本体の構造上、HDMIケーブルとの併用ができないので注意してください。

以上です。他にも白赤端子が繋げられるスピーカーと勿論エレキギターが要りますが、それは予算と相談しながら決めていけばよいと思います。