gemコマンドでmysql2アダプタをインストールする場合、32bit版のMySQL Connector/Cを利用します。RubyInstallerでダウンロードできるWindows binaryが32bitなので。

http://dev.mysql.com/downloads/connector/c/

mysql-connector-cをCドライブ直下に展開した場合、以下のようにしてmyql2アダプタがインストールされます。

gem install mysql2 -- --with-mysql-dir=\"C:\mysql-connector-c-6.1.1-win32\"