こんにちは。若干情報が少ないかもしれませんが、CiscoルータとYamahaルータで
IPSecのL2L VPNを組む構成は過去に何度か見たことがあり、できないということはないと思います。
探してみたらそれらしい記事がありました。参考までにどうぞ。
掲載されているのは1712ではなく1812ですが、ほぼ同じと思われます。
http://shirokuma-industry.com/wordpress/?p=868
それと、上記のサイトでは、IKE Phase1 モードがMain-modeで動く前提になっていますが、
Ciscoルータ側が動的IPアドレスのため、Aggressive modeで動作させる必要があります。
Ciscoルータは以下のコマンドを打たない限りは自動的にaggressive modeで動いてくれるはずです。
crypto isakmp aggressive-mode disable
また、当然最初のパケットは必ずCiscoルータ側からYamahaルータに流れる必要があります。
Yamaha側のことはあまりよくわからないのですが、
以下のYamahaのサイトには
「固定のグローバルアドレスを持つルーターには、ipsec ike remote name コマンドを設定し、ipsec ike remote address コマンドで any を設定します。」とあります。
http://www.rtpro.yamaha.co.jp/RT/manual/rt-common/ipsec/ipsec_chapter.html
最後にログの確認方法になりますが、コンソール上から現在のStatusを確認するのであれば
show crypto isakmp sa
show crypto ipsec sa
あたりをご確認いただき、リアルタイムで確認したい場合は
debug crypto isakmp
debug crypto isakmp err
debug crypto ipsec
debug crypto ipsec err
あたりを実行した後で実際に端末から通信を発生させる
ということをやってみるとよいかと思います。