算術・数学ライブラリは普通、まずライブラリのソースコードや マニュアル、
man page 等を 読んで、精度を保証する範囲を把握してから使用します。
例えば、sinやcosは、往々にして単なる 0 の周りのマクローリン展開 であります。
その場合、決して大きな値を代入してはいけません。
まずは、−πからπまでの範囲に値を収めてから、 関数に代入するようにしましょう。
よく使う方法では、独自の関数 double _Sin(double x) などを 定義して、その中では、
x を−πからπまでの範囲にしてからmath ライブラリを使うようにします。
他にも様々な注意点があるので、数値計算の専門書を読むことをお勧めします。