Ini adalah masalah yang diketahui. Penggunaan SMO terhadap .Net 4.0 belum ditandatangani atau diumumkan oleh microsoft.
Ada opsi yang tidak didukung agar ini berfungsi (tambahkan ini ke app.config Anda):
<?xml version="1.0" encoding="utf-8" ?>
<configuration>
<startup useLegacyV2RuntimeActivationPolicy="true">
<supportedRuntime version="v4.0"/>
</startup>
</configuration>