dokumentasi
sedikit tidak lengkap untuk keajaiban nilai 6 dan kapan harus menerapkan max fungsi, tapi inilah tabel temuan saya, berdasarkan dokumentasi itu.
Seperti yang dikatakan, rumus pembagian adalah:
Dan, seperti yang Anda soroti sendiri, kami kemudian memiliki catatan kaki:
Jadi, inilah yang saya hasilkan di spreadsheet saya:
p1 s1 p2 s2 prInit srInit prOver prAdjusted srAdjusted
38 16 38 16 93 55 55 38 6
28 16 28 16 73 45 35 38 10
29 16 29 16 75 46 37 38 9
Jadi, saya menggunakan pr dan sr untuk menunjukkan presisi dan skala hasil. prInit dan srInit formula persis forumlas dari dokumentasi. Seperti yang kita lihat, dalam semua 3 kasus, presisi hasil jauh lebih besar dari 38 dan catatan kaki berlaku. prOver hanya max(0,prInit - 38) - seberapa banyak kita harus menyesuaikan presisi jika catatan kaki berlaku. prAdjusted hanya prInit - prOver . Kita dapat melihat dalam ketiga kasus bahwa presisi akhir dari hasilnya adalah 38 .
Jika saya menerapkan sama faktor penyesuaian ke timbangan maka saya akan mendapatkan hasil 0 , 10 dan 9 . Tetapi kami dapat melihat bahwa hasil Anda untuk (38,16) case memiliki skala 6 . Jadi saya percaya bahwa di situlah max(6,... bagian dari dokumentasi benar-benar berlaku. Jadi rumus terakhir saya untuk srAdjusted adalah max(6,srInit-prOver) dan sekarang Adjusted terakhir saya nilai tampaknya cocok dengan hasil Anda.
Dan, tentu saja, jika kita membaca dokumentasi untuk decimal
, kita dapat melihat bahwa default presisi dan skala, jika Anda tidak menentukannya, adalah (18,0) , jadi inilah baris saat Anda tidak menentukan presisi dan skala:
p1 s1 p2 s2 prInit srInit prOver prAdjusted srAdjusted
18 0 18 0 37 19 0 37 19