decimal

5Nhiệt

7Trả lời

Làm thế nào đối phó với thực tế là hầu hết các phân số thập phân không thể được biểu diễn chính xác trong nhị phân?

Vì vậy, chúng ta biết rằng các phân số như 0,1, không thể được biểu diễn chính xác trong cơ sở nhị phân, gây ra các vấn đề chính xác (như đã đề cập ở đây: Formatting doubles for output in C#). Và chún

64Nhiệt

7Trả lời

Cách tính chênh lệch theo giờ (thập phân) giữa hai ngày trong SQL Server?

Tôi phải tính chênh lệch theo giờ (loại thập phân) giữa hai ngày trong SQL Server 2008. Tôi không thể tìm thấy bất kỳ kỹ thuật hữu ích nào để chuyển đổi datetime sang thập phân bằng 'CONVERT' trên MSD

7Nhiệt

6Trả lời

Làm thế nào để làm tròn một số thập phân đến phân số gần nhất?

Không chắc đó có phải là cách đúng để hỏi điều này hay không nhưng đây là vấn đề. Với vĩ độ 26.746346081599476, làm cách nào để tìm số 26.75 là số 16 lớn hơn số và 26.6875 làm số 16 thấp hơn số? 26.0

8Nhiệt

2Trả lời

Số nguyên lisp chung để chuyển đổi hex

Có chức năng tương tự với (phân tích cú pháp-số nguyên "ff": radix 16) sẽ đưa tôi trở lại theo cách khác không? Nếu tôi có int 255 làm cách nào để chuyển đổi nó thành chuỗi ff?

155Nhiệt

3Trả lời

Định dạng thập phân cho giá trị phần trăm?

Những gì tôi muốn là một cái gì đó như thế này: String.Format("Value: {0:%%}.", 0.8526) đâu %% là nhà cung cấp định dạng hoặc bất cứ điều gì tôi đang tìm kiếm. Kết quả là: Value: %85.26.. tôi về cơ

10Nhiệt

3Trả lời

Làm cách nào để thay đổi số float của tôi thành hai số thập phân bằng dấu phẩy làm dấu tách dấu thập phân trong python?

Tôi có một phao: 1.2333333 Làm cách nào để thay đổi thành hai số thập phân bằng dấu phẩy làm dấu phân cách dấu thập phân, ví dụ: 1,23?

5Nhiệt

4Trả lời

Thuật toán để chuyển đổi cơ sở dài vô hạn 2^32 thành cơ sở có thể in 10

Tôi đại diện cho một số nguyên vô hạn chính xác dưới dạng một mảng int không dấu để xử lý trên GPU. Đối với mục đích gỡ lỗi, tôi muốn in cơ sở đại diện 10 của một trong những con số này, nhưng đang gặ

5Nhiệt

3Trả lời

M, D có nghĩa là gì trong thập phân (M, D) chính xác?

Có ai biết về điều này không?

27Nhiệt

6Trả lời

Chuyển đổi hex sang float

Làm thế nào để chuyển đổi chuỗi hex sau thành float (độ chính xác đơn 32 bit) bằng Python? "41973333" -> 1.88999996185302734375E1 "41995C29" -> 1.91700000762939453125E1 "470FC614" -> 3.6806078125E

13Nhiệt

7Trả lời

tính toán phao php 2 dấu thập phân

Có một vấn đề tính toán toán học khác một lần nữa. $a = 34.56 $b = 34.55 $a làm một số tính toán để có được con số này $b đang làm tròn gần 0,05 để có được con số này những gì xảy ra là $c = $b -