double-precision

10Nhiệt

3Trả lời

Tại sao tính toán vòng bi này lại không chính xác?

Thậm chí là không chính xác? Tôi đã nói lại toàn bộ điều đó với độ chính xác tùy ý của Apfloat và nó không tạo ra sự khác biệt nào mà tôi nên biết bắt đầu với !! public static double bearing(LatLng la

java gis precision double-precision 2010-02-09

---

6Nhiệt

3Trả lời

Độ chính xác của phép nhân đôi chính xác trong java?

Độ chính xác được đảm bảo của toán tử nhân cho giá trị kép trong java là bao nhiêu? Ví dụ: 2.2 * 100 là 220.00000000000003, nhưng 220 là số kép. 220,00000000000003 là đôi tiếp theo sau khi 220.

java floating-point multiplication double-precision 2011-06-23

---

29Nhiệt

2Trả lời

JavaScript có độ chính xác số dấu chấm động kép không?

Tôi biết đó là một câu hỏi kỳ lạ, nhưng JavaScript có khả năng làm việc với gấp đôi so với các phao đơn không? (64 bit nổi so với 32 bit.)

javascript floating-point numerical double-precision 2010-08-31

---

5Nhiệt

2Trả lời

Fortran có những giới hạn cố hữu về tính chính xác về số so với các ngôn ngữ khác không?

Trong khi làm việc trên một bài tập lập trình đơn giản, tôi tạo ra một vòng lặp while (vòng lặp DO trong Fortran) có nghĩa là để thoát ra khi một biến thực đã đạt đến một giá trị chính xác. Tôi nhận t

perl fortran floating-accuracy double-precision 2010-07-26

---

17Nhiệt

4Trả lời

Mô phỏng xé đôi trong C#

Tôi đang chạy trên máy 32 bit và tôi có thể xác nhận rằng các giá trị dài có thể xé bằng đoạn mã sau đây truy cập rất nhanh. static void TestTearingLong() { System.Threading.Thread A = n

c# .net multithreading atomicity double-precision 2012-01-25

---

7Nhiệt

3Trả lời

Java - mất tối đa độ chính xác trong một phép cộng/trừ đôi

Có thể thiết lập, thậm chí gần như thế nào, mất chính xác tối đa khi xử lý hai giá trị double trong java (cộng/trừ)? Có lẽ kịch bản trường hợp xấu nhất là khi hai số không thể được biểu diễn chính xác

java double floating-point-precision double-precision 2012-11-20

---

20Nhiệt

8Trả lời

Làm thế nào để so sánh chính xác và tiêu chuẩn phao nổi?

Mỗi lần tôi bắt đầu một dự án mới và khi tôi cần phải so sánh một số float hoặc các biến đôi tôi viết code như thế này: if (fabs(prev.min[i] - cur->min[i]) < 0.000001 && fabs(prev.max[i] - cur->m

c++ floating-point floating-accuracy double-precision 2010-12-28

---

68Nhiệt

11Trả lời

Tôi có nên sử dụng đôi hoặc nổi không?

Những ưu điểm và nhược điểm của việc sử dụng cái nào thay vì cái khác trong C++?

c++ types floating-point double-precision 2009-07-02

---

7Nhiệt

6Trả lời

Làm thế nào tôi có thể 'cắt' một C# gấp đôi giá trị nó sẽ được lưu trữ như trong cơ sở dữ liệu sqlite?

Tôi nhận thấy rằng khi tôi lưu trữ một giá trị kép, ví dụ: x = 0.56657011973046234 trong cơ sở dữ liệu sqlite và sau đó truy xuất nó sau, tôi nhận được y = 0.56657011973046201. Theo số sqlite spec và

c# sqlite floating-accuracy double-precision 2010-11-17

---