floating-point-precision

7Nhiệt

6Trả lời

Làm thế nào để chuyển đổi giá trị thả nổi thành số nguyên với độ chính xác chính xác như 123.3443 đến 1233443?

đang mẫu: int main() { float f = 123.542; int i = (int)f; printf("%d\n",i); }

c floating-point type-conversion floating-point-precision 2012-03-10

---

7Nhiệt

3Trả lời

Java - mất tối đa độ chính xác trong một phép cộng/trừ đôi

Có thể thiết lập, thậm chí gần như thế nào, mất chính xác tối đa khi xử lý hai giá trị double trong java (cộng/trừ)? Có lẽ kịch bản trường hợp xấu nhất là khi hai số không thể được biểu diễn chính xác

java double floating-point-precision double-precision 2012-11-20

---

5Nhiệt

4Trả lời

Các bội số của 0,25 chính xác có thể biểu diễn dưới dạng gấp đôi không?

Tôi đã đoạn mã sau cho tứ phân vị tìm: #include <stdio.h> #include <stdlib.h> typedef struct { double qrt[3]; double *value; int count; } t_data; static void set_qrt(t_data *data,

c floating-point-precision 2013-07-30

---

16Nhiệt

3Trả lời

Làm thế nào để an toàn sàn hoặc ceil một CGFloat để int?

Tôi thường cần đặt sàn hoặc trần một số CGFloat đến một số int để tính chỉ mục mảng. Sự cố tôi thấy vĩnh viễn với floorf(theCGFloat) hoặc ceilf(theCGFloat) là có thể có vấn đề với điểm không chính xác

ios math floating-point floating-accuracy floating-point-precision 2012-08-16

---

5Nhiệt

5Trả lời

So sánh dấu chấm động của phép gán liên tục

Khi so sánh gấp đôi cho sự bình đẳng, chúng ta cần đưa ra một mức độ khoan dung, vì tính toán dấu phẩy động có thể đưa ra lỗi. Ví dụ: double x; double y; x = f(); y = g(); if (fabs(x-y)<epsilon)

c++ floating-point floating-point-precision 2012-03-23

---

21Nhiệt

2Trả lời

Nhận số đôi nhỏ nhất tiếp theo

Là một phần của thử nghiệm đơn vị, tôi cần kiểm tra một số điều kiện biên. Một phương thức chấp nhận đối số System.Double. Có cách nào để nhận được giá trị gấp đôi nhỏ nhất tiếp theo không? (ví dụ: gi

c# double ieee-754 floating-point-precision epsilon 2013-03-11

---

16Nhiệt

3Trả lời

sử dụng đúng của std :: cout.precision() - không in trailing số không

Tôi thấy nhiều câu hỏi về số lượng chính xác cho số dấu chấm động nhưng đặc biệt tôi muốn biết tại sao mã này #include <iostream> #include <stdlib.h> int main() { int a = 5; int b = 10;

c++ floating-point-precision 2013-06-27

---

6Nhiệt

6Trả lời

C++ Làm thế nào để tránh dấu chấm động số học lỗi

Tôi viết một vòng lặp đếm tăng lên với một phao, nhưng tôi đã đi qua một vấn đề số học dấu chấm động được minh họa trong ví dụ sau: for(float value = -2.0; value <= 2.0; value += 0.2) std::cout <

c++ floating-point floating-point-precision 2013-02-13

---

14Nhiệt

1Trả lời

Có thể sử dụng số học điểm nổi chính xác mở rộng (80-bit) trong GHC/Haskell không?

Tiêu chuẩn Haskell của Double sử dụng the standard double-precision arithmetic: data Double số dấu chấm động Double-chính xác. Điều mong muốn là loại này ít nhất bằng nhau về phạm vi và độ chính xác đ

haskell floating-point ghc floating-point-precision extended-precision 2013-05-28

---

5Nhiệt

2Trả lời

CHỌN một FLOAT với độ chính xác đã cho

Tôi muốn lưu giá trị của tôi là FLOATS, nhưng khi truy xuất chúng, người dùng có thể chỉ định (và thay đổi khi chạy) bao nhiêu chữ số mà anh muốn xem sau dấu thập phân. Tôi có thể chuyển số đó vào số

mysql floating-point-precision 2012-11-29

---