precision

53Nhiệt

10Trả lời

Được tăng gấp đôi so với phao nổi trong C#?

Tôi đang viết một ứng dụng đọc các mảng nổi lớn và thực hiện một số thao tác đơn giản với chúng. Tôi đang sử dụng phao nổi, bởi vì tôi nghĩ rằng nó sẽ nhanh hơn gấp đôi, nhưng sau khi thực hiện một số

8Nhiệt

4Trả lời

MATLAB - câu hỏi sàn

Tôi là người mới bắt đầu MATLAB. Đây là vấn đề: >> a = floor(7/2.5) a = 2.00 >> b = rem(7,2.5) b = 2.00 >> c = floor(b/2) c = 0 c phải là 1, phải không? Tại sao nó là

7Nhiệt

4Trả lời

Thuật toán tốt nhất để tránh mất độ chính xác?

Bài tập về nhà gần đây tôi nhận được yêu cầu chúng tôi thực hiện các biểu thức có thể tạo ra sự mất chính xác khi được thực hiện trong máy tính và thay đổi chúng để tránh mất mát này. Thật không may,

6Nhiệt

8Trả lời

mất bất ngờ độ chính xác khi chia đôi

Tôi có một getSlope chức năng mà mất như thông số 4 đôi và trả về một đôi tính toán sử dụng này thông số được đưa ra trong các cách sau: double QSweep::getSlope(double a, double b, double c, double d)

7Nhiệt

7Trả lời

Tại sao trật tự ảnh hưởng đến làm tròn khi thêm nhiều đôi trong C#

xem xét mã # C sau: double result1 = 1.0 + 1.1 + 1.2; double result2 = 1.2 + 1.0 + 1.1; if (result1 == result2) { ... } result1 nên luôn bằng result2 phải không? Vấn đề là, nó không. resul

5Nhiệt

5Trả lời

Làm thế nào để sử dụng "% f" để cư một giá trị tăng gấp đôi vào một chuỗi với độ chính xác đúng

tôi đang cố gắng để cư một chuỗi với một giá trị double sử dụng một sprintf như thế này: sprintf(S, "%f", val); Nhưng chính xác là bị cắt tới sáu chữ số thập phân. Tôi cần khoảng 10 chữ số thập phân

5Nhiệt

3Trả lời

Floating Point Hạn chế

Mã của tôi: a = '2.3' tôi muốn hiển thị a như một giá trị dấu chấm động. Kể từ a là một chuỗi, tôi đã cố gắng: float(a) Kết quả tôi nhận được: 2.2999999999999998 Tôi muốn có một giải pháp cho vấ

18Nhiệt

5Trả lời

Thư viện số lớn (hoặc được hỗ trợ tốt nhất) chuẩn (hoặc chính xác nhất) cho Lua là gì?

Tôi đang làm việc với số lượng lớn mà tôi không thể làm tròn. Sử dụng thư viện toán học chuẩn của Lua, dường như không có cách nào thuận tiện để bảo vệ độ chính xác vượt qua một số giới hạn bên trong.

15Nhiệt

7Trả lời

Đảm bảo C++ đôi là 64 bit

Trong chương trình C++ của tôi, tôi cần kéo một float 64 bit từ một chuỗi byte bên ngoài. Có cách nào để đảm bảo, tại thời gian biên dịch, mà đôi là 64 bit? Có một số loại khác tôi nên sử dụng để lưu