floating-point

16Nhiệt

2Trả lời

Tôi có thể làm cho gcc cho tôi biết khi kết quả tính toán trong NaN hoặc inf khi chạy không?

Có cách nào để yêu cầu gcc ném một SIGFPE hoặc một cái gì đó tương tự để phản hồi lại một phép tính dẫn đến kết quả là NaN hoặc (-)inf khi chạy, giống như cách chia cho số không? Tôi đã thử cờ -fsigna

10Nhiệt

4Trả lời

python số

tôi loại bối rối tại sao python thêm một số số thập phân bổ sung trong trường hợp này nổi, xin vui lòng giúp đỡ để giải thích >>> mylist = ["list item 1", 2, 3.14] >>> print mylist ['list item 1', 2,

11Nhiệt

7Trả lời

Chuyển đổi phao sang char *

Làm cách nào để chuyển đổi giá trị float thành char* trong ngôn ngữ C?

5Nhiệt

3Trả lời

Kiểm tra xác nhận đối với bộ dữ liệu có phao nổi

Tôi có hàm trả về bộ tuple, trong số các giá trị khác có chứa giá trị float. Thông thường tôi sử dụng assertAlmostEquals để so sánh chúng, nhưng điều này không làm việc với bộ dữ liệu. Ngoài ra, tuple

8Nhiệt

3Trả lời

Float32 to Float16

Ai đó có thể giải thích cho tôi cách tôi chuyển đổi giá trị dấu phẩy động 32 bit sang giá trị dấu phẩy động 16 bit không? (s = dấu hiệu e = số mũ và m = mantissa) Nếu 32-bit float là 1s7e24m Và 16-bit

5Nhiệt

3Trả lời

Một câu hỏi nổi khác

Tôi đã đọc hầu hết các bài viết trên đây về điểm nổi và tôi hiểu vấn đề cơ bản khi sử dụng IEEE 754 (và chỉ với bản chất lưu trữ số nhị phân). Tôi đang cố gắng tìm ra những điều sau đây: Nếu cả hai Py

7Nhiệt

3Trả lời

Hành vi biên dịch lạ với các ký tự float và các biến float

Tôi đã nhận thấy một hành vi thú vị với việc làm tròn/cắt phao bằng trình biên dịch C#. Cụ thể, khi một float float nằm ngoài phạm vi biểu diễn được bảo đảm (7 chữ số thập phân), thì a) đúc một kết qu

7Nhiệt

1Trả lời

Tạo sự khác biệt "mờ" của hai tệp trong Python, với so sánh gần đúng của phao nổi

Tôi gặp sự cố khi so sánh hai tệp. Về cơ bản, những gì tôi muốn làm là một diff UNIX-like giữa hai tập tin, ví dụ: $ diff -u trái tập tin phải tập Tuy nhiên hai tập tin của tôi chứa nổi; và bởi vì các

6Nhiệt

3Trả lời

Format độ chính xác gấp đôi trong PostgreSQL

Tôi có một bảng với 3 cột: customer_name varchar ,account_type varchar ,current_balance double precision Ví dụ giá trị cho current_balance: 1200 1500.5 1500 Tôi muốn họ để hiển thị như thế n

8Nhiệt

3Trả lời

Hiệu suất dấu phẩy động 32 bit so với 64 bit

Tôi đã gặp phải vấn đề tò mò. Một thuật toán tôi đang làm việc trên bao gồm rất nhiều tính toán như thế này q = x(0)*y(0)*z(0) + x(1)*y(1)*z(1) + ... nơi chiều dài của tổng là giữa 4 và 7. Các tính