floating-accuracy

11Nhiệt

7Trả lời

Tính bình đẳng và dung sai dấu chấm động

So sánh hai số dấu phẩy động với một số thứ như a_float == b_float đang tìm kiếm sự cố vì a_float/3.0 * 3.0 có thể không bằng a_float do lỗi vòng. Điều thường làm là một cái gì đó như fabs(a_float - b

c++ c floating-point floating-accuracy 2013-07-01

---

6Nhiệt

1Trả lời

Cách hiệu quả nhất để chạy mô phỏng đa nền tảng, xác định trong Haskell là gì?

Mục tiêu của tôi là chạy mô phỏng yêu cầu các số không tách rời trên các máy khác nhau có thể có kiến ​​trúc và hệ điều hành CPU khác nhau. Ưu tiên chính là cho cùng trạng thái ban đầu, mỗi máy nên tá

performance haskell floating-point floating-accuracy 2013-05-14

---

9Nhiệt

2Trả lời

Các hoạt động của FP có cho kết quả tương tự trên các CPU x86 khác nhau không?

Thực hiện các CPU x86 khác nhau (với FPU tích hợp và gần đây hợp lý, cho ra đời millenium này) sản xuất chính xác kết quả tương tự cho các dấu phẩy động nổi của chúng, giả sử cùng một lệnh trên các CP

x86 floating-accuracy 2012-10-27

---

16Nhiệt

3Trả lời

Tại sao GDB đánh giá số học dấu phẩy động khác với C++?

Tôi đã gặp phải một chút gì đó khó hiểu khi cố giải quyết vấn đề số học dấu chấm động. Đầu tiên, mã. Tôi đã cất bản chất của vấn đề của tôi vào ví dụ này: #include <iostream> #include <iomanip> usi

c++ floating-point gdb floating-accuracy 2012-11-12

---

8Nhiệt

3Trả lời

Số mũ lũy thừa trong OCaml

Có hàm số mũ lũy thừa số nguyên trong OCaml không? ** chỉ dành cho phao. Mặc dù nó có vẻ là chủ yếu là chính xác, không phải là có một khả năng lỗi chính xác, một cái gì đó giống như 2. ** 3. = 8. trở

integer ocaml floating-accuracy exponentiation 2013-06-05

---

5Nhiệt

5Trả lời

Java - Thay thế nhanh hơn cho Math.pow() và Math.sqrt()

Chương trình của tôi sử dụng Math.pow() để tính số lượng gấp đôi tương đối lớn với sức mạnh của 2. Sau đó, tôi cần tìm căn bậc hai của một đôi rất lớn con số. Vấn đề là, tôi phải làm điều này hơn 100.

java function math floating-accuracy pow 2013-02-27

---

8Nhiệt

4Trả lời

Math.pow lấy một giá trị số nguyên

Từ http://msdn.microsoft.com/en-us/library/system.math.pow.aspx int value = 2; for (int power = 0; power <= 32; power++) Console.WriteLine("{0}^{1} = {2:N0}", value, power, (long) Math

c# floating-accuracy pow 2012-06-25

---

16Nhiệt

3Trả lời

Làm thế nào để an toàn sàn hoặc ceil một CGFloat để int?

Tôi thường cần đặt sàn hoặc trần một số CGFloat đến một số int để tính chỉ mục mảng. Sự cố tôi thấy vĩnh viễn với floorf(theCGFloat) hoặc ceilf(theCGFloat) là có thể có vấn đề với điểm không chính xác

ios math floating-point floating-accuracy floating-point-precision 2012-08-16

---

9Nhiệt

7Trả lời

Trong C và Objective-C, những gì thực sự là đúng cách để cắt ngắn một phao hoặc đôi để một số nguyên?

tôi làm việc chủ yếu với số nguyên trước đây, và trong những tình huống mà tôi cần phải cắt xén một float hay double thành một số nguyên, tôi sẽ sử dụng sau đây trước: (int) someValue trừ cho đến kh

objective-c c floating-point floating-accuracy 2012-06-28

---

5Nhiệt

5Trả lời

Cắt một đôi thành phao trong C

Đây là một câu hỏi rất đơn giản, nhưng là một câu hỏi quan trọng vì nó ảnh hưởng rất lớn đến toàn bộ dự án của tôi. Giả sử tôi có snipet mã sau: unsigned int x = 0xffffffff; float f = (float)((double

c floating-point double precision floating-accuracy 2013-08-06

---