floating-point

11Nhiệt

3Trả lời

Điểm nổi bật xác định và .NET

Làm cách nào để đảm bảo rằng các phép tính dấu chấm động trong một ứng dụng .NET (nói trong C#) luôn tạo ra cùng một kết quả chính xác bit? Đặc biệt khi sử dụng các phiên bản .NET khác nhau và chạy tr

floating-point multiplayer deterministic real-time-strategy 2010-03-04

---

6Nhiệt

2Trả lời

Tại sao tốc độ của bộ giải SOR này phụ thuộc vào đầu vào?

Liên quan đến số other question của tôi, bây giờ tôi đã sửa đổi bộ giải mã ma trận thưa thớt để sử dụng phương pháp SOR (Kế thừa thư giãn). Mã bây giờ được như sau: void SORSolver::step() { float

c++ optimization floating-point sparse-matrix 2010-03-06

---

18Nhiệt

7Trả lời

Tại sao (int) (33.46639 * 1000000) trả lại 33466389?

(int)(33.46639 * 1000000) trả về 33466389 Tại sao điều này xảy ra?

c# floating-point floating-accuracy multiplication 2010-03-11

---

11Nhiệt

5Trả lời

Làm thế nào để kiểm tra kết quả nổi với doctest?

Tôi đang phát triển một chương trình làm cho một số tính toán điểm nổi. Có cách nào để kiểm tra các chức năng của tôi (cung cấp các phao) với doctests không?

python unit-testing floating-point doctest 2010-03-11

---

100Nhiệt

14Trả lời

Định dạng phao nổi trong Python mà không cần các số thừa thừa

Làm thế nào để định dạng một phao để nó không làm mờ các số 0? Nói cách khác, tôi muốn chuỗi kết quả càng ngắn càng tốt ..? Giống như: 3 -> "3" 3. -> "3" 3.0 -> "3" 3.1 -> "3.1" 3.14 -> "3.14" 3.

python formatting floating-point pretty-print 2010-03-14

---

63Nhiệt

4Trả lời

Chuyển đổi chuỗi thành số nguyên/phao trong Haskell?

data GroceryItem = CartItem ItemName Price Quantity | StockItem ItemName Price Quantity makeGroceryItem :: String -> Float -> Int -> GroceryItem makeGroceryItem name price quantity = CartItem name

haskell floating-point int 2010-03-18

---

5Nhiệt

4Trả lời

Biểu diễn văn bản chính xác của IEEE "đôi"

Tôi cần đại diện cho số điểm nổi kép kép (75 bit) IEEE 754-1985 ở dạng văn bản có thể đọc được bằng con người, với điều kiện biểu mẫu văn bản có thể được phân tích ngược lại chính xác cùng một số (bit

floating-point floating-accuracy ieee-754 2010-03-19

---

32Nhiệt

2Trả lời

Các số 0 đứng đầu khi in nổi bằng printf?

Tôi muốn có thể viết chuỗi thời gian giống như sau: 1:04:02.1 hours bằng printf. Khi tôi cố gắng viết một cái gì đó như thế này: printf("%d:%02d:%02.1f hours\n", 1, 4, 2.123456); tôi nhận được: 1:04

c++ c floating-point formatting printf 2010-03-21

---

23Nhiệt

6Trả lời

Tránh các giá trị bất thường trong C++

Sau khi tìm kiếm một lỗi thời gian dài, tôi đọc về các giá trị dấu phẩy động bất thường. Rõ ràng denormalized giá trị dấu chấm động có thể là một mối quan tâm thực hiện chính như được minh họa trong c

c++ floating-point performance 2010-03-21

---

8Nhiệt

3Trả lời

fpstrict làm gì trong Java?

Tôi đọc số JVM specification for the fpstrict modifier nhưng vẫn không hiểu rõ ý nghĩa của nó. Ai đó có thể khai sáng cho tôi không?

java floating-point 2010-03-24

---