floating-point

5Nhiệt

2Trả lời

C# - Có thư viện toán học nổi 32 bit không?

Tôi đang lên kế hoạch thực hiện dự án tiếp theo của mình trong C# thay vì C++ (sử dụng SlimDX). Tất cả directX sử dụng phao, tuy nhiên System.Math sử dụng gấp đôi. Điều này có nghĩa là liên tục chuyển

c# math floating-point 2008-10-13

---

31Nhiệt

6Trả lời

Sử dụng NaN trong C++?

Cách tốt nhất để sử dụng NaN trong C++ là gì? Tôi tìm thấy std::numeric_limits<double>::quiet_NaN() và std::numeric_limits<double>::signaling_NaN(). Tôi muốn sử dụng signaling_NaN để đại diện cho một

c++ floating-point nan 2008-10-24

---

7Nhiệt

4Trả lời

Làm thế nào để sử dụng std :: signaling_nan?

Sau khi xem xét một câu hỏi khác trên SO (Using NaN in C++), tôi đã trở nên tò mò về std::numeric_limits<double>::signaling_NaN(). Tôi không thể nhận tín hiệu_NaN để ném ngoại lệ. Tôi nghĩ có lẽ bởi t

c++ visual-c++ floating-point nan 2008-10-25

---

7Nhiệt

7Trả lời

Làm thế nào để kiểm tra xem một đôi có nhiều nhất n chữ số thập phân?

Hiện nay tôi có phương pháp này: static boolean checkDecimalPlaces(double d, int decimalPlaces){ if (d==0) return true; double multiplier = Math.pow(10, decimalPlaces); double check =

java floating-point decimal 2008-11-05

---

7Nhiệt

5Trả lời

Chuyển đổi ngoại lệ dấu phẩy động thành ngoại lệ C++

Có thể chuyển đổi ngoại lệ dấu chấm động (tín hiệu) thành ngoại lệ C++ trên x86 Linux không? Đây là mục đích gỡ lỗi, vì vậy không thể di chuyển và không hoàn hảo là không sao (ví dụ: nếu không đảm bảo

c++ exception floating-point signals 2008-09-17

---

12Nhiệt

6Trả lời

Độ chính xác cao/kép ở chế độ gỡ lỗi/giải phóng

Hoạt động của điểm nổi C# /. NET có khác biệt chính xác giữa chế độ gỡ lỗi và chế độ phát hành không?

c# .net floating-point 2008-09-18

---

5Nhiệt

3Trả lời

SQL server 2005 mất chính xác số

Gỡ lỗi một số mã SQL liên quan đến tài chính đã tìm thấy một vấn đề lạ với độ chính xác toán học số (24,8). Chạy truy vấn sau đây trên MSSQL của bạn, bạn sẽ nhận được một kết quả biểu hiện * C + B để

sql-server floating-point type-conversion casting floating-accuracy 2008-09-24

---

6Nhiệt

9Trả lời

Giá trị float hoạt động khác nhau trên bản phát hành và gỡ lỗi xây dựng

Ứng dụng của tôi đang tạo ra các giá trị điểm nổi khác nhau khi tôi biên dịch nó ở chế độ phát hành và ở chế độ gỡ lỗi. Lý do duy nhất mà tôi phát hiện ra là tôi lưu nhật ký theo dõi nhị phân và bản g

c++ c debugging compiler-construction floating-point 2008-09-26

---

53Nhiệt

10Trả lời

Được tăng gấp đôi so với phao nổi trong C#?

Tôi đang viết một ứng dụng đọc các mảng nổi lớn và thực hiện một số thao tác đơn giản với chúng. Tôi đang sử dụng phao nổi, bởi vì tôi nghĩ rằng nó sẽ nhanh hơn gấp đôi, nhưng sau khi thực hiện một số

c# performance floating-point precision 2008-10-01

---

22Nhiệt

7Trả lời

Khi nào sử dụng Fixed Point vào những ngày này

Để tăng cường số lượng crunching, tôi đang xem xét sử dụng điểm cố định thay vì dấu phẩy động. Tất nhiên nó sẽ quan trọng bao nhiêu byte loại điểm cố định là kích thước, trên những gì CPU nó sẽ được c

optimization floating-point performance numerical fixed-point 2008-10-05

---