floating-point

20Nhiệt

8Trả lời

Làm thế nào để so sánh chính xác và tiêu chuẩn phao nổi?

Mỗi lần tôi bắt đầu một dự án mới và khi tôi cần phải so sánh một số float hoặc các biến đôi tôi viết code như thế này: if (fabs(prev.min[i] - cur->min[i]) < 0.000001 && fabs(prev.max[i] - cur->m

c++ floating-point floating-accuracy double-precision 2010-12-28

---

5Nhiệt

4Trả lời

Chuyển đổi từ điểm nổi của IBM sang tiêu chuẩn điểm nổi IEEE và ngược lại trong C#?

Đã tìm kiếm một cách để các số dấu chấm động IEEE với định dạng dấu chấm động của IBM cho một hệ thống cũ mà chúng tôi đang sử dụng. Có một công thức chung chúng ta có thể sử dụng trong C# để kết thúc

c# c floating-point ibm ieee-754 2010-12-28

---

25Nhiệt

4Trả lời

Java: Định dạng Float phụ thuộc vào Locale

Tôi sống ở Bỉ. Và nói chung, trong toán học, chúng tôi viết số thập phân của chúng tôi bằng dấu phẩy như sau: 3,141592 Và đó cũng là kết quả khi tôi định dạng phao. System.out.println(String.format("%

java formatting floating-point locale 2010-12-29

---

5Nhiệt

1Trả lời

trở về một loại phao từ hàm trong c

tôi có mã đơn giản này: int main() { float x = foo(); printf("returned value: %f", x); return 0; } float foo() { return 5; } khi tôi chạy mã, đầu ra là: "trở lại giá trị: -

c floating-point 2011-01-03

---

5Nhiệt

8Trả lời

Lợi ích của việc chấp nhận điểm không chính xác trong C#

Tôi gặp vấn đề này trong đầu của mình là lastfew ngày và tôi đang cố gắng để cụm từ câu hỏi của mình. Tuy nhiên, tôi nghĩ rằng tôi đã đóng đinh những gì tôi muốn biết. Tại sao C# chấp nhận tính không

c# floating-point floating-accuracy 2011-01-05

---

30Nhiệt

4Trả lời

Làm thế nào để chuyển đổi một mảng float thành một byte [] và ngược lại?

Tôi có một mảng của Floats cần phải được chuyển đổi thành một mảng byte và trở lại một float [] ... bất cứ ai có thể giúp tôi làm điều này một cách chính xác? Tôi đang làm việc với lớp bitConverter và

c# .net floating-point bytearray endianness 2011-01-08

---

16Nhiệt

6Trả lời

Python: Chuyển đổi chuỗi thành số thập phân số

tôi có một danh sách python với chuỗi ở định dạng này: A1 = [' "29.0" ',' "65.2" ',' "75.2" '] Làm thế nào để chuyển đổi những chuỗi thành số thập phân để thực hiện phép tính số học trên các yếu tố

python string floating-point decimal 2011-01-10

---

18Nhiệt

1Trả lời

Nếu xử lý tiền trong một phao là xấu, thì tại sao money_format() làm điều đó?

Tôi đã lo lắng về cách xử lý hiển thị tiền tệ và toán học trong PHP, và trong một thời gian dài đã được lưu trữ trong MySQL bằng cách sử dụng loại DECIMAL và sử dụng money_format() để định dạng nó để

php floating-point currency floating-accuracy money-format 2011-01-11

---

12Nhiệt

4Trả lời

Tìm hiểu các vấn đề về dấu phẩy động

Có thể ai đó ở đây vui lòng giúp tôi hiểu cách xác định khi giới hạn điểm động sẽ gây ra lỗi trong các phép tính của bạn. Ví dụ như mã sau đây. CalculateTotalTax = function (TaxRate, TaxFreePrice) {

c# javascript vb.net floating-point 2011-01-12

---

11Nhiệt

5Trả lời

Kiểm tra xem số phao có chứa số thập phân hay không

Làm cách nào để kiểm tra xem số phao có chứa số thập phân như 2.10, 2.45, 12382.66 và không phải là 2.00, 12382.00 hay không. Tôi muốn biết nếu số đó là "tròn" hay không. Làm thế nào tôi có thể làm đi

floating-point decimal 2011-01-12

---