floating-point

9Nhiệt

2Trả lời

Các số dấu chấm động Java đại diện dưới dạng số thập lục phân

Tại sao 0x1p3 bằng 8.0? Tại sao 0x1e3 bằng 483, trong khi 0x1e3d bằng 7741? Nó gây nhầm lẫn kể từ 1e3d bằng 1000.0.

java floating-point hex 2010-12-28

---

24Nhiệt

3Trả lời

Vòng lặp for-loop vs while trong R

Tôi đã nhận thấy một điều kỳ lạ khi làm việc trong R. Khi tôi có một chương trình đơn giản tính toán các ô từ 1 đến N được thực hiện bằng cách sử dụng vòng lặp và lặp lại hành vi không phải là tương t

r for-loop floating-point while-loop 2010-11-17

---

52Nhiệt

1Trả lời

Trong MATLAB, các biến REALLY có chính xác kép theo mặc định không?

Câu hỏi này nảy sinh ra một cái gì đó kỳ lạ mà tôi nhận thấy sau khi điều tra this question thêm ... tôi luôn luôn hiểu biến MATLAB là double-precision theo mặc định. Vì vậy, nếu tôi được làm một cái

variables matlab floating-point precision 2010-11-19

---

23Nhiệt

4Trả lời

Ngoại lệ điểm nổi C++ Tại sao và nó là gì?

Tôi đang xây dựng một chương trình cho các dự án Euler câu hỏi 3, và trong khi đó có thể không thực sự quan trọng như là kết quả tôi hiện đang cố gắng để làm cho mã này mất một số và kiểm tra nếu nó l

c++ floating-point 2010-11-21

---

19Nhiệt

6Trả lời

Đọc/ghi byte trôi nổi trong JS

Có cách nào tôi có thể đọc byte của giá trị float trong JS không? Những gì tôi cần là viết một giá trị FLOAT hoặc DOUBLE thô thành một số định dạng nhị phân mà tôi cần phải thực hiện, vậy có cách nào

javascript serialization floating-point math ieee-754 2010-12-10

---

5Nhiệt

2Trả lời

SQL gõ 'phao' dữ liệu, khi đầu ra như XML, nguyên nhân kết quả phao không mong muốn

Bạn có thể thử đơn giản: table1: có column1 của loại 'phao' thay vì SELECT column1 from Table1; cho giá trị như đã thấy trong bảng. nói này trả 15,1 Tuy nhiên, nếu bạn cố gắng Select column1 from Tabl

sql-server xml floating-point 2010-11-16

---

52Nhiệt

6Trả lời

Làm cách nào để chuyển đổi số nguyên thành float trong Java?

Tôi có hai số nguyên x và y. Tôi cần tính toán x/y và kết quả là tôi muốn nổi lên. Ví dụ như kết quả của 3/2 Tôi muốn có 1.5. Tôi nghĩ rằng cách đơn giản nhất (hoặc chỉ) để thực hiện là chuyển đổi x v

java integer floating-point 2010-12-07

---

7Nhiệt

4Trả lời

C# Generics: cách sử dụng x.MaxValue/x.MinValue (int, float, double) trong một lớp chung

Tôi đang sử dụng Bộ công cụ mở rộng WPF (http://wpftoolkit.codeplex.com/). Nó có một điều khiển NumericUpDown tốt đẹp mà tôi muốn sử dụng, nhưng nội bộ nó sử dụng đôi - có nghĩa là nó sử dụng double.M

c# generics floating-point int double 2010-12-11

---

6Nhiệt

2Trả lời

Thi đua nổi chính xác đơn trong Javascript (float32)

Có thể nào đó bằng cách nào đó mô phỏng nổi độ chính xác đơn trong Javascript? Theo blog của Doug Crockford "Số là điểm nổi 64 bit", nhưng tôi phải sử dụng duy nhất một thuật toán chuyển C++ để tính t

javascript floating-point emulation 2010-10-31

---

7Nhiệt

1Trả lời

in phao in ada

Tôi muốn in số phao, tôi đang sử dụng gói FLOAT_IO. Có cách nào kiểm soát số chữ số sau dấu chấm và trước dấu chấm?

printing floating-point ada 2010-12-27

---