floating-accuracy

5Nhiệt

4Trả lời

Tôi không sử dụng Tcl trong công việc hàng ngày của mình. Tuy nhiên, tôi có một đồng nghiệp thỉnh thoảng tương tác với một khách hàng mong muốn ngôn ngữ mở rộng của công cụ chúng tôi hoạt động giống n

23Nhiệt

3Trả lời

Làm thế nào để Java String.format với độ chính xác biến?

Tôi muốn thay đổi độ chính xác của biểu diễn kép trong chuỗi Tôi đang định dạng dựa trên đầu vào của người dùng. Ngay bây giờ tôi đang cố gắng một cái gì đó như: String foo = String.format("%.*f\n", p

6Nhiệt

3Trả lời

Có thể tính điểm nổi khác nhau trên các bộ vi xử lý khác nhau không? (+ chuyển đôi giữa C# và C)

Tôi có một ứng dụng được viết bằng C# cũng gọi một số mã C. Mã C# nhận được một số gấp đôi làm đầu vào, thực hiện một số phép tính trên nó, chuyển nó tới lớp gốc để thực hiện các phép tính riêng của n

6Nhiệt

2Trả lời

jQuery và dài int id

tôi đã phải đối mặt với một vấn đề tiếp theo: Trong cơ sở dữ liệu của chúng tôi, chúng tôi có các đối tượng với id, như 4040956363970588323. Tôi đang viết một số client-wizard trên jQuery để tương tác

8Nhiệt

7Trả lời

Tại sao ghci nói rằng 1,1 + 1,1 + 1,1> 3,3 là đúng?

Tôi đã trải qua một hướng dẫn Haskell gần đây và nhận thấy hành vi này khi cố gắng một số biểu thức đơn giản Haskell trong tương tác ghci shell: Prelude> 1.1 + 1.1 == 2.2 True Prelude> 1.1 + 1.1 + 1

5Nhiệt

10Trả lời

For-loop in C++ sử dụng double break out một bước sớm, giá trị biên không đạt đến

Tôi có một chương trình C++ đơn giản được biên dịch bằng gcc 4.2.4 trên Ubuntu 8.04 32 bit. Nó có một biến số for trong đó biến số double được tăng từ 0 lên một với một kích thước bước nhất định. Khi

18Nhiệt

7Trả lời

Tại sao (int) (33.46639 * 1000000) trả lại 33466389?

(int)(33.46639 * 1000000) trả về 33466389 Tại sao điều này xảy ra?

13Nhiệt

5Trả lời

Làm cách nào để đặt độ chính xác của dấu chấm động trong Perl?

Có cách nào để thiết lập chính xác điểm nổi của tập lệnh Perl (thành 3 chữ số), mà không phải thay đổi nó cụ thể cho mỗi biến không? Something tương tự như TCL: global tcl_precision set tcl_precision

5Nhiệt

4Trả lời

Biểu diễn văn bản chính xác của IEEE "đôi"

Tôi cần đại diện cho số điểm nổi kép kép (75 bit) IEEE 754-1985 ở dạng văn bản có thể đọc được bằng con người, với điều kiện biểu mẫu văn bản có thể được phân tích ngược lại chính xác cùng một số (bit

38Nhiệt

6Trả lời

số lớn sai lầm làm tròn trong Javascript

Xem mã này: <html> <head> <script src="http://www.json.org/json2.js" type="text/javascript"></script> <script type="text/javascript"> var jsonString = '{"id":714341252076979033,"type":"FUZZ