integer-overflow

39Nhiệt

4Trả lời

BigInteger không có giới hạn nghĩa là gì?

Tôi nhìn vào stackoverflow question relating to Big Integer này và đặc biệt là tôi không hiểu dòng này (dòng chữ in nghiêng): Trong lớp BigInteger, Tôi không có giới hạn và có một số chức năng hữu ích

java biginteger integer-overflow 2012-08-23

---

9Nhiệt

3Trả lời

Lý do abs (intmin) ~ = -intmin trong MATLAB

EDU>> intmin ans = -2147483648 EDU>> abs(intmin) ans = 2147483647 Làm cách nào có thể? Phải có một số loại tràn hoặc định nghĩa của các chức năng này được trộn lẫn theo nhữn

matlab integer-overflow 2013-06-30

---

5Nhiệt

2Trả lời

Tại sao dữ liệu số nguyên tràn âm thầm thay vì ném ngoại lệ

Tôi đã học (ít nhất trong java) rằng giá trị nguyên/dài tràn âm thầm và giá trị của chúng bắt đầu từ giá trị tối thiểu trên tràn thay vì ném bất kỳ ngoại lệ nào. Tôi đã sử dụng api bên ngoài cho một s

java integer long-integer integer-overflow 2013-04-14

---

6Nhiệt

3Trả lời

Có thể truy cập đăng ký cờ tràn trong CPU với C++ không?

Sau khi thực hiện thao tác toán học, giả sử nhân hai số nguyên, có thể truy cập đăng ký cờ tràn trong CPU với C++ không? Nếu không phải là những cách nhanh khác để kiểm tra tình trạng tràn là gì?

c++ assembly flags integer-overflow 2013-01-16

---

9Nhiệt

3Trả lời

Clojure - Tính toán với số lớn

Tôi muốn tính !1000 trong clojure, làm cách nào tôi có thể thực hiện việc này mà không nhận được ngoại lệ tràn số nguyên? Mã giai thừa của tôi là ngay bây giờ: (reduce * (range 1 1001)).

clojure overflow integer-overflow 2012-10-10

---

7Nhiệt

4Trả lời

Các số lớn thường trở thành tiêu cực

Vì tôi bắt đầu sử dụng nhật thực cho dự án euler, tôi nhận thấy rằng số lượng lớn đôi khi trở thành một số âm dường như ngẫu nhiên. Tôi cho rằng điều này có liên quan đến việc vượt qua sự boudry của l

java biginteger integer-overflow 2013-06-20

---

10Nhiệt

1Trả lời

Có cách nào an toàn để lấy giá trị tuyệt đối chưa ký của một số nguyên đã ký, mà không kích hoạt tràn không?

Xem xét một hàm giá trị tuyệt đối tiêu biểu (trong đó vì lợi ích của các đối số kiểu không thể thiếu trong kích thước tối đa là dài): unsigned long abs(long input); Một thực hiện ngây thơ của điều n

c++ integer integer-overflow 2013-06-26

---

8Nhiệt

2Trả lời

Tràn khi nhân số nguyên và gán cho Long

Nếu tôi nhập thông tin sau vào cửa sổ ngay lập tức, tôi gặp lỗi Runtime '6': Tràn. MsgBox 24 * 60 * 60 Tại sao điều này? này cũng thất bại: Dim giveTime As Long giveTime = 24 * 60 * 60 Tại sao đi

vba integer-overflow 2013-06-26

---

5Nhiệt

1Trả lời

Triển khai lạ Guava LongMath.checkedAdd

public static long checkedAdd(long a, long b) { long result = a + b; checkNoOverflow((a^b) < 0 | (a^result) >= 0); return result; } Tôi quan tâm đến lý do lôgic logic | được sử dụng

java guava long-integer integer-overflow 2013-08-16

---

8Nhiệt

1Trả lời

R: phép nhân đơn giản gây ra tràn số nguyên

Trong tập lệnh dài hơn, tôi phải nhân chiều dài của vectơ A (2614) với số hàng của một khung dữ liệu B (1456000). Nếu tôi làm điều đó trực tiếp với length(A) * nrow(B) Tôi nhận được thông báo NAs prod

r integer-overflow 2013-07-15

---