티스토리
[Python] 파이썬 부동 소수점 오차 해결 (decimal 모듈 사용법)
출처
https://coding-factory.tistory.com/996
https://coding-factory.tistory.com/996
16일전
2023-11-20 04:08
![[Python] 파이썬 부동 소수점 오차 해결 (decimal 모듈 사용법)](https://img1.daumcdn.net/thumb/R800x0/?scode=mtistory2&fname=https%3A%2F%2Fblog.kakaocdn.net%2Fdn%2FePGhM1%2FbtsAooxwLma%2FiuBNbQdud9dIBtiIhknpm1%2Fimg.png)
컴퓨터는 숫자를 이진법으로 표현하기 때문에
먼저 10진법의 소수를 이진법으로 변환한
뒤 연산을 해야 합니다. 이 과정에서
대부분의 소수는 오차가 발생하게 되는데요.
왜냐하면 십진법의 소수를 2의 음의 제곱으로
이진법으로 변...
더보기
출처
https://coding-factory.tistory.com/996
https://coding-factory.tistory.com/996
16일전
2023-11-20 04:08