-
이진법에서의 0.1 무한소수 오류, 간단한 십진법 이진법 설명2023.05.29
0.1 십진법에서는 딱 떨어지는 수인데 이진법에서는 무한소수가 됨 >>>>> 컴퓨터에 입력 시 무한히 연산하면서 오차가 조금씩 계속 남 ::: 결과값 오류남 무한소수(끝없는 소수), 순환소수 들이 오류를 일으킴 0.1 + 1.1 == 1.2 는 파이썬에서 False 나옴 10진법 표현의 다양성 0.00123 = 0.0123 * 10의 -1승 = 0.000123 * 10의 1승 = 1.23*10의 -3승 이진법의 경우 0.1 = 0.01 * 2의 1승 = 1.0 * 2의 -1승 정수 자리에 숫자 하나만 오게 하는 것을 과학적 표기법이라고 한다. 이진법 수 0.11 = 1.1*2 (과학적 표기: 이 정보를 집어넣는 게 편리하다는) 과학적 표기에서는 최대한 정확하게 표기하기 위해서 정수 부분, 실수 부분, 몇..