이진법에서의 0.1 무한소수 오류, 간단한 십진법 이진법 설명

0.1

십진법에서는 딱 떨어지는 수인데 이진법에서는 무한소수가 됨
>>>>> 컴퓨터에 입력 시 무한히 연산하면서 오차가 조금씩 계속 남 ::: 결과값 오류남 
무한소수(끝없는 소수), 순환소수 들이 오류를 일으킴
0.1 + 1.1 == 1.2 는 파이썬에서 False 나옴  

10진법 표현의 다양성
0.00123 = 0.0123 * 10의 -1승 = 0.000123 * 10의 1승 = 1.23*10의 -3승

이진법의 경우  
0.1 = 0.01 * 2의 1승 = 1.0 * 2의 -1승

정수 자리에 숫자 하나만 오게 하는 것을 과학적 표기법이라고 한다. 
이진법 수 0.11 = 1.1*2 (과학적 표기: 이 정보를 집어넣는 게 편리하다는)
과학적 표기에서는 최대한 정확하게 표기하기 위해서 
정수 부분, 실수 부분, 몇 승 정보량을 저장한다. 

인공지능을 하게 되면 엄청난 소숫점 숫자가 나올 수 있다. 
1.1*10(-10승) == 1.1E - 10 

컴퓨터에는 8바이트(64bit)의 플로트형 정보를 입력하기로 했다. 
4bite(32bit) 쓸 때 정확도가 떨어져서 8bite(64bit)로 올림. 

컴퓨터 사이언스 기본이다. (기본개념을 조금씩 더 탑재해 보자)

 

 

컴퓨터에서의 실수 표현 방식 : 실수를 float sum 했을 때 오차 확연히 보임..

1. 고정 소수점 방식

2. 부동 소수점 방식 

http://www.tcpschool.com/c/c_refer_floatingPointNumber

코딩교육 티씨피스쿨